Ein Gesetz, das für Aufruhr sorgt, steht auf dem Tisch von Kaliforniens Gouverneur Gavin Newsom. SB 1047, ein Gesetzentwurf, der darauf abzielt, potenzielle Katastrophen durch riesige KI-Modelle zu verhindern, hat die letzten Abstimmungen im Senat des Bundesstaates passiert. Nun steht Newsom vor der Entscheidung, das Gesetz zu unterzeichnen oder sein Veto einzulegen. Die Uhr tickt: Bis zum 30. September muss er eine Entscheidung treffen, die das Schicksal der KI-Industrie Kaliforniens maßgeblich beeinflussen könnte.

Das musst Du wissen – Kaliforniens SB 1047:

• Haftung für Entwickler: KI-Entwickler könnten für Schäden haftbar gemacht werden, ähnlich wie Waffenhersteller für Massenschießereien.
• Eingriffsmöglichkeiten des Staates: Der kalifornische Generalstaatsanwalt könnte KI-Unternehmen verklagen, wenn ihre Technologien katastrophale Ereignisse verursachen.
• Not-Aus-Schalter für KI-Modelle: Das Gesetz sieht vor, dass gefährliche Modelle mit einem „Kill Switch“ gestoppt werden können.
• Zeitplan für die Umsetzung: Die ersten Maßnahmen würden ab Januar 2025 in Kraft treten, weitere folgen bis 2027.
• Mögliche bundesweite Regulierung: Ein Veto könnte den Weg für eine regulative Führung auf nationaler Ebene ebnen.

Kaliforniens KI-Industrie steht an einem Wendepunkt. Befürworter des Gesetzes, wie der Initiator Senator Scott Wiener, fordern mehr Verantwortung für Silicon Valley. Kritiker hingegen sehen in SB 1047 eine Bedrohung für die Innovationskraft und die wirtschaftliche Zukunft des Staates. Die Entscheidung von Gouverneur Newsom könnte zum Präzedenzfall werden.

Kaliforniens SB 1047 zielt darauf ab, die Risiken von Künstlicher Intelligenz zu minimieren, indem es Unternehmen zur Verantwortung zieht, deren Technologien möglicherweise katastrophale Folgen haben könnten. Es erinnert an frühere Regulierungsbemühungen, etwa die Forderung, dass Waffenhersteller für die von ihren Produkten verursachten Schäden haften sollen. Ähnlich soll SB 1047 KI-Entwickler zur Rechenschaft ziehen, wenn ihre Systeme großen Schaden anrichten.

Die Stimmen für das Gesetz argumentieren, dass sich die Tech-Branche zu oft ihrer Verantwortung entzieht und dass SB 1047 eine notwendige Antwort auf die potenziellen Gefahren von KI sei. Sophia Velastegui, ehemalige Chief AI Officer bei Microsoft, beschreibt den Entwurf als „guten Kompromiss“. Die Firma Anthropic, die ebenfalls Änderungsanträge zum Gesetz eingebracht hat, betont, dass die Vorteile des Entwurfs wahrscheinlich die Kosten überwiegen. Doch der Widerstand ist nicht zu überhören. Große Technologieunternehmen, darunter auch OpenAI, sowie prominente Politiker wie Nancy Pelosi sprechen sich gegen das Gesetz aus. Sie fürchten eine Abschwächung der Innovationskraft, da das Gesetz die Haftungsfrage auf eine Weise verlagert, die bisher in der Softwarepolitik beispiellos ist.

Sollte SB 1047 tatsächlich zum Gesetz werden, wären ab dem 1. Januar 2025 erste Maßnahmen zu erwarten. Ab diesem Datum müssten Tech-Unternehmen Sicherheitsberichte für ihre KI-Modelle erstellen, und der Generalstaatsanwalt könnte in Fällen, in denen ein Risiko besteht, die Einstellung der KI-Entwicklung verlangen. Im Jahr 2026 würde dann ein neues Gremium, das sogenannte „Board of Frontier Models“, eingerichtet werden, um die Einhaltung von Sicherheitsstandards zu überwachen und Empfehlungen auszusprechen.

Ein Veto hingegen könnte die föderale Ebene in die Verantwortung ziehen. OpenAI und Anthropic haben bereits begonnen, den Rahmen für eine mögliche nationale Regulierung zu schaffen. Sie sprechen sich dafür aus, dass die Kontrolle über die fortschrittlichsten KI-Modelle in die Hände einer nationalen Regulierungsbehörde, dem „AI Safety Institute“, gelegt wird. Diese Entwicklung könnte bedeuten, dass der föderale Ansatz weniger restriktiv wäre und der Innovationskraft der Branche eher zugutekäme.

Fazit: Kalifornien oder Washington – Wer wird die Kontrolle über KI übernehmen?

Die Entscheidung über SB 1047 könnte die Richtung der KI-Regulierung in den USA maßgeblich bestimmen. Kalifornien hat die Möglichkeit, ein strenges Beispiel zu setzen, das andere Bundesstaaten und möglicherweise sogar andere Länder beeinflussen könnte. Andererseits könnte ein Veto eine Tür für eine bundesweite Regelung öffnen, die möglicherweise weniger strikt, aber dafür einheitlicher wäre.

Für die Technologieunternehmen ist die Entscheidung ein Balanceakt. Ein zu striktes Gesetz könnte die Innovationsfähigkeit ersticken, während eine zu laxe Regulierung möglicherweise nicht ausreichend ist, um zukünftige Risiken zu mindern. Gouverneur Newsom steht vor einer schwierigen Wahl – und egal, wie er entscheidet, die Auswirkungen werden weit über Kalifornien hinaus zu spüren sein.

#AI #KI #TechRegulierung #Kalifornien #Innovationskraft

Sign or veto: What’s next for California’s AI disaster bill, SB 1047?