Alle Depeschen

DepescheRecht & Politik

Kalifornien lässt eine Not-Abschaltung für KI-Modelle prüfen

Gouverneur Gavin Newsom hat am 18. September 2026 eine Verfügung unterzeichnet, die Kaliforniens KI-Sicherheitsrecht verschärfen soll. Eine Expertenrunde soll binnen zwei Monaten Empfehlungen vorlegen; geprüft werden unter anderem eine Not-Abschaltung für die leistungsfähigsten Modelle und unabhängige Prüfer, die dauerhaft in den Laboren sitzen.

Aussagen gegen die Quellen geprüft · 18. September 2026

Die Verfügung beauftragt die Government Operations Agency, die Umsetzungsfristen der beiden 2026 unterzeichneten Gesetze SB 813 und AB 1405 zu beschleunigen und gemeinsam mit dem Office of Emergency Services Fachleute zusammenzuholen. Deren Leitfaden zur Verschärfung der kalifornischen KI-Sicherheitsgesetze soll binnen zwei Monaten vorliegen. Newsom begründet das Tempo damit, man warte nicht ab, sondern beschleunige die Arbeit an einer belastbaren Aufsicht, bevor es zu spät sei.

Drei Vorschläge nennt die Mitteilung ausdrücklich. Frontier-Unternehmen – gemeint sind die Anbieter der jeweils leistungsfähigsten Modelle – sollen eine benannte unabhängige Prüforganisation dauerhaft im eigenen Labor aufnehmen, die dort regelmäßig prüft und evaluiert. Sie sollen eine Not-Abschaltung für diese Modelle entwickeln, deren Wirksamkeit laufend von einer unabhängigen Stelle bestätigt wird. Und die Definition kritischer Sicherheitsvorfälle soll Fälle von Kontrollverlust einschließen.

Kalifornien hatte bereits 2025 das Transparenzgesetz SB 53 für Frontier-Modelle in Kraft gesetzt; AB 1405 richtet ein staatliches Register für KI-Prüfer samt Unabhängigkeits- und Transparenzstandards ein. Laut Fox Business zieht die Verfügung den Start dieses Registers und des zugehörigen Aufsichtsprogramms von Januar 2029 auf Dezember 2027 vor. Was „Not-Abschaltung“ konkret heißt, ließ Newsom laut demselben Bericht offen: Der Begriff bedeute je nach Gesprächspartner Verschiedenes.

Auf Bundesebene liegt seit dem 23. Juli 2026 der überparteiliche AI Kill Switch Act vor, der Entwicklern Drossel- und Abschaltmöglichkeiten abverlangen würde; verabschiedet ist er nicht. Newsom verweist darauf, dass es weiterhin kein umfassendes Bundesgesetz gebe, das KI-Unternehmen zur Meldung gefährlicher Vorfälle verpflichte.