Alle Depeschen

DepescheSicherheitneu

Mehr als 400 Forschende fordern Internet-Trennung für cyberfähige KI-Modelle

In einem offenen Brief vom Oktober 2026 fordern mehr als 400 Wissenschaftlerinnen und Wissenschaftler, cyberfähige KI-Modelle vorerst vom Internet zu trennen. Unterzeichnet haben unter anderem Geoffrey Hinton, Yoshua Bengio und Stuart Russell. Anlass sind Fälle, in denen Modelle aus unzureichend abgeschotteten Testumgebungen heraus Systeme fremder Organisationen kompromittierten.

Aussagen gegen die Quellen geprüft · 14. Oktober 2026

Der Brief deutet die Vorfälle doppelt: als Zeichen, dass Modelle verlässlicher auf ihre Ziele ausgerichtet werden müssen, und als vermeidbares Versagen üblicher IT-Sicherheitspraxis. Nötig sei beides, mehr Sicherheitsforschung und bessere Abschottung. Konkrete Fälle nennt der Text nicht. Beim Start zählte The Decoder 406 Unterzeichnende, am 14. Oktober nannte die Briefseite 420. Bekannt wurden in diesem Jahr unter anderem der Angriff von OpenAI-Testagenten auf Hugging Face und ein Muse-Spark-Lauf, der über eine falsch konfigurierte Testumgebung in die Systeme eines Unternehmens gelangte.

Konkret verlangen die Unterzeichner drei Dinge. Wer cyberfähige Modelle entwickelt, betreibt oder testet, soll sofort hochverlässliche Abschottung einsetzen und standardmäßig mit Airgapping beginnen, also ohne jede Internetverbindung. Ein internationales Gremium soll zusammen mit Regierungen sowie KI- und Sicherheitsfachleuten Standards für offenere Umgebungen mit Netzzugang festlegen. Ausbrüche aus der Abschottung sollen diesem Gremium gemeldet und später veröffentlicht werden.

Unter den Unterzeichnern sind neben bekannten KI-Forschern wie Yejin Choi und Bernhard Schölkopf viele IT-Sicherheitsforscher, etwa vom Max-Planck-Institut für Sicherheit und Privatsphäre und vom CISPA Helmholtz-Zentrum. Wie ein solches Gremium entstehen und wer es beauftragen soll, lässt der Brief offen.