Alle Depeschen

DepescheRecht & Politik

Bund will KI-Sicherheitsprojekt LawZero mit 100 Millionen Euro fördern

Deutschland und Kanada wollen LawZero, die gemeinnützige KI-Sicherheitsorganisation des Turing-Preisträgers Yoshua Bengio, mit zusammen bis zu 300 Millionen kanadischen Dollar fördern. Deutschland plant rund 100 Millionen Euro ein, Kanada 150 Millionen kanadische Dollar. Das gaben Bundesdigitalminister Karsten Wildberger und sein kanadischer Amtskollege Evan Solomon am 16. September 2026 in Montréal bekannt.

Aussagen gegen die Quellen geprüft · 17. September 2026

Gefördert wird „Scientist AI“. Anders als heutige Spitzensysteme, die als Agenten eigenständig handeln und eigene Ziele verfolgen, soll das System nach Darstellung von LawZero transparent schlussfolgern und verlässliche, auf Belege gestützte Antworten liefern, die nicht von eigenen Zielen verzerrt sind. Perspektivisch soll es Schutzvorrichtungen für heutige Spitzenmodelle liefern und helfen, KI-Risiken besser zu verstehen.

Wildberger nennt den Ansatz „Sicherheit durch Design“ eine Alternative zu potenziell unkontrollierbaren autonomen KI-Agenten. In Kanada sollen 360 Vollzeitstellen entstehen; zusammen mit den kanadischen Firmen Hypertec und 5C baut LawZero dort eine eigene Recheninfrastruktur auf.

Die deutsche Beteiligung soll laut beiden Regierungen das Gesamtprojekt vergrößern, beschleunigen und europäische KI-Regeln von Beginn an einbeziehen. Die Regierungen sprechen von geplanten Beträgen, LawZero selbst von einer Zusage über bis zu 300 Millionen kanadische Dollar.