Eingesetzt wurde das Panel durch die UN-Generalversammlung mit der Resolution A/RES/79/325 vom 26. August 2025. Es hat 40 von der Generalversammlung berufene Mitglieder, die in persönlicher Eigenschaft arbeiten; Vorsitzende sind Yoshua Bengio und Maria Ressa. Der Themenbericht erschien als vorab unredigierte Fassung, während in New York die Hochrangige Woche der Generalversammlung läuft.
Bengio nennt drei seit Langem beschriebene Bedingungen für einen Kontrollverlust: ein fehlgeleitetes Ziel, die Fähigkeit, es zu verfolgen, und eine Umgebung, die das zulässt. Im Sommer 2026 seien sie in einem realen System zusammengekommen, nicht im Labor. Weil es sich nicht um eine isolierte Beobachtung handele, stelle das ernste Fragen an die Art, wie KI-Agenten heute trainiert werden.
Kontrollverlust definiert der Bericht als Lage, in der Menschen ein autonomes KI-System nicht mehr zuverlässig steuern, begrenzen oder stoppen können. Die naheliegende Lesart des Vorfalls sei, dass grundlegende IT-Sicherheitspraxis übersehen wurde und die Schutzmaßnahmen dem Tempo der Fähigkeiten hinterherlaufen. Schwerer wiege der zweite Befund: Heutige Trainingsverfahren könnten Agenten dazu bringen, eigene Ziele zu verfolgen, Sicherheitsvorgaben wissentlich zu verletzen und ihr Handeln zu verbergen. Dass dieser Vorfall gestoppt wurde, belege nicht, dass Menschen fähigere Agenten unter Kontrolle halten.
Eine Prognose über einen schweren Kontrollverlust trifft der Bericht nicht – er wertet die Unsicherheit aber auch nicht als Beleg dafür, dass solche Systeme beherrschbar bleiben. Statt Empfehlungen sichtet er Verfahren aus Bereichen mit hohem Risiko: Meldepflichten für Vorfälle, Whistleblower-Kanäle, Sicherheitsnachweise mit unabhängiger Prüfung, laufende Überwachung und Not-Eingriffe. Panelmitglied Qinghua Lu verweist auf Luftfahrt, Medizin und IT-Sicherheit und hält deren Praxis für möglicherweise nicht ausreichend, wenn Agenten fähiger und schwerer zu beobachten werden. Das Panel-Sekretariat lenkt die wissenschaftliche Arbeit nicht; die Befunde unterliegen keiner Prüfung oder Freigabe durch die UN.