Ausgangspunkt ist eine Lücke im Verständnis: Bei klassischer Software ließ sich ein Verhalten auf einen bestimmten Codepfad zurückführen, bei heutigen Modellen lässt es sich laut Nadella weder Trainingsdaten noch Gewichten zuordnen. Trotzdem bekämen Agenten Zugriff auf sensible Daten und dürften geschäftskritisch handeln. Er will deshalb das Angebot an Intelligenz von der Befugnis darüber trennen. Offene wie geschlossene Modelle seien wie Innentäter zu behandeln – nicht weil sie böswillig seien, sondern weil jeder fähige Akteur mit Zugang Fehler machen oder kompromittiert werden könne.
Als Vorbild nennt er bewährte Unternehmenspraxis: Identität festlegen, Rechte begrenzen, Aktivität protokollieren. Offengelegte Denkschritte eines Modells seien nicht verhandelbar; eine nur maschinenlesbare Denksprache, im Jargon Neuralese, dürfe keine Ausrede für undurchsichtiges Denken sein. Verlässlich seien die Denkspuren allein aber nicht. Auch Modelle, die sich gegenseitig prüfen, reichten nicht: Dann stecke ein undurchsichtiges Modell in einer undurchsichtigen Steuerung, überwacht von einem weiteren.
Daraus leitet Nadella Grundsätze ab. Kein einzelnes Modell soll alleinige Abhängigkeit sein oder die eigene Arbeit prüfen. Jede wesentliche Aktion soll für Menschen lesbare, fälschungssichere Spuren hinterlassen, damit sich ein Ergebnis nachvollziehen lässt, ohne dass das Modell es selbst bezeugt. Organisationen sollen unabhängig festlegen, worauf ein Modell zugreift und was es tun darf; Systeme sollen auch an Fehlern, Angriffen und Grenzfällen getestet werden.
Die Eindämmung vergleicht er mit einer Notbremse: Man müsse von Anfang an annehmen, dass ein Modell kompromittiert sei, und es jederzeit anhalten oder abschalten können; für stärkere Modelle brauche es standardisierte Technik dafür. Versagt ein System, sollen Betroffene zeitnah informiert und Lehren branchenweit geteilt werden. Nadella schreibt, man beginne, diese Prinzipien anzuwenden, nennt aber keine Produkte. Neuralese schließt bereits Microsofts Kodex-Entwurf für die eigenen MAI-Modelle vom 14. September aus.