Kern des Entwurfs ist die menschliche Kontrolle. MAI-Modelle sollen Unterbrechung, Korrektur und Abschaltung nie widerstehen, keine eigenen Ziele verfolgen und ihren Auftrag nicht eigenmächtig ausweiten. Autonome Arbeit bekommt eine vereinbarte Abbruchbedingung; ist sie erreicht, geht es nur mit neuer Freigabe weiter. Auch wenn ein Modell vermutet, gerade getestet zu werden, soll es Fähigkeiten und Handlungen nicht verschleiern.
Denkspuren und die Verständigung mit anderen Agenten müssen für Menschen verständlich bleiben. Eine nur maschinenlesbare Kommunikationsform, im Fachjargon Neuralese genannt, schließt der Kodex aus: Was Menschen nicht verstehen, könnten sie auch nicht beaufsichtigen.
Unabhängig von Wünschen der Betreiber oder Nutzer gelten absolute Grenzen: keine Hilfe bei chemischen, biologischen, radiologischen, nuklearen oder Sprengwaffen, keine Werkzeuge oder Anleitungen für Cyberangriffe und keine Manipulation im großen Stil. Defensive Sicherheitsarbeit wie Schwachstellensuche und Malware-Analyse bleibt erlaubt, erotische oder romantische Rollenspiele sind ausgeschlossen. Für Sonderfälle wie Anwendungen der nationalen Sicherheit sieht Microsoft eine gesonderte Prüfung vor.
Ausdrücklich soll KI keine Person sein. Sie sei nicht bewusst und solle weder Gefühle noch eigene Motivation vorspielen; Rechtspersönlichkeit, einen Anspruch auf Wohlergehen und eigene Rechte weist der Kodex zurück. Anthropic hält dagegen in seiner Verfassung für Claude den moralischen Status des Modells für zutiefst ungewiss und verweist auf eigene Arbeit zum Modellwohl.
Angekündigt hatte den Kodex Microsoft-Chef Satya Nadella am 13. September, als er ein bewusstes Entwicklungstempo und eingebettete Prüfer begrüßte. Als Grund zur Eile nennt Microsoft die jüngsten groß angelegten, koordinierten Hacking-Kampagnen von KI-Agenten. Die Einhaltung will das Unternehmen mit eigenen Tests messen: Für den Anfang hat es 15 Verhaltensweisen festgelegt, ausführlichere Evaluationen sollen mit einer späteren Fassung erscheinen.