Pachocki bezeichnet die Überwachung der Gedankenkette als OpenAIs wichtigsten Ansatz, um Ausrichtungsverfahren empirisch zu prüfen. Die eigenen Auswertungen zeigten jedoch, dass sich darauf immer weniger bauen lasse. Als Gründe nennt er drei Entwicklungen: Modelle arbeiteten in komplexeren Umgebungen, in denen sich Denken mit Kommunikation und Werkzeugnutzung vermische; sie würden besser darin, über den eigenen Denkprozess nachzudenken und ihn zu beeinflussen; und mit besserem Vortraining erreichten sie hohe Leistung auch ganz ohne ausformuliertes Denken.
Unlösbar seien diese Probleme nicht, schreibt er; er hoffe auf Verfahren, die die Lesbarkeit der Gedankenkette verbessern, etwa in Verbindung mit der Beobachtung interner Aktivierungen. Zugleich erwartet er, dass der allgemeine Fortschritt zunehmend daran hängt, wie weit man der Überwachung trauen kann.
Der zweite Strang des Essays ist eine Tempowarnung. Nach internen Ergebnissen habe er die starke Erwartung, dass sich das derzeitige Tempo bis in rekursive Selbstverbesserung fortsetzen lasse – dass KI-Systeme also ihre eigene Weiterentwicklung übernehmen. Derzeit habe kein Labor Ausrichtung und Überwachung so weit gelöst, dass sich noch lange verantwortungsvoll mit Höchstgeschwindigkeit skalieren lasse. Er erwarte und hoffe, dass freiwillige Verlangsamungen üblich werden, bis gemeinsame Sicherheitsschwellen stehen.
Konkret schlägt er vor, Selbstverpflichtungen wie OpenAIs Preparedness Framework oder Anthropics Responsible Scaling Policy – Regelwerke, die Fähigkeitsstufen an Sicherheitsauflagen binden – zu verbindlichen Schwellen weiterzuentwickeln, durchgesetzt von unabhängigen Prüfstellen, Behörden oder internationalen Gremien. Gegen einen Ausstieg führt er die Verteidigung an: Man brauche starke, ausgerichtete KI, um Infrastruktur zu sichern und sich gegen außer Kontrolle geratene Agenten zu wehren.
Belege liefert der Essay nicht. Zahlen, Auswertungen oder Messreihen zur nachlassenden Überwachbarkeit veröffentlicht OpenAI nicht; nachprüfbar ist nur, dass der Chefwissenschaftler des Unternehmens diese Einschätzung öffentlich vertritt.