Ein Safety Case ist eine begründete Darlegung, warum ein Vorhaben sicher genug ist. Laut OpenAI soll eine solche Dokumentation vorliegen, bevor ein Trainingslauf mit Reinforcement Learning (Lernen über Belohnungssignale) an Frontier-Modellen fortgesetzt wird. Die Leitlinien gelten nur für das Training, nicht für den internen oder externen Einsatz fertiger Modelle. OpenAI nennt Safety Cases ein Fernziel und arbeitet nach eigener Aussage an einem Rahmenwerk, das die Praktiken festschreibt.
Technisch ruht der Nachweis auf drei Säulen. Beim Alignment-Training sollen Datensätze geprüft, Bewertungsmodelle auf das Bestrafen von Reward Hacking (Ausnutzen von Lücken in der Belohnung) abgestimmt und frühere Vorfälle als Testfälle nachgespielt werden. Für Anzeichen, dass ein Modell eine Prüfsituation erkennt, soll es Schwellen geben, die den Lauf blockieren.
Die Abschottung verlangt mehrere Sicherheitsschichten, Red-Teaming mit Zwischenständen des Laufs und unveränderlich gespeicherte Protokolle. Die Überwachung soll feste Reaktionszeiten haben; bleibt ein Alarm nachts unquittiert, pausiert der Lauf automatisch.
Organisatorisch sieht OpenAI ein Gegengutachten eines anderen Teams vor und eine Freigabe durch die Führungsebene, bei der jede beteiligte Person ein Veto hat, etwa Forschungsleitung, Sicherheitschef und Chief Scientist. Hinzu kommen Audits, Eskalationsstufen bis zum Anruf beim CEO und Kontrollen, die im Zweifel sperren statt freigeben. Vorfälle sollen täglich intern berichtet, auf ihre Ursache untersucht und als Regressionstests in künftige Prüfungen übernommen werden; Ergebnisse und Nachberichte sollen nach Abschluss öffentlich werden, Betroffene so früh wie möglich davon erfahren.
Zahlen enthält das Papier keine: Schwellen, Reaktionszeiten und Aufbewahrungsfristen bleiben unbeziffert, die meisten Punkte sind als Empfehlung formuliert. Die Praktiken würden gerade eingeführt und sollen sich in den kommenden Wochen weiterentwickeln. Den DNS-Vorfall vom 20. September, nach dem OpenAI den Werkzeugeinsatz seiner stärksten Modelle pausiert hat, erwähnt das Papier nicht.