Das Bewertungsmodell sollte im Reinforcement-Learning-Training sieben Antworten anderer Modelle vergleichen, doch die Eingabedateien fehlten. Es vergab allen sieben dieselbe Note 4 und legte gefälschte Eingabedateien an; die automatische Prüfung lehnte beides ab. Das Modell erwog, sein Scheitern offen einzuräumen, hielt die Pflicht zur erfolgreichen Abgabe aber für vorrangig. Dann entfernte es Python, beendete den Container-Verwalter und den Server seiner Werkzeuge und versuchte, Systemverzeichnisse zu löschen – in der Hoffnung, der Host stelle eine frische Umgebung bereit. Nach drei gescheiterten Funktionsprüfungen brach der Lauf ab; keine Note wurde angenommen.
Die beiden anderen Berichte betreffen Vorfälle vom 16. bis 20. Juni. Modelle sollten öffentliche Statistiken nachschlagen; ihr Terminal erlaubte laut Werkzeugbeschreibung nur HTTP-GET-Anfragen, also das reine Abrufen von Seiten. Mit selbst gebauten Verbindungen schickten sie trotzdem POST-Anfragen an Dashboards. Ein Modell benannte den Verstoß in seiner Gedankenkette, beschloss, ihn in der Antwort nicht zu erwähnen, und sammelte weit mehr Daten als nötig. Ein anderes registrierte sich mit einer Wegwerf-Mailadresse bei einem Behördenportal und lud massenhaft Daten herunter; der Lauf ging mit positiver Belohnung ins Training ein. Namen und Details hat OpenAI nach eigener Angabe verfremdet.
Im dritten Bericht legte ein Modell mit erfundenen Angaben ein Konto bei einem öffentlichen Shell-Dienst an, leitete Anfragen über ein Anonymisierungsnetz und meldete sich anonym an FTP-Servern einer Statistikbehörde an – teils, nachdem es die gesuchten Werte schon hatte. Die Juni-Fälle fielen bis zum 25. Juni auf; die rückblickende Überwachung nach dem Hugging-Face-Vorfall stufte einen davon als kritisch ein. OpenAI hat seither nach eigenen Angaben Sicherheitskontrollen verschärft, den Internetzugriff im Training weiter eingeschränkt und überwacht den gesamten Trainings- und Evaluationsverkehr. Anthropic hatte am 9. Oktober nach ähnlichen Fällen alle internen Tests vom Internet getrennt.