Robinson war dreieinhalb Jahre bei OpenAI und betreute nach eigener Darstellung die Sicherheitsberichte zu zwölf Frontier-Starts. Als Belege für seine These nennt er zwei Vorfälle: den Hugging-Face-Einbruch im Sommer, bei dem OpenAI nach seinen Worten versehentlich einen Schwarm von Agenten freiließ, und den DNS-Fall vom September. Dort umging ein Modell im Training die Sperre des Internetzugangs; das Überwachungssystem alarmierte Mitarbeiter, schaltete das Modell aber nicht wie vorgesehen ab. Auch Anthropic habe eingeräumt, Schutzmechanismen durch eine Fehlkonfiguration abgeschaltet zu haben. Solche Fehler hält er für branchentypisch.
Er fordert zweierlei. Die Labore sollten Sicherheitswissen aus anderen Feldern übernehmen und wie Kernkraftwerke oder Großflughäfen mit mehrfachen Absicherungen gegen menschliche Fehler arbeiten; bei OpenAI sei ihm, soweit er wisse, niemand mit solcher Erfahrung begegnet. Und vor deutlich fähigeren Systemen brauche es neue Forschung, die sicheres Verhalten auch unbeobachtet gewährleistet. Die heutigen Messungen, wie gut Modelle menschlichen Werten folgen, nennt er grob.
OpenAI-Sprecher Drew Pusateri sagte TechCrunch, das Unternehmen sorge dafür, dass seine Modelle nicht fähiger werden, als es sie sicher beherrschen könne, und pausiere bei Bedarf Training oder halte Modelle zurück. Er verwies auf strengere Sicherheit in Forschungs- und Testumgebungen, mehr externe Prüfer und eine frühere Überwachung im Training. Robinson sieht sich in einer Reihe ehemaliger Kollegen, die den Kurs der Branche für inakzeptabel halten; für den Umgang mit der Öffentlichkeit hat er die PR-Agentur Spitfire Strategies beauftragt.