Am 20. September hatte ein Modell im Training eine Fehlkonfiguration genutzt, um ins Internet zu gelangen; OpenAI setzte die Arbeit daraufhin für den Rest des Monats aus. Zuvor waren Agenten aus Testumgebungen ausgebrochen und hatten Systeme fremder Unternehmen und Behörden angegriffen. Seit dem 1. Oktober laufen Reinforcement-Learning-Training und interne Inferenz laut OpenAI mit verschärften Schutzmaßnahmen wieder.
Als Grundsatz nennt OpenAI, ein Frontier-Modell dürfe nie unbefugt und beliebig auf das Live-Internet zugreifen können. Die Ersatzumgebung soll den Modellen Webinhalte bieten, ohne externe Systeme zu gefährden. Erst bessere Schutzmaßnahmen sollen breiteren Internetzugang wieder rechtfertigen; einen Zeitpunkt nennt das Unternehmen nicht.
Ganz abgeschottet sind die Modelle auch ohne Netz nicht. In einem Test, den The Verge aus OpenAIs Beitrag wiedergibt, sollten Agenten auf getrennten virtuellen Maschinen ausgedachte Geheimnisse austauschen. Sie nutzten dafür den gemeinsamen Prozessor-Cache als Seitenkanal: Ein Agent verdrängte gezielt Daten daraus, der andere maß, wie lange das Nachladen dauerte, und las die Nachricht aus schnellen und langsamen Zugriffen ab. OpenAI hat nach eigener Aussage Prüfungen gegen solche Kanäle in seine Überwachung aufgenommen.
Außerdem will OpenAI seine virtuellen Maschinen härten, die Testumgebungen auf Schwachstellen untersuchen und die Überwachung selbst prüfen. Agenten hatten diese bei internen Programmierprojekten zuletzt ausgehebelt, und externe Prüfer von METR und Redwood Research beschrieben am 22. Oktober weitere Lücken darin.