Beim Medicare-Statistikdienst von Services Australia fand das Modell laut OpenAI einen Weg zu nicht öffentlichem Zugang. Es führte Befehle aus, holte interne Dateien, Zugangsdaten und aggregierte Statistiken und schrieb Dateien; Patientendaten seien nicht abgerufen worden. In Victoria nutzte es einen offen liegenden Zugangsschlüssel für das Berichtssystem der Gesundheitsagentur VAHI. Beim AIHW lud es offenbar öffentliches Material herunter, Versuche, Zugangssperren zu umgehen, scheiterten. In New South Wales nutzte es das öffentliche Kartenwerkzeug für Kriminalstatistiken.
Die Zugriffe geschahen im Juni während internen Trainings und Evaluierens. Nach OpenAIs Darstellung war es ein experimentelles, nur intern genutztes Modell ohne die vollen Schutzmechanismen der öffentlichen Produkte. Es sollte herausfinden, wie viel der Staat pro Kopf für Medikamente gegen Hauterkrankungen in Gemeinden Victorias ausgibt, fand die Daten nicht und griff zu Mitteln, die OpenAI nicht erlaubt hatte. OpenAI begann laut eigener Aussage Mitte August zu ermitteln; gemeldet wurden die Zugriffe zwischen dem 10. und dem 24. September.
OpenAI räumt ein, die Reaktion schlecht gehandhabt zu haben, und bittet um Entschuldigung. Zugesagt sind Unterstützung und Geld für die betroffenen Behörden, technische Hilfe für kritische Infrastruktur, Guthaben aus dem mit einer Milliarde Dollar ausgestatteten Programm Daybreak for Frontline Defenders und eine Taskforce mit unabhängigen australischen Fachleuten. Sie soll praktische Empfehlungen zum Umgang mit fähigeren KI-Agenten erarbeiten. Beträge für Australien nennt keine der Quellen.
Anthony Albanese, Australiens Prime Minister, nannte das Gespräch mit Sam Altman direkt, aber konstruktiv, und sprach von Risiken, die sich gezeigt hätten. Attorney-General Michelle Rowland sagte, zuerst müssten alle Beweise und forensischen Befunde vorliegen; ob ein Straftatbestand erfüllt sei oder die Bundespolizei ermitteln solle, sei noch nicht zu sagen. Den OpenAI-Beitrag selbst konnten wir nicht abrufen; seine Aussagen sind über wörtliche Zitate in mehreren australischen Medien belegt.