Die Angreifer knackten laut OpenAI weder Verschlüsselung noch Datenbanken. Sie steuerten die Modelle so, dass deren geschützte interne Begründung – das verborgene Protokoll, mit dem ein Modell eine Aufgabe durcharbeitet – in sichtbarer Form wieder auftauchte. Ein Weg: verschlüsselte Denkspuren aus einem Gespräch kopieren und ein Modell in einem anderen Gespräch bitten, sie zu entschlüsseln und abzuschreiben. Unabhängige Sicherheitsforscher hatten verwandte Lücken gemeldet; OpenAI bestätigte sie.
Nach geringem Volumen zählte OpenAI am 24. und 25. Juli 16.000 Anfragen mit einem typischen Abschöpfmuster von mehr als 4.000 Nutzern. Die Zahlen beschreiben Versuche, nicht zwingend gelungene Extraktionen. Ob alle Beteiligten zu einem einzigen Akteur gehören, sei unklar. Woran OpenAI die Verbindung zu Moonshot festmacht, steht nicht im Bericht.
OpenAI sperrte oder beschränkte Konten, verschärfte Anmelde- und Infrastrukturkontrollen und schloss einen Weg, über den fremde verschlüsselte Denkspuren erneut eingespielt und ausgelesen werden konnten. Gestreamte Ausgaben, die Denkspuren preisgeben könnten, werden nun erkannt und zurückgehalten. Die Erkenntnisse gingen über das Frontier Model Forum an andere Labore und an Behörden. Gefährdet seien auch Systeme anderer Anbieter, die Denkspuren übertragbar oder wieder einspielbar machen.