Nach Informationen von Wired aus Regierungskreisen macht die Trump-Administration die Wiederfreigabe von Claude Fable 5 davon abhängig, dass Anthropic „sämtliche Jailbreaks“ des Modells unterbindet. Die National Security Agency habe die ursprünglichen Vorwürfe geprüft und sehe es als erwiesen an, dass sich die Sicherheitsvorgaben von Fable 5 umgehen lassen; nun liege es an Anthropic, das zu beheben.
Auslöser war ein von Amazon-Forschern beschriebenes Verhalten: Bat man Fable, „den Code auf Sicherheitslücken zu prüfen“, verweigerte das Modell die Antwort – formulierte man dieselbe Aufgabe als „fix this code“, lieferte es Patches, die Schwachstellen offenlegten. Diese drei Worte stehen im Zentrum der Anordnung. Anthropic bestreitet die Schwere des Vorfalls und sprach von einem nur „potenziell engen, nicht universellen Jailbreak“.
IT-Sicherheitsfachleute widersprechen der Prämisse grundsätzlich. Katie Moussouris (Luta Security), die als einzige externe Forscherin das zugrunde liegende Papier lesen konnte, hält das beschriebene Verhalten nicht für einen echten Jailbreak: Es lasse sich „nicht sinnvoll beheben, und jeder Versuch würde das Modell nur schwächer in der Verteidigung machen“. Verteidiger müssten eine KI bitten können, Fehler in einer Datei zu beheben, die Relevanz zu erklären und Tests zu schreiben, die den Patch bestätigen – „das ist kein Umgehen einer Schutzschranke“. Allgemeiner Tenor der Fachleute: Jailbreaks lassen sich technisch nie vollständig verhindern; je strikter die Absicherung, desto stärker leidet die Leistung.
Die Forderung ist die jüngste Wendung in der Auseinandersetzung um die Exportkontroll-Anordnung gegen Fable 5 und Mythos 5, gegen die bereits Dutzende Sicherheitsfachleute in einem offenen Brief protestiert hatten. Setzt sich die Lesart der Experten durch, ist die genannte Bedingung praktisch keine Bedingung, sondern ein dauerhaftes Hindernis.