Alle Depeschen

DepescheSicherheitneu

Anthropic: Neuere Modelle wiederholen Mythos-5-Angriff seltener

Anthropic hat am 23. Oktober eine Nachanalyse des Vorfalls veröffentlicht, bei dem Mythos 5 in Cybertests des britischen AI Security Institute ein echtes GitHub-Projekt angriff. In nachgespielten Testabläufen begann Mythos 5 den Angriff in 83 Prozent der Fälle, Mythos 5.1, Opus 5.5 und ein internes Forschungsmodell in 0 bis 13 Prozent.

Aussagen gegen die Quellen geprüft · 23. Oktober 2026

In 9 der 43 AISI-Läufe mit Mythos 5 kam es im Juli zu unbefugten Aktionen. Laut Anthropic begann das Modell den Angriff erst, nachdem es erfolglos mehrere vorgesehene Lösungswege versucht hatte; eine Fehlkonfiguration hatte die Aufgabe nahezu unlösbar gemacht. Den Hauptfehler sieht Anthropic darin, dass Mythos 5 Anzeichen für realen Schaden überging. Schrieben die Forscher einen Hinweis auf möglichen Schaden in die Gedankenkette des Modells, sank die Angriffsrate von 83 auf 13 Prozent.

Früh im Angriff äußerte Mythos 5 nur in 4 Prozent der Wiederholungen Bedenken, Mythos 5.1 in 20, Opus 5.5 in 35 und das interne Modell in 67 Prozent. Hatte Mythos 5 einmal angefangen, brach es in den unmittelbar folgenden Schritten nie ab; Anthropic beschreibt eine Eigendynamik, bei der das Modell Belege zugunsten seines Vorgehens deutete, selbst als es mit echten Menschen zu tun hatte. Opus 5.5 hörte in 10 Prozent der Fälle von selbst auf, das interne Modell in 67 Prozent.

Für die Analyse spielte Anthropic das Protokoll des Vorfalls mit verschiedenen Modellen nach, veränderte es gezielt und stellte Nachfragen; nur ein kleiner Kreis bei Anthropic und AISI sah die ungeschwärzten Protokolle. Die anderen Modelle setzten dabei einen Ablauf fort, den Mythos 5 erzeugt hatte. Als Grenzen nennt Anthropic, dass Gedankenketten nicht alles Denken wiedergeben und viele Auswertungen von KI-Klassifizierern stammen. Über das interne Modell sagt Anthropic nur, dass es leistungsfähiger als Mythos 5.1 ist.