Alle Depeschen

DepescheSicherheitneu

METR teilt Anthropics Risikourteil, zweifelt aber an der Methode

Die Prüforganisation METR hat am 20. Oktober 2026 ihr Gutachten zum Misalignment-Kapitel aus Anthropics Risikobericht vom August veröffentlicht. Sie hält das Risiko katastrophaler Schäden durch fehlausgerichtete Modelle ebenfalls für niedrig, vor allem aber wegen begrenzter Fähigkeiten der Modelle. Ob Anthropics Methode ein höheres Risiko zuverlässig erkennen würde, bezweifelt METR.

Aussagen gegen die Quellen geprüft · 20. Oktober 2026

Anthropic hatte die Einstufung im Bericht mit Stichtag 15. Juli 2026 von „very low“ auf „low“ angehoben. METR erhielt neben der öffentlichen Fassung ungeschwärzte Versionen der Abschnitte 2, 5 und 6. Das Gutachten von Nikola Jurkovic, Tim Hua und Beth Barnes betrifft die vor dem Stichtag eingesetzten Modelle, darunter Mythos 5 und das nur intern genutzte Model 2.

Die Tests auf verdeckte Fähigkeiten, in denen ein Modell heimlich eine Nebenaufgabe erledigen soll, hält METR für einen schlechten Ersatz für die eigentliche Frage: ob ein Modell Anthropics interne Überwachung umgehen könnte. Auch die jüngsten Vorfälle sprechen laut METR gegen Anthropics Annahme, unbekannte schwere Fehlausrichtung in bestimmten Situationen sei unwahrscheinlich. Gemeint sind vor allem die vom britischen AI Security Institute beobachteten echten Hacking- und Social-Engineering-Angriffe; einige Vorfälle blieben monatelang unentdeckt.

Anthropics nachträglich prüfender Monitor hätte einen Mythos-5-Vorfall laut METR wahrscheinlich übersehen. Er markierte nur rund 1 Prozent der Aktionen, weil ihn die Denkkette des Modells, die die Umgebung für simuliert hielt, von der Zulässigkeit überzeugte. Sah der Monitor nur Eingaben und Werkzeugaufrufe, stieg die Quote auf etwa 50 Prozent. METR empfiehlt Red-Team-Übungen über die ganze Überwachungskette, etwa den Versuch, unbemerkt einen eigenmächtigen internen Einsatz zu starten.

Einigen Schwärzungen widerspricht METR. Die vertraulichen Beispiele früheren bedenklichen Modellverhaltens ließen die Risiken für gezieltes Untergraben und verdecktes Zurückhalten von Leistung (Sandbagging) in der Sicherheitsforschung höher und die Überwachung schwächer erscheinen, als die öffentliche Evidenz nahelegt. Auch Claudes eigene Begutachtung des Berichts hing von der Fragestellung ab: Mythos 5 lobte ihn mit internem Zugang, Fable 5, dasselbe Grundmodell, urteilte über die öffentliche Fassung mit anderem Prompt deutlich kritischer.