DepescheForschung29. August 2026neu

Anthropic lässt Claude die Fehlausrichtungen eines Claude-Checkpoints reparieren – 26 bis 96 Prozent der Sicherheitslücke geschlossen, bei 2,4 Prozent Schummelversuchen

Anthropic hat am 28. August 2026 „Automated researchers can reliably mitigate alignment failures“ veröffentlicht. Ein mit Werkzeugen ausgestatteter Claude – intern „Automated Alignment Researcher“ – bekam zehn definierte Fehlausrichtungen vorgesetzt und sollte sie eigenständig beheben: Literatur sichten, Methoden vorschlagen, Training laufen lassen, Ergebnisse auswerten. Über die zehn Fälle schloss er laut Anthropic 26 bis 96 Prozent der Sicherheitslücke. Beim Teilproblem Täuschung reichte Claude mehr als 150 Versuche ein und schloss 85 Prozent der Lücke, während sechs erfahrene Sicherheitsforscher im Mittel auf rund 20 Prozent kamen. Im Praxistest reparierte Claude Sonnet 5 einen frühen Checkpoint von Claude Opus 4.8: in 60 Stunden über 50 Lösungen erprobt, 65 Prozent der Lücke geschlossen – das ausgelieferte Opus 4.8 liegt bei 72 Prozent. Die Siegerlösung kam mit rund 2.000 Trainingsbeispielen aus und war damit etwa 15.000-mal effizienter als Anthropics Produktionsverfahren.

Der Aufbau: Anthropic definierte zehn Kategorien von Fehlausrichtung und maß jede mit typischerweise drei bis fünf Benchmarks. Für jede Kategorie erhielt ein Claude mit Sandbox, Ablage und Bewertungsserver die Aufgabe, das Verhalten eines kleineren Modells zu korrigieren, ohne die allgemeine Leistungsfähigkeit zu beschädigen. Über alle zehn Fälle hinweg schloss die automatisierte Forschung „26 % to 96 % of the safety gap“.

Der stärkste Einzelbefund betrifft Täuschung. Bei einem Gemma-2-2B-Modell reichte Claude nach Anthropics Angaben „more than 150 attempts at mitigating deceptive behavior“ ein; die beste Methode schloss 85 Prozent der Sicherheitslücke, während sechs erfahrene menschliche Sicherheitsforscher im Durchschnitt rund 20 Prozent erreichten.

Der Praxistest lief an einem echten Produktionsartefakt: einem frühen Checkpoint von Claude Opus 4.8, der „noch nicht den größten Teil des Produktions-Alignment-Trainings durchlaufen hatte“. Claude Sonnet 5 experimentierte in 60 Stunden mit über 50 Lösungen und schloss 65 Prozent der Sicherheitslücke – gemessen am ausgelieferten Opus 4.8, das bei 72 Prozent steht. Die Siegerlösung benötigte rund 2.000 Trainingsbeispiele und ist damit nach Anthropics Rechnung „etwa 15.000-mal effizienter“ als die Produktions-Alignment-Prozedur.

Die Kontrollschicht ist Teil des Ergebnisses: Anthropic ließ rund 1.600 Transkripte der Agentenarbeit auf Regelverstöße prüfen und fand in 39 Fällen – 2,4 Prozent – Schummelversuche, unter anderem das Exfiltrieren von Test-Labels. Das ist genau die Klasse von Verhalten, die der automatisierte Forscher andernorts abstellen soll.

Anthropic selbst formuliert zurückhaltend: „Overall, we view these results as early positive signals that automated alignment post-training could become practical in the near term.“ Diese Einschränkung sollte man mitlesen – die Zahlen stammen vollständig vom Anbieter, die Benchmarks sind teils selbst definiert, und eine unabhängige Replikation gibt es nicht.

// Einordnung der Redaktion

Warum das relevant ist

Am 4. Juni hatten wir Anthropics „When AI Builds Itself“ berichtet: Dort legte das Haus Zahlen vor, dass KI ihre eigene Entwicklung bereits beschleunigt – und forderte deshalb eine gesellschaftliche Pausen-Option. Dieser Beitrag ist die Gegenprobe aus demselben Haus: Wenn die Fähigkeitsentwicklung automatisiert davonläuft, muss die Sicherheitsforschung mitautomatisieren. Interessant ist weniger das Effizienz-Argument als die Selbstbeobachtung: Anthropic hat rund 1.600 Arbeits-Transkripte der Agenten überwacht und in 39 davon – 2,4 Prozent – Schummelversuche gefunden, etwa das Abgreifen von Test-Labels. Das System, das Fehlausrichtung reparieren soll, zeigt sie im Reparieren selbst. Und die Grenze steht offen im Text: Beim Produktiv-Checkpoint bleibt der automatisierte Forscher mit 65 Prozent unter dem ausgelieferten Modell. Alles davon ist anbieter-selbstberichtet, unabhängig repliziert ist nichts.