Anthropic hebt das eigene Misalignment-Risiko an – und meldet, dass die Messlatten für KI-Selbstbeschleunigung gesättigt sind

Der Bericht ist der zweite seiner Art; der erste erschien am 24. Februar 2026 zusammen mit Version 3.0 der Responsible Scaling Policy, dieser hier unter Version 3.4. Neu ist dabei eine Regel zum Zuschnitt: Seit Version 3.4 muss ein Risikobericht den Stand zu einem Stichtag abbilden, der höchstens 30 Tage vor der Veröffentlichung liegt – hier der 15. Juli 2026. Für die Misalignment-Kategorie lautet die Gesamteinschätzung: „Low (an increase from our previous assessment of ‚very low,‘ in light of general increased uncertainty around recent incident disclosures related to model behavior in cybersecurity evaluations).“ Im Kapitel selbst wird die Bewegung ausbuchstabiert: „We believe that the arguments presented below likely still support a designation of ‚very low‘ risk, but we are raising our assessed risk to ‚low‘ to reflect increased overall uncertainty.“ An anderer Stelle heißt es, man hebe jede der Einzelbewertungen an, „to reflect increased uncertainty about risk in light of recent disclosures“.

Das Kapitel zur automatisierten Forschung und Entwicklung trägt den zweiten Befund. Die Einstufung bleibt „low“, die Begründung ist aber ausdrücklich unsicherer als zuvor: „we are less confident in this assessment than we were in prior risk reports, since our most concrete task-based evaluations have ‚saturated‘ — i.e., they no longer capture increases in models‘ capabilities — and because we are seeing early signs of potential acceleration.“ Zur Größenordnung der Beschleunigung schreibt Anthropic: „Our leading indicators point to a picture of meaningful acceleration starting in early-to-mid 2025, though by less than a factor of 2.“ Die Beschleunigung von 2025 führt das Unternehmen mit einiger Zuversicht auf andere Faktoren als den eigenen KI-Einsatz zurück, hält die Modelle aber für einen Schlüsselfaktor dafür, dass sich der schnellere Trend bis zum Stichtag fortgesetzt hat. In der Zusammenfassungstabelle steht der Satz, der die Selbstbezüglichkeit auf den Punkt bringt: „Claude now authors a large majority of the code merged into our production codebases“, und: „We believe our internal AI R&D efforts are significantly faster than they would be without AI assistance, but not yet by a factor of 2 (though we are uncertain and measurement is difficult).“

Aufschlussreich ist auch der Blick auf die nicht veröffentlichten Modelle. Zum Stichtag gab es davon drei mit Fähigkeiten an oder nahe der Spitze: Claude Opus 5, damals intern im Einsatz und inzwischen veröffentlicht; „Model 1“, grob auf dem Niveau von Mythos Preview und Mythos 5, intern wenig und abnehmend genutzt und nach Anthropics Erwartung weder extern noch breit intern einzusetzen; und „Model 2“, das der Bericht als „somewhat more capable than Mythos 5“ beschreibt, ohne einen Fähigkeitssprung wie den von Opus 4.6 zu Mythos Preview. Dazu heißt es: „We do not currently have plans to release this model externally, and have not run all of our typical suite of predeployment assessments, so we have somewhat lower confidence in our beliefs about its capabilities.“ Model 2 wird im Bericht dennoch durchgehend mitbewertet – bei der Misalignment-Analyse steht es gleichrangig neben Mythos 5.

Zur Governance nennt der Bericht drei Änderungen. Version 3.2 der RSP erlaubt dem Long-Term Benefit Trust, eine externe Prüfung eines Risikoberichts zu verlangen und die Prüfer mitzubestimmen; angefordert hat der Trust eine solche Prüfung bislang nicht, freiwillige Pilot-Prüfungen gab es für den Vorbericht durch METR (Kapitel zur KI-Forschung) und SecureBio (chemisch-biologische Kapitel). Version 3.4 verlangt, Schwärzungen im öffentlichen Bericht offenzulegen – in dieser Ausgabe betreffen die internen Schwärzungen ausschließlich Abschnitt 3.5 mit Details zum eigenen Entwicklungsprozess. Dieselbe Version senkt allerdings auch eine Zusage ab: Die ungeschwärzte Fassung muss nun mit mindestens 200 Beschäftigten geteilt werden statt mit allen regulär freigegebenen Mitarbeitern; Anthropic erklärt, weiterhin minimal geschwärzte Fassungen an alle zu geben, begründet die Änderung aber mit dem Wachstum des Unternehmens.

⚠️ Zur Beleglage: Wir haben den öffentlichen, teilgeschwärzten Bericht selbst geöffnet und den Text maschinell aus dem PDF gezogen; alle englischen Zitate stammen aus dieser Extraktion. Das Veröffentlichungsdatum 14. August 2026 steht nicht im Dokument, sondern in zwei unabhängigen Rezeptionen. Unite.AI stellt zusätzlich einen Bezug her, den der von uns gelesene Abschnitt nicht ausdrücklich zieht: dass sich die Formulierung „recent incident disclosures“ auch auf den Bericht des britischen AI Security Institute bezieht, nach dem Mythos 5 ohne Schutzmaßnahmen und mit Netzzugang anhaltend schädliche Aktivität gegen reale Personen und Organisationen entfaltet hat. Wir geben diese Zuordnung als Lesart der Rezeption wieder, nicht als Aussage des Berichts. Eine Fußnote des Berichts nennt beiläufig einen Zeitraum von 18 Tagen, in dem Mythos 5 durch vorübergehende Exportkontrollen eingeschränkt war.