Alle Depeschen

DepescheSicherheit

Anthropic stuft Misalignment-Risiko von sehr niedrig auf niedrig hoch

Anthropic hebt im Risikobericht vom 14. August 2026 die Einstufung katastrophaler Fehlausrichtungsrisiken von „very low“ auf „low“ an. Grund ist laut Unternehmen größere Unsicherheit nach Cyber-Evaluierungen, keine neue einzelne Messung. Zugleich seien die wichtigsten aufgabenbasierten Tests gesättigt; Claude schreibe bereits die große Mehrheit des Produktionscodes, die interne Forschung sei aber noch nicht doppelt so schnell.

Aussagen gegen die Quellen geprüft · 16. August 2026

Der Bericht mit Stichtag 15. Juli 2026 nennt bei Misalignment ausdrücklich eine Höherstufung wegen Unsicherheit zu jüngsten Vorfällen. Anthropic schreibt, die bisherigen Argumente stützten wahrscheinlich weiterhin „very low“, die Gesamteinstufung werde vorsichtshalber auf „low“ gesetzt.

Bei der automatisierten Forschung seien die konkretesten aufgabenbasierten Evaluierungen gesättigt und erfassten weitere Fähigkeitszuwächse nicht mehr. Anthropics Indikatoren deuteten auf eine Beschleunigung seit Anfang bis Mitte 2025 hin, laut Bericht um weniger als den Faktor zwei. Claude verfasse inzwischen die große Mehrheit des Codes, der in Anthropics Produktionscodebasen landet.

Der Bericht beschreibt außerdem drei interne Modelle, darunter ein nicht extern geplantes Model 2, das etwas leistungsfähiger als Mythos 5 sei. Version 3.4 senkt die Zusage zur Verteilung ungeschwärzter Berichte auf mindestens 200 Beschäftigte; Pilotprüfungen durch METR und SecureBio gab es, eine Prüfung durch den Long-Term Benefit Trust wurde noch nicht verlangt.