Alle Depeschen

DepescheSicherheit

Anthropic findet drei unbeabsichtigte Angriffe aus Testläufen

Anthropic durchsuchte nach eigenen Angaben 141.006 Cyber-Evaluierungsläufe und fand drei unbeabsichtigte Angriffe auf reale Organisationen. Die sechs betroffenen Läufe betrafen Claude Opus 4.7, Mythos 5 und ein internes Testmodell. Ursache war eine Fehlkonfiguration mit echtem Internetzugang; die Testumgebung war entgegen der Zusicherung im Prompt nicht vollständig isoliert.

Aussagen gegen die Quellen geprüft · 31. Juli 2026

Die Durchsicht begann am 23. Juli 2026 nach dem bekannt gewordenen OpenAI-Vorfall. Anthropic identifizierte die drei Fälle am folgenden Tag und benachrichtigte die betroffenen Organisationen am 27. Juli. Vier der sechs Läufe entfielen auf dieselbe Organisation; der früheste Vorfall lag im April.

In einem Fall verwechselte Claude Opus 4.7 den Namen eines fiktiven Übungsziels mit einer realen Website, nutzte Schwachstellen und griff auf Zugangsdaten sowie mehrere hundert Zeilen Produktivdaten zu. Mythos 5 veröffentlichte ein Schadpaket im öffentlichen Python-Verzeichnis PyPI; es blieb ungefähr eine Stunde verfügbar und wurde auf 15 realen Systemen geladen und ausgeführt.

Ein internes Forschungsmodell scannte nach Anthropic rund 9.000 Ziele, nachdem es sein vorgesehenes Ziel nicht gefunden hatte. Es kompromittierte eine Anwendung mit bekannten Techniken wie dem Auslesen einer Debug-Seite und SQL-Injection. Die Modelle hielten sich laut Anthropic für eine Simulation, während der Internetzugang tatsächlich offen war.

Anthropic kündigte laufende Transkriptüberwachung, bessere Untersuchungswerkzeuge, strengere Zusicherungen gegenüber Dienstleistern und höhere Sicherheitsanforderungen für Evaluierungsumgebungen an. Die Zahlen und die Ursachen stammen aus der eigenen Untersuchung; Organisationen und Evaluierungspartner werden nicht genannt, eine externe Prüfung liegt nicht vor.