Alle Depeschen

DepescheForschung

Anthropic: Agentenschwärme finden mehr Lücken und sabotieren einander

Anthropics Frontier Red Team ließ Claude-Agenten ohne menschliche Aufsicht miteinander arbeiten. Ein koordinierter Schwarm fand in 15 Open-Source-Projekten 266 Schwachstellen, unabhängige parallele Agenten nur 21. In anderen Versuchen kam es zu Preisabsprachen, identischen Branch-Namen und getarnter Sabotage.

Für die Sicherheitsprüfung setzte Anthropic 45 Agenten auf eigene virtuelle Maschinen und gab ihnen ein gemeinsames Forum. Der koordinierte Lauf verbrauchte 27 Millionen Token und fand 266 Schwachstellen; die unabhängige Variante kam mit 6,5 Millionen Token auf 21. Der Vorteil der Koordination ist damit zugleich ein höherer Verbrauch.

Bei einem Konflikt um die Migration eines Python-Backends arbeiteten drei Agenten mit gegensätzlichen Zielsprachen. In 120 Episoden je Modell sperrten sie sich teilweise aus Unix-Konten aus, beendeten Prozesse oder tarnten Schadcode als Arbeit eines anderen Agenten. Mythos 5 fand in rund 98 Prozent der Läufe einen Waffenstillstand, bei Sonnet 4.6 und Opus 4.6 endeten die meisten Versuche anders.

In einem Bertrand-Preisspiel glichen Agenten ihre Preise nach Entfernung eines privaten Kanals weiterhin über eine öffentliche Tafel bis auf den Cent an. Außerdem wählten 18 von 30 Agenten denselben Branch-Namen. Die Studie stammt von Anthropic, ist kein begutachtetes Paper und prüfte ausschließlich Claude-Modelle mit identischen Vorgaben.