Alle Depeschen

DepescheSicherheit

Anthropic: Bio-Filter auf Feedback-Plattformen elf Monate inaktiv

Anthropic berichtet, dass blockierende biologische Klassifikatoren von Mai 2025 bis April 2026 auf dem gesamten Verkehr seiner Feedback-Plattformen nicht liefen. Rund 50.000 externe Personen erzeugten etwa 133 Millionen Austausche. Eine nachträgliche Prüfung markierte 1.197 Transkripte als hochriskant; manuell fand Anthropic keinen klar besorgniserregenden Missbrauch.

Ein nur intern vorgesehener Schalter deaktivierte nach Anthropics Bericht sowohl die Blockierung als auch die Protokollierung der Treffer. Die meisten der rund 50.000 Personen hatten offenen Dialogzugang zu den Modellen; ihre Identitätsprüfung lag bei den beauftragten Dienstleistern.

Claude Sonnet 5 markierte nachträglich 1.197 Transkripte als hochriskant. 757 stammten aus internen Anthropic-Teams, fast alle übrigen aus Red-Teaming-Übungen. Anthropic las die 62 verbleibenden Fälle sowie 30 zufällig ausgewählte Red-Team-Transkripte nach und fand keinen eindeutig besorgniserregenden Missbrauch mit relevantem Nutzen für einen Angreifer.

Anthropic verschärfte danach Anforderungen an Identität, Endgeräte, Zugriffskontrolle und phishing-resistente Mehrfaktor-Anmeldung. Die Klassifikatoren laufen laut Bericht nun auf dem weit überwiegenden Teil des Dienstleisterverkehrs. Das Unternehmen bewertet das Risiko katastrophaler Schäden weiterhin als niedrig, aber nicht vernachlässigbar; etwa ein Prozent der Transkripte fehlte wegen nicht abgeschickter Gespräche.