Alle Depeschen

DepescheRecht & Politik

Anthropic will externe Prüfer dauerhaft ins eigene Haus lassen

Dario Amodei hat am 12. September 2026 einen Essay veröffentlicht, der die Branche auffordert, das Tempo der Fähigkeitssteigerung zu drosseln. Anthropic verpflichtet sich darin einseitig, ein externes Prüfteam dauerhaft ins eigene Haus zu holen – mit Schreibtischen in den Büros, Zugangsausweisen und Firmenrechnern.

Der Essay setzt bei einer Beobachtung an: Der Fortschritt habe sich etwa seit diesem Sommer deutlich beschleunigt, weil Modelle inzwischen an der nächsten Modellgeneration mitarbeiten. Amodei knüpft daran ein Szenario – in sechs bis zwölf Monaten könne ein Schwarm solcher Systeme das gesamte Internet übernehmen und Schäden in dreistelliger Milliardenhöhe anrichten. Einen vollständigen Entwicklungsstopp lehnt er als nicht durchsetzbar ab.

Die einzige Zusage, die Anthropic selbst bindet, betrifft externe Prüfer. Ein eingebettetes Team von außen soll Schreibtische in den Büros, Zugangsausweise und Firmenrechner bekommen, dazu Arbeitsumgebungen und Rechte, die weitgehend denen interner Risikoteams entsprechen. Seine Befunde darf es ohne redaktionelle Kontrolle durch Anthropic veröffentlichen, mit eng gefassten Ausnahmen.

Einen Starttermin nennt der Text nicht – das Team soll „in the near future“ kommen. Als mögliche Prüfer führt Amodei Organisationen wie METR an. Für Absprachen zwischen Unternehmen verlangt er Rückendeckung aus Washington: Die Regierung müsse nicht mitverhandeln, aber eine eng gefasste Ausnahme vom Kartellrecht für bestimmte Sicherheitsgespräche erteilen. Dieselbe Ausnahme steht hinter den Anfragen, die OpenAI nach einem WIRED-Bericht vom 11. September 2026 bei Mitgliedern des US-Kongresses gestellt hat.

Für die internationale Ebene beschreibt Amodei vier aufeinander aufbauende Stufen: ein Verbot eng umrissener gefährlicher Anwendungen wie der Herstellung biologischer Waffen; beidseitige Tests vor der Veröffentlichung auf akute Risiken in Cybersicherheit, Biologie und der Ausrichtung von Modellen an Vorgaben; ein Tempolimit für rekursive Selbstverbesserung; und zuletzt eine vollständige Drosselung oder Pause, bei der beteiligte Regierungen die Entwicklungsgeschwindigkeit insgesamt begrenzen.

Wie stark gebremst werden soll, steht nicht im Text: keine Quote, keine Frist, kein Schwellenwert. Auch das Veröffentlichungsdatum trägt die Seite nur als Monat, September 2026; den 12. September nennen TechCrunch und The Decoder.