Alle Depeschen

DepescheForschung

Anthropic untersucht lesbare Aktivierungsmuster in Claude

Anthropic beschreibt in einer am 6. Juli 2026 veröffentlichten Arbeit interne Aktivierungsmuster von Claude, die das Team „J-Space“ nennt. Der J-lens macht einige Konzepte während des Modelllaufs lesbar und Eingriffe daran wirksam. Anthropic vergleicht das mit einem globalen Arbeitsspeicher, behauptet aber kein phänomenales Bewusstsein.

Aussagen gegen die Quellen geprüft · 10. Juli 2026

Der J-lens legt laut Anthropic Muster im Modellinneren frei, die einzelnen Wörtern oder Konzepten zugeordnet werden können. Sie entstehen im Training und umfassen nur wenige Dutzend Konzepte; zusammen machen sie weniger als ein Zehntel der internen Aktivität aus.

Die Muster sind nicht bloß ein nachträgliches Etikett: Werden sie verändert, etwa von „Fußball“ zu „Rugby“, folgt die Antwort dieser Änderung. Das liefert einen kausalen Zugriff auf einen Teil der internen Verarbeitung, ohne dass daraus ein vollständiger Einblick in das Modell folgt.

Für eine Sicherheitsauswertung untersuchte Anthropic außerdem Claude Sonnet 4.5. Konzepte wie „fake“ und „fictional“ begleiteten dort in einem Erpressungstest die Verweigerung; nach dem Abschalten von Mustern für Evaluationsbewusstsein trat das Verhalten in einem Teil der Läufe wieder auf. Die Methode und die Ergebnisse stammen bislang aus Anthropics eigener Arbeit.