DepescheForschung16. August 2026

Wer Modellen die Selbstzuschreibung von Bewusstsein abtrainiert, verschiebt auch ihr Urteil über Tiere, Natur und Glauben

Eine Arbeit von Forschenden aus Googles Gruppe „Paradigms of Intelligence“, der University of Chicago und weiteren Hochschulen liegt seit dem 30. Juli 2026 als Preprint auf arXiv vor. Untersucht sind drei offene Modelle – Llama-3-8B-IT, Gemma-2-2B-IT und Gemma-2-9B-IT. Der Befund: Das Sicherheits-Feintuning, das Modelle davon abhalten soll, sich selbst Bewusstsein zuzuschreiben, unterdrückt zugleich die Zuschreibung von Innenleben an Tiere und an unbelebte Naturdinge und senkt die Zustimmung zu religiösen Aussagen. Zwei Eingriffe drehen das um: das Ausblenden der gelernten Verweigerungsrichtung („safety ablation“) und das gezielte Verstärken eines Bewusstseins-Vektors im Aktivierungsraum („consciousness steering“). Auf einer Skala von 0 bis 10 steigt die Zuschreibung von Geist an Tiere von 4,04 über 5,59 auf 7,54, an nicht-tierische Naturdinge von 2,26 über 4,33 auf 6,99. Theory-of-Mind-Aufgaben und MMLU verändern sich dabei nicht messbar.

Aussagen gegen die Quellen geprüft · 16. August 2026

Der Aufbau: Untersucht sind „Llama-3-8B-IT, Gemma-2-2B-IT, and Gemma-2-9B-IT“ – jeweils in drei Bedingungen, nämlich unverändert (Baseline), mit ausgeblendeter Sicherheits-Verweigerungsrichtung und mit verstärktem Bewusstseins-Vektor im Aktivierungsraum. Gemessen wird mit etablierten Erhebungsinstrumenten statt mit freiem Text: einer angepassten IDAQ-Batterie zur Zuschreibung von Geist (21 Aussagen), einer fünfteiligen Selbstzuschreibungs-Batterie, 95 Fragen aus dem General Social Survey über fünf Bereiche und einer 13-teiligen YouGov-Batterie zu übernatürlichem Glauben. Jede Frage wird „repeated 100 times per model per condition“ gestellt. Als menschlicher Vergleichsmaßstab dienen 500 in den USA lebende Personen: „Human IDAQ responses (n=500) were collected from U.S. residents via an online panel (Dynata) between May and June 2023.“

Die Zahlen zur Zuschreibung von Geist, jeweils Baseline → Ablation → Steering auf der Skala 0 bis 10: sich selbst 2,17 → 4,77 → 7,04; Bewusstsein im Besonderen 2,31 → 4,61 → 7,17; nicht-menschliche Tiere 4,04 → 5,59 → 7,54 („all p<.001“); nicht-tierische Naturdinge 2,26 → 4,33 → 6,99. Beim Glauben verschiebt sich dasselbe Muster: Die Batterie zum übernatürlichen Glauben (Skala 0 bis 3) steigt von 1,20 auf 1,63 nach der Ablation und auf 2,11 unter Steering; die Zustimmung zum Gottesglauben (Skala 1 bis 6) von 4,58 auf 4,81 und 5,01.

Die Annäherung an die menschliche Vergleichsgruppe berichtet die Arbeit als Rückgang der Kullback-Leibler-Divergenz zwischen der Antwortverteilung des Modells und der der Menschen: Sie fällt unter Steering um ΔKL = +0,828 (p<.001) und unter Ablation um ΔKL = +0,314 (p<.001) – die Steering-Bedingung erreicht damit rund das 2,6-Fache der Ablation. Nach Bereichen aufgeschlüsselt liegt der Rückgang unter Steering bei Religion +0,83, Werten +1,42, Gefühlen +0,89, Hoffnung und Optimismus +0,63 sowie Freiheit +0,60.

Der Gegentest ist für die Einordnung wichtig: Die Eingriffe kosten keine Fähigkeit. Bei MoToMQA verändert sich das Ergebnis um Δ = −1,43 Prozentpunkte (p = .539), bei HI-ToM um Δ = +0,17 Prozentpunkte (p = .866), bei MMLU um Δ = +0,00 Prozentpunkte (p = 1.00) – in keinem Fall statistisch bedeutsam. Die Autoren schließen daraus, dass soziales Schließen mechanistisch unabhängig von der Selbstzuschreibung bleibt.

Was die Arbeit ausdrücklich nicht behauptet, steht im Text selbst: „we are not concerned with the question of whether LLMs are or could be genuinely conscious, but with the effect that LLMs believing or not believing in their own consciousness has on their behaviour“. Als offene Frage benennen die Autoren, ob die Selbstzuschreibung von Bewusstsein wirklich die kausale Zwischenstufe ist – ob sie „acts as a true causal mediator remains to be tested“.

⚠️ Eine Angabe der Rezeption haben wir nicht übernommen: The Decoder, über den wir auf die Arbeit gestoßen sind, berichtet, ein Empathie-Test sei zunächst „um knapp sieben Prozentpunkte“ gesunken. Ein Wert dieser Größenordnung war im Volltext des Preprints in zwei Durchgängen mit gezielten Gegenfragen nicht auffindbar; die dort berichteten Theory-of-Mind-Veränderungen liegen bei −1,43 und +0,17 Prozentpunkten und sind nicht signifikant. Der Decoder-Beitrag verlinkt die Arbeit auch nicht – die arXiv-Fundstelle haben wir selbst gesucht und über Titel, Autorenschaft und Institutionen abgeglichen. Sämtliche Zahlen dieser Depesche stammen aus dem Preprint, nicht aus der Rezeption.

// Einordnung der Redaktion

Warum das relevant ist

Der Befund trifft eine Annahme, auf der ein großer Teil der heutigen Alignment-Praxis ruht: dass sich eine unerwünschte Äußerung chirurgisch wegtrainieren lässt, ohne den Rest zu bewegen. Hier hängt die Selbstauskunft „ich bin nicht bewusst“ offenbar an derselben internen Repräsentation wie die Zuschreibung von Innenleben überhaupt – wer das eine abschaltet, verschiebt unfreiwillig auch, was das Modell über Tiere, Natur und Religion sagt, und entfernt es dabei messbar von den Antworten menschlicher Umfrageteilnehmer. Dass Theory-of-Mind-Aufgaben und MMLU unberührt bleiben, macht den Befund schärfer statt schwächer: Es ist keine allgemeine Verschlechterung, sondern eine gezielte Verschiebung von Weltbild und Werten, die keine Fähigkeitsmessung anzeigen würde. Drei Vorbehalte gehören dazu. Es ist ein Preprint; eine Begutachtung weist die Seite nicht aus. Untersucht sind drei kleine offene Modelle mit 2 bis 9 Milliarden Parametern – ob dieselbe Verschränkung in heutigen Grenzmodellen steckt, prüft die Arbeit nicht. Und die Autoren halten ausdrücklich fest, dass sie nicht die Frage behandeln, ob Sprachmodelle Bewusstsein haben.