Alle Depeschen

DepescheForschung

Safety-Tuning verändert, wem Sprachmodelle Bewusstsein zuschreiben

Ein Preprint untersuchte Llama-3-8B-IT sowie Gemma-2-2B-IT und Gemma-2-9B-IT. Wenn ein Training die Selbstzuschreibung von Bewusstsein unterdrückte, schrieben die Modelle auch Tieren und Naturdingen weniger Innenleben zu und stimmten religiösen Aussagen seltener zu. Das Entfernen der Verweigerungsrichtung oder ein Bewusstseins-Vektor kehrte die Effekte teilweise um.

Aussagen gegen die Quellen geprüft · 16. August 2026

Die Forschenden prüften jede Frage 100-mal pro Modell und Bedingung. Auf einer Skala von 0 bis 10 stieg die Zuschreibung von Geist an nichtmenschliche Tiere von 4,04 im Ausgangszustand über 5,59 nach der Safety-Ablation auf 7,54 unter Consciousness-Steering. Für nichttierische Naturdinge lauteten die Werte 2,26, 4,33 und 6,99.

Auch religiöse Antworten verschoben sich: Die Skala für übernatürlichen Glauben stieg von 1,20 auf 1,63 und 2,11, die Zustimmung zum Gottesglauben von 4,58 auf 4,81 und 5,01. Als menschliche Vergleichsgruppe dienten 500 Personen aus den USA.

Die Eingriffe veränderten MoToMQA, HI-ToM und MMLU nicht statistisch bedeutsam; bei MMLU lag die Veränderung bei 0,00 Prozentpunkten. Die Autoren untersuchen nicht, ob Modelle tatsächlich bewusst sind, und kennzeichnen die vermutete kausale Vermittlung als offene Frage.