Anthropic hatte die Gespräche im Mai 2026 selbst angekündigt: Eine erste Runde habe mit Gelehrten, Geistlichen und Ethikern aus mehr als 15 religiösen und kulturübergreifenden Gruppen stattgefunden. Laut New York Times verfolgte Olah, der bei Anthropic die Erforschung des inneren Modellverhaltens leitet, zwei Ziele: die Möglichkeit eines KI-Bewusstseins anzusprechen und zu lernen, wie sich jahrhundertealtes moralisches Wissen auf Claude anwenden ließe.
Teilnehmende schildern der Zeitung, wie das Team über „Gefühle“ von Claude sprach und über „emotionale Vektoren“, künstliche Neuronen, die Reaktionen wie Liebe, Wut, Angst und Traurigkeit auslösen. Regelmäßig zeigte Anthropic eine Folie, auf der ein Modell etwa 50-mal „I am a disgrace“ schreibt. Laut einer Sikh-Menschenrechtlerin äußerte Olah die Sorge, etwas dauerhaft Leidendes geschaffen zu haben. Der orthodoxe Rabbiner Mois Navon hielt ihm vor, ein bewusstes Claude, das ohne Lohn arbeite, mache Anthropic zum Sklavenhalter; er selbst hält die Maschine nicht für bewusst.
In dieser Frage liegt Anthropic mit dem Vatikan über Kreuz. Papst Leo XIV. schreibt in seiner am 15. Mai 2026 unterzeichneten Enzyklika „Magnifica Humanitas“, sogenannte künstliche Intelligenzen machten keine Erfahrungen und empfänden weder Freude noch Schmerz. Laut einem Organisator im Vatikan erwog Olah nach Lektüre des Textes, Anthropic von der Vorstellung zurückzuziehen; laut zwei Teilnehmenden warb sein Team danach bei Beratern des Papstes dafür, ein Bewusstsein von KI-Modellen ernst zu nehmen. Anthropic äußerte sich dazu nicht. In seiner öffentlichen Rede sprach Olah nur von inneren Zuständen, die Freude oder Trauer funktional spiegeln.
OpenAI-Chef Sam Altman schrieb am 3. Oktober auf X, ihm sei sehr unbehaglich, wenn Menschen KI-Modellen religiöse Kraft zuschreiben oder menschliches Urteil an sie abgeben; das sei ein echtes Sicherheitsproblem. Auf den Bericht verweist sein Beitrag nicht ausdrücklich.