xAI verklagt erstmals einen eigenen Nutzer – wegen mit Grok erzeugter Missbrauchsdarstellungen

Der Fall hat eine strafrechtliche Vorgeschichte. Harwood wurde im Februar 2026 festgenommen; die Generalstaatsanwaltschaft von South Carolina machte die Festnahme am 9. März 2026 im Rahmen der Internet Crimes Against Children Task Force öffentlich. Die Anklage lautet auf drei Fälle sexueller Ausbeutung Minderjähriger zweiten Grades und fünf Fälle dritten Grades. Die zivilrechtliche Klage von xAI kommt also nach dem strafrechtlichen Zugriff, nicht an dessen Stelle.

Inhaltlich stützt sich xAI auf einen Verstoß gegen die eigenen Nutzungsbedingungen. Laut der übereinstimmenden Berichterstattung schildert die Klageschrift, dass Harwood Grok aufforderte, die hochgeladenen Fotos „in a pornographic manner or otherwise sexualizing them“ zu verändern oder daraus neue Bilder und Videos zu erzeugen – in einem geschilderten Fall die Aufforderung, einem zehn- bis elfjährigen Mädchen auf einem Foto die Kleidung zu entfernen. Dass Grok wiederholt ablehnte und der Nutzer daraufhin die Eingaben anpasste, bis das Modell nachgab, ist dabei xAIs eigene Darstellung.

Zur Belegtiefe: Die Klageschrift selbst liegt uns nicht öffentlich verlinkt vor; die Angaben stammen aus zwei unabhängigen Rezeptionen (Engadget, ComputerBase), die beide auf den Reuters-Bericht und die Klageschrift zurückgehen und in den Kernpunkten übereinstimmen. Beim Einreichungsdatum weichen die Quellen leicht ab – genannt werden der 14. und der 15. Juli 2026 –, weshalb wir hier nur „Mitte Juli 2026“ mit dem gesicherten Reuters-Berichtsdatum 15. Juli 2026 führen. Der Ausgang des Verfahrens ist offen; die Vorwürfe sind bislang Behauptungen der Klägerin.