DepescheForschung18. August 2026

MIT in Nature Communications: Ab einer bestimmten Trainingsmenge lässt sich ein erzeugtes Bild keinem einzelnen Werk mehr zuschreiben

Zheng Dai und David Gifford (MIT CSAIL) haben in Nature Communications die Arbeit „Outputs of generative diffusion models are often unattributable“ veröffentlicht (Bd. 17, Artikel 6974). Statt ein Modell für jeden Weglass-Versuch neu zu trainieren, bauen sie ein „diffusion ensemble“ aus vielen kleinen Komponenten, die je einen eigenen, überlappenden Datenausschnitt gesehen haben – ein einzelnes Bild zu entfernen heißt dann, die Komponenten abzuschalten, die es gesehen haben. Über 24 Ensembles auf Datensätzen von 256 bis über 160.000 Bildern aus sieben öffentlichen Sammlungen schrumpft der von ihnen definierte „counterfactual radius“ mit wachsender Datenmenge entlang eines inversen Potenzgesetzes. Dasselbe Muster ergab sich, als sie alle Bilder einer Person bzw. das gesamte Werk einer Künstlerin oder eines Künstlers als je eine Einheit entfernten.

Der methodische Kern ist ein Kostenproblem. Der saubere Test, ob ein bestimmtes Trainingsbild eine Ausgabe beeinflusst hat, lautet: Bild entfernen, Modell von Grund auf neu trainieren, Ausgabe vergleichen. Das ist einmal teuer und für jedes Bild eines großen Datensatzes unbezahlbar. Dais und Giffords Antwort ist das „diffusion ensemble“: viele kleine Komponenten, jede auf einem eigenen Ausschnitt des Materials trainiert. Wer wissen will, was ohne ein bestimmtes Bild herauskäme, schaltet die Komponenten ab, die es gesehen haben – kein Nachtrainieren, keine Näherung. Zur Kontrolle haben sie denselben Test im Kleinen mit roher Gewalt wiederholt und dafür 1.282 einzelne Modelle trainiert.

Die Messgröße heißt „counterfactual radius“ und ist nach Darstellung des MIT „the distance between the original and its most different alternate“ – also der größtmögliche Beitrag, den irgendein einzelnes Trainingsstück zu einer konkreten Ausgabe geleistet haben kann. Für jede erzeugte Aufnahme bauten sie Alternativfassungen, denen je ein Trainingsbild fehlte, und maßen deren Abstand zum Original.

Der Befund ist eine Kurve, kein Einzelwert: Über 24 Ensembles auf Datensätzen von 256 bis über 160.000 Bildern aus sieben öffentlichen Sammlungen – benannt sind CIFAR-10, CelebA, MetFaces und ArtBench – schrumpft der Radius mit wachsender Datenmenge „along an inverse power law“. Entscheidend ist die Wiederholung auf gröberer Ebene: Auch als das Team alle Fotos einer Person bzw. das gesamte Œuvre einer Künstlerin oder eines Künstlers als je eine Einheit behandelte und entfernte, ergab sich dasselbe Muster. Ein Beispieldatensatz bestand aus gemeinfreien Werken von 744 Kunstschaffenden.

Die Einordnung des Autors selbst bleibt nüchtern: „If you take away a piece of data and the output doesn’t change, then that piece didn’t affect the output“ (Zheng Dai). Was das rechtlich bedeutet, entscheidet die Arbeit nicht – sie verschiebt nur die Beweislastfrage. Zu beachten ist der Zuschnitt: Gemessen wurden Bild-Diffusionsmodelle auf öffentlichen Sammlungen, nicht Sprachmodelle und nicht die Größenordnung kommerzieller Trainingsläufe. Die Datumsangabe geht in den MIT-eigenen Veröffentlichungen um einen Tag auseinander (MIT News: 18.08., MIT EECS: 19.08.2026); Titel, Autoren, Zeitschrift, Band und Artikelnummer sind über die Crossref-API des DOI bestätigt.