Alle Depeschen

DepescheForschung

MIT-Studie: Diffusionsbilder oft nicht auf Trainingswerk zurückführbar

Zheng Dai und David Gifford zeigen in Nature Communications, dass sich Ausgaben von Bild-Diffusionsmodellen mit wachsender Trainingsmenge oft nicht mehr auf ein einzelnes Trainingswerk zurückführen lassen. In 24 Ensembles mit bis zu mehr als 160.000 Bildern schrumpfte ihr „counterfactual radius“ nach einem inversen Potenzgesetz. Das Ergebnis betrifft Bildmodelle, nicht Sprachmodelle.

Für den Test bauten die Forschenden Ensembles aus vielen kleinen Diffusionsmodellen mit überlappenden Datenausschnitten. Um den Einfluss eines Bildes zu prüfen, schalteten sie die Komponenten ab, die es gesehen hatten. Zur Kontrolle trainierten sie 1.282 Einzelmodelle neu und verglichen die resultierenden Bilder.

Der counterfactual radius misst den größten Abstand zwischen einer Originalausgabe und einer Variante, in der ein Trainingsstück fehlt. Über 24 Ensembles auf sieben öffentlichen Sammlungen von 256 bis mehr als 160.000 Bildern schrumpfte dieser Wert mit wachsender Datenmenge. Das gleiche Muster erschien beim Entfernen aller Bilder einer Person oder des Werks einer Kunstschaffenden.

Die Studie misst damit eine Veränderung der Ausgabe, keine rechtliche Zulässigkeit des Trainings. Sie untersucht Bild-Diffusionsmodelle und öffentliche Datensätze, nicht Sprachmodelle oder kommerzielle Trainingsläufe. Die Veröffentlichung nennt Nature Communications, Band 17 und Artikel 6974; die MIT-Seiten datieren sie um einen Tag unterschiedlich.