DiffusionGemma beginnt mit Platzhalter-Token und verfeinert einen Block von bis zu 256 Token. Anders als autoregressive Modelle hängt es nicht jedes Token nacheinander an, sondern kann frühere Stellen während der Überarbeitung erneut verändern.
Google nennt mehr als 1.000 Token pro Sekunde auf einer NVIDIA H100 und mehr als 700 auf einer GeForce RTX 5090. Der Vorteil sei besonders bei lokaler Nutzung mit wenigen gleichzeitigen Anfragen sichtbar.
Das Mixture-of-Experts-Modell umfasst 26 Milliarden Parameter, davon etwa 3,8 Milliarden aktiv pro Inferenzschritt, und passt laut Google in 18 GB VRAM. Gewichte stehen unter Apache 2.0 auf Hugging Face; das Modell bleibt experimentell.
Aktualisiert am 16. Juni 2026.