In der Pressemitteilung steht die Zahl mit voller Bezugsangabe: „Groq 3 LPX delivered a record 3,400 output tokens per second in Artificial Analysis benchmarking running Gemma 4 31B, an open source agentic model, with a 100,000-token context“ – dazu „4x faster responsiveness for agents and latency-sensitive workloads than the nearest alternative platform“. Erster Abnehmer ist der KI-Cloud-Anbieter Nebius: „Nebius is the first AI cloud to adopt NVIDIA Groq 3 LPX“, geplant für die Nebius Token Factory. Eine Angabe zur Zahl der eingesetzten Beschleuniger enthält die Mitteilung nicht.
Diese Lücke füllt The Register. Dort steht der Cerebras-Vergleichswert (882 Token je Sekunde „under the same conditions“) und die Relativierung: „Nvidia needs at least 64 chips“, wo Cerebras mit ein bis zwei Beschleunigern auskommt. Der Grund ist die Architektur – 500 MB SRAM je LPU; für DeepSeek V3 wären es „1,342 accelerators or just over 5 LPX racks“. Der Autor hält zudem fest, Nvidias Gemma-4-31B-Vergleich „may not age well“, weil Cerebras mit dem CS-4 bereits nachgelegt hat.
Zum Hintergrund: Nvidia hatte sich Ende Dezember die Groq-Technik gesichert – laut The Decoder für rund 20 Milliarden US-Dollar für die Groq-Lizenz, zusammen mit Gründer Jonathan Ross und Präsident Sunny Madra. Es ist dasselbe Muster wie bei Poolside: Lizenz plus Personal statt Übernahme.
Einordnung der Beleglage: Die 3.400 Token je Sekunde sind von Nvidia selbst berichtet, der Messende ist mit Artificial Analysis aber ein unabhängiger Dritter – so stellen es Nvidia und The Register übereinstimmend dar. Die Messseite von Artificial Analysis haben wir für diese Depesche nicht selbst eingesehen; die Zahl steht hier also auf zwei einander stützenden Referaten, nicht auf dem Messprotokoll.