NVIDIA Nemotron 3 Ultra: offenes 550-Mrd.-MoE für lang laufende Agenten
NVIDIA hat Nemotron 3 Ultra veröffentlicht – ein vollständig offenes 550-Mrd.-MoE-Modell (55 Mrd. aktiv) für lang laufende Agenten, mit hybrider Mamba-Transformer-Architektur und 1-Mio.-Token-Kontext. Offengelegt sind nicht nur die Gewichte, sondern auch Trainingsdaten und -Rezepte.
✓ Aussagen gegen die Quellen geprüft · 9. Juli 2026
Nemotron 3 Ultra erschien am 4. Juni 2026: ein MoE (Mixture of Experts)Architektur, bei der je Anfrage nur ein Teil des Modells („Experten“) aktiv wird. So hat das Modell sehr viele Gesamt-Parameter, rechnet aber nur mit wenigen aktiven – das spart Rechenzeit.Mehr im Wissen → mit 550 Mrd. Gesamt- und 55 Mrd. aktiven ParameterDie im Training gelernten „Stellschrauben“ eines Modells (gezählt in Milliarden). Mehr Parameter heißt grob mehr Kapazität, aber auch mehr Rechen- und Speicherbedarf – und sagt allein wenig über die Qualität.Mehr im Wissen → (rund 10 % je Token). Die Architektur ist ein hybrides Mamba-Transformer-Design mit eingebauter MTP (Multi-Token-Prediction)Das Modell sagt pro Schritt mehrere Tokens auf einmal voraus statt nur eines – ein Beschleuniger, der oft mit Speculative Decoding zusammenspielt.Mehr im Wissen → und einem 1-Mio.-Token-KontextfensterDie maximale Textmenge (in Tokens), die ein Modell pro Anfrage gleichzeitig „im Blick“ hat – Eingabe plus bisheriger Verlauf. Ist es voll, fällt Älteres aus dem Kontext.Mehr im Wissen →; die Basis ist ein Vortraining auf rund 10 Billionen Tokens, ergänzt um 212 Mrd. weitere.
Anders als die meisten „offenen“ Modelle veröffentlicht NVIDIA Gewichte, Trainingsdaten und Rezepte zusammen. Für die Bereitstellung setzt NVIDIA auf NVFP4-Quantisierung, die laut NVIDIA architekturübergreifend bis zum fünffachen Durchsatz liefert; verfügbar ist das Modell u. a. über Perplexity, OpenRouter und build.nvidia.com.
Bei Benchmarks nennt NVIDIA u. a. PinchBench (rund 91 %, führend unter open-weightModell, dessen trainierte Gewichte öffentlich herunterladbar sind, sodass man es selbst (lokal oder auf eigener Hardware) betreiben kann. Nicht zwingend vollständig quelloffen – die Lizenz bestimmt die erlaubte Nutzung.Mehr im Wissen →); Anthropics Opus 4.8 bleibt insgesamt vorn – ein Over-Claim ist das also nicht. Da es sich um Anbieter-Eigenbenchmarks handelt, sind die Zahlen vor einer Übernahme in den Katalog gegen einen unabhängigen Index (Artificial Analysis) zu prüfen.