Nemotron 3.5 Lightning kombiniert Mamba-2-Schichten mit Attention und verteilt 31,6 Milliarden Parameter auf Experten. Bei einer Anfrage werden laut Modellkarte 3,6 Milliarden Parameter aktiv genutzt. Das Modell unterstützt bis zu eine Million Tokens Kontext und steht unter der Lizenz OpenMDW 1.1.
Nvidia positioniert es für häufige Tool-Aufrufe, Ergebnisprüfung und Delegation in lang laufenden Agenten. Der Artificial Analysis Index führt das Modell mit 24 Punkten. Die Modellkarte und Nvidia nennen außerdem eigene Benchmarks sowie einen Vergleich mit deutlich größeren Modellen.
In der Berichterstattung wird ein Durchsatz von fast 670 Tokens pro Sekunde genannt. Als Vergleich stehen dort rund 386 Tokens pro Sekunde für Gemini Flash-Lite und ein Vorsprung gegenüber größeren Modellen. Das sind veröffentlichte Vergleichswerte; Hardware, Quantisierung und Messbedingungen begrenzen ihre Übertragbarkeit.
Ein lokaler Test mit drei Aufgaben fiel schwach aus, betraf aber einen eigenständigen Modelllauf und nicht den von Nvidia vorgesehenen Router. Die Zahlen belegen deshalb vor allem die Architektur und Nvidias Zielrichtung: möglichst wenig aktive Parameter pro Schritt bei hoher Geschwindigkeit. Eine allgemeine Qualitätsaussage lässt sich daraus nicht ableiten.
Aktualisiert am 17. August 2026.