Was sich gegenüber Needle 1 geändert hat, ist mehr als die Parameterzahl. Der Vorgänger vom Mai war ein reines „Simple Attention Network“ ohne jede Feed-Forward-Schicht – „the entire model is just attention and gating, no MLPs anywhere“. Needle 2 holt die Mischschicht zurück, aber in einer Form, die fast keine lernbaren Parameter kostet: als Hadamard-MLP, also über eine feste mathematische Transformation statt über gelernte Matrizen. Dazu kommen ein Speichersystem, das Cactus „Engram“ nennt, und mehrspurige Residualströme. Die Maße laut Anbieter und unabhängiger Rezeption: 27 Lagen, Breite 512, Grouped-Query-Attention, 70 MFLOPs je Token – von den 45 Millionen Parametern sind nur rund 35 Millionen an Matrixmultiplikationen beteiligt. Die Lizenz wechselt von MIT auf Apache 2.0.
Die Benchmark-Tabelle vollständig, weil sie einzeln zitiert irreführt (Anbieterangaben, Vergleichsmodelle in f16, Needle 2 in CQ2-bit): Mobile Actions (961 Zeilen) – Gesamtgenauigkeit Needle 2 63,7 Prozent gegen LFM2.5 230M 69,1, FunctionGemma 270M 64,0 und Apple FM 57,6; Funktionsname allein 98,3 gegen 93,0, 87,3 und 94,2; nicht-leere Antworten 99,4 gegen 98,9, 98,9 und 95,5. Seal-Tools – In-Domain 32,6 gegen 26,9 und 16,3, Out-of-Domain 28,7 gegen 17,0 und 15,6; hier führt Needle 2 klar, und zwar auch außerhalb der Trainingsverteilung. BFCL v4 (3.641 Zeilen) – 42,6 gegen LFM2.5 60,8, Apple FM 61,7 und FunctionGemma 46,1. Das Bild ist also nicht „klein schlägt groß“, sondern: Auf dem Zuschnitt, für den es gebaut wurde, gewinnt es; auf allgemeinem Tool-Use verliert es deutlich.
Die Betriebszahlen, ebenfalls vom Anbieter: über 500 Token je Sekunde Dekodierung und über 800 beim Prefill auf einem Raspberry Pi 5, 400 bis 1.500 auf Meta Quest 3S und Apple Vision Pro, 300 bis 700 auf Budget-Smartphones der Samsung-A-Serie. Ausgeliefert wird als vorgebautes Binärprogramm und statische Bibliothek für macOS, Linux (x86-64, ARM64, ARMv7, RISC-V, MIPS32el), Windows, Android, iOS/watchOS/tvOS und WebAssembly – es gibt keine Laufzeitumgebung zu installieren und keinen Download zur Inferenzzeit. Als Produktionseinsatz nennt Cactus Pebble, das Needle lokal in der Index-01-App für Sprachbefehle ohne Netzverbindung fährt.
Eine unabhängige Praxis-Reproduktion liegt vor, und sie ist die härteste Probe auf die Größenangabe: Andras vom Kanal Better Stack hat Needle 2 auf einem ESP32-S3 zum Laufen gebracht – einem Mikrocontroller für rund zehn Dollar, ohne GPU, mit 8 Megabyte Flash – über eine selbst geschriebene Inferenz-Engine, deren Repository er verlinkt. Ergebnis: Die Tool-Aufrufe funktionieren, inklusive korrekter Argumente („lass ein violettes Licht sieben Sekunden leuchten“ wird zu Farbe violett, Modus dauerhaft, Dauer sieben) und inklusive korrekter Verweigerung außerhalb des Werkzeugsatzes – auf die Frage nach der Hauptstadt Frankreichs erzeugt das Modell einen leeren Aufruf statt einer erfundenen Antwort. Die Geschwindigkeit auf dieser Hardware ist allerdings eine andere Größenordnung als auf dem Raspberry Pi: rund 1,86 Token je Sekunde, etwa 40 Sekunden je Werkzeugaufruf. Ebenfalls von ihm beobachtet und für den Praxiseinsatz relevant: Needle 2 gibt zu jedem Aufruf einen Konfidenzwert aus, der in seinen Läufen zwischen 0,46 und hohen Werten schwankte – bei 0,46 traf das Modell die Zeitdauer richtig, den Modus aber falsch. ⚠️ Tier C, Einzelläufe eines Kanals mit offengelegtem Aufbau; wir führen sie als Reproduktion des Funktionsprinzips, nicht als Messung.
⚠️ Zur Beleglage: Anbieterseite und Hugging-Face-Karte haben wir selbst geöffnet und die Benchmark-Tabelle Zeile für Zeile gegengelesen; die unabhängige Rezeption von MarkTechPost vom 13. August nennt dieselben Zahlen und ergänzt die Architekturmaße. Ein Veröffentlichungsdatum nennt keine der drei Quellen – belegt ist nur, dass das Modell am 13. August 2026 bereits öffentlich war. Sämtliche Benchmark- und Durchsatzwerte sind anbieter-selbstberichtet; eine unabhängige Messung der Trefferquoten liegt nicht vor, und die Vergleichsbedingungen sind asymmetrisch: Die Konkurrenzmodelle laufen in voller 16-Bit-Genauigkeit über vLLM, Needle 2 in seiner 2-Bit-Form.