Alle Depeschen

DepescheModelleneu

Inkling Small: ein Indexpunkt hinter dem eigenen Flaggschiff – mit knapp einem Drittel der Parameter

Thinking Machines Lab hat am 30. Juli 2026 sein zweites offenes Modell veröffentlicht: Inkling Small, ein Mixture-of-Experts-Modell mit 276 Milliarden Gesamtparametern, davon 12 Milliarden je Token aktiv, unter Apache 2.0 auf Hugging Face. Artificial Analysis misst dafür 40 Punkte im Intelligence Index – einen Punkt hinter dem zwei Wochen zuvor erschienenen Flaggschiff Inkling (41), das mit 975 Milliarden Gesamt- und 41 Milliarden aktiven Parametern mehr als dreimal so groß ist. Nach der Messung von Artificial Analysis erreicht kein offenes Modell dieser Größe oder darunter einen höheren Indexwert.

Die unabhängige Messung: Artificial Analysis führt Inkling Small mit 40 Punkten im Intelligence Index, gegenüber 41 für Inkling. Die Parameterrelation dazu: 276 Milliarden gesamt und 12 Milliarden aktiv gegen 975 Milliarden gesamt und 41 Milliarden aktiv – nach Formulierung von Artificial Analysis „weniger als ein Drittel der Gesamtparameter und der aktiven Parameter“. Die Einordnung im offenen Feld: Kein Open-Weights-Modell dieser Größe oder kleiner erreicht laut derselben Auswertung einen höheren Indexwert. Die Preise auf der Artificial-Analysis-Modellseite: 0,30 US-Dollar je Million Eingabe-Token, 1,20 US-Dollar je Million Ausgabe-Token.

Die Token-Effizienz, gemessen an derselben Aufgabenmenge: Inkling Small erzeugte im Schnitt rund 24.000 Ausgabe-Token je Index-Aufgabe. Inkling lag bei rund 25.000, DeepSeek V4 Flash (max) bei rund 45.000 und GPT-5.4 mini (xhigh) bei rund 78.000. Das ist kein Fähigkeitsmaß, sondern ein Kostenmaß – und in agentischen Schleifen, in denen ein Modell dieselbe Aufgabe über viele Züge bearbeitet, der Posten, der die Rechnung bestimmt.

Die Architektur laut Modellkarte (Primärquelle): ein 42-Lagen-Decoder-only-Transformer mit dünnbesetztem Mixture-of-Experts-Rückgrat – „each token is routed to 6 of 256 experts, plus 2 shared experts“. Gewichte in BF16 und NVFP4. Die Eingabe ist multimodal (Text, Bilder, Audio als WAV mit 16 kHz), die Ausgabe reiner Text. Lizenz Apache 2.0. ⚠️ Eine Abweichung legen wir offen: Die Modellkarte des Labors nennt ausdrücklich „a context window of up to 1M tokens“, Artificial Analysis führt das Modell dagegen mit einem 256K-Token-Fenster. Welche Zahl den ausgelieferten Endpunkt beschreibt und welche die Modellfähigkeit, geht aus keiner der beiden Quellen hervor; wir führen beide.

Wie der Sprung zustande kam, beschreibt das Labor selbst: eine veränderte Datenmischung im Vortraining, On-Policy-Destillation mit Inkling als Lehrermodell und zwei Wochen zusätzliches Reinforcement Learning auf agentisches Programmieren. Trainiert wurde auf NVIDIA-GB300-NVL72-Systemen. Die vom Labor berichteten Benchmark-Werte (anbieter-selbstberichtet, unabhängig nicht reproduziert) liegen in mehreren Disziplinen über denen des größeren Vorgängers: SWE-Bench Verified 80,2 gegen 77,6 Prozent, GPQA Diamond 89,5 gegen 87,2, Humanity’s Last Exam (nur Text) 31,6 gegen 29,7. Weiter nennt die Tabelle SWE-Bench Pro 55,9, Terminal Bench 2.1 64,7, AIME 2026 95,5 und IFBench 82,2 Prozent.

Der Vergleichsrahmen derselben Tabelle – ebenfalls Anbieterangabe – stellt Inkling Small neben Qwen3.5 397B, DeepSeek V4, Claude Haiku 4.5 und GPT-5.6 Luna. Gegen die offenen Konkurrenten liegt es bei SWE-Bench Verified vorn (80,2 gegen 76,4 und 79,0), gegen GPT-5.6 Luna deutlich zurück (93,0); bei Terminal Bench 2.1 ist der Abstand größer (64,7 gegen 82,5). Bei GPQA Diamond liegen Inkling Small und GPT-5.6 Luna gleichauf bei 89,5 Prozent. Verfügbar sind die Gewichte auf Hugging Face; ausprobieren lässt sich das Modell im Tinker Playground des Labors.

Einordnung zum Vorgänger: Inkling war Mitte Juli als 975-Milliarden-Modell erschienen, ausdrücklich als Rohstoff zur Feinjustierung und nicht als stärkstes verfügbares Modell. Inkling Small dreht dieselbe Wette auf die Betreibbarkeit: Wer die These des Labors teilt, dass gezielt angepasste Modelle große Allzweck-Modelle auf engen Aufgaben schlagen, braucht ein Fundament, das sich überhaupt betreiben lässt. Offen bleibt, wie sich der Abstand außerhalb der Index-Aufgaben verhält – die agentische Coding-Phase im Nachtraining war gezielt auf einen Teil dieses Spektrums gerichtet.