Liquid AI legt 300-Millionen-Entwurfsmodelle nach: bis zu 3,18-fache Ausgabegeschwindigkeit bei unveränderter Ausgabe
Liquid AI hat am 20. August 2026 die Reihe LFM2.5-DSpark veröffentlicht: kleine Entwurfsmodelle (295,7 bis 327,7 Millionen Parameter, als Safetensors und GGUF) für spekulatives Dekodieren der eigenen LFM2.5-Modelle. Dabei schlägt das kleine Modell Token vor, die das große in einem einzigen Durchlauf prüft. Die vom Anbieter selbst gemessenen Werte: auf einer H100 bis zum 3,18-Fachen (LFM2.5-8B-A1B auf MATH500, 428 auf 1362 Token pro Sekunde), auf einem MacBook mit M4 Max über Metal bis zum 2,87-Fachen (LFM2.5-2.6B auf MT-Bench, 325 auf 933 Token pro Sekunde); die Modellkarte des 2,6B-Entwurfsmodells nennt als Mittelwerte 2,67-fach auf der H100 und 2,27-fach auf dem M4 Max.
Zum Verfahren: Beim spekulativen Dekodieren erzeugt ein kleines, schnelles Entwurfsmodell mehrere Token auf Verdacht; das eigentliche Zielmodell prüft diesen Vorschlag in einem einzigen Vorwärtsdurchlauf und übernimmt die Präfixe, die es selbst so erzeugt hätte. Liquid AI beschreibt es als „using a lightweight draft model to produce candidate tokens, then having the target model verify them all in a single forward pass“. Weil nur akzeptiert wird, was das Zielmodell ohnehin ausgegeben hätte, bleibt das Ergebnis gleich – der Gewinn liegt darin, dass mehrere Token pro Durchlauf herauskommen statt eines.
Die Entwurfsmodelle sind auf die LFM2.5-Architektur zugeschnitten; die Modellkarte des LFM2.5-2.6B-DSpark nennt 327,7 Millionen Parameter (BF16), fünf vollständige Attention-Schichten, eine versteckte Größe von 2048 und Grouped-Query Attention, mit LiquidAI/LFM2.5-2.6B-Base als Basis. Die Akzeptanzraten hat Liquid AI über MATH500, HumanEval, MBPP, GSM8K und MT-Bench gemessen; die Beschleunigung fällt je nach Aufgabe unterschiedlich aus und ist bei stark strukturiertem Text am höchsten.
Zur Einordnung der Kopfzahl: Die im Titel des Anbieterbeitrags genannten „bis zu 3,2x“ sind der Bestwert eines einzelnen Laufs – LFM2.5-8B-A1B auf MATH500 auf einer H100 – und nicht der Durchschnitt. Wer die Modelle lokal einsetzt, sollte sich an den Mittelwerten der Modellkarten orientieren.