Alle Depeschen

DepescheModelle

Liquid AI beschleunigt LFM2.5 mit kleinen Entwurfsmodellen

Liquid AI hat am 20. August 2026 die LFM2.5-DSpark-Reihe veröffentlicht. Die rund 300 Millionen Parameter großen Entwurfsmodelle schlagen Token vor, die ein größeres LFM2.5-Modell prüft. Der Anbieter misst bis zu 3,18-fache Geschwindigkeit auf einer H100 und 2,87-fache auf einem M4 Max. Die Modellkarte nennt niedrigere Mittelwerte; die Ausgabe soll unverändert bleiben.

Beim spekulativen Dekodieren erzeugt ein kleines Entwurfsmodell mehrere Token auf Verdacht. Das Zielmodell prüft sie in einem Vorwärtsdurchlauf und übernimmt nur den gemeinsamen Präfix. Nach dieser Konstruktion ändert sich die Ausgabe bei gieriger Dekodierung nicht; eingespart werden vor allem Durchläufe.

Die Modelle sind auf LFM2.5 zugeschnitten. Das 2,6B-DSpark-Modell hat laut Modellkarte 327,7 Millionen Parameter und nutzt fünf vollständige Attention-Schichten. Liquid AI testete unter anderem auf MATH500, HumanEval, MBPP, GSM8K und MT-Bench.

Der Bestwert von 3,18-fach stammt aus einem einzelnen H100-Lauf mit LFM2.5-8B-A1B auf MATH500; auf einem M4 Max wurden bis zu 2,87-fach gemessen. Die Modellkarten nennen als Mittelwerte 2,67-fach auf der H100 und 2,27-fach auf dem M4 Max. Alle Beschleunigungswerte sind Anbieterangaben.