Nokia-Forscher machen offene Modelle zu Entscheidungsmodellen

AnyJev ordnet jeder Antwortoption einen Buchstaben zu und liest aus, wie wahrscheinlich das Modell jeden dieser Buchstaben als nächstes TokenTokenDie kleinste Verarbeitungseinheit eines Sprachmodells – ein Wortstück, kein ganzes Wort. Faustregel: rund 1.000 Tokens entsprechen grob 750 deutschen Wörtern. Preise und Kontextlängen werden in Tokens gerechnet.Mehr im Wissen → erzeugen würde. Das Modell schreibt also keinen Text, und die Antwort kann nicht an einem Formatfehler scheitern. Die Bibliothek arbeitet mit Hugging Face Transformers, vLLM, SGLang und llama.cpp, läuft also auch auf eigener Hardware. Laut Projektseite ist sie weder mit TypeSafe noch mit Jev verbunden.

Die Standardstufe L0 korrigiert zwei Verzerrungen, ohne ein gelabeltes Beispiel zu brauchen: Sie fragt die Optionen in allen zyklischen Reihenfolgen ab, damit keine von ihrer Position profitiert, und rechnet die Vorliebe des Modells für bestimmte Antwortbuchstaben heraus. Die angegebene Sicherheit kalibriert L0 laut Dokumentation nicht. Stufen, die das mit gelabelten Daten taten, hat Version 0.3.0 vom 6. Oktober wieder entfernt.

Als Autoren nennt das Projekt Forschende von Nokia in Sunnyvale, von Tencent Hunyuan und der Hong Kong Polytechnic University. Der technische Bericht erschien am 30. September auf arXiv und ist ausdrücklich ein Zwischenstand. Am 17. Oktober zählte das Repository 1.355 Sterne.

Einen ersten Vergleich veröffentlichte der YouTube-Kanal Better Stack. Bei 500 Schlagzeilen, je zur Hälfte Satire aus The Onion und echte Nachrichten, lag Jev zu 80 Prozent richtig; das lokal laufende Qwen3-8B kam ohne AnyJev auf 68,4, mit L0 auf 68,6 Prozent. Dafür änderte L0 keine einzige Antwort, wenn die Optionen vertauscht wurden. Ein Test mit einem kleinen Modell bleibt ein Stimmungsbild.