Alle Depeschen

DepescheModelleneu

Tencent veröffentlicht Hy3: Open-Weights-MoE mit 295 Mrd. Parametern unter Apache 2.0

Tencent hat am 6. Juli 2026 Hy3 freigegeben – ein Mixture-of-Experts-Sprachmodell mit 295 Mrd. Gesamtparametern, von denen pro Token nur 21 Mrd. aktiv sind (192 Experten, Top-8 aktiviert), plus 3,8 Mrd. MTP-Layer-Parameter. Das Modell steht unter Apache-2.0-Lizenz auf Hugging Face (ca. 598 GB in voller Größe, ~300 GB als FP8-Quantisierung) und ist bis 21. Juli 2026 kostenlos über OpenRouter erreichbar; die Kontextlänge beträgt 256K Token. Es folgt auf eine Hy3-Preview vom April 2026.

Laut Tencents Modellkarte ist Hy3 ein Mixture-of-Experts-Modell mit 295 Mrd. Gesamt- und 21 Mrd. aktiven Parametern; die Sparse-Architektur nutzt 192 Experten mit Top-8-Aktivierung, dazu kommen 3,8 Mrd. Parameter in einer MTP-Schicht (Multi-Token-Prediction). Die Kontextlänge liegt bei 256K Token, die Lizenz ist Apache 2.0. Auf Hugging Face liegt das volle Modell mit rund 598 GB, eine FP8-Quantisierung mit rund 300 GB; kostenlos ausprobieren lässt es sich bis zum 21. Juli 2026 über OpenRouter.

Tencent gibt als Benchmark-Werte u. a. SWE-bench Verified 78, SWE-bench Pro 57,9 und GPQA Diamond 90,4 an und berichtet in einer Blind-Expert-Bewertung 2,67/4 für Hy3 gegenüber 2,51/4 für GLM-5.1. Ferner nennt die Modellkarte interne Reduktionen der Halluzinationsrate (von 12,5 % auf 5,4 %) und der Commonsense-Fehler (von 25,4 % auf 12,7 %). Die Preview war im April 2026 erschienen; für die jetzige Version habe man Feedback aus über 50 Produkten eingearbeitet und das Post-Training mit höherwertigen Daten skaliert.

Einordnung: Sämtliche genannten Zahlen sind anbieter-selbstberichtet (Tencent, Tier A als Primärquelle für Existenz/Spezifikation, aber nicht neutral für Leistungsvergleiche) und wurden unabhängig noch nicht reproduziert; Vergleichsaussagen gegen „zwei- bis fünfmal größere Modelle“ sind entsprechend vorsichtig zu lesen. Belastbar ist der Release selbst: ein weiteres frei lizenziertes, sparsam aktiviertes Frontier-Kandidatenmodell aus China. Simon Willison hat den Release am selben Tag aufgegriffen.