Alle Depeschen

DepescheWerkzeuge

Hugging Face bringt 207 WebGPU-Kernel in den Browser

Hugging Face veröffentlichte am 1. September 2026 die Vorabversion von @huggingface/kernels. Die Bibliothek lädt optimierte WebGPU-Rechenkerne aus dem Hub und führt sie im Browser aus; zum Start gibt es 207 Kernel. In einem Anbieterbenchmark auf einer Apple-M4-GPU waren sie im geometrischen Mittel 2,57-mal schneller als ORT WebGPU, verglichen wurden 809 von 1.756 Testfällen.

Die Kernel liegen als einzelne Repositories in der Hub-Organisation webgpu-kernels und stehen laut Ankündigung unter Apache-2.0. Die Laufzeit lädt sie bei Bedarf für einzelne Operationen nach. In der ausgewerteten Matrix waren 629 Fälle schneller, 176 langsamer und vier gleich schnell als bei ORT WebGPU.

Der Mittelwert fasst sehr unterschiedliche Operationen zusammen. Für Matrixmultiplikation nennt Hugging Face nur einen Faktor von 1,14; sie bestimmt einen großen Teil der Transformer-Inferenz. Die Messung fand auf einer einzigen GPU statt und ließ Aufsetzkosten wie Laden, Shader-Kompilierung und Rückgabe der Ergebnisse außen vor. Das npm-Paket ist eine Vorschauversion.

Die Veröffentlichung macht WebGPU-Kernel zu austauschbaren Hub-Artefakten. Ob sich die gemessenen Vorteile in einer konkreten Browseranwendung zeigen, hängt von GPU, Browser, Modell und ausgewählten Operationen ab. Die Geschwindigkeitswerte sind Anbieterangaben und noch nicht unabhängig repliziert.