OpenAI hatte Jalapeño am 24. Juni 2026 zusammen mit Broadcom vorgestellt – als ASIC, der ausschließlich Inferenz rechnet, nicht Training. Auf der Hot-Chips-Konferenz zeigte das Unternehmen nun laut TechCrunch „a more detailed look“ und erstmals Zahlen. Grundlage ist InferenceX, das laufende Open-Source-Benchmarking-Projekt von SemiAnalysis, das Durchsatz je GPU, Latenz (Token je Sekunde und Nutzer), Kosten je Million Token und „Tokens per Provisioned Megawatt“ misst. Getestet wurde nach der SemiAnalysis-Auswertung auf DeepSeek R1, Kimi-K2.5 und GPT-OSS.
Die konkreteste Einzelzahl, die wir in einer abrufbaren Fassung belegt bekommen haben, ist DeepSeek R1 bei Nebenläufigkeit 1: „over 700 tokens per sec per user“. TechCrunch selbst nennt gar keine Zahlen, sondern nur die Richtung – „more tokens per user and more throughput per kilowatt than the currently available state-of-the-art inference processors“ – und ein Zitat von OpenAIs Hardware-Vizepräsident Richard Ho, die Ergebnisse zeigten „a very, very significant performance advance over state of the art“. OpenAIs eigener Beitrag „Jalapeño’s first results …“ ist für uns nicht abrufbar (HTTP 403, wie openai.com generell); die dort vermutlich stehenden Faktoren für Arbeit je Watt und Latenz konnten wir deshalb an keiner Quelle prüfen und führen sie hier nicht.
Die interessantere Information steht in der Auswertung des Benchmark-Betreibers. SemiAnalysis schreibt einerseits „We verified the InferenceX runs in person in the lab“, andererseits aber ausdrücklich: „First, all numbers are provided to us by OpenAI.“ Und zum Bezugssystem: „Second, we believe that comparison to Blackwell is somewhat incomplete and unfair. Jalapeño is really competing against chips like Rubin.“ Das heißt: Der Vorsprung, den OpenAI zeigt, wird gegen GB200 NVL72 gemessen – gegen die Generation, die Nvidia gerade ablöst. Der Beitrag ist zur Hälfte hinter einer Bezahlschranke; die Passage zu den Folgen für Nvidia, AMD und Cerebras haben wir nicht gelesen.
Widersprüchlich sind auch die Wattangaben: Aus zwei Abrufen derselben SemiAnalysis-Seite haben wir einmal „700 W TDP je Compute-Die“ und einmal eine Nennleistung von 700 W bei gemessenen 550 W erhalten. Wir führen deshalb keine Wattzahl. Ebenso ungeklärt bleibt der Kimi-K2.5-Wert, für den uns zwei einander widersprechende Angaben vorlagen.