Laut Microsoft soll der Maia 300 rund 40 Prozent mehr Token pro Megawatt liefern als führende GPU-basierte Systeme. Gegenüber dem Vorgänger Maia 200 nennt das Unternehmen mehr als die 2,5-fache Leistung pro Watt; ein Rack mit 96 Beschleunigern soll bis zu siebenmal so viele Token verarbeiten wie eines mit Maia 200. Alle Werte sind anbieter-selbstberichtet.
Die Rechen-Chiplets fertigt TSMC im N2P-Verfahren. Jeder Beschleuniger trägt 288 GB HBM4-Speicher mit 18 TB/s Bandbreite und nimmt bis zu 950 Watt auf, ein Rack kommt auf 167 Kilowatt. Für die Berechnung setzt Microsoft auf eine erweiterte Fassung von MXFP4, einem 4-Bit-Zahlenformat für schnelle Inferenz.
Der Vorgänger Maia 200 bedient laut Microsoft bereits Microsoft Copilot; GitHub Copilot und die Entwicklerplattform Microsoft Foundry sollen bis Jahresende folgen. Darauf laufen OpenAI-Modelle, Microsofts eigene MAI-Modelle und offene Modellfamilien. Microsoft-AI-Chef Mustafa Suleyman begründete den Schritt damit, dass man in dieser Größenordnung eine eigene, gemeinsam mit den Modellen entworfene Plattform brauche.
Unabhängige Einschätzungen liegen bislang nur als Analystenzitate vor, die Microsoft selbst verbreitet, darunter von Pat Moorhead, der den Chip als wichtigen Hebel für Microsofts Marge bezeichnet.