Was KI an Rechenleistung, Speicher und Energie braucht
KI braucht Rechenleistung und muss große Datenmengen bewegen. Wie viel Energie eine Aufgabe kostet, hängt von Modell, Hardware, Auslastung und Umfang ab. Training und laufende Nutzung sind getrennte Kostenblöcke. Pauschale Angaben wie „so viel Strom pro Frage“ helfen nur, wenn die zugrunde liegende Aufgabe bekannt ist.
2 Min. Lesezeit
7 Abschnitte
13 Quellen
Stand: 16. Juni 2026
Training und Nutzung getrennt betrachten
Beim Training werden Modellgewichte angepasst. Bei der InferenzDer laufende Betrieb eines fertig trainierten Modells – das Erzeugen von Antworten auf Anfragen. Anders als das einmalige Training fällt Inferenz bei jeder Nutzung an.Mehr im Wissen → berechnet das fertige Modell Antworten. Ein Trainingslauf kann viel Energie verbrauchen; wie groß sein Anteil am gesamten Lebenszyklus ist, hängt aber davon ab, wie häufig und lange das Modell danach genutzt wird.
Ein festes Verhältnis wie „90 Prozent für Inferenz“ lässt sich nicht auf jedes Modell übertragen. Für deinen eigenen Betrieb sind Anfragezahl, Antwortlänge und Laufzeit unmittelbar relevant; die Trainingskosten des Anbieters stehen nicht als eigener Posten auf deiner Stromrechnung.
Leistung ist nicht Energie
Megawatt beschreiben elektrische Leistung, Megawattstunden eine Energiemenge. Ein rechnerisches Beispiel: Eine Anlage, die 24 Stunden durchgehend 10 MW aufnimmt, verbraucht 240 MWh. Ohne Laufzeit lässt sich aus einer Leistungsangabe kein Energieverbrauch ableiten.
Bei veröffentlichten Trainingsschätzungen musst du außerdem die Systemgrenze kennen. Sind nur Beschleuniger erfasst oder auch Kühlung und weitere Infrastruktur? Wurden Vorversuche und fehlgeschlagene Läufe mitgezählt? Werte mit verschiedenen Grenzen sind nicht direkt vergleichbar.
Was wachsende Rechenbudgets aussagen
Epoch AI untersucht historische Trends des Trainingsaufwands. Solche Reihen beschreiben die ausgewählten Modelle und den beobachteten Zeitraum. Sie sind keine Zusage, dass die gleiche Wachstumsrate künftig anhält.
Rechenoperationen, Chipzahl, Stromverbrauch und Kosten wachsen zudem nicht zwingend gleich schnell. Effizientere Hardware kann mehr Rechenarbeit je Watt leisten, während eine stärkere Nutzung den Gesamtverbrauch erhöht. Beides muss getrennt gemessen werden.
Neuronale Netze benötigen viele Matrixoperationen. GPUs können solche Berechnungen parallel ausführen; Googles TPUs sind dafür spezialisierte Beschleuniger. Welche Hardware wirtschaftlich arbeitet, hängt auch von Softwareunterstützung, Speicher und Auslastung ab.
Eine Spitzenangabe in Rechenoperationen pro Sekunde beschreibt deshalb noch nicht das Antworttempo. Prüfe die konkrete Modellkonfiguration, Zahlpräzision und Zahl gleichzeitiger Anfragen. Anbieterwerte für verschiedene Aufgaben ergeben keinen fairen Chipvergleich.
Bei der Textausgabe müssen Modellgewichte und Zwischenergebnisse verfügbar sein. Der KV-Cache hält bereits berechnete Informationen aus dem Kontext vor. Je nach Architektur, Kontextlänge und Parallelität kostet er erheblichen Speicher und Datentransport.
Ob Speicherbandbreite oder Rechenleistung begrenzt, hängt vom Arbeitsschritt ab. Das Einlesen eines langen Prompts und die anschließende Ausgabe einzelner Tokens können unterschiedliche Engpässe haben. Es gibt daher keine allgemeine wirtschaftliche Kontextgrenze von 100.000 oder 200.000 Tokens.
MerksatzMiss Einlesezeit, Ausgabetempo und Speicherverbrauch getrennt. Eine einzige Geschwindigkeitszahl erklärt den Betrieb nicht.
Rechenzentren brauchen mehr als Beschleuniger: Speicher, Netzwerktechnik, Stromanschlüsse, Kühlung und passende Fertigungskapazitäten. Welche Komponente knapp ist, verändert sich nach Region, Zeitraum und Projekt.
Die These, allein die Chipfertigung oder allein Strom sei der entscheidende Engpass, ist deshalb zu grob. Bei Ausbauplänen ist zu unterscheiden, ob Kapazität angekündigt, bestellt, gebaut oder tatsächlich in Betrieb ist.
Neuromorphe Systeme orientieren sich an Eigenschaften biologischer Nervensysteme, etwa ereignisgesteuerter Verarbeitung. In-Memory-Computing verfolgt das verwandte Ziel, Rechenarbeit näher an den Speicher zu bringen. Die Ansätze überschneiden sich, sind aber nicht identisch.
Memristive Bauteile sind eine mögliche technische Grundlage für speichernahe Berechnungen. Daraus folgt noch kein Ersatz für heutige Sprachmodell-Hardware. Vergleiche mit dem Energieverbrauch eines Gehirns sind ohne dieselbe Aufgabe und Messgrenze wenig aussagekräftig.