← Alle Tipps

Tipp Nr. 05 · Kosten

Output-Tokens sind der Kostentreiber

Output kostet meist ein Mehrfaches des Inputs. Kurze, präzise Antworten sparen real Geld.

Problem Die API-Rechnung ist höher als erwartet, obwohl die Eingaben kurz sind.

So geht’s

  1. Begrenze die Antwortlänge bewusst – verlange Stichpunkte statt Aufsätze, wenn das reicht.
  2. Vermeide es, lange Kontexte unnötig oft mitzusenden; gib nur die wirklich relevanten Informationen.
  3. Behalte im Blick, dass Token-Zahlen vom Tokenizer abhängen und zwischen Modellgenerationen nicht eins zu eins vergleichbar sind.

Weitere Tipps