Token, Anfragen und Kontext

Sprachmodell-APIs rechnen in Token ab: Jede Anfrage bezahlt die Token des gesamten Kontexts, den sie an das Modell schickt, zum Eingabepreis und die Token, die das Modell zurückschreibt, zum Ausgabepreis. Auf der Rechnung bestimmt deshalb nicht die Zahl der Anfragen die Kosten, sondern ihre Länge in beide Richtungen, und diese Länge wächst mit Gesprächsverlauf, abgerufenen Dokumenten und Werkzeugdefinitionen, ohne dass die eigentliche Frage länger wird.

So funktioniert es

Ein Token ist ein Textfragment, das der Tokenizer des Modells erzeugt: ein Wort, ein Wortteil, ein Satzzeichen oder ein Leerzeichen mit Wortanfang. Die Anbieter nennen grobe Faustregeln für englischen Text. OpenAI gibt etwa vier Zeichen oder drei Viertel eines Wortes je Token an, Google für Gemini ebenfalls etwa vier Zeichen, sodass 100 Token ungefähr 60 bis 80 englischen Wörtern entsprechen. Anthropic hält fest, dass die Tokenzahl vom Tokenizer des Modells und vom Inhalt abhängt; eine Faustregel für andere Sprachen nennt keiner der drei Anbieter. Ein deutscher Prompt lässt sich deshalb nicht mit der englischen Faustregel schätzen; Anthropic und Google bieten Zählfunktionen, die die Eingabetoken einer Anfrage für ein bestimmtes Modell vorab ermitteln.

Abgerechnet wird nach Preisliste, mit Sätzen je Million Token, getrennt nach Art:

• Eingabetoken: alles, was die Anfrage mitschickt, zum Basispreis für Eingabe.
• Ausgabetoken: alles, was das Modell erzeugt, auf allen drei Preislisten zu einem Vielfachen des Eingabepreises.
• Gecachte Eingabetoken: Ein wiederholter Anfang der Anfrage, das Präfix, kann aus einem Cache gelesen werden, zu einem Bruchteil des Eingabepreises. Anthropic berechnet für das Schreiben in den Cache einen Aufschlag, OpenAI schaltet Caching für unterstützte Modelle standardmäßig ein und führt Cache-Schreibvorgänge als eigene Spalte, Google berechnet zusätzlich eine Speichergebühr je Million Token und Stunde.
• Reasoning- oder Thinking-Token: Token, die ein Modell beim Nachdenken vor der Antwort erzeugt, abgerechnet als Ausgabe. OpenAI dokumentiert, dass sie über die API nicht sichtbar sind, aber Platz im Kontextfenster belegen; Googles Ausgabepreis schließt sie ein, und Anthropic meldet in jeder Antwort, wie viele der berechneten Ausgabetoken auf das Denken entfielen.
• Batch: asynchrone Verarbeitung ohne sofortige Antwort, auf allen drei Preislisten zu niedrigeren Sätzen.

Das Kontextfenster ist die Obergrenze dessen, was Anfrage und Antwort zusammen umfassen dürfen. Ein Modell behält zwischen zwei Anfragen nichts: Systemprompt, Werkzeugdefinitionen, der bisherige Verlauf und abgerufene Dokumente kommen jedes Mal neu mit, und alles wird erneut als Eingabe berechnet. Anthropic beschreibt zusätzlich, dass neuere Modelle die Thinking-Blöcke früherer Runden im Kontext behalten und als Eingabe berechnen. Die Länge kann auch den Satz ändern: OpenAI berechnet Eingaben über 272.000 Token als langen Kontext, Google verlangt für Gemini-Pro-Prompts über 200.000 Token mehr, Anthropic für Claude Haiku 5.5 über 100.000 Token.

Neben Text gibt es weitere gemessene Einheiten. Google rechnet ein Bild bis 384 Pixel Kantenlänge in 258 Token um, größere Bilder in 258 Token je Kachel von 768 × 768 Pixeln, und Audio in 32 Token je Sekunde. Anthropic fügt jeder Anfrage mit Werkzeugen einen Systemprompt hinzu, bei Claude Opus 5.5 sind es 286 Token, und berechnet serverseitige Werkzeuge wie die Websuche je Nutzung zusätzlich zu den Token, die ihre Ergebnisse in den Kontext bringen.

Was es für Ihre Kosten bedeutet

Die Kosten einer Anfrage sind Eingabetoken mal Eingabepreis plus Ausgabetoken mal Ausgabepreis, wobei Cache-Lesen, Cache-Schreiben und Batch jeweils ihren eigenen Satz haben. Jeder Hebel setzt an einem Faktor an:

• Kontextlänge: Jeder Absatz Systemprompt, jede Runde Verlauf und jedes abgerufene Dokument wird bei jeder Anfrage bezahlt.
• Ausgabelänge: Ausgabe ist der teurere Satz und enthält Reasoning, das niemand liest; eine Ausgabeobergrenze (max_tokens, max_output_tokens) begrenzt sie.
• Caching: Ein stabiles Präfix, das viele Anfragen teilen, wird einmal geschrieben und danach günstig gelesen.
• Batching: Was nicht sofort beantwortet werden muss, kostet im Batch weniger.
• Modellwahl: Die Sätze verschiedener Modelle eines Anbieters liegen weit auseinander, und mit dem Modell kann sich der Tokenizer ändern.

Die Nutzungsdaten der Anbieter weisen diese Faktoren als getrennte Zähler aus. OpenAI meldet gecachte Token und Cache-Schreibvorgänge innerhalb der Eingabe und Reasoning-Token innerhalb der Ausgabe, Google meldet Eingabe, Ausgabe, Thinking, Cache und Werkzeugnutzung einzeln. Ein Kostenbericht, der nur Anfragen zählt, erklärt deshalb wenig: Zwei Funktionen mit gleich vielen Anfragen können sehr unterschiedlich viel kosten, und eine Funktion kann teurer werden, ohne dass eine Anfrage hinzukommt. Aussagekräftig werden Stückkosten erst je Token-Art und je Anfrage, als Unit Economics einer Funktion. Woher diese Zahlen je Projekt und Schlüssel kommen, beschreibt Abrechnung der KI-Anbieter.

Wo es schiefgeht

• Der Kontext wächst unbemerkt. Die Kosten je Gespräch steigen schneller als die Zahl der Nachrichten, weil jede Anfrage den ganzen Verlauf mitschickt und eine Suche über eigene Dokumente bei jeder Frage dieselben langen Treffer in den Kontext legt, ob sie gebraucht werden oder nicht.
• Die Ausgabe hat keine Grenze. Einzelne Anfragen kosten ein Vielfaches der übrigen, durch ausführliche Antworten oder viel Reasoning ohne Obergrenze. OpenAI beschreibt auch den umgekehrten Fall: Wird eine zu knappe Grenze schon beim Nachdenken erreicht, sind Eingabe- und Reasoning-Token bezahlt, ohne dass eine sichtbare Antwort entsteht.
• Caching wird erwartet, wo sich das Präfix ändert. Der Cache-Anteil bleibt niedrig, weil ein Treffer verlangt, dass das gesamte Präfix exakt übereinstimmt. Ein Zeitstempel oder Nutzerdaten am Anfang machen jede Anfrage zum Fehltreffer, bei Anthropic auch eine geänderte Thinking-Einstellung, und wo das Schreiben einen Aufschlag kostet, wird es dann teurer als ganz ohne Cache.
• Ein Modellwechsel bringt einen neuen Tokenizer oder Satz. Nach dem Upgrade steigen die Kosten bei unveränderten Prompts. Anthropic dokumentiert, dass sein Tokenizer ab Claude 4.7 für denselben Text etwa 30 Prozent mehr Token erzeugt, und rät, Prompts mit dem neuen Modell neu zu zählen.
• Gezählt werden Anfragen statt Token. Prognosen aus Anfragen mal Durchschnittskosten liegen daneben, sobald sich Prompts, Verlauf oder Modell ändern, denn die Anfrage ist keine Kosteneinheit.

Beispiel

Listenpreise je Million Token in USD, gelesen am 2026-10-15. Claude Sonnet 5.5 über die Claude API mit globaler Verarbeitung (Standard, ohne den Aufschlag für reine US-Verarbeitung); Gemini 3.1 Pro Preview über die Gemini API, kostenpflichtige Stufe, Prompts bis 200.000 Token.

Anthropic dokumentiert die Cache-Sätze als Vielfache des Eingabepreises: das 1,25-Fache für fünf Minuten, das Doppelte für eine Stunde und für Cache-Treffer bei Claude Sonnet 5.5 das 0,05-Fache; beide Anbieter nennen für Batch 50 Prozent Ermäßigung. Oberhalb von 200.000 Token Prompt-Länge kostet Gemini 3.1 Pro Preview 4,00 USD Eingabe und 18,00 USD Ausgabe.

Quellen

Gelesen am 2026-10-15. OpenAI Preise, Token und Kontextfenster, Prompt-Caching und Reasoning-Modelle; Anthropic Preise, Token counting und Extended Thinking; Google Preise der Gemini API und Token verstehen und zählen.