Kosten von LLM-Tool-Calls und Agentenschleifen

Ein LLM-Tool-Call, den Ihre Anwendung selbst ausführt, hat bei den Modellanbietern keinen eigenen Preis, er kostet Token: Die Werkzeugdefinitionen werden bei jeder Anfrage als Eingabe berechnet, der Aufruf, den das Modell schreibt, als Ausgabe und das Ergebnis als Eingabe der nächsten Anfrage. Zusätzliche Gebühren je Nutzung haben nur die serverseitigen Werkzeuge der Anbieter, etwa Websuche oder Codeausführung. Ein KI-Agent wiederholt diese Runde, bis seine Aufgabe erledigt ist, und schickt jedes Mal Systemprompt, Werkzeuge und den gewachsenen Verlauf mit. Die Kosten einer Aufgabe folgen deshalb der Zahl ihrer Schritte, nicht dem Preis einer Anfrage.

So funktioniert es

Die Schleife. Bei einem Werkzeug, das die Anwendung selbst ausführt, kostet jeder Aufruf eine weitere Anfrage: Das Modell nennt den Aufruf in seiner Antwort, die Anwendung führt ihn aus und liefert das Ergebnis mit der nächsten Anfrage. Bei Anthropic wiederholt sich das, solange eine Antwort mit stop_reason: "tool_use" endet; der Runner des OpenAI Agents SDK arbeitet genauso. Da ein Modell zwischen zwei Anfragen nichts behält, ist jede Runde eine vollständige Anfrage mit dem ganzen bisherigen Kontext, wie Token, Anfragen und Kontext erklärt. Serverseitige Werkzeuge laufen dagegen in einer Schleife beim Anbieter: Bei Anthropic kann eine Anfrage mehrere Suchen oder Codeausführungen umfassen; erreicht sie die Obergrenze an Iterationen, endet die Antwort mit pause_turn, und das Fortsetzen kostet eine weitere Anfrage mit dem ganzen Gespräch.

Was jede Runde berechnet.

• Definitionen. Namen, Beschreibungen und Schemata aller angebotenen Werkzeuge sind Eingabetoken jeder Anfrage; OpenAI legt Funktionsdefinitionen in die Systemnachricht, wo sie Kontext belegen und wie jede andere Eingabe bezahlt werden. Anthropic fügt einen eigenen Systemprompt für Werkzeuge hinzu, dessen Größe je Modell und tool_choice die Preisseite nennt.
• Aufruf. Was das Modell als Aufruf schreibt, ist Ausgabe und steht danach im Verlauf.
• Ergebnis. Es geht als Eingabe in die nächste Anfrage und bleibt im Verlauf, wird also in jeder weiteren Runde erneut berechnet.
• Gebühren. Serverseitige Werkzeuge kosten zusätzlich je Nutzung, zu den Listenpreisen in USD vom 2026-10-16 in der Tabelle. Anthropics Web Fetch und Googles URL Context kosten nur die Token der abgerufenen Inhalte.

Mehrere Agenten. Verteilt ein Agent Arbeit, vervielfachen sich die Anfragen. Im Claude Agent SDK wählt das Modell selbst, wann es Arbeit abgibt und an wie viele Subagenten; jeder stellt eigene API-Anfragen und kann seinerseits delegieren, sodass sich die Anfragen unter einem einzigen Prompt verzweigen. Das SDK begrenzt deshalb Verschachtelungstiefe, gleichzeitige Subagenten und Ausgaben. Ein Subagent beginnt mit eigenem Kontext und gibt nur seine letzte Nachricht zurück: Das hält den Verlauf des Hauptagenten kurz, aber jeder Subagent bringt eigene Anweisungen und Werkzeuge mit. Mehrere Aufrufe in einer Runde ersparen dagegen Runden; OpenAI lässt sie mit parallel_tool_calls abschalten, Gemini kennt parallele und verkettete Funktionsaufrufe.

MCP-Server. Ein Server nach dem Model Context Protocol bringt seine ganze Werkzeugliste in die Anfrage. OpenAI ruft die Liste zuerst ab, empfiehlt, sie im Kontext zu behalten, und warnt, dass viele Werkzeuge eines Servers zu hohen Kosten und Latenz führen; allowed_tools importiert nur eine Auswahl. Anthropics MCP Connector schaltet einzelne Werkzeuge ein oder aus und lädt sie auf Wunsch erst bei Bedarf. Wie Assistenten über MCP an Kostendaten kommen, beschreibt KI-Assistenten und MCP.

Definitionen bei Bedarf. OpenAIs Tool Search (ab gpt-5.4) und Anthropics Tool Search Tool mit defer_loading laden eine Definition erst, wenn das Modell das Werkzeug sucht. OpenAI rät zu weniger als 20 Funktionen zu Beginn einer Runde, Google zu höchstens 10 bis 20 aktiven Werkzeugen.

Was es für Ihre Kosten bedeutet

Weil jede Runde den Verlauf erneut schickt, wachsen die Eingabetoken einer Aufgabe schneller als die Zahl ihrer Schritte. Mit B Token für Systemprompt, Definitionen und Auftrag und r Token, die jede Runde an Aufruf und Ergebnis anhängt, enthält Runde i B + (i − 1) × r Eingabetoken, eine Aufgabe mit n Runden also n × B + r × n × (n − 1) / 2. Doppelt so viele Runden kosten mehr als doppelt so viel Eingabe, und große Ergebnisse treiben den zweiten Summanden. Den stabilen Anfang aus Systemprompt und Definitionen verbilligt LLM-Caching, Batching und Routing.

Die Kosten je Anfrage sagen bei Agenten deshalb wenig. Gemessen wird je erledigter Aufgabe, wie Stückkosten je Anfrage und Ergebnis zeigt, und Grenzen setzt man je Aufgabe, wie Budgets und Stoppregeln für KI beschreibt. Eine Prüfreihenfolge für einen Agenten:

1. Schritte je Aufgabe, als Verteilung, nicht als Mittelwert.
2. Definitionstoken je Anfrage, gezählt mit der Token-Zählung des Anbieters.
3. Ergebnistoken je Werkzeug: welche Ergebnisse groß sind und im Verlauf bleiben.
4. Gebühren je Aufgabe: Suchen und Containerzeit.
5. Wiederholte und fehlgeschlagene Runden als eigener Anteil.
6. Anteil gecachter Eingabe an allen Eingabetoken.

Wo es schiefgeht

• Keine Schrittgrenze. Eine Aufgabe, die nicht zum Ende findet, ruft weiter Werkzeuge auf, und jede Runde kostet mehr als die vorige. Die Ursache: keine Obergrenze. Das OpenAI Agents SDK bricht nach max_turns Runden ab, das Claude Agent SDK begrenzt Tiefe, Gleichzeitigkeit und Ausgaben.
• Große Ergebnisse bleiben im Kontext. Eine Datei oder Trefferliste wird in jeder folgenden Runde wieder bezahlt. Die Ursache: Ergebnisse werden nie gekürzt. Anthropics Context Editing entfernt alte Werkzeugergebnisse ab einer Schwelle, macht dabei aber den gecachten Präfix ungültig und löst neue Cache-Schreibvorgänge aus; clear_at_least sorgt dafür, dass genug auf einmal entfernt wird.
• Jedes Werkzeug in jeder Anfrage. Die Definitionen mehrerer MCP-Server stehen in jeder Runde, obwohl die Aufgabe zwei Werkzeuge braucht. Die Ursache: Alles wird vorab geladen statt gefiltert oder bei Bedarf.
• Fehlerhafte Aufrufe werden mehrfach bezahlt. Ein Aufruf mit fehlenden Parametern kostet mehrere Runden. Die Ursache: Laut Anthropic versucht das Modell es nach einer Fehlermeldung zwei- bis dreimal mit Korrekturen, jedes Mal mit dem ganzen Kontext; strikte Werkzeugschemata (strict: true) verhindern solche Aufrufe.
• Die SDK-Schätzung gilt als Rechnung. Die Kosten im Bericht weichen von der Rechnung ab. Die Ursache: Das Claude Agent SDK berechnet total_cost_usd lokal aus Preisen, die es mitbringt, und Anthropic sieht darin keine Abrechnungsdaten; maßgeblich sind die Nutzungsexporte der KI-Anbieter.

Quellen

Gelesen am 2026-10-16. Anthropic Preise, So funktioniert Tool Use, Werkzeugaufrufe verarbeiten, Tool Search Tool, Context Editing, MCP Connector, Subagenten im Agent SDK und Kosten im Agent SDK; OpenAI Preise, Function Calling, MCP-Server und Agents SDK: Agenten ausführen; Google Preise der Gemini API, Function Calling und Grounding mit der Google Suche.