Dieses Kapitel behandelt die Kosten von KI-Funktionen: wie Sprachmodelle und die Rechenleistung dahinter bepreist werden, wie die Anbieter und Cloud-Plattformen sie abrechnen und wie sich diese Kosten je Funktion und Kunde zuordnen, budgetieren und senken lassen. Es wendet die Grundlagen der übrigen Kapitel auf eine Kostenart an, die anders gemessen wird als Server und Speicher und oft auf einer anderen Rechnung steht.
Was dieses Kapitel behandelt
Die Disziplin bleibt FinOps; was sich ändert, sind die Messgrößen und die Datenquellen. Die FinOps Foundation führt FinOps für KI deshalb als eigene Technologiekategorie ihres Frameworks, neben Public Cloud, SaaS, Datenplattformen und Rechenzentrum. Der Grund ist derselbe, der dieses Kapitel trägt: KI-Kosten folgen eigenen Einheiten, schwanken mit Experimenten und kommen über mehrere Wege ins Unternehmen.
Der Abschnitt Einheiten beantwortet die Frage, wofür bei KI eigentlich bezahlt wird. Er erklärt, was ein Token ist und warum eine Anfrage den ganzen Kontext kostet, wie Preislisten der Modelle aufgebaut sind, was Training, Fine-Tuning und Inferenz jeweils kosten und wie GPU-Kapazität abgerechnet wird, wenn ein Modell auf eigener Infrastruktur läuft. Dort zahlt man nicht mehr je Token, sondern je Stunde Rechenzeit, und die Kostenfrage lautet dann, wie viel dieser Kapazität tatsächlich arbeitet.
Der Abschnitt Abrechnung beantwortet die Frage, wo diese Kosten landen. Direkt beim Modellanbieter gekauft, steht KI-Nutzung auf einer eigenen Rechnung, oft in US-Dollar und mit eigener Exportschnittstelle; über eine Cloud gekauft, erscheint sie auf der Cloud-Rechnung mit deren Zählern. Der Abschnitt beschreibt beide Wege und die Kosten, die ganz außerhalb der Cloud-Rechnung entstehen, etwa für KI-Werkzeuge und Assistenten, die per Kreditkarte oder Lizenzvertrag bezahlt werden und deshalb in keinem Abrechnungsexport einer Cloud stehen.
Der Abschnitt Praxis beantwortet die Frage, wie sich KI-Kosten steuern lassen. Er überträgt Zuordnung, Stückkosten und Budgets auf KI-Funktionen, zeigt, wie Retrieval, Vektordatenbanken und Agenten mit Werkzeugaufrufen die Kosten einer Anfrage vervielfachen können, und erklärt Caching, Batching und Routing zwischen Modellen als die Hebel, die am Preis je Token und an der Menge ansetzen. Im Mittelpunkt steht dabei die Frage, was eine einzelne Antwort oder ein erledigter Vorgang kostet und wer diese Kosten verantwortet.
Wichtige Begriffe
- Token: die Einheit, in der Sprachmodell-APIs Ein- und Ausgabe zählen und abrechnen.
- Unit Economics: Kosten je Anfrage, je Ergebnis oder je Kunde, die zeigen, ob eine KI-Funktion sich trägt.
- Kostenzuordnung: die Aufteilung von Anbieter- und Cloud-Kosten auf Funktionen, Teams und Kunden, hier über Projekte, Workspaces und API-Schlüssel.
- Budget: der Plan mit Verantwortung und Schwellenwerten, den Nutzungs- und Ausgabelimits der Anbieter nicht ersetzen.
- Anomalie: ein unerwarteter Kostenanstieg, bei KI oft ausgelöst durch wachsenden Kontext, Schleifen von Agenten oder ein neues Modell.
- FinOps: die Disziplin, deren Praxis dieses Kapitel auf KI-Ausgaben überträgt.
Benachbarte Kapitel
Das Kapitel folgt auf „Governance und Betriebsmodell“ und wendet dessen Rollen, Freigaben und Guardrails auf KI-Funktionen an, bei denen Experimente schnell zu laufenden Kosten werden. Zuordnung und Budgets selbst behandeln „Zuordnung und Verantwortung“ und „Budgets, Prognosen und Finanzen“; dieses Kapitel setzt sie voraus und zeigt, was sich bei Token, Anbieterrechnungen und Modellwechseln ändert. Danach folgt „Europa: Währung, Steuern und Souveränität“, das die Fragen aufnimmt, die eine Rechnung in US-Dollar von einem Anbieter außerhalb der Europäischen Union mit sich bringt. Alle Kapitel stehen im Handbuch.