KI-Training und Inferenz werden unterschiedlich abgerechnet: Training ist ein Lauf, der nach Beschleunigerstunden oder Trainingstoken bezahlt wird und endet; Fine-Tuning ist ein solcher Lauf plus der Betrieb des angepassten Modells; Inferenz kostet je Token oder Anfrage über eine API oder je Stunde auf einem Endpunkt oder reservierter Kapazität, solange das Modell bedient. Für die Kostenplanung zählt deshalb weniger, was ein Trainingslauf kostet, als welche Posten danach weiterlaufen, auch ohne eine einzige Anfrage.
So funktioniert es
Die drei Phasen haben eigene Einheiten. Ein Trainingsjob läuft auf Instanzen mit GPUs oder anderen Beschleunigern und wird nach Laufzeit berechnet, wie die Instanzen selbst (GPU-Kosten). Fine-Tuning über eine Modell-API kostet je Trainingstoken oder je Trainingsstunde; AWS und Google definieren die Trainingstoken als Token des Datensatzes mal Zahl der Epochen. Inferenz kostet über eine API je Token (Token, Anfragen und Kontext), auf eigenen Endpunkten je Instanz- oder Knotenstunde und mit bereitgestelltem Durchsatz je Einheit und Stunde (KI- und ML-Plattformdienste der Hyperscaler).
Bei den Modellanbietern selbst ändert sich das Angebot: OpenAI baut sein Self-Service-Fine-Tuning ab. Seit dem 2026-05-07 können Organisationen ohne bisheriges Fine-Tuning keine Jobs mehr anlegen, seit dem 2026-07-02 auch keine, die in den letzten 60 Tagen kein Fine-Tuning-Modell genutzt haben, und ab dem 2027-01-06 auch aktive Bestandskunden nicht mehr; Fine-Tuning-Modelle bleiben nutzbar, bis ihr Basismodell abgeschaltet wird. Die Preisliste nennt Training je Million Trainingstoken oder je Stunde und für die Inferenz nur Tokenpreise; Token, die ein Bewertungsmodell beim Reinforcement Fine-Tuning verbraucht, werden zu dessen Satz berechnet.
AWS
Trainingsjobs in Amazon SageMaker AI kosten wie die übrigen Instanzen des Dienstes nach Typ und Laufzeit, dazu ML-Speicher je GB und Monat. Ein Job mit Managed Spot Training wechselt nie auf On-Demand-Instanzen: Findet sich bis zur gesetzten Höchstwartezeit keine Spot-Kapazität, endet er. Checkpoints, die SageMaker in Amazon S3 ablegt, lassen einen unterbrochenen Job dort weitermachen, wo er stand. Die Preise von SageMaker HyperPod schließen verbundene Dienste wie Amazon EKS, FSx for Lustre und S3 nicht ein.
Amazon Bedrock berechnet Model Customization je 1.000 Trainingstoken (Supervised Fine-Tuning) oder je Trainingsstunde (Reinforcement Fine-Tuning), dazu Speicher je Modell und Monat. Bei Amazon-Nova-Modellen laufen mit parametereffizienten Verfahren angepasste Modelle on demand oder mit Provisioned Throughput zu den Preisen des Basismodells, vollständig feinjustierte nur mit Provisioned Throughput. Importierte Modelle (Custom Model Import) skalieren nach fünf Minuten ohne Aufruf auf null; wie sie abgerechnet werden, zeigt das Beispiel.
Azure
Training in Azure Machine Learning kostet nur die genutzten Ressourcen. Für Fine-Tuning in Microsoft Foundry nennt Microsoft drei Posten: Training je Token oder je Stunde, je nach Modell; Bereitstellung je Stunde und bereitgestelltem Modell, auch ohne Nutzung; Inferenz je Token. Beim Training gibt es die Typen Standard (in der Region der Ressource), Data Zone (nur US), Global (günstiger, Daten und Gewichte werden in die Trainingsregion kopiert) und Developer auf freier Kapazität, bei dem ein Job unterbrochen und später fortgesetzt werden kann. Die Bereitstellungsart Developer hat keine stündliche Gebühr, dient nur der Evaluation und endet nach 24 Stunden; Provisioned Throughput wird in PTU abgerechnet.
Google Cloud
Custom Training auf der Gemini Enterprise Agent Platform kann Spot VMs und Compute-Engine-Reservierungen nutzen; dann gelten Compute-Engine-Preise, bei Reservierungen samt Committed Use Discounts, plus eine Verwaltungsgebühr der Plattform. Tuning von Gemini-Modellen kostet je 1.000 Trainingstoken. Ab Gemini 3 kostet die Vorhersage auf dem Endpunkt eines getunten Modells das 1,5-Fache des Basismodells, bei älteren Gemini-Modellen dasselbe.
Was es für Ihre Kosten bedeutet
Training ist Projektarbeit mit Ende: Seine Kosten bestimmen Laufzeit, Datenmenge, Epochen und die Zahl der Versuche. Inferenz wächst mit der Nutzung und läuft, solange die Funktion lebt. Ein festes Verhältnis zwischen beiden nennt keiner der Anbieter. Entscheidend für den laufenden Betrieb ist, welche Posten auch ohne Anfragen anfallen:
| Phase und Kaufweg | Abrechnungseinheit | Kosten ohne Anfragen |
|---|---|---|
| Trainingsjob (SageMaker AI, Custom Training) | Instanz- oder Knotenzeit | nur, solange der Job läuft |
| Fine-Tuning über Bedrock oder Gemini | Trainingstoken oder Trainingsstunden | Bedrock: Speicher je Modell und Monat |
| Getuntes Modell in Foundry, Standard | Stunde je Bereitstellung plus Token | ja, die Stundengebühr |
| Angepasstes Modell in Bedrock | Token (on demand) oder Model Unit je Stunde | mit Provisioned Throughput ja |
| Getuntes Gemini-Modell ab Gemini 3 | Token zum 1,5-Fachen des Basismodells | laut Preisliste nein |
| Endpunkt auf eigenen Instanzen | Instanz- oder Knotenstunde | ja, bis er entfernt wird |
| Bereitgestellter Durchsatz | Einheit je Stunde | ja |
Ein Basis- und ein getuntes Modell sind daher nur mit allen Posten vergleichbar: Tokenpreis des getunten Modells plus Bereitstellungsgebühr je Stunde, geteilt durch die Anfragen dieser Stunde, gegen den Tokenpreis des Basismodells mit seinem meist längeren Prompt. Was die Tokenpreise je Modell ausmacht, beschreibt KI-Modellpreise und Preislisten.
Um das Modell herum fallen weitere Posten an: der Datensatz im Objektspeicher, Checkpoints, die bei SageMaker in S3 liegen, und Evaluationsläufe. Microsoft zählt in seiner Fine-Tuning-Übersicht weitere Trainingsrunden samt Bewertung und Evaluation zu den Kosten, die neben Bereitstellung und Inferenz einzuplanen sind. Diese Posten landen bei anderen Diensten als das Training und lassen sich nur über Tags oder Projekte dem Vorhaben zuordnen.
Wo es schiefgeht
- Eine getunte Bereitstellung läuft weiter. Eine Stundengebühr in Foundry, Model Units in Bedrock oder Knotenstunden eines Endpunkts laufen ohne Token-Zeilen weiter, oft nach dem Ende eines Experiments. Wie man solche Posten findet, beschreibt Ungenutzte und verwaiste Ressourcen; sie sind Leerlaufkosten.
- Basis- und getuntes Modell nur am Tokenpreis verglichen. Das getunte Modell wirkt günstiger, weil der kürzere Prompt zählt, die Bereitstellungsgebühr oder der Faktor 1,5 bei Gemini aber nicht.
- Training beginnt nach einer Unterbrechung von vorn. Ohne Checkpoints wiederholt ein unterbrochener Spot-Job seine bisherige Arbeit, und Managed Spot Training ohne Kapazität wartet, statt auf On-Demand zu wechseln. Wann sich Spot-Kapazität lohnt, steht in Spot Instances, Spot VMs und präemptive Kapazität.
- Experimente ohne Tags oder Projekte. Trainingsläufe, Speicher und Endpunkte verschiedener Versuche landen ununterscheidbar auf einem Konto, und niemand kann sagen, welcher Versuch was gekostet hat.
- Das Basismodell wird abgeschaltet. Ein getuntes Modell hängt am Lebenszyklus seines Basismodells; OpenAI schaltet Fine-Tuning-Modelle mit ihrem Basismodell ab, etwa die von GPT-4o und GPT-4.1 am 2027-01-14. Das Training fällt dann erneut an.
Beispiel
Listenpreise in USD, gelesen am 2026-10-16. Supervised Fine-Tuning von Gemini 3.1 Flash Lite auf der Gemini Enterprise Agent Platform kostet 0,003 USD je 1.000 Trainingstoken, also 3 USD je Million. Ein Datensatz mit D Millionen Token über E Epochen kostet damit 3 × D × E USD; doppelt so viele Epochen verdoppeln den Betrag. Ein mit Custom Model Import nach Bedrock gebrachtes Modell kostet in Europa (Frankfurt) 0,07144 USD je Custom Model Unit und Minute; ein aktives Fünf-Minuten-Fenster kostet damit 5 × 0,07144 = 0,3572 USD je Custom Model Unit, und hinzu kommen 1,95 USD Speicher je Custom Model Unit und Monat. Wie viele Units ein Modell braucht, legt Bedrock beim Import fest.
Quellen
Gelesen am 2026-10-16. AWS Amazon SageMaker AI pricing, Managed Spot Training, Checkpoints in Amazon SageMaker AI und Amazon Bedrock pricing; Microsoft Plan and manage costs for Microsoft Foundry, Fine-tuning overview und Azure Machine Learning pricing; Google Gemini Enterprise Agent Platform pricing und Preise für generative KI auf der Agent Platform; OpenAI Preise und Abkündigungen.