Ausufernde KI-Kosten: Wie das Controlling die Kostentreiber der KI in den Griff bekommt

Das Problem: Budgets ohne Obergrenze

Aktuell häufen sich die Meldungen, das viele Unternehmen ihre KI-Budgets massiv überschreiten. Das Phänomen betrifft nicht nur Konzerne, sondern auch den Mittelstand. 

Die ausufernden KI-Kosten sind die logische Folge nutzungsbasierter Preismodelle und von extensiven Einsatz agentischer Systeme. Das Controlling ist die Funktion, die diese Mechanik beherrschen muss. Wer die KI-Kostentreiber versteht, kann die Ressource KI planen, kontrollieren und steuern und macht aus einem unkalkulierbaren Kostenblock einen gezielt eingesetzten Werttreiber. Bereits eine simple Steuerung via Kosten-Cap signalisiert Knappheit der verfügbaren KI und setzt den Anreiz, die technischen Möglichkeiten zur Tokenreduktion einzusetzen. Insbesondere wird der Anreiz gesetzt, die Toolwahl zu reflektieren und KI zur Problemlösung nur auszuwählen, wenn sie einen Mehrwert erbringt.

Das eigentliche Problem ist nicht der Preis, sondern das Abrechnungsmodell: KI wird nutzungsbasiert nach Tokens abgerechnet. Zwar sind die Preise pro eine Million Tokens für kleine Modelle in den letzten Jahren drastisch gefallen, Spitzenmodelle für komplexe Aufgaben werden dagegen immer teurer. Angesichts der großen Preisspanne sprengen nicht gesteuerte KI-Anwendungen die Budgets. Für das Controlling bedeutet das: Kostenkontrolle und Maßnahmen aufzeigen.

Die sechs Kostentreiber der KI

Wirksame Steuerung beginnt mit der Analyse der Kostentreiber. Sechs Mechanismen treiben die KI-Kosten:

1. Agentische Workflows. Autonome KI-Agenten verketten viele Verarbeitungsschritte ohne menschliches Zutun und verbrauchen das Vielfache an Tokens gegenüber klassischen Chat-Anwendungen. Sie sind der größte einzelne Kostentreiber.
2. AI First. Unreflektierte KI-Anwendung führt dazu, dass selbst deterministische Aufgaben mit KI gelöst werden oder etablierte Software-Tools ignoriert werden, die gar kein KI benötigen.
3. Kontextvolumen. Lange Prompts, mitgeschleppte Konversationshistorien und große Dokumentenkontexte erhöhen den Input-Tokenverbrauch bei jeder einzelnen Anfrage, oft unbemerkt.
4. Modellwahl. Wird standardmäßig das leistungsstärkste Modell genutzt, entstehen für Routineaufgaben Kosten, die um einen hohen Faktor über dem Notwendigen liegen.
5. Dezentrale Beschaffung und Shadow AI. Fachbereiche abonnieren Tools eigenständig und Mitarbeitende nutzen private KI-Dienste. Es entsteht ein intransparenter Flickenteppich aus Verträgen und Verbräuchen ohne konsolidierte Kostensicht.
6. Versteckte Folgekosten. Die Kosten für Datenaufbereitung, Integration, Governance und Compliance werden systematisch unterschätzt.

Diese Kostentreiber wirken zusammen: Ein autonomer Agent mit üppigem Kontext auf dem teuersten Modell, beschafft am zentralen Einkauf vorbei, vereint alle Kostenrisiken in einem einzigen Workflow. Genau deshalb reicht es nicht, an einer Stellschraube zu drehen, gefragt ist ein systematisches KI-Kostenmanagement.

Handlungsempfehlungen zur Kostensteuerung

Aus den Kostentreibern leiten sich sieben konkrete Maßnahmen ab, die zusammen einen geschlossenen Steuerungskreislauf bilden:

1. Transparenz herstellen. Vollständige Inventur aller KI-Anwendungen, Verträge und Verbräuche, inklusive Shadow AI. Der Tokenverbrauch wird nach User, Anwendung und KI-Use Case erfasst.
2. Treiberbasiert budgetieren. Die Planung basiert auf Nutzungsmustern und Adoptionstrends statt auf Vergangenheitswerten, ergänzt um Kontingenzreserven für versteckte Folgekosten.
3. Verursachungsgerecht verrechnen. Die interne Zuordnung der KI-Kosten auf User, Anwendung und KI-Use Cases schafft Kostenbewusstsein in den Fachbereichen. Ein monatlicher Kosten-Cap schafft einen wirksamen Anreiz für einen bewussten Umgang und reflektierten Einsatz von KI, um Aufgaben kosteneffizient zu lösen.
4. AI Second. Bei deterministischen Aufgaben kann KI beim initialen Aufsetzen unterstützen oder die Ausführung auslösen, die tatsächliche Ausführung übernimmt ein hinterlegter Programmiercode und keine KI. Weiter die KI anweisen, zunächst eine Lösung durch Generierung von Programmiercode zu versuchen, bevor das kreative Potential von teuren Reasoning-Modellen zum Einsatz kommt.
5. Agenten begrenzen. Kostenobergrenzen pro Auftrag, Limits für Iterationsschleifen und Echtzeit-Monitoring verhindern, dass einzelne Workflows unbemerkt hohe Beträge verbrauchen. Kompressionstools reduzieren den für KI bestimmten Inhalt und sparen damit 20-30% der Input- und (sehr teuren) Outputtokens ein.
6. ROI konsequent prüfen. Jeder KI-Use Case wird am Wertbeitrag gemessen. Unwirtschaftliche Anwendungen werden gestoppt. Die Leitfrage lautet: Ab welchem Punkt übersteigen die Token-Kosten den Wert der Arbeit, die sie ersetzen?
7. Verbrauch aktiv steuern. Die folgenden Maßnahmen senken die Token-Kosten deutlich:

• Modell-Routing setzt für Routineaufgaben kostengünstige Modelle ein.
• Verschlankte Prompts reduzieren den Tokenverbrauch.
• Caching sorgt dafür, dass bei wiederkehrenden Aufgaben nur Promptänderungen vom Sprachmodell neu verarbeitet werden.
• Batch-Verarbeitung bündelt Aufgaben, wenn keine Echtzeitverarbeitung erforderlich ist.
• Allein die systematische Modellwahl spart signifikant KI-Kosten.

Fazit

Treiberbasierte Budgetierung und neue Kennzahlen wie Kosten pro Anfrage oder Kosten-Cap pro User, Anwendung und KI-Use Case sowie Maßnahmenunterstützung gehören damit ins Standardrepertoire jeder Controlling- und Finanzfunktion. CFOs und Controller, die diese Kompetenz jetzt aufbauen, positionieren sich als unverzichtbare Sparringspartner der KI-Transformation.