Green AI im Mittelstand: Warum kleine KI-Modelle den größten Nachhaltigkeitseffekt haben

ChatGPT hat das Bild von KI geprägt: groß, rechenintensiv, energiehungrig. Doch dieses Bild trügt. Zumindest dann, wenn KI im Mittelstand nicht zur Schau gestellt, sondern zur Arbeit eingesetzt wird. Werkzeugüberwachung, Bedarfsplanung, Qualitätskontrolle: Für solche Aufgaben braucht es keine milliardenschweren Sprachmodelle, sondern maßgeschneiderte, schlanke Lösungen. Und die können tatsächlich Emissionen senken, Material sparen und nebenbei auch noch die Kosten drücken.

Peter Rolfes arbeitet beim  Green-AI Hub Mittelstand, einer vom Bundeswirtschaftsministerium geförderten Initiative, die Unternehmen dabei unterstützt, KI ressourceneffizient einzusetzen. Im Interview spricht er darüber, wie Nachhaltigkeitsverantwortliche nachhaltige von weniger nachhaltigen KI-Lösungen unterscheiden können, welche drei Kriterien bei der Rechenzentrumsauswahl wirklich zählen und warum saubere Datenhaltung der unterschätzte Gamechanger ist.

Der Green AI-Grundsatz: So klein wie möglich, so groß wie nötig

Herr Rolfes, der Green-AI Hub richtet sich an den Mittelstand, also an Unternehmen, die KI oft nicht selbst entwickeln, sondern einkaufen oder einsetzen. Was können diese Betriebe mit den Guidelines for Green AI konkret anfangen?
Für KMU, die selber keine KI entwickeln, können die Guidelines for Green AI vor allem eine Checkliste für die Anbieterbewertung sein. Sie können helfen gegenüber Dienstleistern die richtigen Fragen zu stellen um dauerhaft nachhaltige und effiziente Systeme zu realisieren. 

Ihre Pilotprojekte zeigen: Schon kleine KI-Anwendungen wie Werkzeugüberwachung oder Bedarfsplanung können spürbar Material und CO₂ einsparen. Wie erklären Sie jemandem, der an ChatGPT denkt, dass KI nicht zwingend ein Energiefresser ist?
Ich finde eine große Misskonzeption ist der Gedanke Generative KI = KI, aber KI vereint unglaublich viele verschiedene Möglichkeiten, die vor allem auch kleine spezialisierte Modelle beinhalten. Diese benötigen einen Bruchteil der Energie die große Sprachmodelle (wie bspw. ChatGPT) verwenden und benötigen teilweise nicht mal eine GPU. Eine der Grundsätze für Green AI ist „so klein wie möglich, so groß wie nötig“. Es sollte also immer versucht werden Probleme mit passenden Lösungen anzugehen und viele dieser Probleme, gerade im Mittelstand, lassen sich bereits bspw. mit klassischen Machine Learning Methoden lösen.

Sie unterscheiden in Ihrer Forschung zwischen „Sustainable AI" und „AI for Sustainability". Worum geht es da häufiger, und was wird zu oft im Mittelstand vernachlässigt?
Im Mittelstand steht meist die Frage im Vordergrund, wie KI Effizienz steigert, Abfall reduziert oder Energie spart, also KI als Werkzeug für Nachhaltigkeit. Der eigene Fußabdruck der KI-Lösung, also welches Modell gewählt wird und auf welcher Infrastruktur es läuft, wird dabei fast immer vernachlässigt. Dabei wären genau das die leicht beeinflussbaren Stellschrauben: kleinere Modelle, grüner Strom, effiziente Hardware, die keine tiefe KI-Expertise erfordern.

Nachhaltigkeitsverantwortliche in Unternehmen müssen KI-Lösungen zunehmend in ihre CSRD-Berichterstattung einbeziehen, etwa bei Scope-3-Emissionen oder Lieferkettendaten. Wie erkennen sie, ob die KI, die sie nutzen oder beauftragen, selbst nachhaltig ist?
Tatsächlich schwierig, da man hier auf die Transparenz der Dienstleister angewiesen ist. Mit Sicherheit kann man das nur sagen, wenn man selbst entwickelt hat. Dann kann beispielsweise der Energieverbrauch mit Tools wie Code Carbon gemessen und in der Entwicklung und dem Training vortrainierte Modelle verwendet werden.

Die Guidelines nennen die Rechenzentrumsauswahl als zentralen Hebel. Welche drei Kriterien sollte ein Unternehmen konkret prüfen, bevor es einen Cloud- oder KI-Dienstleister beauftragt?
Als erstes ist die Energiequelle des Rechenzentrums (Anteil erneuerbarer Energien, nicht nur Zertifikate) von hoher Relevanz. Ein PUE(Power Usage Effectiveness)-Wert von unter 1,4 gilt zudem als effizient. Letztlich ist eine effiziente Nutzung der Abwärme sehr wichtig.

Schlechte Datenqualität bedeutet mehr Rechenzeit und Energie

Hardware ist ein blinder Fleck in vielen Nachhaltigkeitsdiskussionen rund um KI. Woran erkenne ich als Einkäufer, ob Hardware-Versprechen substanziell sind oder nur Marketing?
Ein erster Indikator kann die Green 500 sein. Hier wird Hardware entsprechend ihrer Effizienz gelistet.

Der Green-AI Hub setzt stark auf Open Source und geteilte Lösungen. Inwiefern ist das auch ein Beitrag zu nachhaltigerer KI, jenseits von Ressourceneffizienz im engeren Sinne?
Open Source kann verhindern, dass viele Unternehmen dieselbe Lösung unabhängig voneinander entwickeln und dabei jeweils Rechenzeit, Energie und Entwicklungsaufwand verbrauchen. Gleichzeitig ermöglicht eine offene Codebasis, dass die Community Modelle kontinuierlich effizienter macht, wovon alle profitieren. Und weil Open-Source-Lösungen lokal betrieben werden können, entfällt oft die Abhängigkeit von großen Cloud-Infrastrukturen.

Viele KMU stehen vor dem Problem: Daten sind da, aber schlecht strukturiert oder kaum dokumentiert. Ihr nächster Workshop dreht sich genau darum. Wie hängen Datenqualität und ökologischer KI-Fußabdruck zusammen?
Schlechte Datenqualität zwingt Modelle zu mehr Trainingsiterationen, was direkt mehr Rechenzeit und Energie bedeutet. Fehlende Dokumentation führt dazu, dass Entwickler auf komplexere Modelle ausweichen, obwohl ein einfacheres gereicht hätte. Dabei ist saubere, gut strukturierte Datenhaltung der günstigste Hebel überhaupt, weil sie ansetzt, bevor das erste Modell trainiert wird.

Unternehmen haben Verpflichtung gegenüber Gesellschaft

Der Rebound-Effekt ist bekannt: KI optimiert einen Prozess, der Ressourcenverbrauch wächst anderswo. Haben Ihre Pilotprojekte das beobachtet und wie gehen die Guidelines damit um?
Ich würde sagen, sowohl in den Pilotprojekten als auch in den Guidelines wird der Rebound Effekt ähnlich behandelt. Vor Projektstart müssen Folgeabschätzungen durchgeführt werden, ob das geplante KI System unter Berücksichtigung möglicher Rebound Effekte einen tatsächlichen positiven Beitrag zur ökologischen / ökonomischen Nachhaltigkeit leistet. Es ist also vor allem wichtig den Rebound Effekt in allen Projektphasen zu beachten.

Bundesumweltminister Schneider hat sich im März persönlich am Stand des Green-AI Hub informiert. Wie viel politischer Rückenwind hilft und wo muss die Wirtschaft selbst liefern?
Es ist natürlich essentiell, dass die Politik weiter hinter der Initiative steht und uns dadurch ermöglicht das Thema KI in Kombination mit Nachhaltigkeit und Kreislaufwirtschaft in den Mittelstand zu tragen. Im Endeffekt haben aber die Unternehmen eine Verpflichtung gegenüber der Gesellschaft im Sinne der Kreislaufwirtschaft und Energieeffizienz zu investieren. Gerade im aktuellen Kontext der Abhängigkeit von Rohstoffen und Wettbewerbsfähigkeit ist das sehr relevant.