Was wird aus menschlicher Urteilskraft, wenn KI übernimmt?

Künstliche Intelligenz ist längst im Nachhaltigkeitsbereich angekommen. Nachhaltigkeitsberichte werden mit generativer KI strukturiert. Wesentlichkeitsanalysen vorbereitet. Förderanträge formuliert. Kommunikationskampagnen optimiert. Lieferketten analysiert. Präsentationen erstellt. Studien ausgewertet. Strategiepapiere verdichtet.

Nachhaltigkeitsabteilungen profitieren stark von diesen Entwicklungen. Viele Teams arbeiten mit begrenzten Ressourcen und gleichzeitig hoher Komplexität. KI kann hier enorme Entlastung schaffen. Wissenszugänge werden demokratischer. Aufgaben, für die früher ganze Teams notwendig waren, lassen sich teilweise deutlich effizienter bearbeiten.

Meiner Meinung nach wird die aktuelle KI-Debatte häufig erstaunlich oberflächlich geführt: Oft geht es vor allem um Produktivität, Beschleunigung und Effizienz. Weniger Aufmerksamkeit erhalten dagegen Fragen nach Verantwortung, gesellschaftlichen Nebenwirkungen oder langfristigen Auswirkungen auf menschliche Urteilskraft, Aufmerksamkeit und soziale Systeme. Dabei sind genau solche Fragen Nachhaltigkeitsverantwortlichen eigentlich sehr vertraut. Denn Nachhaltigkeit bedeutet seit jeher, nicht nur kurzfristige Effekte zu betrachten, sondern langfristige Wechselwirkungen mitzudenken. Und genau deshalb wird es spannend, KI nicht nur als Technologiethema, sondern auch als Nachhaltigkeits-, Governance- und Gesellschaftsthema zu betrachten.

Im Nachhaltigkeitskontext sind Prinzipien wie Vorsorge, Verantwortung und Verursacherhaftung seit Jahrzehnten etabliert. Gesellschaften sollen Risiken nicht erst dann ernst nehmen, wenn Schäden unumkehrbar geworden sind. Gleichzeitig basiert modernes Umweltrecht zunehmend auf der Idee, dass Akteure Verantwortung für die Folgekosten ihres Handelns übernehmen sollen, statt Risiken dauerhaft auf Gesellschaft oder zukünftige Generationen zu externalisieren. Genau diese Fragen stellen sich heute erneut im Umgang mit KI- und Plattformsystemen.

Mentale Gesundheit – die Rolle der Plattformen

Als Plattformen wie Facebook, Instagram oder TikTok massiv wuchsen, standen zunächst vor allem Skalierung, Reichweite und Nutzerbindung im Vordergrund. Erst Jahre später wurde breiter sichtbar, welche psychologischen und gesellschaftlichen Nebenwirkungen bestimmte Plattformlogiken möglicherweise erzeugen.

Besonders Meta geriet dabei zunehmend unter Druck. Interne Dokumente, die unter anderem durch die Whistleblowerin Frances Haugen öffentlich wurden, deuteten darauf hin, dass unternehmenseigene Forschende negative Auswirkungen von Instagram auf das Selbstbild und die psychische Gesundheit junger Nutzerinnen beobachtet hatten. Jedoch wurden Systeme weiter optimiert, die möglichst viel Aufmerksamkeit, emotionale Aktivierung und Nutzungszeit erzeugen sollten. Manche Jurist:innen und Regulierungsfachleute sprechen inzwischen bereits vom „neuen Tabak“, wenn sie über bestimmte Formen algorithmisch optimierten Short-Form-Contents diskutieren. Dahinter steht weniger ein direkter Vergleich der Produkte als die Frage, wie Gesellschaften mit Technologien umgehen, deren langfristige Auswirkungen auf Gesundheit und Verhalten möglicherweise erst Jahre später vollständig sichtbar werden.

Der Sozialpsychologe Jonathan Haidt verweist in The Anxious Generation auf zahlreiche internationale Studien, die seit den frühen 2010er Jahren deutliche Anstiege von Angststörungen, Depressionen, Einsamkeit und Selbstverletzungen bei Jugendlichen zeigen, parallel zur massiven Verbreitung smartphonesbasierter sozialer Medien. Besonders bei Mädchen stiegen depressive Symptome und psychische Belastungen teilweise dramatisch an.

Mit generativer KI könnte sich diese Entwicklung nun weiter beschleunigen. Denn KI-Systeme beeinflussen nicht mehr nur, welche Inhalte Menschen sehen. Sie werden zunehmend selbst zu Gesprächspartnern, Orientierungssystemen, Feedbackgebern und emotionalen Begleitern. Reuters berichtete zuletzt über die wachsende Verbreitung sogenannter AI Companions und die Sorge von Forschenden, dass insbesondere junge Menschen emotionale Bindungen, Regulation und soziale Resonanz zunehmend in digitale Systeme verlagern könnten.

Noch wissen wir wenig darüber, welche langfristigen Auswirkungen dies auf Konzentrationsfähigkeit, Selbstregulation, Beziehungsfähigkeit oder demokratische Diskursfähigkeit haben wird. Genau deshalb werden Vorsorge- und Verantwortungsprinzip plötzlich hochaktuell.

Wer trägt die Kosten der negativen Effekte von KI-Nutzung?

Vrantwortungsvolle Governance bedeutet nicht nur, Innovation möglichst schnell zu skalieren. Sie bedeutet auch, frühzeitig mitzudenken, welche gesellschaftlichen Nebenwirkungen entstehen könnten. Und genau hier wird auch die Frage nach Haftung interessant. Wenn Plattformen und KI-Systeme nachweislich Aufmerksamkeit, Verhalten oder psychische Dynamiken beeinflussen, stellt sich langfristig die Frage, wer Verantwortung für mögliche gesellschaftliche Folgekosten trägt. Wer trägt Verantwortung, wenn Systeme bewusst auf maximale emotionale Aktivierung optimiert werden? Wenn junge Menschen nachweislich unter bestimmten Dynamiken leiden? Wenn algorithmische Systeme Polarisierung, Suchtmechanismen oder psychische Belastungen verstärken?

Im Umweltkontext würden wir solche Dynamiken als Externalisierung von Kosten beschreiben. Wirtschaftliche Gewinne entstehen privat, während gesellschaftliche Folgekosten teilweise von Schulen, Familien, Gesundheitssystemen oder zukünftigen Generationen getragen werden. Natürlich lassen sich Umweltverschmutzung und KI nicht einfach gleichsetzen. Es zeigt sich jedoch eine ähnliche strukturelle Frage: Wie gehen Gesellschaften mit Technologien um, deren negative Auswirkungen oft erst sichtbar werden, wenn sie längst tief in den Alltag integriert sind? Genau deshalb könnte Nachhaltigkeitsdenken für die KI-Debatte plötzlich hochrelevant werden.

Denn Nachhaltigkeitsverantwortliche sind häufig darin trainiert, systemisch zu denken. Sie beschäftigen sich seit Jahren mit Langfristfolgen, Wechselwirkungen, Unsicherheit und externalisierten Kosten. Vielleicht braucht es genau diese Perspektive künftig stärker bei technologischen Entscheidungen.

Vielleicht braucht es genau deshalb einen breiteren Blick auf KI. Weg von der reinen Frage, was technisch möglich ist, hin zu Fragen wie: Welche gesellschaftlichen Dynamiken verstärken wir? Welche Kosten entstehen langfristig? Welche Gruppen tragen Risiken besonders stark? Und welche Formen von Menschlichkeit, Aufmerksamkeit und Urteilskraft wollen wir eigentlich erhalten? 

Gerade hier gewinnt auch der Begriff Human-Centered AI zunehmend an Bedeutung. Dahinter steht die Idee, KI-Systeme nicht ausschließlich an Effizienz oder Marktlogiken auszurichten, sondern stärker an menschlichem Wohlbefinden, Transparenz, demokratischen Prinzipien und gesellschaftlicher Resilienz.

KI verändert nicht nur Prozesse, sie verändert Kultur

Welche Risiken akzeptieren wir? Welche Unsicherheiten halten wir aus? Welche sozialen Auswirkungen nehmen wir in Kauf? Und welche Werte sollen unsere Entscheidungen langfristig prägen?

Das sind keine rein technischen Fragen. Sie berühren ethische Prinzipien, rechtliche Leitplanken und letztlich menschliche Verantwortung. Gerade deshalb werden Prinzipien wie Vorsorge, Verhältnismäßigkeit, Transparenz, Haftung und Verantwortungsübernahme künftig noch wichtiger werden. Denn je stärker KI-Systeme unsere Entscheidungen, Kommunikation und Wahrnehmung beeinflussen, desto relevanter wird die Frage, wo menschliche Kontrolle, gesellschaftliche Reflexion und bewusste Urteilskraft erhalten bleiben müssen. Für mich liegt genau darin eine der zentralen Aufgaben der kommenden Jahre: KI nicht als Ersatz menschlicher Urteilskraft zu verstehen, sondern als Werkzeug, das menschliche Entscheidungsfähigkeit unterstützen kann, ohne sie schleichend auszuhöhlen.

Denn KI verändert nicht nur Prozesse. KI verändert Kultur. Sie verändert Sprache, Kommunikationsgeschwindigkeit und Erwartungshaltungen. Sie verändert, wie Menschen Informationen bewerten, wie schnell sie reagieren und wie viel Reibung noch nötig ist, bevor Entscheidungen getroffen werden. Teilweise entstehen dadurch neue Formen von kognitivem Overload, paradoxerweise aber auch von Underload. Immer mehr Denkbewegungen werden ausgelagert, immer mehr Formulierungen automatisiert und immer mehr Entscheidungen vorbereitet. Das kann enorm entlasten. Dabei stellt sich für mich die Frage, was langfristig mit menschlicher Urteilskraft passiert, wenn immer weniger eigene kognitive Verarbeitung notwendig wird und welche Auswirkungen das wiederum auf unser Gehirn, Entscheidungsfähigkeit und damit auch unserer Demokratie haben wird.

Für mich liegt genau darin eine der wichtigsten Nachhaltigkeitsfragen der kommenden Jahre: nicht nur, wie energieintensiv KI-Systeme sind, sondern auch, welche Formen von Aufmerksamkeit, Beziehung, Urteilskraft, Verantwortung und gesellschaftlicher Kohärenz sie fördern oder schwächen.

Das könnte Sie auch interessieren:

• KI: Ethische Ansätze und menschliche Aufsicht (€)
• Interview Stefan Schaltegger: Wie KI das Nachhaltigkeitsmanagement verändert
• Nachhaltige KI ist mehr als CO2-Bilanzierung