Wir müssen über Sprachmaschinen sprechen.

Christoph Pause: Herr Simanowski, Sie schreiben in Ihrem Buch „Sprachmaschinen“, dass Large Language Models (LLM) nicht denken, sondern rechnen. Sie liefern das statistisch Wahrscheinlichste, nicht das, was wahr oder originell ist. Dennoch nutzen wir Sprachmaschinen, als wären sie menschliche Gesprächspartner. Was geschieht mit uns Menschen, wenn wir mit diesen Maschinen arbeiten?

Roberto Simanowski: Bemerkenswert ist, dass wir zwar wissen, dass es keine Menschen sind, und uns dennoch von den Ergebnissen dieser Maschinen leiten lassen. Solange es um reines Faktenwissen geht, ist das kein Problem. Wir brauchen keinen Menschen, um zu erfahren, wie die Hauptstadt von Deutschland heißt. Wir wissen, dass die Maschinen über statistische Wahrscheinlichkeit die richtigen Antworten aus den vielen Antworten, die es im Internet gibt, herausfiltern. Sie werden heute nicht mehr Bonn als Hauptstadt nennen, einfach deswegen, weil Berlin die Mehrheit der Daten auf seiner Seite hat. Uns ist egal, ob das die Maschine sagt oder ein Mensch. Vielleicht unterstellen wir der Maschine sogar mehr Objektivität. Dafür gibt es den Begriff des Automation Bias – die Annahme, dass Maschinen objektiver sind als Menschen, was in vielerlei Hinsicht ein Vorteil ist. So zeigen versuche, dass KI besser geeignet ist, Menschen von ihren Verschwörungstheorien abzubringen als andere Menschen. Und zwar wahrscheinlich eben wegen dieser wahrgenommenen Objektivität – Menschen nehmen einer Maschine eher ab, dass sie sie nicht bekehren will oder eigene rhetorische Ziele verfolgt. Eine Maschine hat keine Intention.

Warum aber lassen wir uns von Maschinen Antworten auf Lebensfragen geben, obwohl die Maschinen keine Lebenserfahrung haben? Es gibt es inzwischen Analysemodelle, die die binäre Trennung zwischen Authentizität – also menschlicher Echtheit – und künstlicher Autorschaft überwinden, und zwar über viele Zwischenstufen. Danach kann ein menschlicher Text als unauthentisch empfunden werden, während ein synthetischer Text als authentisch wahrgenommen wird. Wenn ein Chatbot uns zu einer Lebensfrage eine Antwort gibt, die uns plausibel erscheint, passt das für uns – auch wenn wir wissen, dass er selbst keine Lebenserfahrung hat. Diese Analysemodelle entkoppeln den Begriff des Authentischen vom Text und binden ihn an die Wahrnehmung des Textes. Das heißt: Die KI als Quelle kompromittiert die Authentizität nicht, sofern das Ergebnis bei mir auf Resonanz stößt und mir glaubwürdig erscheint.

Der Chatbot hat diese Antworten aus Trainingsdaten per statistischem Mehrheitsbeschluss gewonnen – und in diesen Trainingsdaten äußern sich wiederum Menschen. Insofern ist das Ergebnis auf seine Art doch an Erfahrungen gebunden, nur eben nicht an meine persönlichen. Das ist der entscheidende Unterschied.

Bislang galt die Fähigkeit zu denken, Zusammenhänge zu erkennen und herzustellen, als eines der wesentlichen Kriterien, die den Menschen zum Menschen machen. Was bedeutet es aus Ihrer Sicht für unser Menschsein, wenn wir genau das an eine Maschine abgeben?

Es gibt diese berühmte Tagebuchnotiz der amerikanischen Kulturphilosophin Susan Sontag aus dem Jahr 1965. Sie schreibt: „Ich schreibe, um herauszufinden, was ich denke." Weil ihr im Schreiben erst deutlich werde, wie die Gedankensplitter, die sie notiert, zusammenpassen. Im Schreibprozess rufen wir die verschiedenen Gedanken, Informationen und Perspektiven ab, die wir in uns vereinen – und merken erst in diesen Momenten, wie sie zusammenpassen. Zudem tragen wir immer auch Positionen mit uns, die überhaupt nicht zusammenpassen. Als schlechte Schreiberin lässt man solche Widersprüche aus und verdrängt sie. Eine gute Schreiberin denkt darüber nach, warum da ein scheinbarer Widerspruch ist und wie sie ihn lösen kann. Dieser Prozess animiert zum Denken. Und in diesem Prozess begegnen wir uns selbst, wie die Philosophin Hannah Arendt es formuliert hat.

Wenn wir diesen Prozess nun an die KI auslagern, sind wir nicht mehr unterwegs in der Landschaft des Denkens – und begegnen uns nicht mehr selbst im Prozess des Schreibens. Denn der Text, den die KI vielleicht besser und auf jeden Fall schneller schreiben kann als ich, ist gar nicht immer das eigentliche Ziel. Bei einem Essay, einem autobiografischen Text ist der Weg zum Text das eigentliche Ziel. Und das schlägt sich im Text nieder. Der Mensch muss in einem solchen Text präsent sein. Wenn wir diesen Prozess umgehen und an die Maschine abgeben, fehlen wir im Text.

Die Grenze liegt woanders: Wenn ich die KI bitte, mir Informationen zu suchen, die ich dann selbst verarbeite, ist das kein Problem. Das Problem beginnt, wenn ich die KI bitte, mir meine Gedanken zu ordnen. Denn eben im Ordnen beginnt das Denken, wenn wir Susan Sontag folgen. Ich habe neulich in einem KI-Newsletter einen Prompt-Vorschlag gelesen: „Gehe in meine Dateien, lies meine Notizen und destilliere mir daraus drei Thesen." Damit würde ich die eigene geistige Tätigkeit komplett umgehen. Zwar würde ich weiterhin Gedankensplitter aufschreiben oder einsprechen – aber nicht mehr mit ihnen arbeiten. Doch auf diesen Arbeitsprozess kommt es eben an.

‍Das korreliert mit Ihrer anderen Beobachtung, dass KI-generierte Texte dazu führen, Sprache und Stil durchschnittlicher, einheitlicher und konformer zu machen. Ihre Gedankensplitter und meine könnten also eventuell zu ähnlichen Texten führen.

Das kommt darauf an. Meine Gedankensplitter sind ja meine Trainingsdaten, die ich eingebe – und wenn die anders sind als Ihre, wäre das Ergebnis schon ein anderes. Aber Sie haben recht: Die KI schaut, wie bestimmte Aspekte in den anderen Trainingsdaten, auf denen sie basiert, miteinander in Korrelation gebracht werden, und fügt gegen diese Kontrastfolie meine Gedankensplitter zusammen. Dieser Prozess findet also unter der Ägide des Mainstreams statt – es gilt, was die Mehrheit auf seiner Seite hat. Wenn ich meine Gedankensplitter dagegen selbst zusammenbringe, habe ich eine andere Beziehung zu ihnen, und dann ist eher die Möglichkeit gegeben, dass etwas Innovatives und Kreatives entsteht.

Was mich seit der Lektüre Ihres Buches besonders intensiv beschäftigt, ist Ihr Punkt, dass, je mehr KI-generierte Texte als Trainingsdaten für neue KI-Texte dienen, desto mehr befinden wir uns in einem Loop aus künstlich generierten Inhalten – in dem menschliche, natürlich-intelligente Überlegungen zu einem immer kleineren Bestandteil werden. Am Ende haben wir nur noch Wissen, das künstlich generiert ist.

Im Buch gibt es dafür verschiedene Begriffe: Der technische ist Modell-Kollaps, der saloppe ist Inzest-KI oder Habsburg-KI und der bildungsbürgerliche lautet Ouroboros-Effekt – mit Bezug auf die Schlange im altägyptischen Symbol, die sich selbst in den Schwanz beißt, weil sie ihre eigenen Ausscheidungen wieder aufnimmt. Genau das passiert hier. Das ist problematisch, weil sich die Mengenverhältnisse in den Trainingsdaten so entwickeln, dass das KI-Generierte sich potenziert. Eine neue Perspektive – wie die einer jungen Historikerin, die einen frischen Blick auf Napoleon hat – hätte dann keine Chance mehr. Vor allem dann nicht, wenn nach einem Blockbuster alle möglichen Leute etwas zu Napoleon wissen wollen und die KI bereits genug Texte dazu produziert hat.

Ich habe bislang keine wirklich überzeugenden Vorschläge gefunden, wie wir dieses Problem in der Zukunft lösen. Ein Reset auf den Ausgangszustand würde nicht helfen, weil dann alles, was inzwischen gedacht wurde, ebenfalls fehlen würde. Eine plausible Überlegung wäre, KI-generierte Texte zu identifizieren und aus neuen Trainingsdaten herauszufiltern – eine Art Gatekeeper-Regel, auf die man sich einigen könnte, weil das relativ unideologisch und eher eine technische Frage ist. Dann aber entsteht genau das Problem, das im Moment intensiv diskutiert wird: Wie kann man überhaupt zuverlässig feststellen, welche Texte von KI produziert wurden? Es ist ein regelrechtes Wettrüsten: Apps wie Watermarks humanisieren synthetische Texte, damit sie nicht mehr als künstlich erstellt erkannt werden können. Das Problem bliebe also letztlich bestehen.

‍Ist ein Text, den ein Mensch verfasst hat, per se besser als etwas, das von einer Maschine stammt – nur, weil er von einem Menschen geschrieben ist?

Das ist eine philosophische Frage. Per se besser ist es nicht, wenn es um Fakten geht. Da können sich Menschen leichter irren als Maschinen, die auf viele Aussagen zurückgreifen und das nehmen können, was übereinstimmt. Ein Mensch kann falsche Vorstellungen mit sich tragen und hat diese Vergleichsmöglichkeit nicht – die KI hingegen schon, und so wird das Falsche schnell herausgefiltert.

Die Frage ist aber berechtigt, sobald es um philosophische oder moralische Ansichten geht. Wenn es um Subjektivität geht, hat der Mensch natürlich etwas auf seiner Seite, weil er aus sich heraus spricht. Jetzt könnte man einwenden – und das ist der bekannte Bezug zu Roland Barthes‘ Essay „Der Tod des Autors“, der immer wieder angeführt wird – dass der Mensch ja auch nicht die ursprüngliche Quelle seiner Äußerungen ist. Doch dabei vergisst man, dass wir, auch wenn wir unsere Ansichten als Diskursteilnehmer von woanders her beziehen, diese Ansichten trotzdem verinnerlicht haben. Sie werden Teil von uns – nicht alle, sondern nur bestimmte, aus bestimmten Gründen. Und wenn wir sie wiedergeben, sind wir zwar nicht die ursprüngliche Quelle, aber doch deren Autoren, insofern, als wir sie autorisieren, weil sie nun ein Teil von uns sind.  

Das kann man der KI nicht unterstellen. Die KI hat keine Intention. Wir hingegen haben die Intention, eine bestimmte Aussage zu einem Thema zu machen. Wenn Sie mich bitten, ein Argument von der anderen Seite zu betrachten, könnte ich zwar nach Gegenargumenten suchen – aber ich müsste sie nicht unbedingt vertreten. Die KI hingegen wechselt die Position je nachdem, was man von ihr will. Sie ist der geborene Sophist. Ich könnte spielerisch Gegenargumente formulieren, aber ich würde sagen: Das überzeugt mich nicht. Ich bleibe bei meiner Meinung. Darin liegt der Unterschied zwischen menschlicher und künstlicher Intelligenz.

Trotz aller Herausforderungen, die sie mit sich bringt, ist KI ein hervorragendes Werkzeug, Sie haben es selbst angedeutet: für Faktenrecherche, für die Analyse riesiger Datenmengen. Was braucht es, damit KI genau das bleibt – ein Werkzeug? Der Wissenschaftsrat hat kürzlich intellektuelle Souveränität im Umgang mit KI gefordert.

Die intellektuelle Souveränität, von der der Wissenschaftsrat spricht, bedeutet, dass KI ein unterstützendes Werkzeug bleibt und uns nicht das kritische Denken abnimmt – was passieren würde, wenn wir uns zum Beispiel Texte von der KI schreiben ließen. Daneben gibt es aber auch die Frage der technologischen Entwicklung selbst. Max Tegmark vom MIT hat die Idee aufgebracht, KI auf der Tool-Ebene zu belassen und sie nicht zu eigenständig und undurchsichtig handelnder KI weiterzuentwickeln, die uns unsere Arbeit komplett abnimmt. Das Ziel von OpenAI und anderen ist letztlich, dass man der KI etwas sagt, sie dann komplexe Tätigkeiten übernimmt und uns das Ergebnis liefert – ohne dass wir noch wissen, wie sie dazu gelangt ist. Das wäre eine vollständige Blackbox.

Je mehr Zwischenschritte wegfallen, desto größer wird das Problem. Wenn die KI mir einen Text schreibt, muss ich den immerhin noch selbst verschicken. Es gibt also noch einen Zwischenschritt, und damit auch die Möglichkeit, dass ich den Text noch einmal lese und gegebenenfalls korrigiere. Der Mensch ist noch im Loop. Aber wenn die KI, weil ich einen entsprechen Workflow eingerichtet habe, meine E-Mails liest und selbständig beantwortet, ohne dass ich weiß, was sie da verschickt, bin ich nicht mehr im Loop. An diesem Punkt verlässt KI die Werkzeug-Ebene und handelt selbständig als mein Stellvertreter.

Die intellektuelle Souveränität, von der der Wissenschaftsrat spricht, schließt an das an, was wir vorhin besprochen haben: Die KI als unterstützendes Werkzeug beim Schreiben einzusetzen – für Formulierungshilfen, für einen Faktencheck. Die Urteilskraft, der geistige Schöpfungsprozess müssen beim Menschen bleiben, bei dem die KI allenfalls Hilfsdienste leistet, Korrektur liest oder Vorschläge macht, die ich annehmen oder verwerfen kann.

Ist intellektuelle Souveränität das, was Sie in Ihrem Buch philosophische Medienkompetenz nennen?

Ja, wobei ich einen wichtigen Unterschied mache zwischen Mediennutzungskompetenz und Medienreflexionskompetenz. Bei der Nutzungskompetenz geht es darum, wie man den effektivsten Prompt formuliert, der das bestmögliche Ergebnis liefert, ohne dass ich noch viel tun muss. Das ist das Pragmatische, das Zeiteffiziente. Die Reflexionskompetenz fragt dagegen, ob ich das überhaupt machen sollte – weil es meinen Interessen widersprechen könnte, wenn ich meine geistigen Fähigkeiten nicht mehr praktiziere und sie dadurch verliere. Anders gesagt: Mediennutzungskompetenz bedeutet zu wissen, wie man einen Algorithmus programmiert. Medienreflexionskompetenz bedeutet zu wissen, wo man ihn nicht einsetzen sollte – weil er gesellschaftliche Folgen hat, die problematisch sind.

Das liegt im Falle der KI auf der Hand: Natürlich trainieren wir unsere Denkfähigkeit nicht, wenn wir kognitive Tätigkeiten auslagern. Das muss man nicht tiefschürfend untersuchen. Aber pragmatisch für die Bildungspolitik bedeutet es: Alles, was KI nicht fördert oder sogar sabotiert – strukturelles Denken zum Beispiel – müsste jetzt in den Mittelpunkt treten. Und das können wir durchaus auch mit der KI trainieren: Wir könnten verschiedene KIs bitten, einen Text zu strukturieren, haben dazu noch eine Kontrollgruppe, die es ohne KI macht, und vergleichen dann die unterschiedlichen Strukturen. Dann spricht man über das Denken, statt das Denken abzugeben.

Bildungspolitik ist das eine. Aber KI kommt ja auch in vielen Unternehmen zum Einsatz, von dem sich die Verantwortlichen ganz bestimmte Ergebnisse versprechen. Wie viel Medienreflexionskompetenz müssen Unternehmen vermitteln?

Die ganze Gesellschaft muss sich auf KI vorbereiten, weil dieses Tool die ganze Gesellschaft mehr und mehr bestimmen wird. Je älter man ist, desto eher weiß man noch, was dabei verloren gehen kann – weil man mit einer anderen Kultur, einer Buchkultur, aufgewachsen ist. Für die Jüngeren dagegen ist es besonders wichtig, Medienkompetenz in allen Dimensionen auszubilden. Deshalb muss das im Schulunterricht beginnen. Aber natürlich auch in den Unternehmen. Zumal die digitalen Medien ja bereits einige frühere Kulturformen beschädigt haben – etwa das Lesen ganzer Texte oder Bücher –, durch die Aufmerksamkeitsökonomie und die TikTok-Kultur.

Wenn es darum geht, Informationen aus Texten zu extrahieren und weiterzuverarbeiten, dann gehört es zur Mediennutzungskompetenz, die KI so zu instruieren, dass sie das automatisiert übernimmt – statt Daten manuell in eine Excel-Tabelle einzugeben. Dabei muss man aber auch sicherstellen, dass keine Halluzinationen passieren. Das gehört ebenfalls zur Nutzungskompetenz, Kontrollmechanismen einzubauen.

Zur Medienreflexionskompetenz gehört dagegen das Wissen, wann man der KI gerade nicht den Text schreiben lassen darf – nämlich dann, wenn es auf das Menschliche ankommt und nicht nur auf das reine Ergebnis. Ein gutes Beispiel sind Ärztinnen und Ärzte: Wenn bestimmte Diagnosedaten von der KI in einen ärztlichen Befund übertragen werden, ist das gut – das schafft Freiraum für das Patientengespräch. Aber wenn es darum geht, wie die Erfolgsaussichten einer Therapie sind, ob es um Heilung, Lebensqualität oder Lebensverlängerung geht – und vor allem dann, wenn die Aussichten nicht gut sind – ist der Mensch gefragt. Dann ist Empathie gefordert, und die muss die Ärztin einbringen. Das kann man nicht an eine KI übergeben. Das muss Ärztinnen und Ärzten klar sein, und dazu müssen sie ausgebildet werden. Und auf der anderen Seite müssen auch die Patientinnen und Patienten merken: Hier spricht ein Mensch zu mir – kein Algorithmus.

Zur Person:

Roberto Simanowski, Kulturwissenschaftler und Medienphilosoph, lebt in Rio de Janeiro und Berlin und ist Autor von 15 Büchern über Kunst, Kultur und Politik der digitalen Medien. Nach Professuren in den USA, Hongkong und der Schweiz forscht er derzeit als Visiting Scholar an der Harvard University und an der Freien Universität Berlin. Sein Buch “Sprachmaschinen. Eine Philosophie der Künstlichen Intelligenz” nominiert für den Deutschen Sachbuchpreis 2026.

‍