Expertenrunde betont Chancen und Risiken von ChatGPT

Experten haben im Bundestag vor Risiken im Umgang mit KI-Sprachmodellen wie ChatGPT gewarnt, gleichzeitig aber auch die Chancen der Technologie betont. Am Ende einer mehrstündigen Anhörung im Bildungs- und Forschungsausschuss sprach sich der Ausschussvorsitzende Kai Gehring (Grüne) für eine staatliche Regulierung aus: "Unser Job wird jetzt sein, unsere natürliche Intelligenz als Gesetzgeberinnen zu nutzen, um der künstlichen Intelligenz Gestaltungsleitplanken mitzugeben".

ChatGPT sorgt für mehr Veränderung als Internet und Smartphone

Der Chatbot ChatGPT steht, seitdem er im November 2022 für die Öffentlichkeit freigeschaltet wurde, im Fokus und hat auch die HR-Welt durcheinandergewirbelt. Das Programm kann Fragen aus verschiedensten Bereichen beantworten, aber auf Anweisung auch Vorträge schreiben, Lerninhalte erstellen oder HR-Prozesse wie die Erstellung von Stellenbeschreibungen oder Arbeitszeugnissen automatisiert übernehmen. (Hier können Sie mehr zu ChatGPT und den Einsatzmöglichkeiten in HR sowie zu künstlicher Intelligenz in Lernanwendungen lesen.)

Experten gehen davon aus, dass die Technologie stärkere Umbrüche auslösen könnte, als zuvor die Einführung von Internet und Smartphone. "Der Geist ist aus der Flasche", sagte Dirk Engling vom Chaos Computer Club in der Anhörung im Bundetag. Man müsse nun irgendwie damit klarkommen, wie solche Modelle Menschen und Gesellschaft in großem Stil beeinflussen. Die Kieler Wirtschaftsinformatikerin Doris Weßels sprach von einer "Disruption", die das Bildungssystem in den Grundfesten erschüttere.

Expertenrunde benennt Chancen und Risiken von ChatGPT

Der KI Bundesverband forderte in der Anhörung einen "chancenorientierten Blick" auf die Technologie und sprach sich mit Blick auf mögliche Wettbewerbsnachteile gegenüber anderen Ländern gegen zu viel Regulierung aus. Der Chaos Computer Club plädierte hingegen für ein Verbot des verdeckten Einsatzes von Sprachrobotern. Es müsse deutlich gekennzeichnet sein, wenn diese zum Einsatz kommen. Wirtschaftsinformatikerin Doris Weßels wiederum warb dringend für eine "KI-Qualifizierungsoffensive für Lehrende".

Als mögliche Risiken und Gefahren führte die Expertenrunde folgende Punkte an:

• Chat-Roboter, die menschenähnlich kommunizieren, werden dazu missbraucht, Menschen politisch zu manipulieren.
• Die Verbreitung von Falschinformationen beschleunigt sich und es kommt zur Störung grundlegender Informations- und Kommunikationsprozesse in der Demokratie.
• Menschen werden im Unklaren darüber gelassen, dass sie mit einer Maschine kommunizieren, etwa wenn sie sich mit einem Problem an einen Hotline-Chat wenden.
• In der Bildung vertieft sich die Spaltung: Top-Schüler und Studenten lernen, kompetent mit der Technologie umzugehen, andere werden weiter abgehängt. Auch Lehrkräfte könnten bei der rasanten Entwicklung nicht mehr hinterherkommen und es nicht schaffen, einen sinnvollen aber kritischen Umgang mit der Technologie zu vermitteln.
• Bisherige Prüfungsformen funktionieren nicht mehr, da nicht klar ist, welcher Anteil von einer Maschine erstellt wurde.

Mögliche Chancen von ChatGPT sah die Expertenrunde des Bundetags in diesen Bereichen:

• ChatGPT und ähnliche Modelle werden als Werkzeug zum "Lernpartner".
• Der Fachkräftemangel wird durch Übernahme von Routineaufgaben durch KI und Sprachmodelle abgeschwächt.
• Prozesse werden beschleunigt. Neue Berufe entstehen.
• Diagnostik oder personalisierte Behandlung in der Medizin verbessern sich.
• Inklusion wird durch Abbau von Sprachbarrieren, leichteren Zugang zu Informationen und schnelle Übersetzung in einfache Sprache verbessert.

Das könnte Sie auch interessieren:

Sieben Thesen: So wird ChatGPT die Wirtschaft verändern

Rechtliche Spielregeln für den Einsatz von ChatGPT im Arbeitsverhältnis

Einsatzmöglichkeiten von ChatGPT in HR