In der EU wird an der weltweit ersten Regelung für künstliche Intelligenz gearbeitet. Der geänderte Vorschlag der Kommission sieht unter anderem ein Verbot von KI bei der biometrischen Überwachung, der Erkennung von Emotionen und der vorausschauenden Polizeiarbeit vor.
Die Europäische Union arbeitet an den weltweit ersten Vorschriften für Künstliche Intelligenz (KI). Der Binnenmarktausschuss und der Ausschuss für bürgerliche Freiheiten des Europaparlaments in Straßburg haben den Entwurf für Regeln für den Einsatz Künstlicher Intelligenz angenommen. Der geänderte Kommissionsvorschlag sieht unter anderem ein Verbot von KI für biometrische Überwachung, Emotionserkennung und vorausschauende Polizeiarbeit vor. Der Entwurf muss noch vom gesamten Europaparlament gebilligt werden.
Erster Schritt im EU-Beschlussverfahren zum KI-Gesetz ist vollzogen
Am 11. Mai hat die EU das Beschlussverfahren zum KI-Gesetz (engl. Artificial Intelligence Act) begonnen: Die beiden zuständigen Ausschüsse (Binnenmarkt und Bürgerliche Freiheiten) des EU-Parlaments haben mit großer Mehrheit den Änderungsanträgen zum Kommissionsvorschlag zugestimmt, der bereits seit April 2021 vorliegt. Die Änderungsanträge sollen sicherstellen, dass „KI-Systeme von Menschen überwacht werden, sicher, transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich sind“. Verwendet wird dabei eine einheitliche und technologieneutrale KI-Definition, die für heutige und zukünftige KI-Systeme gilt.
Risikobasierter Ansatz und verbotene KI-Praktiken
Die Regelungen und Verpflichtungen für KI-Anbieter und KI-Nutzer gelten risikobasiert – sie richten sich nach dem Grad des Risikos, das der KI-Einsatz darstellt. KI-Systeme, die die Sicherheit von Menschen bedrohen, sind „strengstens“ verboten. Dies betrifft z. B. KI-Systeme, die manipulative Techniken einsetzen, die Schwachstellen von Menschen ausnutzen oder diese auf Grundlage ihres Sozialverhaltens, ihres sozioökonomischen Status oder bestimmter persönlicher Merkmale klassifizieren (engl. Social Scoring).
Ausdrücklich verboten sind:
- Biometrische Erkennungssysteme in Echtzeit in öffentlich zugänglichen Räumen
- Biometrische Erkennungssysteme im Nachhinein, mit der einzigen Ausnahme von Strafverfolgungsbehörden zur Verfolgung schwerer Straftaten und nur nach richterlicher Genehmigung
- Biometrische Kategorisierungssysteme, die sensible Merkmale verwenden (z. B. Geschlecht, Rasse, ethnische Zugehörigkeit, Staatsangehörigkeit, Religion, politische Orientierung)
- Prädiktive Polizeisysteme (auf der Grundlage von Profilerstellung, Standort oder früherem kriminellen Verhalten)
- Systeme zur Erkennung von Emotionen bei der Strafverfolgung, beim Grenzschutz, am Arbeitsplatz und in Bildungseinrichtungen
- Wahlloses Auslesen biometrischer Daten aus sozialen Medien oder Videoüberwachungsaufnahmen zur Erstellung von Gesichtserkennungsdatenbanken
Zusätzlich fügt der geänderte Kommissionsvorschlag die Hochrisikobereiche Gesundheit, Sicherheit, Grundrechte und Umwelt hinzu und adressiert KI-Systeme, die Wähler bei politischen Entscheidungen beeinflussen und Empfehlungen auf Social-Media-Plattformen generieren.
Transparenzpflichten für ChatGPT & Co.
Der Entwurf sieht auch eine ganze Reihe neuer Transparenzpflichten vor: KI-Anbieter sollen zukünftig nachweislich einen soliden Schutz der Grundrechte, der Gesundheit und Sicherheit sowie der Umwelt, der Demokratie und der Rechtsstaatlichkeit gewährleisten. Sie sollen vorhandene Risiken bewerten und abmildern, Auslegungs-, Informations- und Umweltanforderungen einhalten und sich in der EU-Datenbank registrieren lassen. Für KI-Systeme, die Textinhalte generieren, wie z. B. ChatGPT, gelten zusätzliche Transparenzanforderungen. Sie müssen beispielsweise offenlegen, dass die Inhalte durch KI generiert wurden, und so konzipiert sein, dass sie keine illegalen Inhalte generieren und keine Zusammenfassungen urheberrechtlich geschützter Daten veröffentlichen.
Die Bürger- und Menschenrechte sollen durch neue Beschwerde- und Auskunftsmöglichkeiten gestärkt werden, die auf die Risiken von KI-Systemen abgestimmt sind.
Endgültige Gesetzesform ist noch Verhandlungssache
Bevor die Verhandlungen mit der EU-Kommission über die endgültige Form des KI-Gesetzes beginnen können, muss der Entwurf des Verhandlungsmandats noch vom gesamten Europaparlament gebilligt werden. Die Abstimmung soll in der Parlamentssitzung vom 12. bis 15. Juni erfolgen.
Wie dringlich die Verabschiedung einer weitreichenden Regulierung der KI-Systeme ist, zeigt die aktuelle Einschätzung führender KI-Experten, die die KI-Systeme, die sie selbst geschaffen haben, als potenzielle Gefahr für die Menschheit sehen. Sie rufen in einem „ Statement“ dazu auf, die Risiken, die mit dem Einsatz von KI-Systemen verbunden sind, äußerst ernst zu nehmen: „Das Risiko einer Vernichtung durch KI zu verringern, sollte eine globale Priorität neben anderen Risiken gesellschaftlichen Ausmaßes sein, wie etwa Pandemien und Atomkrieg.“