Verwendung von Sprachmodellen in der Verwaltung

Das Bundesamt für Sicherheit in der Informationstechnik hat mit dem Fokus auf IT-Sicherheit Tests mit dem ChatBot „ChatGPT“ durchgeführt. Das geht aus einer Antwort der Bundesregierung (20/6044) auf eine Kleine Anfrage der AfD-Fraktion (20/5465) hervor.

Beurteilungskriterien für den Einsatz in der öffentlichen Verwaltung

ChatGPT ist ein Prototyp eines textbasierten Dialogsystems, der auf maschinellem Lernen beruht.

Hinsichtlich einer Verwendung müssten grundrechtliche Fragestellungen, urheber- und datenschutzrechtliche Aspekte und Fragen zur Vermeidung von Diskriminierung sowie zur Zuverlässigkeit, Erklärbarkeit und Nachvollziehbarkeit der Ergebnisse betrachtet werden.

Auch wirtschaftliche Fragestellungen im Hinblick auf den Ressourcenaufwand und die mit einer Abfrage verbundene erhebliche Rechenleistung spielten dabei eine Rolle, schreibt die Bundesregierung. Darüber hinaus müssen die Ergebnisse auch im Rahmen einer Risikoanalyse betrachtet werden.

Noch keine abschließende Bewertung

Eine abschließende Abschätzung der Chancen und Risiken der Technologie lasse die aktuelle wissenschaftliche Informationslage zu ChatGPT bisher nicht zu. Auch ob und in welchem Umfang der Einsatz eines Produktes wie ChatGPT zum Dialog mit Bürgerinnen und Bürgern auf den Webseiten der Bundesministerien und nachgeordneten Behörden denkbar ist, könne momentan nicht abschließend beurteilt werden. Automatisierte Textgeneratoren, die keine vordefinierten Antworten verwenden, seien bislang nicht im Einsatz, schreibt die Bundesregierung.

Gesetzgebungsverfahren auf europäischer Ebene

Auf EU-Ebene läuft derzeit ein Gesetzgebungsverfahren zu der Verordnung des Europäischen Parlaments und des Rates „Zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (Gesetz über künstliche Intelligenz) und zur Änderung bestimmter Rechtsakte der Union“. Der Rat hat am 6. Dezember 2022 einstimmig eine Allgemeine Ausrichtung beschlossen und damit das Gesetzgebungsverfahren in die Phase der Beratung mit dem Ko-Gesetzgeber Europäisches Parlament übergeleitet. Aufgrund der andauernden Verhandlungen steht die endgültige Ausgestaltung der Verordnung noch nicht abschließend fest.