Bundesrat lehnt Einsatz von KI bei Verwaltungsentscheidungen ab

Der Bundesrat hat einen Vorschlag für den Einsatz von Künstlicher Intelligenz bei Entscheidungen in der öffentlichen Verwaltung abgelehnt. Andere Empfehlungen der Ausschüsse der Länderkammer zur Reform des Onlinezugangsgesetzes der Bundesregierung - etwa die Forderung nach einem einheitlicheren Datenmanagement - fanden dagegen bei der Abstimmung am 7. Juli eine Mehrheit.

Die Grünen-Innenpolitikerin Misbah Khan hatte vor der Sitzung des Bundesrats vor einem voreiligen Einsatz von KI gewarnt. Sie sagte der Deutschen Presse-Agentur, Künstliche Intelligenz könne, richtig eingesetzt, ein nützliches Werkzeug sein, um Prozesse zu vereinfachen und zu beschleunigen. Entscheidungen, die das Schicksal von Menschen beträfen, dürften aber nicht Algorithmen überlassen werden.

Die nun verworfene Empfehlung der Ausschüsse des Bundesrats hatte gefordert, im neuen Onlinezugangsgesetz «die Zulässigkeit des Einsatzes algorithmenbasierter Entscheidungsfindung und -vorbereitung in der öffentlichen Verwaltung zu normieren». Ein Warten auf den europäischen Prozess dazu würde den Einsatz Künstlicher Intelligenz im öffentlichen Sektor in Deutschland ausbremsen. Bis das geplante Regelwerk der Europäischen Union, der sogenannte Artificial Intelligence Act, in Kraft tritt, dürften wohl noch mindestens zwei Jahre vergehen.

Entscheidungen der Verwaltung müssen transparent und nachvollziehbar sein

Khan warnte, Entscheidungen der öffentlichen Verwaltung müssten transparent und nachvollziehbar sein, auch seien selbstlernende Systeme nicht diskriminierungsfrei. Wer beispielsweise einen Antrag auf Wohngeld stelle und dann eine Absage erhalte, müsse nachvollziehen können, warum der Antrag abgelehnt wurde. Verfahren könnten auch ohne den Einsatz von KI deutlich beschleunigt und vereinfacht werden.

KI als Hilfe bei standardisierten Prozessen

Die Parlamentarische Staatssekretärin im Bundesverkehrsministerium, Daniela Kluckert (FDP), betonte dagegen, das auch für Digitales zuständige Ministerium unterstütze den Einsatz von KI in der Verwaltung. Diese könne helfen, standardisierte Prozesse zu automatisieren und den Mitarbeitern so mehr Zeit für die Entscheidung komplexer Fälle zu verschaffen, beispielsweise bei der Einbürgerung. «Hinzu kommt, dass KI sachlichere und schnellere Entscheidungen treffen kann, als es dem Menschen möglich ist – gerade im Bürger-Staat-Verhältnis», fügte sie hinzu.

Khan zeigte sich erleichtert über die Entscheidung des Bundesrates. Sie sagte: «Es ist beruhigend, dass die Länder nicht blind auf den KI-Zug aufspringen und das Vorhaben abgelehnt haben.» Man müsse sich die Zeit nehmen, über einen sinnvollen und transparenten Einsatz von KI in deutschen Behörden und Ämtern zu sprechen.