Bundesnetzagentur wird nationale Marktüberwachungsbehörde bei der KI-Aufsicht

Bundesnetzagentur übernimmt Marktaufsicht über KI-Systeme in Deutschland

Mit dem neuen Gesetz zur Umsetzung der europäischen Verordnung über Künstliche Intelligenz (KI-VO) wird in Deutschland die behördliche Zuständigkeitsstruktur für die Aufsicht über KI-Systeme geregelt. Die EU-KI-Verordnung schafft einen einheitlichen Rechtsrahmen für die Entwicklung und den Einsatz von KI-Systemen im europäischen Binnenmarkt und gilt unmittelbar in allen Mitgliedstaaten. Das nationale Umsetzungsgesetz bestimmt nun, welche deutschen Behörden die dort vorgesehenen Aufgaben wahrnehmen. 

Die Bundesnetzagentur übernimmt dabei die zentrale Funktion als Marktüberwachungsbehörde. Sie ist im Wesentlichen für die Kontrolle der Einhaltung der KI-Verordnung zuständig und dient zugleich als Ansprechpartner gegenüber europäischen Institutionen.

Koordinierungs- und Kompetenzzentrum bei der Bundesnetzagentur

Bei der Bundesnetzagentur wird zudem ein Koordinierungs- und Kompetenzzentrum eingerichtet. Dieses soll die behördenübergreifende Zusammenarbeit mit anderen öffentlichen Stellen sicherstellen. Nach Angaben der Bundesregierung werde auf diese Weise KI-Expertise zentral gebündelt und bei Bedarf ressourcenschonend den bestehenden Behörden zur Verfügung gestellt.

Von der Marktüberwachungskompetenz der Bundesnetzagentur ausgenommen sind jedoch KI-Systeme, die von öffentlichen Stellen der Länder und Kommunen eingesetzt werden. Insoweit verbleibt die Aufsicht bei anderen zuständigen Stellen.

Die Bundesnetzagentur soll zudem Bürgerinnen und Bürgern als zentrale Anlauf- und Beschwerdestelle dienen. 

Bunderegierung entscheidet sich gegen die Datenschutzbehörden

Im März 2024 hat das Europäische Parlament die „Verordnung zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz“ (KI-VO) angenommen. Seit diesem Inkrafttreten der KI‐VO hat Deutschland 12 Monaten Zeit, eine behördliche Aufsichtsstruktur einzurichten. Die Bundesregierung hatte sich bei deren Umsetzung dafür entschieden, die Bundesnetzagentur für Elektrizität, Gas, Telekommunikation, Post und Eisenbahnen, kurz Bundesnetzagentur (BNetzA), zur geforderten nationalen KI-Marktüberwachungsbehörde zu machen.  Das überraschte, weil allgemein damit gerechnet wurde, dass die deutschen Datenschutzbehörden den Zuschlag für die Marktüberwachung bekämen. Schließlich hatten sie selbst bereits im Mai 2024 in einem Positionspapier der Datenschutzkonferenz (DSK) massiv dafür geworben und im Juli 2024 zusätzliche Schützenhilfe durch eine Stellungnahme des Europäischen Datenschutzausschusses (EDSA) bekommen, der sich eindeutig für die Datenschutzbehörden aussprach.

Zentrale Zuständigkeit auf Bundesebene statt föderaler Struktur

Es liegt noch keine offizielle Verlautbarung über die Beweggründe der Entscheidung der Bundesregierung für die Bundesnetzagentur vor. In einer LinkedIn-Nachricht des Bundesministeriums für Wirtschaft und Klimaschutz (BMWK) mit der Überschrift „Wichtiger Schritt zur Umsetzung der europäischen KI-Verordnung“ heißt es lediglich: „Die zentrale Rolle ist für die Bundesnetzagentur vorgesehen. Sie soll nicht nur Aufsichtsaufgaben, sondern einen starken Auftrag zur Innovationsförderung erhalten.“ Dem BMWK zufolge sei damit die „Grundlage für eine innovationsfreundliche und bürokratiearme Durchführung der Verordnung gelegt“.

Auch wenn es auf den ersten Blick verwundern mag, dass die Bundesnetzagentur die KI-Aufsicht übertragen bekommt, sprechen bei näherem Hinsehen mehrere Gründe für die Entscheidung. So geht es der KI-VO im Wesentlichen um die Produktsicherheit, ein Bereich, mit dem sich die Bundesnetzagentur bereits seit vielen Jahren befasst. Im Gegensatz dazu beschränkt sich die Expertise der Datenschutzbehörden bisher allein auf den Datenschutz. Noch stärker fällt ins Gewicht, dass der Datenschutz föderal strukturiert ist und primär auf Länderebene agiert. Die Bundesnetzagentur bietet dagegen bereits eine zentrale Zuständigkeit auf Bundesebene, die nicht neu geschaffen werden muss.  

Datenschutzbehörden bleiben nicht komplett außen vor

Auch wenn die Bundesnetzagentur zur nationalen Aufsichtsbehörde für die KI-Marktüberwachung wird, heißt dies nicht, dass andere Behörden gar nicht berücksichtigt werden. Wie die Bundesregierung auf Anfrage mitgeteilt hat, sollen die Fachbehördenzuständigkeiten erhalten bleiben. Die Bundesnetzagentur soll zwar als zentrale Stelle die KI-VO umsetzen und gleichzeitig zum KI-Kompetenzzentrum werden, das auch für die Innovationsförderung zuständig ist. Doppelzuständigkeiten sollen aber dadurch ausgeschlossen werden, dass es weiterhin „sektorale Zuständigkeiten“ gibt. So sollen etwa die Bundesanstalt für Finanzdienstleistungen (BaFin) für den Finanzbereich, das Kraftfahrtbundesamt für den Automotive-Bereich und eben die Datenschutzbehörden für den Datenschutzbereich zuständig bleiben.

Das Gesetz kann nun ausgefertigt und verkündet werden. Es tritt am Tag nach der Verkündung in Kraft.

Weiterführende Links:

Gesetz zur Durchführung der Verordnung über künstliche Intelligenz

DSK-Positionspapier „Nationale Zuständigkeiten für die Verordnung zur Künstlichen Intelligenz (KI-VO)“ vom 3. Mai 2024

EDSA Stellungnahme zur Rolle der Datenschutzbehörden im Rahmen der KI-VO