AI Act: Arbeitgeberpflicht zur Sicherstellung der KI-Kompetenz

Die EU-Verordnung über künstliche Intelligenz sieht ab Februar 2025 eine neue Arbeitgeberpflicht vor: die Sicherstellung der KI-Kompetenz. Doch was genau ist damit gemeint? Rechtsanwältin Manuela Rauch erläutert, worauf sich Arbeitgeber einstellen müssen.

Am 2. Februar 2025 tritt Artikel 4 der EU-Verordnung zur künstlichen Intelligenz 2024/1689 ("KI-VO") in Kraft und begründet damit eine weitere Verpflichtung für Unternehmen im Zusammenhang mit der Nutzung von künstlicher Intelligenz (KI): die Sicherstellung der KI-Kompetenz.

Doch was genau ist eigentlich unter KI-Kompetenz zu verstehen, in welchem Umfang werden Arbeitgeber in die Pflicht genommen und welche Konsequenzen drohen bei Verstößen? Nachfolgend werden die häufigsten Fragen zu den neuen Verpflichtungen zusammengefasst und beantwortet.

KI-Verordnung: Welche neuen Verpflichtungen haben Arbeitgeber zu erfüllen?

Grundsätzlich gilt: Anbieter und Betreiber von KI‑Systemen haben gemäß der KI-VO nach bestem Wissen und Gewissen sicherzustellen, dass eigenes Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI‑Systemen befasst sind, über ein ausreichendes Maß an KI‑Kompetenz verfügen.

Arbeitgeber, die ein KI-System mit allgemeinem Verwendungszweck entwickeln oder entwickeln lassen und unter eigenem Namen in Verkehr bringen oder in Betrieb nehmen, gelten dabei als Anbieter. Entschließt sich ein Arbeitgeber dagegen, zur Förderung arbeitstechnischer Zwecke im Unternehmen fremdentwickelte KI-Systeme in eigener Verantwortung zu verwenden, gilt er als Betreiber im Sinne der KI-VO.

Dies gilt im Übrigen unabhängig von der Unternehmensgröße – ob Start-up oder internationaler Konzern: Arbeitgeber, die KI-Systeme einsetzen, sind verpflichtet, entsprechend ihrer verfügbaren Ressourcen und technologischen Möglichkeiten angemessene Maßnahmen zu ergreifen.

Was bedeutet KI-Kompetenz?

Die KI-VO definiert die KI-Kompetenzen als "die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI‑Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden."

KI-Kompetenz bedeutet damit zusammengefasst die Fähigkeit, mit KI-Systemen fundiert umzugehen, ihre Potenziale und Risiken zu erkennen und auf dieser Grundlage verantwortungsvolle Entscheidungen zu treffen.

Wie kann ein ausreichendes Maß an KI-Kompetenz vermittelt werden?

Eine konkrete Regelung, wie ein "ausreichendes Maß" an KI-Kompetenz zu erreichen ist und wann es als erfüllt gilt, bestimmt die KI-VO nicht näher. Es obliegt dem Arbeitgeber, ein passendes Konzept zu entwickeln, das es den betroffenen Personen ermöglicht, fundierte Entscheidungen im Umgang mit KI‑Systemen treffen zu können. Der Fokus sollte darauf liegen, Mitarbeitenden die notwendigen Fähigkeiten, Kenntnisse und das Verständnis zu vermitteln, um die Anforderungen der Verordnung zu erfüllen.

Eine einheitliche Lösung gibt es dabei nicht; der konkrete Umfang hängt vielmehr vom jeweiligen Einzelfall ab. Dabei gilt es insbesondere, die Branche des Arbeitgebers, den Einsatzbereich des KI-Systems im Unternehmen und die damit verbundenen Risiken zu berücksichtigen. Auch die technischen Kenntnisse der Mitarbeitenden sowie deren Ausbildung und Erfahrung sowie der Kontext, in dem KI-Systeme eingesetzt werden sollen, spielen eine Rolle.

KI-Schulungskonzept: Leitfaden

Folgende Punkte können als Leitfaden für die notwendigen Überlegungen zur Entwicklung eines entsprechenden Konzepts dienen:

1. Schulungsbedarf ermitteln:

Unternehmen sollten zunächst eine Bedarfs- und Kompetenzanalyse durchführen, um die spezifischen Anforderungen zu identifizieren:

  • Welche KI-Systeme werden im Unternehmen eingesetzt?
  • Wie risikoreich sind diese Systeme?
  • Wer interagiert mit diesen Systemen?
  • Welches Wissen und welche Fähigkeiten sind bereits vorhanden?

2. Allgemeine und individuelle Schulungsmaßnahmen:

Basierend auf dieser Analyse sollten Unternehmen Schulungen auf verschiedenen Ebenen anbieten:

  • Allgemeine Schulungen: Vermittlung von Grundkenntnissen über KI, deren Funktionsweise und rechtliche sowie ethische Aspekte.
  • Individuelle Vertiefungen: Für spezifische Anwendungen, wie z.B. sicherheitskritische oder branchenspezifische KI-Systeme, können weiterführende Schulungen erforderlich sein.

3.  KI-Governance etablieren:

Ergänzend zu den Schulungen sollten Unternehmen einen klaren Rahmen für ihre KI-Governance schaffen, der Leitlinien und Richtlinien für die Nutzung von KI aufstellt. Ein sogenanntes "KI-Playbook" kann Mitarbeitenden als Orientierung dienen und den sicheren Umgang mit KI-Systemen gewährleisten.

4. Einsatz eines KI-Beauftragten:

Je nach Unternehmensgröße und Umfang der KI-Nutzung kann auch der Einsatz eines KI-Beauftragten sinnvoll sein, der Risikobewertungen sowie Risikofolgenabschätzungen durchführt, die Implementierung, Überwachung und Koordination der KI-Strategien vorantreibt und die Planung und Koordination von Schulungen übernimmt.

Dokumentation der KI-Maßnahmen

Die KI-VO verlangt keine konkrete Dokumentation. Für den Arbeitgeber ist es dennoch ratsam, insbesondere Schulungsmaßnahmen (elektronisch) festzuhalten. Eine nachvollziehbare Dokumentation schützt Unternehmen vor Haftungsrisiken und belegt die Erfüllung der Verpflichtung nach Art. 4 KI-VO.

Folgen bei unzureichender oder unterlassener Umsetzung

Artikel 4 KI-VO ist nicht als konkrete Verpflichtung, sondern vielmehr als ein Appell an den Arbeitgeber ausgestaltet. Dies zeigt sich unter anderem darin, dass ein Verstoß weder bußgeld- noch strafbewehrt ist. Es drohen damit keine unmittelbaren Geldstrafen bei unzureichender oder unterlassener Umsetzung. Sollte jedoch durch eine fehlerhafte Bedienung eines KI-Systems oder eine unzureichende Risikobewertung ein Schaden entstehen, könnte dies als Verstoß gegen die allgemeine Sorgfaltspflicht des Arbeitgebers ausgelegt werden, hätte der Schaden durch angemessene Maßnahmen verhindert werden können.

Fazit: Schulungskonzept als rechtliche Absicherung und Wettbewerbsvorteil

Die Einführung von Artikel 4 der KI-VO macht die Sicherstellung der KI-Kompetenz zu einer zentralen Verantwortung für Arbeitgeber. Auch ohne unmittelbare Sanktionen sollten Unternehmen vor allem die Schulungspflicht ernst nehmen. Durch die Etablierung eines umfassenden Schulungskonzepts können Unternehmen nicht nur die regulatorischen Vorgaben erfüllen, sondern auch die sichere und verantwortungsvolle Nutzung von KI-Systemen im Betrieb fördern. Letztlich bietet die Sicherstellung von KI-Kompetenz nicht nur rechtliche Absicherung, sondern auch einen Wettbewerbsvorteil, da gut geschulte Mitarbeitende KI-Systeme effizienter und risikoärmer einsetzen können.


Das könnte Sie auch interessieren:

KI und Ethik: Was auf HR zukommt

HR und KI: Wo die rechtlichen Fallen lauern

Wie Unternehmen und Verbände den Aufbau von KI-Kompetenz fördern