Alex Worobjow

Zusammenfassung

 
Überblick

Der Beitrag beleuchtet den aktuellen Entwurf der geplanten EU-Verordnung für künstliche Intelligenz (KI) mit speziellem Blick auf die Personalwirtschaft und geht hierbei auf mögliche Auswirkungen und Verantwortlichkeiten von Unternehmen ein.

 
Gesetze, Vorschriften und Rechtsprechung

Art. 3 Abs. 1, Art. 28, Art. 29 KI VO

1 Einführung

Die geplante Verordnung der Europäischen Union verfolgt das Ziel, einen umfassenden rechtlichen Rahmen für den Einsatz von künstlicher Intelligenz (KI) zu schaffen. Sie soll Transparenz und Rechtssicherheit gewährleisten, die Akzeptanz von KI-Technologien erhöhen und diese mit europäischen Werten und Grundrechten in Einklang bringen. Gleichzeitig strebt die EU an, auch global einen Standard für den ethischen Einsatz von KI zu setzen.

Die Verordnung soll hierbei einen risikobasierten Ansatz verfolgen, um eine angemessene Regulierung von KI zu erreichen. Risikobasiert bedeutet, dass KI-Systeme anhand ihrer potenziellen Risiken, die sie für die Gesellschaft oder den Einzelnen darstellen, unterschiedlich reguliert werden. Also bspw. nicht nach der technischen Ausgestaltung oder des Wirtschaftszweigs.

Von zentraler Bedeutung ist, wie genau der Gesetzgeber KI für die Verordnung überhaupt definieren wird. Nach den letzten Vorschlägen vom 14.6.2023 lautet die Definition:

""System der künstlichen Intelligenz" (KI-System): Ein maschinengestütztes System, das so konzipiert ist, dass es mit unterschiedlichem Grad an Autonomie operieren kann und das für explizite oder implizite Ziele Ergebnisse wie Vorhersagen, Empfehlungen oder Entscheidungen hervorbringen kann, die das physische oder virtuelle Umfeld beeinflussen."

In anderen Worten: Die Definition ist sehr weitgefasst. "Künstliche Intelligenz" im Sinne der Verordnung werden wahrscheinlich nicht nur Systeme sein, die auf maschinellem Lernen beruhen und menschlicher Intelligenz ähneln. Auch "gewöhnliche", also traditionell programmierte Software, die den o. g. Kriterien entspricht, wird ab einem gewissen Gefährdungsgrad als Hochrisiko-KI qualifiziert und damit Pflichten für die Anwender auslösen. Andersherum wird es menschenähnliche hochintelligente Anwendungen geben, die unreguliert bleiben, wenn sie für Menschen ungefährlich sind.

2 Überblick über die Verordnungsinhalte

Risikoklassen und ihre Implikationen mit besonderem Augenmerk auf den Bereich HR nach derzeitigem Stand:

 
Klassifizierung Beispiel Rechtsfolgen/Pflichten für Unternehmen als Betreiber
Verbotene KI-Systeme/sog. unannehmbares Risiko Unterschwellige Beeinflussung; Ausnutzung von Schwächen; Klassifizieren und Bewerten von Menschen nach ethischen Merkmalen und sozialem Verhalten; z. B.: Gesichtserkennungstechnologie, um Bewegungen und Aktivitäten von Mitarbeitern während der Arbeitszeit zu überwachen und zu bewerten. Grundsätzlich verboten. Keine Nutzung.
Hochrisiko-KI-Systeme/Erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte von natürlichen Personen

Beschäftigung, Personalmanagement und Zugang zur Selbstständigkeit

z. B.:

  • Einstellung oder Auswahl von Bewerbern (Sichten oder Filtern von Bewerbungen und das Bewerten von Bewerbern)
  • Entscheidungen über Beförderungen und über Kündigungen von Arbeitsvertragsverhältnissen, für die Aufgabenzuweisung auf Grundlage des individuellen Verhaltens sowie für die Überwachung und Bewertung der Leistung und des Verhaltens von Personen.

u.A.:

  • Überwachen anhand Gebrauchsanweisung;
  • Sorge tragen, dass Eingabedaten dem Zweck entsprechen;
  • Aufbewahrung von Protokollen;
  • weitere Pflichten, insb., wenn Unternehmen nicht nur Betreiber, sondern Anbieter i. S. d. VO ist
KI-Systeme mit begrenztem Risiko[1] Chatbots für einfache HR-Anfragen wie Urlaubsanträge, Gehaltsabrechnung etc.

ggf. Transparenzpflichten

ggf. freiwillige Codizes
Dies dürften Systeme sein, die lediglich die gesetzlichen Regeln anwenden, keine Entscheidungen treffen; unterstützen Menschen nur indirekt, z. B. durch Bereitstellung von Daten, keinen direkten Einfluss auf Menschen, z. B. reine Datenerfassung (z. B. Zeiterfassung), z. B. auch Spamfilter, Videospiele usw. keine spezifischen Pflichten
[1] Die begriffliche Unterscheidung in "geringes" und "minimales" Risiko wurde offenbar aufgegeben bzw. ist nicht unmittelbar relevant, vgl. auch: https://www.europarl.europa.eu/news/de/headlines/society/20230601STO93804/ki-gesetz-erste-regulierung-der-kunstlichen-intelligenz.

3 Zukünftige Implikationen für Arbeitgeber

Es ist damit zu rechnen, dass verschiedene Spielarten des KI-Einsatzes im Personalbereich künftig als Hochrisiko-KI eingestuft und damit strengeren Anforderungen unterworfen werden sollen, vgl. Tabelle oben.

 
Hinweis

"Betreiber" im Sinne der Verordnung ist jede natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet.[1] Also auch Unternehmen als Arbeitgeber. Betreiber hießen im ursprünglichen Entwurf noch "Nutzer".[2]

[1] Vgl. Art. 3 Abs. 1 Nr. 4 KI-VO-E.
[2] Abänderungen des Europäischen Parlaments vom 14.6.2023: https://www.europarl.europa.eu/doceo/document/TA-9-2023-0236_DE.html.

3.1 Potentielle Pflichten für Arbeitgeber ("Betreiber") nach der KI-Verordnung

Auf Unternehme...

Das ist nur ein Ausschnitt aus dem Produkt Haufe Personal Office Platin. Sie wollen mehr?

Jetzt kostenlos 4 Wochen testen

Anmelden und Beitrag in meinem Produkt lesen


Meistgelesene beiträge