Die EU hat in ihrem Entwurf für eine Verordnung zur Festlegung harmonisierter Vorschriften für KI im April 2021 die Anwendung von KI-Systemen im Personalbereich als "hoch-riskant" eingestuft. KI-Anwendungen im Personalbereich können potenziell schwerwiegende Auswirkungen auf die betroffenen Personen haben, zu Diskriminierung führen und/oder die Freiheit und Autonomie der Personen einschränken.
Um sicherzustellen, dass der Einsatz von KI im Personalbereich im Einklang mit den europäischen Werten und Grundsätzen erfolgt und die Interessen der Arbeitnehmer gewahrt bleiben, sollen sie künftig strengen Anforderungen unterliegen. So ist bei KI-gestützten Anwendungen im Personalbereich ein umfassendes Qualitäts- und Risikomanagementsystem einzurichten, indem unter anderem Entscheidungsvorgänge, Datenqualität und Transparenz dokumentiert und nachgewiesen werden müssen.[1]
Bereits im April 2019 hat die von der Europäischen Kommission eingesetzte KI-Expertengruppe (HEG-KI) Kernanforderungen für vertrauenswürdige KI vorgestellt, darunter den Vorrang menschlichen Handelns, menschliche Aufsicht und Rechenschaftspflicht.[2] In Deutschland hat der Ethikbeirat HR-Tech, der sich aus Expertinnen und Experten aus Wissenschaft und Praxis zusammensetzt, zudem seine zehn Leitlinien für den verantwortungsvollen Einsatz von KI und anderen digitalen Technologien in der Personalarbeit vorgelegt:[3]
- Transparenter Zielsetzungsprozess und Einbindung: Vor der Einführung einer KI-Lösung (der Begriff wird im Folgenden als Oberbegriff für moderne Technologien verwendet) muss die Zielsetzung für die Nutzung definiert werden. In diesem Prozess sollen alle relevanten Interessensgruppen identifiziert und eingebunden werden.
- Fundierte Lösungen: Wer KI-Lösungen anbietet oder nutzt, muss darauf achten, dass diese empirisch evaluiert sind und über eine theoretische Grundlage verfügen.
- Menschen entscheiden: Wer KI-Lösungen einsetzt, muss sicherstellen, dass bei wichtigen Personalentscheidungen die Letztentscheidungsbefugnis einer natürlichen Person obliegt.
- HR treibt KI-Lösungen – nicht umgekehrt: Ein erfolgreicher Einsatz von KI-Lösungen durch HR benötigt die Kombination technologischer, analytischer und personalwirtschaftlicher Kompetenzen.
- Haftung und Verantwortung: Organisationen, die KI-Lösungen nutzen, sind für die Ergebnisse ihrer Nutzung verantwortlich.
- Zweckbindung und Datenminimierung: Wer personenbezogene Daten für KI-Lösungen nutzt, muss im Vorfeld definieren, für welche Zwecke diese verwendet werden und sicherstellen, dass diese Daten nur zweckdienlich erhoben, gespeichert und genutzt werden.
- Informationspflicht: Vor bzw. beim Einsatz einer KI-Lösung müssen die davon betroffenen Menschen über ihren Einsatz, ihren Zweck, ihre Logik und die erhobenen und verwendeten Datenarten informiert werden.
- Achten der Subjektqualität: Für die Nutzung in KI-Lösungen dürfen ohne rechtzeitige Beteiligung und individuelle Einwilligung der Betroffenen keine Daten erhoben werden, die deren willentlicher Steuerung entzogen sind.
- Datenqualität und Diskriminierung: Wer KI-Lösungen entwickelt oder nutzt, muss sicherstellen, dass die zugrundeliegenden Daten über eine hohe Qualität verfügen und systembedingte Diskriminierungen ausgeschlossen werden.
- Stetige Überprüfung: Wer KI-Lösungen nach den vorliegenden Richtlinien einführt, soll transparent sicherstellen, dass die Richtlinien auch bei der betrieblichen Umsetzung und der Weiterentwicklung beachtet werden.
Das ist nur ein Ausschnitt aus dem Produkt Finance Office Professional. Sie wollen mehr?
Jetzt kostenlos 4 Wochen testen
Anmelden und Beitrag in meinem Produkt lesen