Ethikrichtlinien zum KI-Einsatz in HR: erster Teil

1. Transparenter Zielsetzungsprozess

Vor der Einführung einer KI-Lösung muss die Zielsetzung für die Nutzung geklärt werden. In diesem Prozess sollen alle relevanten Interessensgruppen identifiziert und eingebunden werden.

Die Nutzung von KI-Anwendungen in Organisationen erfordert einen nachhaltigen, strategischen Planungsprozess. Ihr Zweck und Nutzen sowie mögliche Zielkonflikte sollen geklärt werden. Dass auch die betrieblichen Interessenvertreter*innen möglichst frühzeitig vor Einführung zum "Ob", dem Ziel der Nutzung und der Durchführung einer KI-Lösung beteiligt werden – oder wo das nicht möglich ist, auch direkt die Beschäftigten – ist eine Selbstverständlichkeit. Transparente Beteiligungs- und Mitbestimmungsprozesse sind für die Nutzung von KI-Lösungen wichtig und stellen eine breite Akzeptanz sicher. Mit diesem Vorgehen soll bei der Einführung einer KI-Lösung auf partizipative Art und Weise eine Folgenabschätzung vorgenommen werden.

2. Fundierte Lösungen

Wer KI-Lösungen anbietet oder nutzt, muss darauf achten, dass diese empirisch evaluiert sind und über eine theoretische Grundlage verfügen.

Anbieter von KI-Lösungen zielen darauf ab, mit ihren Lösungen die bestehende Praxis zu verbessern. Organisationen, die vorhaben eine KI-Lösung zu nutzen, sollen daher den Anbieter auffordern darzulegen, wie die Angemessenheit und Güte der KI-Lösung empirisch evaluiert wurde und auf welchen theoretischen Grundlagen diese basiert. Als Referenz, welche Informationen in welchen Umfang zu einer KI-Lösung vorliegen sollen, um ihre Güte beurteilen zu können, verweisen wir auf die Anforderungen an Verfahrenshinweise für messtheoretisch fundierte Fragebögen und Tests (DIN 33430, 2016, Anhänge A und B). Dazu gehören neben Anforderungen an die empirische Evaluation auch Anforderungen an die Handhabung, Zuverlässigkeit und Gültigkeit des Verfahrens.

3. Menschen entscheiden

Wer KI-Lösungen einsetzt, muss sicherstellen, dass die Handlungsträgerschaft der Menschen bei wichtigen  Personalentscheidungen nicht eingeschränkt wird.

Eine KI-Lösung kann als Arbeitsassistenz – zum Beispiel zur Informationsbeschaffung und Entscheidungsvorbereitung – eingesetzt werden. Auch eine Automatisierung von Entscheidungen ist grundsätzlich möglich und in der Arbeitswelt nichts Ungewöhnliches. Es muss jedoch sichergestellt werden, dass KI-Lösungen in Gesamtlösungen eingebunden sind, die letztverantwortlich von Menschen gesteuert werden. Das ungeprüfte Übernehmen von systemisch erstellten Entscheidungsvorschlägen stellt keine menschliche Entscheidung dar.

Bei wichtigen Personalentscheidungen, die eine Verarbeitung besonderer personenbezogener Daten (Art. 9, 10 und 22 DSGVO, vgl. auch Erwägungsgrund 71) erfordern oder Lebenswege von Menschen wesentlich beeinflussen (zum Beispiel Einstellungen, Beförderungen, Beendigungen von Beschäftigungsverhältnissen), muss die Handlungsträgerschaft des Menschen gewährleistet sein. Dies betrifft insbesondere die Begründung und Beendigung von Beschäftigungsverhältnissen, die Personalentwicklung sowie die Personaldiagnostik. Es ist im Einzelfall zu definieren, wie eine tatsächliche Entscheidung durch Menschen sichergestellt
oder überprüft werden kann.

4. Notwendiger Sachverstand

Wer KI-Lösungen in seiner Organisation nutzt, muss diese in ihrer Logik verstehen und erklären können.in erfolgreicher Einsatz von KI-Lösungen durch HR benötigt die Kombination technologischer, analytischer und personalwirtschaftlicher Kompetenzen. 

Wer im Privaten Technologien einsetzt, muss diese nicht unbedingt verstehen. Es ist Privatsache, ob man sich damit beschäftigen will. Wenn eine Organisation KI-Lösungen nutzt, muss die Logik dieser KI-Lösung in ihrer Gesamtheit verstanden werden. Organisationen müssen sich die erforderlichen Kompetenzen zu eigen machen, um die zugrundeliegende Technologie, das Prozessmodell sowie die zur Anwendung kommende Entscheidungslogik und die Auswirkungen auf die Arbeitsprozesse verstehen und erklären zu können. Darüber hinaus müssen Organisationen sicherstellen, dass die Anwender*innen von KI-Lösungen hinreichend qualifiziert sind, um eine zweckmäßige Nutzung sicherzustellen.

5. Haftung und Verantwortung

Organisationen, die KI-Lösungen nutzen, sind für die Ergebnisse ihrer Nutzung verantwortlich.

Arbeitgeber tragen gegenüber ihren Mitarbeiter*innen eine besondere Fürsorgepflicht und stehen auch Bewerber*innen gegenüber in der Verantwortung. Die Verantwortung für den diskriminierungsfreien und die Persönlichkeit respektierenden Einsatz von KI kann deshalb nicht auf die Anbieter von KI-Lösungen übertragen werden. Organisationen, die Entscheidungen oder Entscheidungsunterstützung auf KI-Lösungen übertragen, sollen sich im Klaren darüber sein, wer für welche Prozesse und Entscheidungen die Verantwortung und Haftung übernimmt. Vor der Nutzung einer KI-Lösung soll geklärt werden, ob der Prozess rechtlich zulässig ist und ob der Einsatz der KI-Lösung mit Schranken belegt werden muss.

Hier lesen Sie den zweiten Teil der Richtlinien.