KI-Richtlinien für HR 1-5

Der Ethikbeirat HR-Tech hat zehn Richtlinien zur Nutzung von KI-Anwendungen entwickelt. Lesen Sie hier die ersten fünf Richtlinien in der finalen Version.

1. Transparenter Zielsetzungsprozess und Einbindung

Vor der Einführung einer KI-Lösung muss die Zielsetzung für die Nutzung geklärt werden. In diesem Prozess sollen alle relevanten Interessensgruppen identifiziert und eingebunden werden.

Die Nutzung von KI-Anwendungen in Organisationen erfordert einen strategischen Planungsprozess. Ihr Zweck und Nutzen sowie mögliche Zielkonflikte sollen geklärt werden. Dass auch die betrieblichen Interessenvertreter*innen vor Einführung zum "Ob", dem Ziel der Nutzung und der Durchführung einer KI-Lösung beteiligt werden – oder wo das nicht möglich ist, auch direkt die Beschäftigten – ist eine Selbstverständlichkeit. Transparente Beteiligungs- und Mitbestimmungsprozesse sind für die Nutzung von KI-Lösungen wichtig und stellen eine breite Akzeptanz sicher. Mit diesem Vorgehen soll bei der Einführung einer KI-Lösung auf partizipative Art und Weise eine Folgenabschätzung vorgenommen und die Erklärbarkeit und Nachvollziehbarkeit der verwendeten Technologie, ihres Einsatzes und der Ergebnisse sichergestellt werden.

2. Fundierte Lösungen

Wer KI-Lösungen anbietet oder nutzt, muss darauf achten, dass diese empirisch evaluiert sind und über eine theoretische Grundlage verfügen.

Anbieter von KI-Lösungen zielen darauf ab, mit ihren Lösungen die bestehende Praxis zu verbessern. Organisationen, die vorhaben eine KI-Lösung zu nutzen, sollen daher den Anbieter auffordern darzulegen, wie die Angemessenheit und Güte der KI-Lösung empirisch evaluiert wurde und auf welchen theoretischen Grundlagen diese basiert. Als Referenz, welche Informationen in welchen Umfang zu einer KI-Lösung vorliegen sollen, um ihre Güte beurteilen zu können, verweisen wir auf die Anforderungen an Verfahrenshinweise für messtheoretisch fundierte Fragebögen und Tests (DIN 33430, 2016, Anhänge A und B). Dazu gehören neben Anforderungen an die empirische Evaluation auch Anforderungen an die Handhabung, Zuverlässigkeit und Gültigkeit des Verfahrens.
Formen von KI, die auf einer explorativen, nichtzielgerichteten Datenanalyse basieren – beispielsweise Unsupervised Learning – können für HR-Anwendungen nicht eingesetzt werden, da ihre Vorgehensweise und ihre Ergebnisse nicht nachvollziehbar sind. Zu Forschungszwecken können solche Ansätze verfolgt werden.

3. Menschen entscheiden

Wer KI-Lösungen einsetzt, muss sicherstellen, dass bei wichtigen Personalentscheidungen die Letztentscheidungs­befugnis einer natürlichen Person obliegt.

Eine KI-Lösung kann als Arbeitsassistenz – zum Beispiel zur Informationsbeschaffung, -strukturierung und Entscheidungsvorbereitung – eingesetzt werden. Auch eine Automatisierung von Entscheidungen ist grundsätzlich möglich und in der Arbeitswelt nichts Ungewöhnliches. Es muss jedoch sichergestellt werden, dass KI-Lösungen in Gesamtlösungen eingebunden sind, die letztverantwortlich von Menschen gesteuert werden. Das ungeprüfte Übernehmen von systemisch erstellten Entscheidungsvorschlägen stellt keine menschliche Entscheidung dar.

Bei wichtigen Personalentscheidungen, die eine Verarbeitung besonderer personenbezogener Daten (Art. 9, 10 und 22 DSGVO, vgl. auch Erwägungsgrund 71) erfordern oder Lebenswege von Menschen wesentlich beeinflussen (zum Beispiel Einstellungen, Beförderungen, Beendigungen von Beschäftigungsverhältnissen), muss die Handlungsträgerschaft bei einer natürlichen Person liegen. Es ist für jede KI-Lösung zu definieren, wie eine tatsächliche Entscheidung durch Menschen sichergestellt, genug geeignete, qualifizierte Ressourcen dafür vorgehalten werden und die Entscheidungen überprüft werden können.

4. HR treibt KI-Lösungen – 
nicht umgekehrt

Ein erfolgreicher Einsatz von KI-Lösungen durch HR benötigt die Kombination technologischer, analytischer und personalwirtschaftlicher Kompetenzen. 

KI-Lösungen bieten für Organisationen und HR enorme Chancen. Diese Chancen erwachsen für HR-Fragestellungen aus der Kombination technologischer, analytischer und personalwirtschaftlicher Kompetenzen. Wer im Privaten Technologien einsetzt, muss diese nicht unbedingt selbst verstehen. Auch in Organisation wird künftig nicht Jede/-r selbst programmieren – auch nicht in HR.

HR muss aber die erforderlichen Kompetenzen entwickeln und aufbauen, um die einer KI-Lösung zugrundeliegende Technologie, das Prozessmodell sowie die zur Anwendung kommende Entscheidungslogik und die Auswirkungen auf die Arbeitsprozesse verstehen und erklären zu können. Für den Einsatz von KI-Lösungen im sensiblen Personalbereich sind teils andere und/oder ergänzende Prüf- und Entscheidungskriterien heranzuziehen – nicht zuletzt zur Beantwortung ethischer Fragestellungen. Darüber hinaus müssen Organisationen auch sicherstellen, dass die Anwender*innen von KI-Lösungen in ihren Organisationen hinreichend qualifiziert sind, um eine zweckmäßige Nutzung sicherzustellen.

5. Haftung und Verantwortung

Organisationen, die KI-Lösungen nutzen, sind für die Ergebnisse ihrer Nutzung verantwortlich.

Arbeitgeber tragen gegenüber ihren Mitarbeiter*innen eine besondere Fürsorgepflicht und stehen auch Bewerber*innen gegenüber in der Verantwortung. Die Verantwortung für den diskriminierungsfreien und die Persönlichkeit respektierenden Einsatz von KI kann deshalb nicht auf die Anbieter von KI-Lösungen übertragen werden. Organisationen, die KI-Lösungen in der Personalarbeit nutzen, müssen sich im Klaren darüber sein, wer für die jeweiligen Prozesse und Entscheidungen die Verantwortung und Haftung übernimmt. Vor der Nutzung einer KI-Lösung soll geklärt werden, inwieweit der Prozess rechtlich zulässig ist und/oder ob der Einsatz der KI-Lösung mit Schranken belegt werden muss.


Hier lesen Sie den zweiten Teil der Richtlinien.

Ethikbeirat HR Tech
Schlagworte zum Thema:  Künstliche Intelligenz (KI), HR-Software