KI-Richtlinien für HR 5-10

Der Ethikbeirat HR Tech hat zehn Richtlinien zur Nutzung von KI-Anwendungen vorgelegt – als Diskussionsgrundlage. Lesen Sie hier die weiteren fünf Richtlinien im Originaltext, wie er vom Ethikbeirat vorgelegt wurde.

6. Zweckbindung und Datenminimierung

Wer personenbezogene Daten für KI-Lösungen nutzt, muss im Vorfeld definieren, für welche Zwecke diese verwendet werden und sicherstellen, dass diese Daten nur zweckdienlich erhoben, gespeichert und genutzt werden.

Organisationen haben eine besondere Verantwortung im Umgang mit personenbezogenen Daten, die in digitalisierten Organisationsprozessen in wachsendem Umfang entstehen. Diese Daten dürfen nicht für personenbezogene Auswertungen zweckentfremdet werden. Den rechtlichen Rahmen dafür bildet die DSGVO. Sie fordert sowohl das Prinzip der Zweckbindung als auch der Datenminimierung. Personenbezogene Daten, die für einen vorab definierten Zweck erhoben wurden, dürfen grundsätzlich nicht ohne erneute Einwilligung zu ihrer Nutzung für andere Zwecke verwendet werden. Ferner sollen nicht mehr Daten erhoben werden, als für den jeweiligen Zweck erforderlich.  Organisationen können mit einer Pseudonymisierung und/oder Anonymisierung der Daten arbeiten, um Daten unter Wahrung des Datenschutzes verwenden zu können. Eine explorative Datenanalyse ist höchstens für Forschungszwecke, d.h. unter Ausschluss einer Verwendung der Ergebnisse für Personalentscheidungen jeglicher Art, möglich.

7. Informationspflicht

Vor bzw. beim Einsatz einer KI-Lösung müssen die davon betroffenen Menschen über ihren Einsatz, ihren Zweck, ihre Logik und die erhobenen und verwendeten Datenarten informiert werden.

Menschen müssen darüber informiert werden, dass sie mit einer KI-Lösung interagieren und/oder ihre personenbezogenen Daten von einer KI-Lösung verarbeitet werden.Die Information muss den Zweck und die Logik der KI-Lösung sowie eine vollständige Auflistung der verwendeten Datenarten beinhalten.  

Click to tweet

8. Achten der Subjektqualität

Für die Nutzung in KI-Lösungen dürfen keine Daten erhoben und verwendet werden, welche der willentlichen Steuerung der Betroffenen grundsätzlich entzogen sind.

Subjektqualität ist ein Pfeiler der Menschenwürde und Selbstbestimmung. Dieser Punkt ist wichtig, aber nicht leicht verständlich. Lassen Sie uns deshalb ein Beispiel verwenden: Ein Lügendetektor produziert grundsätzlich valide Ergebnisse. Trotzdem wird dieses Verfahren in Deutschland nicht eingesetzt. Warum? Der Lügendetektor misst Parameter wie bspw. die elektrische Leitfähigkeit der Haut. Dabei werden Daten erhoben, die Menschen willentlich weder zur Verfügung stellen noch beeinflussen können. Wir wären in dieser Hinsicht analysiertes Objekt und kein wahrnehmendes und handelndes Subjekt. KI-Lösungen, die Daten erheben oder verwenden, welche die Subjektqualität des Menschen nicht beachten, sind für das Personalmanagement in Organisationen grundsätzlich nicht einzusetzen.

9. Datenqualität und Diskriminierung

Wer KI-Lösungen entwickelt oder nutzt, muss sicherstellen, dass die zugrundeliegenden Daten über eine hohe Qualität verfügen und systembedingte Diskriminierungen ausgeschlossen werden.

Personalverantwortliche handeln im Bewusstsein, dass datenbasierte und/oder automatisierte Entscheidungsprozesse nicht automatisch objektiv und fair sind. Historische Daten, die genutzt werden, um KI-Lösungen zu entwickeln und zu trainieren, sind von normativen Vorgaben zu unterscheiden. Bei personalpolitischen Entscheidungen spielen normative Vorgaben (z.B. Quoten) eine wichtige Rolle. Die Auswertung, wer es in der Vergangenheit in eine Führungsposition geschafft  hat, ist nicht die Antwort darauf, wer es in Zukunft schaffen sollte. Deshalb müssen Anbieter und Nutzer von KI-Lösungen dafür Sorge tragen, dass systembedingte Diskriminierungen vermieden  erden. Je nach Anwendungszweck sind dafür eine Information über Trainingsdaten und Entscheidungskriterien sowie die proaktive Prüfung von Daten und Systemen auf Diskriminierung notwendig.

Click to tweet

10. Stetige Überprüfung

Wer KI-Lösungen nach den vorliegenden Richtlinien einführt, soll transparent sicherstellen, dass die Richtlinien auch bei der betrieblichen Umsetzung und der Weiterentwicklung beachtet werden.

Die Nutzung einer KI-Lösung erfordert stetige Kontrolle. Nutzer von KI-Lösungen sind daher in der Pflicht, regelmäßig zu überprüfen, ob die Nutzung in Einklang mit den Richtlinien erfolgt und den festgelegten Zielsetzungen entspricht. Bei Abweichungen sind Anpassungen vorzunehmen. Wichtige Aspekte sind beispielsweise die Beurteilung der zweckmäßigen Nutzung einer KI-Lösung und die Auswirkungen auf die Arbeitsorganisation. Dies erfordert die Einrichtung geeigneter organisationsinterner Prozesse und Institutionen, wie zum Beispiel eine*n Digital-Verantwortliche*n, einen interdisziplinären KI-Beirat oder Digitalrat, sowie die Gewährleistung der Möglichkeit zur Kontaktaufnahme und Interventionsmöglichkeit mit geeigneten Ansprechpartner*innen in allen Fällen, in denen KI-Lösungen genutzt werden.


Hier lesen Sie die KI-Richtlinien für HR - Teil 1


Die Personalmagazin- und die Haufe Online-Redaktion freuen sich auf den Meinungsaustausch zu den KI-Richtlinien für HR. Schreiben Sie an redaktion@personalmagazin.de oder verwenden Sie den Hashtag #EthikbeiratHRTech in Ihren Kommentaren auf Social Media und in Ihren Blogs.

Schlagworte zum Thema:  Künstliche Intelligenz (KI), HR-Software