KI-Richtlinien für HR 5-10

Der Ethikbeirat HR-Tech hat zehn Richtlinien zur Nutzung von KI-Anwendungen entwickelt. Lesen Sie hier die weiteren fünf Richtlinien in der finalen Version.

6. Zweckbindung und Datenminimierung

Wer personenbezogene Daten für KI-Lösungen nutzt, muss im Vorfeld definieren, für welche Zwecke diese verwendet werden und sicherstellen, dass diese Daten nur zweckdienlich erhoben, gespeichert und genutzt werden.

Organisationen haben eine besondere Verantwortung im Umgang mit personenbezogenen Daten, die in digitalisierten Organisationsprozessen in wachsendem Umfang entstehen. Diese Daten dürfen nicht für personenbezogene Auswertungen zweckentfremdet werden. Den rechtlichen Rahmen dafür bildet die DSGVO. Sie fordert sowohl das Prinzip der Zweckbindung als auch der Datenminimierung. Personenbezogene Daten, die für einen vorab definierten Zweck erhoben wurden, dürfen grundsätzlich nicht ohne erneute Einwilligung zu ihrer Nutzung für andere Zwecke verwendet werden. Ferner sollen nicht mehr Daten erhoben werden, als für den jeweiligen Zweck erforderlich. 

Organisationen können mit einer Pseudonymisierung und/oder Anonymisierung der Daten arbeiten, um Daten unter Wahrung des Datenschutzes verwenden zu können. Eine explorative Datenanalyse ist höchstens für Forschungszwecke, das heißt unter Ausschluss einer unmittelbaren Verwendung der Ergebnisse für Personalentscheidungen jeglicher Art, möglich.

7. Informationspflicht

Vor beziehungsweise beim Einsatz einer KI-Lösung müssen die davon betroffenen Menschen über ihren Einsatz, ihren Zweck, ihre Logik und die erhobenen und verwendeten Datenarten informiert werden.

Mitarbeiter*innen in Organisationen und Bewerber*innen müssen darüber informiert werden, dass sie mit einer KI-Lösung interagieren ("Hallo, ich bin ein Chatbot"). Mitarbeiter*innen in Organisationen und Bewerber*innen müssen eine Möglichkeit haben, eine*n menschliche*n Ansprechpartner*in erreichen zu können. Sie sind darüber zu informieren, dass ihre personenbezogenen Daten verarbeitet werden. Die Information muss den Zweck und eine Auflistung der verwendeten Datenarten beinhalten.

8. Achten der Subjektqualität

Für die Nutzung in KI-Lösungen dürfen ohne rechtzeitige Beteiligung und individuelle Einwilligung der Betroffenen keine Daten erhoben werden, die deren willentlicher Steuerung entzogen sind.

Subjektqualität ist ein Pfeiler der Menschenwürde und Selbstbestimmung. Für den Anwendungsbereich HR sind diesbezüglich Verfahren relevant, bei denen Daten erhoben werden, die Menschen willentlich weder zur Verfügung stellen noch beeinflussen können. Dies können zum Beispiel Stimm- oder Videoanalysen sein oder Verfahren bei denen Messwerte zur Hauttemperatur genutzt werden. Menschen sind bei der Nutzung solcher Verfahren ausschließlich analysiertes Objekt und kein sich selbst wahrnehmendes und handelndes Subjekt.

Die Anwendung solcher Verfahren ist ethisch heikel. Sie verlangt eine transparente, rechtzeitige und verbindliche Beteiligungsvereinbarung als Grundlage zur freiwilligen Einwilligung der Betroffenen. Dies gilt auch für externe Bewerber*innen. Es muss geprüft werden, ob alternative geeignete Verfahren angewendet werden können, die weniger intensiv in die Persönlichkeit eingreifen oder eine höheren Steuerungsintensität durch die Betroffenen gewährleisten. Wegen der Sensibilität der höchstpersönlichen Daten gilt dies selbst dann, wenn der Arbeitgeber beabsichtigt, die Daten im Anschluss an ihre Erhebung nur anonymisiert zu benutzen. Weitergehende Zustimmungserfordernisse der Mitbestimmung sind davon unbenommen.

Vor einer freiwilligen Einwilligung muss eine Aufklärung über zumindest die Art der erhobenen Daten und die Logik ihrer Verarbeitung erfolgen. Das setzt voraus, dass für die entsprechenden KI-Lösungen bereits zuvor transparente Regeln sowohl über die Datenerhebung und -nutzung, die Analyse- und Auswertungsmöglichkeiten sowie deren Einsichtsoptionen als auch eine Folgenabschätzung bestimmt werden. Die Betroffenen können ihre Zustimmung erteilen, müssen aber vorher wissen, zu welchem Zweck sie in die Durchführung solcher Analyseverfahren einwilligen und welche Personen Zugang zu ihren Daten erhalten. Dazu werden partizipative Verfahren empfohlen, um den Grundsatz der informierten Einwilligung durch Beteiligung umsetzen. Ohne informierte Einwilligung in die Verwendung dieser Daten zu den zuvor bestimmten Zwecken darf keine Verarbeitung der Ergebnisse erfolgen.

9. Vermeidung von Diskriminierung

Wer KI-Lösungen entwickelt oder nutzt, muss sicherstellen, dass die zugrundeliegenden Daten über eine hohe Qualität verfügen und systembedingte Diskriminierungen ausgeschlossen werden.

Menschen unterlaufen bei Entscheidungen "Fehler". Diese Fehler unterscheiden sich grundsätzlich von systembedingten "Fehlern", die eine Maschine macht. Menschen tragen die Verantwortung für ihre Entscheidungen sowie für die Konsequenzen, Maschinen nicht. Richtig eingesetzt können KI-Lösungen zu einer diversen, fairen und chancengleichen Arbeitsumgebung beitragen. Personalverantwortliche sollen sich bewusst sein, dass datenbasierte und/oder automatisierte Entscheidungsprozesse nicht automatisch objektiv und fair sind. Historische Daten, die genutzt werden, um KI-Lösungen zu entwickeln und zu trainieren, sind von normativen Vorgaben zu unterscheiden. Bei personalpolitischen Entscheidungen spielen normative Vorgaben (zum Beispiel Quoten) häufig eine wichtige Rolle. Die Auswertung, wer es beispielsweise in der Vergangenheit in eine Führungsposition geschafft hat, ist nicht die Antwort darauf, wer es in Zukunft schaffen sollte. Anbieter*innen und Nutzer*innen von KI-Lösungen müssen dafür Sorge tragen, dass systembedingte Diskriminierungen vermieden werden. Je nach Anwendungszweck sind dafür Informationen über Trainingsdaten und Entscheidungskriterien notwendig. Daten, Systeme und Ergebnisse sollten kontinuierlich auf Diskriminierung geprüft werden.

10. Stetige Überprüfung

Wer KI-Lösungen nach den vorliegenden Richtlinien einführt, sollte transparent sicherstellen, dass die Richtlinien auch bei der betrieblichen Umsetzung und der Weiterentwicklung beachtet werden.

Die Nutzung einer KI-Lösung erfordert stetige Kontrolle. Nutzer*innen von KI-Lösungen sind daher in der Pflicht, regelmäßig zu überprüfen, ob die Nutzung in Einklang mit den Richtlinien erfolgt und den festgelegten Zielsetzungen entspricht. Bei Abweichungen sind Anpassungen vorzunehmen. Wichtige Aspekte sind beispielsweise die Beurteilung der zweckmäßigen Nutzung einer KI-Lösung und die Auswirkungen auf die Arbeitsorganisation. Dies erfordert die Einrichtung geeigneter organisationsinterner Prozesse und Institutionen, wie zum Beispiel eine*n Digital-Verantwortliche*n, einen interdisziplinären KI-Beirat oder Digitalrat, sowie die Gewährleistung der Möglichkeit zur Kontaktaufnahme und Interventionsmöglichkeit mit geeigneten Ansprechpartner*innen in allen Fällen, in denen KI-Lösungen genutzt werden.

Hier lesen Sie den ersten Teil der Richtlinien.

Ethikbeirat HR Tech
Schlagworte zum Thema:  Künstliche Intelligenz (KI), HR-Software