Zusammenfassung
Bewerbungsverfahren werden – nicht zuletzt durch die rechtlichen Herausforderungen und den Bewerbermarkt – immer komplexer. Recruiter müssen immer mehr Aufgaben übernehmen und dürfen dabei nicht die wichtigsten Punkte aus den Augen verlieren. Schon deshalb kommen seit vielen Jahren IT-Tools in den Bewerbungsverfahren zur Anwendung. Seit geraumer Zeit tritt zudem immer häufiger der Einsatz Künstlicher Intelligenz (KI) hinzu, um das Bewerbungsverfahren effizienter und objektiver zu gestalten und dieser Trend dürfte sich durch den allgemeinen Trend zur Weiterentwicklung von KI-Systemen fortsetzen. Dabei stellen sich aus arbeitsrechtlicher Sicht zunächst Fragen nach Grenzen und Risiken des Einsatzes. Dazu zählen insbesondere: betriebliche Mitbestimmung, Datenschutz, Diskriminierung und Weisungsrechte des Arbeitgebers.
Bei den meisten rechtlichen Fragestellungen können die Grundsätze, die für IT-Tools entwickelt wurden, auch auf KI angewendet werden. Es gibt aber teilweise auch Besonderheiten zu beachten.[1]
In diesem Beitrag sollen Diskriminierungsaspekte des Einsatzes von IT-Tools und KI im Vordergrund stehen.
Hinweis: Begriffe IT-Tools und KI, Einordnung und Abgrenzung
Im Rahmen des hiesigen Beitrags wird ein IT-Tool als eine Softwareanwendung oder ein Programm verstanden, das spezifische Aufgaben oder Funktionen im Bereich der Informationstechnologie (auf menschlichen festgelegten Regeln basierend) ausführt. Diese Werkzeuge können dazu dienen, Prozesse zu automatisieren, Daten zu verarbeiten, Probleme zu lösen und dadurch die Effizienz in verschiedenen IT-Bereichen zu verbessern. Beispiele für IT-Tools sind Texteditoren, Datenbankmanagementsysteme oder auch Debugging-Tools. IT-Tools werden in der Regel von Menschen nach festgelegten Algorithmen und Regeln programmiert und ausgeführt.
Künstliche Intelligenz (KI) beschreibt dagegen eine Sammlung von Algorithmen, Modellen und Methoden, die in der Lage sind, Aufgaben auszuführen, die grundsätzlich menschliche Intelligenz erfordern würden. KI ermöglicht es Systemen, aus Erfahrungen zu lernen, Muster zu erkennen, sich an neue Situationen anzupassen und selbstständig Entscheidungen zu treffen. Zur weiteren Einordnung wird häufig zwischen sog. starker und sog. schwacher KI unterschieden. Schwache KI ist auf die Lösung einer spezifischen Aufgabe oder eines bestimmten Problems fokussiert und gleichzeitig hierauf beschränkt. Hierzu werden einzelne Aspekte der menschlichen Intelligenz nachgebildet bzw. Systeme zur Unterstützung menschlichen Denkens gebaut. Starke KI wiederum soll in der Lage sein, eine Vielzahl von Aufgaben zu erlernen und zu meistern und letztlich ähnliche intellektuelle Fähigkeiten eines Menschen aufweisen bzw. diesen sogar in seinen Möglichkeiten übertreffen.
Zu diesen weiteren arbeitsrechtlichen Aspekten, insbesondere zur betrieblichen Mitbestimmung bei der Einführung von IT-/KI-Tools, verweisen wir auf den Beitrag: KI und HR: Künstliche Intelligenz im Personalwesen.
1 Diskriminierungsaspekte beim Einsatz von IT-Tools und KI
Das Antidiskriminierungsrecht spielt im Bewerbungsverfahren und dort insbesondere beim Einsatz von IT-Tools und KI eine zentrale Rolle. Die Normen des AGG knüpfen nicht an die Verwendung bestimmter Technologien an. Gemäß §§ 1, 7 Abs. 1 AGG dürfen Beschäftigte (zu denen auch Bewerber zählen) nicht aus Gründen der Rasse oder wegen der ethnischen Herkunft, des Geschlechts, der Religion oder Weltanschauung, einer Behinderung, des Alters oder der sexuellen Identität benachteiligt werden. In § 3 AGG werden dabei die verschiedenen Formen der Benachteiligung legaldefiniert. Neben der unmittelbaren Benachteiligung kann auch ein Verstoß gegen das Benachteiligungsverbot wegen einer nur mittelbaren Diskriminierung begangen werden.
Die rechtlichen Rahmenbedingungen, die Arbeitgeber im Rahmen von Bewerbungsverfahren einzuhalten haben, müssen bei der Nutzung von IT-Tools oder KI ebenfalls zwingend beachtet werden.[1] Es müssen jedoch zusätzlich einige Aspekte berücksichtigt werden. Insbesondere können IT-Tools und KI einerseits gerade dazu beitragen, dass die Risiken von Diskriminierungen abgemildert werden (insbesondere in Bezug auf unmittelbare Diskriminierungen). Andererseits bestehen vor allem beim Einsatz von KI neue Gefahren in Bezug auf mittelbare Diskriminierungen, denen Arbeitgeber entgegenwirken müssen.
Unterschied unmittelbare und mittelbare Diskriminierung
Eine unmittelbare Diskriminierung liegt vor, wenn eine Person aufgrund eines in § 1 AGG genannten Merkmals benachteiligt wird. Eine mittelbare Diskriminierung erfolgt nicht offensichtlich wegen eines in § 1 AGG genannten Merkmals, sondern resultiert aus scheinbar neutralen Kriterien. Diese gelten zunächst für alle gleichermaßen, in ihrem Effekt aber wirken sie sich auf bestimmte Gruppen stärker benachteiligend aus als auf andere.
Der Arbeitgeber kann sich durch den bloßen Verweis auf IT-Tools oder KI nicht exkulpieren. Mit Blick auf mittelbare Dis...
Das ist nur ein Ausschnitt aus dem Produkt Personal Office Premium. Sie wollen mehr?
Jetzt kostenlos 4 Wochen testen
Anmelden und Beitrag in meinem Produkt lesen