KI-Tools im Recruiting und ihre arbeitsrechtliche Implik ... / 2. Diskriminierungseffekte

Eines der Hauptziele beim Einsatz von KI im Recruiting liegt darin, Bewerbungsverfahren neutraler, diverser und fairer zu gestalten, denn Personalentscheidungen sind nicht selten zumindest in Teilen emotionsgeleitet oder unterliegen einem "Unconscious-Bias". Unternehmen wollen sich auf diese Weise vor Ansprüchen gescheiterter Bewerbender aus § 15 AGG schützen.^[58] Allerdings sind auch hier Diskriminierungsfälle denkbar, ohne dass eine entsprechende Absicht vorliegt. Benachteiligende Effekte sind nämlich das Resultat gesellschaftlicher Realitäten oder Stereotype in Kombinationen mit technisch-methodischen Entscheidungen wie der Wahl der Zielvariablen, Trainingsdaten oder Analysemethoden. Zum Zweck des maschinellen Lernens werden der KI im Rahmen des sog. Promptings bestimmte Befehle gegeben, um eine bestimmte Aufgabe oder Aktion auszulösen. Angesichts der Bildung von Gruppenwahrscheinlichkeiten und -zuordnungen ist KI dabei immer nur so objektiv, wie die Daten, mit denen sie trainiert wurde.^[59] Zudem ermitteln Algorithmen keine Kausalitäten, sondern nur Korrelationen, so dass offen bleibt, ob ein ermitteltes Kriterium überhaupt Bedeutung für die Eignung eines Bewerbenden hat.^[60] 2018 erkannte Amazon z. B. dass die eingesetzte Personalsoftware Bewerbungen von Männern bevorzugte, weil die Belegschaft hauptsächlich männlich war.^[61] Genauso kann das Ergebnis ausfallen, wenn die KI das Geschlecht der Bewerbenden zwar nicht kennt, aber die Dauer der Berufsjahre bei gleichem Alter als vermeintlich neutrales Kriterium bewertet. Hierdurch können Frauen mittelbar benachteiligt werden, da sie durch Geburten im Durchschnitt weniger Berufsjahre aufweisen.^[62] In Bezug auf Sprachanalysen kann es dazu kommen, dass Menschen mit Dialekten oder Akzenten eine negative Bewertung erhalten,...