Die wohl medial präsenteste Kritik an KI ist das Diskriminierungsrisiko. Neben ethischen Aspekten sind Unternehmen selbstverständlich auch beim KI-Einsatz an den allgemeinen Gleichbehandlungsgrundsatz und die gesetzlichen Vorschriften aus § 7 AGG (§ 1 EntgTranspG) und § 164 Abs. 2 SGB IX gebunden. Arbeitgeber können sich nicht hinter ihrer Software verstecken ("computer says no").
Bekanntermaßen können Computer selbst aber nicht diskriminieren. Entweder die Trainingsdaten enthalten bereits diskriminierende Entscheidungen, Daten und Merkmale oder das Finetuning der KI wurde – versehentlich oder bewusst – in diskriminierender Weise durchgeführt. Weitere mögliche Ursache ist, dass schlichtweg vergessen wurde, einer "neutralen" KI beizubringen, nicht bloß nach wirtschaftlichen Gesichtspunkten zu entscheiden, was häufig zu mittelbaren Diskriminierungen führt oder jedenfalls Nachteile von strukturell benachteiligen Gruppen verstärkt.
Recruiting KI
Einfaches und prominentes Schulbuchbeispiel für nachlässigen Umgang mit KI ist Amazons (frühere) Recruiting KI. Diese war geschult worden, Bewerber zu überprüfen und zu ranken und wurde entsprechend auf Muster in Lebensläufen aus den letzten 10 Jahren trainiert. Da traditionell in den USA Softwareentwickler-Bewerbungen von Männern kamen (diese denknotwendig auch häufiger eingestellt wurden), gewichtete die KI sprachliche Hinweise auf weibliche Zusammenhänge negativ.[1]
Potenzielle Diskriminierung ist kein KI-Killer. Eine KI kann dahingehend justiert werden, bestimmte Kriterien wie die Angabe des Geschlechts bei der Gewichtung zu ignorieren. Sie kann trainiert und "bestraft" werden, wenn sie bestimmte Ergebnisse produziert. KI-Anwendungen können folglich im Gegenteil Diskriminierungen verhindern, weil sie ihrer Natur nach keine relevanten Informationen "übersehen" und für bestimmte Faktoren blindgeschaltet werden können. Vermeidet eine Software Diskriminierungen zuverlässig(er als Menschen), könnte ihr Einsatz nicht nur erlaubt, sondern sogar ethisch geboten sein.
Vollständig ausmerzen lassen sich aber auch elektronische Diskriminierungen nicht. Lebensläufe enthalten regelmäßig indirekte Hinweise auf das Diskriminierungsmerkmal, wie etwa Hobbys, ehemalige Jobbezeichnungen (Entwickler), Sprachmuster.
Ausführlich zur Diskriminierungsproblematik s. "Bewerbungsverfahren: Diskriminierung und Schadensersatz/Entschädigung".
Das ist nur ein Ausschnitt aus dem Produkt TVöD Office Professional. Sie wollen mehr?
Jetzt kostenlos 4 Wochen testen
Anmelden und Beitrag in meinem Produkt lesen