Wie kann künstliche Intelligenz beherrschbar, nachvollziehbar und fair im Personalmanagement eingesetzt werden? Dieser Frage geht das Forschungsprojekt "ExamAI" nach und zeigt an sieben Anwendungsszenarien die Gefahren und Potenziale auf.
Künstliche Intelligenz (KI) erhält zunehmend Einzug in verschiedene Bereiche der Arbeitswelt, darunter auch HR. Im Forschungsprojekt "ExamAI" unter Leitung der Gesellschaft für Informatik, gehen die Beteiligten der Frage nach, wie Verfahren aussehen können, die einen beherrschbaren, nachvollziehbaren und fairen Einsatz von KI im Personalmanagement ermöglichen. Sieben Anwendungsszenarien sollen die Gefahren und Potenziale aufzeigen.
KI birgt im HR- und Talentmanagement Chancen und Risiken
Algorithmische Entscheidungsverfahren versprechen Unternehmen effizientere, schnellere und erfolgreichere Personalmanagementprozesse. Gleichzeitig berühren KI-Anwendungen im HR- und Talentmanagement in besonderer Weise die Rechte von Beschäftigen. Der Einsatz von KI erfordert deshalb eine genaue Prüfung hinsichtlich ihrer Nachvollziehbarkeit, Transparenz, Fairness, Gleichbehandlung, Haftbarkeit, Zuverlässigkeit und Datenschutzkonformität, heißt es im Papier zum Forschungsprojekt "ExamAI".
KI-Forschungsprojekt als Ausgangspunkt für weitere Analysen
Zu diesem Zweck hat das interdisziplinäre Projektteam insgesamt elf Szenarien aus den zwei Anwendungsbereichen Personal- und Talentmanagement (7) sowie Mensch-Maschine-Kooperationen in der Industrieproduktion (4) erstellt. Für HR beschreiben die Forscher folgende Szenarien:
- Automatisierte Vorschlagssysteme und Personalplattformen
- Persönlichkeitsbewertung per Lebenslauf, strukturierte Eingabe oder Video
- KI-basierte Background-Checks
- Chatbots in der HR-Abteilung
- Internes Jobprofil-Matching
- Vorhersage der Kündigungsbereitschaft
- Automatische Arbeitszeitzuweisung bei Gig-Workern
Diese sollen kritische Abläufe, aber auch den Nutzen beim Einsatz von KI veranschaulichen und dienen als Ausgangspunkt einer juristischen sowie informatischen Analyse bestehender Probleme, Ungleichbehandlungen, Sicherheitsrisiken und Rechtsverstöße in diesem Kontext.
Background-Checks: Welche Daten dürfen verarbeitet werden?
Ein Beispiel: Automatisierte Background-Checks von Bewerbern können Unternehmen helfen, Recruiting-Prozesse zu beschleunigen. Doch dürfen darin Daten verarbeitet werden, die etwa Bewerber auf Facebook oder Instagram zu privaten Zwecken geteilt haben? Und wie lässt sich verhindern, dass ein Algorithmus fälschlicherweise die Informationen einer namensgleichen Person für die Bewertung heranzieht und dies dazu führt, dass der Bewerber abgelehnt wird?
Transparenter Forschungsprozess anhand von Anwendungsbeispielen
Mit der Veröffentlichung des Papers wollen die Autoren einen transparenten Beitrag zum Forschungsprozess leisten – und diesen in regelmäßigen Abständen aktualisieren. In ihrem Paper liefern sie einen aktuellen Stand ihrer Forschung und veranschaulichen diesen anhand von tatsächlicher Anwendungsbeispiele wie dem IBM-Chatbot "Watson" oder der Spracherkennungssoftware "Precire". Während die Hersteller mit den Vorzügen ihrer Anwendungen werben, dürften Unternehmen sich gleichzeitig auch für deren Schwachstellen interessieren. Denn lehnt HR einen Bewerber auf Basis einer diskriminierenden Software-Empfehlung ab, droht im schlimmsten Falle eine Schadensersatzklage und obendrein eine ordentliche Schramme im Arbeitgeberimage. Das gesamte Paper steht auf der Website des Projektes kostenfrei zum Download.
Am Projekt "ExamAI" arbeitet ein interdisziplinäres Team, bestehend aus Mitgliedern der TU Kaiserslautern, der Universität des Saarlandes, des Fraunhofer-Instituts für Experimentelles Software Engineering IESE, der Stiftung Neue Verantwortung und der Gesellschaft für Information (GI). Das Bundesministerium für Arbeit und Soziales fördert zudem das Projekt.
Das könnte Sie auch interessieren:
Ethikrichtlinien zu künstlicher Intelligenz