KI und HR, Fragen beim Einsatz im Personalwesen / Checkliste

Alex Worobjow

Grundsätzliches
[ ]	Mit welchen Daten soll das KI-System arbeiten (Mitarbeiterdaten, Bewerberdaten, Kundeneingaben, Dokumente des Unternehmens, Websuche, oder soll nur das Sprachmodell-Wissen genutzt werden)?
[ ]	Handelt es sich um ein KI-System, das durch den Realbetrieb weiter trainiert wird, also ständig "weiterlernt", oder urteilt das KI-System auch in Zukunft auf Grundlage der alten Trainingsdaten?
[ ]	Wie sieht ggf. der Betreuungsaufwand für das KI-System aus, also das Überprüfen der Ergebnisse bzw. das weitere Training des KI-Systems während der Verwendung?
[ ]	Kann das KI-System seinen Zweck auch mit anonymisierten Daten erreichen? Wie aufwendig wäre es, ggf. personenbezogene Daten zu anonymisieren?

Basis Check KI-VO
[ ]	Fällt das geplante System unter die Kategorie "Beschäftigung, Personalmanagement und Zugang zur Selbständigkeit" (Anhang III Nr. 4 KI-VO) und ist es ein Hochrisikosystem?
[ ]	Wäre der Arbeitgeber/das Unternehmen beim Einsatz des Systems Betreiber oder Anbieter im Sinne der KI-VO?
[ ]	Können die Personen, die das KI-System im HR-Alltag bedienen, vor Inbetriebnahme ausreichend geschult werden ("KI-Kompetenz" nach Art. 4 KI-VO)? Können diese Personen in der Lage sein, Ergebnisse des KI-Systems kritisch zu hinterfragen, zu ignorieren oder zu überschreiben?

Einsatzziele und potenzielle Probleme
[ ]	Soll das KI-System menschliche Entscheidungen vollständig ersetzen oder nur vorbereiten/verbessern?
[ ]	Wie gravierend und rechtlich relevant sind die Auswirkungen der Entscheidungen, welche das KI-System vorbereiten/treffen soll, auf die Belegschaft bzw. einzelne Arbeitnehmer?
[ ]	Wie gravierend wären Fehler des KI-Systems? Sind (technische oder organisatorische) Maßnahmen vorgesehen, die grobe Fehlbeurteilungen verhindern oder abfedern (...