KI: Europäische KI-Verordnung im Überblick (KI-VO) / 3 Zukünftige Implikationen für Arbeitgeber

Die KI-VO richtet sich zwar in erster Linie an die Anbieter eines KI-Systems, also denjenigen, der ein KI-System entwickelt oder entwickeln lässt, um es unter ihrem eigenen Namen oder Marke zu vertreiben oder zu benutzen. Als Betreiber kommt aber auch in Betracht, wer ein KI-System in eigener Verantwortung verwendet. Es sei denn, dies erfolgt allein zu persönlichen, nicht beruflichen Tätigkeiten.

Es ist damit zu rechnen, dass verschiedene Spielarten des KI-Einsatzes im Personalbereich mit Inkrafttreten als Hochrisiko-KI eingestuft und damit strengeren Anforderungen unterworfen werden, vgl. Tabelle oben. Denn gerade Arbeitnehmerrechte werden in der Verordnung an verschiedenen Stellen gesondert hervorgehoben:

• Die Auswirkungen von KI-Systemen auf Grundrechte, einschließlich Arbeitnehmerrechte, sind bei der Einstufung als hochriskant besonders wichtig.
• KI-Systeme im Bereich Beschäftigung und Personalmanagement, die Karriereaussichten und Lebensgrundlagen von Personen beeinflussen können, sollten als hochriskant eingestuft werden. Dies betrifft auch die Überwachung und Bewertung von Arbeitnehmern.
• Die Verordnung berührt nicht die Pflichten der Arbeitgeber, Arbeitnehmer oder ihre Vertreter über die Nutzung von KI-Systemen zu informieren und anzuhören.^[1]
• Vor der Nutzung eines Hochrisiko-KI-Systems am Arbeitsplatz müssen Arbeitgeber die Arbeitnehmervertreter und betroffenen Arbeitnehmer informieren.
• Betreiber von Hochrisiko-KI-Systemen müssen die bereitgestellten Informationen nach Art. 13 KI-VO verwenden, um ihrer Pflicht zur Datenschutz-Folgenabschätzung nachzukommen. Die Folgenabschätzung nach Art. 27 KI-VO betrifft nur bestimmte Arbeitgeber.

Als Hochrisiko-KI-Systeme werden folglich einzustufen sein:

KI-Systeme, die in den Bereichen Beschäftigung und Personalmanagement einges...