KI: Europäische KI-Verordnung im Überblick (KI-VO) / 2 Überblick über die Verordnungsinhalte

Risikoklassen für KI-Systeme und ihre Implikationen mit besonderem Augenmerk auf den Bereich HR:

Klassifizierung	Beispiel	Rechtsfolgen/Pflichten für Unternehmen als Betreiber
Verbotene KI-Systeme/sog. unannehmbares Risiko	u. A.: Techniken der unterschwelligen Beeinflussung oder manipulative/täuschende Techniken zur wesentlichen Verhaltensänderung mit Schaden für die Person (bspw. KI-Systeme, die Arbeitnehmer unterbewusst zu einer erhöhten Arbeitsleistung anhalten sollen, indem sie Tastaturanschläge/Mausklicks analysieren, um herauszufinden, wann die Arbeitsleistung absinkt und sodann anhand dieser Informationen bestimmte Ereignisse auslösen, um das Absinken zu vermeiden) KI-Systeme zur Bewertung des Risikos einer Straftatbegehung basierend auf Profiling (ggf. KI-Tools, die ohne objektive oder überprüfbare Tatsachen die Wahrscheinlichkeit prognostizieren, dass ein Mitarbeiter sich strafbar verhalten oder Compliance-Regeln verletzen könnte) KI-Systeme zur Ableitung von Emotionen am Arbeitsplatz (z. B.: KI-gestützte Überwachungssysteme, die Emotionen von Mitarbeitern während der Arbeit analysieren, um deren Produktivität oder Arbeitszufriedenheit zu beurteilen, ohne medizinische bzw. sicherheitstechnische Gründe) KI-Systeme zur biometrischen Kategorisierung (z. B. Analyse biometrischer Daten wie Gesichtserkennung zur Einschätzung von Merkmalen wie Rasse oder sexuelle Orientierung bei der Personalrekrutierung oder -verwaltung) Soziale Bewertungssysteme, die zu Schlechterstellung oder Benachteiligung führen	Der Betrieb ist gänzlich untersagt.
Hochrisiko-KI-Systeme/Erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte von natürlichen Personen	Beschäftigung, Personalmanagement und Zugang zur Selbstständigkeit z. B.: Einstellung oder Auswahl von Bewerbern (Sichten oder (Vor-)Filtern von Bewerbungen und das Bewerten von Bewerbern) Entscheidungen über Beförderungen und über Kündigungen von Arbeitsvertragsverhältnissen, für die Aufgabenzuweisung auf Grundlage des individuellen Verhaltens sowie für die Überwachung und Bewertung der Leistung und des Verhaltens von Personen	u. A.: Überwachen anhand Betriebsanleitung Sorge tragen, dass Eingabedaten dem Zweck entsprechen/ausreichend repräsentativ sind Aufbewahrung von Protokollen Weitere Pflichten, insb., wenn Unternehmen nicht nur Betreiber, sondern Anbieter i. S. d. KI-VO ist
KI-Systeme mit geringerem Risiko bzw. minimalem Risiko	Chatbots für direkte Interaktion mit den Mitarbeitern zur Information der Mitarbeiter (z. B. Onboarding)[1] Eng gefasste Aufgaben (z. B. Klassifizierung von Dokumenten) Lediglich Vorbereitung von Bewertungen (Text- und Sprachverarbeitung, Datenverknüpfung)	Ggf. (besondere) Transparenzpflichten Ggf. freiwillige Richtlinien

[1] Günther/Gerigk/Berger, NZA 2024, S. 234, 239.