KI: Europäische KI-Verordnung im Überblick (KI-VO) / 2 Überblick über die Verordnungsinhalte

• Techniken der unterschwelligen Beeinflussung oder manipulative/täuschende Techniken zur wesentlichen Verhaltensänderung mit Schaden für die Person (bspw. KI-Systeme, die Arbeitnehmer unterbewusst zu einer erhöhten Arbeitsleistung anhalten sollen, indem sie Tastaturanschläge/Mausklicks analysieren, um herauszufinden, wann die Arbeitsleistung absinkt und sodann anhand dieser Informationen bestimmte Ereignisse auslösen, um das Absinken zu vermeiden)
• KI-Systeme zur Bewertung des Risikos einer Straftatbegehung basierend auf Profiling (ggf. KI-Tools, die ohne objektive oder überprüfbare Tatsachen die Wahrscheinlichkeit prognostizieren, dass ein Mitarbeiter sich strafbar verhalten oder Compliance-Regeln verletzen könnte)
• KI-Systeme zur Ableitung von Emotionen am Arbeitsplatz (z. B. KI-gestützte Überwachungssysteme, die Emotionen von Mitarbeitern während der Arbeit analysieren, um deren Produktivität oder Arbeitszufriedenheit zu beurteilen, ohne medizinische bzw. sicherheitstechnische Gründe)
• KI-Systeme zur biometrischen Kategorisierung (z. B. Analyse biometrischer Daten wie Gesichtserkennung zur Einschätzung von Merkmalen wie Rasse oder sexuelle Orientierung bei der Personalrekrutierung oder -verwaltung)
• Soziale Bewertungssysteme, die zu Schlechterstellung oder Benachteiligung führen

Insbesondere KI-Systeme im Bereich Beschäftigung, Personalmanagement und Zugang zur Selbstständigkeit

z. B.:

• Einstellung ode...