KI: Ethische Ansätze und menschliche Aufsicht / 4.1.2 KI-Verordnung

In der KI-Verordnung (KI-VO) der Europäischen Union werden – anders als in der DSGVO zum Schutz personenbezogener Daten – insbesondere Regelungen mit produkthaftungsrechtlichem Charakter (bezogen auf das angebotene oder betriebene KI-System) getroffen. Ein "KI-System" ist nach Art. 3 Nr. 1 KI-VO ein maschinengestütztes System, das für einen in unterschiedlichem Grad autonomen Betrieb ausgelegt ist und das nach seiner Betriebsaufnahme anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben, wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können. KI-Systeme werden in der KI-VO in verschiedene Risikokategorien eingeteilt und – je nach Risiko – unterschiedlichen Anforderungen unterstellt. Grundsätzlich bestehen bei der KI-Nutzung Transparenzpflichten. Im HR-Bereich wird es sich meist um sogenannte Hochrisiko-KI handeln, für die besonders strenge Regelungen gelten.^[1] Vereinzelt können auch verbotene KI-Systeme vorliegen, z. B. wenn die KI Ableitungen von Emotionen natürlicher Personen am Arbeitsplatz vornimmt.^[2] Im nicht-europäischen Ausland werden teilweise Video-Bewerbungsgespräche geführt, bei denen ein KI-Tool anhand von Mimik und Sprache Aussagen über die Emotionen der Bewerber trifft. Eine solche KI-Nutzung ist nach der KI-VO grundsätzlich verboten.

Zudem unterscheidet die KI-VO zwischen unterschiedlichen Rollen mit verschiedenen Pflichtenkreisen: Anbieter ("Hersteller") und Betreiber ("Anwender") von KI-Systemen. Hier ist zu beachten, dass Unternehmen, die eingekaufte KI für ihre Zwecke anpassen (finetunen, trainieren, branden), als "Quasi-Anbieter" sowohl Betreiber- als auch Anbieterpflichten unterliegen können. Dies ist ...