Künstliche Intelligenz und Compliance - Sicher KI in Kan ... / 3.6 KI-Kompetenz

Anbieter und Betreiber von KI-Systemen müssen seit dem 2.2.2025 gem. Art. 4 KI-VO sog. KI-Kompetenz für ihr Personal oder andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, umsetzen. Dabei müssen ihre technischen Kenntnisse, Erfahrung, Ausbildung und Schulung und den Kontext der eingesetzten KI-Systeme sowie Personen oder Personengruppen, die KI-Systeme einsetzen, berücksichtigt werden. Eine weitere Konkretisierung der KI-Kompetenz wird von Art. 3 Nr. 56 KI-VO vorgenommen, indem auf den sachkundigen Einsatz sowie das Bewusstsein von Chancen und Risiken von KI und möglicher Schäden hingewiesen wird.^[1] Wichtig zu verstehen ist, dass der Umfang von KI-Kompetenz von der KI-VO "weich" definiert wurde, d. h. es werden keine konkreten Mindestanforderungen definiert und wie diese umgesetzt werden müssen. Vielmehr müssen basierend auf den verwendeten KI-Systemen und deren Risikoklassifizierung sowie der Empfängergruppe geeignete KI-Kompetenzen vermittelt werden. Dies umfasst neben dem technischen auch ein rechtliches Grundverständnis, das adressatengerecht vermittelt werden muss. Z. B. muss bei einer Gruppe von Data Scientists technisches Grundlagenwissen weniger vermittelt werden, als der verantwortungsvolle rechtskonforme Umgang mit KI-Systemen, insbesondere, wenn potenziell entwickelte KI-Systeme als Hochrisiko-KI-System qualifiziert werden.

Das KI-Büro der EU-Kommission hat neben einem umfangreichen Fragen & Antwort-Katalog auch ein Dokument mit Umsetzungsbeispielen veröffentlicht.^[2]

Schlussendlich sollte die Pflicht von KI-Kompetenz nicht als eine Bürde verstanden werden. Zum einen ist die konkrete Umsetzung recht flexibel und kann auch ressourcenarm umgesetzt werden. Zum anderen bildet KI-Kompetenz den Grundpfeiler, damit in...