Künstliche Intelligenz und Compliance - Sicher KI in Kan ... / 3.5.4 Anwendungsüberlegungen zur KI-Compliance

Dr. iur. Robert Müller

Zur Veranschaulichung der rechtlichen Bewertungen und daraus resultierenden Pflichten nach der KI-VO wird folgendes Beispiel gebildet:

Praxis-Beispiel

KI-Compliance in der Praxis

K ist potenzieller Kunde und möchte zur Verbesserung seiner Personalprozesse in der eigenen Steuerberatungskanzlei ein KI-Tool von dem Entwickler E einsetzen, in dem Bewerberunterlagen nach bestimmten Kriterien zur Stellenausschreibung bewertet und mit einer Zahl (sog. Score) für K dargestellt werden. Dadurch soll die Vielzahl von Bewerbungen auf die Stellenausschreibungen für Steuerberater von K besser vorsortiert und geeignete Kandidaten für persönliche Bewerbungsgespräche ermittelt werden. K kann in einer Eingabemaske bestimmte Fragen stellen und erhält eine Zusammenfassung basierend auf den hochgeladenen Unterlagen.

Welche Pflichten leiten sich für K und E nach der KI-VO ab?

Eingangstor für die KI-VO ist die Fragestellung, ob es sich um ein KI-System nach Art. 3 Nr. 1 KI-VO handelt. Liegt kein KI-System vor, ist im allgemeinen der Anwendungsbereich der KI-VO geschlossen. Ohne auf die einzelnen Tatbestandsmerkmale einzugehen – es handelt sich hier unproblematisch um ein KI-System, da die semantische Analyse von Kandidatenunterlagen und anschließende Bewertung basierend auf der Stellenausschreibung, weit über Expertensysteme hinausgeht. Ebenfalls wird vorausgesetzt, dass der territoriale Anwendungsbereich der KI-VO erfüllt ist, da das KI-Tool in Europa auf den Inverkehr gebracht wurde.

Danach macht es Sinn, sich an den Rollen des KI-Lifecycle zu orientieren und den Produktnächsten zu ermitteln. Dies ist in den meisten Fällen der Entwickler bzw. Anbieter nach der KI-VO, s. Art. 3 Nr. 3 KI-VO. Im Anschluss muss die Risikokategorie des KI-Systems bestimmt werden. Basierend auf der Risikokategorie kön...

Jetzt kostenlos 4 Wochen testen

Anmelden und Beitrag in meinem Produkt lesen