Künstliche Intelligenz und Compliance - Sicher KI in Kan ... / 3.5.2 Konkrete Umsetzung der Pflichten für Hochrisiko-KI-Systeme

Einordnung des Normierungsstands

Leitlinien für die genauen spezifischen Bedingungen, z. B. für die Protokollierung/Dokumentation existieren bisher nicht bzw. haben sich diese noch nicht in der Praxis entwickelt. Teilweise werden zur Konkretisierung von Compliance-Anforderungen bestehende Normen der International Organization for Standardization (ISO) herangezogen.^[1] Im Sinne des sog. "New legislative framework" werden für die technische Konkretisierung von Normen auf Standardisierungsorganisationen eingebunden. Insbesondere für die Konkretisierung von Compliance-Anforderungen für Hochrisiko-KI-Systeme hat die EU Kommission Normierungsaufträge der CEN/CENELEC übertragen.^[2]

Hochrisiko-KI-Systeme benötigen eine Zulassung und müssen vor dem Inverkehrbringen ein sog. Konformitätsbewertungsverfahren durchlaufen. Erfüllen Anbieter die relevanten harmonisierten Normen, liegt eine sog. Konformitätsbewertungsvermutung vor, gem. Art. 40 Abs. 1 KI-VO. Diese durchgeführte produktsicherheitsrechtliche Bewertung wird durch ein CE-Kennzeichen nach Art. 48 KI-VO kenntlich gemacht.

Gegenstand der Bewertung sind nach Art. 44 KI-VO, Anhang VII das Qualitätsmanagement und die technische Dokumentation. In diesen beiden Bewertungseinheiten werden jedoch die zahlreichen anderen Compliancepflichten zu Hochrisiko-KI-Systemen^[3] ebenfalls indirekt bewertet, s. z. B. die Prüfung des Risikomanagmentsystems nach Art. 9 KI-VO in Annex IV Nr. 5. Die Konformitätsbewertung kann bei Hochrisiko-KI-Systemen nach Anhang I A – also die bereits unter eine harmonisierte Norm fallen, durch eine bestehende sog. notifizierte Stelle erfolgen. Für Hochrisiko-KI-Systeme nach Anhang III Nr. 2 bis 8 kann dies durch eine interne Kontrolle erfolgen. D.h. muss für die Produktzulassung aufgrund der bereits anwendbaren Produ...