KI: Risikoqualifizierung von KI-Systemen / 1 Risikoklassen nach der KI-Verordnung

Die KI-Verordnung der EU verfolgt einen risikobasierten Ansatz, bei dem KI-Systeme entsprechend ihrem Schadenspotenzial in 4 Risikoklassen eingeteilt werden:

1.1 Unannehmbares Risiko bzw. verbotene Praktiken

KI-Systeme mit unannehmbarem Risiko sind verboten. Hierbei handelt es sich um Anwendungen, die fundamentale Rechte der Menschen verletzen oder mit erheblichen gesellschaftlichen Risiken verbunden sind.

Beispiele:

• Sogenannte Social-Scoring-Systeme, die das Verhalten von Bürgern oder Mitarbeitern umfassend bewerten und sanktionieren
• KI-Systeme zur manipulativen Beeinflussung des Verhaltens von Nutzern

1.2 Hochrisiko-Systeme

Diese Systeme dürfen nur unter Einhaltung strenger Auflagen betrieben werden. So gelten beispielsweise auch hier sämtliche Transparenzpflichten und tiefgreifende regulatorische Vorgaben wie z. B. Dokumentations- und Überwachungspflichten, Durchführung einer Grundrechtsfolgeabschätzung und regelmäßige Prüfungen. Hochrisiko-KI-Systeme erfordern den höchsten Aufwand in Bezug auf Governance und Compliance. Sie betreffen sicherheitskritische oder grundrechtsrelevante Bereiche.

Beispiele:

• KI-Systeme zur Bewertung von Bewerbungen im Personalwesen
• KI-Systeme zur Bewertung von Zulassungskriterien bei Bildungseinrichtungen oder zu einem Beruf
• KI-Systeme für Entscheidungen oder Einflussnahme zu Arbeitsbedingungen, Beförderungen oder Kündigungen
• Biometrische Identifikationssysteme in öffentlichen Räumen

1.3 Begrenztes Risiko

Hierunter fallen Systeme, die für die Interaktion mit Ihren Nutzern gedacht sind. Bei diesen Systemen bestehen Transparenzpflichten, jedoch sind keine tiefgreifenden regulatorischen Eingriffe erforderlich. So müssen beispielsweise mit solchen Systemen generierte Inhalte wie Video- oder Bild-Dateien als solche gekennzeichnet werden.

Beispiele:

• Chatbots, die explizit als solche kenntlich gemacht werden...