Künstliche Intelligenz

Das Positionspapier greift die allgemeinen Kernanforderungen auf, die die Kommission der Europäischen Union im April 2019 formuliert hatte. Sie konkretisiert die Anforderungen an KI für den Bereich der medizinischen und pflegerischen Versorgung. Denn durch KI eröffnen sich bei Diagnose- und Therapieverfahren sowie in der Rehabilitation und Pflege große Chancen der Unterstützung. Auf der anderen Seite können ein unverantwortlicher Einsatz oder technische Ungenauigkeiten schwerwiegende Folgen haben.

KI-Systeme dürfen den Menschen nicht ersetzen

Die erste Kernforderung lautet: Menschliches Handeln und menschliche Aufsicht haben Vorrang. Das bedeutet u. a., dass ...

• KI-Systeme lediglich unterstützende Funktion haben.
• die Entscheidungshoheit in Gesundheitsfragen beim Patienten bleibt.
• ethisches Handeln nur durch den Menschen selbst erfolgen kann.

KI muss für die Vertrauenswürdigkeit bestimmte Kriterien erfüllen

Bei der zweiten Kernanforderung geht es um die technische Robustheit und die Sicherheit. So sagt die GVG, dass dafür u. a. folgende Kriterien erfüllt sein müssen:

• Verlässlichkeit,
• Risikotransparenz,
• Nachprüfbarkeit,
• Robustheit bzw. eine Einstufung der Eintrittswahrscheinlichkeit eines Schadens,
• Sicherheit vor Manipulation,
• Schutzvorkehrungen gegen Fehlfunktionen.
• eine KI-Zertifizierung sowie
• die Möglichkeit für den Menschen, die KI jederzeit abschalten zu können.

Datenschutz und Transparenz sind weitere Kernanforderungen

Die weiteren Kernanforderungen beziehen sich auf die Themenbereiche

• Privatsphäre und Datenqualitätsmanagement,
• Transparenz,
• Vielfalt, Nichtdiskriminierung und Fairness,
• gesellschaftliches und ökologisches Wohlergehen sowie
• die Rechenschaftspflicht.

 Das GVG-Positionspapier zu den Kernanforderungen an künstliche Intelligenz beim Einsatz im Gesundheitswesen finden Sie hier.