Künstliche Intelligenz

Das Positionspapier greift die allgemeinen Kernanforderungen auf, die die Kommission der Europäischen Union im April 2019 formuliert hatte. Sie konkretisiert die Anforderungen an KI für den Bereich der medizinischen und pflegerischen Versorgung. Denn durch KI eröffnen sich bei Diagnose- und Therapieverfahren sowie in der Rehabilitation und Pflege große Chancen der Unterstützung. Auf der anderen Seite können ein unverantwortlicher Einsatz oder technische Ungenauigkeiten schwerwiegende Folgen haben.
KI-Systeme dürfen den Menschen nicht ersetzen
Die erste Kernforderung lautet: Menschliches Handeln und menschliche Aufsicht haben Vorrang. Das bedeutet u. a., dass ...
- KI-Systeme lediglich unterstützende Funktion haben.
- die Entscheidungshoheit in Gesundheitsfragen beim Patienten bleibt.
- ethisches Handeln nur durch den Menschen selbst erfolgen kann.
KI muss für die Vertrauenswürdigkeit bestimmte Kriterien erfüllen
Bei der zweiten Kernanforderung geht es um die technische Robustheit und die Sicherheit. So sagt die GVG, dass dafür u. a. folgende Kriterien erfüllt sein müssen:
- Verlässlichkeit,
- Risikotransparenz,
- Nachprüfbarkeit,
- Robustheit bzw. eine Einstufung der Eintrittswahrscheinlichkeit eines Schadens,
- Sicherheit vor Manipulation,
- Schutzvorkehrungen gegen Fehlfunktionen.
- eine KI-Zertifizierung sowie
- die Möglichkeit für den Menschen, die KI jederzeit abschalten zu können.
Datenschutz und Transparenz sind weitere Kernanforderungen
Die weiteren Kernanforderungen beziehen sich auf die Themenbereiche
- Privatsphäre und Datenqualitätsmanagement,
- Transparenz,
- Vielfalt, Nichtdiskriminierung und Fairness,
- gesellschaftliches und ökologisches Wohlergehen sowie
- die Rechenschaftspflicht.
Das GVG-Positionspapier zu den Kernanforderungen an künstliche Intelligenz beim Einsatz im Gesundheitswesen finden Sie hier.
-
Wiedereingliederung - was ist zu beachten?
4.7261
-
Bildschirmbrille: Fragen und Antworten
4.476
-
Arbeitsmedizinische Vorsorge: Pflicht oder freiwillig?
3.183
-
Was tun, wenn der Frosch nicht verschwinden will
1.263
-
Dürfen Mitarbeiter frei bestimmen, wie sie ihre Pause verbringen?
1.063
-
Arbeitsstättenverordnung: Wann ist ein Pausenraum Pflicht?
1.060
-
Wutausbrüchen am Arbeitsplatz souverän begegnen
733
-
ASR A3.5: Ab wann ist die Raumtemperatur am Arbeitsplatz zu kalt?
705
-
Wenn ein Mitarbeiter nachts nicht mehr arbeiten darf
524
-
Gefahr durch Epoxidharz wird unterschätzt
460
-
Sicherheitsrisiken bei der Demontage von Windkraftanlagen
04.02.2025
-
Leitmerkmalmethode Ganzkörperkräfte: Neues Screening-Verfahren für besonders große Körperbelastungen
31.01.2025
-
Bildschirmbrille: Fragen und Antworten
28.01.2025
-
Abfallinformationen und Gefährdungen durch Abfall auf Baustellen
27.01.2025
-
Gesundheitskompetenz fördern im betrieblichen Kontext
23.01.2025
-
Betriebliches Eingliederungsmanagement: Rolle der Fachkraft für Arbeitssicherheit
22.01.2025
-
Was ist Präsentismus? Gründe, Folgen & Lösungen
20.01.20251
-
Umgang mit krankheitsbedingten Fehlzeiten
16.01.2025
-
Wenn ein Mitarbeiter nachts nicht mehr arbeiten darf
13.01.2025
-
Nachhaltigkeit auf Baustellen: Chancen und Herausforderungen
10.01.2025