KI-Kompetenz: Die Schulungspflicht als Schlüssel zu Comp ... / 3 Adressaten und inhaltliche Anforderungen an Schulungsmaßnahmen

Die KI-Verordnung schreibt keine konkreten Schulungsmaßnahmen vor. Dennoch lassen sich aus Art. 4 KI-VO und den Erwägungsgründen mehrere zentrale Themenbereiche ableiten, die typischerweise Bestandteil von Schulungsmaßnahmen sein sollten.

3.1 Verständnis für Funktionsweise von KI-Technologien

Ein erster wichtiger Bestandteil ist das grundlegende Verständnis von KI-Technologien. Mitarbeiter müssen nicht selbst KI-Modelle entwickeln können. Die Mitarbeiter sollten jedoch verstehen, wie KI-Systeme grundsätzlich funktionieren. Dazu gehört beispielsweise Wissen über Trainingsdaten, Modelle, Wahrscheinlichkeiten und typische Fehlerquellen. Es soll keine Illusion entstehen, dass es sich bei dem neuen Chatbot um eine Wundermaschine handelt, die alle Antworten hat, sondern um ein Programm, das nach strengen mathematischen Regeln und Wahrscheinlichkeiten arbeitet mit der Möglichkeit zu halluzinieren.

3.2 Einordnung von KI-Ergebnissen

Ein zweiter wichtiger Bereich betrifft die Interpretation von KI-Ergebnissen. KI-Systeme liefern häufig wahrscheinlichkeitsbasierte oder statistische Ergebnisse. Diese sind nicht immer eindeutig oder vollständig korrekt. Schulungen sollten daher vermitteln, wie Ergebnisse kritisch hinterfragt und in einen Kontext eingeordnet werden können.

3.3 Sensibilisierung von Risiken

Ein dritter Bestandteil ist die Sensibilisierung für Risiken. Dazu gehören etwa:

• Verzerrungen in Trainingsdaten (Bias),
• fehlerhafte oder erfundene Inhalte ("Halluzinationen"),
• Datenschutz- oder Sicherheitsrisiken,
• potenzielle Urheberrechtsverletzungen bei Verwendung geschützter Werke sowie
• mögliche Auswirkungen auf Kunden oder andere Betroffene.

3.4 Organisatorische Aspekte

Darüber hinaus sollten Schulungen auch organisatorische Aspekte abdecken. Mitarbeiter müssen wissen, welche internen Regeln für den Einsatz von KI gelten und welche Prozesse eingehalten werden müssen. Dazu gehören beispielsweise Freigabeprozesse, Dokumentationspfli...