KI-Kompetenz: Die Schulungspflicht als Schlüssel zu Comp ... / 6 Risiken bei fehlender Umsetzung

Unternehmen, welche die Schulungspflicht ignorieren oder nur unzureichend umsetzen, gehen mehrere Risiken ein.

Zunächst besteht ein regulatorisches Risiko. Die KI-Verordnung verpflichtet Organisationen ausdrücklich dazu, Maßnahmen zur Förderung von KI-Kompetenz zu ergreifen. Auch wenn die Anforderungen offen formuliert sind, kann eine vollständige Untätigkeit als Verstoß gegen die Verordnung gewertet werden.

Die KI-VO selbst sanktioniert Verstöße gegen Art. 4 KI-VO nicht explizit, was bedeutet, dass es für derlei Verstöße lediglich unmittelbar kein Bußgeld gibt. Ein Verstoß gegen die Schulungspflicht kann sich jedoch mittelbar auf die Festsetzung und die Höhe eines Bußgeldes auswirken. Beispielweise, wenn ein Betreiber eines Hochrisiko-KI-Systems gegen seine Pflichten aus Art. 26 KI-VO verstößt, kann sich gemäß Art. 99 Abs. 7g KI-VO die fehlende Schulung der Mitarbeiter auf die Höhe des Bußgeldes auswirken oder sogar entscheidend sein, ob überhaupt ein Bußgeld festgesetzt wird.

Darüber hinaus entstehen operative Risiken. Mitarbeiter ohne ausreichendes Verständnis von KI können Ergebnisse falsch interpretieren oder Systeme ungeeignet einsetzen. Dies kann zu Fehlentscheidungen, Qualitätsproblemen oder ineffizienten Prozessen führen.

Ein weiteres Risiko betrifft den Schutz von Daten und Informationen. Viele generative KI-Tools verarbeiten Eingaben von Nutzern. Ohne entsprechende Sensibilisierung könnten Mitarbeiter vertrauliche Informationen oder personenbezogene Daten in externe Systeme eingeben.

Schließlich können auch Reputationsrisiken entstehen. Fehlanwendungen von KI – etwa diskriminierende Ergebnisse oder fehlerhafte automatisierte Entscheidungen – können erhebliche negative Auswirkungen auf das öffentliche Image eines Unternehmens haben. Es gibt bereits heute zahlreiche...