Kennzeichnungspflicht für KI-Inhalte gilt ab August 2026

KI-VO sieht Transparenzpflichten vor 

Die EU-Verordnung über Künstliche Intelligenz – KI-VO oder AI Act – ist bereits am 1. August 2024 in Kraft getreten. Sie sieht für Anbieter und Betreiber von KI-Systemen bestimmte Transparenzpflichten vor, die insbesondere in Artikel 50 der KI-VO geregelt sind. Demnach müssen ab dem 2. August 2026: 

• KI-Interaktionen mit Menschen als solche zu erkennen sein,
• KI-generierte Texte, Bilder, Videos und Audioinhalte entsprechend markiert werden,
• Deepfakes (täuschend echte KI-generierte Bilder oder Videos) so gekennzeichnet sein, dass sie klar als manipulierte Inhalte zu erkennen sind. 

Grundsätzlich gilt, dass Nutzer erkennen können müssen, dass sie mit einem KI-System kommunizieren, Deepfakes anschauen oder Inhalte einsehen, die von einem KI-System erzeugt wurden. 

Ausnahmen für kleine Unternehmen 

Für kleine Unternehmen (KMU), zu denen auch Kanzleien und Freiberufler gezählt werden, sind erleichterte Dokumentations- und Berichtspflichten vorgesehen, sofern die allgemeine Sicherheit nicht bedroht ist. Deepfakes und Emotionserkennung müssen allerdings in jedem Fall gekennzeichnet sein. 

Die Pflicht zur Offenlegung des Einsatzes KI-Systemen entfällt auch, wenn klar erkennbar ist, dass es sich um ein KI-System handelt. Dies gilt beispielsweise dann, wenn humanoide Roboter mit deutlich synthetischen Stimmen sprechen. 

Die Transparenzpflichten sind außerdem eingeschränkt, wenn KI-Inhalte bei Strafverfolgungsmaßnahmen oder verdeckten Ermittlungen eingesetzt werden. 

Keine Vorgaben für die Art der Kennzeichnung 

Wie die Kennzeichnung konkret zu erfolgen hat, ist nicht geregelt. Gefordert wird lediglich, dass eine „klare und eindeutige Information“ spätestens zum Zeitpunkt der ersten Interaktion gegeben werden soll. Typische Formulierungen könnten daher lauten: 

• „Der Text / der Inhalt / die Grafik / das Bild wurde von einem KI-System generriert.“
• „Sie kommunizieren mit einem KI-System.“
• „Die Antwort auf ihre Frage wird von einer KI erzeugt.“ 

Kennzeichnungspflicht entfällt nach Überprüfung 

Insbesondere für Journalisten, Freiberufler und Kanzleien von Bedeutung ist, dass die Kennzeichnungspflicht von Texten, die von einer KI erzeugt wurden, entfällt, wenn diese von einem Menschen überprüft oder redaktionell kontrolliert wurden. Entscheidend ist, dass eine Person benannt ist, die redaktionelle Verantwortung für die Inhalte trägt.  

Für Unternehmen und Kanzleien bedeutet dies, dass klar geregelt werden muss, wer KI-generierte Inhalte vor der Veröffentlichung oder Weitergabe prüft. Im Vorfeld sollte zudem festgelegt werden, wer und in welchem Umfang KI einsetzen darf und welche Inhalte nicht von einer KI verarbeitet werden dürfen. Dabei sollte vor allem auf die Verarbeitung personenbezogener Daten geachtet werden.