KI-Gesetz der EU: Neue Pflichten und Geldbußen ab August

Die Verordnung (EU) 2024/1689 zur Regulierung von Künstlicher Intelligenz (KI) – auch bekannt als AI Act (Artificial Intelligence Act) – ist im August 2024 in Kraft getreten und muss schrittweise umgesetzt werden.

Seit dem 2.2.2025 gilt zum einen das Verbot von KI-Systemen mit unannehmbarem Risiko, zum andreen müssen Unternehmen die KI-Kompetenz von Mitarbeitern, die mit Künstlicher Intelligenz arbeiten, sicherstellen.

Ab dem 2.8.2025 kommen neue Pflichten für Anbieter von General Purpose Artificial Intelligence (GPAI). Das sind Allzweckmodelle Künstlicher Intelligenz, die unter anderem zum Generieren von Bilder und Texten oder als Large Language Models (LLM), dazu zählt auch das generative Sprachmodell von ChatGPT, eingesetzt werden.

Spezielle Pflichten für Betreiber sind in der EU-Verordnung nicht erwähnt – für Unternehmen ist es aber ratsam, die Regeln zu kennen.

GPAI: Pflichten für Anbieter und Betreiber

KI-Systeme mit allgemeinem Verwendungszweck müssen bestimmten Anforderungen genügen. Anbieter solcher GPAI-Modelle sind verpflichtet, Urheberrechte zu beachten, technische Dokumentationen zu erstellen und Transparenz über die verwendeten Trainingsdaten sicherzustellen. Für Anbieter von GPAI-Modellen, die vor dem 2.8.2025 in der EU in Verkehr gebracht und in Betrieb genommen wurden, gilt eine Übergangsregelung: Sie müssen erst bis zum 2.8.2027 mit der KI-Verordnung konform sein. 

Die EU-Verordnung unterscheidet KI-Systeme hinsichtlich des Risikos (minimal, hoch oder unannehmbar). Unternehmen sollten daher die von ihnen entwickelten oder genutzten KI-Systeme kategorisieren und bewerten. Je nachdem gelten unterschiedliche Verpflichtungen und Anforderungen.

KI-Systeme: Verpflichtungen nach Risikobewertung

Die meisten Verpflichtungen treffen Anbieter (Entwickler) von risikoreichen Systemen. Aber auch Betreiber und Nutzer werden in die Pflicht genommen, nicht aber Endnutzer.

KI-Systeme mit unannehmbarem Risiko, die durch kognitive Verhaltensmanipulation von Personen oder marginalisierten Gruppen Menschen gefährden, sind verboten.

Systeme, die ein hohes Risiko für die Gesundheit und Sicherheit oder für die Grundrechte natürlicher Personen darstellen, unterliegen strengen Regeln. Dazu gehören auch HR-relevante Bereiche, die Unternehmen der Immobilienbranche betreffen, darunter:

• die allgemeine und beruflichen Bildung (Bewertung von Lernergebnissen, Steuerung des Lernprozesses und Überwachung von Prüfungsbetrug) oder
• der Bereich Beschäftigung, Verwaltung der Arbeitnehmer und Zugang zur Selbstständigkeit (Veröffentlichung gezielter Stellenanzeigen, Analyse und Filterung von Bewerbungen sowie Bewertung von Bewerbern).

KI-Systeme mit hohem Risiko werden vor dem Inverkehrbringen und während des gesamten Lebenszyklus über ein verpflichtendes Risikomanagementsystem bewertet. Bürger haben das Recht, sich bei zuständigen nationalen Behörden zu beschweren.

Einsatzbereiche der Systeme sind unter anderem auch die Unterstützung bei der Auslegung und Anwendung von Gesetzen oder KI-Systeme, die in Produkten verwendet werden, die unter die Produktsicherheitsvorschriften der EU fallen, wie Aufzüge.

Transparenz, EU-Urheberrecht und Verhaltenskodizes

Für KI-Systeme ohne oder mit nur sehr geringem Risiko gelten grundsätzlich keine besonderen Anforderungen. So werden etwa Generative Foundation Modelle wie ChatGPT als nicht risikoreich eingestuft, müssen aber Transparenzanforderungen und das EU-Urheberrecht erfüllen. Dazu gehört die Offenlegung, dass der Inhalt durch Künstliche Intelligenz generiert wurde. Alle Inhalte – egal ob Bilder, Audio- oder Videodateien – müssen ab sofort eindeutig als KI-generiert gekennzeichnet werden. Das Modell muss so gestaltet werden, dass verhindert wird, dass es illegale Inhalte erzeugt.

Zusammenfassungen urheberrechtlich geschützter Daten, die für das Training verwendet wurden, müssen veröffentlicht werden. Leistungsfähigere KI-Systeme, die ein Systemrisiko darstellen könnten, wie GPT-4, müssen gründlich bewertet werden und alle schwerwiegenden Vorfälle sind der Kommission zu melden.

Der AI Act sieht auch die Möglichkeit vor, freiwillig Verhaltenskodizes aufzustellen. Das Europäische Amt für Künstliche Intelligenz hat dazu am 10.7.2025 eine endgültige Fassung der Verhaltenskodizes veröffentlicht, die ab dem 2.8.2025 gelten.

KI-Kompetenz: Schulungspflicht in Immobilienunternehmen

Seit dem 2.2.2025 greifen bestimmte Verbote und Schulungspflichten.

Nach Artikel 113 KI-VO gilt für Anbieter und Betreiber von Künstlicher Intelligenz die Pflicht, gemäß Artikel 4 KI-VO dafür zu sorgen, dass alle Mitarbeiter, die KI-Systeme betreiben und nutzen, über KI-Kompetenz verfügen.

Wörtlich heißt es: "Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen sind."

Wer muss KI-Kompetenz vermitteln?

Was KI-Kompetenz konkret bedeutet, wird nicht ausgeführt. Es wird nur darauf hingewiesen, dass bei deren Vermittlung die technischen Kenntnisse, die Erfahrungen, die Ausbildung und Schulung der Mitarbeiter sowie der Kontext, in dem die KI-Systeme eingesetzt werden (sollen), und die Personen und Personengruppen, bei denen die KI-Systeme eingesetzt werden (sollen), berücksichtigt werden müssen.

Was umfasst die KI-VO-Schulungspflicht?

Anbieter und Betreiber müssen seit dem 2. Februar sicherstellen, dass alle Mitarbeiter, die mit KI-Systemen in Berührung kommen, angemessen geschult werden. Konkrete Umsetzungsmaßnahmen sind in der Verordnung nicht vorgeschrieben.

Möglichkeiten könnten zum Beispiel interne Lehrgänge oder Workshops sein. Auch qualifizierte externe E-Learning-Kurse könnten absolviert werden. Zur KI-Kompetenz sollte ein Grundverständnis der allgemeinen Funktionalität von Künstlicher Intelligenz, insbesondere von LLM-Sprachmodellen (Large Language Models) und sich daraus ergebenden datenschutzrechtlichen und gesellschaftlichen Risiken gehören.

KI-Verbote ab 2025: Beispiele

KI-Praktiken (Artikel 5 KI-VO), die ab dem 2.2.2025 ausdrücklich untersagt sind, folgen im Wesentlichen bestehenden rechtlichen Rahmenbedingungen. Das könnte für die Immobilienbranche beispielsweise relevant sein für:

• unterschwellige Beeinflussungen und absichtliche manipulative Techniken,
• die Ausnutzung der Schutzbedürftigkeit von Personen,
• schlechterstellende Einstufungen auf Grundlage des sozialen Verhaltens, bestimmter persönlicher Eigenschaften oder bestimmter Persönlichkeitsmerkmale oder
• die Ableitung von Emotionen einer natürlichen Person am Arbeitsplatz.

Bitkom-Leitfaden zur AI Act-Umsetzung

Der Branchenverband der deutschen Informations- und Telekommunikationsbranche Bitkom hat einen Leitfaden zur Umsetzung der KI-Verordnung herausgebracht, der außerdem in ein Click-Trough-Tool überführt wurde.

Bitkom-Umsetzungsleitfaden zur KI-Verordnung (EU) 2024/1689 (Download)

Geldbußen bei Verstoß gegen bestehende Pflichten

Ab dem 2.8.2025 kann außerdem gegen Unternehmen, die gegen die bereits bestehende Verpflichtungen verstoßen, mit Geldbußen vorgegangen werden. Möglich sind Strafen in Höhe von bis zu 35 Millionen Euro oder sieben Prozent des Jahresumsatzes. Die Mitgliedstaaten sollen bis zu diesem Zeitpunkt eigene Vorschriften über Geldbußen festlegen und dabei die Situation von kleinen und mittleren Unternehmen (KMU) einschließlich neu gegründeter Unternehmen besonders berücksichtigen.

Weitere Bestimmungen treten 2026 und 2027 in Kraft. Die EU-Mitgliedstaaten müssen den AI Act noch in nationales Recht umsetzen. Konkrete Fristen gibt es bisher nicht. 

Das könnte Sie auch interessieren: