Fachbeiträge & Kommentare zu EU AI Act

Der Schlüssel liegt nicht in weniger Regulierung, sondern in besserer Regulierung. Wenn Regeln als starre Checklisten verstanden werden, hemmen sie Innovation. Wenn sie als lernende Systeme gedacht sind, können sie Innovation sogar befördern. Lernende Regulierung bedeutet, dass Rahmenwerke regelmäßig evaluiert, Normen agil fortgeschrieben und Feedback-Schleifen zwischen Geset...mehr

Der AI Act erzwingt einen kulturellen Wandel: weg von reaktiver Compliance, hin zu präventiver Governance. In der Praxis entstehen neue Rollen wie AI Governance Lead, Model Risk Officer, Data Steward, die den gesamten Lebenszyklus: vom Design und Training über Einsatz und Überwachung bis hin zur Stilllegung Abdecken. Sie sichern die Nachweise gemäß Art. 9 bis 15 AI Act: Risik...mehr

Trotz vielfältigen Anwendungsmöglichkeiten von intelligenten Sprachmodellen im Notariat steht die Verwendung der Technologie mit dem Amt des Notars immer wieder in Konflikt.[22] Nicht nur die Digitalisierung allgemein stellt den Notar vor inhaltliche und berufsrechtliche Fragestellungen – man denke an letztwillige Verfügungen über digitale Vermögensgegenstände wie Krypto-Wer...mehr

Abhängig von der gesuchten Zielgruppe bieten sich für das Active Sourcing eine Vielzahl von Kanälen oder Plattformen an. Mit über einer Milliarde Nutzern weltweit, stellt LinkedIn das größte und relevanteste Netzwerk dar, welches sich für eine Vielzahl von Zielgruppen eignet. Im DACH-Raum ist Xing eine gängige Plattform. Beide Netzwerke verfügen über ein Recruiter-Modul, das...mehr

In der KI-Verordnung (KI-VO) der Europäischen Union werden – anders als in der DSGVO zum Schutz personenbezogener Daten – insbesondere Regelungen mit produkthaftungsrechtlichem Charakter (bezogen auf das angebotene oder betriebene KI-System) getroffen. Ein "KI-System" ist nach Art. 3 Nr. 1 KI-VO ein maschinengestütztes System, das für einen in unterschiedlichem Grad autonome...mehr

Die wesentlichen Erkenntnisse lassen sich thesenartig wie folgt zusammenfassen:mehr

Schließlich bedarf es bei der Implementierung eines KI-Avatars der Beachtung der der europäischen KI-Verordnung (Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates v. 13.6.2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz [Verordnung über künstliche Intelligenz – KI-VO], ABl. (EU) L 2024/1689 v. 12.7.2024). Insbesondere bei persönlich...mehr

Rz. 202 Der AI Act soll nach dem Willen des EU-Gesetzgebers auf bestimmte Regulierungen im datenschutzrechtlichen Bereich – gemeint ist vor allem die DSGVO – keine Anwendung finden, Art. 2 Abs. 7 AI Act. Daraus könnte sich im Umkehrschluss ein Anwendungsvorrang der Rechtsvorschriften der Union zum Schutz personenbezogener Daten, der Privatsphäre und der Vertraulichkeit der K...mehr

Rz. 2 Der AI Act ist eine EU-Verordnung, die erstmals einen spezifischen Rechtsrahmen für Künstliche Intelligenz schafft. Er basiert auf einem risikobasierten Ansatz und unterteilt KI-Systeme in Kategorien mit unterschiedlichen Anforderungen, die abhängig von der jeweiligen Risikokategorie sind.mehr

Rz. 19 Wer auf die rechtlichen Anforderungen an KI schaut, wird sich unweigerlich zunächst dem AI Act zuwenden. Er ist die zentrale Regulation zum Thema KI und erfährt stufenweise Geltung seiner Regelungen. Die umfangreichsten Regelungen beziehen sich auf Hochrisiko-KI-Systeme, ebenso kennt aber jeder die grundlegende Pflicht für Anbieter und Betreiber, intern KI-Kompetenz a...mehr

Rz. 50 Den meisten Pflichten unterliegen – nicht überraschend – die Hochrisiko-KI-Systeme nach dem AI Act. In Abschnitt 2 finden sich die Anforderungen an die Systeme selbst: das technische und organisatorische Pflichtprogramm. Abschnitt 3 regelt ergänzend die Verantwortlichkeiten der Anbieter (sowie Bevollmächtigten), Betreiber, Einführer und Händler. Da in der Praxis häufig...mehr

Rz. 20 Der räumliche Anwendungsbereich des AI Act ist umfassend gestaltet. Er orientiert sich nicht nur am Sitz der Unternehmen, sogenanntes Niederlassungsprinzip,[10] sondern auch daran, wo die KI-Systeme tatsächlich eingesetzt werden, das Marktortprinzip.[11] In der Praxis bedeutet das: Für Anbieter und Betreiber mit Niederlassung im Bereich der EU ist der AI Act ausdrückl...mehr

Rz. 85 Bei der Betrachtung der Pflichten der Akteure entsprechend der Risikoklassen darf nicht übersehen werden, dass neben diese kontextbezogenen Pflichten noch zusätzliche Pflichten treten können, wenn das KI-System auf einem Modell mit allgemeinem Verwendungszweck beruht. Die wohl bekanntesten generativen KI-Systeme basieren auf GPAI, ChatGPT nutzt beispielsweise die GPT-...mehr

Akerhar / Sajja, Knowledge-Based Systems, 2010 Ashkar , Wesentliche Anforderungen der DSµ-GVO bei Einführung und Betrieb von KI-Anwendungen, ZD 2023, 523 Ashkar / Schröder , Das Gesetz über künstliche Intelligenz der Europäischen Union(KI-Verordnung), BB 2024, 771 Baumann, Generative KI und Urheberrecht – Urheber und Anwender im Spannungsfeld, NJW 2023, 3673 Beierle / Kern-Isberner , Met...mehr

Rz. 33 Hinweis: Klassifikationsebenen des AI Acts Die KI-Systeme und GPAIs werden durch den AI Act nach zwei parallelen Klassifikationsebenen eingestuft: Rz. 34 Bleiben wir zunächst bei de...mehr

Rz. 42 Eine Anforderung hat in der Praxis für Anbieter und Betreiber, unabhängig von der Einstufung des Systems, eine besondere Bedeutung: Die Schulungspflicht des Art. 4 AI Act . Demnach müssen Anbieter und Betreiber von KI-Systemen dafür sorgen, dass alle, die an der Bedienung oder Nutzung des Systems beteiligt sind, unabhängig von ihrer Anstellung, auch wirklich wissen, wa...mehr

Rz. 65 Die geschilderten Verzerrungen werfen aus juristischer Sicht vielfältige Probleme auf. Im Kern geht es darum, wie bestehende Rechtsnormen Diskriminierung durch KI erfassen und welche neuen Regelungen nötig sind, um Transparenz und Fairness sicherzustellen. Drei wichtige Ansatzpunkte sind hier das Datenschutzrecht (insbesondere DSGVO), das Antidiskriminierungsrecht und...mehr

Rz. 175 Neben der Prüfung des Anwendungsbereichs und des datenschutzrechtlichen Beratungsdreiklangs aus Rechtsgrundlage, Information und datenschutzrechtlicher Absicherung für jede Datenverarbeitung im Lebenszyklus eines KI-Systems, müssen noch weitere datenschutzrechtliche Grundsätze des Art. 5 Abs. 1 DSGVO bei der Aufstellung eines ordentlichen Konzepts beachtet werden:mehr

Angwin u.a., Machine Bias – There's software used across the country to predict future criminals. And it's biased against blacks, abrufbar unter: https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing (zuletzt abgerufen am 23.3.2025) Bastian, US-Copyright-Behörde widerspricht KI-Industrie: Kein generelles Fair Use beim KI-Training, abrufbar un...mehr

Rz. 300 Analog zu den Pflichten aus der DSGVO bringt der AI Act eigene Informationspflichten sowie weitergehende Compliance Anforderungen mit sich. Gerade bei Hochrisiko-KI, beispielsweise in Medizinprodukten, Bewertungssystemen im Bildungsbereich oder bei der Personalauswahl, sind umfassende Pflichten zur Transparenz im Sinne einer gewissen Erklärbarkeit der KI-Ausgaben ein...mehr

Rz. 1 Abbildung: Nicht nur die technische Performance zählt, © BeschtesTeam@JUN Legal GmbH (CC-BY-SA-4.0) Rz. 2 Hinweismehr

Rz. 129 Allem voran steht jedoch zunächst die Frage, ob der Anwendungsbereich der DSGVO eröffnet ist. Während dies für den räumlichen Anwendungsbereich relativ einfach zu bestimmen ist, bedarf es beim sachlichen Anwendungsbereich einer vertieften Analyse. Rz. 130 Der räumliche Anwendungsbereich (Art. 3 DSGVO) ist eröffnet, wennmehr

Rz. 97 Neben dem AI Act können auch der Digital Services Act (DSA) und der Data Act generative KI betreffen. Diese beiden Verordnungen sind Teil des EU-Digitalrechtsrahmens und adressieren Onlinedienste (DSA) beziehungsweise Datenzugang und -nutzung (Data Act). Rz. 98 Ab dem 12.9.2025 gilt die am 11.1.2024 in Kraft getretene "Verordnung über harmonisierte Vorschriften für ein...mehr

Rz. 55 Abbildung: Biased – die neue Intelligenz ist nicht neutral. Rz. 56 Abbildung: Prompt: /imagine: Create a group picture of 20 CEOs from 21st century companies (Erstellungsdatum: 21.11.2024, Midjourney) Rz. 57 Hinweismehr

Rz. 293 Die vertragliche Bewältigung datenschutzrechtlicher Risiken beginnt mit einem strukturierten Blick auf die Pflichten der DSGVO mit speziellem Fokus auf den Einsatz von KI (siehe hierzu im Detail Rdn 125 ff.). Sobald ein KI-System personenbezogene Daten verarbeitet – sei es in der Konzeptionsphase, im Training, im Betrieb oder bei der Ausgabe von Entscheidungen – grei...mehr

Rz. 97 Juristen wissen: Die richtige Frage ist oft der Schlüssel zur richtigen Antwort. Das gilt nicht nur in Verhandlungen, vor Gericht oder in der Zusammenarbeit mit dem Rechtsreferendar oder Kollegen, sondern auch im Umgang mit generativer KI. Wer ein LLM sinnvoll in der Rechtsberatung einsetzen will, sollte sich mit den Grundlagen des Promptings auseinandersetzen. Viele ...mehr

Wie lässt sich Künstliche Intelligenz sinnvoll in der Immobilienverwaltung nutzen, ohne gegen Datenschutzvorgaben zu verstoßen? Rechtliche Grundlagen, Risiken und praxisnahe Tipps für einen sicheren KI-Einsatz. Die Immobilienverwaltung wird mit Künstlicher Intelligenz schneller, datengetriebener und automatisierter. Dabei stehen Effizienzgewinne gegen sensible personenbezogen...mehr

Degen/Emmert Elektronischer Rechtsverkehr Monographie, 3. Aufl. 2025 453 Seiten, 119 EUR (Gesamtabnahme) Verlag C.H.Beck ISBN 978-3-406-80227-0 Im Kontext der Digitalisierung der Justiz nimmt der elektronische Rechtsverkehr eine zentrale Rolle ein. Die e-Akte ist auf dem Weg, in den nächsten Monaten auch das letzte Gericht zu erreichen und während die Rechtsanwälte das beA sc...mehr

Rn 170 Zunehmend werden auch Verkehrspflichten beim Inverkehrbringen unsicherer Software thematisiert (s etwa Raue NJW 17, 1841, 1843 ff, im Ansatz auch Bilski/Schmid NJOZ 19, 657, 660). Schwierig ist hier insb, dass jedenfalls komplexe Software kaum je fehlerfrei sein dürfte, so dass der anzusetzende Pflichtenstandard problematisch ist (dazu etwa Schaub JZ 17, 342, 344 mwN)...mehr

Frage: Welche Themen deckt CoPilot Real Estate ab? Antwort: CoPilot Real Estate ist darauf spezialisiert, Fragen zu immobilienrechtlichen Themen zu beantworten sowie Themen aus dem klassischen Verwaltungsalltag zu erläutern, etwa im Zusammenhang mit der Eigentümerversammlung oder der Betriebskostenabrechnung. Er nutzt dafür die Inhalte aus Haufe VerwalterPraxis und greift auf...mehr

Warum Prompting-Kompetenz zur Schlüssel-Ressource wird und wie Fallstricke vermieden werden. 1. KI-Chatbots als neues Werkzeug im Verwalter-Alltag Chatbots wie ChatGPT, Gemini und Co. sind auch in der Immobilienverwaltung angekommen. Sie beantworten Anfragen, liefern Textvorschläge und entlasten bei der Kommunikation mit Mietern, Eigentümern und Dienstleistern. Doch so hilfrei...mehr

Ein allgemeingültiger KI-Begriff für die Rechtsanwendung besteht derzeit nicht. Allgemeines Verständnis: Als grobe Faustregel kann man immer dann von "künstlicher Intelligenz" sprechen, wenn ein Computersystem nicht nach fixen Regeln für sämtliche Anwendungsfälle vorprogrammiert ist und völlig vorhersehbar agiert, sondern die Regeln für die Lösung eines Problems autonom durch...mehr

Die KI-Verordnung zielt darauf ab, einen sicheren, transparenten und ethischen Einsatz von KI in der Europäischen Union zu gewährleisten. Zentrales Ziel ist, die (EU-)Bürger vor möglichen Risiken und Schäden zu schützen, die durch den Einsatz von KI entstehen können. Weitere Ziele der Verordnung sind u. a. die Förderung der Wettbewerbsfähigkeit, der Aufbau von Vertrauen und ...mehr

Die Definition "KI-Systeme" findet sich in Artikel 3 der KI-Verordnung. Demnach ist ein „KI-System“ ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und das nach seiner Betriebsaufnahme anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben wie etwa Vorher...mehr

Die EU KI-Verordnung legt großen Wert darauf, dass Arbeitnehmer umfassend informiert und geschult werden, um sicherzustellen, dass sie die neuen Technologien sicher und effektiv nutzen können. Dies bedeutet, dass Arbeitnehmer umfassend über die Funktionsweise, die potenziellen Risiken und die sicheren Arbeitspraktiken im Umgang mit den von ihnen verwendeten KI-Systemen gesch...mehr

Die KI-Verordnung der EU verfolgt einen risikobasierten Ansatz, bei dem KI-Systeme entsprechend ihrem Schadenspotenzial in 4 Risikoklassen eingeteilt werden: 1.1 Unannehmbares Risiko bzw. verbotene Praktiken[1] KI-Systeme mit unannehmbarem Risiko sind verboten. Hierbei handelt es sich um Anwendungen, die fundamentale Rechte der Menschen verletzen oder mit erheblichen gesellsch...mehr

Im zweiten Schritt erfolgt ein Abgleich mit den in der Verordnung definierten Risikokategorien und Anwendungsbeispielen. Hierbei ist zu prüfen, ob das System in einem regulierten Sektor (z. B. Medizin, Verkehr, öffentliche Sicherheit) eingesetzt wird oder ob es besondere Risiken für Grundrechte birgt. Im Kontext von Hochrisiko-KI-Systemen lohnt ein Blick in die KI-Verordnung....mehr

Zusammenfassung Unternehmen sehen sich stetig wachsenden gesetzlichen Anforderungen gegenüber. Bei Verstößen drohen hohe Geldbußen (siehe 1). Geschäftsleiter müssen organisatorisch gewährleisten, dass Mitarbeiter Gesetze einhalten (siehe 2). Kleineren und mittleren Unternehmen (KMU) fehlen häufig die Ressourcen für Compliance. Eine kürzlich veröffentlichte DIN-Norm will Abhi...mehr

Überblick Künstliche Intelligenz (KI) verändert die Führungskultur nachhaltig. Führungskräfte müssen sich nicht nur mit den technologischen Grundlagen auseinandersetzen, sondern auch aktiv den Kulturwandel gestalten. KI bietet enorme Chancen für effizientere Prozesse, datenbasierte Entscheidungen und personalisierte Mitarbeiterförderung – gleichzeitig wachsen die Ängste vor ...mehr

Diese Transformation bietet Chancen, sich durch Innovationen, nachhaltige Wertschöpfungsstrukturen, technologische Modernisierung und neue Marktstrategien zukunftsfähig zu positionieren. Doch sie bringt auch große Herausforderungen mit sich: Unsicherheiten zu bewältigen, die Finanzierung von Wachstums- und Innovationsprojekten sicherzustellen und die richtigen Kompetenzen zu...mehr

Frage: Welche Themen deckt der CoPilot Tax ab? Antwort: CoPilot Tax ist darauf spezialisiert, Fragen zu steuerlichen Themen zu beantworten sowie Themen, die im klassischen Kanzleialltag auftreten, z.B. Fragen zur Buchhaltung oder Bilanzierung. Er nutzt dafür die Inhalte aus dem Haufe Steuer Office und greife auf den Datenbestand der von Ihnen abonnierten Version zu. Der Haupt...mehr

Rz. 11 Arbeitsverfahren, Arbeitsabläufe und Arbeitsplätze sind miteinander verbunden und können unter dem Oberbegriff Arbeitsstrukturierung zusammengefasst werden. Unter Arbeitsverfahren ist die Technologie zur Veränderung der Arbeitsgegenstände, zur Erfüllung der Arbeitsaufgabe, insbesondere unter dem Gesichtspunkt der Beanspruchung und Belastung zu verstehen. Von dem Begri...mehr

Zusammenfassung Worauf müssen Unternehmen achten, wenn sie KI in der Kommunikation einsetzen? Welche rechtlichen Rahmenbedingungen gilt es zu beachten? Transparenz ist ein wichtiger Faktor. Ohne den Einsatz von Social Media ist eine zeitgemäße Unternehmenskommunikation nicht denkbar. Das gilt vor allem in der Konsumgüterindustrie. Wer seine Kunden erreichen will, der muss sie...mehr

Rz. 12 Die komplexen Verfahren und technologischen Entwicklungen der letzten Jahre bieten den Instituten ein breites Spektrum an Möglichkeiten, die Prognosegüte der Modelle zu optimieren. Sie gehen aber auch mit erhöhten oder neuen Risiken einher. Risiken wie unbeabsichtigte Diskriminierung bestimmter Verbrauchergruppen sind nicht nur ein Problem des Verbraucherschutzes, son...mehr

mehr

Die Entwicklung digitaler Lösungen beschleunigt sich immer weiter. Während es bei Instagram 8 Monate dauerte, bis 100 Millionen Nutzer erreicht wurden, so erreichte ChatGPT dies in 2 Monaten. Berücksichtigt man den Aspekt, dass KI in weiten Teilen selbstlernend agieren kann, so wird dies zu weiterer Beschleunigung des Fortschritts beitragen. Dazu gehört auch die Entstehung u...mehr

Zusammenfassung Das EU-Gesetz über Künstliche Intelligenz (AI Act) ist vor allem für Anbieter und Betreiber von KI-Systemen relevant. Ein Großteil der praktischen und rechtlichen Probleme beim Einsatz von KI wird hierdurch jedoch nicht geregelt. Diese müssen nach wie vor zwischen den Parteien ausgehandelt werden. Intern: Klare Regelungen Überall da, wo Mitarbeitenden ein Inter...mehr

Rz. 1 Arbeitsverhältnisse sind, insbesondere bei Durchführung der betrieblichen Tätigkeiten durch Beschäftigte sowie Einsatz digitaler Mittel für die Steuerung des Einsatzes der Beschäftigten, undenkbar ohne das Entstehen und die Verarbeitung einer Vielzahl personenbezogener Daten der Beschäftigten. Viele Systeme werden erst effektiv, wenn eine Vielzahl personenbezogener Dat...mehr

Am 21.5.2024 hat der Rat der Europäischen Union den AI-Act verabschiedet. Damit hat die KI-Verordnung nun ihre letzte Abstimmungshürde genommen. Nachdem es bereits im Dezember 2023 eine politische Einigung zum AI-Act gab und das Europäische Parlament den Entwurf am 13.3.2024 gebilligt hatte, gab nun auch der Rat seine Zustimmung zum finalen Verordnungstext. Damit ist der AI-A...mehr

Rz. 21 Die KI-VO der Europäischen Union ist der erste umfassende regulatorische Rahmen zur Steuerung der Entwicklung, Bereitstellung und Nutzung von KI innerhalb der EU. Rz. 22 Die KI-VO zielt darauf ab, einen harmonisierten Rechtsrahmen für die Entwicklung und Nutzung von KI innerhalb der Europäischen Union zu schaffen. Dabei stehen die Gewährleistung von Sicherheit, Transpa...mehr