Fachbeiträge & Kommentare zu EU AI Act

Gesetzestitel: EU-Gesetz zur künstlichen Intelligenz Stand im Gesetzgebungsverfahrenmehr

Gesetzestitel: Digitalpaket der Europäischen Union Stand im Gesetzgebungsverfahren Wesentliche Inhalte Das Digitalpaket birgt eine Vielzahl potentieller ...mehr

mehr

mehr

Frage: Was ist CoPilot und was ist sein Leistungsversprechen bzw. wer bist du und was kannst du? Antwort: CoPilot ist ein auf Künstlicher Intelligenz (KI) basierender Assistent, dem Sie fachliche Fragen stellen und mit dem Sie in einen Dialog treten können. So gelangen Sie schnell und bequem vom Problem zur Lösung. Damit ist CoPilot eine hervorragende Ergänzung bzw. Alternati...mehr

Cybersicherheit und KI werden von einer reinen Zusatzbetrachtung zu verbindlichen Produktanforderungen. Hersteller müssen nachweisen, dass ihre Maschinen gegen Cyberangriffe, Manipulationen und andere digitale Risiken geschützt sind, insbesondere bei vernetzten Systemen, in denen Safety– und Security–Funktionen zusammenwirken. In vielen Fällen empfiehlt sich ein integriertes...mehr

Künstliche Intelligenz (KI) bezeichnet im Sinne des EU AI Acts maschinenbasierte Systeme, die mit einem gewissen Grad an Autonomie Eingaben aus Daten verarbeiten und daraus Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugen, welche physische oder virtuelle Umgebungen beeinflussen. Das reicht von Assistenzsystemen in der Produktion über automatisierte Überwachung...mehr

Um KI-Governance im Unternehmen zu etablieren und zu monitoren ist es sinnvoll, ein AI Board oder AI Council auf C-Level-Ebene einzurichten, mit Vertreterinnen und Vertretern aus IT, Legal/Compliance, HR, Nachhaltigkeit und den relevanten Fachbereichen. Typische Aufgaben eines solchen Gremiums umfassen: KI-Strategie und Priorisierung: Welche KI-Use-Cases werden mit welchen Re...mehr

Ein wesentliches Risiko ist der Bias in ESG-Algorithmen. Werden Nachhaltigkeitsbewertungen auf Basis historischer, unvollständiger oder einseitig zusammengesetzter Trainingsdaten erstellt, entstehen systematische Verzerrungen. Die Konsequenz: Algorithmen können ESG-Risiken bei bestimmten Lieferanten oder Regionen strukturell unter- oder überschätzen. Das Risiko ist nicht aka...mehr

Überblick Künstliche Intelligenz verändert Unternehmen grundlegender als jede Digitalisierungswelle zuvor und das auf vielen Ebenen gleichzeitig. Ob Predictive Analytics in der Produktion, Computer Vision in der Qualitätssicherung, KI-gestütztes Energiemanagement oder autonome Logistiksysteme: KI beschleunigt nicht nur bestehende Prozesse, sondern transformiert die Qualität ...mehr

Beim Wissensmanagement muss geprüft werden, ob sensible oder personenbezogene Daten verarbeitet werden. Damit besteht das Risiko von juristischem Fehlverhalten, egal ob wissentlich oder unwissentlich. Beim Wissensmanagement sind im Kern meist drei Rechtsbereiche betroffen: Datenschutzgrundverordnung (DSGVO) Geschäftsgeheimnisse Urheberrecht Wichtig Rechtliche Regelungen zum KI-E...mehr

Auch der Prozess des Unternehmensverkaufs kann in weiten Teilen durch den Einsatz von künstlicher Intelligenz (KI) unterstützt werden. Dabei bleibt der beschriebene Prozess grundsätzlich bestehen und die Arbeiten des Verkäufers oder Verkäufers im Prozess, insbesondere was Vorbereitungen und Entscheidungen, z. B. in Bezug auf interne oder externe Nachfolger oder Termine, anbe...mehr

Agile Rollen (z. B. Product Owner, Scrum-Master, Agile Coach…) bieten die Chance, stets neue Aufgaben wahrzunehmen und damit die Möglichkeit zu einem "side-move". Zwar handelt es sich hier nicht um klassische disziplinarische Führungsaufgaben. Dennoch tragen diese Rollen entscheidend zur Gestaltung einer erfolgreichen agilen Organisation bei. So ist im agilen Kontext "Führun...mehr

Zu berufsrechtlicher Einordnung, regulatorischen Anforderungen durch den EU AI Act sowie Haftungs- und Datenschutzfragen beim KI-Einsatz in Steuerkanzleien siehe: Vertiefende Inhalte Verordnung über künstliche Intelligenz (AI Act) KI, Inkrafttreten der Verordnung (Infografik) KI-Modelle: Einsatz, Risiken, Zulässigkeit und berufsrechtliche Aspekte für Steuerberater Künstliche Inte...mehr

Direkte Angaben zum Thema Transkription finden sich in der KI-VO nicht. Wird die Transkription ausschließlich dazu genutzt, gesprochene Sprache in Text umzuwandeln, dürfte allein dies nicht zur Einordnung eines KI-Systems als Hochrisiko i.S.d. KI-VO führen, auch wenn der Einsatz in einem Hochrisikobereich nach Anhang III Ziff. 4. KI-VO erfolgt ("Beschäftigung, Personalmanage...mehr

Mithilfe von künstlicher Intelligenz (KI) und Big Data können Unternehmen nachhaltiger werden, indem sie umfassende Datenanalysen durchführen und dadurch Erkenntnisse gewinnen, die zur Verbesserung der Ressourceneffizienz und zur Abfallreduzierung beitragen. Beispielsweise können Unternehmen KI-Modelle einsetzen, um ihre Lieferketten zu optimieren und den Energieverbrauch zu...mehr

Nach allgemeiner Meinung wird dem Arbeitgeber ein Fragerecht nur insoweit zugestanden, als er ein berechtigtes, billigenswertes und schutzwürdiges Interesse an der Beantwortung seiner Frage im Hinblick auf das spezifische Arbeitsverhältnis hat. Dieses Interesse des Arbeitgebers muss objektiv so stark sein, dass dahinter das Interesse des Arbeitnehmers am Schutz seines Persö...mehr

Mit der Verordnung (EU) 2024/1689 zur Regulierung künstlicher Intelligenz – kurz als KI-VO oder auch "AI Act" bezeichnet – hat die Europäische Union einen umfassenden Rechtsrahmen zur Entwicklung und dem Einsatz von Künstlicher Intelligenz geschaffen. Ziel der Verordnung ist es, Innovation zu ermöglichen und gleichzeitig Risiken für Grundrechte, Sicherheit und Transparenz zu...mehr

Die Inhalte der KI-VO treten schrittweise in Kraft. Art. 4 KI-VO verpflichtet Organisationen dazu, Maßnahmen zu ergreifen, dass ihre Mitarbeiter und andere beteiligte Personen über ein ausreichendes Niveau an KI-Kompetenz verfügen. Diese Kompetenz soll es ihnen ermöglichen, KI-Systeme angemessen zu verstehen, ihre Ergebnisse richtig einzuordnen und potenzielle Risiken zu erke...mehr

Neben den klassischen IT-Tools werden zunehmend KI-basierte Systeme eingesetzt, die datengetriebene Bewertungen, Prognosen oder Rankings vornehmen. Für die rechtliche Bewertung ist dabei die frühere Unterscheidung nicht mehr entscheidend, ob es sich technisch um sog. "schwache" oder "starke" KI handelt. Maßgeblich ist vielmehr, in welchem Kontext das jeweilige KI-System eing...mehr

Überblick Bewerbungsverfahren werden – nicht zuletzt durch die rechtlichen Herausforderungen und den Bewerbermarkt – immer komplexer. Recruiter müssen immer mehr Aufgaben übernehmen und dürfen dabei nicht die wichtigsten Punkte aus den Augen verlieren. Schon deshalb kommen seit vielen Jahren IT-Tools in den Bewerbungsverfahren zur Anwendung. Seit geraumer Zeit tritt zudem im...mehr

Die am 2.2.2025 in Kraft getretene und schrittweise Wirkung entfaltende KI-Verordnung der EU setzt nach Art. 4 KI-VO voraus, dass Anbieter und Betreiber von KI-Systemen die Maßnahmen ergreifen, um sicherzustellen, dass die mit KI-Systemen befassten Mitarbeiter über eine ausreichende KI-Kompetenz verfügen. Nach Art. 3 Nr. 4 KI-VO ist "Betreiber" eine natürliche oder juristisch...mehr

Überblick Der Einsatz von KI-Modulen bietet große Chancen für den Einsatz in Steuerberatungskanzleien. Dieses sind dabei als dienendes Werkzeug zu verstehen und ihre Ergebnisse steht zu überprüfen. Für die Anwendung an sensiblen Informationen sind Auftragsverarbeitungsverträge gem. Art 28 DSGVO sowie Dienstleistungsverträge gem. § 62a StBerG zu schließen oder die Daten sorgf...mehr

Überblick Ein wesentlicher Grund dafür, dass neue digitale Technologien in Unternehmen nur zögerlich oder gar nicht umgesetzt werden, sind für viele Betriebe die Risiken der Datensicherheit. Tatsächlich bringt die Nutzung digitaler Technologien für Unternehmen Gefahrenpotenzial mit sich – doch noch mehr Vorteile. Diese Vorteile zu nutzen und dabei die Risiken im Griff zu beh...mehr

Der EU AI Act, ist zum 1. August 2024 in Kraft getreten, aber die meisten Verpflichtungen werden erst nach einer Übergangsfrist gelten. Sie ist der weltweit erste umfassende Rechtsrahmen für KI. Für die Steuerberatung als solche sind keine speziellen Verbote oder Pflichten vorgesehen. Jedoch sind einige Regelungen auch für die Steuerberatungspraxis relevant. Der AI Act verfol...mehr

Nein, eine gesetzliche Pflicht zur Bestellung eines KI-Beauftragten gibt es aktuell – anders als bei einem Datenschutzbeauftragten – nicht. Berufsträger müssen jedoch gem. Art. 4 der EU AI Act sicherstellen, dass sie und ihre Mitarbeitenden über die notwendige KI-Kompetenz verfügen. Deshalb kann die Benennung einer internen Ansprechperson für KI-Fragen sinnvoll sein. Diese k...mehr

Unbedingt. Ständige Weiterbildung ist im Berufsstand gem. § 57 Abs. 2a StBerG, § 4 Abs. 3 BOStB ohnehin Pflicht (siehe Kapitel 5 "Recht inkl. Berufsrecht & Datenschutz"). Zwar gibt es keine separate "KI-Fortbildungspflicht" in StBerG oder BOStB, aber eine mittelbar gemäß dem sog. EU AI Act. In Art. 4 des AI Acts wird gefordert, dass Anbieter und Betreiber von KI-Systemen siche...mehr

Beim Einsatz von KI in der Steuerberatung sind verschiedene rechtliche Rahmenbedingungen zu beachten: Berufsrecht: Steuerberater unterliegen einer besonderen Berufsverschwiegenheit (§ 203 StGB, StBerG, BOStB). Vertrauliche Mandantendaten dürfen nur an KI-Dienstleister weitergegeben werden, wenn diese rechtlich und vertraglich strikt an die Verschwiegenheit gebunden sind. Es ist...mehr

Ein potenzieller Arbeitgeber darf einem Bewerber im Bewerbungsgespräch auch Prüfungsaufgaben stellen, um die Eignung für die ausgeschriebene Stelle zu überprüfen. Dies ist besonders in Berufen üblich, in denen spezifische Fähigkeiten und Kenntnisse erforderlich sind; der Bewerber muss hierzu jedoch einwilligen. Es ist zudem wichtig, dass die Prüfungsaufgaben im Zusammenhang ...mehr

Wie Organisationen Führung weiterentwickeln, um in einer KI-getriebenen Welt zu bestehen Die Auseinandersetzung mit Ambidextrie hat das Verständnis von Führung dahingehend geprägt, Stabilität und Wandel in Balance zu halten. In einer Welt, in der KI, Märkte und Arbeitsformen sich permanent verändern, reicht diese Logik für sich genommen jedoch nicht aus. Organisationen benöti...mehr

Es gibt eine Reihe von verbotenen Praktiken bei KI-Systemen sowie KI-Modellen nach Art. 5 KI-VO. Im nachfolgenden wird eine Übersicht gegeben: KI-Systeme zur Beeinflussung von Personen oder absichtlichen Manipulation bzw. Täuschung mit dem Ziel, diese zu beeinflussen und dieser Person/Personengruppe erheblichen Schaden zuzufügen; KI-Systeme, welche die Vulnerabilität oder Schu...mehr

Einordnung des Normierungsstands Leitlinien für die genauen spezifischen Bedingungen, z. B. für die Protokollierung/Dokumentation existieren bisher nicht bzw. haben sich diese noch nicht in der Praxis entwickelt. Teilweise werden zur Konkretisierung von Compliance-Anforderungen bestehende Normen der International Organization for Standardization (ISO) herangezogen.[1] Im Sinn...mehr

Die KI-VO reguliert primär KI-Systeme und indirekt KI-Modelle. Diese sind bei hochregulierten KI-Systemen (sog. Hochrisiko-KI-Systeme nach Art. 6 KI-VO) zwar ein wichtiger Bestandteil der Zertifizierung und Sicherheitsmechanismen, darüberhinaus werden aber nur besondere KI-Modelle nach Art. 51 ff. KI-VO mit Regelungen bedacht. Abbildung 7: Unterschiede zwischen KI-System und ...mehr

Übersicht Anbieterpflichten bei Hochrisiko-KI-Systemen Ist ein KI-System als Hochrisiko-KI-System qualifiziert worden, müssen nach Art. 8 ff. KI-VO für Anbieter umfangreiche Anforderungen erfüllt werden. Diese können insbesondere die folgenden Compliance-Anforderungen umfassen: Einrichtung, Dokumentation sowie Verwendung eines Risikomanagementsystems (Art. 9 KI-VO), Qualität de...mehr

Die umfangreiche Regulatorik der KI-VO soll nicht KI-Innovationen in der EU behindern. Aus diesem Grund wurden in Kapitel 6 "Maßnahmen zur Innovationsförderung" eingeführt (Art. 57 ff. KI-VO). Die EU-Kommission verwendet hierzu das Instrument der sog. regulatorischen Sandkästen (bzw. auch als Sandbox-Regime bezeichnet). Art. 57 Abs. 1 KI-VO bezeichnet diese als KI-Reallabore...mehr

Die KI-VO umfasst 113 Artikel, 180 Erwägungsgründe, 13 Anhänge und gliedert sich in 13 Kapitel. Der Aufbau der KI-VO orientiert sich stark an der Risikokategorisierung von KI-Systemen. Nach einem allgemeinen Teil werden zur Abgrenzung die verbotenen KI-Systeme (konkret "Verbotene Praktiken im KI-Bereich") nach Art. 5 KI-VO sowie anschließend Hochrisiko-KI-Systeme und deren u...mehr

Einordnung der Risiken Die KI-VO kennt neben Hochrisiko-KI-Systemen und verbotenen KI-Praktiken noch zwei weitere Kategorien, und zwar KI-System bzw. KI-Modelle mit einem eingeschränkten Risiko sowie KI-Systeme mit einem niedrigen oder keinem Risiko. KI-Systeme mit keinem oder niedrigem Risiko fallen zwar in den Anwendungsbereich der KI-VO, werden jedoch nicht gesondert regul...mehr

Überblick Der Beitrag beleuchtet die EU-Verordnung zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (KI-Verordnung, engl.: AI Act) mit speziellem Blick auf Personalthemen und geht hierbei auf mögliche Auswirkungen und Verantwortlichkeiten bei Unternehmen ein. Gesetze, Vorschriften und Rechtsprechung Art. 3 Abs. 1, Art. 4, Art. 13, Art. 25, Art. 26 Art. 50...mehr

Die KI-Verordnung der Europäischen Union verfolgt das Ziel, einen umfassenden rechtlichen Rahmen für den Einsatz von künstlicher Intelligenz zu schaffen. Sie soll vor allem Transparenz und Rechtssicherheit gewährleisten, die Akzeptanz von KI-Technologien erhöhen und diese mit europäischen Werten und Grundrechten in Einklang bringen. Gleichzeitig strebt die EU an, auch global...mehr

Rz. 20 Um die praktische Umsetzung der Anforderungen des AI Acts zu erleichtern, haben wir in unserer Kanzlei CAILEE entwickelt – die Compliance & AI Law Evaluation Engine. Die EU hat mit dem AI Act eine Vielzahl von neuen Regeln aufgestellt, doch noch ist unklar, was diese eigentlich konkret bedeuten? CAILEE führt Nutzer anhand eines strukturierten Fragenkatalogs durch die ...mehr

Rz. 14 Hier ein kurzer Abriss zu dem wohl häufigsten Anwendungsfall: Dem Betreiben von KI gestützten Systemen, die nicht selbst entwickelt sind. Rz. 15 Checkliste: Betreiberpflichten für KI-Systeme nach der DSGVO und dem AI Act im Überblick Allgemeine Pflichtenmehr

mehr

Rz. 278 Künstliche Intelligenz (KI) ist eine Technologie, die es Computern ermöglicht, menschenähnliche Aufgaben zu erledigen, wie z.B. wie das Verstehen von Sprache, das Lösen von Problemen oder das Erstellen von Texten. Besonders bekannt sind KI-basierte Sprachmodelle, die Texte schreiben, übersetzen oder zusammenfassen können. Die bekanntesten Modelle sind:mehr

1.1.1 Allgemeines Die in Kurzform "KI-Verordnung" (KI-VO) genannte Verordnung (EU) 2024/1689 vom 13.6.2024 tritt stufenweise seit dem 2.2.2025 in Kraft. Ihr Ziel ist die Einführung einer vertrauenswürdigen und menschenzentrierten Künstlichen Intelligenz (KI) in der EU, wie sich aus Art. 1 Abs. 1 KI-VO ergibt. Ein zentrales Element ist dabei der risikobasierte Ansatz: KI-System...mehr

Die in Kurzform "KI-Verordnung" (KI-VO) genannte Verordnung (EU) 2024/1689 vom 13.6.2024 tritt stufenweise seit dem 2.2.2025 in Kraft. Ihr Ziel ist die Einführung einer vertrauenswürdigen und menschenzentrierten Künstlichen Intelligenz (KI) in der EU, wie sich aus Art. 1 Abs. 1 KI-VO ergibt. Ein zentrales Element ist dabei der risikobasierte Ansatz: KI-Systeme werden nicht na...mehr

Arbeitgeber, die KI im Unternehmen einsetzen, gelten als Betreiber.[1] Nach Art. 3 Nr. 4 KI-VO ist "Betreiber" einer KI "eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet, es sei denn, das KI-System wird im Rahmen einer persönlichen und nicht beruflichen Tätigkeit verwendet". Damit ist der ...mehr

Überblick Der Jahreswechsel bringt einige Änderungen im Arbeitsrecht mit sich. Zum 1.1.2026 erhöhten sich der gesetzliche Mindestlohn, die Minijobgrenze und auch die Mindestausbildungsvergütung. Neuerungen ergaben sich außerdem bei der betrieblichen Altersversorgung sowie im Hinblick auf die sachgrundlose Befristung von Rentnern, die erleichtert wurde. Weitere Änderungen sind...mehr

Mit der Verordnung (EU) 2024/1689 – dem AI Act – führt Europa das erste umfassende Gesetz zur Regulierung von Künstlicher Intelligenz ein. Sein Prinzip ist klar: Je höher das Risiko für Grundrechte oder Sicherheit, desto strenger die Pflichten. Für die Personalarbeit bedeutet das einen Wendepunkt. Nach Anhang III, Abschnitt 4 gilt jedes KI-System als Hochrisiko, das Einfluss...mehr

Der EU AI Act gilt als Meilenstein europäischer Technologiepolitik. Er schafft erstmals klare Grenzen und Zuständigkeiten, wo zuvor nur Prinzipien galten. Damit bringt er Ordnung in ein Feld, das jahrelang von Ambiguität, Schnellschüssen und Vertrauensverlust geprägt war. Doch derselbe Ordnungsrahmen, der Sicherheit schafft, kann auch Innovationsgeschwindigkeit begrenzen – in...mehr

Überblick Personalarbeit steht an der Schwelle zu einer neuen Epoche. Aus Kennzahlen wird Erkenntnis, aus Reporting wird Verantwortung. Künstliche Intelligenz verschiebt die Grenze zwischen Beobachten und Verstehen: Sie macht Muster sichtbar, die Menschen allein nicht erkennen könnten – verlangt aber gleichzeitig neue Formen der Kontrolle. Der EU AI Act schafft dafür den rech...mehr