Fachbeiträge & Kommentare zu Künstliche Intelligenz (KI)

Der Einsatz generativer KI, etwa Sprachmodelle wie ChatGPT, eröffnet in Change-Prozessen erhebliche Potenziale für Effizienz und Personalisierung. Standardformate wie E-Mails oder Change-FAQs können schneller erstellt, zielgruppenspezifisch angepasst und zeitnah verbreitet werden – ein Vorteil besonders in frühen Phasen des Wandels, wenn Unsicherheit herrscht und Information... mehr

Neben klassischen, digitalen und hybriden Formaten eröffnen neue Technologien, insbesondere generative KI, zusätzliche Möglichkeiten, Change-Kommunikation effizienter, dialogorientierter und personalisierter zu gestalten. Dies erfordert zugleich klare Leitplanken und verantwortungsvolle Steuerung. 8.1 Generative Künstliche Intelligenz Der Einsatz generativer KI, etwa Sprachmod... mehr

Digitale Werkzeuge können klassische Kommunikationsformate nicht ersetzen, erweitern diese jedoch um neue Möglichkeiten der Skalierung, Dialogführung und Datenanalyse. Ihr Mehrwert liegt vor allem in Reichweite, Geschwindigkeit und der systematischen Erfassung von Rückmeldungen. Für die Change-Kommunikation sind insbesondere folgende Instrumente relevant: Social Intranets (z.... mehr

Überblick Permanenter Wandel und Krisen prägen den Unternehmensalltag, diese wollen gestaltet und positiv begleitet werden. Um Ängste, Unsicherheit und Demotivation weitestgehend zu minimieren, muss Change- und Krisenkommunikation daher den Prinzipien Klarheit, Transparenz und Empathie folgen. Sie sichern Vertrauen, Akzeptanz und Resilienz. HR und Führungskräfte übernehmen d... mehr

Rz. 18 Auf den ersten Blick erscheint der Regelungsgehalt des § 88a S. 2 AO gegenüber seinem S. 1 redundant. Anders als in seinem S. 1 regelt § 88a AO in seinem S. 2 aber nicht das Sammeln, sondern die weitere Nutzung der gesammelten Daten.[1] Eine Verwendung der gesammelten Daten ist nach § 88a S. 2 AO nur für Verfahren i. S. d. § 30 Abs. 2 Nr. 1 Buchst. a und b AO zulässig... mehr

Rz. 37 Künstliche Intelligenz (KI) bezeichnet Systeme, die mittels Techniken wie maschinellem Lernen, wissens- oder logikbasierten Methoden Inhalte, Vorhersagen, Empfehlungen oder Entscheidungen erzeugen, die ein vom Menschen definiertes Ziel verfolgen (Art. 3 Nr. 1 AI Act). Sie durchlaufen typischerweise Phasen von Planung, Entwicklung, Training und Betrieb und können dabei... mehr

Rz. 2 Der AI Act ist eine EU-Verordnung, die erstmals einen spezifischen Rechtsrahmen für Künstliche Intelligenz schafft. Er basiert auf einem risikobasierten Ansatz und unterteilt KI-Systeme in Kategorien mit unterschiedlichen Anforderungen, die abhängig von der jeweiligen Risikokategorie sind. mehr

Rz. 66 Starke KI stellt ein theoretisches Konzept dar, wonach KI zu menschenähnlichem Denken fähig wäre. Heutzutage existiert dies bislang noch nicht. mehr

Rz. 62 Schwache KI ist auf einzelne Aufgaben spezialisiert, zum Beispiel Bilderkennung oder Textklassifikation. Sie kann keine umfassenden intellektuellen Leistungen erbringen, sondern simuliert lediglich Aspekte von Intelligenz. Schwache KI ist heute die dominierende Form im praktischen Einsatz, beispielsweise in automatischen Übersetzungen durch den Google Translator. mehr

Rz. 34 KI-Optimierung bezeichnet die gezielte Beeinflussung von KI-Modellen durch speziell erstellte Inhalte, die deren Trainingsdaten oder Antworten steuern sollen. Ähnlich wie bei der Suchmaschinenoptimierung (SEO) werden dabei Quellen so gestaltet, dass sie insbesondere bei Nischenthemen das Modellverhalten prägen. Dies wirft rechtliche Fragen zu Fair Use und virtuellem H... mehr

Rz. 19 Wer auf die rechtlichen Anforderungen an KI schaut, wird sich unweigerlich zunächst dem AI Act zuwenden. Er ist die zentrale Regulation zum Thema KI und erfährt stufenweise Geltung seiner Regelungen. Die umfangreichsten Regelungen beziehen sich auf Hochrisiko-KI-Systeme, ebenso kennt aber jeder die grundlegende Pflicht für Anbieter und Betreiber, intern KI-Kompetenz a... mehr

Rz. 50 Den meisten Pflichten unterliegen – nicht überraschend – die Hochrisiko-KI-Systeme nach dem AI Act. In Abschnitt 2 finden sich die Anforderungen an die Systeme selbst: das technische und organisatorische Pflichtprogramm. Abschnitt 3 regelt ergänzend die Verantwortlichkeiten der Anbieter (sowie Bevollmächtigten), Betreiber, Einführer und Händler. Da in der Praxis häufig... mehr

Rz. 61 Der AI Act unterscheidet zwischen verbotener, hochriskanter, beschränkt riskanter und minimal riskanten KI-Systemen. Die jeweilige Einstufung bestimmt die Pflichten der Akteure. mehr

Rz. 29 Hochrisiko-KI umfasst Systeme mit besonders hohem Risiko für Grundrechte, etwa bei Strafverfolgung oder Bewerberauswahl. Der AI Act sieht hier strenge Anforderungen vor. mehr

Rz. 47 Für zwei Arten der Risikoklassen von KI lässt sich die Frage nach den Pflichten leicht beantworten: mehr

Rz. 42 Eine Anforderung hat in der Praxis für Anbieter und Betreiber, unabhängig von der Einstufung des Systems, eine besondere Bedeutung: Die Schulungspflicht des Art. 4 AI Act . Demnach müssen Anbieter und Betreiber von KI-Systemen dafür sorgen, dass alle, die an der Bedienung oder Nutzung des Systems beteiligt sind, unabhängig von ihrer Anstellung, auch wirklich wissen, wa... mehr

Rz. 195 Abbildung: Arbeitgeber – Schutz vor KI, © BeschtesTeam@JUN Legal GmbH (CC-BY-SA-4.0) Rz. 196 Hinweis mehr

Rz. 117 Neben diesen Fähigkeitsexplosionen von LLMs besteht der derzeit wichtigste Trend in Sachen KI in den sogenannten KI-Agenten. Die Nutzung generativer KI muss sich heutzutage nicht mehr darauf beschränken, einer KI-Fragen zu stellen beziehungsweise sich von ihr Texte formulieren zu lassen. Vielmehr können KI-Agenten selbst in Aktion treten und beispielsweise mit Websit... mehr

Rz. 32 Der KI-Lebenszyklus beschreibt die Phasen, die ein KI-System durchläuft: Planung und Konzeption, Entwicklung und Training sowie Implementierung und Betrieb. Jede Phase birgt unterschiedliche rechtliche und technische Herausforderungen. Im Datenschutzkontext müssen für jede Phase spezifische Rechtsgrundlagen und Maßnahmen geprüft werden. mehr

Rz. 199 Aus Art. 6 Abs. 2 AI Act i.V.m. Ziff. 4 Anhang III AI Act ergibt sich, dass Arbeitgeber unter Umständen, wenn sie in bestimmten Fällen im Beschäftigtenkontext oder im Auswahlverfahren KI-Systeme einsetzen, zum Betreiber eines Hochrisiko-KI-Systems werden können. Demnach gelten als Hochrisiko-KI-Systeme Programme im Bereich Beschäftigung, Personalmanagement und Zugang... mehr

Rz. 69 Auch jenseits des AI Act gibt es Diskussionen über Audit Pflichten für Algorithmen, Zertifizierungen (ein "KI TÜV") und branchenbezogene Leitlinien. Insgesamt zeichnet sich ab, dass Transparenz und Fairness zu zentralen gesetzlichen Anforderungen für KI werden – Entwicklungen, die dem Schutz vor diskriminierenden KI-Entscheidungen direkt dienen. In diese Richtung ziel... mehr

Rz. 113 Es mag zunächst seltsam anmuten, den Begriff "Emanzipation" im Zusammenhang mit KI zu verwenden. Der Begriff umschreibt jedoch sehr treffend die aktuellen Entwicklungen generativer KI. Gemäß der Definition des Duden[96] geht es beim Substantiv Emanzipation um zwei Hauptaspekte, Selbstständigkeit und Gleichstellung. Insofern bietet die Bezeichnung als "emanzipierte" K... mehr

Rz. 1 AI Abuse bezeichnet den Missbrauch von Sprachmodellen für Aufgaben, die spezialisierte Tools präziser und effizienter lösen könnten. Dieses Hammer-Nagel-Prinzip führt etwa dazu, dass LLMs für Routenplanung oder FOSS-Lizenzprüfungen genutzt werden, obwohl dafür bessere Systeme existieren. mehr

Rz. 16 Abbildung: KI im Einklang mit geltendem Recht, © BeschtesTeam@JUN Legal GmbH (CC-BY-SA-4.0) Rz. 17 Hinweis mehr

Rz. 125 Für die rechtskonforme Nutzung personenbezogener Daten bleibt die DSGVO auch im Bereich der KI Compliance die maßgebliche Richtschnur. Gemäß Artikel 2 Abs. 7 des AI Acts bleiben die Rechte und Pflichten, die in der DSGVO festgelegt sind, unberührt. Zusätzlich enthält Art. 10 AI Act ausdrücklich Vorgaben zu Daten und Daten-Governance. Die Bestimmungen der beiden Veror... mehr

Rz. 59 RAIL steht für "Responsible AI Licenses" und bezeichnet Lizenzmodelle, die die Nutzung von KI-Systemen oder -Modellen an ethische und rechtliche Vorgaben knüpfen. Ziel ist es, die Verbreitung und Anwendung von KI so zu steuern, dass Missbrauch – etwa für diskriminierende, gefährliche oder menschenrechtswidrige Zwecke – verhindert wird. RAIL kombiniert daher klassische... mehr

Rz. 1 Abbildung: Eine Historie geprägt von Volatilität, © BeschtesTeam@JUN Legal GmbH[1] (CC-BY-SA-4.0) Rz. 2 Hinweis mehr

Rz. 120 Bei allen positiven Veränderungen, die eine emanzipierte generative KI in Bezug auf juristische Tätigkeiten herbeiführen kann, haben die angedeuteten Visionen auch etwas Beängstigendes. Und das liegt sicherlich daran, dass der Einsatz von KI, gerade im juristischen Kontext, auch Gefahren und Risiken mit sich bringt. Viel wurde und wird beispielsweise über die schlech... mehr

Rz. 20 Der räumliche Anwendungsbereich des AI Act ist umfassend gestaltet. Er orientiert sich nicht nur am Sitz der Unternehmen, sogenanntes Niederlassungsprinzip,[10] sondern auch daran, wo die KI-Systeme tatsächlich eingesetzt werden, das Marktortprinzip.[11] In der Praxis bedeutet das: Für Anbieter und Betreiber mit Niederlassung im Bereich der EU ist der AI Act ausdrückl... mehr

Rz. 35 Ein KI-Reallabor ist ein von Behörden überwachter, kontrollierter Rahmen, in dem KI-Systeme für einen begrenzten Zeitraum entwickelt, trainiert und getestet werden dürfen (Art. 59 AI Act). Es erlaubt die Verarbeitung personenbezogener Daten für andere als ursprünglich vorgesehene Zwecke unter strengen Voraussetzungen. mehr

Rz. 180 Die fortschreitende Digitalisierung bringt neben der hilfreichen Automatisierung, auch eine ganze Palette an juristischen Kopfschmerzen mit sich, ganz besonders für anwaltliche Berufsträger. Legal Tech Tools aus dem Bereich der KI und dabei insbesondere generative KI in Form von LLMs wie ChatGPT, Claude oder Gemini versprechen Effizienzsteigerung, revolutionäre Workf... mehr

Rz. 201 Beim Einsatz von KI basierten Systemen ergeben sich drei in erster Linie aus dem Spannungsverhältnis von AI Act und DSGVO herrührende Problemkreise, die gerade im Kontext der KI gestützten Bewerberauswahl relevant werden (Spannungs-)Verhältnis der beiden Verordnungen, Automatisierte Entscheidungsfindung und Duett von Informationspflichten a) Reagieren AI Act und DSGVO... mehr

Rz. 31 Ein KI-Agent ist ein System, das Aufgaben selbstständig plant und ausführt – etwa die Vorbereitung juristischer Schriftsätze. Es handelt sich um einen softwarebasierten, weitgehend autonom handelnden digitalen Assistenten, der auf Grundlage von KI-Modellen Ziele verfolgt, Entscheidungen trifft und selbstständig Aktionen ausführt. Im Unterschied zu klassischen Chatbots... mehr

Rz. 213 Sofern alle Akteure die gesetzlichen Vorgaben so beachten, wie sie sollten, könnte ein "Idealprozess KI Bewerberauswahl" zusammenfassend wie folgt aussehen: mehr

Rz. 264 Neben der reinen Informationspflicht wirkt der Einsatz von KI auf eine Vielzahl weiterer rechtlicher Regelungsbereiche in der Vertragsgestaltung ein. Dies betrifft gleichermaßen Verträge über Software, als auch KI gestützte Dienstleistungen, unabhängig davon, ob der KI-Einsatz zentrales Vertragsziel ist oder lediglich als technisches Hilfsmittel zur Vertragserfüllung... mehr

Rz. 36 Ein umfassenderes Gebilde, das ein oder mehrere KI-Modelle mit weiteren Software- und Hardwarekomponenten verbindet. Dazu gehören Benutzerschnittstellen, Datenbanken, Steuerungsmechanismen und Sicherheitsvorkehrungen. Erst das KI-System bildet eine vollständige Anwendung, die im praktischen Einsatz – etwa in einer Kanzlei oder Behörde – konkrete Aufgaben erfüllt. Währ... mehr

Rz. 60 Bias in KI-Systemen kann auf verschiedenen Ebenen entstehen. Ausgewählte zentrale Ursachen sind:[52] mehr

Rz. 19 Abbildung: Ein Blick hinter die Kulissen, © BeschtesTeam@JUN Legal GmbH (CC-BY-SA-4.0) Rz. 20 Hinweis mehr

Rz. 293 Die vertragliche Bewältigung datenschutzrechtlicher Risiken beginnt mit einem strukturierten Blick auf die Pflichten der DSGVO mit speziellem Fokus auf den Einsatz von KI (siehe hierzu im Detail Rdn 125 ff.). Sobald ein KI-System personenbezogene Daten verarbeitet – sei es in der Konzeptionsphase, im Training, im Betrieb oder bei der Ausgabe von Entscheidungen – grei... mehr

Rz. 202 Der AI Act soll nach dem Willen des EU-Gesetzgebers auf bestimmte Regulierungen im datenschutzrechtlichen Bereich – gemeint ist vor allem die DSGVO – keine Anwendung finden, Art. 2 Abs. 7 AI Act. Daraus könnte sich im Umkehrschluss ein Anwendungsvorrang der Rechtsvorschriften der Union zum Schutz personenbezogener Daten, der Privatsphäre und der Vertraulichkeit der K... mehr

Akerhar / Sajja, Knowledge-Based Systems, 2010 Ashkar , Wesentliche Anforderungen der DSµ-GVO bei Einführung und Betrieb von KI-Anwendungen, ZD 2023, 523 Ashkar / Schröder , Das Gesetz über künstliche Intelligenz der Europäischen Union(KI-Verordnung), BB 2024, 771 Baumann, Generative KI und Urheberrecht – Urheber und Anwender im Spannungsfeld, NJW 2023, 3673 Beierle / Kern-Isberner , Met... mehr

Rz. 205 Wendet man sich KI-Systemen zu, die am Ende eine automatisierte Entscheidung für den Anwender treffen und dabei personenbezogene Daten verarbeiten, mündet dies zwangsläufig in die automatisierte Entscheidungsfindung nach Art. 22 DSGVO. Praxisrelevantes und durch den Erwägungsgrund 71 DSGVO ausdrücklich in Bezug genommenes Beispiel[267] ist die automatisierte und KI g... mehr

Rz. 20 Fair by Design beschreibt den Ansatz, KI-Systeme von Anfang an so zu gestalten, dass technische, rechtliche und ethische Perspektiven integriert werden, um Diskriminierungen zu vermeiden. Der AI Act verlangt hierfür unter anderem dokumentierte Bias-Prüfungen, hochwertige Trainingsdaten und menschliche Aufsicht bei Hochrisiko-KI-Systemen. mehr

Rz. 285 Bei Software mit KI-Funktionalitäten richten sich im B2B Bereich die Gewährleistungsrechte in erster Linie nach dem jeweiligen Vertrag, also insbesondere nach den Regelungen zur Nacherfüllung, Minderung oder Schadensersatz, und subsidiär nach den gesetzlichen Vorschriften. Abhängig vom Vertragstyp kommt dabei beispielsweise das Werkvertragsrecht (§§ 634 ff. BGB) für ... mehr

Rz. 27 Bezeichnung für "Allzweck-KI", also KI-Systeme, die nicht für eine einzelne, klar definierte Aufgabe programmiert wurden, sondern in unterschiedlichen Anwendungsfeldern eingesetzt werden können. Typische Beispiele sind große Sprachmodelle wie GPT-5, die gleichermaßen für Textgenerierung, Übersetzungen, Recherche oder Programmierung nutzbar sind. Im juristischen Kontex... mehr

Rz. 33 Ein mathematisch-statistisches Konstrukt, das auf Basis von Trainingsdaten Muster erkennt und Vorhersagen oder Generierungen ermöglicht. Beispiele sind Sprachmodelle wie GPT-5 oder Bildmodelle zur Objekterkennung. Das KI-Modell stellt damit die "technische Kernkomponente" dar, die für sich genommen noch nicht die gesamte Funktionskette einer Anwendung abbildet, sonder... mehr

Rz. 26 Generative KI bezeichnet Systeme, die eigenständig neue Inhalte wie Texte, Bilder oder Musik erzeugen können, anstatt lediglich bestehende Informationen wiederzuerkennen. Sie basiert meist auf Deep-Learning-Architekturen, insbesondere großen Sprachmodellen (LLMs) wie ChatGPT, die mit Techniken wie Reinforcement Learning from Human Feedback (RLHF) trainiert werden. Ihr... mehr

1. AI Act als spezifische KI-Regulierung Rz. 19 Wer auf die rechtlichen Anforderungen an KI schaut, wird sich unweigerlich zunächst dem AI Act zuwenden. Er ist die zentrale Regulation zum Thema KI und erfährt stufenweise Geltung seiner Regelungen. Die umfangreichsten Regelungen beziehen sich auf Hochrisiko-KI-Systeme, ebenso kennt aber jeder die grundlegende Pflicht für Anbie... mehr

Rz. 208 Sofern im Anwendungsbeispiel der KI gestützten Bewerberauswahl die Verarbeitung personenbezogener oder sogar besonderer personenbezogener Daten relevant ist, sind im Kontext von Art. 22 DSGVO spezielle Informationspflichten, insbesondere zur involvierten Logik der automatisierten Entscheidungsfindung, nach Art. 13 Abs. 2 Buchst. f, 14 Abs. 2 Buchst. g DSGVO zu erfüll... mehr

Rz. 33 Hinweis: Klassifikationsebenen des AI Acts Die KI-Systeme und GPAIs werden durch den AI Act nach zwei parallelen Klassifikationsebenen eingestuft: Rz. 34 Bleiben wir zunächst bei de... mehr