Rechtliche Aspekte beim KI-Einsatz in Unternehmen | Recht

Haufe Online Redaktion

Künstliche Intelligenz KI Roboter Schach Schachzug — Bild: Pexels/Pavel Danilyuk

Der Einsatz generativer KI in Unternehmen bringt zahlreiche rechtliche Herausforderungen mit sich. Ein neuer Praxisleitfaden des Branchenverbands Bitkom e. V. bietet umfassende Orientierung zu den rechtlichen Anforderungen und gibt praktische Handlungsempfehlungen für den Umgang mit KI-Systemen in der Praxis.

Der Branchenverband der deutschen Informations- und Telekommunikationsbranche, Bitkom e. V., hat einen Praxisleitfaden zum Einsatz generativer KI-Systeme in Unternehmen veröffentlicht. Der Leitfaden widmet sich den rechtlichen Aspekten, die beim Einsatz von generativer KI zu beachten sind, gewährt einen umfassenden Überblick über die vielfältigen rechtlichen Anforderungen und gibt praktische Handlungsempfehlungen.

Bitkom-Praxisleitfaden „Generative KI im Unternehmen“

Der ITK-Branchenverband Bitkom e. V. hat den Praxisleitfaden „Generative KI im Unternehmen“ veröffentlicht, bei dem es ausschließlich um die rechtlichen Aspekte geht, die beim Einsatz generativer KI-Systeme zu beachten sind. Generative KI-Systeme werden auch als LLMs (Large Language Models) bezeichnet, obwohl sie ebenso gut zum Generieren von Bildern oder Videos eingesetzt werden können. Genutzt werden diese KI-Systeme meist im Dialogverfahren, bekanntestes Beispiel ist ChatGPT.

Hintergrund: Branchenverband Bitkom e. V.
Bitkom vertritt mehr als 2.200 Mitgliedsunternehmen aus der digitalen Wirtschaft, die in Deutschland gut 200 Milliarden EUR Umsatz mit digitalen Technologien und Lösungen generieren und mehr als 2 Millionen Menschen beschäftigen. Zu den Mitgliedern zählen mehr als 1.000 Mittelständler, über 500 Startups und nahezu alle Großunternehmen der ITK-Branche. Bitkom ist zentraler Ansprechpartner für Politik und Verwaltung auf EU-, Bundes-, Landes- und Kommunalebene und an der Ausgestaltung der politischen und rechtlichen Rahmenbedingungen für die Digitalwirtschaft beteiligt. Der Branchenverband veröffentlicht regelmäßig Stellungnahmen, Positionspapiere und Praxisleitfäden zu ITK-Themen, insbesondere auch zum Themenbereich „Recht und Regulierung“.

Rechtsgrundlagen für die Beschaffung von KI-Systemen

Nach einer kurzen Einführung in die technischen Grundlagen und Anwendungsmöglichkeiten generativer KI werden zunächst die rechtlichen Aspekte bei der Beschaffung von Künstlicher Intelligenz erörtert und eine Checkliste für die Beschaffung generativer KI zur Verfügung gestellt. Konkret geht es dabei um die Verteilung der Verantwortlichkeiten entlang der Wertschöpfungskette nach dem AI Act, bei dem zwischen KI-Basismodellen und KI-Systemen mit einem allgemeinen Verwendungszweck unterschieden wird. Besondere Beachtung finden dabei die Verpflichtungen für Händler und Anbieter von Hochrisiko-KI-Systemen. Die Checkliste gibt wertvolle Hinweise u.a. für die Prüfung der strategischen Erwägung, die Festlegung der wichtigsten „rechtlichen ‘Must-have-‘ oder „No-Go’-Konditionen“ sowie die Risikoabwägung und Risikobewertung.

Rechtsrahmen für den KI-Einsatz

Im Hauptteil des Praxisleitfadens werden zahlreiche rechtliche Fragen behandelt und beantwortet, die sich beim Einsatz generativer KI in der Praxis stellen. Dabei geht es zunächst darum, welche Rolle die DSGVO spielt, wie die Datenverarbeitung DSGVO-konform erfolgen kann und welche Pflichten sich aus der DSGVO im Einzelnen für den Einsatz von KI-Systemen ableiten lassen, wie etwa unterschiedliche Informationspflichten (Art. 13 und Art. 14 DSGVO) oder das Recht auf Berichtigung (Art. 16 DSGVO) und Löschung (Art. 17 DSGVO). In diesem Zusammenhang werden auch Praxishinweise zur Anonymisierung gegeben.

Daran anschließend klärt der Leitfaden darüber auf, wie generative KI-Systeme im Hinblick auf IT-Sicherheit abgesichert werden können und wie es um Haftungsrisiken steht. Schutzrechtliche Fragen, insbesondere zum Urheberrecht, zum Schutz von Geschäftsgeheimnissen und zum Markenschutz, werden eingehend erörtert. Einigen Raum nimmt auch die Betrachtung der relevanten arbeitsrechtlichen Aspekte ein, bevor ethische Überlegungen zum Einsatz generativer KI den Leitfaden abschließen.