KI-Leitfaden gibt konkrete Handlungsanleitungen auch für Kanzleien

Leitfaden für KI-Systeme mit geringem Risiko 

Der praxisorientierte Leitfaden des Landesbeauftragten für Datenschutz und Informationsfreiheit Mecklenburg-Vorpommern (LfDI MV) mit dem sperrigen Titel Datenschutzkonformer und digital-souveräner Einsatz von Künstlicher Intelligenz mit beschränktem oder minimalem Risiko füllt eine Lücke. Während sich die allermeisten verfügbaren KI-Leitfäden an die Betreiber von Hochrisiko-Systemen richten und entsprechend komplex sind, adressiert der KI-Leitfaden des LfDI MV Betreiber von KI-Systemen mit begrenztem oder minimalem Risiko: Behörden, kleine Unternehmen und Kanzleien. Im Zentrum der Betrachtung stehen dabei KI-Anwendungen wie Textgeneratoren (dazu gehören etwa gängige LLM-Systeme wie ChatGPT oder Claude), interne Chatbots oder Zusammenfassungstools.

Kompakte Darstellung des Rechtsrahmens

Bevor es in die Anwendungspraxis geht, gibt der KI-Leitfaden einen kurzen Überblick über aktuelle KI-Systeme und KI-Modelle und stellt den Rechtsrahmen für Daten in KI-Systemen dar. Die rechtlichen Herleitungen sind dabei allerdings auf das für die Nachvollziehbarkeit notwendige Maß beschränkt. Vorgestellt werden die Anforderungen, die die KI-Verordnung (KI-VO, AI Act) an KI-Systeme stellt, und die Vorgaben der DSGVO, die immer dann greift, wenn personenbezogene Daten verarbeitet werden – was beim Kanzleieinsatz von KI-Anwendungen so gut wie immer der Fall ist.

Für KI-Systeme mit begrenztem Risiko sieht die KI-VO vor allem Transparenzpflichten nach Artikel 50 vor. Hinzu kommen für alle Risikostufen die Anforderungen an KI-Kompetenz nach Artikel 4. Auf der datenschutzrechtlichen Seite gelten die bekannten Grundsätze aus Artikel 5 DSGVO: Rechtmäßigkeit, Zweckbindung, Datenminimierung und Transparenz. Bevor ein KI-System in Betrieb geht, muss eine Rechtsgrundlage für die Datenverarbeitung vorliegen – das gilt auch dann, wenn ein bestehendes Sprachmodell nur kanzleiintern genutzt wird.

Bestandsaufnahme, Rollenbestimmung, Praxisbeispiel

Im eigentlichen Praxisteil, zu dem auch einige Checklisten gehören, empfiehlt der Leitfaden, KI-Systeme in einem klar definierten KI-Managementprozess einzuführen und zu etablieren. Essenziell ist dabei eine vollständige Bestandsaufnahme und Dokumentation der eigenen KI-Systeme. Festgelegt und dokumentiert werden muss auf jeden Fall welche Daten verarbeitet werden, welchen Anwendungsfall es gibt und welche Rechtsgrundlage die Verarbeitung hat. Auf dieser Grundlage lassen sich dann die Risikostufe gemäß KI-VO und der datenschutzrechtliche Handlungsbedarf bestimmen.

Im Anschluss daran stellt der Leitfaden konkrete Maßnahmen vor. Dazu gehören etwa die Rollenbestimmung gemäß KI-VO, die Prüfung, ob eine Datenschutz-Folgenabschätzung erforderlich ist, sowie die Auswahl bestimmter technischer und organisatorischer Maßnahmen nach dem Standard-Datenschutzmodell. Für Kanzleien ist die Rollenbestimmung nach Art. 3 KI-VO von unmittelbarer praktischer Bedeutung: Wer ein LLM unverändert nutzt, agiert als Betreiber. Wer das Modell hingegen durch Finetuning anpasst und unter eigenem Namen inverkehrbringt/betreibt, wird zum Anbieter – mit deutlich weitergehenden Pflichten. Sehr hilfreich ist, dass vertiefende Informationen und zusätzliche Anleitungen anderer offizieller Stellen wie etwa der Datenschutzkonferenz (DSK) oder dem Bundesamt für die Sicherheit in der Informationstechnik (BSI) im Leitfaden direkt verlinkt sind. 

Abschließend zeigt der Leitfaden am Beispiel der Einführung eines KI-Chatbots, der zwar nur für den internen Betrieb gedacht ist, aber Zugriff auf Kunden- bzw. Mandantendaten hat, wie sich die einzelnen Schritte auf einen konkreten Anwendungsfall übertragen lassen. Das Fallbeispiel umfasst dabei sowohl die datenschutzrechtliche Prüfung nach DS-GVO – inklusive Schwellenwertanalyse und Aktualisierung des Verzeichnisses der Verarbeitungstätigkeiten – als auch die Einordnung nach der KI-VO. Da der Chatbot ein LLM nutzt, wird er als KI-System mit begrenztem Risiko eingestuft, für das die Transparenzpflichten nach Art. 50 KI-VO gelten.

Digitale Souveränität und Betriebsform

Ein für Kanzleien praktisch relevantes Thema behandelt der Leitfaden unter dem Stichwort digitale Souveränität: Grundsätzlich empfiehlt der Leitfaden den On-Premise-Betrieb, um die volle Kontrolle über Mandantendaten zu behalten. Wo dies ressourcentechnisch nicht realisierbar ist, gilt: Cloud-Anbieter sollten ausschließlich dem europäischen Rechtsrahmen unterliegen. Eine Einflussnahme durch Drittstaaten – etwa über US-amerikanische Anbieter – ist möglichst auszuschließen. Die datenschutzrechtliche Verantwortlichkeit verbleibt dabei stets in der Kanzlei und geht nicht auf externe Dienstleister über.

Hinweis zu KI-Agenten

Der Leitfaden enthält im Anhang einen gesonderten Abschnitt zu KI-Agenten (Agentic AI), die sich durch eine hohe operative Autonomie auszeichnen. Für Kanzleien, die solche Systeme einsetzen oder deren Einsatz erwägen, ist ein wesentlicher Grundsatz hervorzuheben: Bei rechtlich verbindlichen Entscheidungen – insbesondere im Mandatsverhältnis – muss der Mensch letztinstanzlich die Kontrolle behalten (vgl. Art. 22 DS-GVO). Ungemanagte KI-Agenten stellen nach Einschätzung des LfDI MV ein nicht kalkulierbares Sicherheitsrisiko dar. Als „tödliche Dreifaltigkeit“ bezeichnet werden KI-Agenten die drei kritische Eigenschaften vereinen: 

• Zugriff auf private/interne Daten,
• Zugriff auf nicht vertrauenswürdige Inhalte im Internet,
• Autonome Fähigkeit zur externen Kommunikation.

Quelle: 

KI-Leitfaden (LfDI MV 06/2026) "Datenschutzkonformer und digital-souveräner Einsatz von Künstlicher Intelligenz"