"Der Steuerberater stellt seine Mandantenordner ja auch nicht auf die Straße"

Frau Schreiber, was sind derzeit die häufigsten Haftungsfälle im Zusammenhang mit KI?

RAin Marlene Schreiber: Der häufigste Fall ist derzeit erwartbar der KI-Output: wer diesen ungeprüft übernimmt und verwendet, haftet. KI-Output kann Rechte Dritter verletzen, zum Beispiel Urheberrechte. Ein KI-generierter Chatbot, der mit Websitebesuchern interagiert, kann falsche Ratschläge und Auskünfte erteilen, unwahre und wettbewerbswidrige Aussagen treffen oder gar Verträge schließen. 

Das klingt nach dünnem Eis...

Nun ja, viele denken, sie könnten KI-Output bedenkenlos verwenden. ChatGPT, oder jeder andere KI-Chatbot, ist aber keine eigene Rechtspersönlichkeit. ‚Das war ich nicht, das war meine KI‘ hilft Unternehmen nicht. Das OLG Hamm hat gerade entschieden, dass zwei Ärzte, deren Chatbot sie fälschlicherweise als 'Fachärzte für plastische und ästhetische Chirurgie' betitelt hatte, was sie nicht sind, dafür verantwortlich sind und ihnen diese Wettbewerbsverletzung zugerechnet wird. Auch wenn KI fehlerhafte Inhalte von Dritten übernimmt kann das demjenigen zugerechnet werden, der diese Ergebnisse verwendet.

In Kiel wurde ein Fall verhandelt, bei dem ein Unternehmen eine Firmeninformationsdatenbank anbot, die in einem konkreten Fall Falschinformationen veröffentlichte; dabei hatte nicht die KI den Fehler gemacht, sondern die Datenbasis war bereits fehlerhaft. Das spielt aber keine Rolle: Wer sich falsche Informationen zu eigen macht, zum Beispiel indem er erkennbar die inhaltliche Verantwortung übernimmt, der haftet, wie in diesem Fall die Datenbankanbieter.

Lässt sich daraus ein Rat für die Verwendung von KI insbesondere im Beratungsbusiness ableiten?

Ich empfehle allen, ihr Leistungsversprechen sehr sorgfältig zu formulieren. Das gilt im Grunde schon immer, ganz ohne KI konnte ich auch nicht ins Kleingedruckte schreiben, was das Versprechen relativierte. So ist es jetzt auch: Ich kann nicht auf der einen Seite eine Leistung versprechen und auf der anderen Seite in die AGBs schreiben, ich setze KI ein und mich damit aus der Haftung mogeln. Bei den beratenden Berufen kommen ja auch noch die berufsrechtlichen Vorschriften hinzu, und diese nehmen die Gerichte sehr ernst.

So hat sich gerade das AG Köln, eigentlich in einem Sorgerechtsstreit, sehr eindeutig zu den Ausführungen einer Rechtsanwältin geäußert, die frei erfundene Quellen enthielten – weil sie den Schriftsatz ganz offensichtlich mit KI erstellt und nicht verifiziert hatte. Dies erschwere nicht nur die Rechtsfindung, sondern gefährde auch das Ansehen des Berufsstands und des Rechtsstaats. In der Anwaltschaft wird zu Recht diskutiert, wie wir vermeiden können, dass KI so fahrlässig eingesetzt und damit die Reputation eines ganzen Berufsstandes leidet, und ich hoffe und gehe davon aus, dass die Bundesrechtsanwaltskammer sowie die Landesrechtsanwaltskammern hier sehr aufpassen wird.

Lassen Sie uns auf das Urheberrecht zurückkommen, wo sehen Sie hier Probleme?

Das Urheberrecht ist im Zusammenhang mit KI auf drei Ebenen relevant, die erste ist das Training, was viele Berater, die keine eigene KI trainieren, in der Praxis eher weniger betrifft; außerdem können Sie aber schon Rechte Dritter verletzen, wenn Sie Inhalte von Dritten hochladen, also beim Input. Am relevantesten in der Praxis ist wie gesagt der Output. Das, was die KI erstellt, ist in der Regel selbst nicht urheberrechtlich geschützt, ganz einfach deshalb, weil das Entstehen eines Urheberrechts eine menschliche geistige Schöpfung voraussetzt.

Dazu gab es auch in Deutschland bereits mehrere Verfahren, zum Beispiel eines vor dem Amtsgericht München, in dem das Gericht in einem Streit über den Schutz von KI-generierten Logos klargestellt hat, dass KI-generierte Inhalte nur dann urheberrechtlich geschützt sein können, wenn der menschliche Beitrag den KI-Output maßgeblich kreativ geprägt hat. Dafür reicht es aber nicht aus, dass man einen langen Prompt eingegeben oder aus den Vorschlägen der KI eine Option ausgewählt hat. Eine nachträgliche Bearbeitung kann aber sehr wohl Urheberrechtsschutz begründen, wenn sie das Ergebnis ausreichen prägt.

Gleichzeitig hat das LG München in einem Verfahren der GEMA gegen OpenAI entschieden, dass KI-Output, der geschützte Werke oder Teile davon enthält, die Rechte der Urheber dieser Werke regelmäßig verletzt – sofern keine Lizenz oder gesetzliche Ausnahme vorliegt.

Letztlich sind hier noch richtungsweisende Entscheidungen zu erwarten, unter anderem des EuGH, die Tendenz ist momentan aber klar eine Stärkung des Urheberrechts.

Wie sieht es mit agentischer AI aus, die kann ja potenziell eigenständig noch viel mehr haftungsrelevanten Schaden anrichten, oder?

Ja, genau, KI-Agenten, die Verträge schließen zum Beispiel, die regelmäßig dem verwendenden Unternehmen zugerechnet werden. Im E-Commerce-Bereich, insbesondere zwischen Unternehmern, kommen KI-Agenten bereits zum Einsatz. Zukünftig sollen KI-Agenten auch im Verhältnis von Händlern zu Verbrauchern eingesetzt werden. Und wenn KI-Agent mit KI-Agent über Preise verhandelt und Verträge schließt, dann sind zahlreiche Fragen zu klären, zum Beispiel zur Zurechnung oder der Erfüllung von Verbraucherschutzanforderungen.

Von einem Steuerberater, einer Rechtsanwältin oder einem Sachverständigen, denen aufgrund ihrer Expertise ein hohes Vertrauen entgegengebracht wird und die sich ihr Wissen und ihre Zeit mit den entsprechenden Stundensätzen vergüten lassen, darf man erwarten, dass er bzw. sie diese Arbeit selbst erstellt und nicht stattdessen ungeprüft KI-Inhalte weiterreicht.

In der Gegenwart geht es praktisch ja häufig um KI-generierte Inhalte. Was sagen Sie zu der Entscheidung des LG Darmstadt, wonach es für KI-generierte Gutachten keinen Honoraranspruch gibt?

Ich finde das konsequent, denn im verhandelten Fall ging es um ein ärztliches Gutachten, das ein gerichtlich bestellter Sachverständiger vorgelegt hatte, das in weiten Teilen komplett mit KI erstellt und fehlerhaft gewesen war. Wenn ich für meine Mandanten ein Gutachten erstelle, dann schulde ich meine höchstpersönliche Leistung und Expertise, und das ist dort offensichtlich nicht erfolgt. Von einem Steuerberater, einer Rechtsanwältin oder einem Sachverständigen, denen aufgrund ihrer Expertise ein hohes Vertrauen entgegengebracht wird und die sich ihr Wissen und ihre Zeit mit den entsprechenden Stundensätzen vergüten lassen, darf man erwarten, dass er bzw. sie diese Arbeit selbst erstellt und nicht stattdessen ungeprüft KI-Inhalte weiterreicht. 

Was bedeutet das für die Verwendung von KI?

Es ist keineswegs so, dass ich KI nicht verwenden kann, ich muss die Ergebnisse aber kritisch prüfen, bevor ich sie verwende. Wenn ich mich als Rechtsanwältin bei der Recherche von einem Studenten unterstützen lasse, schicke ich die Ergebnisse ja auch nicht ungeprüft raus, und sage hinterher: 'Ja, aber mein Student im dritten Semester hat gesagt...' Bei KI ist es genauso: Sie agiert wie ein sehr schlauer, aber völlig unerfahrener Kollege. Ich kann mich von KI unterstützen lassen, z.B. bei der Recherche, aber die Verantwortung und damit die Haftung kann ich. Das war im Übrigen auch ohne den Einsatz von KI schon so.

Dennoch gelten scheinbar andere Gesetzmäßigkeiten...

Ja, die Naivität der Nutzer ist manchmal überraschend und zieht sich durch alle Berufsgruppen. KI ist im beruflichen Kontext eben kein schönes Spielzeug, sondern muss mit Bedacht und mit dem entsprechenden Risikobewusstsein bedient werden, siehe Datenschutz. Der Steuerberater stellt seine Mandantenordner ja auch nicht auf die Straße oder drückt sie einem vorbeilaufenden Passanten zum Aufbewahren in die Hand. Bei ChatGPT fühlt sich das vielleicht anders an, rechtlich macht es hingegen keinen Unterschied. Ich darf personenbezogene oder gar mandatsbezogene Informationen nur auf Basis einer Rechtsgrundlage und mit den entsprechenden technisch-organisatorischen Maßnahmen sowie unter Einhaltung der berufsrechtlichen Anforderungen weitergeben. 

Ist das Recht denn auf die Regulierung von Schäden durch KI vorbereitet?

Ja, durchaus. Wir haben zwar kein ‚KI-Haftungsrecht‘, sondern es gelten die ganz normalen Grundsätze und Regelungen dazu, v.a. aus dem BGB – und sie funktionieren auch. Es ist derzeit nicht zu erwarten, dass die EU eine KI-Haftungsrichtlinie auf den Weg brächte, die Pläne dazu liegen auf Eis. Was aber kommt, ist die Produkthaftungsrichtlinie, die ab etwa 2027 Software und damit auch KI in den Produktbegriff des Produkthaftungsgesetzes mit einschließen wird.

Was raten Sie Steuerberatungskanzleien ganz konkret vor dem Hintergrund dieser zahlreichen Risiken?

Kanzleien müssen, wie alle anderen Unternehmen auch, eine angemessene KI-Governance aufbauen. Das beginnt mit der Risiko- und Gapanalyse, umfasst neben den Anforderungen der KI-VO auch Datenschutz, Vertragsrecht, Urheberrecht und ggf. das Arbeitsrecht, und schließt insbesondere Vorgaben an die Mitarbeitenden ein.

Denn viele Geschäftsführer wissen gar nicht, dass sie gegebenenfalls mit ihrem Privatvermögen haften, wenn sie ihren Pflichten als Geschäftsleitung nicht nachkommen, kein angemessenes Compliancesystem im Unternehmen haben und Mitarbeitende dann problematische Dinge tun. Wichtig ist insbesondere, dass Mitarbeitende zum Einsatz von KI geschult werden – nicht nur, weil die KI-Verordnung das entsprechend vorsieht, sondern das ist auch unternehmerisch zwingend erforderlich – schon um das Haftungsrisiko des Unternehmens, beispielsweise der Geschäftsführung, zu minimieren, aber auch, damit sich die hohen KI-Kosten amortisieren. 

Wie gehen Sie persönlich mit KI in Ihrer täglichen Arbeit um?

Ich setze KI vor allem als Sparringspartner und zur Qualitätssicherung ein. In der Kanzlei haben wir uns bemüht, die Mitarbeitenden sehr früh heran zu führen, etwa über entsprechende Workshops und eigene Hackatons. KI hilft mir bei der Suche nach möglichen Argumenten der Gegenseite, die ich vielleicht übersehen habe, und die ich direkt entkräften kann. Daneben unterstützt mich KI bei der Vorbereitung meiner Vorträge, der Erstellung von praktischen Checklisten aus Gutachten oder der verständlichen Formulierung. 

Nichts kostet mehr Zeit, als etwas Bestehendes Wort für Wort zu überprüfen – insbesondere, wenn es plausibel formuliert ist

Wie verändert das die Zusammenarbeit mit den Mandantinnen und Mandanten?

Tatsächlich kommen inzwischen einige Mandanten mit rechtlichen Texten oder Einschätzungen, die sie mithilfe der KI erstellt habe und die ich „mal eben“ reviewen soll. Hier herrscht manchmal die falsche Erwartung, durch die Vorbereitung mit KI könne unsere Arbeit ja höchstens noch eine halbe Stunde dauern. Das ist allerdings häufig ein Trugschluss: nichts kostet mehr Zeit, als etwas Bestehendes Wort für Wort zu überprüfen – insbesondere, wenn es plausibel formuliert ist. Tatsächlich ist es viel effektiver, etwa einen Vertragsentwurf aus den eigenen bewährten Bausteinen und auf Basis der Expertise zu erstellen. 

Ich will aber nicht verhehlen, dass ich auch Chancen sehe, etwa beim Verbraucherschutz bzw. dem Zugang zum Recht bei Privatpersonen mit Standardfällen á la Flightright. Hier kann KI in Zukunft für Innovation sorgen.

Zu diesem Zusammenhang passt die Klage der Bundessteuerberaterkammer gegen die Bezeichnung "KI Steuerberater" – was sagen Sie dazu?

Ich halte die Klage für berechtigt und wichtig, denn hier geht es ja darum, Verbraucherinnen und Verbraucher zu schützen, die berechtigterweise ein Qualitätsversprechen mit dem Titel 'Steuerberater' verbinden. Die Frage, wie KI-Anwendungen insbesondere in solch sensiblen Bereichen beworben werden dürfen, muss auf jeden Fall geklärt werden.

Zur Person

RAin Marlene Schreiber ist Fachanwältin für IT-Recht und Partnerin der Kanzlei HÄRTING Rechtsanwälte in Berlin. Gemeinsam mit ihrem Team berät sie Mandanten zu allen Fragen des IT-Rechts und der Digitalisierung mit Schwerpunkt Künstlicher Intelligenz. Sie ist Dozentin zahlreicher Fortbildungsformate, u.a. des Zertifizierungslehrgangs zum „AI Officer“(ai-officer.io), CO-Autorin des Buchs „KI und Recht“ und wird regelmäßig für ihre besondere Expertise ausgezeichnet, u.a. durch Best Lawyers/ Handelsblatt als „Anwältin des Jahres 2027“ im Technologierecht für Berlin.

Mehr zum Thema:

"KI-Steuerberater": Kammer verklagt Accountable

Schatten-KI: Wenn Mitarbeitende digitaler arbeiten als die Kanzlei

DStV veröffentlicht Muster-KI-Anwendungsrichtlinie