Künstliche Intelligenz und Compliance - Sicher KI in Kan ... / 6.1 Worauf bei KI-Tools zu achten ist

Beim (rechts-)sicheren Einsatz von KI-Tools, müssen eine Vielzahl unterschiedlicher rechtlicher und technischer Fragestellungen beantwortet werden. Eine Vorabfrage ist allerdings zentral und bildet die Leitlinien für die Prüfung bzw. Bewertung des KI-Systems.

Dies mag vielleicht wie eine plakative und einfache Fragestellung erscheinen, jedoch ist diese zentral für jegliche weitere Bewertung. Ohne ein technisches Grundverständnis von der eingesetzten Technologie und ihrer Komponenten sowie der Interaktion mit Ihren Systemen oder Drittsystemen, können Sie weder Risiken noch eine angemessene Bewertung vornehmen. Die technischen Fragestellungen und Umsetzungsmöglichkeiten sind vielfältig. Daher sollten Sie sich die Zeit nehmen bzw. Ihren Dienstleister fragen, ob das grundlegende technische Konstrukt erläutert oder passende Ressourcen bereitgestellt werden können.

Die darauf aufbauenden Folgefragestellungen sind nicht rein rechtlicher Natur, sondern es stehen auch tatsächliche Gesichtspunkte im Vordergrund, z. B. der Schutz von Geschäftsgeheimnissen bzw. von sensiblen Informationen der Mandanten. Wie eine Stanford-Studie feststellte, werden bei der Verwendung von führenden Chatbots (meist in der kostenlose Variante) die Interaktionen der Nutzer sowie ihre Informationen zum Nachtraining der zugrundeliegenden KI-Modelle gesammelt. Die damit verbesserten Suchergebnisse können dann z. B. für andere Nutzer (im Zweifel Konkurrenten) verbesserte Suchinformationen liefern.^[1]

Bei der anschließenden rechtlichen Prüfung kommen insbesondere folgende Rechtsgebiete in Betracht:

• KI Compliance (KI-VO),
• Datenschutz,
• Urheberrecht,
• Haftungsfragestellungen sowie Geh...