KI im Arbeitsalltag / 2. Nutzung

Alex Worobjow

2.1 Können Arbeitgeber die Nutzung von KI-Systemen^{^[1]} im Büroalltag verbieten?
Grundsätzlich ja. Denn der Arbeitgeber entscheidet darüber, welche Arbeitsmittel genutzt werden. Bei einem vollständigen Verbot besteht jedoch ggf. die faktische Gefahr, dass Mitarbeiter trotzdem öffentlich verfügbare KI-Tools im Internet nutzen, wenn sie ihnen die Arbeit erleichtern. Hier könnten personenbezogene Daten und Unternehmensdaten unkontrolliert in öffentliche Websites eingegeben werden. Wird der Einsatz nur bestimmten Personengruppen verboten, sollten hierfür hinreichend sachliche Gründe vorliegen. Andernfalls könnte der allgemeine Gleichbehandlungsgrundsatz berührt sein. Sachliche Gründe sind insbesondere solche, die in der Natur der Arbeit liegen (z.B. Vertraulichkeit, Genauigkeit, Geeignetheit für KI-Einsatz), weniger in der Person der Arbeitnehmer selbst (z.B. Misstrauen, Ausbildung).

2.1 Können Arbeitgeber die Nutzung von KI-Systemen^{^[1]} im Büroalltag verbieten?

Grundsätzlich ja. Denn der Arbeitgeber entscheidet darüber, welche Arbeitsmittel genutzt werden.

Bei einem vollständigen Verbot besteht jedoch ggf. die faktische Gefahr, dass Mitarbeiter trotzdem öffentlich verfügbare KI-Tools im Internet nutzen, wenn sie ihnen die Arbeit erleichtern. Hier könnten personenbezogene Daten und Unternehmensdaten unkontrolliert in öffentliche Websites eingegeben werden.

Wird der Einsatz nur bestimmten Personengruppen verboten, sollten hierfür hinreichend sachliche Gründe vorliegen. Andernfalls könnte der allgemeine Gleichbehandlungsgrundsatz berührt sein. Sachliche Gründe sind insbesondere solche, die in der Natur der Arbeit liegen (z.B. Vertraulichkeit, Genauigkeit, Geeignetheit für KI-Einsatz), weniger in der Person der Arbeitnehmer selbst (z.B. Misstrauen, Ausbildung).

2.2 Können Arbeitnehmer im Büroalltag zur Nutzung von KI-Systemen verpflichtet werden?
Grundsätzlich ja. Zumindest dann, wenn die KI-Systeme rechtmäßig in Betrieb sind, also vor allem mitbestimmungsrechtlichen und datenschutzrechtlichen Anforderungen gerecht werden (sowie demnächst auch den Anforderungen der KI-Verordnung).

2.3 Welche KI-Tools dürfen im Arbeitsalltag genutzt werden (Hochrisikosysteme usw.)?
Das kommt auf das KI-Tool an. Voraussetzung für die Nutzung eines IT-Systems ist, dass es überhaupt eingesetzt werden darf (also insbesondere keine verbotene KI-Praktik i.S.d. KI-Verordnung darstellt). der Betrieb unter Achtung der Gesetze erfolgt. Die Wichtigsten sind: KI-Verordnung^{^[2]} Datenschutz-Grundverordnung^{^[3]} Betriebsverfassungsgesetz^{^[4]} Einhaltung des Allgemeinen Gleichbehandlungsgesetzes (AGG) Beachtung arbeitsrechtlicher Bestimmungen^{^[5]} Einhaltung von etwaigen Compliance-Vorgaben und internen Richtlinien des Unternehmens bezüglich des Einsatzes von KI-Tools Zur Klarstellung: Der Einsatz von Hochrisikosystemen bleibt auch nach Inkrafttreten der KI-Verordnung weiter erlaubt. Nur müssen Arbeitgeber (i.d.R. "Betreiber" i.S.d. KI-Verordnung) besondere Regeln einhalten. Dies werden in der Regel sein: Technische und organisatorische Maßnahmen für Verwendung nach Betriebsanleitung, Überwachung des Betriebs, ggf. Aufzeichnungspflichten, Kompetenzschaffung und Schulung, Unterrichtung über Einsatz und Rechte, Information von Arbeitnehmern über Einführung, Risikomanagementsystem, menschliche Aufsicht durch kompetente Personen, Überwachung gemäß Betriebsanleitung, Information der Anbieter bei Vorfällen.

2.3 Welche KI-Tools dürfen im Arbeitsalltag genutzt werden (Hochrisikosysteme usw.)?

Das kommt auf das KI-Tool an.

Voraussetzung für die Nutzung eines IT-Systems ist, dass es

überhaupt eingesetzt werden darf (also insbesondere keine verbotene KI-Praktik i.S.d. KI-Verordnung darstellt).
der Betrieb unter Achtung der Gesetze erfolgt. Die Wichtigsten sind:
- KI-Verordnung^{^[2]}
- Datenschutz-Grundverordnung^{^[3]}
- Betriebsverfassungsgesetz^{^[4]}
- Einhaltung des Allgemeinen Gleichbehandlungsgesetzes (AGG)
- Beachtung arbeitsrechtlicher Bestimmungen^{^[5]}
- Einhaltung von etwaigen Compliance-Vorgaben und internen Richtlinien des Unternehmens bezüglich des Einsatzes von KI-Tools

Zur Klarstellung: Der Einsatz von Hochrisikosystemen bleibt auch nach Inkrafttreten der KI-Verordnung weiter erlaubt. Nur müssen Arbeitgeber (i.d.R. "Betreiber" i.S.d. KI-Verordnung) besondere Regeln einhalten. Dies werden in der Regel sein: Technische und organisatorische Maßnahmen für Verwendung nach Betriebsanleitung, Überwachung des Betriebs, ggf. Aufzeichnungspflichten, Kompetenzschaffung und Schulung, Unterrichtung über Einsatz und Rechte, Information von Arbeitnehmern über Einführung, Risikomanagementsystem, menschliche Aufsicht durch kompetente Personen, Überwachung gemäß Betriebsanleitung, Information der Anbieter bei Vorfällen.

2.4 Dürfen Chatbots wie der Haufe CoPilot HR im Arbeitsalltag genutzt werden oder handelt es sich dabei um ein Hochrisikosystem?
Der "Co-Pilot HR" von Haufe ist ein digitaler Assistent, der HR-Fachkräften verlässliche und schnelle Antworten auf alltägliche Fragen im Personalbereich liefert. Er greift dabei ausschließlich auf redaktionell geprüfte Inhalte der Fachdatenbank Haufe Personal Office zurück und gibt stets die verwendeten Quellen an. Mit der Umstellung vom Machine Learning auf ein LLM (Large LanguageModel) fällt der Chatbot unter Artikel 3 der KI-VO. Dann ist der nächste Schritt zu prüfen in welche Risikokategorie das System fällt. Darin gibt es vier Kategorien - die unzulässigen Hochrisikosysteme sind bspw. auf Verhaltensmanipulation oder Social Scoring ausgerichtet. Auch KI-Systeme im Bereich Beschäftigung und Personalmanagement, die für die Einstellung und Auswahl von Personen verwendet werden, gelten als Hochrisiko-KI-Systeme. Dies betrifft insbesondere Systeme, die Bewerbungen sichten oder filtern, Bewerber bewerten oder Entscheidungen über Arbeitsbedingungen, Beförderungen und Kündigungen beeinflussen. Da der Co-Pilot HR als Assistenzsystem konzipiert ist, das HR-Fachkräften bei der Beantwortung von Fragen und der Erstellung von Dokumenten unterstützt, jedoch keine automatisierten Entscheidungen in den genannten kritischen Bereichen trifft, ist er nicht als Hochrisiko-KI-System im Sinne der europäischen KI-Verordnung einzustufen. Wenn Microsoft Copilot mit dem üblichen Nutzungsumfang (E-Mails/Dokumente/Sharepoint/Aufzeichnung von Teammeetings) für die Mitarbeiter zur Nutzung freigeschaltet wird, wird ein KI-System im Sinne der KI-VO "verwendet". Der Arbeitgeber müsste sich im Zweifel auch die Copilot Hinweise ("Du kannst mit Copilot ... machen, gebe dies und jenes ein ...") zurechnen lassen und könnte sich nicht darauf zurückziehen, die Nutzung nicht explizit angewiesen zu haben.

2.4 Dürfen Chatbots wie der Haufe CoPilot HR im Arbeitsalltag genutzt werden oder handelt es sich dabei um ein Hochrisikosystem?

Der "Co-Pilot HR" von Haufe ist ein digitaler Assistent, der HR-Fachkräften verlässliche und schnelle Antworten auf alltägliche Fragen im Personalbereich liefert. Er greift dabei ausschließlich auf redaktionell geprüfte Inhalte der Fachdatenbank Haufe Personal Office zurück und gibt stets die verwendeten Quellen an. Mit der Umstellung vom Machine Learning auf ein LLM (Large LanguageModel) fällt der Chatbot unter Artikel 3 der KI-VO. Dann ist der nächste Schritt zu prüfen in welche Risikokategorie das System fällt. Darin gibt es vier Kategorien - die unzulässigen Hochrisikosysteme sind bspw. auf Verhaltensmanipulation oder Social Scoring ausgerichtet. Auch KI-Systeme im Bereich Beschäftigung und Personalmanagement, die für die Einstellung und Auswahl von Personen verwendet werden, gelten als Hochrisiko-KI-Systeme. Dies betrifft insbesondere Systeme, die Bewerbungen sichten oder filtern, Bewerber bewerten oder Entscheidungen über Arbeitsbedingungen, Beförderungen und Kündigungen beeinflussen. Da der Co-Pilot HR als Assistenzsystem konzipiert ist, das HR-Fachkräften bei der Beantwortung von Fragen und der Erstellung von Dokumenten unterstützt, jedoch keine automatisierten Entscheidungen in den genannten kritischen Bereichen trifft, ist er nicht als Hochrisiko-KI-System im Sinne der europäischen KI-Verordnung einzustufen.

Wenn Microsoft Copilot mit dem üblichen Nutzungsumfang (E-Mails/Dokumente/Sharepoint/Aufzeichnung von Teammeetings) für die Mitarbeiter zur Nutzung freigeschaltet wird, wird ein KI-System im Sinne der KI-VO "verwendet". Der Arbeitgeber müsste sich im Zweifel auch die Copilot Hinweise ("Du kannst mit Copilot ... machen, gebe dies und jenes ein ...") zurechnen lassen und könnte sich nicht darauf zurückziehen, die Nutzung nicht explizit angewiesen zu haben.

2.5 Was sollte bei der Nutzung von KI-Systemen von der Arbeitgeberseite geregelt werden?
Für alle Unternehmen: Richtlinien zum Umgang mit KI-Systemen im Allgemeinen (spezifische, auf die Unternehmensverhältnisse/Unternehmenskultur zugeschnittene Regelungen) Richtlinien zum Umgang mit Chatbots und allg. bei den im Einsatz befindlichen KI-Systemen mit allgemeinem Verwendungszweck (insb. alle sprachmodellbezogenen Anwendungen) Prozess zur Beurteilung neuer Systeme nach den Anforderungen der KI-Verordnung Für Anbieter: Entwicklung und Anwendung von Verhalte...

2.5 Was sollte bei der Nutzung von KI-Systemen von der Arbeitgeberseite geregelt werden?

Für alle Unternehmen:

Richtlinien zum Umgang mit KI-Systemen im Allgemeinen (spezifische, auf die Unternehmensverhältnisse/Unternehmenskultur zugeschnittene Regelungen)
Richtlinien zum Umgang mit Chatbots und allg. bei den im Einsatz befindlichen KI-Systemen mit allgemeinem Verwendungszweck (insb. alle sprachmodellbezogenen Anwendungen)
Prozess zur Beurteilung neuer Systeme nach den Anforderungen der KI-Verordnung
Für Anbieter: Entwicklung und Anwendung von Verhalte...

Dieser Inhalt ist unter anderem im Haufe Personal Office Gold enthalten. Sie wollen mehr?

Jetzt kostenlos 4 Wochen testen

Anmelden und Beitrag in meinem Produkt lesen