Schatten-KI im Unternehmen – Eine unterschätzte Gefahr mit regulatorischem Sprengstoff

Arbeitgeber unterschätzen bislang vielfach das rechtliche Potenzial dieser Verordnung für ihre betriebliche Praxis. Zugleich ist KI längst in nahezu allen Unternehmensbereichen angekommen. Die derzeit virulenteste Gefahr ist die sogenannte „Schatten-KI“. Beschäftigte nutzen KI-Tools eigenmächtig außerhalb freigegebener Prozesse – ohne Kenntnis und Kontrolle des Arbeitgebers und mit erheblichen haftungs- und sicherheitsrechtlichen Risiken. Diese Konstellation bildet den Ausgangspunkt des vorliegenden Beitrags. © Anita Victoria Waszelewski

II. DIE ROLLENVERTEILUNG NACH DER KI-VO

Das Verständnis der Haftungsarchitektur der KI-VO setzt eine klare, lineare Rollenzuordnung entlang der KI-Wertschöpfungskette voraus – anders als etwa bei der Datenschutz-Grundverordnung, die auch Mitverantwortlichkeit kennt. Die KI-VO differenziert zwischen Pflichten von KI-Anbietern und -Betreibern und verfolgt dabei unter anderem Ziele wie den Schutz von Gesundheit, Sicherheit und Grundrechten vor negativen Auswirkungen von KI-Systemen.

Anbieter eines KI-Systems oder eines KI-Modells mit allgemeinem Verwendungszweck gemäß Art. 3 Nr. 3 sind Hersteller und Entwickler, die die Systeme unter eigenem Namen oder Marke in Verkehr bringen oder betreiben – entgeltlich oder unentgeltlich. Dazu zählen große Marktteilnehmer wie OpenAI, Meta, Google, aber auch kleinere, staatliche Einrichtungen oder Anbieter von KI-Agenten wie Microsoft für den Copiloten. Betreiber gemäß Art. 3 Nr. 4 ist dagegen faktisch jeder, der KI nicht ausschließlich privat nutzt – also Behörden, Unternehmen und Dienstleister jeder Art. An sie richten sich primär die Pflichten für den KI-Einsatz. Die meisten Arbeitgeber, die KI im geschäftlichen Kontext einsetzen, fallen damit in die Kategorie der Betreiber. Sie setzen KI-Systeme bewusst auf eigene Kosten und eigenes Risiko im Unternehmen ein.

Dies hat zur Folge, dass der Betreiber für die Kontrolle über den Einsatz, die Verwendungszwecke des KI-Systems und die Einhaltung der gesetzlichen Regelungen verantwortlich ist. Wer im Auftrag eines Arbeitgebers KI einsetzt, gilt nach der KI-VO nicht als Betreiber, sondern als „sonstiger Dritter“ – solange er sich an den Auftrag hält. Der Arbeitgeber als Betreiber bestimmt, ob und wozu das KI-Tool eingesetzt wird, welche Aufgaben zulässig sind (Zweckbestimmung) und welche nicht. Dabei orientiert er sich an Betriebsanleitung und Nutzungsbedingungen der KI und richtet den Einsatz an deren bestimmungsgemäßem Zweck aus. Diese Vorgaben gibt er an die Beschäftigten weiter.

III. DAS SONDERPROBLEM DER SCHATTEN-KI

An der Rollenzuordnung nach Art. 25 KI-VO zeigt sich die rechtliche Brisanz der Schatten-KI. Wird im Unternehmen keine Regelung getroffen oder duldet der Arbeitgeber die Nutzung privater KI ohne entsprechende Lizenz, spricht man von Schatten-KI. Arbeitgeber, die dies tolerieren, übernehmen unfreiwillig die KI-Betreiberrolle und die damit verbundenen Pflichten. Dagegen qualifiziert sich der Beschäftigte als KI-Betreiber, wenn er private Tools entgegen ausdrücklicher Verbote einsetzt. Hintergrund ist die Eigenverantwortlichkeit des Mitarbeiters: Nutzt er die KI für Zwecke, die das Unternehmen untersagt hat, bleibt die Verantwortung beim Beschäftigten, nicht beim Arbeitgeber. Gleiches gilt bei erlaubter Nutzung, wenn der Mitarbeiter von KI-Guidelines abweicht oder ein exzessives Verhalten zeigt.

„Duldung von KI im eigenen Unternehmen ist damit keine neutrale Haltung, sondern eine haftungsbegründende Entscheidung jedes Arbeitgebers“

Diese rechtliche Verpflichtung hat unmittelbare praktische Konsequenz: Wenn ein Arbeitnehmer einen KI-gestützten Chatbot entgegen der Weisung des Arbeitgebers nicht nur dazu nutzt, E-Mails zu redigieren, sondern Bewerbungen bewerten lässt, ist dem Arbeitgeber der weisungswidrige Gebrauch grundsätzlich nicht zuzurechnen. Für die Haftungsfreistellung des Arbeitgebers ist es entscheidend, dass dieser nachweisbar klare Weisungen erteilt, dokumentiert und kontrolliert hat. Duldung von KI im eigenen Unternehmen ist damit keine neutrale Haltung, sondern eine haftungsbegründende Entscheidung jedes Arbeitgebers.

IV. MANAGEMENTPFLICHTEN DES ARBEITGEBERS: ZENTRALE INSTRUMENTE GEGEN SCHATTEN-KI

1. KI-Kompetenz

Die Schulungspflicht nach Art. 4 KI-VO ist die wirksamste organisatorische Maßnahme gegen Schatten-KI. Wer seine Mitarbeiter nachweisbar schult, die Grenzen freigegebener KI-Tools vermittelt und einen dokumentierten Rahmen schafft, kann im Fall weisungswidrigen Handelns die Zurechnungslinie unterbrechen. Die Pflicht zur Sicherstellung von KI-Kompetenz trat bereits am 2. Februar 2025 in Kraft und gilt für KI-Anbieter und -Betreiber gleichermaßen. Sie verpflichtet, Maßnahmen zu ergreifen, damit Personal und beauftragte Personen über ausreichende KI-Kompetenz verfügen. Dabei sind technische Kenntnisse, Erfahrung, Ausbildung und Einsatzkontext zu berücksichtigen. Die Schulungsmaßnahmen sollten interdisziplinär angelegt sein und technisches Verständnis, rechtliche Vorgaben, ethische Standards sowie Rollenverständnis und Verantwortlichkeiten abdecken. Maßnahmen können etwa Kooperationen mit Bildungseinrichtungen, regelmäßiges Feedback, Mentoring, E-Learning, Expertenrunden oder externe Zertifizierungen umfassen.

2. Compliance-Guidelines

Die wichtigste organisatorische Antwort auf Schatten- KI sind verbindliche, unternehmensweite KI-Guidelines. Nach § 106 GewO kann der Arbeitgeber seine Beschäftigten im Rahmen des Direktionsrechts zur Nutzung von KI Werkzeugen anleiten. KI-Guidelines setzen die Pflichten der KI-VO betriebsintern um, schaffen Transparenz und Verbindlichkeit und bilden die Grundlage, um bei Verstößen von Mitarbeitern eine Haftungsfreistellung der Geschäftsführung zu ermöglichen. Sie regeln u. a. Geltungsbereich, Freigabelisten zulässiger Tools, Verbotskataloge, zulässige Daten und Eingabeverbote, Vorgaben zur Prompt-Hygiene, Geheimnis- und Datenschutz, Urheberrechtskonformität sowie Rollen und Verantwortlichkeiten. Zudem berührt die Einführung und Nutzung von KI-Tools regelmäßig Mitbestimmungsrechte des Betriebsrats.

3. Hinweisgeberkanal nach Art. 87 KI-VO

Sichtbar für den Arbeitgeber könnte die sog. Schatten-KI durch eine Meldung innerhalb eines Meldekanals nach dem Hinweisgeberschutzgesetz werden. Nicht umsonst verpflichtet organisatorisch die KI-VO gemäß Art. 87 jedes Unternehmen zur Umsetzung des Hinweisgeberschutzgesetzes, welches seit 2023 in Deutschland nach Umsetzung der EU-Richtlinie (EU) 2019 /1937 gilt. Die KI-VO verlangt die organisatorische Meldefähigkeit von Verstößen gegen die KI-VO durch Errichtung einer intern oder intern ausgelagerten Meldestelle, die gleichzeitig die Rechte der Whistleblower schützt. Die Grundsätze der Vertraulichkeit und damit der IT-Sicherheit des digitalen Meldekanals ist organisatorisch bei der Auswahl prioritär zu berücksichtigen. Die Betreuung eines Hinweisgeberkanals durch sachkundige Ombudsanwältinnen und Ombudsanwälte unter Einsatz von zertifizierter Whistleblower-Software hat sich hier als organisatorisch und wirtschaftlich sinnvollste Variante durchgesetzt (z. B. www.whistlepoint.de).

4. Der KI-Beauftragte

Zur Vermeidung von Schatten-KI bietet sich die Benennung eines KI-Beauftragten im Unternehmen an. Die KIVO verlangt zwar keinen KI-Beauftragten, kann aber über die Organisationspflicht nach Art. 26 Abs. 1 die Schaffung klarer Verantwortlichkeiten für die KI-Compliance erforderlich machen. Die Einrichtung einer unternehmensinternen Kontroll- und Beratungsinstanz, die die Einhaltung der KI-VO überwacht und als Koordinationsstelle für Beschäftigte und betroffene Personen fungiert, erhöht Rechtssicherheit, Transparenz und Akzeptanz des KI-Einsatzes erheblich. Entscheidend ist jedoch, den KI-Beauftragten nicht als isolierte Compliance-Funktion zu begreifen. Angesichts der vielfältigen produktbezogenen Anforderungen der KI-VO und angrenzender Rechtsgebiete – insbesondere Datenschutz-, Persönlichkeits-, Urheber-, Geschäftsgeheimnis- und Haftungsrecht – sollte er als interdisziplinäre Schnittstelle zwischen Recht, IT-Sicherheit, HR, Fachbereichen und Betriebsrat ausgestaltet sein. Eine automatische Aufgabenübertragung auf den Datenschutzbeauftragten erscheint vor diesem Hintergrund nicht sachgerecht. Eine einzelfallbezogene Auswahl einer fachkundigen Person wäre hier geboten.

V. FAZIT: DULDUNG IST KEINE NEUTRALE HALTUNG

Die KI-VO liefert das Pflichtengerüst, ersetzt aber nicht die betriebliche Feinarbeit. Arbeitgeber, die KI-Systeme einsetzen oder deren Einsatz durch Beschäftigte – auch nur faktisch – dulden, sind KI-Betreiber im Sinne der Verordnung und tragen die volle Verantwortung.

„Die zentrale Botschaft für Arbeitgeber: KI ist zu kontrollieren – sonst herrscht sie unkontrolliert“