Angesichts des Risikos von Datenlecks sind manche Unternehmen versucht, die einfachste Lösung zu wählen: ChatGPT und die anderen KI-Assistenten zu verbieten. Andere lassen es aus Zeitmangel laufen. Dazwischen setzt sich ein dritter Weg durch: steuern. Dieser Artikel ordnet Shadow AI ein, zeigt am Beispiel Frankreichs, was das Arbeitsrecht erlaubt, und beschreibt die konkreten Folgen jeder Option.
Shadow AI: Was ist das?
„Shadow AI“ (Schatten-KI) bezeichnet die Nutzung von KI-Werkzeugen durch Beschäftigte ohne Freigabe und ohne Wissen des Unternehmens. Der Begriff knüpft an „Shadow IT“ an, also an Software, die außerhalb des von der IT-Abteilung gesetzten Rahmens genutzt wird. Typische Beispiele: ein kostenloses ChatGPT-Konto, das mit einer privaten Adresse eröffnet wurde, eine Browsererweiterung, die Seiten zusammenfasst, ein ohne Antrag installierter Coding-Assistent.
Das Problem ist nicht das Werkzeug, sondern der fehlende Rahmen: kein Vertrag mit dem Anbieter, keine gemeinsamen Einstellungen, keine Regel zu den Daten. Dabei bleibt das Unternehmen für die personenbezogenen Daten verantwortlich, die es verarbeitet (DSGVO, Artikel 24)7, auch wenn ein Beschäftigter sie in einen nicht genehmigten Dienst einfügt. Die französische Datenschutzbehörde CNIL betont: Die nutzende Organisation haftet, wenn ihr Personal KI falsch einsetzt.3
Eine bereits etablierte Nutzung
Die private Nutzung von KI-Werkzeugen bei der Arbeit ist belegt. In seinem Work Trend Index 2024, erstellt mit LinkedIn unter 31.000 Wissensarbeitern in 31 Märkten, gibt Microsoft an, dass 75 % von ihnen generative KI nutzen und 78 % der KI-Nutzer ihre eigenen Werkzeuge zur Arbeit mitbringen, in kleinen und mittleren Unternehmen sogar 80 %.1
Mit anderen Worten: In den meisten Unternehmen lautet die Frage nicht „Sollen wir die Tür öffnen?“, sondern „Was machen wir mit dem, was schon durchs Fenster kommt?“.
Darf man ChatGPT verbieten? Was das Recht sagt
Ja, der Arbeitgeber kann die Nutzung von Werkzeugen auf den Geräten und für die Aufgaben des Unternehmens einschränken oder verbieten. In Frankreich gelten dabei zwei Regeln des Arbeitsgesetzbuchs (Code du travail). Erstens muss jede Einschränkung der Rechte und Freiheiten der Beschäftigten durch die Art der zu erledigenden Aufgabe gerechtfertigt und dem verfolgten Zweck angemessen sein (Artikel L1121-1).4 Zweitens muss die Regel, damit ein Verstoß sanktioniert werden kann, grundsätzlich im règlement intérieur (der nach französischem Recht vorgeschriebenen Betriebsordnung) oder in einer Anlage dazu stehen, die nach Stellungnahme des CSE, der französischen Arbeitnehmervertretung, erlassen werden (Artikel L1321-1 und L1321-4).5,6 Andere Länder haben eigene Regeln zur Beteiligung der Beschäftigten und zu betrieblichen Regelwerken; prüfen Sie das für Sie geltende Arbeitsrecht.
Verbote hat es gegeben. Im Mai 2023 schränkte Samsung nach internen Vorfällen im April die Nutzung generativer KI-Werkzeuge auf Firmengeräten vorübergehend ein.2
Was ein privates Konto ändert
Shadow AI läuft fast immer über Verbraucherkonten, deren Regeln sich von denen der Business-Tarife unterscheiden. Bei OpenAI können Inhalte, die an die Dienste für Privatpersonen übermittelt werden, zur Verbesserung der Modelle dienen14, sofern der Nutzer die Einstellung „Das Modell für alle verbessern“ nicht deaktiviert15. Google gibt an, dass menschliche Prüfer einen Teil der Unterhaltungen in der Gemini-App sichten, und bittet darum, dort keine vertraulichen Informationen einzugeben.16 Anthropic hat die Nutzer der Claude-Verbrauchertarife gebeten zu entscheiden, ob ihre Daten zum Training verwendet werden dürfen, wobei die Speicherdauer bei Zustimmung auf fünf Jahre verlängert wird.17
Diese Regeln sind öffentlich, und jeder Nutzer kann sie einstellen. Das Unternehmen sieht diese Konten jedoch nicht, kann keine passenden Einstellungen vorgeben und hat mit dem Anbieter keine Vereinbarung zur Datenverarbeitung geschlossen. Dieser fehlende Zugriff, mehr als das Werkzeug selbst, macht Shadow AI zu einem Compliance-Thema.
Warum ein Verbot allein schlecht funktioniert
Ein Verbot auf den Arbeitsplatzrechnern verhindert nicht die Nutzung auf dem privaten Smartphone oder zu Hause. Der Text geht dann über einen noch weniger sichtbaren Kanal hinaus: ein privates Konto, ohne Vertrag, auf einem Gerät, das das Unternehmen nicht verwaltet.
Die Nachricht geht unverändert hinaus: Name, IBAN und Gesundheitsangabe landen beim Anbieter, der sie nach den Regeln des genutzten Tarifs verarbeitet und speichert.
Ein Verbot nimmt den Teams außerdem Werkzeuge, die viele bereits nutzen, und erschwert die Schulung: Die richtigen Reflexe lassen sich für ein offiziell nicht vorhandenes Werkzeug schlecht vermitteln. Die französische CNIL empfiehlt ihrerseits, die Nutzung durch eine Richtlinie zu regeln, die erlaubte und verbotene Nutzungen unterscheidet.3
Verbieten, gewähren lassen oder steuern
Die folgende Tabelle fasst die üblichen Folgen jeder Option zusammen. Sie ist eine Lesehilfe, keine quantitative Messung.
| Kriterium | Verbieten | Gewähren lassen | Steuern |
|---|---|---|---|
| Die Teams sparen Zeit bei Routineaufgaben | Nein | Ja | Ja |
| Die Nutzung ist für das Unternehmen sichtbar | Nein | Nein | Ja |
| Die Daten laufen über Konten mit Vertrag | Teilweise | Nein | Ja |
| Die Beschäftigten wissen, welche Daten sie nicht eingeben dürfen | Teilweise | Nein | Ja |
| Geringes Risiko der Umgehung (private Konten und Geräte) | Nein | Teilweise | Ja |
| Keine Einführungskosten | Teilweise | Ja | Nein |
Steuern hat seinen Preis: Business-Abonnements, das Verfassen einer Richtlinie, Schulung. Es ist aber die einzige Option, die Produktivität, Sichtbarkeit und vertraglichen Rahmen verbindet. Die Business-Tarife der großen Anbieter sehen übrigens vor, dass Kundendaten standardmäßig nicht zum Training dienen, so OpenAI, Microsoft, Anthropic und Google.10,11,12,13
KI in der Praxis steuern
- Eine Bestandsaufnahme machen. Die Teams fragen, welche Werkzeuge sie nutzen und warum, ohne Sanktionsabsicht. Das ist die Grundlage der Liste zugelassener Werkzeuge.
- Eine offizielle Alternative bereitstellen. Ein Geschäftskonto mit einer Vereinbarung zur Auftragsverarbeitung verringert den Reiz privater Konten.
- Die Regel aufschreiben. Eine kurze Richtlinie, die sich auf verbotene Daten und die Anonymisierung konzentriert, in Frankreich nach Stellungnahme des CSE dem règlement intérieur beigefügt.3,6
- Schulen. Die europäische KI-Verordnung verlangt von Unternehmen, Maßnahmen zur Förderung der KI-Kompetenz ihres Personals zu ergreifen (Artikel 4, in der 2026 geänderten Fassung).8,9
- Messen, dann anpassen. Ein Werkzeug im Audit-Modus zeigt, welche Dienste genutzt werden und welche Daten dorthin gehen, bevor man irgendetwas sperrt. Tacite-IA bietet diesen Modus, danach Warnungen und Anonymisierung auf dem Gerät, in Chrome, Edge und Coding-Assistenten. Desktop-Apps wie ChatGPT für den Computer deckt es nicht ab.
Ein letzter Punkt spricht für das Steuern: Es macht aus einem auferlegten Verbot eine verstandene Regel. Wer weiß, warum ein Kundenname oder eine Gehaltsabrechnung nicht in einen Assistenten gehört, und für alles andere ein zugelassenes Werkzeug hat, hat viel weniger Gründe, nach einem Umweg zu suchen.
Häufige Fragen
Was ist der Unterschied zwischen Shadow AI und Shadow IT?
Shadow IT bezeichnet Software und Dienste, die ohne Freigabe der IT-Abteilung genutzt werden. Shadow AI ist eine besondere Form davon, bezogen auf Werkzeuge der künstlichen Intelligenz: Chat-Assistenten, Browsererweiterungen, Coding-Assistenten, die mit privaten Konten genutzt werden.
Shadow AI: Was ist das?
Es ist die Nutzung von Werkzeugen der künstlichen Intelligenz durch Beschäftigte ohne Freigabe und ohne Wissen des Unternehmens, zum Beispiel ein privates ChatGPT-Konto für berufliche Aufgaben. Das Unternehmen bleibt dennoch für die dort eingegebenen personenbezogenen Daten verantwortlich.
Darf ein Arbeitgeber ChatGPT verbieten?
In Frankreich ja, sofern die Einschränkung durch die Art der Aufgabe gerechtfertigt und dem verfolgten Zweck angemessen ist (Artikel L1121-1 des französischen Arbeitsgesetzbuchs, Code du travail). Damit ein Verstoß sanktioniert werden kann, muss die Regel grundsätzlich im règlement intérieur (Betriebsordnung nach französischem Recht) oder einer Anlage dazu stehen, die nach Stellungnahme des CSE erlassen werden.
Reicht ein Verbot von ChatGPT, um die Daten zu schützen?
Selten. Ein Verbot auf den Firmenrechnern verhindert nicht die Nutzung auf einem privaten Smartphone oder Computer, außerhalb jeder Sichtbarkeit. Die französische Datenschutzbehörde CNIL empfiehlt vielmehr, die Nutzung durch eine Richtlinie zu regeln, die erlaubte und verbotene Nutzungen unterscheidet.
Wie viele Beschäftigte nutzen ihre eigenen KI-Werkzeuge?
Laut dem Work Trend Index 2024 von Microsoft und LinkedIn, durchgeführt unter 31.000 Wissensarbeitern in 31 Märkten, bringen 78 % der KI-Nutzer ihre eigenen Werkzeuge zur Arbeit mit, in kleinen und mittleren Unternehmen 80 %.
Quellen
- AI at Work Is Here. Now Comes the Hard Part (Work Trend Index 2024). Microsoft und LinkedIn, Mai 2024. Abgerufen am 5. Oktober 2026.
- Samsung bans use of generative AI tools like ChatGPT after April internal data leak. TechCrunch, 2. Mai 2023. Abgerufen am 5. Oktober 2026.
- Les questions-réponses de la CNIL sur l’utilisation d’un système d’IA générative. CNIL (französische Datenschutzbehörde), 18. Juli 2024. Auf Französisch. Abgerufen am 5. Oktober 2026.
- Code du travail (französisches Arbeitsgesetzbuch), Artikel L1121-1 (gerechtfertigte und verhältnismäßige Einschränkungen). Légifrance (amtliches Rechtsportal Frankreichs). Auf Französisch. Abgerufen am 5. Oktober 2026.
- Code du travail (französisches Arbeitsgesetzbuch), Artikel L1321-1 (Inhalt der Betriebsordnung, règlement intérieur). Légifrance (amtliches Rechtsportal Frankreichs). Auf Französisch. Abgerufen am 5. Oktober 2026.
- Code du travail (französisches Arbeitsgesetzbuch), Artikel L1321-4 (Stellungnahme des CSE, Bekanntmachung, Arbeitsaufsicht). Légifrance (amtliches Rechtsportal Frankreichs). Auf Französisch. Abgerufen am 5. Oktober 2026.
- Verordnung (EU) 2016/679 zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten (Datenschutz-Grundverordnung, DSGVO). EUR-Lex. Abgerufen am 5. Oktober 2026.
- Verordnung (EU) 2024/1689 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (KI-Verordnung). EUR-Lex. Abgerufen am 5. Oktober 2026.
- Verordnung (EU) 2026/1744 vom 8. Juli 2026 (digitaler Omnibus zur KI). EUR-Lex. Abgerufen am 5. Oktober 2026.
- Enterprise privacy at OpenAI. OpenAI, Seite aktualisiert am 8. Januar 2026. Abgerufen am 5. Oktober 2026.
- Enterprise data protection in Microsoft Copilot and Microsoft Copilot Chat. Microsoft Learn. Abgerufen am 5. Oktober 2026.
- Is my data used for model training?. Anthropic Privacy Center. Abgerufen am 5. Oktober 2026.
- Generative AI in Google Workspace Privacy Hub. Google Workspace. Abgerufen am 5. Oktober 2026.
- How OpenAI handles data in consumer services. OpenAI Help Center. Abgerufen am 5. Oktober 2026.
- Data controls in ChatGPT. OpenAI Help Center. Abgerufen am 5. Oktober 2026.
- Gemini Apps Privacy Hub. Google. Abgerufen am 5. Oktober 2026.
- Updates to Consumer Terms and Privacy Policy. Anthropic, 28. August 2025. Abgerufen am 5. Oktober 2026.
ChatGPT ist eine Marke von OpenAI, Copilot von Microsoft, Claude von Anthropic, Gemini von Google. Tacite-IA ist mit keinem dieser Anbieter verbunden. Dieser Artikel dient der Information und stellt keine Rechtsberatung dar.