Schatten-KI erkennen: private ChatGPT-Konten im Unternehmen

Schatten-KI beginnt meist harmlos: Der Vertriebsleiter kopiert ein Angebot samt Kalkulation in sein privates ChatGPT-Konto, um den Text eleganter formulieren zu lassen, und die Personalreferentin lässt eine Abmahnung „etwas freundlicher“ umschreiben. Beides spart zehn Minuten, und beides passiert in vielen Unternehmen täglich, ohne dass die Geschäftsführung davon weiß. Dieser Beitrag zeigt, warum ein bloßes Verbot selten hilft und welche Kombination aus Angebot, Regeln und Technik tatsächlich wirkt.

Schatten-KI ist mehr als Schatten-IT

Schatten-KI (englisch Shadow AI) bezeichnet den Einsatz von KI-Diensten durch Beschäftigte, den das Unternehmen weder freigegeben hat noch kennt: meist Chatbots über private Konten, aber auch Browser-Erweiterungen, Übersetzungsdienste oder KI-Funktionen in Apps, die Mitarbeiter selbst eingerichtet haben.

Schatten-IT bezeichnet allgemein Software und Dienste, die ohne Wissen der IT genutzt werden: die private Dropbox, das Projekttool mit Kreditkarte bezahlt, der Messenger auf dem Diensthandy. Was dagegen hilft, beschreibt unser Beitrag zur Schatten-IT.

Schatten-KI ist ein Sonderfall mit eigener Dynamik. Erstens ist die Einstiegshürde praktisch null: ein Browserfenster, ein kostenloses Konto, fertig. Zweitens ist der Nutzen sofort spürbar, was den Anreiz zur Umgehung erhöht. Drittens, und das ist der entscheidende Unterschied: Bei KI-Diensten wird nicht nur eine Datei abgelegt, sondern der Inhalt aktiv verarbeitet und, je nach Anbieter und Einstellung, gespeichert und unter Umständen für die Weiterentwicklung der Modelle genutzt.

Die Risiken im Einzelnen

Training und Speicherung

Bei privaten Konten gelten die Verbraucherbedingungen des Anbieters. OpenAI etwa gibt an, dass bei den Tarifen Free, Plus und Pro Inhalte standardmäßig zur Verbesserung der Modelle verwendet werden dürfen. Nutzer können das in den Datenkontrollen unter „Das Modell für alle verbessern“ abschalten. Bei den Geschäftstarifen Business und Enterprise werden Eingaben laut Anbieter standardmäßig nicht zum Training genutzt. Ob ein Mitarbeiter die Einstellung im privaten Konto geändert hat, wissen Sie nicht. Andere Anbieter haben eigene, teils abweichende Regeln.

Datenschutz: ChatGPT im Unternehmen ohne Vertrag

Sobald personenbezogene Daten von Kunden, Patienten oder Beschäftigten in ein privates Konto gelangen, verarbeitet ein Dienstleister diese Daten ohne Auftragsverarbeitungsvertrag, ohne Prüfung des Speicherorts und ohne Dokumentation. Das ist datenschutzrechtlich kaum zu rechtfertigen. Kommt es zu einer Panne, haben Sie weder Zugriff auf das Konto noch einen Ansprechpartner beim Anbieter. Die Frage „ChatGPT und Datenschutz im Unternehmen“ lässt sich deshalb nur über einen Geschäftstarif mit Vertrag und zentraler Verwaltung sauber beantworten.

Geschäftsgeheimnisse

Das Geschäftsgeheimnisgesetz schützt Informationen nur dann als Geschäftsgeheimnis, wenn der Inhaber „angemessene Geheimhaltungsmaßnahmen“ getroffen hat. Wer Kalkulationen, Rezepturen oder Quellcode duldend in private Dienste fließen lässt, schwächt im Streitfall womöglich seine eigene Position. Wie das im Einzelfall zu bewerten ist, sollten Sie mit Ihrem Rechtsberater klären.

Kontrollverlust beim Ausscheiden

Verlässt ein Mitarbeiter das Unternehmen, nimmt er seinen Chatverlauf mit. Darin können Monate an Firmeninterna stecken, auf die Sie keinen Zugriff haben und die Sie nicht löschen können.

Warum Verbote allein nicht wirken

Ein Satz in der Arbeitsanweisung „Die Nutzung von KI-Diensten ist untersagt“ ist schnell geschrieben. In der Praxis passiert dann meist Folgendes: Die Nutzung verlagert sich auf das Smartphone, das nicht im Firmennetz hängt. Mitarbeiter, die den Nutzen erlebt haben, verzichten ungern darauf. Und weil niemand mehr offen darüber spricht, erfährt die IT auch nicht, welche Bedürfnisse eigentlich dahinterstehen.

Ein Verbot ohne Alternative erzeugt also nicht weniger Nutzung, sondern weniger Sichtbarkeit. Das ist das Gegenteil dessen, was Sie erreichen wollen.

Was gegen Schatten-KI wirkt

1. Eine freigegebene Firmenlösung anbieten

Der wirksamste Schritt ist ein Werkzeug, das genauso bequem ist wie der private Dienst, aber unter Firmenkontrolle steht. Dafür gibt es mehrere Wege:

Welche Variante passt, hängt von Datenarten, vorhandenen Lizenzen und Anwendungsfällen ab. Entscheidend ist, dass es überhaupt eine freigegebene Lösung gibt.

2. Eine klare KI-Richtlinie

Die Richtlinie regelt, welche Werkzeuge freigegeben sind, welche Daten hinein dürfen und welche nicht, wie Ergebnisse geprüft werden und wen man bei Fragen anspricht. Sie sollte kurz und verständlich sein. Eine Ampel hat sich bewährt: Grün für öffentliche Informationen, Gelb für interne Inhalte nur in freigegebenen Werkzeugen, Rot für Personaldaten, Gesundheitsdaten und Geheimnisse, die nur in besonders abgesicherten Lösungen verarbeitet werden dürfen. Hinweise zum Aufbau gibt unser Beitrag zur KI-Richtlinie im Unternehmen.

3. Schulung mit Beispielen

Viele Mitarbeiter wissen schlicht nicht, was mit ihren Eingaben passiert. Eine kurze KI-Schulung mit Beispielen aus dem eigenen Betrieb schafft Verständnis: Was darf in den freigegebenen Chat, was nicht, und warum. Seit dem Inkrafttreten der Änderungen durch den Digital Omnibus am 27. Juli 2026 verpflichtet die europäische KI-Verordnung Unternehmen, Maßnahmen zur Förderung der KI-Kompetenz ihrer Beschäftigten zu ergreifen. Eine solche Schulung erfüllt zugleich diesen Zweck.

4. Technische Erkennung, wo sie sinnvoll ist

Technik ergänzt die organisatorischen Maßnahmen, ersetzt sie aber nicht. Sinnvolle Bausteine sind:

Beginnen Sie mit Sichtbarkeit statt mit Sperren. Die Auswertung, welche Dienste wie oft genutzt werden, zeigt Ihnen, welche Bedürfnisse die freigegebene Lösung abdecken muss. Sperren Sie erst, wenn eine Alternative bereitsteht. Beachten Sie bei der Auswertung von Nutzungsprotokollen die Mitbestimmungsrechte eines Betriebsrats und beziehen Sie Ihren Datenschutzbeauftragten ein.

Checkliste: Erste Schritte

Wie DAVINCI unterstützt

Wir helfen Ihnen, eine passende KI-Lösung auszuwählen und bereitzustellen, sei es über Microsoft 365 oder einen eigenen Server, und erarbeiten mit Ihnen eine praxistaugliche KI-Richtlinie. Auf Wunsch richten wir die technische Erkennung über Firewall oder Microsoft-Werkzeuge ein. Sprechen Sie uns über die Kontaktseite an.

Verwandte Themen: Wer hier weiterdenkt, liest bei KI-Halluzinationen, Schatten-IT und KI-Richtlinie weiter.