Sobald KI-Werkzeuge im Arbeitsalltag ankommen, entsteht ein neues Datenschutzthema – oft schneller, als die IT es bemerkt. Denn wer einen Vertragsentwurf, eine Kundenliste oder ein Bewerbungsschreiben in einen öffentlichen Dienst einfügt, übermittelt personenbezogene oder vertrauliche Daten an einen Dritten.
Ein alltägliches Beispiel: Eine Mitarbeiterin der Personalabteilung lässt ein Arbeitszeugnis von einem frei zugänglichen KI-Dienst sprachlich überarbeiten. Damit gelangen Name, Tätigkeitsbeschreibung und Leistungsbeurteilung eines Beschäftigten zum Anbieter – personenbezogene Daten, deren Weitergabe eine Rechtsgrundlage braucht. Die gute Absicht ändert daran nichts.
Die Frage ist deshalb nicht, ob KI eingesetzt werden darf – das darf sie, unter Bedingungen. Die Frage ist, wohin die Daten fließen, wer sie dort zu sehen bekommt und was mit ihnen geschieht, nachdem die Antwort geliefert ist.
Was mit einer Eingabe tatsächlich geschieht
Eine Anfrage an einen KI-Dienst ist mehr als eine Frage. Mit ihr wandern der eingegebene Text und alle angehängten Dateien zum Anbieter. Dort wird die Anfrage verarbeitet, häufig für eine gewisse Zeit gespeichert – etwa zur Missbrauchserkennung oder damit der Nutzer den Verlauf später wieder aufrufen kann – und je nach Vertrag und Einstellung möglicherweise zur Verbesserung der Modelle verwendet. Hinzu kommen Unterauftragnehmer wie Rechenzentrumsbetreiber und die Frage, in welchem Land all das stattfindet. Für jedes Werkzeug sollten deshalb fünf Punkte geklärt sein:
- Verarbeitungsort: In welchem Land werden Anfragen verarbeitet und gespeichert?
- Speicherdauer: Wie lange bleiben Eingaben und Antworten beim Anbieter, und lässt sich das einstellen?
- Training: Werden Eingaben zur Weiterentwicklung der Modelle genutzt – und ist das vertraglich ausgeschlossen oder nur per Einstellung abschaltbar, die jeder Nutzer wieder ändern kann?
- Unterauftragnehmer: Wer ist außer dem Anbieter beteiligt, und wird ein Wechsel mitgeteilt?
- Zugriff im eigenen Haus: Wer kann die Verläufe anderer Nutzer einsehen, und wird protokolliert, wer was eingegeben hat?
Drei Betriebsmodelle im Vergleich
Öffentliche Dienste ohne Vertrag – typischerweise die kostenlose Nutzung über ein privates oder einfaches Konto – sind schnell verfügbar, aber für vertrauliche Inhalte ungeeignet. Ohne Auftragsverarbeitungsvertrag fehlt für personenbezogene Daten die rechtliche Grundlage, und solche Angebote behalten sich häufig vor, Eingaben für eigene Zwecke zu verwenden.
Geschäftsangebote mit Vertrag und europäischem Verarbeitungsort sind der Kompromiss, den viele Unternehmen wählen. Sie bieten einen Auftragsverarbeitungsvertrag, schließen die Nutzung der Eingaben zum Training in der Regel aus und erlauben eine zentrale Verwaltung der Konten. Zu prüfen bleibt, ob der Anbieter einem Recht außerhalb der EU unterliegt, das dortigen Behörden Zugriff auf Daten eröffnen kann. Der Verarbeitungsort allein beantwortet diese Frage nicht.
Der Betrieb im eigenen Haus oder auf dedizierter Hardware in einem Rechenzentrum bietet die größte Kontrolle: Die Daten verlassen die eigene Verantwortung nicht, und welche Modelle eingesetzt werden, entscheidet das Unternehmen selbst. Dafür entsteht Aufwand für Hardware, Pflege und Überwachung, und die leistungsfähigsten Modelle der großen Anbieter stehen für den Eigenbetrieb meist nicht zur Verfügung. Sinnvoll ist dieses Modell bei besonders sensiblen Inhalten wie Personal-, Gesundheits- oder Konstruktionsdaten.
In der Praxis fällt die Wahl selten auf nur ein Modell. Häufig bewährt sich eine Kombination: ein freigegebenes Geschäftsangebot für allgemeine Texte und Recherche, der eigene Betrieb für die sensiblen Bestände.
Die rechtlichen Bausteine
- Auftragsverarbeitungsvertrag nach Art. 28 DSGVO, sobald ein Anbieter personenbezogene Daten im Auftrag verarbeitet.
- Übermittlung in Drittländer nach Art. 44 ff. DSGVO: Für die USA besteht seit Juli 2023 ein Angemessenheitsbeschluss, das EU-US Data Privacy Framework, das für dort zertifizierte Anbieter gilt. Das Gericht der EU hat ihn im September 2025 bestätigt; ein Rechtsmittel beim Gerichtshof der EU ist anhängig. Wer sich darauf stützt, sollte die Entwicklung verfolgen und eine Ausweichlösung kennen.
- Eintrag im Verzeichnis der Verarbeitungstätigkeiten nach Art. 30 DSGVO für jeden produktiven Einsatz.
- Datenschutz-Folgenabschätzung nach Art. 35 DSGVO, wenn die Verarbeitung voraussichtlich ein hohes Risiko für die Betroffenen mit sich bringt – etwa bei der systematischen Auswertung von Beschäftigten- oder Gesundheitsdaten.
Neben die DSGVO tritt die europäische KI-Verordnung. Sie regelt nicht den Datenschutz, verlangt aber unter anderem Maßnahmen zur KI-Kompetenz der Beschäftigten und je nach Einsatz Transparenz gegenüber den Betroffenen. Beide Regelwerke lassen sich in einer gemeinsamen Dokumentation abbilden, statt zwei getrennte Verzeichnisse zu führen.
Was Unternehmen intern regeln sollten
Am wichtigsten ist eine verständliche interne Regel: Welche Werkzeuge sind freigegeben, und welche Inhalte dürfen dort eingegeben werden? Ein pauschales Verbot verfehlt in der Regel sein Ziel. Es verlagert die Nutzung auf private Konten und damit in den völligen Kontrollverlust.
Eine Leitlinie, die im Alltag trägt, passt auf zwei Seiten. Sie nennt die freigegebenen Werkzeuge, ordnet Informationen in wenige Klassen – etwa öffentlich, intern, vertraulich und personenbezogen – und legt je Klasse fest, welches Werkzeug genutzt werden darf. Sie bestimmt, dass Ergebnisse vor der Weitergabe geprüft werden, und benennt eine Ansprechperson für Zweifelsfälle. Ergänzt um eine kurze Schulung und die ausdrückliche Zusage, dass Fragen dazu willkommen sind, entsteht eine Regel, die tatsächlich befolgt wird.
Unsere Einordnung: Datenschutz beim KI-Einsatz ist weniger eine Frage des Werkzeugs als der Zuordnung. Wer weiß, welche Daten wohin fließen dürfen, kann freigeben statt verbieten – und behält damit den Überblick, den ein Verbot nur vortäuscht.
Verwandte Themen: Wer hier weiterdenkt, liest bei Digital Omnibus, KI-Server und Schatten-IT weiter.
Quellen
- Konsultation zum datenschutzkonformen Umgang mit personenbezogenen Daten in KI-Modellen · BfDIamtlich
- Künstliche Intelligenz und Datenschutz · Datenschutzkonferenz (DSK)amtlich
