ChatGPT & Datenschutz im Unternehmen: Worauf IT-Leiter achten sollten

Künstliche Intelligenz ist im Arbeitsalltag vieler Mitarbeiter längst angekommen. Von der Formulierung von E-Mails über die Analyse von Kennzahlen bis hin zur Zusammenfassung langer Berichte – die Anwendungsfälle sind vielfältig. Doch wenn sensible Informationen ungeprüft in externe Tools fließen, bereitet das vielen IT-Verantwortlichen Sorge. Wie genau lässt sich in Bezug auf ChatGPT der Datenschutz im Unternehmen wahren, ohne die Produktivität auszubremsen? Der folgende Ratgeber beleuchtet die technischen und organisatorischen Aspekte, die bei der Einführung von Sprachmodellen im geschäftlichen Umfeld beachtet werden sollten.

Warum die unkontrollierte KI-Nutzung zur Herausforderung wird

Ein zentrales Problem beim Einsatz von generativer KI ist die sogenannte Schatten-IT. Studien deuten darauf hin, dass ein erheblicher Teil der Beschäftigten KI-Tools nutzt, ohne dass der Arbeitgeber dies offiziell genehmigt hat. Oft fließen dabei auch vertrauliche Informationen in die Eingabefelder. Wenn Mitarbeiter über private Accounts kommunizieren oder Daten unkontrolliert teilen, entsteht eine schwer steuerbare Infrastruktur – ein Phänomen, das auch dann auftritt, wenn sichere interne Kommunikationswege fehlen und Betriebe deshalb eine dedizierte Mitarbeiter-App in Betracht ziehen.

Die Nutzung privater oder kostenfreier KI-Konten im Arbeitskontext birgt spezifische Risiken:

• Datenverwendung zu Trainingszwecken: Bei den Standard- und Plus-Versionen von ChatGPT können die getätigten Eingaben standardmäßig genutzt werden, um die Sprachmodelle weiter zu trainieren. Ein Opt-out ist zwar möglich, muss aber aktiv vom Nutzer in den Einstellungen vorgenommen werden.
• Fehlende vertragliche Grundlagen: Für den Einsatz im Auftrag des Betriebs fehlt bei rein privaten Konten in der Regel ein Auftragsverarbeitungsvertrag (AVV).
• Verlust der Kontrolle: Sobald Informationen in das System eingegeben wurden, liegen diese auf externen Servern und entziehen sich der direkten Kontrolle der IT-Abteilung.

Die Folgen von Datenabflüssen können schwerwiegend sein. In der Vergangenheit gab es bereits bekannte Fälle bei großen Konzernen, in denen interne Besprechungsprotokolle oder Quellcodes versehentlich über die Chat-Eingabe an die Server des Anbieters übertragen wurden.

ChatGPT, Unternehmensdaten und DSGVO: Prüfpunkte für den Betrieb

Wenn es darum geht, bei ChatGPT Unternehmensdaten und die DSGVO in Einklang zu bringen, rücken verschiedene Artikel der europäischen Datenschutz-Grundverordnung in den Fokus. Fachleute und Aufsichtsbehörden weisen darauf hin, dass eine sorgfältige Prüfung der Verarbeitungsschritte unerlässlich ist. Die datenschutzrechtliche Einordnung hängt dabei stark vom Einzelfall und den genutzten Tarifen ab.

Betroffenenrechte und Transparenz

Personenbezogene Daten (wie Namen, Adressen oder Kontoverbindungen) unterliegen strengen Schutzvorgaben. Ein Aspekt, der im Zusammenhang mit Sprachmodellen oft diskutiert wird, ist der Grundsatz der Datenrichtigkeit sowie das Recht auf Löschung. Da Sprachmodelle Informationen in ihrem neuronalen Netz verweben, kann es technisch äußerst komplex sein, eine einmal gelernte, spezifische Information einer einzelnen Person verlässlich zu korrigieren oder restlos zu entfernen.

Vertragliche Rahmenbedingungen

Damit ein Unternehmen ein externes Werkzeug zur Verarbeitung von Daten einsetzen kann, ist in der Regel eine Rechtsgrundlage und – sofern Dienstleister involviert sind – ein Vertrag zur Auftragsverarbeitung (AVV) notwendig. Für die Business- und Enterprise-Tarife von OpenAI sowie für die API-Nutzung wird ein solches Data Processing Addendum (DPA) angeboten, das als Grundlage dienen kann.

Ein weiterer Prüfpunkt ist der Ort der Datenverarbeitung. Da der Anbieter seinen Sitz in den USA hat, findet ein Drittlandtransfer statt. Dieser Umstand erfordert laut Einschätzung von Datenschutzexperten besondere vertragliche Absicherungen, häufig auf Basis von EU-Standardvertragsklauseln. Solche rechtlichen und infrastrukturellen Fragestellungen sollten Betriebe stets individuell mit ihrem Datenschutzbeauftragten bewerten.

Technische Strategien zur Risikominimierung

Ein striktes Verbot von KI-Werkzeugen wird in der Praxis oft als wenig zielführend erachtet, da es die Belegschaft lediglich in die Nutzung unkontrollierter Tools drängt. Stattdessen existieren technische Lösungsansätze, um die Informationssicherheit zu erhöhen.

Nutzung geschützter Tarife und Umgebungen

Im Gegensatz zu den kostenfreien Versionen schließen die Enterprise- und Business-Tarife sowie die API-Schnittstellen von OpenAI die Nutzung der eingegebenen Informationen für das Training der Modelle standardmäßig aus. Auch bieten diese Versionen erweiterte Kontrollmechanismen für Administratoren. Unternehmen, die noch strengere Anforderungen an die Datenresidenz stellen, greifen oftmals auf Cloud-Umgebungen zurück, die das Hosting der KI-Modelle auf europäischen Servern garantieren.

Pseudonymisierung von Inhalten

Eine weitere Methode, um personenbezogene Informationen zu schützen, ist die Pseudonymisierung vor der Eingabe. Dabei werden sensible Details wie Namen oder IBANs durch Platzhalter (z. B. "Person_A") ersetzt, bevor der Text an die KI gesendet wird. Die KI verarbeitet dann den anonymisierten Kontext. Die Originaldaten verlassen zu keinem Zeitpunkt die sichere Unternehmensumgebung. Nach der Verarbeitung durch die KI können die Platzhalter im Ergebnis wieder durch die echten Werte ersetzt werden.

Warum eine klare ChatGPT-Firmenrichtlinie unverzichtbar ist

Technik allein löst nicht alle Herausforderungen. Die Einführung neuer Technologien erfordert klare Leitplanken für die Belegschaft. Es empfiehlt sich, eine fundierte ChatGPT-Firmenrichtlinie (oder allgemein eine KI-Richtlinie) im Unternehmen zu etablieren. Diese sollte verständlich formulieren, welche Werkzeuge für welche Zwecke freigegeben sind und welche Datenkategorien keinesfalls eingegeben werden dürfen.

Die systematische Einführung solcher Richtlinien lässt sich organisatorisch am besten bewältigen, wenn Unternehmen ohnehin bereits ihre internen Freigabeprozesse digitalisieren konnten. So können Anträge für den Einsatz spezifischer KI-Tools geordnet geprüft und dokumentiert werden.

Zentrale Bestandteile einer solchen Leitlinie umfassen häufig:

• Das strikte Gebot, keine kundenbezogenen oder personellen Einzeldaten in ungeprüfte Chat-Oberflächen einzugeben.
• Den Hinweis, dass die KI-Ergebnisse stets durch einen menschlichen Experten auf fachliche Richtigkeit zu prüfen sind, da Sprachmodelle sogenannte "Halluzinationen" – also inhaltlich falsche, aber plausibel klingende Antworten – erzeugen können.
• Die Verpflichtung zur Teilnahme an entsprechenden Schulungen, um den kompetenten Umgang mit den Systemen zu erlernen.

Sicheres Wissensmanagement: Eigene Daten, kontrollierte Umgebung

Viele Betriebe möchten die Fähigkeiten von Sprachmodellen nutzen, um ihre eigenen, umfangreichen Dokumentenbestände abzufragen. Oft liegen diese wertvollen Informationen jedoch noch in veralteten Architekturen. Um diese Datenbestände sicher nutzbar zu machen, ist es oft ein notwendiger erster Schritt, alte Systeme oder eine klassische Access-Datenbank abzulösen und die Informationen in moderne, schnittstellenfähige Formate zu überführen.

Ist diese Grundlage geschaffen, lautet der Ansatz moderner KI-Architekturen: Man bringt die KI zu den Daten, anstatt die Daten zur KI zu senden. Bei diesem Vorgehen wird das Sprachmodell über eine Schnittstelle (API) direkt an die internen Systeme angebunden, ohne dass die Dokumente das Firmennetzwerk unkontrolliert verlassen.

Wer solche Integrationen vollständig in einer eigenen, stark abgesicherten Infrastruktur betreiben möchte, entscheidet sich gelegentlich für eine gezielte Individualsoftware-Entwicklung. Bevor ein solches Großprojekt gestartet wird, empfiehlt es sich, die anfallenden Kosten für Softwareentwicklung genau zu kalkulieren und die Kernfunktionen zunächst im kleinen Rahmen zu validieren. Um solche KI-gestützten Analysen auf eigenen Daten gefahrlos zu erproben, eignet sich ein iteratives Vorgehen im Rahmen einer MVP-Entwicklung, bevor weitreichende Systemumstellungen erfolgen.

Den Wandel aktiv und sicher gestalten

Die Integration von künstlicher Intelligenz in den Arbeitsalltag des Mittelstands ist ein Prozess, der sowohl enorme technische Chancen bietet als auch klare regulatorische Rahmenbedingungen erfordert. Eine pauschale Ablehnung der Technologie schützt selten vor Risiken, sondern fördert vielmehr eine unkontrollierte Nutzung. Durch die bewusste Wahl geeigneter Enterprise-Tarife, den Einsatz technischer Filter wie der Pseudonymisierung und die Etablierung klarer interner Verhaltensregeln lässt sich ein Umfeld schaffen, das Produktivität ermöglicht und gleichzeitig hohe Sicherheitsstandards wahrt. Der Dialog mit IT-Sicherheitsexperten und Datenschutzbeauftragten bleibt dabei der wichtigste Schritt, um die unternehmensspezifische Situation korrekt zu bewerten und geeignete Maßnahmen zu definieren.

Häufig gestellte Fragen (FAQ)

Wie verhindert man, dass Unternehmensdaten für KI-Training genutzt werden?

Bei den kostenfreien und Plus-Versionen von ChatGPT müssen Nutzer der Datennutzung in den Einstellungen aktiv widersprechen (Opt-out). Für den geschäftlichen Einsatz wird die Nutzung von Enterprise- oder API-Lösungen empfohlen, da diese Tarife die Verwendung der Eingaben für Trainingszwecke laut Anbieter standardmäßig ausschließen.

Welche Informationen sollten keinesfalls in einen externen Chatbot eingegeben werden?

Grundsätzlich sollten keine personenbezogenen Daten (wie Namen, Adressen, Bankdaten von Kunden oder Mitarbeitern) sowie keine kritischen Geschäftsgeheimnisse (etwa unveröffentlichter Quellcode, Bilanzen oder interne Strategiepapiere) in öffentliche KI-Tools eingegeben werden.

Was passiert, wenn die KI falsche Angaben über Personen macht?

Dies ist ein bekanntes Problem, das als "Halluzination" bezeichnet wird. Datenschutzrechtlich ist dies problematisch, da Betroffene ein Recht auf die Richtigkeit ihrer Daten haben. Bei externen KI-Modellen ist es jedoch oft technisch nicht möglich, diese fehlerhaften Informationen gezielt zu korrigieren oder dauerhaft zu löschen, was den Einsatz für personenbezogene Analysen kritisch macht.

Warum ist eine interne Richtlinie für den KI-Einsatz so wichtig?

Eine Richtlinie schafft Klarheit für die Belegschaft. Sie definiert verbindlich, welche Programme im Arbeitsalltag erlaubt sind, wie Ergebnisse auf ihre Richtigkeit geprüft werden müssen und welche Datenkategorien absolut tabu sind. Dies reduziert das Risiko einer unkontrollierten Schatten-IT erheblich.

Darf eine künstliche Intelligenz Kundenanfragen vollautomatisiert beantworten?

Der Einsatz in der Kundenkommunikation ist möglich, unterliegt aber Transparenzpflichten. Nutzer müssen laut der neuen KI-Verordnung darüber informiert werden, dass sie mit einer Maschine interagieren. Zudem muss auch hier der Schutz der eingegebenen Kundendaten vertraglich über einen Auftragsverarbeitungsvertrag abgesichert sein.