Ein praktischer Leitfaden zu ChatGPT und Datenschutz

Dieser Leitfaden erklärt ChatGPT und Datenschutz praxisnah und mit Fokus auf datenschutzfreundliche Analytics-Entscheidungen.

Große Sprachmodelle veränderten die Art und Weise, wie Menschen Informationen suchen, entwerfen, zusammenfassen, kodieren und analysieren. Sie haben auch die Risikooberfläche für die Privatsphäre bei normaler Arbeit geändert.

Der häufigste Fehler besteht darin, ChatGPT oder einen anderen AI-Assistenten wie ein privates Notebook zu behandeln. Das ist es nicht. Es handelt sich um einen Cloud-Dienst, der Eingabeaufforderungen, hochgeladene Dateien, generierte Ausgaben, Kontometadaten und Nutzungsprotokolle zu Bedingungen verarbeiten kann, die je nach Produktplan variieren.

Die größten Datenschutzrisiken

1. Eingabeaufforderungen können persönliche oder vertrauliche Daten enthalten

Mitarbeiter fügen häufig echte Kunden-E-Mails, Support-Tickets, Verträge, Anrufprotokolle, Quellcode, Tabellenexporte, medizinische Notizen oder HR-Szenarien in AI-Tools ein. Selbst wenn der Benutzer beabsichtigt, dies „nur zusammenzufassen“, kann die Eingabe personenbezogene Daten, Geschäftsgeheimnisse oder regulierte Informationen enthalten.

Das Datenschutzproblem betrifft nicht nur das Modelltraining. Es geht auch um Zugriff, Aufbewahrung, Sicherheitsüberprüfung, Unterauftragsverarbeiter des Anbieters, rechtliche Offenlegung, Kontoverwaltung und ob die Organisation eine rechtmäßige Grundlage für die Übermittlung dieser Daten an den Anbieter hatte.

2. Verbraucher- und Geschäftspläne können unterschiedliche Datenkontrollen haben

Laut seiner [Geschäftsdatenschutzseite] (https://openai.com/business-data/) gibt OpenAI an, dass es standardmäßig keine Modelle für Geschäftsdaten für die Plattformen ChatGPT Enterprise, ChatGPT Business, ChatGPT Edu, ChatGPT for Healthcare, ChatGPT for Teachers und In der Plattformdokumentation heißt es außerdem, dass API-Daten nicht zum Trainieren oder Verbessern von Modellen verwendet werden, es sei denn, der Kunde stimmt zu (OpenAI Plattformdatenkontrollen).

Das unterscheidet sich wesentlich von der nicht verwalteten Verbrauchernutzung. Verbrauchereinstellungen, temporäre Chats, Kontoverlauf und Modellverbesserungskontrollen können das Risikoprofil ändern. Eine Unternehmensrichtlinie sollte daher genehmigte Tools und Pläne spezifizieren und nicht nur sagen: „AI ist erlaubt.“

3. Trainingsdaten erzeugen ungelöste GDPR Fragen

LLMs werden oft an großen Datensätzen trainiert, die personenbezogene Daten von öffentlichen Webseiten, lizenzierten Quellen, Benutzerinteraktionen oder anderen Datensätzen umfassen können. Gemäß GDPR benötigen Verantwortliche weiterhin eine Rechtsgrundlage, Transparenz, Datenminimierung, Genauigkeit und eine Möglichkeit, die Rechte der betroffenen Personen bei der Verarbeitung personenbezogener Daten zu respektieren.

Im ChatGPT Taskforce-Bericht des Europäischen Datenschutzausschusses wurde betont, dass technische Schwierigkeiten nicht als pauschaler Grund für die Missachtung von GDPR-Verpflichtungen herangezogen werden können. Dies ist ein wichtiger Governance-Punkt für alle LLM-Bereitstellungen, nicht nur für OpenAI.

4. Ausgaben können vertrauliche Informationen preisgeben oder rekonstruieren

Ein AI-Modell kann falsche persönliche Informationen erzeugen, auf sensible Merkmale schließen oder ein Dokument so zusammenfassen, dass mehr als nötig offengelegt wird. Auch wenn die ursprüngliche Eingabe rechtmäßig war, kann die generierte Ausgabe einen neuen Datensatz erstellen, der Aufbewahrung, Zugriffskontrolle und Überprüfung erfordert.

Wenn Sie beispielsweise einen Assistenten bitten, „diese Mitarbeiter nach ihrem wahrscheinlichen Burnout-Risiko einzustufen“, basierend auf Chat-Exporten, unterscheidet sich dies stark von der Aufforderung, eine öffentliche Produktankündigung neu zu verfassen. Ersteres kann zu sensiblen Rückschlüssen auf die Beschäftigung und zu Bedenken hinsichtlich der automatisierten Entscheidungsfindung führen.

Regulatorische Aufmerksamkeit ist real

Im Jahr 2023 schränkte die italienische Datenschutzbehörde die Verarbeitung von ChatGPT vorübergehend ein, während sie Datenschutzprobleme untersuchte. Im Jahr 2024 veröffentlichte der EDSA seinen Taskforce-Bericht zur Koordinierung der Aufsichtsansätze. Die Regulierungsbehörden achten darauf, weil LLMs groß angelegte Datenverarbeitung, Undurchsichtigkeit und Massenakzeptanz vereint.

Unternehmen sollten damit rechnen, dass die AI-Governance neben Datenschutz, Sicherheit, Beschaffung und Datensatzverwaltung überprüft wird. „Jeder nutzt es“ ist keine Kontrolle.

Eine praktische AI Datenschutzrichtlinie

Eine nützliche Richtlinie sollte kurz genug sein, damit Mitarbeiter sie befolgen können, und spezifisch genug, damit Sicherheits- und Rechtsteams sie durchsetzen können.

Enthalten:

• Zugelassene AI-Tools und Kontotypen
• Datenkategorien, die nicht eingegeben werden dürfen
• Regeln für Kunden-, Mitarbeiter-, Gesundheits-, Finanz- und Kinderdaten
• Regeln für Quellcode, Geheimnisse, Anmeldeinformationen und proprietäre Dokumente
• Überprüfen Sie die Anforderungen für regulierte Arbeitsabläufe
• Erwartungen an die Ausgabeverifizierung
• Aufbewahrungs- und Exportregeln
• Schritte zur Meldung von Vorfällen, wenn vertrauliche Daten versehentlich eingefügt werden

Verlassen Sie sich nicht nur auf das Training. Fügen Sie nach Möglichkeit technische Kontrollen hinzu: SSO, Domänenbeschränkungen, Unternehmenspläne, DLP-Regeln, Protokollierung, Aufbewahrung auf Arbeitsbereichsebene und Anbieter-DPAs.

Was nicht in einen AI-Assistenten eingefügt werden sollte

Vermeiden Sie die Eingabe von:

• Kundenlisten, E-Mails, Telefonnummern, Adressen oder Konto-IDs
• Gesundheits-, Finanz-, biometrische, Standort- oder Kinderdaten
• Personalakten, Leistungsbeurteilungen, Gehaltsdaten oder Disziplinarunterlagen
• Authentifizierungsgeheimnisse, API-Schlüssel, private Zertifikate oder Datenbank-Dumps
• Unveröffentlichter Quellcode oder proprietäre Strategiedokumente
• Verträge unter Geheimhaltungspflicht
• Rohanalyseexporte mit Kennungen auf Benutzerebene

Wenn für die Aufgabe echte Daten erforderlich sind, fragen Sie zunächst, ob Sie synthetische Beispiele, aggregierte Zusammenfassungen oder redigierten Text verwenden können.

Sicherere Anwendungsfälle

Zu den AI-Aufgaben mit geringerem Risiko gehören:

• Verfassen öffentlicher Blog-Entwürfe
• Umschreiben nicht vertraulicher Marketingtexte
• Erklärung der öffentlichen Dokumentation
• Testdaten generieren, die eindeutig synthetisch sind
• Zusammenfassung anonymisierter Umfragethemen
• Erstellen von SQL-Beispielen anhand eines gefälschten Schemas
• Überprüfen Sie Datenschutzhinweise auf Klarheit, ohne Kundendaten hochzuladen

Überprüfen Sie auch dann die Ausgaben. AI-Systeme können gesetzliche Anforderungen halluzinieren, Statistiken erfinden oder Produktbedingungen falsch darstellen.

AI Datenschutz-Checkliste

Definieren Sie für jedes genehmigte AI-Tool, wer es verwenden darf, welche Datenkategorien verboten sind, ob Eingabeaufforderungen oder Ausgaben beibehalten werden, wer Protokolle überprüfen kann und was passiert, wenn vertrauliche Daten versehentlich eingefügt werden. Koppeln Sie Richtlinien mit Kontrollen wie SSO, Unternehmensarbeitsbereichen, DLP-Regeln, Aufbewahrungseinstellungen und Anbieterüberprüfung. Der sicherste AI-Workflow ist der, bei dem Mitarbeiter nicht raten müssen, ob eine Eingabeaufforderung in das Tool gehört.

Das Fazit

ChatGPT Datenschutz ist keine Ja-oder-Nein-Frage. Es hängt davon ab, welche Daten Sie eingeben, welchen Plan Sie nutzen, ob der Anbieter Eingaben für Schulungen verwendet, wie lange Daten aufbewahrt werden, wer darauf zugreifen kann und ob Ihre Organisation die Verarbeitung dokumentiert hat.

Behandeln Sie AI-Assistenten als leistungsstarke Anbieter und nicht als private Notizblöcke. Mit klaren Richtlinien, genehmigten Geschäftskonten, Minimierung und Überprüfung können Teams LLMs produktiv nutzen, ohne dass jede Aufforderung zu einem Datenschutzvorfall wird, der nur darauf wartet, passiert zu werden.