ChatGPT und Datenschutz: Die Datenschutz-Herausforderungen großer Sprachmodelle

Die rasante Verbreitung von ChatGPT und anderen großen Sprachmodellen hat erhebliche Datenschutzbedenken aufgeworfen. Von der Beschaffung der Trainingsdaten bis zur Protokollierung von Nutzerinteraktionen schaffen KI-Chatbots neuartige Datenschutz-Herausforderungen, für die bestehende Vorschriften nicht konzipiert wurden.

Datenschutz bei Trainingsdaten

Große Sprachmodelle werden mit umfangreichen Datensätzen trainiert, die aus dem Internet gesammelt werden und unweigerlich personenbezogene Daten enthalten. Personen, deren Daten für das Training verwendet wurden, wurden in der Regel nicht informiert und hatten keine Möglichkeit zur Einwilligung, was Fragen zur Rechtsgrundlage dieser Verarbeitung unter der DSGVO aufwirft.

Risiken bei Nutzerinteraktionen

Gespräche mit KI-Chatbots können persönliche, sensible oder geschützte Informationen enthalten. Wie diese Daten gespeichert werden, wie lange und ob sie zum weiteren Training des Modells verwendet werden, sind kritische Datenschutzfragen. Organisationen sollten klare Richtlinien darüber aufstellen, welche Informationen Mitarbeiter mit KI-Tools teilen dürfen.

Regulatorische Reaktion

Die italienische Datenschutzbehörde hat ChatGPT vorübergehend wegen Datenschutzbedenken gesperrt, was das Unternehmen zur Implementierung einer Altersverifikation und verbesserter Datenschutzhinweise veranlasste. Andere europäische Behörden haben Untersuchungen zu den Datenschutzpraktiken von KI-Chatbot-Anbietern eingeleitet.

Auswirkungen für Organisationen

Organisationen, die KI-Chatbots einsetzen, sollten die Datenschutzauswirkungen ihrer Implementierungen bewerten, Nutzungsrichtlinien aufstellen und sicherstellen, dass personenbezogene Daten, die mit KI-Diensten geteilt werden, ordnungsgemäß in ihren Verarbeitungsverzeichnissen und Datenschutzhinweisen berücksichtigt werden.