Prywatność

ChatGPT a prywatność danych: ryzyko korzystania z LLM w pracy

Taras Shynkarenko
Taras Shynkarenko
•Zaktualizowano: •7 min czytania
ChatGPT a prywatność danych: ryzyko korzystania z LLM w pracyChatGPT a prywatność danych: ryzyko korzystania z LLM w pracy

W skrócie

7 min czytania

Ryzyko dla prywatności w LLM wynika z danych treningowych, promptów, odpowiedzi, okresu przechowywania, kontroli dostępu i warunków dostawcy. Organizacje powinny oddzielić konsumenckie korzystanie z AI od zatwierdzonych planów biznesowych, ograniczyć wprowadzanie danych wrażliwych i dokumentować podstawę prawną dla wszelkich danych osobowych wysyłanych do systemów AI.

Ryzyko rzadko tkwi w samym modelu. Chodzi o to, co pracownicy do niego wklejają, z jakiego planu korzystają i czy ktoś ustalił zasady przed pierwszym promptem.

Duże modele językowe zmieniły sposób, w jaki ludzie wyszukują, piszą, streszczają, programują i analizują informacje. Zmieniły też obszar ryzyka dla prywatności w codziennej pracy.

Najczęstszym błędem jest traktowanie ChatGPT lub innego asystenta AI jak prywatnego notatnika. Nim nie jest. To usługa w chmurze, która może przetwarzać prompty, przesłane pliki, wygenerowane odpowiedzi, metadane konta i logi użycia na warunkach zależnych od planu.

Główne zagrożenia dla prywatności

Pracownik kopiuje tekst z dokumentu do okna czatu na laptopie, czyli wykonuje codzienne wklejenie, które może przenieść dane klientów lub informacje poufne do narzędzia AI.

1. Prompty mogą zawierać dane osobowe lub poufne

Pracownicy wklejają do narzędzi AI prawdziwe e-maile klientów, zgłoszenia do wsparcia, umowy, transkrypcje rozmów, kod źródłowy, eksporty arkuszy, notatki medyczne lub sprawy kadrowe. Nawet gdy ktoś chce „tylko to streścić”, dane wejściowe mogą zawierać dane osobowe, tajemnice przedsiębiorstwa lub informacje podlegające regulacjom.

Problem z prywatnością nie sprowadza się do trenowania modeli. Dotyczy też dostępu, przechowywania, przeglądu bezpieczeństwa, podwykonawców dostawcy, ujawniania dowodów w sporach, administrowania kontami oraz tego, czy organizacja miała podstawę prawną, by przekazać te dane dostawcy.

2. Plany konsumenckie i biznesowe mogą mieć różne mechanizmy kontroli danych

OpenAI podaje na swojej stronie o prywatności danych biznesowych, że domyślnie nie trenuje modeli na danych biznesowych z ChatGPT Enterprise, ChatGPT Business, ChatGPT Edu, ChatGPT for Healthcare, ChatGPT for Teachers ani na danych wejściowych i wyjściowych platformy API. Dokumentacja platformy mówi też, że dane z API nie są używane do trenowania ani ulepszania modeli, chyba że klient wyrazi na to zgodę (ustawienia danych na platformie OpenAI).

To istotnie różni się od niekontrolowanego korzystania z kont konsumenckich. Ustawienia konsumenckie, czaty tymczasowe, historia konta i opcje ulepszania modeli mogą zmieniać profil ryzyka. Polityka firmy powinna więc wskazywać zatwierdzone narzędzia i plany, a nie tylko stwierdzać, że „AI jest dozwolone”.

Kontrola danych w planach konsumenckich i biznesowych
Plany biznesowe i API
  • ChatGPT Enterprise, Business, Edu, Healthcare, Teachers
  • Dane wejściowe i wyjściowe API
  • Domyślnie nieużywane do trenowania modeli
Konta konsumenckie
  • Standardowe ustawienia, czaty tymczasowe, historia konta
  • Ulepszanie modeli zależne od ustawień
  • Inny profil ryzyka niż w planach zarządzanych
Dokumentacja OpenAI sama wyznacza tę granicę między planami zarządzanymi a konsumenckimi.

3. Dane treningowe rodzą nierozstrzygnięte pytania o RODO

LLM trenuje się na dużych zbiorach danych, które mogą zawierać dane osobowe z publicznych stron internetowych, licencjonowanych źródeł, interakcji użytkowników lub innych zbiorów. Zgodnie z RODO (GDPR) administratorzy nadal potrzebują podstawy prawnej, przejrzystości, minimalizacji danych, prawidłowości oraz sposobu respektowania praw osób, których dane dotyczą, wszędzie tam, gdzie przetwarzane są dane osobowe.

Raport grupy zadaniowej ds. ChatGPT Europejskiej Rady Ochrony Danych podkreślił, że trudności techniczne nie mogą być ogólnym usprawiedliwieniem ignorowania obowiązków wynikających z RODO. To ważna zasada nadzoru nad wszystkimi wdrożeniami LLM, a nie tylko OpenAI.

4. Odpowiedzi mogą ujawniać lub odtwarzać informacje wrażliwe

Model AI może podać nieprawdziwe dane osobowe, wywnioskować wrażliwe cechy lub streścić dokument w sposób ujawniający więcej, niż to konieczne. Nawet jeśli pierwotne dane wejściowe były zgodne z prawem, wygenerowana odpowiedź może stać się nowym zapisem wymagającym zasad przechowywania, kontroli dostępu i przeglądu.

Prośba do asystenta o „uszereguj tych pracowników według prawdopodobnego ryzyka wypalenia” na podstawie eksportów czatów bardzo różni się od prośby o przepisanie publicznej zapowiedzi produktu. Pierwsza może tworzyć wrażliwe wnioski o pracownikach i budzić obawy związane ze zautomatyzowanym podejmowaniem decyzji.

Organy nadzorcze naprawdę się tym interesują

W 2023 roku włoski organ ochrony danych tymczasowo ograniczył przetwarzanie przez ChatGPT, badając kwestie prywatności. W 2024 roku EROD opublikowała raport grupy zadaniowej, by skoordynować podejście organów nadzorczych. Regulatorzy zwracają na to uwagę, bo LLM łączą przetwarzanie danych na dużą skalę, nieprzejrzystość i masowe użycie.

Organizacje powinny spodziewać się, że nadzór nad AI będzie oceniany razem z prywatnością, bezpieczeństwem, zakupami i zarządzaniem dokumentacją. „Wszyscy z tego korzystają” nie jest mechanizmem kontroli.

Organy nadzorcze zaczęły zwracać uwagę
2023: włoski organ ogranicza ChatGPT
2024: EROD publikuje raport grupy zadaniowej
Obecnie: przegląd AI razem z prywatnością, bezpieczeństwem i zakupami
Dwa działania organów w odstępie roku, a po nich rutynowy nadzór.

Prawnik przegląda przy biurku wydrukowany dokument z zasadami, co odzwierciedla przegląd prawny i zgodności stojący za praktyczną polityką prywatności AI.

Flowsery
Flowsery

Rozpocznij 14-dniowy okres próbny

Panel w czasie rzeczywistym

Śledzenie celów

Śledzenie bez cookie

Praktyczna polityka prywatności AI

Przydatna polityka powinna być na tyle krótka, by pracownicy mogli jej przestrzegać, i na tyle konkretna, by zespoły bezpieczeństwa i prawne mogły ją egzekwować.

Uwzględnij:

  • Zatwierdzone narzędzia AI i rodzaje kont
  • Kategorie danych, których nie wolno wprowadzać
  • Zasady dotyczące danych klientów, pracowników, zdrowotnych, finansowych i dzieci
  • Zasady dotyczące kodu źródłowego, sekretów, danych logowania i dokumentów firmowych
  • Wymogi przeglądu w procesach podlegających regulacjom
  • Oczekiwania dotyczące weryfikacji odpowiedzi
  • Zasady przechowywania i eksportu
  • Kroki zgłaszania incydentu po przypadkowym wklejeniu danych wrażliwych

Nie polegaj wyłącznie na szkoleniach. Tam, gdzie to możliwe, dodaj mechanizmy techniczne: SSO, ograniczenia domen, plany dla firm, reguły DLP, logowanie, przechowywanie na poziomie obszaru roboczego i umowy powierzenia z dostawcami.

Czego nie wklejać do asystenta AI

Jeśli nie masz zatwierdzonego środowiska firmowego i udokumentowanej podstawy prawnej, nie wprowadzaj:

  • List klientów, adresów e-mail, numerów telefonów, adresów ani identyfikatorów kont
  • Danych o zdrowiu, finansowych, biometrycznych, o lokalizacji ani dotyczących dzieci
  • Akt kadrowych, ocen pracowniczych, danych o wynagrodzeniach ani dokumentacji dyscyplinarnej
  • Sekretów uwierzytelniania, kluczy API, prywatnych certyfikatów ani zrzutów baz danych
  • Niepublikowanego kodu źródłowego ani poufnych dokumentów strategicznych
  • Umów objętych obowiązkiem poufności
  • Surowych eksportów analitycznych z identyfikatorami użytkowników

Jeśli zadanie wymaga prawdziwych danych, najpierw zastanów się, czy nie możesz użyć przykładów syntetycznych, zagregowanych podsumowań lub tekstu z usuniętymi danymi.

Bezpieczniejsze zastosowania

Zadania AI o niższym ryzyku to między innymi:

  • Tworzenie konspektów publicznych wpisów na bloga
  • Przepisywanie niepoufnych tekstów marketingowych
  • Wyjaśnianie publicznej dokumentacji
  • Generowanie danych testowych, które są wyraźnie syntetyczne
  • Streszczanie zanonimizowanych tematów z ankiet
  • Tworzenie przykładów SQL na fikcyjnym schemacie
  • Sprawdzanie czytelności informacji o prywatności bez przesyłania danych klientów

Nawet wtedy weryfikuj odpowiedzi. Systemy AI mogą halucynować wymogi prawne, wymyślać statystyki lub błędnie podawać warunki produktów.

Lista kontrolna prywatności AI

Dla każdego zatwierdzonego narzędzia AI określ, kto może z niego korzystać, które kategorie danych są zabronione, czy prompty lub odpowiedzi są przechowywane, kto może przeglądać logi i co się dzieje po przypadkowym wklejeniu danych wrażliwych. Połącz politykę z mechanizmami takimi jak SSO, firmowe obszary robocze, reguły DLP, ustawienia przechowywania i przegląd dostawców. Najbezpieczniejszy proces pracy z AI to taki, w którym pracownicy nie muszą zgadywać, czy dany prompt może trafić do narzędzia.

Podsumowanie

Prywatność w ChatGPT nie jest kwestią typu tak lub nie. Odpowiedź zależy od tego, jakie dane wprowadzasz, z jakiego planu korzystasz, czy dostawca używa danych wejściowych do trenowania, jak długo dane są przechowywane, kto ma do nich dostęp i czy organizacja udokumentowała przetwarzanie.

Traktuj asystentów AI jak potężnych dostawców, a nie prywatne brudnopisy. Dzięki jasnym zasadom, zatwierdzonym kontom biznesowym, minimalizacji i przeglądom zespoły mogą produktywnie korzystać z LLM, nie zamieniając każdego promptu w potencjalny incydent naruszenia prywatności.

Najczęściej zadawane pytania

Czy ChatGPT trenuje modele na danych przesłanych przez API?

Dokumentacja platformy OpenAI podaje, że dane wejściowe i wyjściowe API nie są używane do trenowania ani ulepszania modeli, chyba że klient wyrazi na to zgodę. To samo ustawienie domyślne OpenAI stosuje do kont ChatGPT Enterprise, Business, Edu, Healthcare i Teachers, jak wynika z jego strony o prywatności danych biznesowych.

Co włoski organ ochrony danych zrobił z ChatGPT w 2023 roku?

W 2023 roku włoski organ ochrony danych tymczasowo ograniczył przetwarzanie przez ChatGPT, badając kwestie prywatności. Było to jedno z pierwszych konkretnych działań regulacyjnych wobec dużego modelu językowego i sygnał, że organy nadzorcze będą traktować takie narzędzia jak każdy inny podmiot przetwarzający dane.

Co stwierdzono w raporcie grupy zadaniowej EROD ds. ChatGPT?

Raport Europejskiej Rady Ochrony Danych opublikowany w 2024 roku podkreślił, że trudności techniczne nie mogą być ogólnym usprawiedliwieniem ignorowania obowiązków wynikających z RODO. Miał on koordynować podejście różnych organów nadzorczych do wdrożeń LLM, nie tylko tych od OpenAI.

Czy odpowiedzi AI mogą stwarzać ryzyko dla prywatności, nawet gdy dane wejściowe były w porządku?

Tak. Model może podać nieprawdziwe dane osobowe, wywnioskować wrażliwe cechy lub streścić dokument w sposób ujawniający więcej, niż to konieczne, więc sama odpowiedź staje się nowym zapisem wymagającym zasad przechowywania i przeglądu dostępu. Prośba o uszeregowanie pracowników według ryzyka wypalenia na podstawie eksportów czatów to wyraźny przykład odpowiedzi budzącej obawy związane ze zautomatyzowanym podejmowaniem decyzji.

Jakich danych nigdy nie należy wklejać do ChatGPT?

Unikaj list klientów, danych o zdrowiu lub finansowych, akt kadrowych, sekretów uwierzytelniania, niepublikowanego kodu źródłowego i umów objętych obowiązkiem poufności. Dotyczy to sytuacji, gdy nie ma zatwierdzonego środowiska firmowego i udokumentowanej podstawy prawnej. Na tej liście są też surowe eksporty analityczne z identyfikatorami użytkowników.

Flowsery
Flowsery

Rozpocznij 14-dniowy okres próbny

Panel w czasie rzeczywistym

Śledzenie celów

Śledzenie bez cookie

Co powinna zawierać firmowa polityka AI?

Praktyczna polityka wskazuje zatwierdzone narzędzia AI i rodzaje kont, a następnie wymienia kategorie danych, których nie wolno wprowadzać. Określa zasady dla danych podlegających regulacjom, takich jak informacje o zdrowiu, finansowe i dotyczące dzieci, oraz obejmuje weryfikację odpowiedzi, zasady przechowywania i eksportu oraz postępowanie po przypadkowym wklejeniu danych wrażliwych.

Czy są mniej ryzykowne sposoby korzystania z narzędzi AI w pracy?

Mniejszą ekspozycję niosą tworzenie konspektów publicznych wpisów, przepisywanie niepoufnych tekstów marketingowych, generowanie wyraźnie syntetycznych danych testowych i pisanie przykładów SQL na fikcyjnym schemacie. Nawet przy tych zadaniach odpowiedzi trzeba weryfikować, bo systemy AI mogą halucynować wymogi prawne lub wymyślać statystyki.

Czy RODO dotyczy danych używanych do trenowania dużych modeli językowych?

Tak. Administratorzy nadal potrzebują podstawy prawnej, przejrzystości, minimalizacji danych, prawidłowości i sposobu respektowania praw osób, których dane dotyczą, wszędzie tam, gdzie przetwarzane są dane osobowe, nawet jeśli pochodzą one z publicznych stron internetowych lub licencjonowanych źródeł włączonych do zbioru treningowego.

Jakie mechanizmy techniczne pomagają poza pisemną polityką AI?

Same szkolenia nie powstrzymają niebezpiecznego użycia, więc połącz politykę z SSO, ograniczeniami domen, planami dla firm, regułami DLP, logowaniem, przechowywaniem na poziomie obszaru roboczego i umowami powierzenia przetwarzania danych z dostawcami. Te mechanizmy wyłapują to, o czym pracownicy zapominają lub co ignorują.

Dlaczego „wszyscy z tego korzystają” nie jest właściwą polityką AI?

Powszechne użycie to nie to samo co nadzór. Organy nadzorcze oczekują, że korzystanie z AI będzie oceniane razem z prywatnością, bezpieczeństwem, zakupami i zarządzaniem dokumentacją, a organizacja potrzebuje udokumentowanej podstawy prawnej i określonych mechanizmów kontroli, a nie tylko nieformalnych nawyków, zanim pracownicy zaczną wysyłać dane do narzędzia AI.

Czy ten artykuł był pomocny?

Chętnie poznamy opinię!

Częściej widoczni w Google

Jedno kliknięcie ustawia Flowsery jako preferowane źródło, dzięki czemu nasze artykuły pojawiają się wyżej w Najważniejszych artykułach, trybie AI i Przeglądach od AI.

Jeszcze jedno...

Flowsery

Flowsery

Analityka witryny skupiona na przychodach

Każdy odwiedzający, źródło i konwersja w czasie rzeczywistym. Prosto, skutecznie i bez plików cookie.

Panel w czasie rzeczywistym

Śledzenie celów

Śledzenie bez cookie

Powiązane artykuły