Privacy

ChatGPT en dataprivacy: de risico's van LLM's op het werk

Taras Shynkarenko
Taras Shynkarenko
•Bijgewerkt: •6 min leestijd
ChatGPT en dataprivacy: de risico's van LLM's op het werkChatGPT en dataprivacy: de risico's van LLM's op het werk

TL;DR, kort antwoord

6 min leestijd

Het privacyrisico van LLM's komt voort uit trainingsdata, prompts, output, bewaring, toegangsbeheer en leveranciersvoorwaarden. Organisaties horen consumentengebruik van AI te scheiden van goedgekeurde zakelijke abonnementen, gevoelige input te beperken en de rechtsgrond te documenteren voor alle persoonsgegevens die naar AI-systemen gaan.

Het risico zit zelden in het model zelf. Het zit in wat medewerkers erin plakken, welk abonnement ze gebruiken en of iemand een regel heeft opgesteld vóór de eerste prompt.

Grote taalmodellen hebben veranderd hoe mensen zoeken, schrijven, samenvatten, programmeren en informatie analyseren. Ze hebben ook het privacyrisico van gewoon werk veranderd.

De meest gemaakte fout is ChatGPT of een andere AI-assistent behandelen als een privé-notitieboek. Dat is het niet. Het is een clouddienst die prompts, geüploade bestanden, gegenereerde output, accountmetadata en gebruikslogs kan verwerken onder voorwaarden die per abonnement verschillen.

De belangrijkste privacyrisico's

Een medewerker kopieert tekst uit een document naar een chatvenster op een laptop, het soort alledaagse plakactie dat klant- of vertrouwelijke data in een AI-tool kan brengen.

1. Prompts kunnen persoonlijke of vertrouwelijke data bevatten

Medewerkers plakken echte klantmails, supporttickets, contracten, gesprekstranscripten, broncode, spreadsheetexports, medische notities of HR-situaties in AI-tools. Ook als de gebruiker "dit alleen even wil samenvatten", kan de input persoonsgegevens, bedrijfsgeheimen of gereguleerde informatie bevatten.

Het privacyprobleem zit niet alleen in het trainen van modellen. Het gaat ook om toegang, bewaring, beveiligingsreview, subverwerkers van de leverancier, juridische discovery, accountbeheer en de vraag of de organisatie een rechtsgrond had om die data naar de aanbieder te sturen.

2. Consumenten- en zakelijke abonnementen kunnen verschillende data-instellingen hebben

OpenAI zegt standaard geen modellen te trainen op zakelijke data van ChatGPT Enterprise, ChatGPT Business, ChatGPT Edu, ChatGPT for Healthcare, ChatGPT for Teachers en input en output van het API-platform, volgens de pagina over privacy van zakelijke data. De platformdocumentatie zegt ook dat API-data niet wordt gebruikt om modellen te trainen of te verbeteren, tenzij de klant daarvoor kiest (OpenAI platform data controls).

Dat verschilt wezenlijk van onbeheerd consumentengebruik. Consumenteninstellingen, tijdelijke chats, accountgeschiedenis en instellingen voor modelverbetering kunnen het risicoprofiel veranderen. Een bedrijfsbeleid hoort daarom goedgekeurde tools en abonnementen te noemen, en niet alleen te zeggen "AI is toegestaan".

Data-instellingen voor consumenten vs. zakelijk
Zakelijke en API-abonnementen
  • ChatGPT Enterprise, Business, Edu, Healthcare, Teachers
  • Input en output van de API
  • Standaard niet gebruikt om modellen te trainen
Consumentenaccounts
  • Standaardinstellingen, tijdelijke chats, accountgeschiedenis
  • Instellingen voor modelverbetering verschillen per instelling
  • Ander risicoprofiel dan beheerde abonnementen
De eigen documentatie van OpenAI trekt deze lijn tussen beheerde abonnementen en consumentenabonnementen.

3. Trainingsdata roept onopgeloste AVG-vragen op

LLM's worden getraind op grote datasets die persoonsgegevens kunnen bevatten uit openbare webpagina's, gelicentieerde bronnen, gebruikersinteracties of andere datasets. Onder de AVG hebben verwerkingsverantwoordelijken nog steeds een rechtsgrond, transparantie, dataminimalisatie, juistheid en een manier nodig om de rechten van betrokkenen te respecteren waar persoonsgegevens worden verwerkt.

Het rapport van de ChatGPT-taskforce van het Europees Comité voor gegevensbescherming benadrukte dat technische moeilijkheid geen algemene reden mag zijn om AVG-verplichtingen te negeren. Dat is een belangrijk governancepunt voor alle LLM-toepassingen, niet alleen voor OpenAI.

4. Output kan gevoelige informatie lekken of reconstrueren

Een AI-model kan onjuiste persoonsgegevens produceren, gevoelige kenmerken afleiden of een document zo samenvatten dat er meer wordt blootgelegd dan nodig. Ook als de oorspronkelijke input rechtmatig was, kan de gegenereerde output een nieuw gegeven opleveren dat bewaring, toegangsbeheer en review vraagt.

Een assistent vragen om "deze medewerkers te rangschikken op waarschijnlijk burn-outrisico" op basis van chatexports is iets heel anders dan hem vragen een openbare productaankondiging te herschrijven. Het eerste kan gevoelige afleidingen over werknemers opleveren en vragen oproepen over geautomatiseerde besluitvorming.

Toezichthouders letten echt op

In 2023 beperkte de Italiaanse privacytoezichthouder tijdelijk de verwerking door ChatGPT terwijl ze privacykwesties onderzocht. In 2024 publiceerde de EDPB haar taskforcerapport om de aanpak van toezichthouders te coördineren. Toezichthouders letten op omdat LLM's grootschalige dataverwerking, ondoorzichtigheid en massale adoptie combineren.

Organisaties moeten erop rekenen dat AI-governance samen met privacy, beveiliging, inkoop en archiefbeheer wordt beoordeeld. "Iedereen gebruikt het" is geen beheersmaatregel.

Toezichthouders gingen opletten
2023: Italiaanse toezichthouder beperkt ChatGPT
2024: EDPB publiceert taskforcerapport
Doorlopend: AI beoordeeld samen met privacy, beveiliging, inkoop
Twee acties van toezichthouders met twee jaar ertussen, gevolgd door het routinematige toezicht dat daarna komt.

Een jurist bekijkt aan een bureau een geprint beleidsdocument, als weergave van de juridische en compliancereview achter een werkbaar AI-privacybeleid.

Flowsery
Flowsery

Start je gratis proefperiode van 14 dagen

Realtime dashboard

Doelen bijhouden

Tracking zonder cookies

Een praktisch AI-privacybeleid

Een bruikbaar beleid is kort genoeg dat medewerkers het kunnen volgen en specifiek genoeg dat beveiligings- en juridische teams het kunnen handhaven.

Neem op:

  • Goedgekeurde AI-tools en accounttypen
  • Datacategorieën die niet mogen worden ingevoerd
  • Regels voor data van klanten, medewerkers, gezondheid, financiën en kinderen
  • Regels voor broncode, secrets, inloggegevens en bedrijfseigen documenten
  • Reviewvereisten voor gereguleerde werkstromen
  • Verwachtingen voor het controleren van output
  • Regels voor bewaring en export
  • Stappen om een incident te melden als er per ongeluk gevoelige data is geplakt

Vertrouw niet alleen op training. Voeg waar mogelijk technische maatregelen toe: SSO, domeinbeperkingen, enterprise-abonnementen, DLP-regels, logging, bewaarinstellingen per workspace en verwerkersovereenkomsten met leveranciers.

Wat je niet in een AI-assistent plakt

Vermijd zonder goedgekeurde enterprise-opzet en gedocumenteerde rechtsgrond het invoeren van:

  • Klantenlijsten, e-mailadressen, telefoonnummers, adressen of account-ID's
  • Data over gezondheid, financiën, biometrie, locatie of kinderen
  • HR-dossiers, beoordelingen, salarisgegevens of disciplinaire dossiers
  • Authenticatiesecrets, API-sleutels, privécertificaten of databasedumps
  • Niet-gepubliceerde broncode of bedrijfseigen strategiedocumenten
  • Contracten met geheimhoudingsverplichtingen
  • Ruwe analyticsexports met identifiers op gebruikersniveau

Vraagt de taak om echte data, ga dan eerst na of je synthetische voorbeelden, geaggregeerde samenvattingen of geredigeerde tekst kunt gebruiken.

Veiligere toepassingen

AI-taken met een lager risico zijn onder meer:

  • Opzetten maken voor openbare blogposts
  • Niet-vertrouwelijke marketingteksten herschrijven
  • Openbare documentatie uitleggen
  • Testdata genereren die duidelijk synthetisch is
  • Thema's uit geanonimiseerde enquêtes samenvatten
  • SQL-voorbeelden maken op een nepschema
  • Privacyverklaringen op helderheid controleren zonder klantgegevens te uploaden

Controleer ook dan de output. AI-systemen kunnen wettelijke eisen verzinnen, statistieken bedenken of productvoorwaarden verkeerd weergeven.

AI-privacychecklist

Leg per goedgekeurde AI-tool vast wie hem mag gebruiken, welke datacategorieën verboden zijn, of prompts of output worden bewaard, wie logs mag inzien en wat er gebeurt als er per ongeluk gevoelige data wordt geplakt. Combineer beleid met maatregelen zoals SSO, enterprise-workspaces, DLP-regels, bewaarinstellingen en leveranciersreview. De veiligste AI-werkwijze is die waarin medewerkers niet hoeven te raden of een prompt in de tool thuishoort.

Waar het op neerkomt

Privacy bij ChatGPT is geen ja-of-neevraag. Het antwoord hangt af van welke data je invoert, welk abonnement je gebruikt, of de aanbieder input voor training gebruikt, hoe lang data wordt bewaard, wie er toegang toe heeft en of je organisatie de verwerking heeft gedocumenteerd.

Behandel AI-assistenten als krachtige leveranciers, niet als privé-kladblokken. Met duidelijk beleid, goedgekeurde zakelijke accounts, minimalisatie en review kunnen teams LLM's productief gebruiken zonder van elke prompt een privacyincident in wording te maken.

Veelgestelde vragen

Traint ChatGPT op data die via de API wordt verstuurd?

De platformdocumentatie van OpenAI zegt dat input en output van de API niet worden gebruikt om modellen te trainen of te verbeteren, tenzij de klant daarvoor kiest. Dat is dezelfde standaard die OpenAI toepast op accounts van ChatGPT Enterprise, Business, Edu, Healthcare en Teachers, volgens de pagina over privacy van zakelijke data.

Wat deed de Italiaanse privacytoezichthouder in 2023 met ChatGPT?

In 2023 beperkte de Italiaanse privacytoezichthouder tijdelijk de verwerking door ChatGPT terwijl ze privacykwesties onderzocht. Het was een van de eerste concrete acties van een toezichthouder tegen een groot taalmodel en liet zien dat toezichthouders deze tools als elke andere dataverwerker zouden behandelen.

Wat zei het rapport van de ChatGPT-taskforce van de EDPB?

Het rapport van de ChatGPT-taskforce van het Europees Comité voor gegevensbescherming, gepubliceerd in 2024, benadrukte dat technische moeilijkheid geen algemeen excuus mag zijn om AVG-verplichtingen te negeren. Het rapport moest de aanpak van verschillende toezichthouders bij LLM-toepassingen coördineren, niet alleen die van OpenAI.

Kan AI-output privacyrisico's opleveren, ook als de input in orde was?

Ja. Een model kan onjuiste persoonsgegevens produceren, gevoelige kenmerken afleiden of een document zo samenvatten dat er meer wordt blootgelegd dan nodig, waardoor de output zelf een nieuw gegeven wordt dat bewaring en toegangsreview vraagt. Een assistent vragen medewerkers op burn-outrisico te rangschikken op basis van chatexports is een duidelijk voorbeeld van output die vragen over geautomatiseerde besluitvorming oproept.

Welke data plak je nooit in ChatGPT?

Voer geen klantenlijsten, gezondheids- of financiële data, HR-dossiers, authenticatiesecrets, niet-gepubliceerde broncode of contracten met geheimhoudingsverplichtingen in. Dat geldt tenzij er een goedgekeurde enterprise-opzet en een gedocumenteerde rechtsgrond is. Ruwe analyticsexports met identifiers op gebruikersniveau horen ook op die lijst.

Flowsery
Flowsery

Start je gratis proefperiode van 14 dagen

Realtime dashboard

Doelen bijhouden

Tracking zonder cookies

Wat hoort er in een AI-beleid van een bedrijf?

Een werkbaar beleid noemt de goedgekeurde AI-tools en accounttypen en somt daarna de datacategorieën op die niet mogen worden ingevoerd. Het stelt regels voor gereguleerde data zoals gezondheids-, financiële en kindergegevens, en behandelt het controleren van output, regels voor bewaring en export en wat je doet als er per ongeluk gevoelige data wordt geplakt.

Zijn er manieren om AI-tools op het werk met minder risico te gebruiken?

Opzetten voor openbare blogposts maken, niet-vertrouwelijke marketingteksten herschrijven, duidelijk synthetische testdata genereren en SQL-voorbeelden op een nepschema schrijven brengen allemaal minder blootstelling mee. Ook bij deze taken moet je de output controleren, want AI-systemen kunnen wettelijke eisen verzinnen of statistieken bedenken.

Geldt de AVG voor data die wordt gebruikt om grote taalmodellen te trainen?

Ja. Verwerkingsverantwoordelijken hebben nog steeds een rechtsgrond, transparantie, dataminimalisatie, juistheid en een manier om de rechten van betrokkenen te respecteren nodig waar persoonsgegevens worden verwerkt, ook als die data uit openbare webpagina's of gelicentieerde bronnen in een trainingsset terechtkomt.

Welke technische maatregelen helpen naast een geschreven AI-beleid?

Training alleen houdt onveilig gebruik niet tegen, dus combineer het beleid met SSO, domeinbeperkingen, enterprise-abonnementen, DLP-regels, logging, bewaarinstellingen per workspace en verwerkersovereenkomsten met leveranciers. Deze maatregelen vangen op wat medewerkers vergeten of negeren.

Waarom is "iedereen gebruikt het" geen geldig AI-beleid?

Brede adoptie is niet hetzelfde als governance. Toezichthouders verwachten dat AI-gebruik samen met privacy, beveiliging, inkoop en archiefbeheer wordt beoordeeld, en een organisatie heeft een gedocumenteerde rechtsgrond en vastgelegde maatregelen nodig, niet alleen een informele gewoonte, voordat medewerkers data naar een AI-tool sturen.

Was dit artikel nuttig?

Laat ons weten wat je ervan vindt!

Zie ons vaker in Google

Met één klik markeer je Flowsery als voorkeursbron, zodat onze artikelen hoger staan in je Topverhalen, AI-modus en AI-overzichten.

Voordat je gaat...

Flowsery

Flowsery

Analytics voor je website, met omzet voorop

Volg elke bezoeker, bron en conversie in realtime. Eenvoudig, krachtig en zonder cookies.

Realtime dashboard

Doelen bijhouden

Tracking zonder cookies

Gerelateerde artikelen