Um guia prático de ChatGPT e privacidade de dados

Colar um trecho de planilha num assistente parece inofensivo até você mapear onde aquilo vai parar: nesse ponto ChatGPT e privacidade de dados deixam de ser tema abstrato.

Grandes modelos de linguagem mudaram a forma como as pessoas pesquisam, rascunham, resumem, codificam e analisam informações. Eles também mudaram a superfície de risco à privacidade para o trabalho comum.

O erro mais comum é tratar o ChatGPT ou outro assistente AI como um notebook particular. Não é. É um serviço em nuvem que pode processar prompts, arquivos carregados, resultados gerados, metadados de contas e logs de uso sob termos que variam de acordo com o plano do produto.

Os principais riscos de privacidade

1. Os prompts podem conter dados pessoais ou confidenciais

Os funcionários colam e-mails reais de clientes, tickets de suporte, contratos, transcrições de chamadas, código-fonte, exportações de planilhas, notas médicas ou cenários de RH nas ferramentas AI. Mesmo quando o usuário pretende “apenas resumir”, a entrada pode conter dados pessoais, segredos comerciais ou informações regulamentadas.

A questão da privacidade não é apenas o treinamento de modelos. É também acesso, retenção, revisão de segurança, subprocessadores de fornecedores, descoberta legal, administração de contas e se a organização tinha uma base legal para enviar esses dados ao fornecedor.

2. Planos de consumo e empresariais podem ter controles de dados diferentes

A OpenAI afirma que não treina modelos em dados de negócios por padrão para ChatGPT Enterprise, ChatGPT Business, ChatGPT Edu, ChatGPT for Healthcare, ChatGPT for Teachers e entradas e saídas da plataforma API, de acordo com sua [página de privacidade de dados de negócios] (https://openai.com/business-data/). A documentação da plataforma também diz que os dados do API não são usados ​​para treinar ou melhorar modelos, a menos que o cliente aceite (controles de dados da plataforma OpenAI).

Isso é materialmente diferente do uso não gerenciado pelo consumidor. Configurações do consumidor, chats temporários, histórico da conta e controles de melhoria de modelo podem alterar o perfil de risco. A política da empresa deve, portanto, especificar ferramentas e planos aprovados, e não apenas dizer “AI é permitido”.

3. Os dados de treinamento criam questões GDPR não resolvidas

LLMs são treinados em grandes conjuntos de dados que podem incluir dados pessoais de páginas públicas da web, fontes licenciadas, interações de usuários ou outros conjuntos de dados. De acordo com a GDPR, os controladores ainda precisam de uma base legal, transparência, minimização de dados, precisão e uma forma de respeitar os direitos dos titulares dos dados onde os dados pessoais são processados.

O relatório do Grupo de Trabalho ChatGPT do Conselho Europeu de Proteção de Dados enfatizou que a dificuldade técnica não pode ser usada como uma razão geral para ignorar as obrigações do GDPR. Esse é um ponto de governança importante para todas as implantações do LLM, não apenas para o OpenAI.

4. As saídas podem vazar ou reconstruir informações confidenciais

Um modelo AI pode produzir informações pessoais incorretas, inferir características confidenciais ou resumir um documento de uma forma que exponha mais do que o necessário. Mesmo que a entrada original fosse legal, a saída gerada pode criar um novo registro que precisa de retenção, controle de acesso e revisão.

Por exemplo, pedir a um assistente que “classifique esses funcionários de acordo com o provável risco de esgotamento” com base nas exportações de chat é muito diferente de pedir que ele reescreva um anúncio público de produto. O primeiro pode criar inferências de emprego sensíveis e preocupações automatizadas na tomada de decisões.

Atenção regulatória é real

Em 2023, a autoridade italiana de proteção de dados limitou temporariamente o processamento do ChatGPT enquanto investigava questões de privacidade. Em 2024, o CEPD publicou o seu relatório do grupo de trabalho para coordenar as abordagens de supervisão. Os reguladores estão prestando atenção porque o LLMs combina processamento de dados em grande escala, opacidade e adoção em massa.

As organizações devem esperar que a governação AI seja revista juntamente com a privacidade, segurança, aquisições e gestão de registos. “Todo mundo está usando” não é um controle.

Uma política de privacidade prática do AI

Uma política útil deve ser curta o suficiente para que os funcionários possam segui-la e específica o suficiente para que as equipes jurídicas e de segurança possam aplicá-la.

Incluir:

• Ferramentas AI e tipos de conta aprovados
• Categorias de dados que não devem ser inseridas
• Regras para dados de clientes, funcionários, saúde, financeiros e crianças
• Regras para código-fonte, segredos, credenciais e documentos proprietários
• Revise os requisitos para fluxos de trabalho regulamentados
• Expectativas de verificação de saída
• Regras de retenção e exportação
• Etapas de relatório de incidentes se dados confidenciais forem colados acidentalmente

Não confie apenas no treinamento. Adicione controles técnicos sempre que possível: SSO, restrições de domínio, planos empresariais, regras DLP, registro em log, retenção em nível de espaço de trabalho e DPAs de fornecedores.

O que não colar em um assistente AI

A menos que você tenha uma configuração empresarial aprovada e uma base legal documentada, evite inserir:

• Listas de clientes, e-mails, números de telefone, endereços ou conta IDs
• Dados de saúde, financeiros, biométricos, de localização ou de crianças
• Arquivos de RH, avaliações de desempenho, dados salariais ou registros disciplinares
• Segredos de autenticação, chaves API, certificados privados ou dumps de banco de dados
• Código-fonte não divulgado ou documentos de estratégia proprietários
• Contratos sob obrigações de confidencialidade
• Exportações de análises brutas contendo identificadores de nível de usuário

Se a tarefa exigir dados reais, primeiro pergunte se você pode usar exemplos sintéticos, resumos agregados ou texto redigido.

Casos de uso mais seguros

As tarefas AI de baixo risco incluem:

• Elaboração de esboços de blogs públicos
• Reescrever textos de marketing não confidenciais
• Explicando a documentação pública
• Gerar dados de teste claramente sintéticos
• Resumindo temas de pesquisa anonimizados
• Criação de exemplos SQL em um esquema falso
• Revisar avisos de privacidade para maior clareza, sem fazer upload de registros de clientes

Mesmo assim, verifique os resultados. Os sistemas AI podem alucinar requisitos legais, inventar estatísticas ou distorcer termos de produtos.

Lista de verificação de privacidade AI

Para cada ferramenta AI aprovada, defina quem pode usá-la, quais categorias de dados são proibidas, se os prompts ou saídas são retidos, quem pode revisar os logs e o que acontece quando dados confidenciais são colados por engano. Combine políticas com controles como SSO, espaços de trabalho corporativos, regras de DLP, configurações de retenção e revisão de fornecedores. O fluxo de trabalho AI mais seguro é aquele em que os funcionários não precisam adivinhar se um prompt pertence à ferramenta.

O resultado final

A privacidade do ChatGPT não é uma questão de sim ou não. A resposta depende dos dados que você insere, do plano que você usa, se o provedor utiliza insumos para treinamento, por quanto tempo os dados são retidos, quem pode acessá-los e se sua organização documentou o processamento.

Trate os assistentes AI como fornecedores poderosos, não como blocos de anotações privados. Com políticas claras, contas comerciais aprovadas, minimização e revisão, as equipes podem usar o LLMs de forma produtiva, sem transformar cada solicitação em um incidente de privacidade esperando para acontecer.

Perguntas Frequentes

O ChatGPT treina com dados enviados pela API?

A documentação da plataforma da OpenAI diz que entradas e saídas da API não são usadas para treinar ou melhorar modelos, a menos que o cliente ative essa opção. É o mesmo padrão que a OpenAI aplica ao ChatGPT Enterprise, Business, Edu, Healthcare e Teachers, segundo sua página sobre privacidade de dados empresariais.

O que a autoridade italiana de proteção de dados fez com o ChatGPT em 2023?

Em 2023 a autoridade italiana de proteção de dados limitou temporariamente o processamento do ChatGPT enquanto investigava questões de privacidade. Foi uma das primeiras medidas regulatórias concretas contra um grande modelo de linguagem e mostrou que as autoridades de supervisão tratariam essas ferramentas como qualquer outro operador de dados.

O que diz o relatório da força-tarefa do ChatGPT do EDPB?

O relatório da força-tarefa do ChatGPT do Comitê Europeu de Proteção de Dados, publicado em 2024, destacou que dificuldade técnica não pode ser usada como desculpa geral para ignorar obrigações do GDPR. O relatório buscava coordenar como diferentes autoridades de supervisão tratam implantações de LLM, não apenas as da OpenAI.

As saídas da IA podem criar riscos de privacidade mesmo quando a entrada era inofensiva?

Sim. Um modelo pode produzir informações pessoais incorretas, inferir traços sensíveis ou resumir um documento de um jeito que exponha mais do que o necessário, fazendo da própria saída um novo registro que precisa de retenção e controle de acesso. Pedir a um assistente que classifique funcionários por risco de burnout a partir de exportações de chat é um exemplo claro de saída que levanta questões de decisão automatizada.

Que dados nunca devem ser colados no ChatGPT?

Evite inserir listas de clientes, dados de saúde ou financeiros, arquivos de RH, segredos de autenticação, código-fonte não lançado ou contratos com obrigações de confidencialidade. Isso vale enquanto não houver uma configuração empresarial aprovada e uma base legal documentada. Exportações brutas de analytics com identificadores no nível do usuário também entram nessa lista.

O que uma política de IA da empresa deve incluir?

Uma política funcional nomeia as ferramentas de IA e os tipos de conta aprovados e, em seguida, lista categorias de dados que não podem ser inseridas. Ela define regras para dados regulados como saúde, finanças e dados de crianças, e cobre a verificação de saídas, regras de retenção e exportação, e o que fazer se dados sensíveis forem colados por engano.

Existem formas de usar IA no trabalho com menos risco?

Redigir esboços de posts de blog públicos, reescrever textos de marketing não confidenciais, gerar dados de teste claramente sintéticos e escrever exemplos de SQL contra um esquema fictício envolvem menos exposição. Mesmo nessas tarefas, é preciso verificar as saídas, porque sistemas de IA podem alucinar exigências legais ou inventar estatísticas.

O GDPR se aplica aos dados usados para treinar grandes modelos de linguagem?

Sim. Os controladores continuam precisando de base legal, transparência, minimização de dados, exatidão e uma forma de respeitar os direitos dos titulares onde quer que dados pessoais sejam processados, mesmo quando esses dados vêm de páginas web públicas ou fontes licenciadas incorporadas a um conjunto de treinamento.

Que controles técnicos ajudam além de uma política de IA escrita?

Treinamento sozinho não impede o uso inseguro, então vale combinar a política com SSO, restrições de domínio, planos empresariais, regras de DLP, registro de logs, retenção no nível do workspace e acordos de processamento de dados com fornecedores. Esses controles capturam o que os funcionários esquecem ou ignoram.

Por que "todo mundo usa" não é uma política de IA válida?

Adoção ampla não é o mesmo que governança. Reguladores esperam que o uso de IA seja revisado junto com privacidade, segurança, compras e gestão de registros, e uma organização precisa de base legal documentada e controles definidos, não apenas de um hábito informal, antes que funcionários enviem dados a uma ferramenta de IA.