Um guia prático de ChatGPT e privacidade de dados

Este guia explica ChatGPT e privacidade de dados na prática, com foco em decisões de analytics que respeitam a privacidade.

Grandes modelos de linguagem mudaram a forma como as pessoas pesquisam, rascunham, resumem, codificam e analisam informações. Eles também mudaram a superfície de risco à privacidade para o trabalho comum.

O erro mais comum é tratar o ChatGPT ou outro assistente AI como um notebook particular. Não é. É um serviço em nuvem que pode processar prompts, arquivos carregados, resultados gerados, metadados de contas e logs de uso sob termos que variam de acordo com o plano do produto.

Os principais riscos de privacidade

1. Os prompts podem conter dados pessoais ou confidenciais

Os funcionários geralmente colam e-mails reais de clientes, tickets de suporte, contratos, transcrições de chamadas, código-fonte, exportações de planilhas, notas médicas ou cenários de RH nas ferramentas AI. Mesmo quando o usuário pretende “apenas resumir”, a entrada pode conter dados pessoais, segredos comerciais ou informações regulamentadas.

A questão da privacidade não é apenas o treinamento de modelos. É também acesso, retenção, revisão de segurança, subprocessadores de fornecedores, descoberta legal, administração de contas e se a organização tinha uma base legal para enviar esses dados ao fornecedor.

2. Planos de consumo e empresariais podem ter controles de dados diferentes

A OpenAI afirma que não treina modelos em dados de negócios por padrão para ChatGPT Enterprise, ChatGPT Business, ChatGPT Edu, ChatGPT for Healthcare, ChatGPT for Teachers e entradas e saídas da plataforma API, de acordo com sua [página de privacidade de dados de negócios] (https://openai.com/business-data/). A documentação da plataforma também diz que os dados do API não são usados ​​para treinar ou melhorar modelos, a menos que o cliente aceite (controles de dados da plataforma OpenAI).

Isso é materialmente diferente do uso não gerenciado pelo consumidor. Configurações do consumidor, chats temporários, histórico da conta e controles de melhoria de modelo podem alterar o perfil de risco. A política da empresa deve, portanto, especificar ferramentas e planos aprovados, e não apenas dizer “AI é permitido”.

3. Os dados de treinamento criam questões GDPR não resolvidas

LLMs geralmente são treinados em grandes conjuntos de dados que podem incluir dados pessoais de páginas públicas da web, fontes licenciadas, interações de usuários ou outros conjuntos de dados. De acordo com a GDPR, os controladores ainda precisam de uma base legal, transparência, minimização de dados, precisão e uma forma de respeitar os direitos dos titulares dos dados onde os dados pessoais são processados.

O relatório do Grupo de Trabalho ChatGPT do Conselho Europeu de Proteção de Dados enfatizou que a dificuldade técnica não pode ser usada como uma razão geral para ignorar as obrigações do GDPR. Esse é um ponto de governança importante para todas as implantações do LLM, não apenas para o OpenAI.

4. As saídas podem vazar ou reconstruir informações confidenciais

Um modelo AI pode produzir informações pessoais incorretas, inferir características confidenciais ou resumir um documento de uma forma que exponha mais do que o necessário. Mesmo que a entrada original fosse legal, a saída gerada pode criar um novo registro que precisa de retenção, controle de acesso e revisão.

Por exemplo, pedir a um assistente que “classifique esses funcionários de acordo com o provável risco de esgotamento” com base nas exportações de chat é muito diferente de pedir que ele reescreva um anúncio público de produto. O primeiro pode criar inferências de emprego sensíveis e preocupações automatizadas na tomada de decisões.

Atenção regulatória é real

Em 2023, a autoridade italiana de proteção de dados limitou temporariamente o processamento do ChatGPT enquanto investigava questões de privacidade. Em 2024, o CEPD publicou o seu relatório do grupo de trabalho para coordenar as abordagens de supervisão. Os reguladores estão prestando atenção porque o LLMs combina processamento de dados em grande escala, opacidade e adoção em massa.

As organizações devem esperar que a governação AI seja revista juntamente com a privacidade, segurança, aquisições e gestão de registos. “Todo mundo está usando” não é um controle.

Uma política de privacidade prática do AI

Uma política útil deve ser curta o suficiente para que os funcionários possam segui-la e específica o suficiente para que as equipes jurídicas e de segurança possam aplicá-la.

Incluir:

• Ferramentas AI e tipos de conta aprovados
• Categorias de dados que não devem ser inseridas
• Regras para dados de clientes, funcionários, saúde, financeiros e crianças
• Regras para código-fonte, segredos, credenciais e documentos proprietários
• Revise os requisitos para fluxos de trabalho regulamentados
• Expectativas de verificação de saída
• Regras de retenção e exportação
• Etapas de relatório de incidentes se dados confidenciais forem colados acidentalmente

Não confie apenas no treinamento. Adicione controles técnicos sempre que possível: SSO, restrições de domínio, planos empresariais, regras DLP, registro em log, retenção em nível de espaço de trabalho e DPAs de fornecedores.

O que não colar em um assistente AI

A menos que você tenha uma configuração empresarial aprovada e uma base legal documentada, evite inserir:

• Listas de clientes, e-mails, números de telefone, endereços ou conta IDs
• Dados de saúde, financeiros, biométricos, de localização ou de crianças
• Arquivos de RH, avaliações de desempenho, dados salariais ou registros disciplinares
• Segredos de autenticação, chaves API, certificados privados ou dumps de banco de dados
• Código-fonte não divulgado ou documentos de estratégia proprietários
• Contratos sob obrigações de confidencialidade
• Exportações de análises brutas contendo identificadores de nível de usuário

Se a tarefa exigir dados reais, primeiro pergunte se você pode usar exemplos sintéticos, resumos agregados ou texto redigido.

Casos de uso mais seguros

As tarefas AI de baixo risco incluem:

• Elaboração de esboços de blogs públicos
• Reescrever textos de marketing não confidenciais
• Explicando a documentação pública
• Gerar dados de teste claramente sintéticos
• Resumindo temas de pesquisa anonimizados
• Criação de exemplos SQL em um esquema falso
• Revisar avisos de privacidade para maior clareza, sem fazer upload de registros de clientes

Mesmo assim, verifique os resultados. Os sistemas AI podem alucinar requisitos legais, inventar estatísticas ou distorcer termos de produtos.

Lista de verificação de privacidade AI

Para cada ferramenta AI aprovada, defina quem pode usá-la, quais categorias de dados são proibidas, se os prompts ou saídas são retidos, quem pode revisar os logs e o que acontece quando dados confidenciais são colados por engano. Combine políticas com controles como SSO, espaços de trabalho corporativos, regras de DLP, configurações de retenção e revisão de fornecedores. O fluxo de trabalho AI mais seguro é aquele em que os funcionários não precisam adivinhar se um prompt pertence à ferramenta.

O resultado final

A privacidade do ChatGPT não é uma questão de sim ou não. Depende dos dados que você insere, do plano que você usa, se o provedor utiliza insumos para treinamento, por quanto tempo os dados são retidos, quem pode acessá-los e se sua organização documentou o processamento.

Trate os assistentes AI como fornecedores poderosos, não como blocos de anotações privados. Com políticas claras, contas comerciais aprovadas, minimização e revisão, as equipes podem usar o LLMs de forma produtiva, sem transformar cada solicitação em um incidente de privacidade esperando para acontecer.