Una guía práctica de ChatGPT y la privacidad de los datos

Esta guía explica ChatGPT y la privacidad de los datos de forma práctica, con un enfoque en decisiones de analítica respetuosas con la privacidad.

Los grandes modelos de lenguaje cambiaron la forma en que las personas buscan, redactan, resumen, codifican y analizan información. También cambiaron la superficie de riesgo de privacidad para el trabajo ordinario.

El error más común es tratar al ChatGPT u otro asistente de IA como un cuaderno privado. No lo es. Es un servicio en la nube que puede procesar indicaciones, archivos cargados, resultados generados, metadatos de cuentas y registros de uso bajo términos que varían según el plan del producto.

Los principales riesgos de privacidad

1. Las indicaciones pueden contener datos personales o confidenciales

Los empleados suelen pegar correos electrónicos de clientes reales, tickets de soporte, contratos, transcripciones de llamadas, códigos fuente, exportaciones de hojas de cálculo, notas médicas o escenarios de recursos humanos en herramientas de inteligencia artificial. Incluso cuando el usuario pretende "simplemente resumir esto", la entrada puede contener datos personales, secretos comerciales o información regulada.

La cuestión de la privacidad no es solo la formación de modelos. También es el acceso, la retención, la revisión de seguridad, los subprocesadores del proveedor, el descubrimiento legal, la administración de la cuenta y si la organización tenía una base legal para enviar esos datos al proveedor.

2. Los planes para consumidores y empresas pueden tener diferentes controles de datos

OpenAI dice que no entrena modelos en datos comerciales de forma predeterminada para ChatGPT Enterprise, ChatGPT Business, ChatGPT Edu, ChatGPT for Healthcare, ChatGPT for Teachers y API entradas y salidas de la plataforma, según sus datos comerciales página de privacidad. La documentación de su plataforma también dice que los datos API no se utilizan para entrenar o mejorar modelos a menos que el cliente opte por participar (controles de datos de plataforma OpenAI).

Esto es materialmente diferente del uso no controlado por parte del consumidor. La configuración del consumidor, los chats temporales, el historial de la cuenta y los controles de mejora del modelo pueden cambiar el perfil de riesgo. Por lo tanto, una política empresarial debe especificar las herramientas y planes aprobados, no simplemente decir "la IA está permitida".

3. Los datos de capacitación crean preguntas GDPR sin resolver

Los LLMs suelen estar capacitados en grandes conjuntos de datos que pueden incluir datos personales de páginas web públicas, fuentes autorizadas, interacciones de usuarios u otros conjuntos de datos. Según el GDPR, los controladores aún necesitan una base legal, transparencia, minimización de datos, precisión y una forma de respetar los derechos de los interesados ​​cuando se procesan datos personales.

El [informe del grupo de trabajo ChatGPT] (https://www.edpb.europa.eu/system/files/2024-05/edpb_20240523_report_chatgpt_taskforce_en.pdf) de la Junta Europea de Protección de Datos enfatizó que la dificultad técnica no puede usarse como una razón general para ignorar las obligaciones de GDPR. Este es un punto de gobernanza importante para todas las implementaciones de LLM, no solo para OpenAI.

4. Los resultados pueden filtrar o reconstruir información confidencial

Un modelo de IA puede producir información personal incorrecta, inferir rasgos sensibles o resumir un documento de una manera que exponga más de lo necesario. Incluso si la entrada original fuera legal, la salida generada puede crear un nuevo registro que necesite retención, control de acceso y revisión.

Por ejemplo, pedirle a un asistente que "califique a estos empleados según su posible riesgo de agotamiento" basándose en las exportaciones de chat es muy diferente a pedirle que reescriba un anuncio público de un producto. Lo primero puede crear inferencias laborales sensibles y preocupaciones sobre la toma de decisiones automatizada.

La atención regulatoria es real

En 2023, la autoridad italiana de protección de datos limitó temporalmente el tratamiento de ChatGPT mientras investigaba problemas de privacidad. En 2024, el CEPD publicó tu informe del grupo de trabajo para coordinar los enfoques de supervisión. Los reguladores están prestando atención porque LLMs combina tratamiento de datos a gran escala, opacidad y adopción masiva.

Las organizaciones deben esperar que se revise la gobernanza de la IA junto con la privacidad, la seguridad, las adquisiciones y la gestión de registros. "Todo el mundo lo está usando" no es un control.

Una política de privacidad práctica de IA

Una política útil debe ser lo suficientemente breve para que los empleados puedan seguirla y lo suficientemente específica para que los equipos legales y de seguridad puedan hacerla cumplir.

Incluye:

• Herramientas de IA y tipos de cuentas aprobados
• Categorías de datos que no deben introducirse
• Reglas para datos de clientes, empleados, de salud, financieros y de niños.
• Reglas para código fuente, secretos, credenciales y documentos de propiedad.
• Revisar los requisitos para los flujos de trabajo regulados.
• Expectativas de verificación de salida.
• Normas de conservación y exportación.
• Pasos para informar incidentes si se pegan datos confidenciales accidentalmente

No te fíes solo del entrenamiento. Agrega controles técnicos siempre que sea posible: SSO, restricciones de dominio, planes empresariales, reglas DLP, registros, retención a nivel de espacio de trabajo y DPA de proveedores.

Qué no pegar en un asistente de IA

A menos que tenga una configuración empresarial aprobada y una base legal documentada, evite ingresar:

• Listas de clientes, correos electrónicos, números de teléfono, direcciones o ID de cuentas
• Datos de salud, financieros, biométricos, de ubicación o de niños.
• Archivos de recursos humanos, revisiones de desempeño, datos salariales o registros disciplinarios.
• Secretos de autenticación, claves API, certificados privados o volcados de bases de datos
• Código fuente inédito o documentos de estrategia propietarios
• Contratos bajo obligaciones de confidencialidad
• Exportaciones de análisis sin procesar que contienen identificadores a nivel de usuario

Si la tarea requiere datos reales, primero pregunta si puede utilizar ejemplos sintéticos, resúmenes agregados o texto redactado.

Casos de uso más seguros

Las tareas de IA de menor riesgo incluyen:

• Redacción de esquemas de blogs públicos.
• Reescribir textos de marketing no confidenciales.
• Explicar la documentación pública.
• Generar datos de prueba que sean claramente sintéticos.
• Resumir temas de encuestas anonimizados
• Creación de ejemplos SQL contra un esquema falso
• Revisar los avisos de privacidad para mayor claridad sin cargar registros de clientes

Incluso entonces, verifique los resultados. Los sistemas de inteligencia artificial pueden alucinar requisitos legales, inventar estadísticas o tergiversar términos de productos.

Lista de verificación de privacidad de IA

Para cada herramienta de IA aprobada, defina quién puede usarla, qué categorías de datos están prohibidas, si se conservan las indicaciones o los resultados, quién puede revisar los registros y qué sucede cuando se pegan datos confidenciales por error. Combine la política con controles como SSO, espacios de trabajo empresariales, reglas de DLP, configuraciones de retención y revisión de proveedores. El flujo de trabajo de IA más seguro es aquel en el que los empleados no tienen que adivinar si un mensaje pertenece a la herramienta.

El resultado final

ChatGPT la privacidad no es una pregunta de sí o no. Depende de qué datos ingrese, qué plan utilice, si el proveedor utiliza insumos para la capacitación, cuánto tiempo se conservan los datos, quién puede acceder a ellos y si tu organización ha documentado el tratamiento.

Trata a los asistentes de IA como proveedores poderosos, no como blocs de notas privados. Con políticas claras, cuentas comerciales aprobadas, minimización y revisión, los equipos pueden usar LLMs de manera productiva sin convertir cada aviso en un incidente de privacidad esperando a suceder.