Un guide pratique de ChatGPT et confidentialité des données

Ce guide explique ChatGPT et confidentialité des données de manière pratique, avec un accent sur les décisions d'analytics respectueuses de la vie privée.

Les grands modèles linguistiques ont changé la façon dont les gens recherchent, rédigent, résument, codent et analysent les informations. Ils ont également modifié la surface des risques liés à la vie privée pour le travail ordinaire.

L'erreur la plus courante consiste à traiter ChatGPT ou un autre assistant IA comme un ordinateur portable privé. Ce n'est pas. Il s'agit d'un service cloud qui peut traiter les invites, les fichiers téléchargés, les sorties générées, les métadonnées de compte et les journaux d'utilisation selon des conditions qui varient selon le plan de produit.

Les principaux risques liés à la vie privée

1. Les invites peuvent contenir des données personnelles ou confidentielles

Les employés collent souvent de vrais e-mails de clients, des tickets d'assistance, des contrats, des transcriptions d'appels, du code source, des exportations de feuilles de calcul, des notes médicales ou des scénarios RH dans des outils d'IA. Même lorsque l'utilisateur a l'intention de « simplement résumer cela », l'entrée peut contenir des données personnelles, des secrets commerciaux ou des informations réglementées.

Le problème de la confidentialité ne concerne pas seulement la formation des modèles. Il s'agit également de l'accès, de la conservation, de l'examen de la sécurité, des sous-traitants du fournisseur, de la découverte juridique, de l'administration des comptes et de la question de savoir si l'organisation disposait d'une base légale pour envoyer ces données au fournisseur.

2. Les plans grand public et professionnels peuvent avoir des contrôles de données différents

OpenAI indique qu'il n'entraîne pas de modèles sur les données d'entreprise par défaut pour les entrées et sorties de la plateforme ChatGPT Enterprise, ChatGPT Business, ChatGPT Edu, ChatGPT for Healthcare, ChatGPT for Teachers et API, selon sa page de confidentialité des données professionnelles. La documentation de sa plate-forme indique également que les données API ne sont pas utilisées pour entraîner ou améliorer les modèles, sauf si le client l'accepte (OpenAI contrôles des données de la plate-forme).

Cela est sensiblement différent d’une utilisation non gérée par les consommateurs. Les paramètres du consommateur, les discussions temporaires, l'historique du compte et les contrôles d'amélioration du modèle peuvent modifier le profil de risque. Une politique d’entreprise doit donc préciser les outils et les plans approuvés, et non seulement dire « l’IA est autorisée ».

3. Les données d'entraînement créent des questions GDPR non résolues

Les LLMs sont souvent formés sur de grands ensembles de données pouvant inclure des données personnelles provenant de pages Web publiques, de sources sous licence, d'interactions d'utilisateurs ou d'autres ensembles de données. Dans le cadre du GDPR, les responsables du traitement ont toujours besoin d'une base légale, de transparence, de minimisation des données, d'exactitude et d'un moyen de respecter les droits des personnes concernées lorsque les données personnelles sont traitées.

Le rapport du groupe de travail ChatGPT du Comité européen de la protection des données a souligné que les difficultés techniques ne peuvent pas être utilisées comme une raison générale pour ignorer les obligations de GDPR. Il s'agit d'un point de gouvernance important pour tous les déploiements LLM, et pas seulement pour OpenAI.

4. Les résultats peuvent divulguer ou reconstruire des informations sensibles

Un modèle d’IA peut produire des informations personnelles incorrectes, déduire des traits sensibles ou résumer un document d’une manière qui en expose plus que nécessaire. Même si l’entrée d’origine était licite, la sortie générée peut créer un nouvel enregistrement qui nécessite une durée de conservation, un contrôle d’accès et une revue.

Par exemple, demander à un assistant de « classer ces employés en fonction du risque probable d'épuisement professionnel » en fonction des exportations de chat est très différent de lui demander de réécrire une annonce publique d'un produit. Les premiers peuvent créer des déductions sensibles en matière d’emploi et des problèmes de prise de décision automatisée.

L'attention réglementaire est réelle

En 2023, l'autorité italienne de protection des données a temporairement limité le traitement de ChatGPT pendant qu'elle enquêtait sur des problèmes de confidentialité. En 2024, le EDPB a publié son rapport de taskforce pour coordonner les approches prudentielles. Les régulateurs y prêtent attention car LLMs combine traitement de données à grande échelle, opacité et adoption massive.

Les organisations doivent s’attendre à ce que la gouvernance de l’IA soit revue parallèlement à la confidentialité, à la sécurité, aux achats et à la gestion des dossiers. "Tout le monde l'utilise" n'est pas un contrôle.

Une politique de confidentialité pratique en matière d'IA

Une politique utile doit être suffisamment courte pour que les employés puissent la suivre et suffisamment spécifique pour que les équipes de sécurité et juridiques puissent l'appliquer.

Inclure:

• Outils d'IA et types de comptes approuvés
• Catégories de données à ne pas saisir
• Règles pour les données des clients, des employés, de la santé, des finances et des enfants
• Règles pour le code source, les secrets, les informations d'identification et les documents propriétaires
• Examiner les exigences relatives aux flux de travail réglementés
• Attentes en matière de vérification des résultats
• Règles de conservation et d’exportation
• Étapes de signalement d'incident si des données sensibles sont collées accidentellement

Ne comptez pas uniquement sur la formation. Ajoutez des contrôles techniques lorsque cela est possible : SSO, restrictions de domaine, plans d'entreprise, règles DLP, journalisation, conservation au niveau de l'espace de travail et DPA des fournisseurs.

Ce qu'il ne faut pas coller dans un assistant IA

Sauf si vous disposez d’une configuration d’entreprise approuvée et d’une base juridique documentée, évitez de saisir :

• Listes de clients, e-mails, numéros de téléphone, adresses ou compte IDs
• Données de santé, financières, biométriques, de localisation ou relatives aux enfants
• Dossiers RH, évaluations de performances, données salariales ou dossiers disciplinaires
• Secrets d'authentification, clés API, certificats privés ou sauvegardes de base de données
• Code source inédit ou documents de stratégie propriétaires
• Contrats soumis à des obligations de confidentialité
• Exportations d'analyses brutes contenant des identifiants au niveau de l'utilisateur

Si la tâche nécessite des données réelles, demandez d'abord si vous pouvez utiliser des exemples synthétiques, des résumés agrégés ou du texte rédigé.

Cas d'utilisation plus sûrs

Les tâches d'IA à faible risque comprennent :

• Rédaction des contours d'un blog public
• Réécriture de textes marketing non confidentiels
• Expliquer la documentation publique
• Générer des données de test clairement synthétiques
• Résumer les thèmes de l'enquête anonymisée
• Création d'exemples SQL contre un faux schéma
• Examiner les avis de confidentialité pour plus de clarté sans télécharger les dossiers des clients

Même dans ce cas, vérifiez les résultats. Les systèmes d’IA peuvent halluciner les exigences légales, inventer des statistiques ou déformer les termes des produits.

Liste de contrôle de confidentialité de l'IA

Pour chaque outil d'IA approuvé, définissez qui peut l'utiliser, quelles catégories de données sont interdites, si les invites ou les résultats sont conservés, qui peut consulter les journaux et que se passe-t-il lorsque des données sensibles sont collées par erreur. Associez la stratégie à des contrôles tels que l'authentification unique, les espaces de travail d'entreprise, les règles DLP, les paramètres de conservation et l'examen des fournisseurs. Le flux de travail d’IA le plus sûr est celui dans lequel les employés n’ont pas à deviner si une invite appartient à l’outil.

L'essentiel

La confidentialité de ChatGPT n’est pas une question de oui ou de non. Cela dépend des données que vous saisissez, du plan que vous utilisez, du fait que le prestataire utilise des intrants pour la formation, de la durée de conservation des données, de qui peut y accéder et si votre organisation a documenté le traitement.

Considérez les assistants IA comme des fournisseurs puissants et non comme des blocs-notes privés. Grâce à des politiques claires, des comptes professionnels approuvés, une minimisation et une révision, les équipes peuvent utiliser LLMs de manière productive sans transformer chaque invite en un incident de confidentialité imminent.