ChatGPT risque-t-il d’être mis à la porte de l’Union européenne ? C’est, en creux, le risque que la décision de la Cnil italienne fait planer sur le célèbre chatbot fabriqué par l’entreprise américaine OpenAI. L’institution, Garante per la protezione dei dati personali, vient de publier un communiqué ce 31 mars dénonçant des infractions à la réglementation européenne.
Selon nos constatations, OpenAI a pris la décision, le même jour, de procéder au blocage de ChatGPT pour les internautes se connectant depuis l’Italie. La tentative d’accès au chatbot a engendré un message d’erreur avec une connexion VPN près de Milan. La société n’a pas communiqué sur cette restriction d’accès sur les réseaux sociaux.
Plusieurs manquements sont mentionnés. Par exemple, il n’existe pas de contrôle de l’âge des internautes, alors que le service déclare dans ses mentions légales ne s’adresser qu’aux personnes âgées d’au moins 13 ans. En conséquence, il y a un risque pour que des mineurs tombent sur des « réponses totalement inadaptées à leur niveau de développement et de conscience de soi. »
Des traitements incorrects de données
Autre grief pointé par l’autorité italienne : les informations fournies par ChatGPT ne correspondent pas toujours aux données réelles, ce qui conduit à un traitement inexact de données personnelles. Peut-être l’avez-vous constaté vous-même en expérimentant une recherche sur votre nom avec l’agent conversationnel : l’outil est loin de rendre une copie satisfaisante.
À titre d’exemple, une recherche sur mon nom a fait dire à ChatGPT que j’ai travaillé pour d’autres rédactions (ce qui est faux) et que j’occupe une fonction particulière (également inexact). L’histoire du blog est partiellement juste, mais le nom avancé n’est pas le bon. Le reste de la description est juste. Et si je demande à ChatGPT des infos additionnelles, des erreurs supplémentaires arrivent.
La Cnil italienne pointe aussi un incident de sécurité concernant des conversations entre des internautes et ChatGPT (des titres de discussions ont été mélangées entre utilisateurs). Un incident similaire a également frappé des informations de paiement pour les clients de ChatGPT Plus, la déclinaison premium du service. Des mails et des numéros de téléphone aussi ont été mélangés.
Enfin, l’autorité de protection mentionne des défauts dans le respect du RGPD (Règlement général sur la protection des données) : information insuffisante pour les internautes sur les données collectées et surtout absence de légale justifiant la collecte et le stockage massifs de données personnelles dans le but d’entraîner les algorithmes derrière ChatGPT.
La Cnil italienne réclame un arrêt immédiat
Une enquête est lancée en conséquence, et l’instance appelle OpenAI à arrêter « ChatGPT jusqu’à ce qu’il se conforme à la réglementation en matière de protection de la vie privée ». Elle demande également un arrêt « immédiat » du traitement des données des utilisateurs italiens. Elle laisse par ailleurs vingt jours à OpenAI pour réagir à ses exigences.
La décision, circonscrite à l’Italie, questionne la légalité des traitements de ChatGPT plus largement dans toute l’Union européenne, où s’applique aussi le RGPD. Ainsi, les manquements relevés par la Garante per la protezione dei dati personali sont susceptibles aussi d’être repris par les autres instances, dont la Commission nationale de l’informatique et des libertés en France.
La Cnil dispose d’ailleurs d’une palette d’options pour faire cesser une infraction, si elle est constituée. La plus légère est un rappel à l’ordre, la plus lourde est une amende pouvant s’élever jusqu’à 20 millions d’euros ou 4 % du chiffre d’affaires annuel mondial. Avec également la possibilité d’exiger une limitation définitive du traitement, ou son interdiction.
(mise à jour avec le blocage de ChatGPT en Italie, par OpenAI)
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Abonnez-vous gratuitement à Artificielles, notre newsletter sur l’IA, conçue par des IA, vérifiée par Numerama !
