Votre chatbot dopé à l’IA met-il en danger votre bureau ? L’adoption de nombreux outils basés sur l’intelligence artificielle dans les entreprises et les administrations a créé de nouveaux risques pour la sécurité du réseau. Des entreprises comme Samsung interdisent aujourd’hui l’utilisation de ChatGPT en interne avec de bonnes raisons : des ingénieurs de la division semi-conducteurs avaient utilisé l’agent conversationnel en lui fournissant un code source confidentiel qu’ils voulaient améliorer. On peut aussi citer la ville de Montpellier qui a appliqué les mêmes consignes et blocages sur les postes des employés de la municipalité. La crainte serait toujours la même : les employés fournissent trop d’infos sensibles à ChatGPT.
De nombreux grands groupes ont dès lors privilégié une approche différente : développer leur propre intelligence artificielle interne, à partir des bases « entreprise » de ChatGPT ou Claude. Des données hébergées parfois localement, des employés qui optimisent l’outil interne, tout semble impeccable en théorie. Sauf que cet outil, comme d’autres, est piratable. Et le gain peut être d’autant plus intéressant une fois que le cybercriminel aura dérobé un accès à ce programme offert à tous les salariés.
Concrètement, quels sont les risques ? « Si un pirate a accès au compte professionnel d’un chatbot populaire, il pourra retrouver des documents sensibles transférés à celui-ci ou encore l’historique des discussions », nous explique Adrien Merveille, expert en cybersécurité chez Check Point. « Un programme développé en interne n’est pas à l’abri non plus. Le cybercriminel peut tenter un code poisoning (un empoisonnement de code) afin de modifier les résultats produits par une IA et causer un tort à l’entreprise » ajoute le spécialiste. Une société qui analyserait des images de caméra pourrait par exemple être trompée dans les analyses fournies par son programme.
Des modules pour bloquer les requêtes vers ChatGPT
Avec U-Cyber 360°, la société française Mailinblack vous permet de protéger votre organisation et d’éduquer vos collaborateurs à la cybersécurité.
Du gestionnaire de mots de passe à la sécurisation des e-mails en passant par la formation continue ou les simulations d’attaques, cette solution regroupe tous les outils pour prévenir les risques cyber.
Des solutions commencent à émerger pour sécuriser ces nouveaux outils internes. L’entreprise Check Point propose aujourd’hui des modules sur les moteurs de recherche pour bloquer les requêtes d’un employé sur ChatGPT dès lors qu’il divulgue des infos privées.
Si vous demandez une synthèse à partir des résultats des différentes branches de l’entreprise, celle-ci sera bloquée puisqu’elle contient des informations considérées comme sensible.
L’ANSSI, la sentinelle chargée de la protection numérique de l’administration française, s’est également penchée sur le sujet et a fourni au printemps dernier un livret en ligne pour sécuriser l’utilisation de l’IA en entreprise.
« L’erreur la plus primaire est de croire que l’intelligence artificielle est un sujet à part, au point d’oublier que les règles de sécurité ne s’appliquent pas à son utilisation » avertit Vincent Strubel, directeur général de l’ANSSI. « On constate quelques erreurs de pratiques, des IA qui se rafraichissent d’elle-même en ligne, qui ne sont pas surveillées… avant de laisser le programme prendre une décision, on recommande de bien la maîtriser » nous explique-t-il.
Pour avancer l’ANSSI réfléchirait à des labels pour utiliser des programmes d’intelligence artificielle sécurisée. Ces certifications nationales existent déjà pour les solutions de cybersécurité, reste encore à trouver les critères pour une IA sûre.
En attendant, vous pouvez toujours demander à ChatGPT de ne pas garder l’historique des discussions pour éviter de nourrir son IA.
Les abonnés Numerama+ offrent les ressources nécessaires à la production d’une information de qualité et permettent à Numerama de rester gratuit.
Zéro publicité, fonctions avancées de lecture, articles résumés par l’I.A, contenus exclusifs et plus encore. Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Vous voulez tout savoir sur la mobilité de demain, des voitures électriques aux VAE ? Abonnez-vous dès maintenant à notre newsletter Watt Else !
