Par principe, on vous recommande de ne pas vous fier à 100 % à l’IA, que ce soit pour les chatbots intelligents (ChatGPT, Gemini, etc.) et les technologies de reconnaissance faciale : ces outils sont loin d’être infaillibles. En plus de leur marge d’erreur considérable, ces programmes peuvent être piratés à votre insu, vous guidant ainsi sur de fausses pistes. Cet « empoisonnement » de l’intelligence artificielle pourrait d’ailleurs s’imposer comme une menace à surveiller attentivement en 2025.
Une étude sur l’IA et la médecine publiée début janvier dans la revue Nature révèle qu’il suffit juste de modifier 0,001 % des données d’entraînement par des informations erronées pour transformer un programme en un outil dangereux, amplifiant le risque d’erreurs médicales.
Avec Bitdefender, votre vie numérique est entre de bonnes mains. Restez à l’abri des escroqueries, des virus et des ransomwares grâce à ses solutions innovantes et discrètes.
Les conséquences seraient encore plus vastes puisque dans le rapport sur les menaces en 2025, publié en décembre par l’entreprise française de cybersécurité HarfangLab, les experts notent que cette technique pourrait permettre « aux adversaires d’influencer les narratifs publics, de perturber les processus de vérification des faits et d’éroder la confiance dans les résultats générés par l’IA. »
Un chatbot piraté pourrait tromper les employés
Comment empoisonne-t-on l’IA ? Les programmes d’intelligence artificielle n’inventent pas grand-chose : ils s’appuient sur de vastes bases de données pour répondre à des tâches spécifiques ou générer du contenu. Si un tiers malveillant venait à corrompre la « nourriture » avec laquelle l’IA s’alimente, c’est-à-dire les données qu’on injecte pour l’entraîner, le système fournirait inévitablement un résultat défectueux.
L’impact nocif pourrait être considérable. « Des modèles de langages intelligents, de plus en plus utilisés par les entreprises, pourraient complètement induire en erreur des employés si ceux-ci ne font pas attention » envisage Pierre Delcher, directeur de la recherche en cybersécurité chez HarfangLab. D’autres scénarios sont imaginés : des systèmes d’IA compromis pourraient délivrer de mauvais conseils médicaux, échouer dans la détection des fraudes financières, ou négliger des menaces précises dans les outils de cybersécurité, cela afin de laisser les attaquants s’infiltrer.
Un char pourrait confondre un tank avec une ambulance
Dans le secteur de la défense aussi, l’empoisonnement de l’IA constitue une problématique à étudier. Fin 2023, le groupe Thales avait remporté un concours organisé par la direction générale de l’Armement après avoir trompé une IA de reconnaissance. Celle-ci était censée reconnaitre des chars et des blindés de l’armée. En modifiant quelques pixels dans l’image analysée par le programme de détection, le char s’est transformé en ambulance aux yeux de l’IA. Et vous connaissez la règle : « ne tirez pas sur l’ambulance ».
On pourrait dire que l’œil humain, lui, en revanche, serait capable de faire la différence en un tank et un véhicule de secours, mais il faut comprendre que les systèmes de détection sont aussi déployés pour des missions plus subtiles comme la détection de drones, qu’il vaudrait mieux éviter de confondre avec un oiseau, surtout en cas d’évènement public.
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Marre des réseaux sociaux ? Rejoignez-nous sur WhatsApp !
