Les fake news des IA deviennent si réalistes que des médias s’y trompent

Les fausses nouvelles semblent avoir un bel avenir avec le développement de l’intelligence artificielle. Génération de texte, production d’images, de vidéos ou encore de musiques synthétiques, en 2023, l’IA n’a jamais autant stimulé la création numérique. Une manne d’outils qui n’échappe pas au détournement des nombreux désinformateurs sur le web.

Dernière victime en date, le quotidien irlandais Irish Times. Le journal a relayé une fausse information produite par IA. Intitulé « L’obsession des Irlandaises pour le faux bronzage est problématique », l’article publié jeudi 1er mai 2023 dans la section « opinion » du journal est resté en ligne plusieurs heures.

Une photo de profil synthétique

La publication accusait les Irlandaises utilisant des produits de faux bronzage de se moquer des personnes à la peau naturellement foncée. « Le faux bronzage représente plus qu’un simple choix cosmétique inoffensif ; il soulève des questions d’appropriation culturelle et de fétichisation de la forte teneur en mélanine que l’on trouve chez les personnes plus pigmentées », affirmait notamment son autrice.

Signé d’une certaine Acosta-Cortez — présentée comme une soignante équatorienne de 29 ans — l’article a été vivement critiqué sur les réseaux sociaux. Rapidement, plusieurs internautes ont émis la possibilité qu’Acosta-Cortez n’existe pas et que son profil ait été généré virtuellement. En examinant de près la photo de profil de l’autrice, plusieurs experts ont établi clairement qu’il s’agissait d’une image produite par IA.

Fausse nouvelle, véritable troll

Un jour après la publication de l’article, l’Irish Times a décidé de supprimer le texte polémique et de le remplacer par un disclaimer intrigant : « L’article publié à l’origine sur cette page n’était peut-être pas authentique. » Dans une analyse approfondie publiée dimanche 14 mai, Ruadhán Mac Cormaic, rédacteur en chef du journal, reconnaît qu’une grande partie du texte de la tribune a été générée par IA.

« Il s’agissait d’un canular ; la personne avec laquelle nous correspondions n’était pas celle qu’elle prétendait être. Nous avons été victimes d’une tromperie délibérée et coordonnée », affirme le responsable. Le quotidien parle d’une « lacune » dans ses « procédures de prépublication » et assure que des mesures seront prises afin d’éviter un nouvel incident. Cette erreur met en évidence « l’un des défis posés par l’IA générative aux organismes de presse », constate Ruadhán Mac Cormaic.

« Semer la zizanie »

Le désinformateur derrière le faux profil d’Acosta-Cortez reste anonyme. Cette personne, qui a créé un compte Twitter reprenant le nom de son personnage fictif, affirme au Guardian avoir utilisé GPT-4 pour produire le texte de la tribune et DALL-E 2 pour créer la photo de profil. L’autrice devait ressembler à la vision d’une journaliste « woke », selon ses explications. Le but affiché était de « faire rire » ses amis et « semer la zizanie » dans le débat sur les politiques identitaires.

« Certaines personnes m’ont qualifié de troll de l’alt-right (courant de l’ultra droite américaine, NDLR), mais je ne pense pas que ce soit le cas », affirme-t-il. De son côté, l’Irish Times promet de continuer d’ouvrir ses colonnes aux « nouveaux auteurs, notamment ceux issus de communautés sous-représentées ».

Pour suivre les actualités autour de l’intelligence artificielle, Numerama propose désormais une nouvelle newsletter gratuite, Artificielles. ChatGPT y résume les sujets, vérifiés par la rédaction. Vous pouvez vous abonner via ce formulaire :