Un dimanche après-midi, alors qu’il se perdait sur Instagram, Ulysse Thevenon, un journaliste, est tombé sur une publicité pour un pull. « Je le trouvais très beau, je me suis dit que ça pourrait faire un super cadeau de Noël », raconte-t-il aujourd’hui au téléphone à Numerama, en louant ses couleurs vives et son design unique. Séduit, il clique sur la publication et trouve des dizaines de vêtements du même genre.
Mais quelque chose cloche avec ces pulls. Bien qu’ils aient l’air de très bonne qualité, avec du relief et beaucoup de détails, les prix affichés ne collent pas. « Ils étaient à 29 euros pour les enfants, et 45 pour les adultes. On a trouvé ça dingue, parce que le travail avait l’air hyper soigné. » C’est ce qui lui met en premier la puce à l’oreille. En y regardant mieux, des détails sur les images ne collent pas : « Il y a un truc qui ne va pas sur son pantalon, et sur l’autre la texture des cheveux est étrange. »
Une conclusion s’impose : le pull et les photos ont été réalisés par une intelligence artificielle. Ulysse a mis le doigt sur une « arnaque d’un nouveau genre », comme il l’explique sur X (anciennement Twitter), dès le 6 novembre 2023.
Un nouveau type d’arnaque réalisé avec de l’intelligence artificielle
Dire que les arnaques sont courantes sur internet serait un euphémisme. Il en existe de toutes sortes, qu’il s’agisse de faux sites sponsorisés sur Google Shopping, ou encore de produits de mauvaise qualité vendus à un tarif très élevé sur des sites de dropshipping. Mais l’arrivée d’intelligences artificielles génératives, telles que ChatGPT ou Midjourney, change encore plus la donne.
On avait déjà remarqué l’existence de campagnes de phishing utilisant des images réalisées par IA, et que YouTube était envahi d’arnaques promues par des vidéos réalisées par IA. Mais avec ces publicités, c’est encore une nouvelle étape qui a été franchie. Midjourney rend désormais les arnaques encore plus faciles à monter, et encore plus réalistes : tout le monde peut créer des images parfaitement crédibles de vêtements, et de les mettre en vente sur Internet.
Derrière, les clients ne recevront que de pâles imitations des biens mis en vente, loin des images générées par IA — s’ils reçoivent quelque chose, tout court. C’est d’ailleurs exactement ce qu’il s’est passé pour des clients de Ccmom, l’entreprise à l’origine de la campagne de pub qu’Ulysse a vu. Sur Sitejabber ou Trustpilot, de nombreux internautes laissent entendre leur mécontentement et se plaignent des différences entre les pubs et les vêtements reçus, photos à l’appui. Ils sont également nombreux à expliquer toujours attendre leur colis, des mois après leur commande.
D’autant plus que Ccmom n’est pas le seul site à utiliser cette tactique : une recherche d’image inversée permet de retrouver que certains modèles sont vendus sur d’autres places marchandes, et qu’un canal Telegram en fait la promotion. Plus inquiétant, en tapant des descriptions pour les pulls vendus sur le site, Numerama a trouvé des annonces Google Shopping mettant en avant ces produits. Ccmom a également lancé un grand nombre de campagnes publicitaires sur Instagram depuis le mois d’août 2023.
Temu vend des milliers de ces objets
Contactés, Instagram et Google Shopping n’avaient pas encore répondu au moment de la publication de cet article. Mais il n’y a pas que ces deux plateformes qui sont concernées. On voit déjà les IA à l’œuvre sur certaines places de marché peu regardantes, mais très fréquentées, comme Temu.
L’app chinoise, qui est l’une des plus téléchargées au monde et revendique des centaines de millions de clients, est déjà critiquée pour son aspect addictif et pour son utilisation des données de ses utilisateurs. Numerama a aussi trouvé plusieurs produits vendus sur l’app utilisant des photos générées par IA sur leurs annonces. C’est notamment le cas pour des objets d’ornementation en forme de coq, qui ont été repérés par un autre journaliste utilisateur de Twitter.
Ces décorations font partie d’une collection, dont un grand nombre de pièces semble avoir été générées par IA. Les images ont été faites avec Midjourney, et ça se voit : l’un des chats sur une boule de Noël a cinq pattes, et l’image d’un pendentif pour voiture comporte un gros défaut. La marque qui vend ces objets aurait déjà écoulé plus de 11 000 pièces, d’après les données de Temu.
Là aussi, difficile de dire ce que les clients reçoivent véritablement une fois la commande passée. Une vidéo disponible sur la page Temu du revendeur montre un unboxing d’une boule de Noël bien réelle, mais qui ne correspond à aucun des modèles vendus.
« Bien que l’on puisse s’inquiéter du fait que les images générées par l’IA puissent induire les consommateurs en erreur, Temu prend des mesures importantes pour garantir la confiance et la satisfaction de ses clients », nous a répondu l’entreprise, contactée par Numerama. « Notre programme complet de protection des achats offre une protection à nos acheteurs, en veillant à ce qu’ils reçoivent des produits qui correspondent à la description et à la qualité promises dans l’annonce. En cas de divergence, y compris en cas de problèmes de livraison ou de non-concordance avec la description, les clients ont le droit d’être remboursés. Cette politique est notre façon de maintenir la transparence et la satisfaction des clients malgré l’utilisation avant-gardiste de la technologie sur notre marché. »
Temu note cependant que « l’intégration de l’IA dans la génération d’images de produits est un développement innovant dans le commerce électronique et est pratiquée par les principales plateformes de commerce électronique, notamment Amazon ». L’entreprise assume d’ailleurs de fournir à ses revendeurs des outils de génération d’image par intelligence artificielle. « Chez Temu, nous fournissons à nos vendeurs un outil de génération d’images qui permet de conserver l’authenticité et l’exactitude des représentations de produits. En créant des images aussi attrayantes que précises, nous nous efforçons de répondre aux attentes des consommateurs et d’aider nos vendeurs à présenter leurs produits en toute sincérité. Le rapport coût-efficacité de cet outil permet à nos marchands de présenter leurs produits à des prix compétitifs en réduisant les dépenses, y compris les frais de mannequins, de photographes, de location de studio et de logistique. »
Une arnaque très facile à monter
Même si l’utilisation d’images générées par intelligence artificielle n’est pas proscrite per se sur les sites marchands, la pratique reste moralement douteuse. Dans certains cas, l’utilisation d’images mensongères sur la nature de l’objet que recevront véritablement les clients peut même constituer une pratique commerciale trompeuse, car elle « crée une confusion avec un autre bien ou service. »
La pratique risque de devenir de plus en plus courante — notamment parce qu’elle est très facile à mettre en place. Les intelligences artificielles génératives telles que Midjourney sont accessibles gratuitement et sont extrêmement faciles à utiliser — et ce même quand on ne sait pas écrire de prompts, grâce à une fonction de l’IA qui permet de les générer automatiquement.
Ulysse a ainsi pu reproduire les images de faux pulls aisément. « Avec la fonction Describe, Midjourney m’a donné 4 prompts, inspirés des photos des faux pulls », explique-t-il. « Ça m’a pris moins de 5 minutes, c’est vraiment assez bluffant la facilité avec laquelle les arnaqueurs peuvent le faire. » Au vu de l’accessibilité de ces outils, les consommateurs sur Internet doivent, plus que jamais, rester sur leurs gardes au moment de réaliser leur achat — surtout qu’il va devenir de plus en plus difficile de différencier les images générées par IA de véritables photos.
« C’est un nouveau type d’arnaque », reprend Ulysse, « et c’est absolument évident qu’il va y en avoir de plus en plus. C’est important de savoir qu’il faut se méfier, c’est pour ça que j’en ai parlé sur X. » La traque aux faux produits ne fait que commencer.
Mise à jour du 9 novembre 2023 : L’article a été mis à jour afin d’ajouter la réponse de Temu.
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Abonnez-vous à Numerama sur Google News pour ne manquer aucune info !
