La création d’images par IA est détournée depuis le lancement des premières plateformes dédiées, entraînant des abus qui sont encore plus choquants lorsqu’un hacker décide de les révéler au grand jour. Le média 404 a pu fouiller dans les fichiers mis en ligne par un pirate et dévoile quelques-unes des requêtes dans un article publié ce 8 octobre.
La plateforme en question, Muah.ai, permet de générer, avec l’intelligence artificielle, des « partenaires virtuels » avec lesquels l’utilisateur peut interagir et lancer des scénarios sexuels. Un pirate s’est infiltré dans l’infrastructure de ce site pour en exfiltrer les données. Ses motivations ne sont pas claires.
Contacté par 404 Media, il déclare : « Je suis allé sur le site pour me masturber (dans un scénario adulte, pour être clair) et j’ai remarqué que le site [Muah.ai] était assez mal conçu. J’ai commencé à explorer et j’ai trouvé des vulnérabilités assez rapidement. Au début, c’était juste de la curiosité, mais j’ai décidé de vous contacter une fois que j’ai vu ce qu’il y avait dans la base de données ».
L’administrateur de Muah.ai, lui, prétend que ce piratage serait l’œuvre d’un concurrent, sans apporter de preuve non plus.
Une fuite de données avec des milliers de références aux mineurs
La base de données fournie aux journalistes contient les requêtes des utilisateurs de Muah.ai. Le site étant dédié aux scénarios sexuels, les demandes peuvent être obscènes, mais une partie des demandes fait référence explicitement à des mineurs. « Nous avons vu un message décrivant des orgies incestueuses avec des nouveau-nés » et de jeunes enfants » notent les journalistes. D’autres requêtes concernent l’utilisation « d’esclave sexuel », la torture ou encore des actions brutales sans consentement.
L’administrateur avance que sa plateforme emploie une équipe de modérateurs qui suspendent et suppriment les chatbots liés aux enfants.
Sur le réseau social X (anciennement Twitter), Troy Hunt, le créateur de la célèbre plateforme pour retrouver les fuites de données Haveibeenpwned, note qu’il y a plus de 30 000 requêtes contenant les termes « 13 ans » et 26 000 « prépubère ». Il rappelle par ailleurs que ces fuites contiennent souvent des emails professionnels qui révèlent au grand jour l’identité des personnes utilisant ces services.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Vous voulez tout savoir sur la mobilité de demain, des voitures électriques aux VAE ? Abonnez-vous dès maintenant à notre newsletter Watt Else !
