C’est une affaire qui sonne comme un très sérieux avertissement pour toutes les plateformes. La montée en puissance de l’intelligence artificielle générative va exiger une vigilance renforcée pour détecter et écarter les contenus synthétiques déguisés en œuvres authentiques. Sinon, c’est un raz de marée de fichiers factices qui s’abattra sur le net.
Dans un communiqué paru le 4 septembre 2024, le tribunal de première instance des États-Unis pour le district sud de New York a annoncé l’inculpation d’un homme de 52 ans, décrit comme un musicien vivant en Caroline du Nord. Il lui est reproché d’avoir utilisé de l’IA pour monter tout un système reposant sur des écoutes truquées, établies sur de fausses chansons.
Pour parvenir à ses fins, l’intéressé n’a pas agi seul. Il a bénéficié de l’aide de deux complices, non nommés (ils sont baptisés CC-3 et CC-4 dans les actes juridiques), pour « créer des centaines de milliers de titres » pour ensuite les « diffuser frauduleusement ». L’un était un promoteur musical, l’autre le patron d’une société d’IA musicale.
L’excellent Zygopteraceae, du fameux groupe Camaxtli Minerva
Ici, le patron générait des chansons avec des noms aléatoires (par exemple n_7a2b2d74-1621-4385-895d-b1e4af78d860.mp3) avec de l’IA. C’est aussi l’intelligence artificielle qui était mise à profit par Michael S., le suspect, pour créer des titres et des noms de groupes et ainsi faire illusion, pour duper les plateformes.
Les noms des chansons n’étaient pas recherchés et semblaient suivre une banale logique alphabétique, comme :
Zygophyceae, Zygophyllaceae, Zygophyllum, Zygopteraceae, Zygopteris, Zygopteron, Zygopterous, Zygosporic, Zygotenes, Zygotes, Zygotic, Zygotic Lanie, Zygotic Washstands, Zyme Bedewing, Zymes, Zymite, Zymo Phyte, Zymogenes, Zymogenic, Zymologies, Zymoplastic, Zymopure, Zymotechnical, Zymotechny et Zyzomys.
Pour les artistes, ce n’était guère mieux :
Calliope Bloom, Calliope Erratum, Callous, Callous Humane, Callous Post, Callousness, Calm Baseball, Calm Connected, Calm Force, Calm Identity, Calm Innovation, Calm Knuckles, Calm Market, Calm The Super, Calm Weary, Calms Scorching, Calorie Event, Calorie Screams, Calvin Mann, Calvinistic Dust, Calypso Xored, Camalus Disen, Camaxtli Minerva, Cambists Cagelings, et Camel Edible.
10 millions d’euros récoltés, 20 ans de prison à l’horizon
Le petit manège du suspect a duré un long moment. L’acte d’accusation fait remonter la fraude au moins à 2018, soit il y a six ans. Il est notable qu’à cette époque, l’intelligence artificielle générative n’était pas aussi connue, en dehors de quelques cercles d’experts. La sortie de ChatGPT, qui a mis en lumière comme jamais ce secteur de l’IA, n’a eu lieu que fin 2022.
Le business a été fructueux sur cette période : on parle de gains en droits d’auteur chiffrés à 10 millions de dollars. Comme les titres étaient ni facilement trouvables sur les plateformes ni très attirants, ce sont des bots qui ont été employés pour générer les écoutes factices — et en nombre suffisant pour que le suspect puisse encaisser des sommes de plus en plus confortables avec le temps.
Désormais, c’est à la justice de trancher cette histoire. L’homme doit encore passer devant un tribunal pour trois chefs d’accusation (blanchiment d’argent, fraude et fraude en bande organisée). Arrêté début septembre, il risque potentiellement très gros, car la peine de prison maximale pour chacun de ces griefs est de 20 ans.
Au New York Times, le mis en cause a partagé une réaction dans laquelle il se dit complètement innocent : « C’est absolument faux et c’est de la folie », s’est-il insurgé. « Il n’y a absolument aucune fraude ! Comment puis-je faire appel ? ». L’affaire sera juridiquement intéressante, dans la mesure où il n’y a normalement pas de copyright pour les créations IA.
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Si vous avez aimé cet article, vous aimerez les suivants : ne les manquez pas en vous abonnant à Numerama sur Google News.
