Avec les deepfakes, il devient plus dur que jamais de se fier à ce que l’on voit sur internet. Ces images et vidéos sont si bien truquées qu’elles ne sont pas forcément repérables comme étant fausses. Avec la prolifération des fake news et du revenge porn, il y a de quoi s’inquiéter. Pour lutter contre le phénomène, des chercheurs de l’Université de Californie ont conçu une intelligence artificielle capable de repérer les altérations et ont publié leurs résultats le 18 juillet.
Les deepfakes sont capables de transférer les mouvements d’une personne sur une autre, autant le visage que la voix. Cette technologie a d’ores et déjà trouvé quelques mises en pratique malsaines, comme l’app DeepNude qui était capable de déshabiller des femmes, ou ce discours de Barack Obama qui n’a jamais existé.
Il reste toujours des traces d’une altération
Même un montage extrêmement sophistiqué a des failles. « Nous observons que la plupart des images manipulées laissent des traces près des zones manipulées », expliquent les chercheurs dans leur papier. Chaque objet, dans une image, a des contours. L’ajout et la modification d’objets va automatiquement altérer ces contours, créer des petites différences. Dans le cas d’un deepfake, même si c’est totalement invisible à l’œil nu, ces traces perdures à l’échelle des pixels.
Les chercheurs se sont donc basés sur une IA construite sous forme de réseau neuronal artificiel. Ils lui ont appris à repérer les différences, à partir d’une banque de vraies images et d’images manipulées (sur lesquelles les contours modifiés étaient labellisés pour l’IA).
« Si vous lui donnez une image manipulée ou non, elle peut maintenant vous transmettre une probabilité que l’image soit manipulée ou non, et localiser la zone où la manipulation est faite », indique Amit Roy-Chowdhury, qui a participé aux recherches. L’IA fait encore des erreurs, mais très peu.
Cette IA repère les zones altérées grâce aux contours des objets qui ont été ajoutés ou modifiés.
Pour l’instant, ce réseau neuronal artificiel ne fonctionne qu’avec des image fixes, mais l’équipe est confiante de pouvoir l’étendre aux vidéos, car il s’agit « tout simplement d’une suite d’images fixes mises bout à bout ».
Si Amit Roy-Chowdhury est persuadé que ce genre d’intelligences artificielles pourront aider à lutter contre les deepfakes, il explique qu’on est encore très loin d’un outil entièrement automatisé pour détecter les deepfakes ; il faut au moins une vérification humaine des décisions de l’IA, car elle peut passer à côtés des subtilités.
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Abonnez-vous gratuitement à Artificielles, notre newsletter sur l’IA, conçue par des IA, vérifiée par Numerama !
