C’est l’un des nouveaux domaines de lutte contre la manipulation de l’information. Et c’est un domaine dans lequel Facebook entend agir. Le 6 janvier, le réseau social a présenté ses intentions à l’égard des « deepfakes », ces trucages vidéo très élaborés qui, grâce à l’emploi d’algorithmes et de méthodes relatives à l’intelligence artificielle, permettent par exemple de remplacer un visage par un autre.
Deepfakes interdits, mais par les parodies
Les « deepfakes » désignent des vidéos dans lesquelles un visage a été remplacé par un autre grâce au trucage informatique, donnant l’illusion que c’est une autre personne qui est mise en scène. Les deepfakes mobilisent des procédés d’apprentissage automatique, une discipline de l’intelligence artificielle. Il est même possible de truquer un corps, même en mouvement, ou la voix.
Il faut dire qu’aux États-Unis, il y a d’importantes échéances électorales qui arrivent. Le parti démocrate doit désigner la personne qui sera envoyée en première ligne contre Donald Trump. Or, comme dans toute campagne politique, chaque camp est susceptible de verser dans l’exagération, la partialité voire le mensonge pour surclasser les autres. Et à cela s’ajoutent les risques d’influence extérieure.
Pour autant, le plus fréquenté des réseaux sociaux doit prendre garde à ne pas trop serrer la vis sur toutes les vidéos manipulées, car certaines d’entre elles ont le droit de demeurer sur la plateforme. C’est typiquement le cas des vidéos parodiques ou satiriques, ainsi que celles qui ont été remontées et éditées pour omettre certains mots ou en modifier l’ordre. Des détournements comme ceux de la chaîne VinZa sont donc en principe hors de danger, même s’ils concernent la politique.
Deux critères seront pris en compte
Facebook explique que deux critères seront observés pour déterminer le sort à réserver pour chaque vidéo : il faut qu’elle soit éditée « au-delà des ajustements pour la clarté ou la qualité, d’une manière qui n’est pas apparente pour une personne lambda et qui pourrait probablement induire en erreur en faisant croire qu’un sujet dans la vidéo a dit des mots qu’il n’a pas réellement prononcés ».
À cela s’ajoute un autre critère, celui de l’emploi d’un procédé permettant d’aboutir à un deepfake, ou tout autre trucage du même ordre. « C’est le produit de l’intelligence artificielle ou de l’apprentissage automatique qui fusionne, remplace ou superpose le contenu d’une vidéo, le faisant alors paraître comme authentique ». Pour le savoir, le site s’appuiera sur ses propres outils informatiques.
Face à l’ampleur de la tâche et dans la mesure où les trucages risquent de devenir de plus en plus réalistes, Facebook a fait le choix de lancer un concours en septembre 2019 pour attiser la recherche. Plus de 10 millions de dollars de prix ont été mis en jeu par le réseau social pour encourager à la création de nouveaux outils capables de voir les plus subtiles retouches qui échapperaient à d’autres logiciels.
Ultime élément à considérer : les contenus audio. Le règlement de Facebook s’applique aussi à ces fichiers, qu’ils soient accompagnés ou non d’images ou d’une vidéo. Une prise en compte importante : il existe des algorithmes capables de recréer une voix à partir d’un enregistrement d’une minute. Et encore, dans ce cas de figure, il s’agissait d’une méthode datant de 2017.
Un délicat équilibre à trouver
Si la suppression de certaines vidéos malhonnêtes et trompeuses ne représente aucune difficulté pour Facebook, parce que le trucage est grossier ou parce que la manipulation est trop grosse pour être crédible, il est à prévoir toute une zone grise complexe dans laquelle la modération risque de se prendre les pieds dans le tapis de temps à autre, car la limite ne sera pas toujours très franche.
Le réseau social pourrait donc être confronté à des injonctions contradictoires : faire preuve de célérité pour retirer toutes les vidéos falsifiées s’apparentant à du deepfake, en particulier s’il s’agit de tromper les internautes, afin de préserver l’authenticité du débat public, notamment en période électorale, mais tout en se montrant attentif à ce qu’il doit modérer, pour ne pas sur-censurer sa communauté.
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Si vous avez aimé cet article, vous aimerez les suivants : ne les manquez pas en vous abonnant à Numerama sur Google News.
