L'IA de Youtube supprime des combats de robots pour cause... de cruauté animale

Des vidéos de combats entre robots ont été assimilées par l’algorithme de Youtube à des combats de coqs ou de chiens. Leur suppression pose une nouvelle fois le problème de la modération approximative de la plateforme.

On se croirait presque projetés dans un futur où les robots seraient sensibles, conscients et dotés d’un tout nouveau statut. Comme l’a révélé le youtubeur tech Maker’s Muse, ce 19 août 2019, l’algorithme de Youtube a supprimé plusieurs vidéos mettant en scène des combats de robots. Le motif ? La cruauté animale.

Les combats de robots ont été popularisés par plusieurs programmes de téléréalité. BattleBots, diffusé sur la chaîne américaine ABC puis sur Discovery Channel, en est déjà à sa neuvième saison. Le Royaume-Uni dispose d’une série similaire, Robot Wars, diffusée de 1998 à 2004 sur la BBC, avant de connaître en revival en 2016. Les vidéos cartonnent sur Youtube : la chaîne de BattleBots a des centaines de milliers d’abonnés et 47 millions de vues au compteur.

Les combats entre robots sont très populaires sur Youtube.

Source : Battlebots

De la souffrance des robots

« Aujourd’hui est un jour triste. (…) J’ai perdu neuf vidéos mais d’autres en ont perdu des centaines ou plus », annonce le constructeur de robots Jamison Go sur son compte Facebook. L’algorithme de Youtube a estimé que les vidéos étaient en violation des standards de la plate-forme. Les youtubeurs concernés ont tous reçu le même message : « Infliger de manière délibérée de la souffrance animale, ou forcer des animaux à combattre, n’est pas autorisé sur Youtube. Les exemples inclus les combats de chiens et de coq, mais ne s’y limitent pas ».

Or, aucun animal n’est évidemment blessé durant ce type de combats. Seules des machines — relativement rudimentaires par ailleurs — sont détruites. Youtube a rapidement restauré les vidéos après les plaintes des chaînes concernées. La plateforme a confirmé aux sites Motherboard et The Verge que la suppression relevait d’une erreur et que « Youtube n’a aucune politique restrictive contre les vidéos de combats de robots ».

Voici un exemple des images reconnues comme problématiques par l’IA (et on est bien loin ne serait-ce que de Real Steel) :

Si la situation n’a pas vraiment amusé les créateurs des vidéos, les internautes n’ont pas manqué de relever l’ironie de cette suppression. « L’intelligence artificielle devient consciente et vise la violence contre les robots comme premier acte de rébellion », « Preuve que les robots prennent le contrôle : ils ne veulent pas que l’on détruise leurs frères », peut-on lire par exemple dans les commentaires de la vidéo de Maker’s Muse.

Mais heureusement pour l’humanité, il n’est pas encore question d’une prise de pouvoir par les machines. L’erreur semble provenir de la combinaison de plusieurs facteurs : les noms des robots, présents dans les titres de vidéo, sont souvent inspirés des animaux ; ces titres font référence à un combat (fight, battle…) ; et le mouvement rapide des machines achève de perturber l’algorithme.

Ce n’est pas la première fois que Youtube est critiquée pour sa modération approximative. Parfois, la plateforme n’est pas assez efficace contre les contenus à risque. Inversement, elle peut aussi impacter des créations tout à fait légitimes. Récemment, en voulant mettre en place une politique contre les vidéos de hacking, Youtube a supprimé au passage des vidéos de hacking éthique qui n’avaient rien de problématiques.