On savait déjà que le métaverse pouvait être un endroit dangereux. En décembre 2021, une utilisatrice de Horizon Worlds, le métaverse de Meta, la maison-mère de Facebook, racontait avoir subi une agression sexuelle virtuelle à travers son avatar, qui aurait été victime d’attouchements. Notre journaliste Nicolas Lellouche, qui a passé une semaine dans le métaverse, a également été témoin de mauvais comportements dans un certain nombre de mondes alternatifs, comme des insultes, des actes de violence et des tentatives d’agressions sexuelles.
Ces problèmes ne sont pas des actes isolés : l’association Sum Of Us a publié le 31 mai 2022 un rapport complet listant les très nombreux problèmes de modération des plateformes de métaverse, tout particulièrement celles de Meta. En plus des enjeux de sécurité pour les utilisatrices et utilisateurs, les auteurs écrivent que les théories du complot ne seraient pas bien modérées dans le métaverse.
Un serveur QAnon dans Horizon Worlds
Les auteurs du rapport expliquent que les contenus extrémistes seraient très courants dans le métaverse. Ils citent notamment l’exemple de journalistes de Buzzfeed, qui ont construit dans Horizon Worlds un serveur privé entièrement dédié aux fake news. Surnommé « Qniverse », en référence à la théorie du complot américaine QAnon, le groupe accueillait des propos extrêmes.
Dans ce serveur, les journalistes de Buzzfeed ont pu librement publier un très grand nombre de fake news, concernant le prétendu « vol » de l’élection américaine de 2020, ou encore sur les origines de la pandémie de Covid, disant qu’elle aurait été créée de toutes pièces. Des publications d’Alex Jones, l’un des principaux complotistes américains, expliquant que Joe Biden serait pédophile et qu’une caste de reptiliens dirigerait secrètement le monde, ont également été partagées sans aucun problème.
Les journalistes ont fait exprès d’utiliser des termes habituellement modérés par Facebook — notamment des références à QAnon, normalement rapidement supprimées de Facebook. Mais pendant 36h, le serveur n’a pas été repéré par les équipes de modération d’Horizon. Ils ont ensuite dû signaler certaines publications à plusieurs reprises avant que des modérateurs ne réagissent, et annoncent aux journalistes qu’ils n’avaient rien trouvé qui contreviennent aux conditions d’utilisation de la plateforme.
« Impossible » de modérer le métaverse
Comment une telle décision a-t-elle pu être prise, alors que les propos auraient normalement dû leur valoir un bannissement ? Dans leur article, les journalistes proposent plusieurs hypothèses, comme la taille limitée du serveur, ou encore le fait qu’ils n’interagissaient pas avec des contenus externes au groupe. Il n’empêche que leur observation montre les limites de la modération actuellement en place dans Horizon Worlds, et que ces problèmes risquent seulement de s’accentuer au fur et à mesure que le nombre d’utilisateurs augmente.
« Au lieu d’apprendre de ses erreurs, Meta persiste dans le métaverse », concluent les auteurs du rapport de Sum Of Us. « Meta n’a pas de plan précis sur comment il compte modérer les contenus et les comportements dangereux, comme les discours haineux et la désinformation », assènent-ils. Ils rappellent également qu’Andrew Bosworth, le directeur de la technologie de Meta, a lui-même admis dans un message interne que modérer le métaverse était « pratiquement impossible ». Un message qui montre que les discours complotistes ne seront certainement pas modérés de si tôt.
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Abonnez-vous à Numerama sur Google News pour ne manquer aucune info !
