On ne peut pas téléphoner à internet, mais on peut le modérer

Souvent, quand on parle de modération en ligne, une image nous vient en tête : un modérateur ou une modératrice, travaillant probablement dans des conditions effroyables, décide en une poignée de secondes si un contenu est légal et/ou autorisé par les règles d’un grand réseau social. Ce n’est pas faux. Ce n’est pas complètement vrai non plus. La modération de contenus est un domaine vaste, pratiquée par des personnes avec des expériences différentes et une panoplie d’outils mal connus : des bases de données qui permettent de retirer automatiquement certaines images ou vidéos, la réduction de la visibilité dans le fil d’actualité, la démonétisation, des astuces de design pour ralentir les discussions, etc. Enfin, ce contrôle n’est pas seulement pratiqué par les réseaux sociaux. Sur le web d’aujourd’hui, tout est modération.

Une affaire récente illustre bien cette complexité. Ce week-end, Cloudflare, fournisseur de services divers pour sites internet, a décidé de bloquer l’accès à Kiwi Farms. Ce forum, créé en 2013, a une longue histoire de harcèlement et de doxxing (la recherche et publication de données personnelles sur une personne, comme son adresse, l’identité de ses proches, le nom de son employeur, etc). Ces attaques visent généralement des femmes, et plus particulièrement des personnes trans. Kiwi Farms a déjà fait parler de lui ces dernières années pour des raisons sordides : sa communauté « revendique » plusieurs suicides et il est bloqué depuis 2019 en Nouvelle-Zélande pour avoir refusé de collaborer dans l’enquête sur l’attentat de Christchurch.

Plus récemment, l’une de ses cibles, la streameuse trans canadienne Keffals, a lancé une grande campagne médiatique contre le site. Victime de « swatting » (une pratique qui consiste à faire croire à une menace imminente pour que les forces de l’ordre débarquent chez une personne innocente et la violente) puis forcée de quitter son domicile pour se cacher, la créatrice a encouragé ses soutiens à faire pression contre Cloudflare. Cette entreprise américaine propose plusieurs services, comme un réseau de distribution de contenu (CDN, qui permet de charger rapidement un site) ou une protection contre les attaques DDoS (l’envoi d’un très grand nombre de requêtes fantômes vers un site pour le rendre indisponible). Jusqu’à la semaine dernière, elle comptait Kiwi Farms parmi ses utilisateurs.

Cloudflare a d’abord refusé d’agir, estimant que ses services étaient comparables à une commodité. « De la même manière que votre opérateur de téléphonie ne résiliera pas votre abonnement parce que vous tenez des propos horribles, racistes et sectaires, nous pensons que résilier des services de sécurité parce que nous considérons que des contenus publiés sont méprisables est une mauvaise politique » , a écrit l’entreprise dans un communiqué que vous pouvez lire ici. Finalement, dimanche, elle est revenue sur sa décision, en bloquant l’accès à Kiwi Farms, citant « une urgence sans précédent et une menace immédiate pour la vie humaine » provenant du site. Elle a maintenu qu’il s’agissait d’une « décision dangereuse, qui nous met mal à l’aise« , et qu’elle aurait préféré attendre la conclusion d’une éventuelle procédure juridique.

L’argumentation de Cloudflare ressemble peu ou prou à celle longtemps agitée par les réseaux sociaux face au problème de la modération en ligne : il s’agit d’une entreprise privée, embarrassée face à des décisions morales, où elle ne peut pas s’appuyer sur une loi ou une décision de justice (qui n’existe pas, ou qui met trop de temps à arriver). Sauf que ces questions ne touchent plus seulement Facebook, Twitter ou TikTok. Elles concernent désormais des sites de crowdfunding, des services de paiement en ligne ou d’hébergement, des plateformes de musique et de podcasts, des boutiques d’applications, etc. « Dans la grande pyramide technique qui compose internet, quelle partie est censée être neutre, quelle partie doit modérer, et qu’est-ce qui se passe entre les deux ? » s’interroge Daphne Keller, spécialiste des politiques numériques et de la régulation des plateformes, qui travaille à l’université de Stanford, dans une interview accordée au Washington Post. Il faut d’ailleurs souligner que Cloudflare n’était pas l’hébergeur de Kiwi Farms. Il lui fournissait une structure pour contrer des attaques en ligne et rester accessible aux internautes. Cela signifie que le forum pourra toujours exister, mais seulement avec des services qui accepteront de l’aider. Il s’agit donc bien d’un choix. Au même titre que, chaque jour, des réseaux sociaux choisissent de modérer ou non des contenus abjects.

En conclusion, je trouve intéressante l’analyse du journaliste américain Ryan Broderick, qui juge que cette affaire n’a rien à voir avec la liberté d’expression en ligne, ou même de couper une ligne téléphonique. « Un site internet, ce n’est pas un téléphone », écrit-il dans sa newsletter Garbage Day. « Un site internet c’est le coin d’une rue, une affiche publicitaire, des parcs, des centres commerciaux, des espaces où des gens se réunissent (…) Peu importe nos lois sur la liberté d’expression et de manifestation. Si la foule que tu attires dans un endroit commence à menacer des gens, l’entreprise que tu as embauchée pour assurer la sécurité de la manifestation a le droit de te laisser tomber.» On ne peut pas téléphoner à internet, mais on peut tenter de le contrôler.

La revue de presse de la semaine

Politique

Parler de jeu vidéo sur les réseaux sociaux, particulièrement quand il s’agit de toucher à des sujets de représentation ou de diversité, c’est souvent s’attirer au moins un petit malin qui vous affirmera que la politique n’a rien à faire là-dedans. Visiblement lassé par les commentaires du genre, Gamekult a sorti une vidéo très efficace qui résume en moins de 5 minutes pourquoi les jeux vidéo ont, de fait, toujours été politiques. À faire tourner aux trolls de votre entourage ! C’est à regarder par ici.
 

Metamec

Vous savez sans doute que Meta (la maison mère de Facebook) travaille actuellement sur un projet de métavers, et qu’elle déploie beaucoup d’efforts pour nous convaincre de son intérêt. Cette analyse de Bloomberg aborde un sujet parallèle, que je n’avais pas forcément remarqué : pour être pris davantage au sérieux, Mark Zuckerberg a entamé un changement d’image, revendiquant une attitude plus traditionnellement masculine, plutôt que d’être vu comme un geek. C’est à lire (en anglais) par là.

Je ne vois pas les couleurs (sauf pour les elfes)

Le Seigneur des Anneaux : les Anneaux de Pouvoir est une série diffusée depuis la semaine dernière sur Amazon Prime, qui se déroule dans l’univers de la célèbre saga de JRR Tolkien. Elle était très attendue par les fans. Elle a aussi vite fait l’objet de remarques racistes concernant certains et certaines de ses acteurs et actrices. À ce propos, j’ai apprécié cet édito publié dans the Hollywood Reporter, qui souligne que la polémique témoigne d’une inquiétante « rationalisation du racisme », ainsi que d’une grave méconnaissance de l’œuvre de Tolkien. C’est à lire (en anglais) par ici.
 

Pas touche

On s’éloigne un peu du sujet des nouvelles technologies (en tout cas celles dont je parle souvent ici) ; mais je vous recommande vraiment la lecture de cette incroyable enquête sur l’histoire de la TSA, l’agence américaine en charge de la sécurité dans les aéroports, de ses origines à son efficacité douteuse jusqu’à son héritage terrifiant pour de très nombreuses personnes racisées ou trans qui prennent l’avion. C’est à lire (en anglais) chez The Verge.

Quelque chose à lire/regarder/écouter/jouer

Vous vous souvenez d’internet en 1999 ? Ses forums dédiés à des intérêts de niche, ses gifs animés, ses pages personnelles un peu trop personnelles, et surtout toutes ces nuits passées à naviguer en ligne, grâce à un bandeau connecté directement à notre inconscient ? Cette réalité alternative est celle d’Hypnospace Outlaw, un jeu vidéo qui vous plonge en immersion dans les débuts du web grand public, avec une bonne louche de science-fiction. Vous y incarnez un modérateur ou une modératrice volontaire pour Hypnospace, la nouvelle plateforme à la mode, à laquelle on se connecte grâce à une technologie de sleeptime computing, littéralement l’informatique du sommeil. Vos tâches sont d’abord assez banales : vous repérez des infractions (cyberharcèlement, problèmes de copyright, trafic illégal), puis les signalez au service approprié. Cependant, votre travail se complique assez vite. Les co-fondateurs de Merchandsoft, l’entreprise derrière Hypnospace, ont de grandes ambitions, tandis que sur les forums, des internautes s’inquiètent des effets du bug de l’an 2000.

Hypnospace Outlaw est l’un des jeux les plus étranges auxquels j’ai pu jouer. Entre la simulation et le puzzle game, il est la métaphore parfaite des débuts du web : lent, verbeux et frustrant. Les énigmes consistent généralement à répondre à une demande de l’équipe de modération d’Hypnospace. On doit alors fouiller nous-même les forums ou d’autres ressources via un navigateur internet. Malheureusement, certains puzzles sont vraiment difficiles, et je vous encourage à chercher un guide en ligne pour vous aider si vous bloquez trop longtemps (vous pouvez aussi taper hint!  dans le jeu). Malgré tout, Hypnospace Outlaw est un trip hypnotique et nostalgique, qui parvient à parler avec justesse de la complexité morale de la modération, ou de la joie oubliée des petites communautés en ligne. Si vous n’avez pas peur de passer des heures à revivre les plus belles heures des Skbylogs, d’IRC ou de votre forum de jeux de rôles préféré, c’est à votre tour de planer.
Hypnospace Outlaw, disponible sur PC, Mac, Linux, Nintendo Switch, PlayStation 4 et Xbox One (en anglais)