« Vous préférez lesquelles de mes potes ? » ; « qui pour cumtrib une pote ? » ; « sur ce serveur, je veux que des gens sérieux qui réalisent des cumtrib ». Sur Discord, les serveurs pornographiques, qui proposent à leurs membres de partager des images volées et du revenge porn, sont toujours aussi populaires.
Dans ces espaces, les participants s’échangent des photos d’inconnues prises en pleine rue, à leur insu, mais également des clichés de leurs amies, même de leurs cousines ou de leur sœur — et s’encouragent les uns les autres à se masturber sur ces images, et à partager le résultat. La pratique, qui s’appelle le cumtrib, ou cumtribute, et qui peut concerner des mineures, est complètement interdite par les conditions d’utilisation de la plateforme. Pourtant, en mars 2024, Discord peine toujours à agir avec célérité.
Dans notre précédente enquête, dans laquelle l’existence de ces groupes sordides avait été mise en lumière, Discord avait été critiqué pour son manque d’action : malgré des signalements, le serveur Sexy Bunny, sur lequel des photos volées et de la pédopornographie étaient partagées, était resté en ligne pendant plus d’un mois après les premiers signalements.
Depuis, Discord s’est-il amélioré ? De nouvelles recherches parmi les serveurs pornographiques présents sur la plateforme nous montrent que les choses ne sont pas encore globalement assainies. Les outils de signalement mis en place ne marchent pas toujours. Ou, du moins, ils n’engendrent pas une intervention suffisamment rapide du service.
De très nombreux serveurs pornographiques existent sur Discord
Ces serveurs Discord ne sont pas accessibles publiquement, c’est-à-dire qu’ils ne sont pas répertoriés sur la plateforme et n’apparaissent pas dans ses résultats de recherche. Ils ne sont cependant pas très bien cachés : une rapide recherche sur Google permet de trouver des liens d’invitations sur ces serveurs.
Parmi ces autres serveurs partageant de la pornographie, Numerama a pu voir qu’un internaute proposait à la vente des vidéos pédopornographiques montrant des mineures nues. Une vidéo d’une minute était vendue à 2 euros.
Une fois que l’on se trouve sur l’un de ces espaces, des liens vers d’autres serveurs sont très régulièrement partagés. Résultat, même lorsque Discord agit, en en supprimant un, les solutions de replis sont souvent d’ores et déjà disponibles et connues. Comme Numerama a pu s’en apercevoir, la plupart de ces espaces se font connaître par ces méthodes de partage de liens, et par le bouche-à-oreille : les initiés invitent des nouveaux venus, externes au serveur, à les rejoindre.
Pour réaliser ce constat, Numerama a infiltré un autre groupe Discord, intitulé « CumtribFR ». Le simple fait que le serveur ait pu s’appeler ainsi, et exister pendant plusieurs semaines, est mauvais signe : non seulement les utilisateurs ne se cachent pas, mais les services de modération de Discord ne l’ont pas repéré lors de sa création, alors que son nom ne laissait pas de place au doute quant à ses finalités.
CumtribFR, créé à la fin février 2024, comptait plus de 1 000 membres et proposait exactement le même type d’activité que Sexy Bunny. Les usagers étaient invités à partager des photos, notamment de leurs proches, et les autres devaient ensuite les « trib » : se masturber dessus, et poster des preuves de l’acte en image sur le serveur. Outre son nom explicite, le message d’accueil était également très clair : « sur ce serveur, je [veux] que des gens sérieux qui [réalisent] des CumTributes. »
Les failles du système de signalement de Discord
Dès notre arrivée, le 12 mars, nous avons immédiatement fait plusieurs signalements sur des messages à caractère pornographique ainsi que sur des photos. Nous avons effectué des signalements « classiques », internes à Discord, mais également un signalement reposant sur le DSA. Ce type de signalement est disponible au sein de l’Union européenne depuis le 17 février 2024. Il s’agit d’une nouveauté mise en place par la loi européenne qui encadre les réseaux sociaux et les géants d’Internet.
Avec le Digital Services Act (DSA), les plateformes en ligne doivent avoir un outil de signalement particulier, et « elles coopèrent avec des ‘signaleurs de confiance’. Ce statut est attribué dans chaque pays à des entités ou organisations en raison de leur expertise et de leurs compétences. Leurs notifications sont traitées en priorité », précise le gouvernement français.
Cet outil est différent des signalements classiques. Dans ce cadre, il nous a fallu répondre à plus de questions, décrire précisément le souci, et donner notre identité civile. Une procédure lourde et plus complexe, susceptible de décourager les internautes voulant remonter un problème. Numerama, qui avait décidé de signaler une dick pic [la photographie non sollicitée d’un pénis, NDLR], a également précisé que le serveur contenait des contenus volés, et de la pédopornographie. Et, malgré tout, au bout d’une semaine, nous avons reçu une réponse négative.
Le 19 mars, exactement sept jours après le signalement, Discord nous a fait savoir par mail que notre demande avait été examinée — et close. « Nous avons décidé de ne pas donner suite à votre signalement », est-il annoncé. Il est précisé que « Discord recourt à l’automatisation et à l’examen manuel pour déterminer quand prendre des mesures en cas de violation de nos conditions d’utilisation et de nos directives communautaires. » Si cela arrive, le contenu en infraction est censé être supprimé.
Interrogée à ce propos, une représentante de Discord a confirmé que la société a bien reçu le signalement. « Nous pouvons confirmer que nous avons terminé l’examen du rapport de l’utilisateur. » Une prise de contact qui a manifestement eu un effet supplémentaire, puisque l’entreprise a précisé avoir « envoyé un avertissement au propriétaire du serveur mentionné dans le rapport. »
Un avertissement qui a visiblement eu des répercussions, puisque, toujours selon Discord, « le propriétaire du serveur a supprimé tous ses serveurs et comptes sur notre plateforme. » Le 19 mars au matin, le serveur n’était en effet plus disponible, comme a pu le vérifier Numerama. Une disparition qui n’est donc pas le fait de Discord, mais du propriétaire.
Des licenciements chez Discord
En interne, des doutes existent sur la capacité réelle de Discord de traiter correctement les signalements. Sarah* (le prénom a été changé), une ancienne du réseau social, jointe par Numerama, indique qu’il est difficile de faire remonter des alertes. « Il y a plusieurs niveaux de prestataires, qui reçoivent en premier les signalements, et après seulement les équipes de Discord reçoivent les cas les plus problématiques. » Entre les deux étapes, de nombreuses notifications peuvent tomber à la trappe.
Même lorsque les équipes de Discord sont saisies, les décisions sont très longues à prendre, déplore l’ancienne modératrice. « Quand il y a eu l’histoire de L’Internat [un discord très populaire où des prédateurs sexuels sévissaient, NDLR] il a fallu 10 jours avant que les équipes ne ferment le serveur », se souvient-elle, pointant du doigt la désorganisation de l’entreprise. « Il y avait beaucoup de parties prenantes au sein de Discord qui se tiraient dans les pattes, et l’équipe juridique s’en est aussi mêlée. »
Depuis, la situation ne s’est pas arrangée : Discord a annoncé en janvier 2024 qu’elle allait se séparer de 17 % de ses effectifs, soit 170 personnes. Selon Sarah, ces départs n’ont pas amélioré la situation. « Je pense qu’ils délèguent toujours beaucoup, et il y a moins de personnes disponibles du côté de Discord pour analyser les signalements. »
La suppression du serveur CumtributeFR ne prête donc pas forcément à se réjouir : d’autres ayant des noms pornographiques sont encore en ligne, dont certains comptent des milliers d’utilisateurs. Surtout, les membres ne sont pas durablement bannis au moment où survient la suppression de leur repaire : Numerama a retrouvé d’anciens membres de Sexy Bunny dans CumtributeFR, qui partageaient les mêmes photos — et alimentaient encore cette industrie glauque.
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Si vous avez aimé cet article, vous aimerez les suivants : ne les manquez pas en vous abonnant à Numerama sur Google News.
