Au lendemain de l’annonce par Facebook de son dispositif anti-propagande terroriste, The Guardian révèle que le réseau social a fait l’objet d’une faille de sécurité importante en la matière. Et ses conséquences pourraient être désastreuses : plus de 1 000 modérateurs de la plateforme ont vu leur nom apparaitre sous la forme de notifications auprès des administrateurs de groupes dont les collègues administrateurs ont vu leur compte suspendu. Un bug qui a exposé exposé leur identité auprès d’un public potentiellement dangereux, dont des soutiens de groupes terroristes comme l’État islamique (Daech).
Parmi ces modérateurs — de contenu haineux, pornographique ou terroriste –, on trouve majoritairement des prestataires recrutés par Facebook. 40 travaillent à Dublin, en Irlande, au sein de l’équipe d’anti-propagande terroriste. 6 personnes y sont considérés comme des victimes « prioritaires », leurs profils ayant très probablement été consultés par de potentiels terroristes.
The Guardian a pu recueillir le témoignage de l’un d’eux, qui a logiquement préféré garder son identité secrète. Cet homme d’une vingtaine d’années, arrivé d’Irak en Irlande dès son plus jeune age en tant que demandeur d’asile, a préféré quitter son pays d’adoption. Il a vécu caché 5 mois en Europe après que 7 membres d’un groupe de propagande terroriste qu’il a suspendu ont consulté son profil. Parmi eux, on trouve des sympathisants de l’organisation État islamique.
« Je ne vais pas attendre l’arrivée d’une bombe »
Celui qui a vu son père enlevé puis battu et son oncle exécuté en Irak explique ainsi au quotidien britannique : « C’était devenu trop dangereux de rester à Dublin. La seule raison de ma présence en Irlande était d’échapper au terrorisme et aux menaces. […] Quand vous venez d’une zone en guerre et que des gens comme ça connaissent votre nom de famille, vous savez que certains sont massacrés juste pour ça. La sanction de [l’organisation] État islamique, quand vous travaillez dans l’anti-terrorisme, c’est la décapitation. Il leur suffirait de le dire à une personne radicalisée [présente en Irlande]. »
Facebook a tenté de résoudre le problème dès sa découverte, en novembre 2016, quand les modérateurs se sont étonnés de recevoir des demandes d’amis d’utilisateurs affiliés à ces groupes. Mais il lui a fallu deux semaines pour le corriger. À l’époque, Craig D’Souza, à la tête des enquêtes internationales du réseau, tente de rassurer les modérateurs concernés : « Il faut savoir que les personnes qui ont vu apparaître votre nom l’ont vu dans leur registre d’activités, qui contient énormément d’informations. Il y a de grandes chances qu’ils vous associent simplement à un autre administrateur du groupe ou à un hacker. »
Le modérateur qui a quitté l’Irlande — et a fini par y revenir par manque d’argent — ne cache pas son inquiétude dans sa réponse : « Je comprends, Craig, mais c’est trop risqué. Je ne vais pas attendre qu’une bombe arrive dans ma boîte aux lettres pendant que Facebook tente de réagir. »
« Facebook aurait dû nous laisser utiliser de faux profils »
Si la faille de sécurité est en cause, le manque de vigilance de Facebook est aussi pointé du doigt par le modérateur menacé : celui-ci est obligé, comme tous ses collègues, d’utiliser son profil personnel pour effectuer son travail. Ce qui a malencontreusement permis à leur identité de fuiter directement dans les groupes dont ils avaient banni les administrateurs pour leur activité interdite.
Le modérateur expatrié ne cache pas sa colère : « Chaque matin, vous regardez des décapitations, des gens qui se font massacrer, lapider, exécuter. [….] Ils auraient dû nous laisser utiliser de faux profils. Nous n’avons jamais été prévenus qu’une chose pareille risquait d’arriver. »
Facebook assure de son côté faire l’essentiel pour aider les modérateurs concernés : « Notre enquête a montré qu’une petite fraction des noms a probablement été vue, et nous n’avons aucune preuve de menaces proférées contre eux ou leur famille. Malgré tout, nous avons contacté chacun d’entre eux pour leur apporter notre soutien, répondre à leurs questions et prendre les mesures nécessaires pour assurer leur sécurité [comme l’installation d’une alarme à domicile]. »
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Abonnez-vous gratuitement à Artificielles, notre newsletter sur l’IA, conçue par des IA, vérifiée par Numerama !
