Pressé par l’actualité, Adam Mosseri, le CEO d’Instagram, a promis que toutes les images d’automutilation seraient bientôt supprimées du réseau social, dans une interview à la BBC publiée jeudi 7 février.
Le suicide d’une adolescente relance le débat
Cette annonce a été faite quelques jours après l’interview d’un Britannique nommé Ian Russell, également à la BBC, le 22 janvier. Ian Russell avait une fille nommée Molly Russell. En 2017, alors qu’elle était âgée de 14 ans, elle s’est donné la mort.
En fouillant dans son compte Instagram, ses parents ont découvert des images d’automutilation ou prônant le suicide, qu’elle avait consulté peu avant sa mort. Selon eux, Instagram aurait contribué à « tuer » Molly Russell.
Les images étaient toujours en ligne, parce qu’Instagram en tolère certaines, a expliqué Adam Mosseri. Le réseau social autorisait ainsi les contenus relatifs à l’auto-mutilation publiés par des personnes qui s’en sont sorties, « parce que les gens ont parfois besoin de raconter ce qu’il leur est arrivé ». En revanche, les images ou textes promouvant l’automutilation étaient en théorie bannies.
La difficulté, c’est qu’un algorithme n’est pas toujours capable de différencier les deux. De fait, Instagram se contentait d’une modération humaine. Seules les images signalées par les utilisateurs faisaient l’objet d’un examen des équipes du réseau social. Il suffit d’une simple recherche par mots-clés pour tomber sur des dizaines de contenus de ce type.
Adam Mosseri a assuré que le réseau social allait sévir à ce sujet. « Nous allons changer notre règlement de manière à ce que les images violentes d’auto-mutilation ne soient plus autorisées », a-t-il indiqué. Celles qui sont déjà en ligne seront supprimées « aussi vite que possible » selon le CEO.
Des images moins visibles
Seules les photos moins explicites (des cicatrices pour montrer que l’on a réussi à s’en sortir par exemple) seront admises. Elles ne seront toutefois plus montrées dans les recommandations d’Instagram ou dans les résultats de recherche par hashtag. Elles seront donc logiquement moins visibles.
Ian Russell a salué l’engagement d’Instagram. « Il est maintenant temps pour les autres réseaux sociaux de prendre des mesures et de reconnaître qu’ils ont la responsabilité de faire d’Internet un espace sûr pour les personnes jeunes ou vulnérables », a-t-il dit.
Le cas de Molly Russell a été particulièrement médiatisé, surtout au Royaume-Uni. Le ministre de la santé local, Matt Hancock, a pris position sur le sujet. Pour lui, Instagram se doit de supprimer les images les plus violentes, mais pas à n’importe quelles conditions. « Il faut retirer ce que des médecins et experts disent qu’il faut retirer », a-t-il ainsi nuancé. Il s’est dit prêt à déposer un projet de loi sur le sujet si nécessaire, rapporte la BBC.
Comme d’autres réseaux sociaux, Instagram peine à lutter contre les contenus d’automutilation. La plateforme avait du prendre des mesures à ce sujet en mars 2017, suite à la médiatisation d’un « challenge » sur Internet, le Blue Whale Challenge. Ce jeu qui tenait plus à la légende urbaine qu’autre chose consistait à relever une série de défis, en partie liés à l’automutilation et au suicide. Lorsque les utilisateurs tapaient sur Instagram des mots-clés en rapport avec le « jeu », un lien les redirigeait vers une association d’aide aux personnes suicidaires.
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Abonnez-vous gratuitement à Artificielles, notre newsletter sur l’IA, conçue par des IA, vérifiée par Numerama !
