C’est un changement qui ne figure pas du tout dans la liste des nouveautés que vient de dévoiler Telegram pour son application, ce mercredi 4 décembre 2024. C’est pourtant un revirement de taille : dorénavant, la messagerie instantanée va analyser les photos circulant sur son service pour détecter les contenus pédopornographiques.
Sur ses réseaux sociaux, Pavel Durov, le fondateur de Telegram, n’a pas non plus abordé le sujet. L’enrôlement de Telegram a en fait été annoncé le 4 décembre 2024 par l’Internet Watch Foundation (IWF), une organisation non gouvernementale britannique dédiée à la protection de l’enfance sur Internet. Jamais Telegram n’avait jusqu’à présent rejoint un tel programme.
Détection et neutralisation des images d’abus sexuels sur mineurs
« Pour la première fois, la plateforme de médias sociaux, qui compte plus de 950 millions d’utilisateurs actifs par mois, utilisera des outils et des données de l’IWF du Royaume-Uni, en plus des siens, pour détecter, perturber, supprimer et bloquer les images d’abus sexuels commis sur des enfants », est-il expliqué.
De fait, Telegram rallie une initiative déjà soutenue par plusieurs grandes plateformes du net : Amazon, Apple, Google, Meta (Facebook, Instagram), Microsoft, Snapchat et TikTok, ainsi qu’une quinzaine d’autres membres — des opérateurs de téléphonie mobile, des solutions de paiement, ou bien des entreprises de la tech.
« L’IWF a annoncé qu’elle avait accordé à Telegram le statut de membre dans le cadre d’un accord qui lui donnera accès aux ensembles de données de pointe de l’IWF et à une technologie éprouvée et fiable pour l’aider à lutter contre l’imagerie des abus sexuels sur les enfants sur la plateforme », ajoute l’ONG britannique.
Avec ce premier pas de Telegram, d’autres partenariats similaires entre la messagerie et d’autres organisations du même genre pourraient voir le jour prochainement. Il existe en effet d’autres structures ailleurs dans le monde. Les entreprises mentionnées précédemment sont d’ailleurs membres de plusieurs autres coalitions.
Pour repérer ces images pédopornographiques, l’IWF travaille avec des signatures numériques de ces contenus, qui ont été préalablement identifiés et étiquetés. Cet ensemble d’informations est ensuite mis à la disposition des forces de l’ordre et des partenaires, pour les comparer avec les contenus qui circulent sur leurs infrastructures.
Le déploiement devrait donc concerner les échanges sur les canaux publics comme dans les conversations à deux ou en groupe. Dans la mesure où Telegram n’utilise pas par défaut du chiffrement de bout en bout, il est plus simple de scanner le contenu des échanges. Ce chiffrement de bout en bout existe, mais il est optionnel.
Telegram adopte une modération bien plus active
Ce changement est jugé bienvenu, bien que tardif. L’ONG rappelle avoir fait « des milliers de signalements d’images d’abus sexuels sur des enfants sur Telegram depuis 2022 », y compris « des images impliquant des enfants de moins de deux ans ». Si Telegram a agi après alerte de l’IWF, en effaçant les contenus, l’ampleur du problème nécessitait de changer d’approche.
Outre l’utilisation d’empreintes numériques tirées des bases de données sur des contenus pédopornographiques, aussi bien en photo qu’en vidéo, il est indiqué que Telegram agira aussi contre les créations par IA générative d’abus sexuels sur des mineurs, même imaginaires, et contre les liens qui conduisent vers des sites qui hébergent de la pédopornographie.
Cette alliance avec l’IWF s’inscrit dans un changement de ton très net de Telegram depuis cet été et l’arrestation de Pavel Durov en France. La justice a accusé le fondateur de Telegram de complicité à l’égard de la propagation de contenus pédopornographiques, en raison de la passivité du service et du manque de coopération avec les autorités.
La modération, qui était très réduite jusqu’à présent, s’est depuis renforcée et les autorités constatent une volonté accrue de la plateforme de réagir à leurs sollicitations. Cela inclut désormais la transmission d’informations, comme les adresses IP d’internautes. Pavel Durov s’était d’ailleurs engagé à en faire beaucoup plus à l’avenir, pour corriger le tir.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Abonnez-vous gratuitement à Artificielles, notre newsletter sur l’IA, conçue par des IA, vérifiée par Numerama !
