Sur YouTube Kids, une application dédiée aux enfants, des dessins animés à priori innocents contiennent en fait des images violentes et inappropriées. Free Hess, une pédiatre américaine qui milite pour la sécurité des enfants en ligne, l’expliquait sur son blog fin février.
Conseils au suicide et violences
La médecin a d’abord été alertée par une mère de famille. Dans une vidéo inspirée du jeu Splatoon, cette dernière a été choquée par un personnage expliquant à des enfants comment mieux se tailler les veines.
https://www.youtube.com/watch?v=ezsPaqLyhUU
YouTube Kids est supposé être une plateforme où les enfants peuvent surfer en sécurité. Seulement, l’application, comme le site YouTube, ne sont considérés que comme des hébergeurs de contenus. La loi ne les oblige pas, de fait, à modérer les contenus de manière pro-active. YouTube Kids compte sur les signalements de ses utilisateurs pour savoir quelles vidéos sont dangereuses et doivent être supprimées. Cette méthode semble être peu efficace en pratique.
La pédiatre Free Hess a ensuite trouvé plusieurs contenus problématiques en l’espace de quelques heures : des images de ce qui s’apparente à du trafic d’enfants, des personnages féminins maltraités et visiblement battus, de la violence, du langage cru, des meurtres, des tueries de masse ou encore des images de suicide.
Des vidéos signalées toujours en ligne
Free Hess a partagé les vidéos à sa communauté en l’invitant à signaler les contenus à YouTube. La plateforme a tardé à agir et dans certains cas, n’a pas agi du tout.
La vidéo contenant des conseils pour mieux se suicider a été signalée il y a 8 mois, et supprimée il y a environ un mois. Un porte-parole de YouTube France nous a expliqué à ce propos que YouTube appliquait des règles strictes en matière d’automutilation. « Chaque trimestre, nous supprimons des millions de vidéos et chaînes qui enfreignent nos politiques, nous a-t-on assuré. La majorité de ces vidéos sont supprimées avant même qu’elles ne soient visualisées. »
D’autres vidéos sont restées plus longtemps en ligne, selon Free Hess. YouTube explique que la plupart ont aujourd’hui été retirées.
Tous les signalements sont analysés par des modérateurs humains, disponibles 24 heures sur 24 et 7 jours sur 7.
Ce n’est pas la première fois que YouTube Kids est pointé du doigt. Des contenus pour adultes mettant en scène des personnages Disney y ont été hébergés pendant des mois, racontait Polygon. En mars 2018, des vidéos complotistes avaient également été retrouvées sur l’application. Un mois plus tard, YouTube Kids offrait aux parents la possibilité de n’autoriser que des vidéos validées par des humains.
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Vous voulez tout savoir sur la mobilité de demain, des voitures électriques aux VAE ? Abonnez-vous dès maintenant à notre newsletter Watt Else !
