Gallery Guardian, l’app de contrôle parental qui bloque les photos de nu

Ah, l’épineuse question du contrôle parental. Jusqu’où faut-il protéger les enfants des « dangers » du web ? À quel âge faut-il offrir le premier smartphone ? Les parents doivent-ils limiter le temps passé par leurs progéniture devant les écrans ? Pas facile pour les parents des années 2000 de trancher ces questions. Afin de les aider, plusieurs géants du secteur proposent des déclinaisons de leurs services en version junior, ou des applications pour surveiller en temps réel l’utilisation d’un smartphone par les enfants.

L’une des sources d’inquiétude des parents vient notamment des images auxquelles peuvent se retrouver exposés les enfants. L’application mobile Gallery Guardian ambitionne de tranquilliser les parents qui craignent que leurs enfants tombent nez à nez avec des images jugées « inappropriées ».

Une alerte sur le téléphone des parents

Le principe de l’application, en développement au Royaume-Uni, est simple : chaque image photographiée ou reçue par l’enfant est analysée par un algorithme de reconnaissance d’image. Son rôle est de détecter si le cliché en question comporte un élément de nudité. Si Gallery Guardian constate que c’est le cas, l’application alerte les parents sur leur propre téléphone, sans garder trace de l’image considérée comme inadaptée pour un enfant.

Gallery Guardian

Interrogé par le Daily Mail, le créateur de l’application, Daniel Skowronski explique que « cette application apporte de la tranquillité d’esprit aux parents qui savent qu’une technologie travaille pour eux et regarde tout ce que leur enfant fait. »

Nous n’avons pas accès aux images

Pour mettre en fonctionnement ce contrôle parental, les adultes devront télécharger l’application sur leur propre smartphone, puis lier cette application à celle du téléphone de leurs enfants. « L’intégralité du contrôle se passe sans que nous ayons accès aux images et nous ne sommes pas en mesure de fournir aux parents l’image en question », mentionne le site de l’application.

La quantité de peau nue, un critère qui a ses limites

La BBC a eu l’occasion de tester Gallery Guardian, qui n’est pas encore accessible au grand public. Le fondateur de l’application a expliqué à cette occasion comment fonctionnait l’algorithme. Ce dernier repère d’abord si un humain est présent sur la photo. Si tel est le cas, l’application analyse alors la peau de la silhouette identifiée ; plus l’algorithme constate que la surface de peau nue est étendue sur l’image, plus il aura tendance à détecter que la photo est potentiellement inappropriée.

Gallery Guardian

Or, comme le note la BBC, ce fonctionnement n’est pas exempt de limites : une photo d’une personne habillée, mais exposant « une partie de son corps », selon les mots du journaliste, n’a pas déclenché d’alerte sur l’application. Daniel Skowronski a indiqué qu’un travail était effectué pour permettre à l’application de pouvoir reconnaître également les organes génitaux présents sur une photo.

« C’est très compliqué à faire en raison des variétés de formes et de tailles, je dirais, mais l’algorithme s’améliore chaque jour, il apprend constamment et fait un meilleur travail lorsqu’une grande quantité de peau est exposée », indique le créateur de Gallery Guardian.

L’algorithme apprend constamment

Sur les vingt images sexuellement explicites testées par le média britannique, douze ont été détectées comme inappropriées par l’application. Par ailleurs, Gallery Guardian n’est pas efficace pour contrôler le contenu d’applications de partage d’images vouées à disparaître, comme sur Snapchat ou Instagram.

En 2014, une enquête menée par l’Ofcom, le régulateur des télécoms anglais, indiquait qu’un enfant sur cinq sait désactiver le contrôle parental en Grande-Bretagne.