FaceApp est l’application que tout le monde utilise depuis quelques jours pour voir à quoi un selfie ressemblera plus âgé. Elle est rigolote, mais il y a comme un hic (outre les questions sur la protection des données personnelles). Comme l’a remarqué la journaliste Jennifer Padjemi, on voit « peu de personnes noires « s’amuser » avec l’application ». Elle plaisante sur Twitter en se demandant si cela découle d’un biais algorithmique ou si c’est simplement car « les noirs ne vieillissent pas » — en référence à un mème.
À en croire les témoignages d’autres internautes, la première explication serait la bonne. De nombreux utilisateurs racisés ont obtenu des résultats décevants. Certains ont même remarqué que leur peau était « blanchie » par FaceApp.
Un filtre mal positionné
Tressy a voulu tenter l’expérience avec des collègues. « Sur moi le résultat n’était pas aussi bien fait qu’avec eux », regrette-t-elle. Elle détaille à Numerama : « Ce n’était pas probant du tout, pas réaliste alors que [mes collègues] m’ont montré des photos de leur entourage et on aurait dit de vraies personnes ».
L'effet sur des personnes blanches est en effet réussi.
Source : FaceApp
Elle n’a pas gardé les photos mais se souvient d’un « effet filtre Snapchat mal fait » et surtout mal positionné, comme si l’application n’était pas parvenue à bien reconnaître les traits de son visage.
D’autres ont remarqué qu’il ressemblaient à quelqu’un de blanc en appliquant les filtres FaceApp. Jo, une écrivaine à la peau mate, nous raconte qu’ils lui faisaient « juste le nez plus long et plus crochu et deux rides autour de la bouche ». « On aurait dit une sorcière, regrette-t-elle. J’ai essayé avec toutes les photos et filtres possibles (…) ce n’était pas aussi net et précis qu’avec mon mec blanc. »
Des peaux blanchies par l’application
Bilad qui a normalement un teint « asiatique brun » a remarqué qu’il était transformé en un « grand-père blanc » par l’application.
https://twitter.com/bilad_ahmad/status/1151485053228199939
Il préfère aujourd’hui en rire… car il a l’habitude. « Prenez l’exemple de Retrica, une application de retouche photo. Elle fait un effet blanchissant et certaines personnes adorent d’ailleurs l’utiliser pour ça », nous raconte-t-il par messages privés. Il précise qu’avec ce type de logiciel, il faut choisir entre « garder ses boutons, petits cheveux » ou rides ou vouloir les enlever et « devenir extrêmement blanc ».
Lisa elle, a écopé d’un teint rosé qui ne ressemble pas à sa couleur de peau naturelle. « C’est censé être moi dans quelques décennies mais il semblerait que je ne serai plus asiatique en vieillissant », s’en amuse-t-elle.
C’est la première application de ce type qu’elle utilise, raconte-t-elle à Numerama. Elle a remarqué que toutes ses photos, quel que soit le filtre qu’elle utilise, ont été blanchies par FaceApp. Ceci est visible ici avec le filtre censé la rajeunir : à droite, sur la photo retouchée, sa peau apparaît plus pâle et le ton est moins chaud — paradoxalement, des internautes blancs ont remarqué qu’ils ressemblaient à des personnes asiatiques avec le même filtre.
« On a obtenu les mêmes effets de « white-washing » en testant sur d’autres amis asiatiques », constate Lisa.
L’application est-elle faite pour tout le monde ?
D’autres ont constaté le même type d’effets. Tony, que l’on voit ci-dessous, est plus blanc lorsqu’il est vieilli par l’application. Ses cheveux sont aussi un peu moins frisés.
Une internaute qui se fait appeler Tea Rex estime que les traits des hommes asiatiques sont féminisés lorsqu’ils n’ont pas de barbe. « Clairement l’algorithme n’a pas été créé pour des visages asiatiques », regrette-t-elle. Kevin approuve sur Twitter : lorsqu’il applique un filtre, il ressemble à une « meuf blanche ».
Arwa se trouve « plus blanche que jamais », Holden aussi :
https://twitter.com/its_hodge/status/1151312553760501761
On trouve des dizaines de témoignages similaires. Nous avons nous-même testé avec des photos de stars de bonne qualité, pour voir si cela pouvait avoir un impact. Force est de constater que les résultats sont les mêmes sur l’application qui ne présente que des modèles d’essais blancs.
L’actrice Leïla Bekhti est blanche lorsqu’on la rajeunit, floue lorsque l’on tente de la vieillir, comme si l’application reconnaissait mal ses traits. La chanteuse Lizzo subit le même sort. Sundar Pichai, le CEO de Google, n’est pas épargné. Rajeuni ou vieilli, il est plus blanc. L’exemple de Vincent Rodriguez, l’un des acteurs phares de la série Crazy ex girlfriend, est aussi particulièrement révélateur.
Montage Numerama
Tressy s’est doutée que quelque chose n’allait pas quand elle a vu que peu de ses connaissances noires utilisaient l’application. « Je pensais que j’exagérais mais en fait, c’est plutôt logique ».
Des algorithmes mal entraînés ?
En pratique, les algorithmes ont souvent du mal à reconnaître les personnes non-blanches, justement parce qu’ils sont entraînés avec des bases de données contenant surtout des images d’hommes blancs. Le manque de diversité dans les équipes dédiées à l’intelligence artificielle n’arrangent pas ceci.
Début juillet, une étude du National Institute of Standards and Technology (NIST) est sortie. Elle montre que malgré les importants progrès faits en matière de reconnaissance faciale, les algorithmes ont encore du mal à distinguer les visages des femmes à la peau noire. Même celui de l’entreprise française Idemia, réputé comme étant l’un des algorithmes les plus performants au monde, a du retard en la matière. Son taux d’erreur est dix fois supérieur avec les femmes noires par rapport aux femmes blanches.
FaceApp avait déjà rencontré ce problème il y a quelques années, lors de son lancement. En 2017, son filtre pour rendre les utilisateurs plus « sexy » était accusé d’être raciste, rappelant de précédents scandales connus par Snapchat ou l’application de retouche Meitu. Il rendait en effet les personnes noires ou mats de peau nettement plus blanches qu’elles ne l’étaient.
Face à cette polémique, le PDG de l’application, Yaroslav Goncharov, avait présenté des excuses. Il avait justifié le problème par un effet secondaire du réseau neuronal sur lequel repose FaceApp, « causé par des biais dans l’entraînement du programme ». L’option avait été renommée « étincelle », avant d’être visiblement supprimée.
La différence au niveau de la qualité du résultat et de la couleur de peau est aujourd’hui moins perceptible. Elle reste malgré tout bien présente et empêche les utilisateurs de profiter de l’application au même titre que des personnes blanches.
Contacté, FaceApp n’est pas revenu vers nous à ce propos pour le moment.
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Si vous avez aimé cet article, vous aimerez les suivants : ne les manquez pas en vous abonnant à Numerama sur Google News.
