Google abandonne la classification de Fitzpatrick : d’où vient cet outil aux biais racistes ?

Google ne veut plus de la classification de Fitzpatrick. La firme a partagé la nouvelle à l’agence de presse Reuters, et précisé qu’elle travaillait à l’élaboration d’une alternative. « Nous travaillons sur des mesures alternatives, plus inclusives, qui pourraient être utiles dans le développement de nos produits ».

Le terme « classification de Fitzpatrick » peut sembler obscur mais c’est en réalité un terme médical, utilisé pour classer les différentes couleurs de peau. Et si cette classification fait tant parler d’elle aujourd’hui, c’est parce qu’elle est très utilisée dans la conception et l’entrainement d’intelligences artificielles.

Qu’est-ce que la classification de Fitzpatrick ?

C’est le dermatologue américain Thomas Fitzpatrick qui a élaboré la classification qui porte aujourd’hui son nom. À la base, son travail n’a absolument pas été fait à des fins technologiques, mais médicales : dans les années 1970, Thomas Fitzpatrick travaillait sur les UV et leurs effets sur la peau.

Le dermatologue indiquait, dans ce classement, que toutes les peaux ne réagissaient pas de la même façon à une exposition au soleil : d’après son outil, les personnes ayant les peaux les plus blanches étaient plus susceptibles de prendre un coup de soleil, à l’inverse de celles ayant une peau plus foncée. De même, selon lui, les personnes ayant les peaux les plus claires avaient plus de risques d’attraper un cancer de la peau.

À partir de ses observations, Thomas Fitzpatrick a établi 6 types de peau différents :

• Le phototype 1, les peaux très pâles, qui concernent les « personnes ayant les cheveux roux ou blond », et qui « brûlent et ne bronzent jamais ».
• Le phototype 2, les peaux très claires, pour les personnes rousses ou blondes, qui « brûlent facilement et bronzent difficilement ».
• Le phototype 3,  les peaux claires, pour les personnes de toutes les couleurs de cheveux, qui « brûlent parfois légèrement et bronzent progressivement ».
• Le phototype 4, les peaux mates, qui ne « brûlent que très rarement et bronzent facilement ».
• Le phototype 5, les peaux foncées, qui « brûlent rarement et bronzent facilement vers une teinte sombre ».
• Le phototype 6, les peaux très foncées ou noires, qui « ne brûlent jamais, bronzent systématiquement et très facilement vers une teinte sombre ».

La classification de Fitzpatrick

Source : Molecular Diversity Preservation International / UV Radiation and the Skin

De la médecine à la tech

Comment est-ce que cette classification, pensée à la base seulement comme un outil médical, s’est-elle retrouvée dans le domaine de la tech ? Selon Reuters, c’est une étude réalisée en 2018 par le MIT qui a popularisé son utilisation dans la tech. Paradoxalement, l’étude démontrait l’existence de biais racistes dans la façon dont certaines intelligences artificielles étaient entraînées en se servant de la classification de Fitzpatrick. A noter que les résultats de l’étude — qui indiquaient que les lots de photos utilisées pour l’apprentissage des IA représentaient trop souvent des hommes blancs — restent cependant toujours valides.

Une fois cette classification popularisée par le MIT, elle a servi de base pour évaluer les performances de beaucoup d’intelligences artificielles. Mais au mois d’avril 2021, Facebook a remis en question sa pertinence. Lors d’une étude sur les deepfakes, les équipes de Facebook se sont rendu compte que la classification n’était « pas assez nuancée pour permettre de rendre compte de la diversité des peaux mates et noires, parce qu’elle est biaisée en faveur des peaux claires ». Et, en effet, sur les six phototypes de peau décrites par Fitzpatrick, quatre concernent les peaux blanches à claires.

La décision de Google de développer de nouveaux outils, « avec des scientifiques, des experts médicaux et des représentants des communautés de personnes de couleur », est donc une nouvelle très importante pour les chercheuses et chercheurs. Elle pourrait notamment permettre de remédier aux problèmes de biais racistes.

Toujours populaire en médecine

Cette classification de Fitzpatrick est cependant encore aujourd’hui très utilisée en médecine, notamment pour la mise au point de crèmes solaires et pour les thérapies au laser. Elle est l’un des outils sur lequel se basent l’Institut National du Cancer, les principaux journaux de recherches, ou encore le gouvernement australien.

Cette méthode de classification des couleurs de peau est cependant de plus en plus critiquée au sein du milieu médical. Laissant peu de place à la nuance, la classification de Fitzpatrick ne permet pas toujours de faire des diagnostiques précis, laissant par exemple penser, à tort, que les peaux de type 5 ou 6 ne risquent pas de prendre de coups de soleil.

Google abandonne aussi la Shirley Card

La classification de Fitzpatrick n’est pas le seul outil que Google a décidé d’abandonner pour éviter les biais racistes. Au mois de mai, le géant faisait part de son intention de ne plus utiliser la Shirley Card pour le calibrage des appareils photo intégrés aux smartphones.

Quelques une des Shirley Cards utilisées à travers les années

Source : Roͬͬ͠͠͡͠͠͠͠͠͠͠͠sͬͬ͠͠͠͠͠͠͠͠͠aͬͬ͠͠͠͠͠͠͠ Menkman - Flickr

La Shirley Card est un outil développé dans les années 1950 par Kodak afin de calibrer les appareils photos. Seulement, les premières photos étalons étaient toutes celles de femmes blanches aux cheveux raides, ce qui ne permettait pas aux appareils photo de bien représenter les personnes aux peaux plus foncées avec parfois des types de cheveux plus bouclés ou crépus.

Son abandon, au profil d’une « Shirley Card 2.0 », doit apporter des améliorations du côté de la balance des blancs ou de l’exposition et, in fine, aider à représenter avec plus de justesse une partie de la population trop longtemps ignorée.

Google

Télécharger gratuitement