Amazon suspend l’usage de sa reconnaissance faciale par la police, mais juste pour un an

Amazon l’avait dit en 2018 : il n’est pas question de renoncer à fournir son outil de reconnaissance faciale, Rekognition, aux autorités américaines. « Nous sommes très fiers de la valeur que Rekognition apporte à nos clients […] dans le domaine du maintien de l’ordre » avait déclaré à l’époque Andrew Jassy, le patron d’Amazon Web Services, selon le témoignage d’un employé rapporté par la presse.

Près de deux ans plus tard, la position du géant informatique n’a pas évolué sur le fond, malgré les circonstances dans lesquelles se trouvent les États-Unis depuis deux semaines avec le décès de George Floyd. À long terme, Amazon entend toujours fournir Rekognition aux forces de l’ordre. Cela dit, l’entreprise a de toute évidence senti le besoin d’apparaître du bon côté de l’histoire — au moins pour un temps.

Dans un communiqué paru le 10 juin, Amazon annonce un moratoire d’un an sur l’usage par la police de Rekognition. Sa technologie de reconnaissance faciale ne sera toutefois pas totalement inactive sur cette période, puisque le groupe indique qu’il continuera à s’en servir dans d’autres cas d’usage : pour lutter contre la traite d’êtres humains et les enfants disparus. Pour cela, Amazon travaille avec certaines organisations.

La présentation de Rekognition, par Amazon.

L’existence de Rekognition remonte à décembre 2016. Amazon soulignait à l’époque sa capacité à identifier un visage, mais aussi certaines caractéristiques (le sexe ou le nombre de personnes, ainsi que l’émotion et l’humeur) et des objets. La société se félicitait aussi que son système était déjà pertinent « dans plusieurs contextes d’authentification et de sécurité différents ». L’analyse en temps réel a suivi peu après.

La décision d’Amazon survient dans une séquence où l’entreprise apparaît à la traîne d’IBM, qui a été le premier grand groupe à se positionner sur la question de l’usage de la reconnaissance faciale à des fins répressives. Big Blue a déclaré que cela sert au profilage racial et à la surveillance de masse et qu’il n’est plus question de faire de l’argent avec. Une décision qui a pu contraindre Amazon à dire quelque chose aussi.

La réticence d’Amazon de cesser de fournir Rekognition aux forces de l’ordre s’explique par une réalité assez simple : la firme de Seattle fait des affaires avec. En 2018, Forbes faisait état d’un contrat avec les douanes américaines. Pour sa part, le Washington Post relevait les importantes dépenses en lobbying pour inciter à adopter sa technologie. Tout ça avec l’assentiment de ses actionnaires, notait Phys.

Profiter du moratoire pour peser sur toute nouvelle législation

Cette période de moratoire ne sera pas une période d’attentisme pour Amazon. La société encourage les autorités « à mettre en place des réglementations plus strictes pour régir l’utilisation éthique de la technologie de reconnaissance faciale ». Cette période d’un an doit être l’occasion pour le Congrès d’avancer sur cette problématique et Amazon trouve que les parlementaires sont près à s’y mettre.

Amazon déclare même qu’il se tient à disposition des élus pour leur apporter son « aide ». Ce n’est pas la première fois que le groupe exprime un fort intérêt pour cette législation. En 2019, le patron de l’entreprise, Jeff Bezos, déclarait que ses équipes ont déjà planché sur un brouillon de réglementation en matière de reconnaissance faciale et qu’il pourrait servir aux parlementaires.

La politique d'Amazon en matière de reconnaissance faciale alarme et des parallèles sont fait avec le roman 1984 de George Orwell.

Source : Michael Allen Smith

Pour l’Union américaine pour les libertés civiles (ACLU), l’annonce d’Amazon est toujours un pas dans la bonne direction. « Il a fallu deux ans pour en arriver là, mais il était temps qu’Amazon commence à reconnaître les dangers de la surveillance de la reconnaissance », en particulier à l’égard des minorités et des personnes racisées, et plus généralement aux libertés civiles, écrit-elle sur Twitter.

Mais ce n’est évidemment pas suffisant : l’ACLU veut un arrêt complet et définitif de cette technologie, le temps au moins de répondre correctement aux enjeux qu’elle soulève : « la technologie de reconnaissance faciale donne aux gouvernements le pouvoir sans précédent de nous espionner où que nous allions. Elle alimente les abus de la police. Ces dangers ne disparaîtront pas dans un an ».

Pour l’ACLU, le congrès doit effectivement se saisir de ce sujet, mais pour en cesser l’usage par les forces de l’ordre. L’union prévient qu’elle va maintenant appeler Microsoft à suivre le mouvement.