Amazon n’entend pas dévier d’un iota de sa trajectoire, malgré la vive polémique sur Rekognition. Alors que les voix lui demandant de ne pas mettre à disposition du gouvernement américain sa technologie de reconnaissance faciale sont de plus en plus nombreuses, le géant du commerce électronique — dont les activités se sont bien diversifiées depuis — persiste et signe.
Au cours d’un échange avec des employés, dont The Verge se fait l’écho ce 8 novembre 2018, la direction d’Amazon a en effet défendu le bien-fondé de Rekognition et prévenu que ce système continuerait à être commercialisé auprès des autorités. « Nous sommes très fiers de la valeur que Rekognition apporte à nos clients de toutes tailles et de tous types d’industries dans le domaine du maintien de l’ordre et en dehors de celui-ci.»
À l’origine de cette réponse se trouvait une question dans laquelle un salarié du groupe se demandait comment Amazon accueillait les « préoccupations exprimées par les employés d’Amazon et les groupes de défense des droits civils » en rapport avec « la vente de la technologie de reconnaissance faciale d’Amazon aux organisations gouvernementales et policières, dont l’agence de police douanière américaine ».
La présentation de Rekognition, par Amazon.
Reconnaissance en temps réel par les autorités américaines
Initialement, Rekognition a été dévoilé en décembre 2016. À l’époque, Amazon expliquait pouvoir identifier un visage, un objet, le sexe ou le nombre de personnes à l’image, mais aussi évaluer le type d’émotion et d’humeur apparaissant sur les visages, si ceux-ci sont assez visibles. Et déjà, Amazon expliquait que son outil pouvait servir « dans plusieurs contextes d’authentification et de sécurité différents ».
Un an plus tard, Amazon a reparlé de Rekognition, expliquant que son système est aussi en mesure de reconnaître en temps réel des visages et des textes — ce qui n’est pas inutile en matière de surveillance menée au nom de la sécurité publique, si l’on couple ce dispositif avec un réseau de caméras de surveillance (ce qui est l’une des grandes craintes de la CNIL en France).
Or, selon des documents récupérés par des associations, il s’avère que Rekognition sert déjà aux autorités américaines. L’outil est actif dans quelques États fédérés et il a été rapporté dans les médias que les forces de police en Floride et dans l’Oregon l’utilisent. Le système est puissant : il peut identifier, suivre et analyser des individus en temps réel, et ce jusqu’à 100 personnes par image.
Le problème des faux positifs
Le problème, c’est que le dispositif rencontre à d’importants faux positifs. Il a ainsi été mis en lumière que des membres du Congrès américain ont été identifiés à tort comme des criminels. En outre, un biais raciste a été remarqué dans son traitement des visages, ce qui pourrait générer des incidents avec les minorités ethniques, déjà sur-contrôlées, ainsi qu’avec les migrants.
Les manifestants et les activistes pourraient aussi en subir les effets négatifs, tout comme la population en général, car le fait de savoir d’être sous surveillance est susceptible d’inhiber plus ou moins fortement la liberté d’expression.
Des considérations qui ne semblent pas émouvoir Amazon, en tout cas pas assez pour le faire dévier de sa route. Pourtant, les appels à renoncer ont été multiples au cours des derniers mois, à commencer par les associations de défense des libertés civiles. Même chez les actionnaires, le malaise est palpable : plusieurs d’entre eux ont aussi réclamé l’arrêt de ce projet. Ou du moins, sa réorientation.
La ligne que tient Amazon en la matière diverge en tout cas de celle que Google suit depuis quelque temps. La firme de Mountain View, qui a aussi connu une vive controverse en début d’année avec le programme Maven, qui visait à aider l’armée américaine dans ses projets de surveillance, a, elle, fait machine arrière devant la grande de son personnel, mais aussi de l’ampleur que prenait l’affaire dans les médias.
Elle a même renoncé à un appel d’offres du Pentagone estimé 10 milliards de dollars.
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Vous voulez tout savoir sur la mobilité de demain, des voitures électriques aux VAE ? Abonnez-vous dès maintenant à notre newsletter Watt Else !
