Black Mirror, épisode 247 : Amazon a déposé un brevet pour une technologie de reconnaissance faciale liée à des caméras de sécurité pour les portes d’entrée. Le logiciel recouperait les images capturées avec une base de données — personnalisable par l’utilisateur — de personnes « suspectes », et appellerait immédiatement la police. Sans qu’à aucun moment, il y ait une intervention humaine.
C’est une nouvelle fois l’association américaine des libertés civiles (ACLU) qui tire la sonnette d’alarme. Certes, il ne s’agit que d’un brevet, et donc cette technologie ne verra peut-être jamais le jour, mais rien que le dépôt expose la position d’Amazon sur la reconnaissance faciale.
Une caméra reliée à la banque de personnes « suspectes » de la police
Le brevet porte sur un système intégré aux services de police. Il relie les visages des personnes qui marchent à proximité d’une caméra de surveillance placée sur une porte d’entrée, avec une base de données de personnes « suspectes ». Si le visage reconnu correspond à un des profils de la banque de données, le système contacte immédiatement la police.
Extrait d'un épisode dédié à la reconnaissance faciale dans la série d'anticipation Black Mirror.
Source : Netflix
La goutte de trop dans le vase qui déborde déjà ? Le brevet laisse ouverte la possibilité pour les utilisateurs de ces caméras d’ajouter eux-mêmes des photos de personnes « suspectes » à cette base. Le brevet ne s’étend pas en détail, et ces propositions seront sûrement soumises à vérification, mais l’idée inquiète.
En avril, le géant américain acquérait Ring, une entreprise de vidéosurveillance et de sonnettes connectées. Amazon propose également un système de reconnaissance faciale depuis 2016, appelé Rekognition, qu’elle vend notamment aux services douaniers. L’entreprise dispose donc déjà de ressources suffisantes à la mise en place d’un tel système.
Une telle technologie accentuerait les discriminations existantes
L’ACLU s’était déjà attaqué plus tôt dans l’année à Rekognition, mis à disposition du gouvernement américain. Elle avait testé le logiciel sur des photos de membres du Congrès et mis en évidence ses biais racistes. Rekognition identifiait 28 membres du Congrès comme criminels, alors qu’aucun d’entre eux ne faisait partie de la banque de données, simplement parce que la reconnaissance faciale n’était pas assez précise. Certains actionnaires d’Amazon avaient demandé à ce que l’entreprise arrête de vendre cette technologie à la police, mais sans succès.
L’association pour la garantie des libertés civiles craint, à juste titre, que ce type de technologie accentue des inégalités déjà existantes. En premier lieu, car la reconnaissance faciale est moins précise sur les personnes non blanches, déjà discriminées. Et ensuite, car ce pourrait être utilisé comme un moyen pour traquer certaines personnes dans l’opposition politique. En bref, cette technologie laisse la porte ouverte à une multitude de scénarios catastrophes.
Encore une fois, il ne s’agit que d’un brevet, et donc d’un projet très peu détaillé. Il est plus que probable qu’Amazon anticipe sur les éventuels débordements de ce type de technologie et doive les encadrer, rien que pour respecter la législation.
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Abonnez-vous à Numerama sur Google News pour ne manquer aucune info !
