Les géants du numérique devraient-ils s’abstenir de mettre à disposition de l’État des technologies pouvant servir à conduire des opérations militaires ou à mettre en place des dispositifs de surveillance ? Cette question, qui n’est pas neuve, semble connaître un regain d’intensité ces dernières semaines, avec deux grandes entreprises du web pointées du doigt pour leur proximité avec les forces de l’ordre.
Ces deux sociétés s’appellent Google et Amazon.
Google Maven
Dans le cas de la firme de Mountain View, c’est le projet Maven qui pose problème, y compris dans les rangs de la firme californienne. En avril, plus de 3 100 employés signaient une lettre à l’attention de Sundar Pichai, le PDG de Google, pour le prier d’annuler ce programme mis en place en partenariat avec le département de la défense des États-Unis, un mois auparavant.
« Nous pensons que Google ne devrait pas être dans le business de la guerre. Par conséquent, nous demandons que le projet Maven soit annulé et que Google rédige, publie et applique une politique qui mentionne clairement que ni Google ni ses prestataires ne construiront jamais des technologies de guerre », écrivent ainsi les signataires du texte.
Et d’ajouter que « nous ne pouvons pas étendre la responsabilité morale de nos technologies à des tiers. Les valeurs affichées par Google le disent clairement : chacun de nos utilisateurs nous fait confiance. Ne les compromettez jamais. Jamais. […] Construire cette technologie pour aider le gouvernement américain dans sa surveillance militaire — et des conséquences potentiellement mortelles — n’est pas acceptable. »
Depuis, certains de ces salariés ont démissionné. Le projet Maven est controversé car il consiste à développer et à fournir au Pentagone une technologie capable d’analyser les images filmées par les drones déployés sur les théâtres d’opération de l’armée américaine. Cette levée de boucliers a depuis été soutenue par des universitaires, qui ont eux aussi publié une lettre ouverte contre Maven.
U.S. Air Force / Paul Ridgeway
Amazon Rekognition
En ce qui concerne Amazon, le problème porte sur Rekognition, un programme au nom évocateur : il s’agit d’un système de reconnaissance faciale sur lequel le spécialiste du e-commerce est en train de travailler. En novembre 2017, la société avait présenté cet outil, expliquant qu’il est capable de reconnaître en temps réel des visages et des textes. Or, l’outil servirait aussi aux autorités américaines.
Le 22 mai, l’Union américaine pour les libertés civiles, une association à but non lucratif, a mis la main sur des documents dans trois États américains qui montrent que les usages de cet outil pourraient violer les libertés civiles. Rekognition est par exemple en mesure d’identifier, suivre et analyser des individus en temps réel, et ce jusqu’à 100 personnes par image.
Rekognition « peut identifier les objets, les personnes, le texte, les scènes et les activités, ainsi que détecter tout contenu inapproprié.[Il] fournit également une analyse faciale et une reconnaissance faciale très précises. Vous pouvez détecter, analyser et comparer des visages pour une grande variété de cas de vérification d’utilisateurs, de comptage de personnes et d’utilisation pour la sécurité publique », lit-on dans la présentation d’Amazon.
La présentation de Rekognition, par Amazon.
On est loin de l’ambiance d’il y a deux ans, avec un outil qui permettait par exemple de reconnaître un chien sur une photo, y compris sa race, lorsque l’outil a fait parler de lui pour la première fois en décembre 2016. Mais à l’époque, il était déjà expliqué que l’outil pouvait identifier un visage, un objet, le sexe ou le nombre de personnes à l’image, mais aussi évaluer le type d’émotion et d’humeur apparaissant sur les visages, si ceux-ci sont assez visibles.
Une lettre ouverte a été adressée à Jeff Bezos, le patron d’Amazon, pour l’inviter à arrêter le projet Rekognition. Signée par l’Union américaine pour les libertés civiles mais aussi par des dizaines d’autres organisations et associations, l’Electronic Frontier Foundation, la Freedom of the Press Foundation et Human Rights Watch, la missive pointe les risques de dérives qu’un tel outil peut générer.
« La technologie de reconnaissance faciale comme celle-ci permet au gouvernement d’amplifier la surveillance parmi les minorités ethniques déjà sur contrôlées, de pister en permanence les immigrants, d’identifier et d’arrêter les manifestants et les activistes. Non seulement cette technologie va envahir notre vie privée et alourdir injustement les minorités ethniques et immigrantes, mais elle va aussi affecter notre liberté d’expression », craint l’EFF.
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Abonnez-vous gratuitement à Artificielles, notre newsletter sur l’IA, conçue par des IA, vérifiée par Numerama !
