Des caméras alimentées par Amazon ont détecté les émotions des voyageurs britanniques

Une fuite de documents, consultée par le média américain Wired, révèle que des milliers d’usagers britanniques ont été scannés lors de leur passage en gare. Dans un article publié le 17 juin 2024, on apprend qu’un système de reconnaissance d’image a été testé durant deux ans dans huit gares du Royaume-Uni. Ce logiciel installé sur les caméras devait prédire l’âge, le genre et les émotions des voyageurs.

Les essais ont permis de détecter des intrusions sur les voies, surveiller et prédire la surpopulation des quais, identifier les comportements antisociaux (courir, crier, faire du skateboard, fumer) et repérer de potentiels voleurs de vélos. Des capteurs ont été installés pour signaler les sols glissants et les poubelles pleines.

Des caméras pour savoir si on est triste ou heureux

Cette phase de test pourrait presque passer pour une amélioration de la sécurité sur les quais, mais quelques notes indiquent que les caméras améliorées par l’intelligence artificielle ont dépassé le cadre de la simple surveillance.

La société Network Rail en charge du réseau ferroviaire dans le pays a fait appel à la technologie Rekognition d’Amazon pour contrôler la population dans les gares. Une mention ajoute que ces tests doivent également permettre de mesurer la « satisfaction » des passagers, avec une potentielle réutilisation pour « pour maximiser les revenus publicitaires et commerciaux ».

Pour l’organisation de défense des libertés Big Brother Watch, le plus préoccupant dans ces documents reste une fiche qui précise que ces technologies sont utilisées « pour analyser les émotions telles que la joie, la tristesse et la colère ».

Dans quelle mesure l’analyse de la détection des émotions a-t-elle été déployée ? Ce n’est pas clair, les documents rapportent seulement que les cas d’utilisation doivent être « examinés avec plus de prudence ». Gregory Butler, le PDG de la société d’analyse de données et de vision par ordinateur Purple Transform, a travaillé avec Network Rail sur les essais, et déclare auprès de Wired que la capacité a été abandonnée pendant les tests.

Network Rail n’a pas répondu aux questions sur les essais posées par les journalistes, y compris sur le statut actuel de l’utilisation de l’IA ainsi que la détection des émotions.

Des caméras intelligentes, améliorées par l’IA, devraient également être déployées pour les Jeux olympiques à Paris. Elles devraient pouvoir analyser des comportements dangereux, mais il n’est faits aucune mention de l’analyse de notre tristesse ou notre joie pendant l’évènement.