Il ne manque plus qu’un vote solennel le 31 janvier 2023, dont l’issue ne fait guère de doute. Le 25, le Sénat a achevé l’examen de chaque article du projet de loi relatif aux Jeux Olympiques et Paralympiques de 2024, en séance plénière, dont l’article 7 du texte, qui porte sur la surveillance algorithmique. La discussion sur le texte va néanmoins se poursuivre à l’Assemblée nationale.
Une analyse de comportement de la foule
La surveillance algorithmique dans le cadre des JO de Paris va consister à exploiter les images collectées au moyen des caméras de vidéosurveillance pour « détecter, en temps réel, des événements prédéterminés susceptibles de présenter ou de révéler ces risques et de les signaler » aux forces de l’ordre, aux services de secours ou aux agents de sécurité dans les transports.
Cette analyse doit se faire au niveau de la foule — il n’est pas question aujourd’hui de faire de la reconnaissance faciale, qui impliquerait une analyse biométrique. À ce sujet, le gouvernement n’a pas prévu d’aller dans cette direction pour les Jeux Olympiques. Néanmoins, il a été constaté des amendements de parlementaires qui ont tenté quand même d’introduire cette disposition.
Dans l’étude d’impact autour de cet article 7, d’autres cas de figure que le suivi de la foule ont été avancés, comme la détection « d’un colis abandonné à proximité des infrastructures ». Au-delà de la sécurité, cela permettrait aussi « d’améliorer la gestion des lieux à forte densité » en se basant sur des analyses statistiques sur les flux de fréquentation.
L’interfaçage de ces algorithmes à la vidéosurveillance a fait bondir La Quadrature du Net, une association spécialisée dans la société numérique. « Bien qu’elle soit prétendument circonscrite aux JO, il n’en est rien : la vidéosurveillance algorithmique est un projet politique du gouvernement qui n’attendait qu’une occasion pour sortir des cartons », s’insurge-t-elle.
Parmi les amendements sénatoriaux pris par le Sénat, plusieurs concernent l’article 7 pour, selon la chambre haute du Parlement, « renforcer les garanties encadrant l’utilisation, à titre expérimental, de traitements algorithmiques sur les images ». En particulier, la Commission nationale de l’informatique et des libertés (Cnil) est mise dans la boucle pour contrôler l’article 7.
Interrogée à ce sujet, la présidente de la Cnil, Marie-Laure Denis, indiquait le 24 janvier que ses services « [vont] voir si les données qui sont utilisées par ces algorithmes sont fiables, sont pertinentes et surtout veiller à ce qu’il n’y ait pas de biais et d’erreurs ». « On va dialoguer. La Cnil, ce n’est pas qu’un gendarme des données, elle fait beaucoup d’accompagnement. »
Une position dénoncée par La Quadrature du Net, qui juge la présidente de la Cnil « démissionnaire » face à la vidéosurveillance algorithmique. « Elle fait comme si les biais n’étaient liés qu’aux données d’entraînement de l’IA en oubliant les discriminations systémiques codées dans ces systèmes. […] Elle s’illusionne en faisant comme si la pérennisation n’était pas jouée d’avance. »
Un dispositif prévu jusqu’à mi-2025
Marie-Laure Denis avait évoqué au cours de son interview l‘organisation ratée de la finale de la Ligue des champions, en mai 2022 au Stade de France. Il y avait eu de gros débordements autour de l’enceinte, avec une incapacité criante à gérer la foule. « On a vu que ça avait été un enjeu », a relevé Marie-Laure Denis. Et, il est hors de question pour l’exécutif que cela se reproduise aux JO.
D’autres dispositions ont été prises par les sénateurs. Ainsi, il est prévu des « mesures de contrôle humain et un système de gestion des risques » pour prévenir et corriger « la survenue de biais éventuels ou de mauvaise utilisation ». Il est aussi question d’une information au public ou encore la « formation des agents pouvant accéder aux signalements du traitement. »
En principe, la loi prévoit une expérimentation de la vidéosurveillance algorithmique jusqu’au 30 juin 2025, uniquement pour la sécurité de manifestations sportives, récréatives ou culturelles de grande ampleur en France. Mais, pour les opposants à la mesure, la crainte est vive que cette mesure temporaire ne finisse par devenir durable.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Abonnez-vous gratuitement à Artificielles, notre newsletter sur l’IA, conçue par des IA, vérifiée par Numerama !
