L’espace public, futur terrain de jeu pour la reconnaissance faciale ? En tout cas, un possible terrain d’expérimentation. C’est ce que préconise un tout récent rapport sénatorial sur le sujet, qui prétend lister trente propositions « pour écarter le risque d’une société de surveillance ». Même si, paradoxalement, le rapport liste pourtant des pistes allant dans cette direction.
Un rapport contre la société de surveillance, mais qui entrouvre la porte
Ce rapport s’avère, à ce titre, ambivalent. Porté par les sénateurs Marc-Philippe Daubresse, Arnaud de Belenet et Jérôme Durain, le document dit vouloir tracer des « lignes rouges » pour éviter de basculer dans une société orwellienne, mais, dans le même temps, préconise de faire quelques essais, bien sûr de manière encadrée. Mais c’est déjà mettre le pied dans la porte.
C’est ce qu’illustre la recommandation n°7 : il est proposé d’expérimenter pendant une durée de trois ans la reconnaissance faciale. Une loi serait adoptée en ce sens, qui déterminerait les conditions et les finalités de ce test au long cours. Ces tests seraient permis pour les acteurs publics et dans les espaces ouverts au public. Des rapports devraient par ailleurs être remis chaque année.
Certes, le rapport contient aussi des garde-fous. La recommandation n°3 conseille d’interdire en général l’emploi de la reconnaissance faciale à distance et en temps réel — en particulier autour des manifestations sur la voie publique et à proximité des lieux de culte. En général, car il y aurait quand même quelques « exceptions très limitées », préviennent les sénateurs.
Des limitations à la reconnaissance faciale, mais une utilisation quand même
Ces exceptions très limitées, et très encadrées selon le rapport, sont justifiées par le risque terroriste, risque réel, mais qui permet de faire passer un certain nombre de régimes d’exception qui prennent le pas sur le droit commun. Sont aussi mentionnés les besoins d’enquêtes judiciaires sur des infractions graves « menaçant ou portant atteinte à l’intégrité physique des personnes. »
Concernant le recours aux algorithmes et à l’identification faciale, le rapport plaide pour un cantonnement « à un rôle d’aide à la décision et prévoir un contrôle humain systématique » (recommandation n°5), quand il s’agit d’un régime d’exception. Il est aussi demandé « d’assurer la transparence » de cette reconnaissance biométrique » avec des éléments clairs, accessibles et intelligibles.
Cet encadrement s’accompagne par ailleurs d’une ligne rouge particulière, qui est sans doute inspirée par ce qu’il se passe en Chine. Ainsi, les sénateurs plaident pour fixer directement dans la loi certaines interdictions relatives à la reconnaissance faciale, qu’elle provienne du secteur privé comme du secteur public. Trois cas précis sont mentionnés :
- les systèmes de notation sociale des personnes ;
- les systèmes de catégorisation des personnes selon une origine, des convictions religieuses ou philosophiques ou une orientation sexuelle, sauf à des fins de recherche scientifique et sous réserve de garanties appropriées ;
- les systèmes de reconnaissance d’émotions, sauf à des fins de santé ou de recherche scientifique et sous réserve de garanties appropriées.
En conférence, les trois auteurs ont tenu à insister sur leur souci de ne pas nuire aux libertés publiques « 80 % de notre rapport est consacré aux lignes rouges », ont-ils argué, selon des propos rapportés par France Info. Restent néanmoins les 20 %, qui, de fait, ouvrent un peu plus la porte de la reconnaissance faciale et plantent un peu plus les graines de son éclosion dans la société.
De fait, le rapport, même s’il fixe effectivement un encadrement à divers niveaux — plusieurs recommandations vont dans ce sens, avec en particulier le souhait de mettre davantage la Commission nationale de l’informatique et des libertés (Cnil) dans la boucle, et de renforcer ses moyens –, prépare quand même le terrain pour aller un peu plus loin dans cette utilisation biométrique.
Préparer aussi les esprits à la reconnaissance faciale ?
Et cela passe aussi, le rapport ne s’en cache pas, par une prise de température de l’opinion publique sur le sujet. Quels sont les cas d’usage auxquels la population se montre plus ou moins favorable ? Surtout, le rapport sénatorial souhaite que soient identifiés « les ressorts d’une meilleure acceptabilité de cette technologie ». Il s’agit de la recommandation n°1.
Il ne faut sans doute pas se leurrer ici : pour quel autre but qu’une extension future de la reconnaissance faciale conduirait-on une enquête sur les leviers permettant de faire mieux accepter la reconnaissance faciale à la population ? On peut douter que ce soit pour une raison de pure curiosité intellectuelle. Il y a aussi des enjeux nets en matière industrielle.
Le principal risque ici n’est pas tant de mener des tests . D’aucuns diraient que ce sont juste des explorations limitées dans le temps et dans l’espace. L’enjeu se situe en ailleurs : c’est l’acclimatation de la population à ces technologies qui se joue. La Cnil d’ailleurs le disait en 2019 dans son rapport appelant à un débat à la hauteur des enjeux :
« Compte tenu des enjeux soulevés par la reconnaissance faciale, il est impérieux de se prémunir de tout effet cliquet lié à la mise en œuvre de certains dispositifs », disait-elle. Ajoutant : « les expérimentations ne sauraient éthiquement avoir pour objet ou pour effet d’accoutumer les personnes à des techniques de surveillance intrusive, en ayant pour but plus ou moins explicite de préparer le terrain à un déploiement plus poussé. »
Il reste à savoir quelles suites seront données à ce rapport. Même si les sénateurs insistent sur les lignes rouges, le sentiment général du rapport est qu’il faut avancer, quitte à embarquer lesdites lignes rouges sous le bras. Et à supposer qu’elles soient conservées à long terme, d’ailleurs. Sans parler du risque de « cherry picking », où l’on ne garde qu’une poignée de mesures.
Les lignes, en tout cas, risquent de beaucoup bouger dans les mois et les années à venir. En effet, la France doit accueillir la Coupe du monde de rugby en 2023 et les Jeux olympiques en 2024. Deux évènements majeurs pouvant justifier de nouveaux besoins en matière de sécurité. D’ailleurs le rapport ne l’ignore pas : il cite les JO de 2024 et la nécessité de protéger la foule.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Abonnez-vous gratuitement à Artificielles, notre newsletter sur l’IA, conçue par des IA, vérifiée par Numerama !
