Si vous avez déjà fait appel à une voiture de transport avec chauffeur ou à un service de livraison de plats cuisinés, vous êtes en principe familier du système de notation vous permettant d’apprécier la qualité du service rendu. Si cela se passe sans accroc, vous mettez cinq étoiles sur cinq au livreur ou au chauffeur. Si au contraire tout ne s’est pas déroulé comme prévu, la notation est revue à la baisse.
Cette politique de la notation est de nos jours omniprésente et incontournable : tout est soumis au verdict de l’internaute-usager, que ce soit au restaurant, la lecture d’un article de presse, l’utilisation d’une application mobile, la livraison d’un colis, l’achat d’un article, le fonctionnement d’un site web, l’expérience vécue, après un sondage par téléphone, etc. Même les internautes sont soumis au scoring.
CC Flickr Stock Catalog
Preuve en est avec Facebook : l’entreprise américaine a commencé à assigner à ses membres un indice de crédibilité allant de zéro à un, le zéro étant la note la plus basse et le un étant le score parfait. Ce système, mentionné par le Washington Post, sert au réseau social à déterminer le degré de confiance que le site peut raisonnablement avoir face aux actions de chaque inscrit.
Ce mécanisme existe aussi pour les médias ; il a été mis en place en novembre 2017.
Interrogée à ce sujet, la responsable de la lutte contre la désinformation s’est voulue la plus rassurante possible : il ne s’agit ni d’un indicateur absolu de la crédibilité d’une personne et il n’y a pas non plus un seul score unifié de réputation qui est attribué aux utilisateurs. Ce dispositif serait juste une mesure parmi des milliers d’autres indices comportementaux que Facebook prend en compte pour mesurer des risques.
D’après le site communautaire, la nécessité de cette notation des internautes a fini par s’imposer lorsqu’il a été constaté que les membres du service, à mesure qu’ils avaient accès de nouvelles options, ne s’en servaient pas de façon attendue. Certains ont ainsi marqué des actualités comme étant fausses, ce qui ne se vérifiait pas dans les faits, mais était la marque d’un désaccord avec les articles.
Il n’est pas dit que ce score puisse être vu par les internautes visitant la page profil d’un membre, ni que chaque utilisateur puisse voir son propre score. Par ailleurs, Facebook conserve pour l’heure un voile opaque sur les critères utilisés pour établir la note. Il n’est pas du tout garanti que le site les révèle un jour, exactement comme Google qui se refuse à détailler comment fonctionne son algorithme de classement.
Le mécanisme qui sous-tend cette notation, pour qu’elle soit un minimum efficace, doit de toute façon demeurer caché ; si son fonctionnement est dévoilé au grand jour, il sera fort simple de savoir comment le déjouer et faire relever son indice de crédibilité. Sauf qu’en le maintenant sous le boisseau, Facebook ne pourra qu’alimenter la suspicion sur la manière dont ce système marche.
Cette approche fait penser, toutes proportions gradées, au système de crédit social que la Chine entend rendre obligatoire d’ici 2020. Ici, l’État attribue une note aux individus, en fonction des données détenues par le gouvernement sur leur statut économique et social, et de facteurs qui ne sont pas rendus publics. Le dispositif a déjà des effets significatifs, en empêchant des personnes d’accéder aux transports.
L’épisode de Black Mirror.
L’approche de Facebook tout comme le mécanisme chinois rappellent par ailleurs un épisode de Black Mirror. Dans celui-ci est présenté une société dans laquelle chaque interaction sociale est sujette à une notation, entre les citoyens qui se jugent et se comparent entre eux. Plus quelqu’un est socialement élevé, plus sa note est haute ; mais pour cela, il doit ajuster en permanence son comportement.
C’est ce qu’on appelle le chilling effect ou le social cooling. La CNIL en donne un exemple : « Suite aux révélations d’Edward Snowden sur les outils de surveillance à la disposition des autorités étasuniennes, la consultation de certaines pages Wikipédia informant sur des sujets sensibles (terrorisme, radicalisation, …) avait chuté drastiquement (jusqu’à 20 % pour certaines pages) ».
Le système imaginé par Facebook pourrait-il avoir les mêmes effets que ce qui a été dépeint dans Black Mirror ou constaté en Chine ? La question est sans doute excessive, puisqu’il s’agit dans un cas d’une œuvre dystopique et dans l’autre d’un système politique autoritaire. En outre, les finalités sont différentes : mais la question n’est pas illégitime au regard du poids que pèse Facebook sur le net.
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Vous voulez tout savoir sur la mobilité de demain, des voitures électriques aux VAE ? Abonnez-vous dès maintenant à notre newsletter Watt Else !
