Dans une course effrénée entre attaque et défense menées par des bots [des systèmes automatisés, ndlr], Facebook a un nouveau plan pour obtenir un coup d’avance sur les cybercriminels.
L’entreprise a lancé WW, un Facebook alternatif, bâti sur les mêmes millions de lignes de code et sur la même infrastructure matérielle que le réseau social original. L’objectif : créer une simulation à l’échelle, pratiquement similaire à la plateforme en production, là où ils utilisent aujourd’hui des simulations atrophiées par rapport au réel.
WW accueille donc des milliers de bots, bientôt des millions. Ils publient des messages, interagissent contre eux, animent des pages, se demandent en amis, et se lancent dans des discussions sur Messenger. Bref, ils ont pour mission de se comporter comme des utilisateurs de Facebook.
Pas super sympa le robot rouge qui envoie des messages malveillants aux robots bleus. // Source : Facebook
Et ils ne sont pas seuls : l’entreprise californienne a aussi déployé une armée de bots chargés d’intentions malveillantes. Ces derniers ont pour mission de trouver des failles dans les systèmes de détection de Facebook avant les malfaiteurs humains. L’entreprise californienne nomme cette méthode la « Web-Enabled Simulation » (ou WES).
Pour l’instant l’équipe dirigée par le chercheur Mark Harman se concentre sur la détection des méthodes d’arnaque. Les bots malveillants essaient d’arnaquer d’autres bots de la plateforme par différents moyens, puis les développeurs ajustent leurs systèmes de détection en fonction des techniques qui fonctionnent.
« Les bots, en théorie, peuvent faire des choses que nous n’avons jamais vu, grâce à l’apprentissage renforcé. Nous voulons atteindre ce stade, parce qu’il nous donnera une avance sur les comportements malveillants, plutôt que d’avoir à les rattraper », espère Mark Harman, dans un webinar auquel ZDNet a assisté.
Des bots plus ou moins bêtes pour arnaquer d’autres bots
Tous ces bots sont entraînés selon plusieurs méthodes d’intelligence artificielle. Les plus basiques vont agir en fonction d’un moteur de règles défini par les chercheurs, c’est-à-dire qu’ils auront un comportement prédéfini en fonction de chaque type de réaction. Les bots les plus complexes, quant à eux, seront animés par des algorithmes d’apprentissages non supervisés, c’est-à-dire qu’ils feront eux-mêmes émerger un ensemble de règles de comportement en fonction des interactions qu’ils observeront, simplement guidés par un système de récompenses.
Entre les deux se trouvent des bots guidés par des algorithmes d’apprentissage supervisé, qui devraient en théorie se comporter comme les vrais arnaqueurs. Et pour cause : ils sont entraînés à partir de données collectées par Facebook sur les comportements des vrais arnaqueurs. Ils vont tirer de ces données un ensemble de règles qui vont guider leur comportement.
Le projet n’est pas encore abouti
Avec ces différentes techniques d’entraînement, l’objectif des chercheurs est d’obtenir un spectre comportemental le plus large possible, pour que les bots tentent à la fois des schémas d’arnaque basiques et d’autres plus surprenants.
L’intérêt final du projet pour Facebook est d’expérimenter à l’échelle, pour que les comportements de bots reflètent au mieux les interactions. Mais Mark Harman précise que le projet WW est encore en phase expérimentale, et qu’il doit faire des ajustements avant qu’il d’atteindre l’échelle espérée.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Marre des réseaux sociaux ? Rejoignez-nous sur WhatsApp !
