Impossible d’imaginer un entraînement militaire sans intégrer un défi contre l’IA aujourd’hui. Pour la cinquième année d’affilée, 113 étudiants issus de différentes formations ont pris part, du 27 au 31 janvier, à l’exercice Cyber Humanum Est, organisé à Nancy par le Commandement de la cyberdéfense (ComCyber), la Base de Défense locale et l’Université de Nancy.
Les jeunes sont répartis en trois équipes et doivent s’affronter dans le cyberespace à travers un scénario inspiré par les tensions géopolitiques et le contexte actuel. Et naturellement, des programmes dotés d’intelligence artificielle viennent semer le trouble. « L’absence d’innovation mène à la perte.On l’observe de plus en plus dans la lutte du champ informationnel, où chaque avancée technologique finit par être détournée et demande de répondre aussi rapidement » déclare le Contre-Amiral Vincent Sébastien, adjoint au COMCYBER.
Les exercices de l’OTAN comportent également un volet de réponse à désinformation et aux campagnes d’influence étrangère que les régiments cyber des pays membres doivent affronter sur des répliques de réseaux sociaux. Les futurs experts en cybersécurité ne sont donc pas épargnés par ces mises à l’épreuve.
Des réactions anxiogènes sur les réseaux sociaux
Avec Bitdefender, votre vie numérique est entre de bonnes mains. Restez à l’abri des escroqueries, des virus et des ransomwares grâce à ses solutions innovantes et discrètes.
Concrètement, chaque camp doit être en capacité de pirater les infrastructures adverses, et inversement, protéger les siennes. Or, le ComCyber souhaite faire comprendre que chaque action influence directement la population. Un clone de réseau social, avec son fil d’actualité alimenté par un programme d’IA, a été déployé, obligeant les étudiants à interagir avec les publications de la machine. Être en incapacité de répondre aux fausses informations, fait perdre des points à l’équipe ciblée et baisse la « réputation » du pays fictif qu’il est censé représenter.
Quant à la génération de fake news en continu, rien de très compliqué. « J’ai récupéré un programme en accès libre qui permet de lancer une intelligence artificielle générative sur un poste. Elle a retenu le narratif de l’exercice et produit désormais du contenu de manière autonome » nous explique un officier de réserve en charge de la programmation du système. « Vous pouvez voir que l’IA adopte ici un discours plus souverainiste » nous montre-t-il en pointant du doigt les commentaires anxieux d’un utilisateur fictif du réseau social.
Sous les tentes couleur kaki, les étudiants font défiler les réactions et adaptent leur stratégie en fonction des discours qui émergent sur cette copie de Twitter. « Cela reste un exercice, mais rappelons qu’en 2024, OpenAI, l’organisation à l’origine de ChatGPT, a fait état d’une utilisation de son chatbot par des États comme la Russie et l’Iran pour produire du contenu malveillant » précise le Contre-Amiral.
TikTok, « une arme informationnelle »
L’armée se montre de plus en plus méfiante à l’égard des réseaux sociaux et leur impact. En janvier 2024, le général Burkhard, chef d’état-major des armées, déclarait lors d’une commission devant les députés que l’application « TikTok est une arme informationnelle. Elle agit massivement sur les perceptions, récupère des données et sature les systèmes informatiques et électroniques, de sorte que même celui qui ne l’utilise pas en subit les conséquences ».
À ce jour, les risques majeurs associés à l’intelligence artificielle résident principalement dans la production et la dissémination à grande échelle de fausses informations, inondant les utilisateurs de contenus manipulatoires sur des thèmes précis. « Une automatisation des attaques avec des systèmes programmés pour attaquer simultanément et sans pilotage constant est bien sûr envisagé et nous préparons à ces scénarios » anticipe le Contre-Amiral Vincent Sébastien.
Des projections peu rassurantes, que ces étudiants devront peut-être affronter un jour. « Ces exercices permettent aussi de sortir de l’image du hacker solitaire. Répondre à une attaque, c’est un travail d’équipe, où l’on gère les capacités et les états d’âmes de chacun » ajoute l’officier du ComCyber. Pas de crise de panique à signaler cet après-midi encore, hormis quelques sodas renversés autour des claviers.
Les abonnés Numerama+ offrent les ressources nécessaires à la production d’une information de qualité et permettent à Numerama de rester gratuit.
Zéro publicité, fonctions avancées de lecture, articles résumés par l’I.A, contenus exclusifs et plus encore. Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Vous voulez tout savoir sur la mobilité de demain, des voitures électriques aux VAE ? Abonnez-vous dès maintenant à notre newsletter Watt Else !
