Les progrès significatifs accomplis en robotique et en intelligence artificielle au cours des dernières années doivent-ils conduire les gouvernements à prendre dès à présent des dispositions contraignantes afin d’empêcher, ou à défaut de limiter et d’encadrer, l’émergence des robots armés autonomes ? C’est le souhait que viennent de formuler 116 signataires d’une lettre ouverte publiée en août.
« Les armements autonomes risquent de devenir la troisième révolution en matière militaire. Une fois développés, ils permettront aux conflits armés d’avoir lieu à un degré jamais atteint et à des échelles de temps au-delà de la compréhension humaine » peut-on lire dans la missive signée notamment par Elon Musk, qui a fondé OpenAI, un collectif visant à développer une IA profitable à l’humanité.
Les armements autonomes, des outils de terreur
Ces armements « peuvent être des outils de terreur, des armes que les despotes et les terroristes utilisent contre des populations civiles et des armes piratées afin de les faire se comporter d’une façon indésirable. Nous n’avons pas beaucoup de temps pour agir. Une fois cette boîte de Pandore ouverte, il sera difficile de la refermer », mettent en garde ces experts du monde entier.
Du côté de l’industrie de l’armement, la course est déjà lancée. Par exemple, l’entreprise russe Kalashnikov communique depuis peu sur son programme de développement de drones et de robots armés soutenus par des réseaux de neurones pour repérer, identifier et « traiter » automatiquement des cibles. Des efforts similaires existent aux USA avec la Darpa et en Corée du Sud avec le Samsung SGR-A1.
Outre Elon Musk, dont la notoriété n’est plus à faire, on trouve parmi les signataires Mustafa Suleyman, le cofondateur de DeepMind, la filiale de Google dédiée à la recherche en matière d’intelligence artificielle, ainsi que des spécialistes venant des États-Unis, du Royaume-Uni, de l’Europe continentale, d’Afrique du Sud, de Russie, de Singapour, du Japon, d’Inde, d’Islande, du Canada, de Chine et d’Australie.
Six Français figurent dans cette lettre ouverte : Raul Bravo (Dibotics), Raphaël Cherrier (Qucit), Jérôme Monceaux (Spoon.ai et Aldebaran Robotics), Charles Ollion (Heuritech), Anis Sahbani (Enova Robotics) et Alexandre Vallette (Snips et Ants Open Innovation Labs). Ce n’est pas la première fois qu’une telle lettre ouverte est publiée : en 2015, une initiative similaire avait eu lieu.
La missive a été soutenue par de nombreuses personnalités comme le directeur de la recherche de Microsoft Eric Horvitz, le directeur de l’IA chez Facebook Yann LeCun, divers responsables de l’IA chez Google (dont l’ingénieur français Laurent Orseau et Demis Hassabis, cofondateur de DeepMind), Elon Musk, Steve Wozniak, le cofondateur d’Apple ou encore par Stephen Hawking, qui avait déjà tiré la sonnette d’alarme.
Convention sur les armes classiques
La lettre ouverte publiée en 2017 s’adresse à l’ONU et plus particulièrement aux États afin de les inviter à faire évoluer la Convention sur certaines armes classiques en vue d’inclure les robots armés autonomes. Cette convention, ratifiée par 124 pays dans le monde, porte sur les mines, les pièges, les armes incendiaires, les armes à laser aveuglantes, aux éclats non localisables et aux restes explosifs de guerre.
« En tant qu’entreprises développant des technologies d’intelligence artificielle et de la robotique qui peuvent être réorientées pour développer des armes autonomes, nous avons la responsabilité particulière de tirer la sonnette d’alarme », écrivent les signataires, qui se disent néanmoins satisfaits de voir l’ONU mettre en place un groupe d’experts gouvernementaux sur ce sujet.
Mais pour l’heure, aucune réunion à court terme n’est prévue pour discuter de l’ajout des robots armés autonomes au traité. Selon le site sur lequel la lettre ouverte est publiée, la rencontre prévue lundi 21 août a été repoussée à novembre. Quoiqu’il en soit, les signataires assurent qu’ils sont disposés à contribuer : « beaucoup de nos chercheurs et ingénieurs souhaitent offrir des conseils techniques à vos délibérations ».
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Vous voulez tout savoir sur la mobilité de demain, des voitures électriques aux VAE ? Abonnez-vous dès maintenant à notre newsletter Watt Else !
