Seriez-vous plus à l’aise à bord d’une voiture autonome si celle-ci était capable de vous expliquer son comportement sur la route ? Les professeurs d’informatique de l’université d’État de l’Oregon en sont convaincus. Et leur assurance a visiblement séduit la Darpa, l’agence de recherche de la défense américaine : elle vient de leur attribuer une bourse de 6,5 millions de dollars sur 4 ans pour travailler à l’élaboration d’un tel système.
Leur objectif est clair : renforcer la confiance des humains vis-à-vis des intelligences artificielles, appelées à investir de nombreux futurs domaines du quotidien — les véhicules autonomes, donc, mais aussi les robots — en permettant à ces dernières de leur expliquer leur comportement.
L’équipe précise : « La réussite de la branche des neurones artificiels a permis d’importantes avancées au sein de systèmes autonomes capables de percevoir, d’apprendre, de décider et d’agir par eux-mêmes. Mais leur problème reste leur fonctionnement en boîte noire. Avec le deep learning, en lieu et place d’humains qui codent de manière explicite le comportement du système en recourant à la programmation traditionnelle, le programme informatique apprend de lui-même grâce à de nombreux exemples. Cette dépendance à un système que même les développeurs ne comprennent pas entièrement fait émerger des dangers potentiels. »
Première prise de contact sur StarCraft
Si les amateurs de Star Wars imaginent déjà un système d’échange comme celui de Luke Skywalker et de R2-D2 à bord d’un X-Wing, Alan Fern, directeur associé de la filière de robotique et de systèmes intelligents de l’établissement, indique : « Au final, nous voulons que ces explications restent naturelles, en traduisant ces décisions de neurones profonds en phrases et en visualisations. »
Cette partie axée sur les communications obligera l’équipe à faire appel à des experts en vision par ordinateur et en traitement automatique du langage naturel. Pour débuter, les scientifiques s’appuieront sur des jeux de stratégie en temps réel, comme StarCraft, pour permettre aux « IA » d’expliquer leur comportement aux joueurs humains — alors que le titre phare de Blizzard sert déjà de support à l’IA DeepMind de Google. Les phases suivantes concerneront potentiellement les projets de la Darpa liés à la robotique et aux drones.
Alan Fern est convaincu que cette avancée est indispensable pour aboutir à la démocratisation des IA : « Personne ne va recourir à ces technologies émergentes pour des usages primordiaux tant que nous ne serons pas capables de créer un niveau de confiance : [les] doter d’une capacité explicative est un moyen important de créer cette confiance. »
Reste à savoir si un tel dispositif suffira à rassurer des entrepreneurs comme Elon Musk, qui ne cache pas ses craintes vis-à-vis du développement non encadré de l’IA : il a même fondé en 2015 le collectif OpenAI pour « faire avancer l’intelligence numérique de la manière qui serait la plus profitable à l’humanité, sans que ces recherches soient dictées par le besoin d’un retour sur investissement ».
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Abonnez-vous à Numerama sur Google News pour ne manquer aucune info !
