Elon Musk voit l’intelligence artificielle comme une menace pour l’humanité

Elon Musk craint le développement de l’intelligence artificielle et le fait savoir. Lors du symposium du centenaire organisé la semaine dernière par MIT AeroAstro, le célèbre entrepreneur a fait part de ses inquiétudes sur les recherches destinées à doter les systèmes informatiques de capacités intellectuelles comparables à celles des hommes. Pour lui, l’humanité risque d’ouvrir une boîte de Pandore.

« Je pense que nous devons être très prudents sur l’intelligence artificielle. Si je devais deviner ce qui pourrait être notre plus grande menace existentielle, c’est probablement l’IA. […] Je suis de plus en plus enclin à penser qu’il devrait y avoir une certaine supervision, peut-être au niveau national et international, juste pour s’assurer que nous ne faisons pas quelque chose de très stupide« , a-t-il expliqué.

Et l’inventeur de poursuivre sur un ton plus léger, mais volontairement provocateur, en comparant les scientifiques à des apprentis sorciers. Ou plutôt à des apprentis démonistes. « Avec l’IA, nous sommes en train de convoquer le démon. Vous connaissez ces histoires où il y a un type avec un pentagramme et de l’eau bénite qui est du genre —’Ouais, il est certain de pouvoir contrôler le démon ? Ça ne marche pas’« .

https://youtube.com/watch?v=8-qEiB6a5f4%3Frel%3D0%26showinfo%3D0

Ce n’est pas la première fois qu’Elon Musk est pessimiste au sujet de l’intelligence artificielle. Dans le cadre d’une conférence organisée par Vanity Fair au début du mois, le créateur de Paypal, SpaceX (lanceur spatial), Tesla Motors (véhicules électriques) et SolarCity (énergie solaire) et le concepteur du projet Hyperloop (un projet de recherche d’un mode de transport), partageait déjà ses peurs.

« Je ne pense pas que quiconque se rend compte à quel point l’intelligence artificielle progresse vite. Particulièrement si la machine profite de l’auto-amélioration récursive (recursive self-improvement)… et si son rôle se fait au détriment de l’humanité, alors elle aura un effet désastreux« , a-t-il mis en garde, avant de prendre l’exemple des spams.

« Si sa fonction est, par exemple, de se débarrasser des courriers indésirables et qu’elle détermine que la meilleure manière de s’en débarrasser est de liquider les humains« … a-t-il glissé, laissant sa phrase en suspend, déclenchant le rire de l’auditoire.

Et le modérateur de la conférence, après avoir balayé d’autres sujets du même ordre, comme le voyage vers Mars et l’exploration spatiale, de demander à Elon Musk s’il n’a finalement pas lu trop de science fiction pour avoir une telle vision du développement technologique. « Oui, c’est possible. Probablement« , a répondu l’inventeur.

Les craintes d’Elon Musk, présentées d’une façon quelque peu alarmiste, soulèvent toutefois de véritables questions sur l’encadrement de l’IA. Il suffit de voir la littérature scientifique ou romanesque sur le sujet, à l’image des fameuses lois sur la robotique. Et si l’IA doit être maîtrisée, son développement posera aussi une autre question de fond : faudra-t-il accorder des droits aux machines ?

( photo : CC BY-ND cykocurt )