IA despotique, démocratie directe sur Mars, cyborgs… les craintes et espoirs d’Elon Musk

Le génial Elon Musk était la nuit dernière invité sur la scène de la prestigieuse conférence Recode, où sont régulièrement interviewés les patrons des plus grandes entreprises du Web et des technologies. Il a livré à cette occasion de multiples explications sur sa vision du développement des nouvelles technologies, qui peuvent apporter le pire ou le meilleur, selon l’orientation qu’on leur donne.

Sur l’intelligence artificielle despotique

Elon Musk est ainsi revenu sur ses craintes concernant l’intelligence artificielle dont l’humain est progressivement en train de se rendre dépendant. Revenant sur sa décision de créer le consortium Open AI à but non lucratif, le directeur de Tesla et SpaceX explique que le danger serait de reposer sur des agents intelligents que l’on ne contrôle pas soi-même. Plus on devient dépendant d’une intelligence artificielle, plus celle-ci a de pouvoirs sur nous.

Il cite Lord Acton, qui avait déclaré que « le pouvoir tend à corrompre, le pouvoir absolu corrompt absolument », et juge donc essentiel d’avoir un pouvoir distribué. « C’est important que si nous avons ce pouvoir incroyable de l’IA, il ne soit pas concentré dans les mains de quelques uns, qui nous conduirait à un monde dont nous ne voulons pas. Je ne connais pas beaucoup de gens qui adorent l’idée de vivre sous un despote ». Dans l’imaginaire d’Elon Musk, ce despote pourrait devenir l’IA elle-même, ou plus certainement l’entreprise qui la contrôle.

« Il n’y a qu’une seule entreprise qui m’inquiète », a-t-il assuré, en refusant d’en donner le nom. Certains penseront à Google, d’autres à Facebook.

Son objectif est donc de fournir aux utilisateurs les moyens de contrôler leurs propres IA, exactement comme le mouvement du logiciel libre permet aux utilisateurs de contrôler leur système informatique. Mais les enjeux, certainement, sont beaucoup plus forts encore.

Sur l’homme cyborg branché à une IA par les veines

Enchaînant sur l’intelligence artificielle, Elon Musk pense que l’IA deviendra une part de nous-mêmes, comme une couche supérieure au cortex, qui ferait de nous un humain symbiotique, où le numérique communique avec le corps et l’esprit. « Nous sommes déjà des cyberborgs », explique-t-il en notant qu’une partie croissante de nos vies et de nos personnalités sont déjà archivées en ligne, et que ça offre « des superpouvoirs », comme la possibilité de poser des questions et d’avoir instantanément des réponses.

Techniquement, le défi sera de rendre aussi fluide que possible la lecture et l’écriture, entre le cerveau humain et le cerveau numérique. Il imagine alors une interface qui pourrait passer « par les veines et les artères, qui offrent une route vers tous vos neurones  ». Pas besoin d’opération chirurgicale, mais un simple système branché « à la jugulaire ». Vivement ?

Sur la démocratie directe sur Mars

Elon Musk a déjà annoncé qu’il voulait envoyer des hommes sur Mars en 2025, en prévision d’un projet de colonisation. Mais quel système gouvernemental mettre en place sur la planète rouge ? « La forme la plus probable de gouvernement serait une démocratie directe, pas une démocratie représentative. Donc nous aurions des gens qui votent directement sur les sujets », répond-t-il. « C’est probablement mieux, parce que le risque de corruption est sensiblement diminué ».

Il plaide également pour un système qui permettrait, non seulement d’adopter des lois par une majorité qualifiée (par exemple 60 % des votants), mais aussi d’obtenir leur suppression par une minorité importante (plus 40 %). Il faut « qu’il soit plus difficile d’ajouter des lois que d’en supprimer ». Il estime que généralement, les lois devraient avoir une date d’expiration, pour que l’on ne conserve pas dans le système juridique des lois qui ne sont plus pertinentes, mais que personne n’ose ou ne prend le temps de supprimer.