L’IA va-t-elle finir par tuer des gens ? Si ce scénario semble tout droit inspiré d’un film de science-fiction, Eric Schmidt, CEO de Google entre 2001 et 2011, assure qu’il pourrait devenir réalité. Un temps membre de la Commission nationale de sécurité sur l’IA aux États-Unis, il partage aujourd’hui ses craintes liées au développement rapide des modèles d’intelligence artificielle.
Pour Schmidt, l’IA va poser de sérieux problèmes au fil de son développement. Les autorités locales doivent s’assurer que la technologie n’est pas « utilisée à mauvais escient par des personnes malveillantes », a-t-il alerté à l’occasion du Wall Street Journal’s CEO Council à Londres mercredi 24 mai, relayé notamment par CNBC.
Une fiction bientôt réelle ?
Eric Schmidt décrit le « risque existentiel » comme le principal danger de l’IA dans le futur. L’ex-PDG de Google définit ce biais comme susceptible de provoquer un « très grand nombre de personnes blessées ou tuées. » Mais alors, comment une technologie virtuelle pourrait-elle affecter le réel ? Le spécialiste évoque de nouvelles découvertes pouvant potentiellement affecter le cours de l’humanité.
« Il existe des scénarios, non pas aujourd’hui, mais dans un avenir assez proche, où ces systèmes seront capables de trouver des exploits de type « zero-day » (des failles de sécurité encore inconnues des développeurs, NDLR) dans le domaine de la cybernétique, ou de découvrir de nouveaux types de biologie », assure-t-il.
Une menace fictive aujourd’hui, mais « susceptible de se vérifier » dans l’avenir. Et Schmidt ajoute : « Lorsque ce moment viendra, notre objectif est d’être parés pour empêcher que ces technologies soient utilisées de manière malveillante par des personnes malintentionnées. »
Un débat sans fin
Le PDG d’OpenAI rejoint Eric Schmidt sur ce constat. Dans une note publiée lundi 22 mai sur le site de la société, Sam Altman estimait que le principal danger d’une intelligence artificielle générale (plus intelligente que les humains) était le « risque existentiel. » Un point de vue à nuancer qui reste l’objet d’un vif débat au sein de la communauté scientifique de l’IA.
Eric Schmidt assure que la question doit dépasser le cadre de la simple réglementation. C’est « une question plus large pour la société » assure-t-il. Il juge toutefois peu probable qu’une instance nationale en charge de l’IA soit mise en place aux États-Unis.
Les craintes soulevées par Schmidt font écho au sempiternel débat sur l’arrivée imminente d’une intelligence artificielle générale (AGI). Le 29 mars dernier, plus de 1 125 noms de la tech mondiale (dont Elon Musk, Steve Wozniak ou John Hopfield) ont co-signé une lettre et demandé un moratoire et une pause dans le développement de l’IA. Un appel rapidement contesté par d’autres grands noms du secteur. Un débat encore loin d’être clos.
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Si vous avez aimé cet article, vous aimerez les suivants : ne les manquez pas en vous abonnant à Numerama sur Google News.
