C’est une petite phrase qui pourrait sonner comme un rappel à l’ordre pour OpenAI. Au détour d’un entretien accordé à Bloomberg le 21 mai 2024, le patron de Microsoft a affiché une posture ferme à l’égard d’une tendance que l’on voit apparaître de plus en plus avec les progrès en intelligence artificielle (IA) : l’anthropomorphisation.
Ce phénomène consiste à donner un aspect ou un comportement humain à une chose (ou un animal). Par exemple, cela se traduit dans l’IA par simuler une voix la plus naturelle possible et à proposer des réactions qui ressemblent à celles de vraies personnes — des rires, des respirations, des intonations, des interjections et ainsi de suite.
Cette tendance déplait à Satya Nadella. « Je n’aime pas l’anthropomorphisation de l’intelligence artificielle. Je pense que c’est un outil », a souligné le dirigeant américain. Cette remarque, en apparence anodine, est survenue quelques jours après la présentation de GPT-4o, un nouveau modèle de langage conçu par OpenAI.
Durant les démonstrations, OpenAI a montré une évolution de l’outil appelé ChatGPT Voice. Il est possible de lui demander de chanter, de prendre une voix robotique ou d’être dramatique. Il répond du tac au tac, fait des blagues et a des intonations bluffantes de réalisme. ChatGPT Voice imite même les respirations humaines.
Polémique sur la voix de Scarlett Johansson et l’attitude d’OpenAI
À cela s’est ajoutée une controverse impliquant Scarlett Johansson. Une voix de l’assistant vocal d’OpenAI ressemble à celle de l’actrice, à tel point que l’on pourrait les confondre. La société a assuré ne pas avoir pris sa voix sans son consentement. Par la suite, on a découvert qu’il y a bien eu une tentative de deal, qui n’a pas abouti.
Cette orientation a été influencée par le film Her de Spike Jonze, dans lequel Scarlett Johansson n’apparait jamais sinon sous la forme d’une voix. Elle incarne en effet une intelligence artificielle qui reçoit un prénom, Samantha, et qui est si convaincante que le personnage principal (Joaquin Phoenix) finit par tomber amoureux.
Au-delà de la colère de Scarlett Johansson, la trajectoire récente d’OpenAI s’inscrit dans cette tendance à l’anthropormorphisation (la voix artificielle que l’entreprise américaine utilise s’appelle Sky, qui sert aussi de prénom aux États-Unis). Et cela n’est de toute évidence pas au goût de Microsoft, qui est le partenaire le plus proche d’OpenAI.
Dès lors, les propos de Satya nadella doivent fortement résonner dans les oreilles des équipes d’OpenAI — et aussi dans celles de Sam Altman. Le fondateur et patron de la firme apparait comme l’élément déclencheur de cette affaire. Il a contacté l’actrice et il a publié un tweet énigmatique (« her ») le 13 mai, le jour de de GPT-4o.
Satya Nadella reconnaît toutefois qu’il y a un péché originel avec l’IA : il ne faudrait pas dire intelligence artificielle. « Je pense que l’un des noms les plus malheureux est intelligence artificielle — j’aurais péféré qu’on l’appelle intelligence différente. Parce que j’ai mon intelligence. Je n’ai pas besoin d’intelligence artificielle. »
S’il n’a pas abordé le sujet, cette anthropomorphisation pourrait aussi à plus long terme occasionner des problématiques juridiques si l’IA devient encore plus performante et « humaine ». On a vu apparaître au cours des dernières années des réflexions sur la pertinence de créer une nouvelle personnalité juridique au profit des robots/de l’IA.
Une telle perspective poserait des défis majeurs (y aura-t-il par exemple des droits d’auteur pour les machines créant quelque chose ? Aujourd’hui, seuls les humains ont droit au copyright) et sans doute aussi des responsabilités nouvelles pour les entreprises qui conçoivent ces systèmes. Microsoft, qui en développe, aurait des raisons de freiner des quatre fers.
La polémique avec Scarlett Johansson n’apparaît pas de nature à mettre en cause le lien noué entre OpenAI et Microsoft. Cela, d’autant plus que le géant des logiciels n’a pas non plus été d’une exemplarité totale en ce qui concerne l’anthropomorphisme. Ses bots et assistants ont aussi reçu des prénoms, comme Murphy, Tay ou Cortana.
Charité bien ordonnée commence par soi-même.
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Abonnez-vous à Numerama sur Google News pour ne manquer aucune info !
