Réintégré par OpenAI le soir du 21 novembre, après avoir été licencié par son conseil d’administration quatre jours plus tôt, Sam Altman a-t-il vraiment été viré sans aucune raison, comme de nombreuses personnes l’affirment ? Ou a-t-il été la victime d’une décision beaucoup plus nuancée, lié à un projet controversé ?
Selon Reuters, une lettre écrire par plusieurs chercheurs d’OpenAI a été envoyée à son conseil d’administration quelques jours avant le licenciement de Sam Altman. Elle mentionnait l’existence d’une « puissante découverte sur l’intelligence artificielle qui, selon eux, pourrait menacer l’humanité ». L’existence de ce projet pourrait être le fameux « manque de franchise dans ses communications », que reprochait l’ancienne direction d’OpenAI à Sam Altman.
Q*, une intelligence artificielle qui résout des problèmes de logique
Alors que tous les regards sont tournés vers le futur modèle de langage GPT-5, OpenAI travaillerait en secret sur des modèles encore plus poussés, qu’il ambitionnerait même de pouvoir commercialiser assez rapidement.
Selon des sources de Reuters, ce modèle de langage aurait démontré d’étonnantes capacités pour résoudre des problèmes mathématiques. Si les premiers tests se limitent à des exercices d’école primaire, le projet d’OpenAI rendraient les chercheurs extrêmement optimistes sur sa capacité à raisonner comme un humain, d’une manière inédite dans l’industrie.
Il ne s’agit pas encore d’une AGI (artificial general intelligence, ce qui fait écho à une IA qui surpasse l’humain sur plusieurs aspects), mais il s’agirait d’un premier pas majeur vers cet objectif, considéré par beaucoup comme hors d’atteinte.
Si Reuters n’a pas été en mesure de consulter la lettre ou de confirmer les capacités de ce modèle de langage, il a obtenu d’OpenAI la confirmation de l’existence d’un projet nommé Q*, qui se prononce Q Star. À la suite de son enquête, Mira Murati, l’éphémère remplaçante de Sam Altman, aurait même communiqué en interne sur l’existence de cette IA, pour informer les équipes d’OpenAI avant qu’ils ne l’apprennent dans la presse (et éviter un nouveau fiasco médiatique).
Dans leur lettre au conseil d’administration, les chercheurs auraient alerté sur le danger de ce modèle de langage capable de repousser des frontières mathématiques et qui pourrait un jour agir contre les intérêts des humains. Nous en sommes sans doute encore loin, mais cette situation aurait pu accélérer les plans du conseil d’administration, inquiet de voir Sam Altman aller trop vite, maintenant qu’OpenAI est devenu extrêmement puissant (notamment grâce au financement de Microsoft, qui était prêt à récupérer Sam Altman et ses équipes).
Le projet Q* existe-t-il vraiment ?
Au vu des informations de Reuters, il est probable que la lettre qui a révélé l’existence de Q* au conseil d’administration existe bel et bien, tout comme le projet.
Cependant, l’existence de cette lettre ne veut pas forcément dire que le projet Q* va conduire l’humanité à sa perte. Rappelons que la quasi-totalité des 770 employés d’OpenAI ont pris parti pour Sam Altman, que le conseil d’administration n’a jamais justifié publiquement les raisons de son licenciement (alors que cet argument semblait recevable) et que la peur de l’IA plus intelligente que l’homme a toujours existé, mais que cette théorie a souvent été contredite. L’appel de certains chercheurs à ralentir peut parfois sembler opportuniste, comme le lancement de Grok par Elon Musk l’a prouvé.
D’ailleurs, Elon Musk faisait partie des premières personnes à alerter sur l’existence d’une lettre révélant des secrets sur Sam Altman (mais cette lettre mentionnait des problèmes de harcèlement, qui n’ont pas été vérifiés). Il a aussi partagé l’article de Reuters, dans le but d’inquiéter sur OpenAI, avec un jeu de mot complotiste entre Q* et le groupe conspirationniste QAnon.
Au vu de l’animosité entre Elon Musk et Sam Altman, tout laisse penser que les personnes qui font fuiter ces informations veulent nuire au patron d’OpenAI et qu’il faut donc être très prudent sur la nocivité potentielle de Q*. Une enquête indépendante a été ouverte par OpenAI, pour comprendre les raisons du licenciement de Sam Altman.
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Si vous avez aimé cet article, vous aimerez les suivants : ne les manquez pas en vous abonnant à Numerama sur Google News.
