L’affaire des images historiquement incohérentes générées par Gemini, l’IA de Google, a fait beaucoup de bruit. Elle est également remontée en haut lieu. Comme le révèle le site Semafor, dans son édition du 27 février, les créations de l’intelligence artificielle ont notablement mécontenté le grand patron de l’entreprise américaine, Sundar Pichai.
L’intéressé s’est fendu d’un mémo interne, que The Verge a republié dans son intégralité sur son site. Dans celui-ci, le patron de la firme de Mountain View exprime sa vie déception quant à la qualité du travail fourni par Gemini, dont les débuts remontent à début décembre 2023. « Certaines de ces réponses ont offensé nos utilisateurs et font preuve de partialité », a-t-il relevé.
Courant février, il a été constaté que les efforts de Google pour déployer plus de diversité et d’inclusivité dans ses produits ont eu un effet de bord inattendu. Son IA générative a imaginé des visuels historiquement inexacts : des nazis noirs, des vikings asiatiques, et d’autres associations inédites, en opposition avec le monde réel.
Ces ratés ont rencontré un vif écho sur les réseaux sociaux et dans les médias, amplifié par quelques personnalités — dont Elon Musk, qui s’est jeté dans la polémique. Essentiellement, les reproches les plus virulents à l’encontre de Google sont venus de l’extrême droite, qui a reproché au groupe américain de chercher à effacer les hommes blancs.
Devant l’emballement autour du fonctionnement de Gemini, et pour se dégager du temps pour corriger les travers de son l’intelligence artificielle, Google a pris la décision de suspendre temporairement la génération d’images de personnes. Même les fondateurs de Google n’avaient pas été correctement représentés — une autre origine leur avait été attribuée.
Des corrections sont en cours sur Gemini
« Pour être clair, c’est tout à fait inacceptable et nous nous sommes trompés », a écrit Sundar Pichai dans son mail. « Nous avons toujours cherché à fournir aux utilisateurs des informations utiles, précises et impartiales dans nos produits. […] Nous devons adopter cette approche pour tous nos produits, y compris les produits Al émergents. »
En creux, un certain reproche est de fait adressé aux équipes qui ont piloté Gemini. Sundar Pichai évoque la mise en place d’actions claires, incluant des changements structurels, de nouvelles lignes directrices, des processus de lancement améliorés, des évaluations robustes, des équipes d’experts et des recommandations techniques.
« Nous examinons tout cela et nous apporterons les changements nécessaires », a-t-il ajouté, tout en reconnaissant « qu’aucune IA n’est parfaite, surtout à ce stade émergent de l’industrie. » D’après le patron de Google, toutefois, des progrès ont d’ores et déjà été observés « sur un large éventail de commandes. »
Reste maintenant une question : à quelle date Gemini pourra retrouver ses pleines capacités de fonctionnement ? Pour l’heure, aucun calendrier clair n’est établi. Ce serait une question de semaines, à en croire Demis Hassabis, le patron de DeepMind, l’une des deux filiales de Google qui a conçu cette IA, avec Google Brain.
« Nous nous soucions bien sûr de l’exactitude historique et nous avons donc mis cette fonction hors ligne pendant que nous corrigeons le problème, et nous espérons la remettre en ligne très rapidement, dans les deux ou trois semaines à venir », a-t-il déclaré lors du MWC, à Barcelone, dans des propos repris par Business Insider.
Reste désormais à découvrir concrètement de quelle façon Google entend ajuster le comportement de Gemini. Cela se fera-t-il au détriment des efforts d’inclusivité et de représentativité ? Cela reste à voir. Pour Demis Hassabis, ce cap reste valable : « Il s’agit d’une fonctionnalité bien intentionnée ». Le souci, c’est qu’elle a été appliquée « manière trop brutale. »
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Marre des réseaux sociaux ? Rejoignez-nous sur WhatsApp !
