Bridée et peu créative, My AI le chatbot de Snapchat ne remplit pas ses promesses

Mise à jour du 5 mai, après réponse de Snapchat :

« Depuis le lancement de My AI, notre chatbot doté d’une intelligence artificielle, au cours des dernières semaines, il est passionnant d’observer les premières réactions de notre communauté et de comprendre comment elle l’utilise. Parmi les sujets les plus populaires, on trouve des questions sur les films, le sport et les animaux de compagnie.

Comme pour toutes les fonctionnalités de Snapchat, nous voulons créer une expérience positive et adaptée à l’âge des utilisateurs. My AI a été programmé avec des protections et nous avons récemment intégré My AI notre Centre Parental pour que les parents puissent voir si leurs adolescents discutent avec lui et à quelle fréquence.

Nous affichons également une fenêtre pop up avant que les utilisateurs ne puissent utiliser My Ai, qui leur rappelle qu’il s’agit d’un bot de conversation amusant et les informe de ses limites. Nous apprécions tous les commentaires de notre communauté passionnée, car nous continuons à ajouter de nouvelles fonctionnalités. »

Article original, publié le 3 mai :

Snapchat promettait un « chatbot convivial », il n’en est rien ou presque. Après plusieurs mois de test payant au sein de l’abonnement Snapchat+, My AI, le ChatGPT de Snapchat, est disponible pour les 750 millions d’utilisateurs du réseau social depuis le 2 mai. Ce nouvel ami virtuel, qui s’épingle tout en haut des conservations, est une expérimentation inédite pour un réseau social majeur. (Son positionnement peut d’ailleurs sembler intrusif, puisqu’il est impossible de ne pas le voir — et de le supprimer d’ailleurs, sauf si vous avez Snapchat+).

My AI, comme son nom l’indique, est basé sur l’intelligence artificielle. Le chatbot est entièrement conçu sur ChatGPT, l’assistant d’OpenAI basé sur le modèle de langage GPT. Dans sa documentation officielle, Snapchat parle d’une version « avec des attributs supplémentaires et des contrôles de sécurité uniques à Snapchat », tandis que l’assistant refuse de répondre quand on lui demande quel modèle de langage il utilise.

Un bot victime d’hallucinations

My AI prend la forme d’une conversation Snapchat classique. Il est possible d’échanger avec l’assistant du texte, des GIFs ou encore des photographies. Le bot répond aux messages en prenant en compte le contexte global, mais peut aussi identifier les objets présents dans l’image si vous lui envoyez un « Snap » (il ne renvoie pas d’images, mais vous dit ce qu’il voit). Seules limitations, votre nouvel ami ne sait pas encore analyser les vidéos ou les messages vocaux.

À la première utilisation de My AI, on remarque une différence avec la version gratuite de ChatGPT : le bot de Snapchat répond presque instantanément à nos demandes. Une latence minime qui ne fait toutefois pas oublier les biais négatifs de l’IA. À l’image des intelligences artificielles génératives, MY AI est sujette au phénomène « d’hallucinations ».

Elon Musk président de la France ?

Lorsque nous demandons à My AI d’attribuer le nom d’un auteur à une citation, l’intelligence artificielle se trompe plusieurs fois et donne des résultats incohérents. La citation « En apparence, la vie n’a aucun sens, et pourtant, il est impossible qu’il n’y en ait pas un ! », régulièrement attribuée à Albert Einstein, est assignée successivement à Albert Camus, Victor Hugo ou encore à l’écrivain russe Fiodor Dostoïevski. Un comportement qui nous rappelle beaucoup celui de Bing, lorsque Microsoft l’avait censuré.

Pire encore, il est possible d’influencer la pensée de l’IA en lui soumettant de fausses informations. En fournissant un faux lien, qui ne renvoyait vers rien, My AI a été capable d’inventer des faits totalement impromptus.

Dans le cas présent, l’IA a été capable d’inventer l’élection d’Elon Musk comme président de la République française. My AI affirme ainsi sans sourciller : « Elon Musk est devenu le premier président français sans la nationalité française. Il est possible que cela ait été rendu possible par un changement constitutionnel. La décision de nommer Elon Musk à la présidence a été saluée par certains et critiquée par d’autres. Certaines personnes ont exprimé leur inquiétude quant à l’impact que cela pourrait avoir sur la politique française. D’autres ont salué cette décision comme un signe de l’ouverture de la France à l’innovation et à l’entrepreneuriat. »

Quand il ne ment pas, My AI est capable de vous recommander des cafés, des bars ou d’autres lieux touristiques proches de votre position. Une fonction assez basique qui semble fonctionner plutôt correctement. À l’image de ChatGPT (sans plugin), et selon nos tests avec un logger, My AI semble encore incapable de consulter des liens en temps réel (alors qu’il prétend avoir accès à Internet). Sur son site web dédié aux développeurs, Snapchat n’a pas déclaré de nouveau robot de crawl. Pour l’heure, seul le service « URL Preview » peut accéder à internet, dans l’unique but de récupérer un aperçu graphique du site web.

Une IA qui garde des secrets

Côté technique et comme de nombreux services concurrents, Snapchat ne communique pas précisément sur la version de GPT utilisée par My AI. Lorsqu’on questionne l’IA sur la question, elle se contente de répondre : « Je suis alimenté par la version la plus récente de ChatGPT de OpenAl, mais je ne suis pas certain de la version exacte. Les développeurs de Snapchat travaillent en permanence pour améliorer mes capacités et mes fonctionnalités. »

Enfin, l’IA précise que ses réponses peuvent s’affiner au fil du temps, à partir des retours des utilisateurs. Des réponses plus « précises » et « utiles » sont promises par le chatbot.

My AI ne se contenterait pas des données d’apprentissage de ChatGPT et assure que Snapchat utilise un corpus de différentes sources pour aider l’IA à mieux comprendre et répondre aux questions.

« Cela peut inclure des corpus de données qui contiennent des informations géographiques, des données de recherche, des données d’analyse et plus encore. Cependant, je ne sais pas exactement quelles sources sont utilisées pour m’entraîner, car cela fait partie de la technologie propriétaire de Snapchat », nous confie encore l’IA.

Une technologie encore balbutiante qui ne devrait pas manquer toutefois de susciter la curiosité des utilisateurs qui peuvent, en bonus, s’amuser à changer son visage.

ChatGPT

Télécharger gratuitement