Un chatbot, ou agent conversationnel, est un programme informatique censé discuter avec un humain, en donnant l’impression d’en être un lui-même, grâce à des propos naturels en apparence. Il utilise des algorithmes et de l’IA, après avoir ingéré d’importantes quantités de données textuelles.
Vous avez généré du texte intéressant avec ChatGPT sur Bing ? Ou la réponse que le chatbot a donnée n’a ni queue ni tête ? Dans un cas comme dans l’autre, vous avez maintenant la possibilité d’en faire profiter d’autres personnes. Dans une note de mise à jour partagée le 17 mars, Microsoft indique avoir fait des ajustements dans l’outil, dont l’ajout d’un bouton de partage.
Le partage des contenus obtenus par ChatGPT sur le moteur de recherche de la société américaine concerne trois réseaux sociaux (Facebook, Twitter et Pinterest). Les textes peuvent aussi être envoyés par courrier électronique ou faire l’objet d’un lien permanent. Un internaute pourra entrer dans une séquence de discussion avec ChatGPT, et poursuivre l’échange.
Bing de Microsoft utilise GPT-4 pour son chatbot intégré
ChatGPT sur Bing utilise le modèle de langage GPT-4, qui est la dernière génération concoctée par la structure de recherche américaine OpenAI. D’ailleurs, la déclinaison de l’agent conversationnel pour le moteur de recherche utilise GPT-4 depuis le début. Un secret bien gardé : tout le monde supposait qu’il tournait sur GPT-3.5, le modèle de langage dédié à ChatGPT.
L’adjonction d’un bouton de partage consacré aux réponses de cette intelligence artificielle suggère que des mesures appropriées ont été prises pour contenir les ratés de l’outil — sinon, Microsoft vient de tendre un peu plus le bâton pour se faire battre. Il faut dire que l’entreprise a, courant mars, pris une série de mesures pour lui éviter, autant que possible, les sorties de route.
Depuis son lancement public fin novembre 2022, les erreurs et les limites du chatbot ont été très largement documentés dans les médias, parmi les internautes et par les experts en IA. La nouvelle version de GPT-4 est censée être davantage dans les clous — y compris en s’abstenant d’éviter de manipuler ses interlocuteurs, ce qu’une version de test a permis de faire.
Des chatbots performants, mais avec des lacunes
Si de prime abord, les performances des IA génératives comme ChatGPT ont pu être bluffantes, et susciter également de vives inquiétudes (dans les médias, auprès de Google, pour les sites web ou bien les écrivains), plaidant pour un durcissement de la législation et une interdiction à l’école, un reflux sur les capacités réelles de ces outils est également en train d’observer.
« Les IA génératives ne sont ni intelligentes ni conscientes, notait Frédéric Cavazza, conférencier spécialiste de numérique. [Ce sont] juste des modèles statistiques qui s’appuient sur de gigantesques bases de connaissance. Les chercheurs parlent de ‘perroquets stochastiques’ ». Les modèles de langage se fondent en effet sur des probabilités et des statistiques.
Autre nuance, apportée par Jacob Browning, post-doctorant au département d’informatique de l’université de New York et travaille sur la philosophie de l’IA, et Yann LeCun, l’un des spécialistes les plus reconnus en IA (prix Turing 2019 et le chef de l’IA ) Meta, la maison mère de Facebook), dans un papier intitulé Les chatbots d’IA ne se soucient pas de vos normes sociales.
Dans celui-ci, les deux experts défendent l’idée que la conversation ne se limite pas aux mots ; elle s’appuie aussi sur des normes sociales, parfois implicites, parfois non, qui régissent ce qu’il convient de dire.
Aujourd’hui, les chatbots n’en tiennent pas compte, ce qui a pour effet de les voir tenir des propos offensants, incohérents, malhonnêtes ou faux, en considérant que c’est statistiquement probable — aussi parce que, sur le corpus sur lequel ChatGPT a été entraîné, par exemple, il y a aussi des trolls, de la désinformation et de bêtes erreurs.
« Les chatbots ne conversent pas de manière humaine, et ils n’y parviendront jamais uniquement en disant des choses statistiquement probables. Sans une véritable compréhension du monde social, ces systèmes ne sont que des bavardages inutiles, même s’ils sont pleins d’esprit ou éloquents ». En filigrane, il faudrait aussi que les chatbots perçoivent quand c’est le moment de se taire.
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Abonnez-vous gratuitement à Artificielles, notre newsletter sur l’IA, conçue par des IA, vérifiée par Numerama !
