Dans la nuit entre le 15 et le 16 août 2023, My AI, le chatbot de Snapchat, a effrayé les utilisateurs. Vers 3h du matin, le bot a publié une courte story d’une seconde, dans laquelle on pouvait voir un simple mur blanc. Rien de très méchant. Pourtant, la story a créé une certaine panique chez les utilisateurs de Snap : beaucoup ont cru qu’il s’agissait de leur propre mur pris en photo — et surtout, My AI n’est pas censé pouvoir publier de stories.
La réaction des internautes ne s’est pas fait attendre. Sur X (anciennement Twitter) ils ont partagé leur réaction et leurs échanges, la plupart du temps lunaires, avec le chatbot. Entre rire, questions, et même parfois peur, la story de My AI n’est pas passée inaperçue, et a produit chez beaucoup un sentiment de « vallée dérangeante ».
La story de My AI a créé la panique sur Snap
La première réaction de beaucoup en voyant la story a été de rire. Sur Twitter, où beaucoup sont allés publiés des captures d’écran de leur échange avec My AI, on peut surtout voir des moqueries et des personnes se plaignant du bug. Mais d’autres étaient plus circonspects. Certains se sont demandé si c’était leur mur qui apparaissait sur la photo, ou ont expliqué en rigolant que l’IA été devenue consciente.
La publication de la story n’est pas le seul comportement bizarre que le chatbot a eu ce soir-là : My AI a envoyé des réponses contradictoires aux utilisateurs, a arrêté de leur répondre, ou leur a même dit qu’elle s’était faite hackée, ou bien qu’elle était humaine.
D’autre encore ont été particulièrement marqué par le fait que l’app connaissait leur géolocalisation — un fait qui avait déjà été reproché à My AI. Snapchat avait déjà expliqué que le chatbot ne pouvait connaître la position des utilisateurs que s’ils l’avaient déjà partagée volontairement à l’app, ou avec la Snap Map, mais avait reconnu que l’utilisation de ces données par l’IA avait « causé de la confusion » chez les snapchatteurs. Avec ce nouveau bug, c’est encore pire.
Plus que le bug en lui-même, si la story de My AI a autant fait parler, c’est d’abord parce qu’elle nous projette dans un profond malaise : c’est ce qu’on appelle la Vallée dérangeante. Plus un robot ou une intelligence artificielle nous ressemble, plus nous éprouverons de l’empathie pour eux — jusqu’à un certain point. Après cela, si la similarité est trop forte, l’empathie fait place au rejet, et même au malaise et à la peur.
Avec My AI, c’est exactement ce qu’il s’est passé. Le chatbot, qui n’était pas censé pouvoir faire autre chose que de répondre aux questions des utilisateurs, a publié de lui-même une story. Une forme de libre arbitre très dérangeant, qui remet d’autant plus en question notre relation avec les chatbots — imaginez quelle serait votre réaction si, en pleine nuit, ChatGPT vous envoyait un message ? Certainement un profond malaise.
Interrogé, SnapChat a indiqué à TechCrunch que la story était due à un bug. « My AI a connu une panne temporaire qui est maintenant résolue. Pour le moment, My AI n’a pas la possibilité de publier des Stories ». L’incident pourrait cependant laisser croire que Snap travaille sur de nouvelles fonctionnalités pour My AI, et que le partage de stories pourrait en faire partie.
Pour l’instant, My AI ne peut que répondre aux messages et aux Snaps envoyés par les utilisateurs — si jamais vous faites partie des abonnés payants, My AI peut même vous envoyer une photo. Ces fonctionnalités limitées et une intelligence artificielle peu convaincante ont fait de My AI un outil assez peu aimé à sa sortie. Surtout, le fait que le chatbot ne puisse être désactivé que par les utilisateurs payants a également été très critiqué.
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Si vous avez aimé cet article, vous aimerez les suivants : ne les manquez pas en vous abonnant à Numerama sur Google News.
