Alexa a dit à une enfant de mettre ses doigts dans la prise

L’intelligence artificielle Alexa a récemment proposé un défi bien particulier à une enfant américaine de 10 ans : « Le challenge est simple. Enfonce ton chargeur de téléphone à moitié dans une prise murale, puis colle une pièce de monnaie sur les embouts qui dépassent encore. »

Kristin L, sa mère, a partagé cette effarante histoire sur Twitter le 26 décembre 2021, capture d’écran à l’appui, montrant l’historique de conversation de l’assistant audio d’Amazon contenu dans l’Amazon Echo familial. « Mon enfant de 10 ans a demandé à Alexa de lui donner un défi et voilà ce qu’elle a répondu, oh mon dieu », a-t-elle publié.

Depuis, Amazon dit avoir mis à jour son assistant audio Alexa dès que l’entreprise a été mise au courant, selon la BBC. « La confiance de nos clients est au centre de tout ce que nous faisons, et Alexa a été pensée pour donner des informations précises, pertinentes et utiles aux clients. Dès que nous avons pris connaissance de cette erreur, nous avons agi rapidement pour la réparer », a-t-elle écrit dans un communiqué.

« Nous étions en train d’enchainer des challenges physiques à l’intérieur, comme se coucher par terre et rouler en tenant son pied avec sa main, qu’on avait vu dans une vidéo YouTube d’un prof d’EPS un peu plus tôt », a expliqué la mère de l’enfant sur Twitter. « Elle voulait juste un défi supplémentaire. »

Ne… mettez pas de pièce de monnaie… dans une prise électrique…

Il est évident que cette proposition aurait pu avoir de graves conséquences sur la vie de l’enfant, si elle avait suivi les conseils de la voix artificielle et si un adulte n’avait pas été aux alentours. Mettre des pièces de monnaie, qui conduisent bien l’électricité (elles sont généralement en cuivre), à proximité d’une prise, est extrêmement dangereux, cela peut causer des départs de feu, voire des électrocutions.

Il semblerait que le robot d’Amazon ait pu puiser cette idée dans le « Penny Challenge » (ou « Outlet Challenge ») qui s’est répandu sur la plateforme vidéo TikTok à l’été 2020. On découvrait ainsi des vidéos d’internautes, tous moins intelligents les uns que les autres, apposer des pièces de monnaie sur des embouts électriques dans l’espoir de voir des étincelles apparaître (et, au passage, ruinant tout le système électrique de leur maison ou école).

Le terme de « challenge » a pu être mal interprété par l’intelligence artificielle d’Amazon : on ne compte malheureusement pas le nombre de défis similaires, devenu viraux sur Internet, qui mettent en danger la santé des participants (qui se souvient du Tide Pod Challenge ?).

Il est par ailleurs de plus en plus impossible de dissocier la popularité d’un « challenge » en ligne de sa couverture médiatique : il arrive parfois que de nombreux articles de presse ou de sites d’information amplifient un phénomène encore balbutiant (voire pas du tout ancré dans le réel), contribuant à nourrir sa renommée, mais aussi la présence de certains mots clés sur Internet. Mots clés auxquels l’algorithme d’Amazon a bien sûr accès, en se baladant sur le web et en faisant des recherches comme pourrait le faire un humain. Parfois, la jugeote en moins.