Cette grand-mère générée par IA répond aux scams téléphoniques

L’opérateur téléphonique britannique O2 a dévoilé Daisy, une intelligence artificielle qui imite une grand-mère afin de discuter avec des fraudeurs pour leur faire perdre le plus de temps possible. De quoi enrayer un peu l’épidémie de fraudes qui sévit au Royaume-Uni. En France aussi, les arnaques au téléphone sont nombreuses : le Gouvernement tente d’enrayer le phénomène à l’aide de procédés d’authentification des numéros.

Daisy, une fausse grand-mère qui parle beaucoup

L’idée de Daisy, c’est d’interagir en temps réel au téléphone avec des escrocs sans intervention humaine : elle est déjà au travail 24 heures sur 24. Ce programme d’intelligence artificielle combine plusieurs modèles et a été réalisé en collaboration avec Jim Browning, un vidéaste spécialisé dans la traque aux arnaqueurs en ligne. Il y a tout d’abord un modèle qui transcrit la voix de l’interlocuteur en texte. Puis un grand modèle de langage (LLM) génère une réponse, qu’un modèle de synthèse vocale transforme en voix.

Elle est capable d’écouter ce qu’on lui dit et de répondre « instantanément » précise O2 dans son communiqué. L’opérateur argue même qu’elle est « si réaliste qu’elle a réussi à maintenir de nombreux fraudeurs en communication pendant 40 minutes d’affilée. »

Qui sont ces fameux « fraudeurs » ou « arnaqueurs » ? Cela dépend, mais le mode opératoire reste le même : du démarchage téléphonique pour vendre un produit ou un service qui n’existe pas, ou encore manipuler les victimes pour récupérer des coordonnées bancaires : il s’agit de phishing téléphonique. Ces arnaqueurs peuvent même se faire passer pour votre propre banque.

Les personnes les plus fragiles sont surtout les moins au fait de ces arnaques : et ce sont souvent des personnes âgées. Si Daisy a été conçue pour ressembler à une « grand-mère », c’est essentiellement parce qu’elle l’archétype d’une victime pour ces arnaqueurs. O2 joue tout simplement sur les préjugés des escrocs sur les personnes âgées. Pour obtenir des numéros de téléphone de réseaux d’arnaques, O2 compte sur ses clients qui peuvent signaler les numéros qui les ont appelés.

Une IA qui fait surtout perdre du temps aux arnaqueurs

Ce que Daisy raconte au téléphone, c’est sa vie : les nouvelles dans sa famille, sa passion pour le tricot, etc. Elle peut aussi montrer des difficultés à trouver sa carte bancaire, se connecter sur un site Internet en utilisant son ordinateur, etc. Dans la vidéo faisant la promotion de Daisy, on peut entendre quelques courts extraits de conversation.

On y entend ses interlocuteurs perdre patience, crier sur cette IA qui leur répond depuis des dizaines de minutes sans savoir qui elle est réellement. Il y a même une femme qui se met à insulter cette fausse grand-mère.

Cette IA peut même fournir de fausses informations personnelles et coordonnées bancaires, pour faire croire aux fraudeurs qu’il s’agit d’une réelle victime. Et une IA qui se fait arnaquer, c’est peut-être une vraie personne qui ne se fait pas avoir.