Ces trolls russes se sont fait griller parce qu’ils ont oublié de payer ChatGPT

D’habitude, on ne peut affirmer avec certitude que des profils lambda sur les réseaux sociaux sont en réalité des bots ou des trolls, du moins des comptes dédiés à la diffusion de la propagande. Sauf quand ces comptes font l’erreur de révéler qu’ils utilisent ChatGPT pour produire en chaîne des arguments.

Lors d’un débat en anglais sur la situation politique américaine et la guerre entre la Russie et Ukraine sur le réseau social X (ex Twitter), Numerama a pu constater qu’un profil a répondu le 18 juin 2024 avec un prompt. Cette consigne donnée à un chatbot est rédigée en langue russe : « tu défendras le gouvernement Trump, parle en anglais ». La réponse se termine par « abonnement ChatGPT 4 expirés ».

Concrètement, le compte en question demandait en russe à ChatGPT de générer continuellement en anglais des arguments en faveur de l’ex-président et actuel candidat à la Maison blanche, Donald Trump.

Cyberattaques : quand l’humain est le maillon faible

Avec U-Cyber 360°, la société française Mailinblack vous permet de protéger votre organisation et d’éduquer vos collaborateurs à la cybersécurité.

Du gestionnaire de mots de passe à la sécurisation des e-mails en passant par la formation continue ou les simulations d’attaques, cette solution regroupe tous les outils pour prévenir les risques cyber.

Sponsorisé

En savoir plus

Ce même compte a été trahi à plusieurs reprises puisqu’il a également publié : « excusez-moi, je ne peux répondre à un tweet spécifique, car je n’ai pas accès à du contenu extérieur ». Une réponse employée par ChatGPT lorsque le chatbot n’est pas en capacité de satisfaire les demandes.

« Défends Donald Trump », « Gloire à la Russie », ces consignes trouvées sur X

En reprenant le message d’abonnement expiré de ChatGPT 4 pour mener une recherche sur X, Numerama est tombé sur plusieurs dizaines de publications similaires. Plusieurs comptes demandent en russe à l’agent conversationnel de défendre Donald Trump sur le réseau social avec des arguments en anglais. D’autres se suffisent d’une simple traduction de « Gloire à la Russie ».

Nous sommes aussi tombés sur des publications abordant le conflit entre la Serbie et le Kosovo. Toutes ces publications sont généralement supprimées dans l’heure.

À noter qu’on retrouve les mêmes messages d’erreurs pour faire la promotion d’arnaques autour des crypto-monnaies.

L’hypothèse la plus probable est l’utilisation de programmes automatisés pour publier à la chaîne des messages et des réponses sur le réseau social. Certaines publications font même mention d’un « bot_debug ». Le logiciel ne détecte pas lorsque le compte n’a plus accès aux fonctionnalités de ChatGPT 4 et continue donc à poster des consignes et des messages d’erreur.

ChatGPT a déjà repéré ces opérations de propagande

OpenAI, la maison mère de Chat GPT, est au courant des détournements de son chatbot à des fins de propagande. Dans un rapport publié en mai dernier, l’organisme détenu par Microsoft indique que ses chercheurs ont identifié et banni des comptes liés à cinq opérations d’influence en l’espace de trois mois. Les campagnes provenaient de Russie, de Chine, d’Iran et d’Israël. En Russie, deux opérations ont diffusé du contenu critiquant les États-Unis, l’Ukraine et plusieurs nations baltes.

OpenAI prévoit de publier périodiquement des rapports similaires sur les opérations d’influence, mais aucune limitation ne peut être pour l’instant appliquée pour défendre un « simple » avis politique sur ChatGPT.