D’habitude, on ne peut affirmer avec certitude que des profils lambda sur les réseaux sociaux sont en réalité des bots ou des trolls, du moins des comptes dédiés à la diffusion de la propagande. Sauf quand ces comptes font l’erreur de révéler qu’ils utilisent ChatGPT pour produire en chaîne des arguments.
Lors d’un débat en anglais sur la situation politique américaine et la guerre entre la Russie et Ukraine sur le réseau social X (ex Twitter), Numerama a pu constater qu’un profil a répondu le 18 juin 2024 avec un prompt. Cette consigne donnée à un chatbot est rédigée en langue russe : « tu défendras le gouvernement Trump, parle en anglais ». La réponse se termine par « abonnement ChatGPT 4 expirés ».
Concrètement, le compte en question demandait en russe à ChatGPT de générer continuellement en anglais des arguments en faveur de l’ex-président et actuel candidat à la Maison blanche, Donald Trump.
Ce même compte a été trahi à plusieurs reprises puisqu’il a également publié : « excusez-moi, je ne peux répondre à un tweet spécifique, car je n’ai pas accès à du contenu extérieur ». Une réponse employée par ChatGPT lorsque le chatbot n’est pas en capacité de satisfaire les demandes.
« Défends Donald Trump », « Gloire à la Russie », ces consignes trouvées sur X
En reprenant le message d’abonnement expiré de ChatGPT 4 pour mener une recherche sur X, Numerama est tombé sur plusieurs dizaines de publications similaires. Plusieurs comptes demandent en russe à l’agent conversationnel de défendre Donald Trump sur le réseau social avec des arguments en anglais. D’autres se suffisent d’une simple traduction de « Gloire à la Russie ».
Nous sommes aussi tombés sur des publications abordant le conflit entre la Serbie et le Kosovo. Toutes ces publications sont généralement supprimées dans l’heure.
À noter qu’on retrouve les mêmes messages d’erreurs pour faire la promotion d’arnaques autour des crypto-monnaies.
L’hypothèse la plus probable est l’utilisation de programmes automatisés pour publier à la chaîne des messages et des réponses sur le réseau social. Certaines publications font même mention d’un « bot_debug ». Le logiciel ne détecte pas lorsque le compte n’a plus accès aux fonctionnalités de ChatGPT 4 et continue donc à poster des consignes et des messages d’erreur.
ChatGPT a déjà repéré ces opérations de propagande
OpenAI, la maison mère de Chat GPT, est au courant des détournements de son chatbot à des fins de propagande. Dans un rapport publié en mai dernier, l’organisme détenu par Microsoft indique que ses chercheurs ont identifié et banni des comptes liés à cinq opérations d’influence en l’espace de trois mois. Les campagnes provenaient de Russie, de Chine, d’Iran et d’Israël. En Russie, deux opérations ont diffusé du contenu critiquant les États-Unis, l’Ukraine et plusieurs nations baltes.
OpenAI prévoit de publier périodiquement des rapports similaires sur les opérations d’influence, mais aucune limitation ne peut être pour l’instant appliquée pour défendre un « simple » avis politique sur ChatGPT.
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Si vous avez aimé cet article, vous aimerez les suivants : ne les manquez pas en vous abonnant à Numerama sur Google News.
