Les agents conversationnels à base d’IA sont un bien convoité. Dans un rapport publié le 18 septembre par la société spécialisée dans le cloud Sysdig, il est rapporté que les comptes ayant accès à des modèles de langage sont recherchés par les cybercriminels. Des outils que le grand public connait bien : ChatGPT repose sur ces technologies.
D’après les experts en cybersécurité du groupe, les pirates chercheraient notamment à piéger des employés pour récupérer leur compte personnel ou professionnel. Une des raisons est liée au contexte géopolitique, et plus spécifiquement à la vague de restrictions d’accès qui a frappé la Russie depuis l’extension de la guerre en Ukraine, en 2022.
En effet, de nombreuses sanctions ont été imposées par l’Occident, ce qui rend l’accès aux outils et technologies beaucoup plus compliqué pour la Russie. Des entreprises technologiques comme Amazon et Microsoft ont interdit à toutes les organisations installées en Russie d’utiliser leurs outils. Un phénomène qui concerne
Des comptes piratés juste pour discuter avec ChatGPT, aussi
Depuis lors, les hackers chercheraient donc à accéder à divers chatbots, ou agents conversationnels en français, tels ChatGPT, Claude ou NovelAi. Cela, afin de profiter des plus récentes avancées de ces plateformes en matière d’IA générative. OpenAI a d’ailleurs signalé le détournement de ses outils par des cybercriminels.
« Nous avons observé de nombreux autres exemples de requêtes en russe » constatent les experts en cybersécurité. Des citoyens russes tenteraient d’ailleurs d’accéder illégalement à des comptes d’entreprise pour utiliser les agents conversationnels également.
L’équipe a notamment observé un étudiant russe utilisant des identifiants volés d’Amazon Web Services pour créer un modèle de Claude, un chatbot développé par la société américaine Anthropic. L’étudiant travaillait sur un projet impliquant des chatbots basés sur l’IA. Les experts de Sysdig pensent qu’il a utilisé des identifiants volés et un bot externe pour éviter d’être retracé.
Les chercheurs ont noté que certains pirates avaient des ambitions parfois beaucoup plus basses. Ainsi, il a été relevé que certaines tentatives d’accès visaient juste à accéder à ces agents conversationnels pour dialoguer avec, et parfois pour avoir des interactions érotiques. La solitude peut être un fléau chez les pirates.
Suivez l’actualité de l’intelligence artificielle avec notre newsletter !
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Abonnez-vous gratuitement à Artificielles, notre newsletter sur l’IA, conçue par des IA, vérifiée par Numerama !
