En Chine, les IA ne sont pas vues avec un bon œil. Que ce soit avec Midjourney ou ChatGPT, la politique du pays empêche fortement leur utilisation, pour diverses raisons. L’une d’entre elles est indéniablement la peur du gouvernement chinois de perdre le contrôle de l’information, face à des IA développées majoritairement par des Occidentaux et qui ont donc une liberté d’expression qui ne correspond pas à la politique chinoise. Pour garder la mainmise sur sa propagande, la police se réserve même le droit d’arrêter toute personne qui recourt à des IA génératives.
C’est l’expérience qu’a vécu un dénommé Hong. À l’origine d’un article partagé sur plusieurs blogs chinois et lu par plus de 15 000 personnes, dans lequel il est annoncé qu’un accident de train a tué 9 personnes le 25 avril 2023, il a été arrêté par la police pour avoir « utiliser la technologie de l’intelligence artificielle pour concocter des informations fausses et erronées » avec ChatGPT.
Quelles sont les raisons de l’arrestation ?
Cette mise en détention, partagée le 8 mai 2023 par le South China Morning Post, est la première dans le pays liée à l’usage du chatbot et depuis l’entrée en vigueur officielle, en janvier 2023, des premières mesures de la Chine pour réglementer l’utilisation des « deepfakes ». Des mesures qui ne concernent pas seulement les deepfakes, puisque la génération de texte, d’images, de son, de vidéo et de scénarios virtuels est aussi concernée.
Selon le communiqué de la police obtenu par le South China Morning Post, Hong aurait publié son article plusieurs fois en utilisant plusieurs comptes, ce qui est contraire aux règles du blog chinois Baijiahao. Il aurait aussi utilisé ChatGPT pour produire son article, en transmettant au chatbot des faits divers régulièrement en vogue en Chine ces dernières années pour produire rapidement différentes versions de la même fausse histoire et les télécharger sur ses comptes Baijiahao.
Suite à cet « aveu », Hong a été accusé de « provocation de querelles et de troubles », un délit souvent invoqué pour neutraliser des opposants politiques et qui en Chine, est passible d’une peine d’emprisonnement pouvant aller jusqu’à dix ans. En 2013, la Chine a en plus étendu cette peine aux personnes qui publieraient et diffuseraient des fausses informations ou des rumeurs en ligne.
Descendre ChatGPT pour mieux régner ?
Cette arrestation, qui est la première rendue publique depuis que la Chine a annoncé un encadrement restreint des IA, n’est pas anodine. L’invocation de ChatGPT pour qualifier de fake news les articles d’Hong soulèvent des doutes, encore plus lorsqu’on sait que la Chine a l’habitude de censurer les informations autour des accidents ferroviaires, comme l’a révélé le Guardian en 2011.
Certes, les chatbots comme ChatGPT mentent sans vergogne. Mais c’est aussi un argument qui peut être utilisé par le gouvernement chinois pour manipuler l’information, en affirmant que toute information qui ne convient pas à sa vision est une fake news crée par des IA. L’arrestation d’Hong démontre aussi que la Chine peut utiliser l’argument ChatGPT pour accuser des opposants politiques de propager des fake news, ce qui faciliterait le contrôle de l’information.
D’autant plus que la Chine envisage de créer des IA génératives favorables à son gouvernement, comme l’a fait ChatGPT pendant un moment en reprenant la propagande chinoise sur les Ouïgours. Cela permettrait au gouvernement chinois de créer des informations qui lui conviennent et qui seront de plus en plus difficiles à contredire, tant l’IA semble déjà capable de remplacer certains médias. Un véritable danger informationnel, qui concerne aussi bien les dictatures que les démocraties, où les contenus créés par les IA suscitent de plus en plus de doutes.
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Vous voulez tout savoir sur la mobilité de demain, des voitures électriques aux VAE ? Abonnez-vous dès maintenant à notre newsletter Watt Else !
