Que se passe-t-il avec Midjourney qui interdit de générer des images de Xi Jinping ?

Sur Midjourney, vous pouvez générer des images sur la personnalité politique de votre choix. N’importe laquelle, sauf Xi Jinping. L’actuel président de la République populaire de Chine — et accessoirement secrétaire général du Parti communiste chinois — bénéficie en effet d’une protection exceptionnelle, que les autres leaders du monde n’ont pas. Son nom ne peut pas être utilisé pour produire des visuels avec cette intelligence artificielle.

Pas de Xi Jinping sur Midjourney

Un message d’erreur est renvoyé par Midjourney sur Discord, lorsque vous envoyez une commande (un « prompt » dans le jargon) contenant le nom du président chinois — y compris lorsque vous ne mettez rien d’autre. Même chose avec des périphrases, comme « China’s president » : à chaque fois, Midjourney indique que « l’expression est interdite. Le fait de contourner ce filtre pour enfreindre nos règles peut entraîner la révocation de votre accès. »

En revanche, Midjourney ne rechigne pas lorsqu’on lui demande d’imaginer Joe Biden, Emmanuel, Macron, Vladimir Poutine ou Ali Khamenei. Même chose quand on rentre des noms d’anciens présidents chinois, comme Hu Jintao ou Jiang Zemin. La plateforme produit des résultats neutres — si l’on tape uniquement le nom de la personnalité, les clichés renvoyés ressemblent à des portraits tout à fait classiques. Rien de manifestement désobligeant.

Pour aller plus loin

Midjourney gratuit, c’est fini (pour l’instant)

Il s’avère que c’est une décision délibérée de la part de Midjourney. Fin juin 2022, le fondateur de l’IA générative, David Holz, écrivait sur le canal Discord dédié aux fonctionnalités de l’outil : « La satire politique en Chine n’est pas très bien vue, et à un moment donné, cela mettrait en danger l’utilisation du service par les Chinois ». À l’inverse, ajoutait-il, « la satire politique dans les pays occidentaux est assez normale. »

Pour défendre son point de vue, David Holz mettait en balance les enjeux : vaut-il mieux que les Chinois accèdent à la technologie de Midjourney ou qu’ils puissent l’utiliser pour créer des images, potentiellement caricaturales ou offensantes, sur Xi Jinping ? Au risque, après, de provoquer le bannissement de l’outil ou de déclencher l’intervention de la police contre les internautes chinois ayant écrit des prompts désobligeants ?

« Prenons un peu de recul et réfléchissons à la question. La question est de savoir s’il est préférable de laisser [les internautes chinois] utiliser la technologie ou de faire de la satire politique. Je pense que l’utilisation de cette technologie par les Chinois fait bouger les choses dans le monde (dans le bon sens). Je pense que des individus lambdas ici qui font de la satire politique n’apportent pas grand-chose. L’analyse coûts bénéfices semble claire. »

Ces propos n’avaient pas provoqué d’importantes vagues à l’époque. La notoriété de l’IA générative était, il est vrai, pas tout à fait la même que celle qu’elle a aujourd’hui. Comme le montre Google Trends, qui mesure la popularité des sujets sur le moteur de recherche américain, l’intérêt du public pour Midjourney a vraiment décollé à partir de la fin 2022 — et largement en 2023. Le commentaire de David Holz était même survenu avant le bref pic d’audience de l’été dernier.

Presque un an plus tard, Midjourney est devenue l’IA la plus célèbre en matière de génération d’image — avec DALL-E peut-être. Un succès spectaculaire, mais qui a un revers de la médaille : les moindres faits et gestes de la compagnie sont scrutés et ses erreurs et ses égarements ne passent plus inaperçus. Les effets que cette IA peut avoir sur l’impact et la propagation de la désinformation non plus. Et, sans surprise, la polémique concernant Xi Jinping a fini par rejaillir.

Sur certains espaces spécialisés, comme Reddit, la censure dont bénéficie Xi Jinping avec Midjourney avait déjà été relevée par des internautes.

SidSantoste, sur le sous-Reddit FuckTheCCP, évoquait cette interdiction et racontait avoir été censuré sur le sous-Reddit consacré à Midjourney. Un autre partageait des créations mêlant Xi Jinping avec Winnie l’Ourson (le personnage est banni en Chine, car il est utilisé pour se moquer du président chinois, qui lui ressemblerait). Dans un autre visuel, l’IA a même imaginé Xi Jinping arrêtée par la police, avec les menottes aux poignets.

Des internautes en colère contre Midjourney

L’affaire prend toutefois de l’ampleur et le choix de Midjourney de ne censurer que Xi Jinping est mal perçue par certains internautes.

« Je suis vraiment en colère de ne pas pouvoir faire des images de Xi Jinping. La liberté nous a donné ces outils incroyables pour simplement s’agenouiller devant un dictateur », se plaint joseangel_sc sur le Discord. « Je vais bientôt résilier mon compte, adieu », annonce Tenhat, en pointant l’affaire de la censure comme le moteur de son départ. « C’est dommage que les créateurs de MidJourney s’inclinent devant le dictateur Xi Jinping », regrette ran1020. Bien d’autres messages du même ordre prolifèrent sur le Discord.

Le 3 avril, un développeur de Midjourney, signant avec le prénom Jack, a pris aussi la parole pour défendre la politique de son employeur. « Nous interdisons Jinping pour la même raison que nous interdisons Mahomet — il est massivement utilisé comme contenu peu créatif. Nous ne sommes vraiment pas fans de drame ici », a-t-il écrit, en considérant pertinent de mettre au même plan une antique figure religieuse avec une personnalité politique contemporaine.

« Nous avons dû bannir des choses bien plus stupides parce qu’elles étaient utilisées pour des contenus peu créatifs. Nous sommes fondamentalement là pour mettre un outil créatif intéressant à la disposition du plus grand nombre. Personne ne nous a posé d’ultimatum », a-t-il affirmé, comme pour chasser les accusations de soumission à la censure chinoise. Un autre, modérateur cette fois du Discord, invite les internautes à… créer leur propre Midjourney s’ils sont mécontents.

« Pourquoi perdre tout ce temps et tous ces efforts à harceler des gens qui ne vont pas changer la politique d’interdiction juste pour vous, alors que vous pouvez simplement créer votre propre service d’images ai où vous pouvez avoir la liberté de créer toutes les images de Xi Jinping que vous pouvez désirer ? », a lancé Goofball. D’autres internautes, membres de la plateforme, estiment aussi que Midjourney ne devrait pas autoriser la génération d’images sur Xi Jinping.

Cet argument autour des contenus peu créatifs ou susceptibles de générer des querelles, est toutefois affaibli par le constat que seul le président chinois se trouve dans ce régime aménagé. Aucun autre leader contemporain bénéficie d’une telle exemption, alors que tous font potentiellement l’objet de détournements. C’est déjà le cas, d’ailleurs, de Poutine à Trump, et de Biden à Macron, en passant par les autorités religieuses, comme le pape François.

Une manifestation de l’influence chinoise, y compris en matière de censure ?

Pour Sarah McLaughlin, spécialiste de la censure, cette politique à deux vitesses est une manifestation de la capacité qu’a la Chine d’influencer au-delà de ses frontières, y compris en matière de censure des contenus. Un phénomène que l’on observe depuis un moment, avec divers exemples — comme en 2019, lorsque Blizzard s’est retrouvé au cœur d’une polémique après avoir banni un joueur de Hearthstone exprimant son soutien à la liberté de Hong Kong.

« Les lois chinoises — du moins en théorie — ne devraient s’appliquer qu’à l’intérieur des frontières de la Chine. Pourtant, parce que le PDG de Midjourney veut que son programme soit disponible en Chine, il applique certaines des restrictions d’expression du pays à tous. Ainsi, les utilisateurs des pays libres, qui utilisent un programme basé aux États-Unis, ne peuvent pas se moquer de Xi Jinping », écrit Sarah McLaughlin.

« Nous ne devrions pas ignorer cette histoire ou d’autres du même genre, poursuit-elle, en signant un papier à ce sujet dans Techdirt. Les lois de censure d’un pays autoritaire fixent les normes de modération pour la communauté mondiale dans un domaine technologique émergent. Cela me préoccupe et devrait vous préoccuper également ». Car cette censure ne touche que les Chinois. Les internautes du monde entier sont aussi affectés.

Cette controverse croissante, qui risque par ailleurs d’attirer l’attention du législateur américain, pourrait prendre une tournure plus politique : aujourd’hui les États-Unis sont engagés dans une véritable guerre idéologique avec la Chine, avec l’opposition de deux modèles. Washington pourrait ne pas trouver à son goût de voir une société américaine appliquer une règle aussi exclusive à une seule personnalité, qui plus est celui à la tête de la nation rivale.

La politique mise en œuvre par Midjourney reste toutefois étonnante, au regard de la situation de Discord en Chine. Officiellement, l’entreprise américaine dit censurer Xi Jinping pour ne pas mettre en difficulté les internautes chinois. Pourtant, l’accès à Discord (c’est le seul moyen d’accéder à Midjourney) en Chine s’avère aujourd’hui bien difficile. En effet, Discord est actuellement banni dans la Chine continentale. À croire que Midjourney se donne du mal pour pas grand-chose.