Est-ce la conséquence de la profusion d’images très réalistes, mais fausses, que l’on voit sur les réseaux sociaux ? Dernièrement, des visuels trompeurs sur des personnalités (l’arrestation de Donald Trump, le pape François habillé n’importe comment, Emmanuel Macron en manifestant) ou mettant en scène des personnes inexistantes ont fleuri en ligne.
Midjourney empêcher provisoirement la génération d’images pour les comptes gratuits
Or, voilà que depuis le 28 mars 2023, Midjourney a suspendu pour une période indéterminée la possibilité de générer des images gratuitement. Midjourney est ce laboratoire américain derrière un système d’intelligence artificielle du même nom. Ladite IA génère des visuels à la volée selon le style de son choix, en fonction des paramètres qu’on lui passe.
On peut faire imaginer à Midjourney n’importe quoi, tant que les consignes qu’on lui donne sont assez précises. Toutefois, des limites existent : impossible de générer de la pornographie. Idem pour le gore. Les internautes sont aussi invités à ne pas « créer des images susceptibles d’enflammer, de bouleverser ou de provoquer un drame. »
Malgré tout, il y a des abus. « En raison d’une demande extraordinaire et d’un abus des essais, nous désactivons temporairement les essais gratuits jusqu’à ce que nous ayons déployé les prochaines améliorations du système ». Ce message a été publié par David Holz, le fondateur et patron du laboratoire, sur le canal Discord de Midjourney.
Cette décision survient tout juste deux semaines après l’arrivée de la version 5 de Midjourney, qui est une génération encore plus performante de l’IA générative. Elle a fait des progrès remarquables, notamment sur certains détails physionomiques. Elle est également en mesure de proposer des images très réalistes, avec un usage du décor, de la lumière et des textures parfois spectaculaires.
La nature des abus n’est pas donnée par David Holz. Cependant, la multiplication de ces images très réalistes, parfois très troublantes, est une piste vraisemblable selon le média américain The Verge. Certaines créations ont été prises pour de véritables clichés — signe que certaines versions avancées de l’IA sont assez puissantes pour déformer la perception du réel.
Selon nos constatations, il est toujours possible de rejoindre le canal Discord. En revanche, il n’est plus possible d’envoyer des commandes pour les nouveaux arrivants — cette restriction d’accès ne concerne manifestement que les comptes gratuits. Elle a été repérée initialement par le Washington Post. Les comptes payants peuvent toujours générer des images, selon la nature de leur abonnement.
Un membre de la rédaction a fait le test — il a pu rejoindre le canal Discord avec le lien d’invitation fourni par Midjourney. En revanche, lorsqu’il a voulu produire une image au hasard, il a reçu un message d’erreur du système. Celui-ci explique que les serveurs de la plateforme sont confrontés à une forte demande. Il ne mentionne pas, toutefois, les abus.
Quand notre collègue a rejoint le canal Discord, il a également vu un message dans la zone réservée au support technique concernant les tests gratuits. Là encore, on lui indique que la génération n’est actuellement plus possible — sauf en achetant un abonnement. Le message n’indique pas quand et si ces essais gratuits seront reproposés.
Cette décision est à mettre en lien avec une autre information, révélée quelques semaines plus tôt. Le journaliste britannique Eliot Higgins avait partagé une cinquantaine de fausses illustrations de Donald Trump en train de se faire arrêter. Midjourney interdit désormais toute image d’arrestation. Et selon le journaliste, il a aussi été banni dans la foulée.
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Si vous avez aimé cet article, vous aimerez les suivants : ne les manquez pas en vous abonnant à Numerama sur Google News.
