Grok 2, l’intelligence artificielle d’Elon Musk, génère de fausses photos de célébrités gratuitement

Accusé de contribuer à la désinformation avec son réseau social X (et ses propres tweets), Elon Musk pourrait bien franchir une étape supplémentaire avec Grok, son propre concurrent de ChatGPT.

Début décembre 2024, xAI a brièvement intégré à Grok un nouveau modèle autorégressif nommé Aurora, qui peut générer des images ultra-réalistes à la manière d’un Midjourney ou d’un Dall-e, mais avec des règles beaucoup plus souples. Aurora a été officiellement dévoilé le 9 décembre, sans que l’on sache exactement qui y a accès aujourd’hui. Dans tous les cas, Grok 2 est capable de reproduire des visages de personnalités publiques ou de personnages détenus par des marques quand on le lui demande, parfois dans une qualité impressionnante.

Grok 2 : des milliers de fausses photos circulent déjà

Techniquement parlant, cette situation n’est pas nouvelle. Avant Aurora, Grok était déjà apte à générer des images, y compris en imitant les visages de personnalités publiques. L’homme le plus riche du monde, qui défend une « liberté d’expression absolue », ne semble pas se soucier du droit d’auteur ou de l’atteinte à l’image d’autrui. Il défend généralement son outil en le présentant comme une « bêta », sans pour autant agir pour limiter ses possibilités.

Ce qui change avec Aurora est le réalisme des images générées, qui sont désormais incroyablement fidèles à ce que pourrait obtenir un vrai appareil photo. Grok, contrairement aux outils d’OpenAI, de Google ou de Midjourney, accepte la quasi-totalité des demandes. Il peut générer des images de Hitler, de Mario ou de célébrités dans des situations dégradantes.

Autre changement : l’accès à Grok est dorénavant gratuit, alors qu’il fallait détenir un abonnement X Premium pour parler à l’IA auparavant. Seules quelques images peuvent être générées gratuitement, mais cela pourrait être suffisant pour inciter des personnes malintentionnées à manipuler la réalité. La seule limite fixée par xAI concerne la nudité, qui est bien refusée par Grok.

Aurora est-il disponible ? Pour des raisons obscures, X ne le dit plus explicitement. Il indiquait avant si l’utilisateur ser servait de « Grok 2 + Aurora » ou « Grok 2 + Flux » (l’ancien modèle), il se contente désormais d’un « Grok 2 ». Dans le communiqué de presse publié le 9 décembre, xAI indique que « les nouvelles fonctionnalités de Grok sont désormais disponibles sur la plateforme X dans certains pays et seront étendues à tous les utilisateurs d’ici à une semaine », ce qui laisse penser qu’Aurora fonctionne déjà partout. Nous avons réalisé quelques tests depuis les États-Unis, quand Aurora était encore indiqué explicitement.

Des fausses images générées avec une seule phrase : à quoi joue X ?

En comparaison, les concurrents de Grok sont incapables de générer une image d’une personnalité publique. « Je ne peux pas générer l’image demandée en raison de notre politique de contenu », indique par exemple ChatGPT quand on glisse un nom connu. xAI, qui semble fier de pouvoir imiter des visages et des produits, est la parfaite illustration des dérives de l’IA générative.

Comme l’ont noté certains internautes sur Twitter, xAI semble avoir dans sa base de données plusieurs visages de personnalités seulement connues en France. Il peut leur faire porter un brassard nazi, générer des faux selfies avec Emmanuel Macron ou créer des images dégradantes… L’amélioration de la qualité avec Aurora pourrait créer une vague de désinformation.

Légalement parlant, on peut imaginer que xAI sera contraint d’ajuster sa politique avec le temps, notamment si des entreprises ou des personnalités venaient à l’attaquer. En attendant, on ne peut que vous encourager à être prudent avec ce que vous trouvez sur Internet, particulièrement sur X.