Ce que dit la loi sur les images pédopornographiques générées par IA

C’est la face sordide de l’intelligence artificielle (IA) générative. Celle qui sert à produire des scènes fictives, mais montrant des personnes subissant des violences et des abus, notamment de nature sexuelle. Des visuels de ce type circulent déjà sur Internet, avec l’émergence des deepfakes pour intégrer des célébrités dans des vidéos pornographiques.

Mais, depuis quelques mois, l’utilisation de ces outils informatiques de pointe connaît une nouvelle dérive : la création de contenus incluant des mineurs, parfois très jeunes, dans de la pornographie. Les scènes sont fausses, inventées par l’IA générative. Cependant, elles dépeignent des enfants dénudés, dans des poses suggestives ou mêlés à des pratiques sexuelles violentes.

Ce phénomène a notamment été relevé dans un article de Bloomberg, paru le 23 mai 2023. Titré « Des prédateurs sexuels exploitent des outils d’IA pour générer des images d’abus d’enfants », il montre que ces nouvelles technologies sont aussi détournées pour inventer des contenus pédopornographiques, avec un réalisme parfois confondant.

Ces créations profitent de l’essor des outils d’IA génératives. Du côté des images, on trouve des plateformes comme Midjourney, Dall-E et Stable Diffusion — ce sont les plus connues aujourd’hui. En principe, leurs conditions d’utilisation interdisent de créer ce genre de contenu. Certains prompts peuvent d’ailleurs être interdits — avec une efficacité parfois relative.

Mais, il peut exister aussi des modèles de création de contenu libres, qui se baladent dans la nature, sans intégrer des limitations techniques excluant certaines requêtes. Au-delà du cas des visuels imaginaires de mineurs, de plus en plus de photos par IA mettent en scène des célébrités ou des personnages de dessins animés — étendant ce qui se faisait déjà de façon plus « artisanale ».

Ce sujet n’est pas nouveau : la représentation imaginaire de la pornographie infantile est un sujet qui existe depuis des années avec le « lolicon » (mot-valise pour lolita complex). Ce terme exprime l’attirance pour des filles prépubères, mais aussi une catégorie de dessin et de manga les mettant en scène de façon érotique ou pornographique.

Que dit la loi sur ces contenus imaginaires en France ?

Juridiquement, néanmoins, les choses sont claires : la pédopornographie est un crime, que les mineurs représentés soient réels ou non. Le Code pénal, dans son article 227-23, prévoit jusqu’à 5 ans de prison et 75 000 euros d’amende pour « l’image ou la représentation d’un mineur » lorsque celle-ci « présente un caractère pornographique ».

L’article précise qu’il s’applique aussi « aux images pornographiques d’une personne dont l’aspect physique est celui d’un mineur », sauf si elle était majeure à ce moment-là (dans le cas d’une personne réelle). Des sanctions additionnelles sont prévues, notamment pour s’attaquer à la diffusion, la détention ou la consultation de ces contenus, y compris sur Internet.

La Cour de cassation s’est montrée aussi très claire à ce sujet. En 2007, la plus haute juridiction de l’ordre judiciaire français rendait une décision clé. Elle a déclaré que « les images non réelles représentant un mineur imaginaire, telles que des dessins ou des images résultant de la transformation d’une image réelle, entrent » dans le champ d’application de cet article.

Si les choses sont claires à l’échelle hexagonale, elles peuvent être observées différemment à l’étranger. C’est ce que relève Bloomberg en citant le cas des États-Unis : la production de fausses images d’abus d’enfants n’est pas illégale aux États-Unis, ce qui a pour effet d’épargner des forums et des sites spécialisés regorgeant de ces contenus « lolicons », dessinés ou générés par IA.

Dans ce cas de figure, la France dispose toutefois d’un levier : celui du blocage sur décision administrative. Des sites spécialisés dans le hentai (du manga porno) avaient ainsi été ciblés en 2015, sur instruction du ministère de l’Intérieur. Les fournisseurs d’accès à Internet (FAI) se sont exécutés pour bloquer sans délai ces sites, grâce à la technique du blocage par DNS.

Cette prérogative vient d’un décret paru la même année. Les internautes allant sur ces adresses sont redirigés sur une page du ministère de l’Intérieur, dans laquelle on peut lire un avertissement : « Vous avez été redirigé vers cette page du ministère de l’intérieur car vous avez tenté de vous connecter à un site comportant des images de pornographie enfantine. »

Ce levier pourrait également servir dans le cas de la pornographie infantile produite par intelligence artificielle générative. Un levier toutefois imparfait : le blocage par DNS, qui est aussi utilisé dans d’autres circonstances, comme la lutte antiterroriste, est contournable assez facilement, en modifiant certains paramètres dans son ordinateur.