La loi doit s’attaquer aux images IA qui sexualisent les enfants, selon la fondation pour l’enfance

C’est un constat partagé de longue date : les fichiers pédopornographiques générés par intelligence artificielle pullulent sur le net. L’Internet Watch Foundation l’avait notamment observé dans son rapport d’octobre 2023. Ses travaux d’octobre 2024 montrent que cela se répand. Et aujourd’hui, la Fondation pour l’Enfance ne dit pas autre chose.

Au-delà du constat et de la déferlante de chiffres, la fondation liste surtout des recommandations — au nombre de quatorze — pour prévenir « détecter et sanctionner les contenus pédocriminels générés par l’IA, ainsi qu’à prévenir l’exploitation sexuelle en ligne des enfants ». Et cela passerait en particulier par une modification du droit.

Attaquer les créateurs de contenus sexuels par IA impliquant des mineurs

La Fondation pour l’Enfance propose ainsi deux axes d’action, dont l’un est une mise à jour de l’article 227-23 du Code pénal. Celui-ci est consacré à l’incrimination de « l’image ou la représentation d’un mineur lorsque cette image ou cette représentation présente un caractère pornographique », avec des amendes et des peines de prison potentiellement élevées.

Cependant, la fondation considère qu’il y a un point faible dans cet article : il n’est pas tout à fait adapté à ces nouveaux enjeux.

Elle propose donc d’actualiser la sanction en punissant « le fait de concevoir, de créer, de diffuser ou de porter à la connaissance du public ou d’un tiers, par quelque voie que ce soit, tout montage, contenu visuel ou sonore à caractère sexuel généré par un traitement algorithmique », quand cela vise la représentation, l’image ou la parole d’un mineur.

Au législateur, ensuite, de déterminer la hauteur des sanctions attachées à ce délit. Le nouvel alinéa pourra renvoyer à un autre article du code pénal, le 226-8-1, qui vise à punir la publication d’un deepfake (ou hypertrucage). Il s’agit d’une disposition récente, arrivée avec la loi SREN (sécuriser et à réguler l’espace numérique).

Punir la création de modèles d’IA dédiés à la pédopornographie

Par ailleurs, la Fondation pour l’enfance est favorable à la création d’un autre article du code pénal, cette fois pour pénaliser la création et la mise à disposition de modèles d’IA générative dont la finalité (ou l’une des finalités) est la création de contenus pédocriminels. Là encore, au législateur de créer le barème des sanctions.

Il viserait le « fait de collecter, détenir, traiter ou détourner des données personnelles, afin de créer, générer ou mettre à disposition du public ou de tout tiers un modèle de traitement algorithmique, dans le but de permettre la création de contenu visuel ou sonore à caractère sexuel représentant un mineur, et de tout fichier à caractère pédopornographique. »

Selon l’office mineurs (OFMIN, qui dépend du ministère de l’Intérieur), cité par la Fondation, il existe un « vide juridique pour incriminer les auteurs de ces contenus, qui ne peuvent être poursuivis que pour une détention d’images pédocriminelles ». D’où l’icée de créer une infraction autonome sur la génération de ces contenus par IA.

« L’atteinte portée étant sensiblement plus grave que la seule détention de ces contenus, et ces mis en cause sont aujourd’hui responsables des dérives de l’IA en détournant les outils générateurs », ajoute l’OFMIN, qui y voit un ajout utile. Outre le volet sanction, le rapport de la Fondation déroule des recommandations en matière de prévention et de détection.

À l’étranger aussi, les autorités s’adaptent

À l’étranger aussi, les autorités législatives et réglementaires cherchent à trouver la bonne parade face à ce nouveau phénomène. Avec des leviers qui peuvent parfois être actionnés immédiatement. C’est ce que montre par exemple le Financial Times, qui rapporte la condamnation au Royaume-Uni d’un homme de 27 ans à une peine de 18 ans de prison.

Dans cette affaire, le condamné a utilisé un logiciel de création de modèles humains, appelé Daz 3D, pour inventer des scènes fictives avec des enfants — il ne s’agissait pas de montages, avec une tête d’enfant greffée sur un corps d’adulte, par exemple. L’intéressé a toutefois utilisé de vraies photos d’enfants réels pour les intégrer à ces contenus.

La sanction est lourde, mais le procès a mis en lumière que le Britannique vendait ces créations sur Internet, participant ainsi une diffusion en ligne, et qu’il avait également encouragé des tiers à commettre des abus sexuels sur des enfants. Le Royaume-Uni dispose aussi de textes visant à sanctionner les deepfakes et les abus sexuels visant les mineurs.