All Eyes On Rafah : un bug peut tout changer

Parfois, la newsletter Règle 30 de Numerama arrive à un mauvais timing. Au moment où j’écrivais la dernière édition, on commençait à peine à s’interroger sur la viralité impressionnante de All Eyes on Rafah, une image générée par intelligence artificielle pour protester contre les attaques de l’armée israélienne sur un camp de réfugié·es en Palestine. Une semaine plus tard, l’affaire a déjà été décortiquée en long et en large.

On sait qu’elle a été créée par une participante à un groupe Facebook dédié à la promotion de l’IA en Malaisie, puis partagée par un autre internaute sur Instagram (qui réfute l’avoir volée). On a compris que sa viralité était liée à son aspect irréel et lisse, qui lui a permis d’échapper à la modération du réseau social. On s’est demandé s’il était efficace d’exprimer notre solidarité avec une image finalement très vide.

Beaucoup de personnes ont aussi défendu son partage, en dénonçant un mépris injuste envers des internautes qui avaient, certes, de bonnes intentions. On a tendance à vite juger le militantisme sur les réseaux sociaux, surtout quand il touche à des sujets qui emmerdent les personnes dominantes (anti-racisme, sexisme, etc). Pour autant, on peut reconnaître que la popularité de cette image est étonnante. Pourquoi a-t-elle eu tant d’écho chez des personnes non-politisées, des stars qui n’avaient rien communiqué sur le conflit jusqu’ici, des artistes ou des journalistes, habituellement très vocaux à propos des effets négatifs des IA génératives sur leur métier ?

Instagram est envahi d’images IA sur la Palestine

On me demande parfois de citer des exemples d’intelligences artificielles féministes. Cette question me gêne, parce qu’elle suppose que les IA (un terme marketing dans lequel on peut ranger des choses très diverses) sont à la fois le problème et la solution. Il y a de ça dans la défense de l’image All Eyes On Rafah. Puisqu’on nous dit que les IA sont inévitables, autant qu’elles servent une bonne cause. Cette attitude est comparable à notre relation d’amour-haine avec les algorithmes de recommandation. On sait qu’ils sont biaisés, incompréhensibles, qu’ils servent in fine des intérêts économiques, pas le bien commun. On espère quand même qu’ils seront de notre côté si on les entraîne, si on remplace certains mots par des emojis, si on prend un selfie avant de partager une story trop politique. On n’imagine pas un monde dans lequel on pourrait communiquer sans eux. 

D’un côté, ces comportements sont bien intentionnés. On fait ce qu’on peut avec ce qu’on a. D’un autre, sans réflexion populaire sur l’éthique des IA, on ne fera que renforcer un système médiatique qui favorise bien plus les mauvais acteurs que les bons (ce qui amène une autre discussion complexe sur qui peut être rangé dans les « bons » acteurs). Instagram est désormais envahi d’images artificielles dédiées à la situation en Palestine, certaines créées par des personnes sincères, beaucoup d’autres à la recherche de viralité. Les rares photos des violences, déjà durement censurées par la modération du réseau social, se retrouvent noyées. 

Le succès de l’image All Eyes On Rafah est un bug. Elle a fait fonctionner, un bref instant, la machine différemment. C’est l’occasion de se poser des questions essentielles : pourquoi doit-on négocier avec les réseaux sociaux pour qu’ils accomplissent leur but affiché, nous mettre en contact les un·es avec les autres ? Plutôt que de s’adapter à cette fatalité, comment imaginer d’autres outils de communication ?

« C’est lorsque la machine est hors service qu’on peut la regarder de près, la disséquer, en comprendre ses rouages et nous interroger sur le sens de notre usage », expliquait le philosophe Marcello Vitali-Rosati, récemment interviewé par France Culture sur son essai L’Éloge du Bug (éditions La Découverte, 2024). Débattre du fonctionnement des réseaux sociaux n’est pas la priorité dans cette période sombre, mais je ne crois pas que cela soit hors sujet non plus.On peut être soulagés et soulagées que le grand public se soucie d’un évènement aussi dramatique, par tous les moyens. On peut aussi critiquer ce système médiatique qui réduit l’information à une pâle copie de la réalité.