Que se passe-t-il avec la plateforme Substack et les contenus nazis ?

C’est une controverse qui n’a guère atteint les rivages européens, jusqu’à présent. Mais outre-Atlantique, elle prend actuellement de l’ampleur. Dans son édition du 21 décembre, le média américain The Verge rapportait une polémique sur le laxisme du site Substack en matière de modération. En l’espèce, la plateforme est accusée de ne pas agir contre les écrits extrémistes, y compris nazis.

L’affaire a éclaté en fin d’année, avec une première publication remarquée dans les colonnes du site The Atlantic — Substack Has a Nazi Problem. Dans son article du 28 novembre, le journal américain a mis en lumière une large indulgence à l’égard des nationalistes blancs et des antisémites, qui ont ainsi la possibilité de diffuser leur message sans opposition.

Cela, alors que les conditions de Substack rejettent en théorie les discours de haine. Cela inclut les « menaces crédibles d’atteinte à l’intégrité physique de personnes » en raison de leur ethnie, origine, religion, sexe, identité de genre, orientation sexuelle, âge, handicap ou état de santé. Substack désire plus généralement être « un lieu de discussion et d’expression sûr. »

Or, l’enquête menée par The Atlantic montre que, « sous la surface, la plateforme est devenue un foyer et un propagateur de la suprématie blanche et de l’antisémitisme ». Et d’asséner que « Substack n’a pas seulement hébergé des écrivains qui publient une rhétorique ouvertement nazie sur la plateforme ; elle profite financièrement de beaucoup d’entre eux. »

« Pourquoi les nazis ont-ils droit à un site et à la monétisation ? »

C’est dans ce contexte que des membres de Substack se sont coalisés dans une lettre ouverte (Substackers Against Nazis, les substackers contre les nazis) adressée à la direction. Les responsables de 247 publications sur le site ont interpellé les trois fondateurs — Chris Best, Hamish McKenzie et Jairaj Sethi –, en les pressant de mettre un coup de collier en matière de modération.

« Il est inconcevable qu’une personne ayant un avatar avec une croix gammée, qui écrit sur ‘la question juive’ ou qui promeut la théorie du grand remplacement, puisse disposer des outils nécessaires pour réussir sur votre plateforme », développe la missive. « Et pourtant, vous n’avez pas été en mesure d’expliquer correctement votre position.»

Nos confrères de The Atlantic ont passé en revue seize newsletters, dans lesquelles il y a des symboles nazis évidents, comme la croix gammée, notamment dans des logos ou des éléments graphiques. Le journal mentionne plus globalement qu’il y a des « dizaines de bulletins d’information suprémacistes blancs, néo-confédérés et explicitement nazis sur Substack. »

Le site d’information a aussi constaté que nombre de ces listes ont l’air d’avoir été lancées en 2023 — soit un an avant l’élection présidentielle aux États-Unis, dans laquelle Donald Trump apparaît émerger contre le leader des Républicains pour mener le combat politique face à Joe Biden. Il a aussi noté que ces bulletins circulent via des canaux extrémistes sur Telegram

Substack campe sur ses positions pour ce qui est de la modération

L’affaire a fini par remonter aux oreilles des patrons de Substack. C’est ainsi que le 21 décembre, Hamish McKenzie a partagé une note pour décrire la politique que suit la plateforme. La société confirme qu’elle va maintenir sa ligne, même si cela entraîne la publication d’opinions extrémistes. Selon lui, les censurer ne ferait qu’aggraver le problème.

« Je tiens à préciser que nous n’aimons pas les nazis non plus — nous aimerions que personne n’ait ces opinions. Mais certaines personnes partagent ces opinions et d’autres opinions extrêmes. Dans ces conditions, nous ne pensons pas que la censure (y compris la démonétisation des publications) fasse disparaître le problème — en fait, elle l’aggrave », a-t-il argué.

Cette position se retrouve en partie dans les conditions de Substack, puisqu’il est indiqué que « nous pensons que la critique et la discussion de sujets controversés font partie d’un discours solide, et nous nous efforçons donc de trouver un équilibre raisonnable entre ces deux priorités ». Cela laisse visiblement assez d’espace pour accepter les discours fanatiques.

La prise de position indulgente de Hamish McKenzie reflète de toute évidence une approche traditionaliste de la liberté d’expression à l’américaine. Cette conception est bien plus permissive que le cadre français. En vertu du premier amendement de la Constitution des États-Unis, beaucoup plus de propos sont admissibles. De fait, cela rend la lutte contre certains discours plus difficile.

On comprend donc que Substack ne prévoit pas de « dé-plateformer » ces bulletins, c’est-à-dire de ne plus les autoriser à utiliser ses services pour diffuser leurs vues. Il n’est pas non plus question de les démonétiser — monétisation vis-à-vis de laquelle Substack prend une petite part. Cela ne représente toutefois qu’une toute petite frange des rédacteurs rémunérés, estimés à 17 000.

« Nous pensons que soutenir les droits individuels et les libertés civiles tout en soumettant les idées à un discours ouvert est le meilleur moyen de priver les mauvaises idées de leur pouvoir », ajoute Hamish McKenzie. Tant qu’il n’y a pas d’expression claire en vue de commettre de la violence, il n’y aura pas d’intervention. Les idées, en somme, se combattent avec les idées.

Comme le rappelle The Atlantic, ces newsletters haineuses ne sont qu’une « infime partie des lettres d’information publiées sur [le] site. » Il y a des dizaines de milliers de participants et de participantes dont les écrits ne posent pas de telles difficultés. Cependant, arguent nos confrères, « ce serait une erreur de considérer ces bulletins nationalistes comme marginaux ou inoffensifs. »

La liberté d’expression à l’américaine

Cette affaire reflète la tension importante aux États-Unis de ce que le cadre de la liberté d’expression permet. On a pu le constater avec les dérives criantes lors du mandat de Donald Trump, puis avec la passation de pouvoir avec Joe Biden. Cette très large souplesse a été l’un des facteurs ayant fait vaciller l’État de droit et la démocratie aux USA, quelques jours durant.

La polémique soulève aussi la question de la manière dont s’applique la liberté d’expression. Ces dernières années, une distinction est apparue pour défendre l’idée que la liberté d’expression (freedom of speech) n’inclut pas forcément la liberté d’avoir une tribune (freedom of reach). Certes, chacun peut dire ce qu’il veut, mais on n’est pas obligé de lui tendre un micro.

Un argument qui n’a manifestement pas fait mouche chez Substack, qui s’en tient à d’autres considérations pour garder sa politique. Sans doute ne faut-il pas s’en étonner. Par le passé, la direction de Substack a déjà montré sa tolérance à l’égard de l’intolérance, et son manque d’allant vis-à-vis de la modération. Que ce soit sur la vaccination, la transphobie ou le racisme.

Et TechDirt de dire les choses avant moins de délicatesse : le PDG de Substack ne se rend pas compte qu’il vient de devenir le bar nazi. Or, modérer, c’est dire aux racistes de se taire.