Bruxelles va forcer les géants du net à supprimer dans l’heure les contenus marqués comme terroristes

Face à la propagation des contenus identifiés comme faisant l’apologie du terrorisme, la réactivité des grandes plateformes du net va devoir être très nettement progresser. Elles en auront l’obligation : la Commission européenne travaille sur un texte visant à prononcer des amendes contre les sites sociaux s’ils ne sont pas capables de retirer les publications litigieuses dans l’heure suivant leur signalement.

Cet objectif est en réflexion depuis des mois à Bruxelles : en mars, un communiqué statuait que dans le cas des « contenus à caractère terroriste », il est exigé des sociétés concernées qu’elles les suppriment « dans le délai d’une heure à compter de leur signalement ». La raison ? Ce type de contenu « est le plus préjudiciable au cours des premières heures de sa parution en ligne ».

Passer d’un délai de 24h à 1h

Jusqu’à présent, le délai d’intervention pour retirer les contenus identifiés comme faisant l’apologie du terrorisme est de 24 heures. Celui-ci a été fixé en mai 2016, au moment où la Commission a imposé un « code de conduite » à plusieurs géants du net pour qu’ils forment du personnel dédié afin « que la majorité des signalements valides puissent être examinés en moins de 24 heures ».

Les sociétés qui ont déclaré s’engager à respecter ce code de conduite sont Dailymotion, Facebook, Google+, Instagram, Microsoft, Snapchat, Twitter et YouTube.

Il s’avère toutefois, selon les mesures effectuées par les services européens, que les sociétés n’arrivent pas à traiter 100 % des notifications dans le temps imparti : début mars, les statistiques montraient que les entreprises « suppriment en moyenne 70 % des discours haineux illégaux qui leur sont notifiés et dans plus de 80 % des cas, les suppressions ont lieu dans les 24 heures ».

Dit autrement, un signalement sur cinq est réglé après ces 24 heures et 30 % des appels à la modération ne justifient pas, en fin de compte, de supprimer quoi que ce soit.

Paris a subi ces dernières années des attaques terroristes. Crédits : Stéphanie Renard

Vers l’automatisation

En divisant le temps d’intervention par vingt-quatre, la question se pose évidemment de savoir si les plateformes du numérique parviendront à tenir le cahier des charges. On peut légitimement en douter : alors qu’elles ne parvenaient déjà pas à traiter 100 % des alertes en 24 heures, comment le pourraient-elles en 1 heure ? Cela parait hors de portée pour de la modération humaine.

C’est peut-être là le tournant : le resserrement extrême du délai d’intervention et la hausse des exigences — légitimes — de la Commission européenne ne peuvent que déboucher sur une suppression automatisée des contenus, avec l’emploi massif de filtres de détection et d’algorithmes d’intelligence artificielle. C’est le piège du solutionnisme technologique, qui pense que la technique va tour résoudre.

En empruntant cette voie, les géants du net parviendront sans doute à faire aussi bien, voire mieux, qu’aujourd’hui malgré un cadre nettement plus contraint. Mais ce maintien à flots — qui sera obtenu coûte que coûte, car les géants du web feront tout leur possible pour ne pas risquer une amende — se fera au risque d’un risque accru d’erreurs dans la modération, avec de faux positifs pris dans les mailles du filet.