Microsoft veut une base de données des contenus terroristes sur Internet

Microsoft a annoncé vendredi dernier sur son blog officiel une série d’initiatives visant à mieux lutter contre le terrorisme sur Internet, aussi bien sur ses propres services en ligne que de façon plus coopérative, avec l’ensemble des acteurs du Web.

Ainsi concernant ses propres services, la firme de Redmond a annoncé une modification de ses conditions contractuelles, pour explicitement interdire tout « contenu terroriste », même s’il n’est pas en lui-même haineux ou s’il n’appelle pas directement à la violence. Sera considéré comme « contenu terroriste » tout message, photo, vidéo ou autre qui est publié par ou pour un groupe figurant sur la liste récapitulative des sanctions du Conseil de sécurité des Nations Unies. Actuellement cette liste contient 630 personnes individuelles et 395 groupe et entités.

Néanmoins, pour tenter d’assurer un certain niveau de liberté d’expression, ne seront supprimés que les contenus qui « dépeignent une violence graphique, encouragent à des actions violentes, approuvent une organisation terroriste ou ses actes, ou encouragent des gens à rejoindre de tels groupes ». Un formulaire spécial est mis en place pour signaler ces contenus terroristes à Microsoft, qui seront supprimés dès vérification de la notification. Les services concernés sont par exemple OneDrive, Skype, Xbox Live, Docs.com ou encore Outlook. Microsoft s’engage aussi à supprimer les contenus référencés par Bing, mais uniquement si c’est exigé par la loi locale, comme c’est par exemple le cas en France.

Vers une base de données des contenus terroristes

Par ailleurs, et c’est peut-être plus important, Microsoft annonce qu’il soutiendra les initiatives visant à s’assurer que des « contenus terroristes » supprimés une première fois ne puissent pas être re-publiés ailleurs. Microsoft va ainsi soutenir financièrement les travaux du professeur Hany Farid de l’université de Dartmouth, qui visent à « développer une technologie qui aide les partie-prenantes à identifier des copies de contenus terroristes patentés ».

« Le but est d’aider à freiner la propagation de contenus terroristes connus avec une technologie qui peut scanner précisément et pro-activement le contenu public qui contient des images, de la vidéo ou de l’audio connus de terroristes », explique Microsoft.

L’ambition sous-jacente est de créer et partager une base de données de contenus terroristes, pour que les hébergeurs puissent automatiquement comparer ce qu’ils hébergent à cette base de référence. C’est déjà pratiqué pour les images pédophiles (via la technologie PhotoDNA créée par Microsoft) et l’idée d’étendre cette pratique aux contenus terroristes n’est pas tout à fait nouvelle.

C’était au centre du projet européen Clean IT au début de la décennie, qui visait non seulement à pousser les plateformes sur le Web à mettre en place des notifications de contenus interdits, mais aussi à partager la base pour que les contenus censurés ici puissent être automatiquement censurés là. Néanmoins l’idée poussée par les Pays-Bas n’avait finalement pas vu le jour, notamment pour des questions de gouvernance. « Si vous avez une telle base de données, qui en est responsable ? Existe-t-il une organisation de confiance pour l’administrer ? Il y a des questions très importantes auxquelles nous allons essayer de répondre », avait expliqué à l’époque le coordinateur du projet.