Perspective, l’IA développée par Google pour identifier automatiquement les commentaires des trolls, peut (pour l’instant) facilement être contournée par les utilisateurs. En effet, une équipe d’ingénieurs de l’Université de Washington a démontré comment l’intelligence artificielle peut être dupée facilement grâce à une utilisation détournée de son clavier.
Développé par Jigsaw, un incubateur tech de Google, l’IA a été conçue pour aider les sites d’information à mieux gérer et modérer les commentaires haineux des internautes : un phénomène qui amène de nombreux médias à fermer leur section de commentaires. Ainsi, l’intelligence artificielle se base sur un « niveau de toxicité » des phrases pour dénicher les commentaires négatifs.
Les auteurs de l’étude expliquent leur démarche : « À travers plusieurs expérimentations, nous avons montré qu’un troll peut tromper le système, en ajoutant des coquilles dans les mauvais mots ou des ponctuations entre les lettres. » Ainsi, ceux qui écrivent par exemple, si l’on écrit « Les électeurs de Trump sont des idiots », l’intelligence artificielle signalera un niveau de toxicité égale à 80 %. En revanche, si on tape à la place « Les électeurs de Trump sont des imb.éciles/imbéciiles » le taux diminuera à 13 %.
Une IA encore loin d’être autonome
Google affirme lui-même que son outil commet beaucoup d’erreurs en ce qui concerne la modération automatisée et rappelle qu’il l’a mis à disposition des développeurs justement pour l’améliorer.
Cela permet à Radha Poovendran, l’un des scientifiques de l’université de Washington, de conclure que ce type de technologie doit être utilisé par les modérateurs comme un assistant et pas comme un système autonome et intelligent : « L’intervention humaine est essentielle pour accomplir plusieurs tâches du processus. »
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Marre des réseaux sociaux ? Rejoignez-nous sur WhatsApp !
