Les progrès réalisés dans le domaine de l’intelligence artificielle ces dernières années sont particulièrement impressionnants. De la détection de grains de beauté potentiellement dangereux à la création d’une nouvelle chanson du groupe Nirvana, les utilisations sont aussi diverses que surprenantes. Mais l’IA soulève également de graves problèmes, notamment en termes de racisme et de discrimination. En effet, contrairement à ce qui a longtemps été annoncé, les algorithmes qui font fonctionner les intelligences artificielles ne sont pas neutres, et répètent bien souvent les biais humains.
Entre les préjugés racistes et les « simples » erreurs dans la conception d’intelligences artificielles et de robots, les accidents sont nombreux. Et ils sont maintenant répertoriés dans un site.
Vous pouvez consulter le site de l’Artificial Intelligence Incidents Database ici.
« Comment cette idée pourrait devenir une dystopie ? »
L’Artificial Intelligence Incidents Database, le site qui agrège tous les échecs dans le domaine des intelligences artificielles, a été lancé à la fin de l’année 2020, et répertorie déjà 100 incidents. Sean McGregor, un chercheur en machine learning à l’origine du projet, a eu l’idée de créer une sorte de Darwin Awards des IA après de nombreuses conversations avec ses proches. « Mes collègues ont régulièrement des idées brillantes, et je me retrouve souvent à leur demander ‘as-tu envisagé la manière dont cette idée pourrait générer en dystopie ?’», a-t-il confié au site Wired, qui l’a interrogé.
Pour lui, le peu de recul sur les innovations dans le secteur de l’intelligence artificielle fait qu’on se concentre encore trop peu sur la sécurité des produits. Il en veut notamment pour exemple les nombreux problèmes de racismes qui concernent les IA. Il espère que la liste incitera les entreprises et les chercheurs à faire plus attention aux potentielles retombées négatives de leurs inventions.
Plusieurs incidents ont entrainé des morts
On retrouve hélas, parmi les cent incidents pour l’instant répertoriés, plusieurs cas graves ayant causé la mort de personnes. C’est notamment le cas de l’incident #4 : un essai de voiture autonome chez Uber. En 2018, une voiture autonome a tué une piétonne qui traversait la route à cause d’un problème avec le système d’arrêt d’urgence. Il y a également l’accident #5 : en 2020, un rapport du MIT expliquait qu’un robot utilisé lors d’opérations chirurgicales avait causé au moins 144 décès aux États-Unis. La liste est longue, et rappelle que si les avancées technologiques sont en grande partie des inventions qui améliorent le quotidien, il faut toujours prendre en compte les possibles retombées négatives, et y prêter une attention toute particulière.
Il n’y a cependant pas que des incidents aussi dramatiques que ceux cités plus haut. On trouve notamment dans la liste, l’exemple d’une guerre d’édition entre deux bots sur Wikipedia, chacun effaçant les modifications faites par l’autre ; ou encore l’exemple d’une enceinte Alexa qui, sans avoir reçu la moindre instruction et alors que son propriétaire n’était pas chez lui, a lancé toute seule de la musique pendant la nuit, au point que les policiers ont été appelés pour tapage nocturne.
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Si vous avez aimé cet article, vous aimerez les suivants : ne les manquez pas en vous abonnant à Numerama sur Google News.
