Google va-t-il au devant d’une nouvelle polémique impliquant son équipe chargée de réfléchir aux problématiques éthiques sur l’intelligence artificielle ? Selon une information du site américain Axios, très bien informé sur ce qui se passe à la Silicon Valley, la firme de Mountain View a lancé des investigations sur les récentes activités d’une chercheuse, Margaret Mitchell.
L’affaire revêt un caractère particulier et sensible, car elle survient quelques semaines à peine après une controverse impliquant une autre chercheuse, spécialiste des biais de l’IA, Timnit Gebru. À l’époque, celle-ci était partie de Google dans des conditions litigieuses, les deux parties se renvoyant la responsabilité de cette rupture. De nombreuses personnalités du monde universitaire avaient témoigné leur soutien à Timnit Gebru.
Ici, le problème porterait sur le fait que Margaret Mitchell aurait conçu des scripts pour fouiller dans ses propres messages échangés avec Timnit Gebru, afin de tenter de démontrer un traitement discriminatoire à l’égard de sa consœur. Le compte de Mitchell a ensuite été verrouillé par Google, a confirmé la firme dans un communiqué adressé à Axios. Selon l’entreprise, il s’agissait d’une mesure de sécurité.
« Nos systèmes de sécurité verrouillent automatiquement le compte d’entreprise d’un employé […] lorsqu’une règle automatisée impliquant la manipulation de données sensibles a été déclenchée », avance le groupe américain. Or ici, les systèmes ont détecté « qu’un compte avait exfiltré des milliers de fichiers et les avait partagés avec plusieurs comptes externes. »
Sur Twitter, Margaret Mitchell n’a pas réagi publiquement au fait que son compte ait été verrouillé. Timnit Gebru, en revanche, a pris la parole en indiquant que « l’accès au compte professionnel de Margaret Mitchell est maintenant verrouillé. Je me demande si elle va recevoir un email sur son email personnel acceptant sa ‘démission’ », en référence à sa trajectoire récente avec Google.
Margaret Mitchell, qui est coresponsable de l’équipe Google Ethical AI, a manifesté de la sympathie pour Timnit Gebru — le script qui est au cœur de l’affaire en est la preuve. Sur Twitter, elle partage les mêmes préoccupations que son ex-collègue sur les questions ethniques et d’inégalité, et reste critique sur la façon dont a été traitée Timnit Gebru par Google, regrettant aussi la perte de son expertise.
Le 19 janvier, Margaret Mitchell, réagissant à un article indiquant que le PDG de Google va rencontrer des dirigeants d’universités noires à la suite d’allégations de racisme, a déclaré : « Supposons que vous ayez un problème d’aliénation systématique des femmes noires et que vous ayez causé de graves dommages dans leur vie. Vous pourriez : A) essayer de réparer ces dommages. B) essayer de trouver d’autres Noirs pour vous apprécier. Bonne chance… »
Le jeune syndicat chez Google s’en mêle
Cette nouvelle polémique constitue de fait l’un des premiers dossiers qui arrivent entre les mains du jeune syndicat qui vient de voir le jour chez Google — plus exactement, chez Alphabet, la maison-mère de la firme de Mountain View. D’ailleurs, dans un communiqué, l’Alphabet Workers Union déclare être « préoccupé par les actions de Google contre son employée Margaret Mitchell. Le fait de continuer à cibler les dirigeants de l’équipe d’IA éthique remet en question l’engagement de Google en matière d’éthique. »
Pour le syndicat, les affaires concernant Timnit Gebru et Margaret Mitchell « constituent une attaque contre les personnes qui tentent de rendre la technologie de Google plus éthique », parce qu’elles tiendraient des positions qui pourraient ne pas épouser les intérêts de l’entreprise dans ce domaine. Mais surtout, cela jette de fait une ombre sur les proclamations de Google en matière d’éthique dans l’IA.
Autre point de mécontentement du syndicat, le commentaire qui a été adressé à Axios. Le syndicat relève « un écart notable par rapport à la pratique habituelle de Google, qui refuse de commenter les questions de personnel ». Pour l’AWU, Google « a directement attaqué Margaret et tenté de ternir sa réputation en faisant des affirmations sur lesquelles il serait encore en train d’enquêter. »
« Nous savons qu’Alphabet repousse fréquemment les limites des protections légales des travailleurs en ce qui concerne leurs décisions de licenciement. Le fait d’être une personne ciblée par l’une des plus grandes entreprises du monde est terrifiant, et renforce la nécessité des syndicats sur le lieu de travail », conclut le syndicat, qui promet de suivre avec attention les prochains développements concernant la chercheuse.
À Axios, Google a effectivement indiqué qu’une enquête est toujours en cours et précisé avoir prévenu l’intéressée dans une communication interne. Il n’a jusqu’à présent pas été question d’un quelconque licenciement. Un bon signe ? Timnit Gebru est prudente : Elle relève « elle n’a pas *encore* été licenciée. Mais apparemment, il lui a été dit qu’elle serait [privée de son compte] pour encore quelques jours. »
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Vous voulez tout savoir sur la mobilité de demain, des voitures électriques aux VAE ? Abonnez-vous dès maintenant à notre newsletter Watt Else !
