« La tech est une industrie qui pose des problèmes pour le droit des femmes »

Les données des utilisatrices de Google et Facebook sont utilisées contre elles aux États-Unis, dans les états interdisant l’avortement. La police iranienne utilise des caméras de sécurité pour vérifier que les femmes portent bien leur voile. Les algorithmes continuent de perpétuer les inégalités déjà présentes dans la société.

En ce 8 mars, journée internationale des droits des femmes, il est, plus jamais temps de se poser une question : la tech peut-elle encore aider les femmes, ou ne fait-elle que réduire encore plus leurs droits ? Numerama en a parlé avec Mathilde Saliou, journaliste et autrice de Technoféminisme, comment le numérique aggrave les inégalités, qui est sorti en février 2023 aux éditions Grasset.

Aujourd’hui, la tech peut-elle encore aider les femmes ?

Mathilde Saliou — Je pense que c’est une industrie qui pose des problèmes pour le droit des femmes et il faut absolument que les personnes qui en sont soucieuses en aient conscience.

Tous les grands débats de la tech que le grand public connait, comme ceux sur les données et la surveillance, ont un côté sexiste et misogyne. Typiquement, quand on dit que Google et Facebook envahissent la vie privée, cela peut paraitre léger, mais dans des pays où le droit à l’avortement est remis en cause, cela pose des problèmes très directs. Un article vient de sortir sur le fait que Facebook et Google avaient expressément aidé les forces de l’ordre à aller trouver de filles qui avaient voulu avorter. Il y a aussi les questions de surveillance. Il ne faut pas oublier que les cyberviolences touchent plus les femmes que les hommes, notamment dans le cadre de violences conjugales. Dans 9 cas sur 10, il y a aussi des cyberviolences qui peuvent aller du stalking de la part du mari ou de l’ex, jusqu’à la captation des identifiants bancaires ou des comptes sur les réseaux sociaux.

Dernier grand problème : les inégalités encodées dans les algorithmes. L’intelligence artificielle est encore très jeune, mais on commence quand même à avoir plein de données qui montrent qu’elle reproduit les inégalités de la société. Dans un sens, c’est normal, parce que ce sont des productions faites par des humains. Le problème, c’est qu’on vend toutes ces technologies en disant qu’elles sont plus exactes, et donc plus sûres que n’importe quel jugement humain, ce qui est faux ! Elles encodent les inégalités que les humains ont déjà en tête, et souvent, elles les aggravent.

Par exemple, une étude a montré que si l’on donnait à un algorithme de reconnaissance d’image un jeu de données contenant 38 % plus de femmes dans une cuisine, en sortie, l’algorithme va considérer que dans 66 % des cas où il y a quelqu’un dans la cuisine, c’est une femme. Pour qu’on corrige ce problème et qu’on s’en inquiète, il faut que la problématique soit connue, et je ne suis pas sûre que ça soit encore suffisamment le cas.

Est-ce qu’il n’y a quand même pas des opportunités pour les femmes ?

Mathilde Saliou — Si, c’est aussi potentiellement un vecteur de progrès et d’émancipation. Il y a un aspect intéressant aux biais des algorithmes : quand un algorithme encode une inégalité, il la rend visible, et cela devient plus simple de lutter contre. C’est notamment le projet de chercheuses qui ont monté un projet qui s’appelle Data Against Feminicide qui cartographie les violences faites aux femmes en Amérique du Sud. Faire cet état des lieux, cela permet de démontrer l’ampleur du problème et donc potentiellement de créer des outils adaptés pour le résoudre.

Il y a des aspects bien plus classiques qui peuvent aussi être un avantage pour l’égalité : aller sur les réseaux sociaux et créer des communautés, notamment des communautés de soutiens entre femmes. Cela permet parfois de lutter contre des problèmes, comme quand les streameuses se réunissent pour lutter contre les cyberviolences, elles répondent à un problème, mais en même temps, elles se font un réseau d’influence. Ça a une utilité forte et réelle, y compris dans l’aide à la prise en main des outils numériques.

Par ailleurs, dans des pays comme l’Inde, il y a des usages où utiliser des réseaux sociaux a toujours cette bonne vieille fonction de partage du savoir. Des sages-femmes y utilisent des boucles WhatsApp pour envoyer des infos, y compris jusque dans des communautés reculées où il y a des croyances parfois dangereuses pour les femmes enceintes. Grâce à ces boucles, elles arrivent à disséminer des informations scientifiques sourcées et donc à permettre aux femmes de mieux connaitre leur corps et aux communautés d’évoluer un peu, et donc de faire progresser l’égalité.

Est-ce qu’il y a des initiatives en 2023 qui vont changer dans la tech et qui vont avoir un impact sur les femmes ?

Mathilde Saliou — Pour moi, le gros sujet, c’est l’intelligence artificielle. On voit déjà les premiers problèmes arriver : une grosse enquête de Wired vient de sortir, qui démontre qu’aux Pays-Bas, dans la ville de Rotterdam, un algorithme dédié à l’allocation d’aides sociales discriminait activement certaines parties de la population, en se basant sur le genre et l’ethnicité. C’est vraiment des problèmes dont il faut qu’on se saisisse. Dès qu’on ajoute une couche technologique à ce genre de décision, cela permet de dire qu’on n’a pas fait de jugement, que c’est la décision de la machine. Comme c’est des notions informatiques, l’algorithme aurait plus raison que nous, humains. C’est faux : il y a plein de machines dont on sait qu’elles ont été construites avec des données biaisées. Il ne faut pas faire confiance aveuglément aux machines sur ces questions-là, je pense.

La reconnaissance faciale est aussi à surveiller, notamment dans le cadre de l’extension de la technologie en France, avec l’organisation des JO en 2024 à Paris. On n’a pas encore beaucoup de données sur les problématiques de genre que pourrait amener la reconnaissance faciale, mais on sait déjà depuis 2018 que ces technologies fonctionnent moins bien sur les femmes que sur les hommes. On sait aussi qu’il y a déjà des implications racistes catastrophiques aux États-Unis, où des personnes se sont retrouvées en garde à vue sur la foi de jugements algorithmiques erronés. Il faut absolument qu’il y ait des cadres très forts pour réguler ça.

Qu’est-ce qu’on peut faire, à notre échelle ?

Mathilde Saliou — Il faut alerter plus les politiques, pour les pousser à se former et à prendre au sérieux ces questions-là. Si on veut que les choses soient bien cadrées, il faut qu’ils sachent ce qu’ils font. Après, pour leur défense, les députés européens n’arrivent même pas à se mettre d’accord sur la définition de ce que c’est l’intelligence artificielle.

Il faut surtout qu’on arrive à convaincre plus de femmes à aller dans cette industrie, ça en ferait un vecteur d’égalisation à la fois en termes de pouvoir et d’économie, car la tech est l’un des secteurs les mieux cotés dans la société et c’est une industrie qui irrigue chacun de nos pas et des moments de vies. Tous nos usages numériques sont tissés à nos vies quotidiennes dans les pays occidentaux.

Elizabeth Holmes, la fondatrice de Theranos un temps considérée comme la nouvelle star de la Silicon Valley, a été condamnée à 11 ans de prison pour avoir arnaqué des milliers de clients. Est-ce qu’elle n’a pas condamné avec elles toutes les futures femmes dirigeantes dans la tech ?

Mathilde Saliou — Non, je ne pense pas ! Si on veut de l’égalité, il faut aussi qu’il y ait des profils « pourris » comme celui Elizabeth Holmes parmi les figures féminines qu’on connaît. Le fait qu’elle existe montre qu’on peut aussi se tromper en tant que femme. Pour arriver à pousser plus de femmes dans la tech, il faut qu’on ait plus de figures de femmes associées à la tech dans nos imaginaires. Si on a plus de femmes hackeuses, plus de développeuses et plus de cheffes d’entreprise tech, y compris les moins respectables, ça montre qu’on peut y arriver.

Il y aura cependant toujours des obstacles. Par exemple, la figure d’Elon Musk, entrepreneurs à succès et homme le plus riche du monde, n’aurait pas pu être une femme. Ce n’est pas forcément seulement à cause du secteur de la tech, mais aussi à cause d’autres facteurs. Il se trouve que dans l’industrie financière, on a des gros problèmes d’égalité : il y a plus d’hommes que de femmes et ils donnent beaucoup plus d’argent aux hommes qu’aux femmes — donc forcément, Elon Musk a eu un avantage. Pareil pour des questions d’accès aux postes à responsabilité : dans n’importe quelle entreprise, il y a toujours plus d’hommes que de femmes. Et même dans les cas où une femme arrive à un poste de pouvoir, dès la première erreur, c’est foutu.

Elizabeth Holmes était d’ailleurs peut-être la future Elon Musk au féminin. Elle a fait des erreurs graves qui constituent une vraie arnaque, mais il me semble qu’Elon Musk a été lui-même accusé de fraude [notamment par des actionnaires de Tesla, mais a été acquitté par la justice, ndlr] … Le fait est qu’une femme sera toujours jugée plus durement dès le début, et donc qu’il sera toujours plus difficile pour elle d’accéder au stade de fondatrice d’entreprises ou bien de femme la plus riche du monde.

Technoféminisme par Mathilde Saliou, 304p., éditions Grasset (2023)