« C’est un épisode de Black Mirror » : la dernière idée de Microsoft avec Windows 11 alarme

« C’est un épisode de Black Mirror. Il faut absolument désactiver cette ‘fonction’. » Elon Musk n’a pas mâché ses mots, mardi 21 mai 2024, lorsqu’il a découvert l’une des nouveautés annoncées lors de la conférence Build qui a eu lieu la veille. Dans son viseur, « Recall », un outil d’intelligence artificielle qui va mémoriser tout ce qui se passe sur l’écran du PC.

La manière dont va marcher Recall a été précisée par Satya Nadella, le PDG de Microsoft, lors d’un entretien accordé au Wall Street Journal. L’intéressé a confirmé que ce nouveau service va « prendre constamment des captures de ce qui se trouve sur l’écran », pour ensuite nourrir un « modèle d’IA générative directement sur l’appareil ».

Microsoft va-t-il donc désormais tout savoir des faits et gestes de la myriade de particuliers qui utilisent Windows comme système d’exploitation ? Face à l’inquiétude légitime que Recall va susciter, Satya Nadella a tenu à souligner la portée limitée de l’outil. Tout est censé se dérouler localement, sur le PC, sans allées et venues avec les serveurs de Microsoft.

Un outil fonctionnant en local sur le PC

En particulier, l’outil va reposer sur un composant spécial, appelé puce d’accélération de réseau de neurones (NPU, pour Neural Processing Unit). En creux, on comprend donc que ce ne sont pas tous les ordinateurs qui seront concernés par ce service. Il faudra en outre les prérequis suivants pour s’en servir :

• Windows 11 ;
• Un processeur ARM64 ;
• Une puce Qualcomm Snapdragon X Elite (ou X Plus) ;
• Un stockage local de 225 Go ;
• Une mémoire vive de 16 Go.

Ce traitement « sur place » est censé apporter un garde-fou suffisant pour ne pas alarmer le public utilisant Windows. La crainte est compréhensible : des informations très personnelles peuvent apparaître à l’écran à tout moment. Des photos, des comptes en ligne, des historiques de recherche, des accès professionnels, des messages, des montants d’argent, etc.

Selon Microsoft, toute cette approche consiste à développer une « mémoire photographique » d’un système d’exploitation. « Maintenant, nous l’avons […] Ce n’est pas de la recherche de mots-clés. C’est la recherche sémantique à travers tout votre historique. Et il ne s’agit pas de n’importe quel document, nous pouvons recréer des moments du passé. »

Fondamentalement, Recall n’est pas forcément très différent de ce que font déjà des OS contemporains, quand ils indexent du contenu local, stocké sur les disques durs et les SSD. Windows tient déjà compte des fichiers et des dossiers, y compris ceux relativement sensibles, que ce soit des photos X ou bien des tableurs Excel pour des comptes en banque.

Microsoft assure que tout est local et qu’il s’agit juste de livrer un moyen de « dialoguer » avec le PC en lui posant des questions en langage naturel (comme ChatGPT). Néanmoins, l’impression d’une fonction dystopique risque de perdurer dans l’esprit du public. Le tweet d’Elon Musk en est la démonstration la plus éclatante.

Recall doit être disponible en 2024 sur les ordinateurs compatibles, lors d’une mise à jour de Windows 11 attendue en septembre ou octobre. Il n’est pas sûr que la fonctionnalité de prise de captures d’écran en permanence de tout ce qui est fait sur le PC redonne un coup de boost à un OS qui a décidément du mal à attirer.

Suivez l’actualité de l’IA en vous abonnant à notre newsletter gratuite, créée par IA !