Zao, c’est le nom de la dernière application mobile à la mode. Elle vient de Chine et elle permet d’incruster son visage dans un film, pour s’imaginer en Leonardo DiCaprio par exemple. Ce service qui tente de rendre simple d’accès le deep fake est-il efficace ? Est-ce sans danger de donner accès à ses photos ? Voici ce que l’on sait sur Zao.
Des résultats convaincants
L’application est sortie le 30 août selon le Guardian. En seulement quelques jours, elle serait devenue l’application gratuite la plus téléchargée en Chine d’après la société d’analyses App Annie.
Pour le dire vite, elle permet d’insérer son visage sur une séquence cinématographique. Il existe surtout des œuvres chinoises mais on trouve également quelques blockbusters américains : on peut se prendre pour Leonardo DiCaprio ou Marilyn Monroe. Le résultat n’est pas absolument parfait, mais il faut reconnaître qu’il est très réussi. Le visage est bien incrusté et ses mouvements sont fluides. Par rapport à de précédents essais de deepfake simples d’accès, Zao est bien plus réaliste.
Ce type de montage pourrait servir, comme l’a remarqué un internaute, à créer des contenus vidéo personnalisables dans le cinéma. Netflix qui a déjà inventé des séries interactives où le spectateur peut influencer les choix des personnages pourrait proposer à ses utilisateurs de voir un film avec leur propre visage à l’intérieur.
Faut-il avoir peur des deepfake ?
Mais si l’application fait parler d’elle, c’est d’abord parce qu’elle soulève des questions plus larges autour de la mauvaise utilisation des deepfake. Récemment, un développeur a créé un site qui permettait de « déshabiller » les femmes grâce à une technologie d’intelligence artificielle. Son projet a été banni de GitHub mais il aurait pu servir à des fins malveillantes, par exemple pour faire du chantage au nude.
Dans le cas de Zao, ces interrogations sont doublées de question autour du respect de la vie privée des utilisatrices et utilisateurs. Pour le moment, l’application est uniquement disponible en chinois et il faut avoir un numéro étranger (les numéros français ne fonctionnent pas) pour s’inscrire. Si toutefois vous avez un numéro canadien, américain, anglais ou que l’application s’ouvre à d’autres pays, vous pourrez vous poser la question.
D’après le média chinois Radii, les conditions d’utilisation de Zao stipulent que les photos que vous soumettez sur l’application pour effectuer le montage seront envoyées sur les serveurs de l’entreprise — ce qui est tout à fait normal, vu que vous demandez de faire un montage avec votre tête. Celle-ci aura le droit « permanent et irrévocable » de réutiliser vos photos.
Cette précision a inquiété des utilisateurs, à tel point que Zao a annoncé samedi sur le réseau social Weibo qu’elle allait modifier ses CGU. Elle devrait à l’avenir limiter l’utilisation des photos. Il sera possible de revenir sur son consentement en effaçant ses photos y compris des serveurs, ce qui n’est pas encore faisable pour le moment.
Le spécialiste du numérique Baptiste Robert (alias Elliot Alderson) a soulevé d’autres points clivants au sujet de Zao dans une série de tweets.
Il émet notamment des doutes sur la sécurité du stockage des données en ligne : il serait assez simple d’accéder aux photos et montages laissés par des utilisateurs, sans mot de passe. Il suffirait pour ceci d’avoir le lien vers l’image en question.
Il faut savoir Zao appartient à une entreprise nommée Momo Inc, qui a déjà été épinglée en 2014 pour une faille de sécurité. Les mots de passe et données de 30 millions d’utilisateurs d’une application de rencontres qu’il détenait avaient alors été exposés. Du fait de ces risques, le réseau social WeChat, très populaire en Chine, a interdit à ses utilisateurs de partager sur leurs profils des vidéos réalisées sur Zao, rapporte TechCrunch ce 3 septembre.
En clair, comme dans le cas de FaceApp, la décision est à prendre de manière informée : considérez-vous que le service rendu vaut la prise d’un risque éventuel ? Les utilisatrices et utilisateurs de FaceApp avaient remarqué que l’app s’octroyait des droits larges sur leurs selfies. En l’occurrence, il n’y a priori pas vraiment lieu de s’inquiéter : FaceApp se servait des images pour améliorer ses services et proposer de meilleurs résultats (plus adaptés aux personnes asiatiques ou noires par exemple).
Dans le cas de FaceApp, les craintes parfois irrationnelles provenaient du fait que l’application était d’origine russe. Zao vient de Chine, pays connu pour appliquer une censure drastique sur le Web et utiliser la reconnaissance faciale à des fins de surveillance étatique.
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Abonnez-vous gratuitement à Artificielles, notre newsletter sur l’IA, conçue par des IA, vérifiée par Numerama !
