Controversée, inutile, illégale : les dérives de la « nécromancie numérique »

Il y a quelques mois, les Espagnols ont pu voir à la télévision des personnes qui écoutaient des reconstitutions numériques des voix de leurs proches décédés générées par l’intelligence artificielle à partir de données audio réelles. Cette pratique a suscité bien des débats sociétaux et professionnels, car ces reconstitutions imitent les voix des morts pour dire des mots poignants qui provoquent des réactions intenses chez les survivants.

La résurrection numérique consiste à se servir de l’IA pour recréer certaines caractéristiques des personnes décédées, comme la voix ou l’apparence physique. Même si elle peut offrir un réconfort momentané, une telle pratique soulève des questions de fond sur les plans éthique, philosophique et juridique.

Créer des faux souvenirs qui se confondent avec les vrais

La principale implication philosophique de la résurrection numérique est qu’elle remet en question la notion même d’existence. En recréant la voix ou l’image d’une personne décédée, on peut se dire que l’on prolonge son existence ou, à l’inverse, que l’être recréé n’est qu’une pâle copie.

L’essence d’un être humain ne saurait se résumer à un ensemble de réponses programmées ou à une image sur un écran et il semble peu probable qu’une simulation numérique soit en mesure de saisir la profondeur et l’expérience, les émotions et les pensées d’une personne.

La mémoire joue ici un rôle important. La résurrection numérique peut être considérée comme une tentative de la préserver, de maintenir la présence de ceux que nous avons perdus. Cependant, la mémoire humaine n’est pas statique : elle sélectionne, modifie, déplace et s’adapte. En recréant numériquement un être cher, on court le risque d’altérer nos véritables souvenirs avec la personne. Est-il éthique de s’accrocher à une représentation artificielle, plutôt que de laisser nos souvenirs évoluer au fil du temps ?

Pour aller plus loin

Une IA qui imite Steve Jobs, Albert Einstein et Claude François, ça donne quoi ?

Ce ne sera jamais la personne que l’on a connue

L’identité est un réseau complexe d’expériences et de relations. En tentant de recréer quelqu’un, on pourrait se dire qu’on essaie de bien cerner son identité. Il y a pourtant de grandes chances d’aboutir à une version idéalisée, conforme à nos propres attentes et désirs.

Ces avancées technologiques nous questionnent également sur la notion de deuil elle-même. La mort est une étape naturelle indissociable de la vie ; le deuil est un processus essentiel sur le chemin qui mène à l’acceptation de la perte d’un être cher. Maintenir un lien avec le défunt par la résurrection numérique interfère avec ce processus vital, ce qui peut nous empêcher d’avancer et d’être en paix.

La résurrection numérique pose par ailleurs des questions importantes sur le consentement et le droit à l’image. Qui a le droit de décider si une personne doit être recréée numériquement ? Comment demande-t-on son autorisation à quelqu’un qui, par définition, ne peut plus l’accorder ?

Il y a aussi un business derrière

Rappelons-le : les nouvelles technologies sont une activité commerciale. La perspective de voir des entreprises réaliser des profits en s’immisçant dans un processus aussi profondément humain et douloureux que la perte d’un être cher soulève d’autres questions philosophiques, éthiques et morales.

D’un point de vue éthique, ce type de démarche semble transgresser les principes fondamentaux de respect et de dignité censés guider nos interactions humaines. Le deuil est un processus intime et sacré, une étape vers l’acceptation et la paix intérieure après une lourde perte. La commercialisation de ce processus peut donc être considérée comme une forme d’exploitation affective, dans la mesure où elle profite de personnes en situation de vulnérabilité.

La commercialisation de cette démarche est également susceptible de fausser le processus naturel du deuil. Le chagrin et le deuil sont des expériences essentielles de la condition humaine. Les surmonter nous aide à grandir. Si la monétisation de la résurrection numérique empêche les gens de vivre sainement ce processus, en donnant l’illusion que le défunt est toujours à leurs côtés, au lieu de les aider à se résoudre à son absence, elle n’a pas grand intérêt.

D’un point de vue moral, les objectifs de telles démarches commerciales sont des plus discutables. Sous couvert d’offrir du réconfort et un moyen de ne pas oublier les êtres chers, elles profitent du chagrin à des fins lucratives.

Une résurrection qui empêche de faire son deuil

Au cœur de la résurrection numérique, il y un paradoxe inquiétant. Dans sa tentative de nous rapprocher de ceux que nous avons perdus, ces technologies nous confrontent au caractère indéniable de leur absence et nous pousse à remettre en question non seulement la nature de l’existence, mais aussi le sens même de notre humanité.

En s’efforçant de compenser l’absence d’un être cher ou de combler le vide qu’il a laissé, ces technologies exacerbent à la fois le désir de s’accrocher à ce que l’on a perdu et nos propres réticences à accepter la réalité de cette perte et entreprendre le travail de deuil.

La situation est encore plus paradoxale dès lors que l’on considère que les simulations auxquelles nous avons recours pour préserver la mémoire et les caractéristiques des êtres chers sont, par définition, artificielles et sont donc incapables de saisir toute la complexité et l’étendue de l’expérience humaine. Nous sommes confrontés à une représentation numérisée imparfaite qui, bien que réconfortante à certains égards, ne parvient pas à rendre justice à l’être que nous avons aimé et perdu.

Damián Tuset Varela, Investigador en Derecho Internacional Público e IA. Tutor Máster Relaciones Internacionales y Diplomacia UOC, UOC – Universitat Oberta de Catalunya

Cet article est republié à partir de The Conversation sous licence Creative Commons. Lire l’article original.