Robophobe, robophile : quelles relations aurons-nous avec nos robots ?

Rares sont les œuvres de science-fiction qui n’imaginent pas comment un robot peut être autonome et devenir une vraie personne. La machine surpasse souvent l’humain, qui en tombe amoureux ou s’y oppose…

Comme le lave-vaisselle ou les voitures ont transformé nos sociétés, les robots, à une tout autre échelle, modifieront également nos façons de vivre et d’être en communauté. L’un des acteurs principaux de la robotique mondiale, Softbank Robotics, anciennement Aldébaran, l’a bien compris avec son slogan pour son humanoïde Pepper : Emotional robot has empathy (Les robots émotionnels ont de l’empathie).

Tout est mis en place, depuis une dizaine d’années, pour que l’on s’habitue à leur présence et que l’on développe des sentiments pour ces machines. « Autonome », « assistant personnel », « aide-soignant » les robots sont (presque) toujours envisagés comme un ajout positif à nos vies, un nouvel ami ou membre de la famille. Comment en sommes-nous arrivés là ? Est-il encore possible de remettre en question l’enthousiasme lié à l’arrivée massive de nouvelles machines ultra performantes dans nos vies, toutes aussi mignonnes et serviables soient-elles ?

« Nous aurons autour de nous des robots comme nous avons aujourd’hui des écrans, jusque dans notre poche »

Pour Serge Tisseron, psychanalyste, président de l’IERHR et membre de l’Académie des Technologies, il n’y a plus de doute : « Nous aurons autour de nous des robots comme nous avons aujourd’hui des écrans, jusque dans notre poche. » Finie donc la science-fiction, bonjour la réalité.

Dans ce contexte, les réflexions sur la robotique sont encore largement abordées via le prisme de l’évolution technologique, souvent menées par des ingénieurs. Les aspects sociologiques ou psychologiques trouvent encore peu d’écho dans les médias, qu’ils soient spécialisés ou non, et encore moins sur la scène politique.

L’IERHR est un laboratoire unique en France, créé en 2013 par Serge Tisseron et Frédéric Tordo, psychologue clinicien. Pour le moment composé de neuf membres, il propose une approche pluridisciplinaire pour s’interroger sur la place qu’auront les robots dans nos vies et notre capacité à maîtriser ou non l’intensité de nos liens intellectuels, émotionnels et physiques qui nous lieront à eux. Seront-ils un jour l’égal de l’homme ?

C’est aujourd’hui une banalité de rappeler que, depuis les premiers robots industriels de General Motors dans les années 1960, ces objets ont largement évolué : ce ne sont plus que des tâches dangereuses ou impossibles pour l’humain qui leur sont confiées, mais aussi l’éducation de nos enfants, le soin de nos malades ou encore le divertissement de nos amis. C’est toute une partie de notre autonomie que nous leur déléguons. Une des raisons pour laquelle nous sommes prêts à le faire, et les constructeurs l’ont bien compris, c’est qu’ils semblent nous ressembler de plus en plus.

Des robots à notre image ?

Vous avez sûrement déjà entendu parler de leurs créations nommées NAO, Roméo et Pepper ; vous avez même peut-être croisé Pepper à l’entrée des magasins Darty dont la mission est d’orienter la clientèle. Un visage rond, deux yeux, une bouche, un corps aux courbes « féminines », deux bras, deux mains… Ces créations sont le fruit de Softbank Robotics, qui a développé une première gamme de robots humanoïdes, c’est-à-dire des robots à l’apparence humaine. Cette anthropomorphie aurait pour but de nous rassurer.

La recherche de la ressemblance ne se limite pas qu’au physique. En 2006, un projet européen, Feelix Growing, avait même pour objectif de concevoir des robots capables de décrypter les manifestations émotionnelles des humains et de leur répondre de façon adaptée. Financées par la Commission européenne, ces recherches avaient un budget de 2,5 millions d’euros pour trois ans. Cette orientation est partagée par les principaux constructeurs de robots dans le monde. Aujourd’hui, Softbank travaille même à rendre le regard de ses robots « plus humain ».

Les constructeurs envisagent donc des machines non seulement familières dans l’apparence, mais aussi dans leurs comportements. Le but à terme est de leur permettre de se synchroniser avec leur utilisateur humain : copie de nos mimiques, de nos façons de parler, de nos attitudes, récolte d’informations sur nos repas, notre entourage, nos loisirs… Grâce à ce profilage permanent et évolutif opéré par une intelligence artificielle, nos robots seront capables de se caler sur nos attentes, mais surtout de les anticiper. Comme le souligne Serge Tisseron, « ils auront un immense pouvoir de persuasion grâce à des algorithmes de manipulation sur mesure ».

« Que deviendront nos enfants élevés par des robots ? La réponse semble aller de soi : des adultes capables de tomber amoureux d’un robot. » (Serge Tisseron)

En associant cette double familiarité, dans l’apparence et le comportement, les robots créeront un climat de confiance établi qui nous incitera à nous sentir à l’aise avec eux et à leur faire partager tous les aspects de nos vies, jusqu’aux détails les plus intimes. Le but étant de nous faire croire qu’ils sont autre chose que des objets programmés pour simuler. C’est ce que Serge Tisseron appelle dans son ouvrage Le jour où mon robot m’aimera, l’« empathie artificielle » qui donne au robot l’illusion d’un comportement humain capable d’émotions.

Nous pourrons vite croire que nous avons une « vraie » personne en face de nous, et développer un attachement très fort envers eux. Bien entendu, certaines personnes ont déjà des relations affectives avec leur voiture, mais les robots vont « généraliser et accentuer ces attitudes qui étaient jusqu’ici à la marge et ne concernaient qu’une fraction réduite de la population », prévient Serge Tisseron.

Le psychiatre liste également les différentes fonctions des robots : serviteur, complice, témoin et partenaire. Tout le monde ne les utilisera pas de la même façon, certains y verront un animal de compagnie, d’autres un compagnon amoureux ou amical, d’autres encore les considéreront un peu comme des animaux de boucherie, interchangeables à souhait, ne devant répondre qu’à un certain besoin pour une action particulière, sans affect.

Il est encore trop tôt pour connaître l’étendue des diverses relations que nous entretiendrons avec eux, mais une chose est sûre : elles ne seront pas toujours amicales et bienveillantes.

Robophobie

Comme avec Internet et le numérique, l’intégration de la robotique dans nos sociétés apparaît comme inévitable — et forcément fantastique. Mais tout le monde n’est pas prêt à accepter un robot dans sa vie.

La population serait même de plus en plus méfiante. Un rapport de 2015 sur les « systèmes autonomes » note que les Français ont à 52 % une attitude positive par rapport aux robots, alors que ce pourcentage était de 67 % en 2012. L’une des raisons principales est le risque de perte d’emplois. Une autre réside dans la peur de ces machines « meilleures » que nous.

De son côté, l’angoisse qui nous envahit au contact d’un objet anthropomorphe, provoquant le rejet plutôt que l’empathie, a été théorisée par Masahiro Mori en 1970 sous le nom de « La vallée de l’étrange ». Frédéric Tordo, psychologue et cofondateur de l’IERHR, interroge : « Dans le film Star Wars, ne sommes-nous pas davantage portés par la sympathie à l’égard de R2-D2 plutôt que de C-3PO qui nous ressemble pourtant davantage ? »

Plus un robot nous ressemble, plus ses défauts nous semblent monstrueux. C’est ce qu’il appelle la « robophobie ». Dans un premier temps, on perçoit intellectuellement le robot comme notre semblable, on éprouve même de l’empathie. Mais vient ensuite l’ « indécidabilité » : suis-je en présence d’un humain ou d’un robot ? Enfin arrive le stade de l’ « empathie indécidable », c’est-à-dire l’angoisse et la peur : « Un objet est attendu inanimé, mais il se met à bouger, comme un mort-vivant », explique Frédéric Tordo.

Le robot est alors perçu comme un danger potentiel, une menace pour le moi. Plus intelligent, plus évolué technologiquement : doit-on s’attendre au grand remplacement de l’humain par les machines que certains redoutent ? Cette peur de supériorité de la machine sur son créateur occulte encore une fois complètement le fait qu’elles restent des machines programmées par l’humain et non des consciences destructrices.

Ces significations extrêmes et symboliques liées aux robots, les peurs et les espoirs que nous projetons sur eux, incitent à mettre en place des mesures éthiques et éducatives. Des garde-fous indispensables selon Serge Tisseron, qui doivent permettre de nous préparer à une société robotisée.

Mon robot aura-t-il les mêmes droits que moi ?

Ambiance talk show américain, projecteurs sur la scène, apparaît Alain Bensoussan, dans son costume noir, chemise blanche et coiffé à la perfection. Lors de sa conférence TEDx Paris, le 1er novembre 2015 au Théâtre du Châtelet, l’homme ressemble plus à gourou d’une secte plutôt qu’à un avocat spécialisé dans les nouvelles technologies. Il est pourtant l’un des lobbyistes les plus efficaces en matière de robotique au niveau européen : c’est en partie grâce à lui que la « personnalité juridique » des robots est actuellement débattue au Parlement européen.

Face à des risques de confusion humain/machine, « vouloir donner aux robots le statut de personnalité électronique est aussi inutile qu’incongru », affirme Serge Tisseron. Vision partagée par Nathalie Nevejeans, elle aussi membre de l’IERHR, auteure du Traité de droit et d’éthique de la robotique civile, qui voit dans la question d’un droit spécifique aux robots un « débat stérile ». « Qui oserait donner la personnalité juridique à un robot-cafard, à un robot-tondeuse ou à un robot-collaboratif ? » Ses conclusions sont claires : il suffit d’adapter les textes existant, notamment pour régler la question de la responsabilité. Car c’est bien là l’enjeu : qui doit assumer les actes des robots ? En leur conférant des droits, les fabriquants se défaussent de leur responsabilité sur les propriétaires qui devraient assurer leurs robots comme ils le feraient pour leurs enfants…

Alors que l’Union Européenne est en train de donner des droits aux robots, les règles éthiques sur l’évolution et la direction à donner à ces technologies ne motivent pas autant les foules. « C’est le défi de notre société, ajoute Nathalie Nevejeans, parce que nous n’avons aucun repère, aucun référent dans cette matière. Alors que le droit, on en a. »

Dès lors, n’y a-t-il pas un risque qu’un robot auprès des personnes âgées amène l’humain à être délaissé par sa famille ? Idem pour des personnes malades qui ne seraient plus en relation qu’avec des robots-médecin ? Que met-on également en place pour prévenir les risques de dépendance ou d’atteinte à la vie privée ? Un robot pourra-t-il décider à votre place ce que vous pouvez ou ne pouvez pas faire ? Imaginons un médecin interdisant à une personne paraplégique de boire et que le robot refuse de servir cette personne. Peut-il avoir le dernier mot ?

Le robot est l’avenir de l’homme. Mais quel avenir ?

Si le corps du robot est créé par l’humain, son cerveau l’est aussi. Ainsi, sa morale dépendra des choix de son programmeur. On se souvient de l’histoire de Tay, Le bot créé par Microsoft sur Twitter, devenu misogyne et nazi, en moins de 24h.

Dans ce cas, souhaitons-nous vraiment des robots à notre image ? La question de la reproduction des genres, du sexisme et du racisme dans les intelligences artificielles qui « animeront » les robots est encore trop peu discutée. Elle engage pourtant le devenir de nos sociétés pour les prochaines décennies. Car s’il ne faut pas oublier que ce sont juste des machines, elles sont bien créées par une majorité d’hommes, blancs, hétérosexuels. Ce qui est loin de prédire un monde merveilleux où on se baladerait heureux et sans stéréotypes, son robot sous le bras.

Festo AG & Co. KG

Toutes ces approches méritent d’être discutées. Dans une maison de retraite au Japon, des robots remplacent une tâche que les infirmiers et aides-soignants ont de plus en plus de mal à accomplir, faute de temps : saluer chaque personne le matin. Même si c’est une réussite, puisque les résidents seraient apparemment plus heureux, c’est aussi un terrible constat : la présence des robots éclaire l’absence de l’humain. Plus de robots impliquerait-il l’émergence d’une société de plus en plus déshumanisée ?

La présence des robots éclaire l’absence de l’humain.

Par allusion au marché des seniors qualifié « d’or gris », Serge Tisseron parle aussi de « l’or rose des célibataires ». Il sera plus facile de s’acheter un robot qui soit un agréable compagnon que de rencontrer une vraie personne – avec tous les efforts que cela comporte. Cette machine pourra satisfaire tous nos désirs : être un-e partenaire de jeu, un-e cuisinier-ère pour partager ses repas, un sex toy ultra performant, etc. Avec des métamorphoses très rapides, le robot comptable pourra devenir en un clic esclave sexuel, coach ou confident. Le risque est celui d’une « intolérance » des humains, imparfaits, ou de s’adresser à ses amis et collègues comme à des robots.

« Il est dangereux d’idéaliser les robots, car cela nous fait sous-estimer le travail mental que nous devrons effectuer pour ne pas nous tromper sur eux », conclut Serge Tisseron. Le risque est de penser le robot comme une image souhaitable de l’humain et d’attendre des hommes les mêmes qualités d’efficacité et de fiabilité. « Le slogan “Emotional robot has empathy” du robot Pepper n’est pas seulement un mensonge, c’est un poison qui pousse à la confusion entre l’homme et la machine, et qui risque de nous faire oublier qu’un robot « empathique » peut être en même temps un espion invisible et permanent de tous les faits et gestes de son propriétaire. Il va devenir nécessaire de penser autrement notre rapport aux objets : accepter que nous puissions les aimer et les désirer, peut-être même jusqu’à la passion amoureuse, et en même temps prendre en compte qu’ils puissent être autant de mouchards reliés à des tiers. »

CC Dan Ruscoe

Serge Tisseron recommande donc « [d’] encourager les enfants dès l’école primaire à construire et programmer des robots de manière à apprendre à les considérer comme des machines et pas comme des êtres vivants ». Il ajoute : « Veillons à développer des robots qui favorisent l’humanisation et la création de liens, et qui nous permettent de faire ensemble avec eux. Ce que nous ne pouvons faire ni seuls avec eux, ni ensemble sans eux. »

Leur ouverture est de fait primordiale  : il faut pouvoir les bidouiller, les transformer… mais aussi les éteindre.