Qui sacrifier sur la route ? Daimler souhaite un débat éthique international

Le problème est connu des amateurs de questions éthiques sous l’expression « problème du tramway », ou « trolley problem ». Posé pour la première fois en 1967 par la philosophe Philippa Foot, il vise à savoir quelle décision prendre et selon quels critères, lorsqu’au moins une mort est inévitable mais qu’il faut choisir laquelle (ou lesquelles). En l’espèce, on imagine un tramway lancé à vive allure sur une voie sur laquelle se trouvent quatre personnes qui seront écrasées. Le sujet de l’expérience fictive dispose toutefois de la possibilité de dévier le tram vers une autre voie, en sachant qu’il tuera alors au moins une personne. La plupart du temps, les gens choisissent d’interférer et de tuer la personne qui était sur la voie sur laquelle aucun tram n’était censé passer. Mais les réponses deviennent plus nuancées s’il s’agit d’un membre de sa famille, d’une femme enceinte, d’un enfant, etc.

Le problème a connu depuis de nombreuses déclinaisons.

Mais cette question éthique était restée relativement théorique. Même dans les cas où le problème se pose vraiment, par exemple au conducteur d’une voiture qui doit choisir entre écraser un enfant ou une poussette, la réaction est largement intuitive et surtout très subjective. Chacun prend alors sa décision, dictée par la panique et une rationalité toute relative. Mais avec les voitures autonomes, le problème du tramway se pose aux intelligences artificielles qui, elles, ont pour mission d’être parfaitement rationnelles.

Même si les voitures autonomes sont déjà réputées plus fiables que les humains, et le seront de plus en plus, il arrivera fatalement qu’un enfant déboule de l’arrière d’une camionnette ou qu’un ivrogne emprunte une voie en sens contraire, obligeant parfois la voiture à choisir qui percuter, entre l’enfant et un cycliste qui doublait au même moment, ou entre la voiture de l’ivrogne et le mur en parpaings. Ce sont des décisions qui seront prises par les IA selon les algorithmes que les développeurs auront écrits.

Parvenir à un consensus global et promouvoir l’acceptation des résultats

La responsabilité est lourde, et Mercedes-Benz avait semblé prendre une position radicale en expliquant récemment au magazine spécialisé Car And Driver qu’il refuserait tout simplement de prendre une telle décision. À chaque fois, le véhicule chercherait à éviter l’accident mortel pour les passagers de la voiture, et c’est tout. Advienne que pourra.

Mais cette position ayant parfois choqué, la maison-mère Daimler AG tente aujourd’hui d’apporter quelques nuances, en affirmant à Jalopnik que les propos de son directeur des systèmes d’assistance automatiques Christoph von Hugo avaient été déformés. « Si vous savez que vous pouvez sauver au moins une personne, sauvez au moins celle-là. Sauvez la personne qui est dans la voiture », avait-il déclaré.

Dans son communiqué, la firme allemande ne change pas radicalement cette position sur le fond, mais apporte des explications plus détaillées :

« Voici la déclaration officielle de Daimler AG à Stuttgart:

· Pour Daimler, il est clair que ni les programmeurs ni les systèmes automatisés sont en droit de sous-peser la valeur des vies humaines.

· Notre travail de développement se concentre sur le fait d’éviter complètement des situations de dilemmes, par exemple, par la mise en œuvre d’une stratégie opérationnelle d’évitement des risques dans nos véhicules.

· Il n’y a pas d’exemple dans lequel nous avons pris une décision en faveur des occupants du véhicule. Nous continuons à respecter le principe de fournir le niveau le plus élevé possible de sécurité pour tous les usagers de la route.

· Prendre une décision en faveur d’une personne et donc contre une autre n’est pas légalement admissible en Allemagne. Il existe également des lois similaires dans d’autres pays.

· Clarifier ces questions de droit et d’éthique à long terme demandera un grand débat international. Ceci est le seul moyen de parvenir à un consensus global et de promouvoir l’acceptation des résultats.

· En tant que constructeurs, nous allons mettre en œuvre à la fois le cadre juridique applicable et ce qui est considéré comme socialement acceptable.

· Une déclaration de Daimler sur ce sujet a été citée de manière incorrecte. »

Ce n’est donc pas que les voitures Mercedes-Benz choisiront d’écraser les passants sur leur passage si le pilotage autonome estime que la vie du passage est en jeu. C’est qu’elles ne chercheront pas à épargner la vie des passants pour choisir de tuer plutôt le propriétaire du véhicule. Le constructeur refuse d’entrer seul dans la moindre logique, qu’elle soit comptable (mieux vaut un mort que trois) ou morale (mieux vaut tuer un homme vieux qu’une femme enceinte). Il n’en nie pas l’intérêt voire la nécessité, mais estime que ce sera aux législateurs ou au moins à une coalition de constructeurs de fixer des règles qui seront alors les mêmes pour tous, ce qui permettra d’éviter d’avoir à pointer du doigt telle marque plutôt que telle autre.