Sauver d’abord les humains : l’Allemagne élabore des règles éthiques pour la voiture autonome

Vous souvenez-vous de la machine morale mise en place sur le site du MIT ? Il s’agit d’un questionnaire vous mettant à la place du système d’une voiture autonome, afin de vous faire prendre conscience des problématiques éthiques auxquelles fait face l’industrie automobile. Si un accident de la route est imminent, impossible à éviter et qu’il va forcément faire des victimes, qui faut-il sacrifier ?

Si par exemple les freins lâchent, faut-il jeter la voiture sur le trottoir sans s’occuper du piéton ? L’automobile doit-elle s’encastrer dans un mur en faisant fi de la survie du passager (qui voudrait alors en acheter une, s’il sait que son achat est prêt à le tuer ?) ? Doit-elle prendre en compte le nombre de victimes potentielles ? D’autres critères (âge, sexe, condition physique, etc) ?

Un dilemme de la machine morale du MIT.

Source : Moral Machine

Ces réflexions ont occupé pendant un certain temps les membres d’une commission éthique allemande, dont les propositions sont désormais connues. Relayées par The Register, ces pistes, qui ne résolvent pas forcément toutes les situations imaginables, ont été présentées mercredi 23 août par Alexander Dobrindt, le ministre allemand des transports et des réseaux numériques.

Le rapport complet, en allemand, peut être consulté sur le web.

Parmi les grandes lignes qui ont été mises en avant par le ministre figure la nécessité de généraliser l’automatisation des véhicules s’il est certain que ce type de système induit moins d’accidents que les automobiles conduites par des humains. Ce dispositif est nécessaire sur le plan moral : on ne peut pas se priver d’une solution qui améliorerait significativement la sécurité routière.

Aucune décision ne doit être prise selon les caractéristiques personnelles des passagers

Si un accident est inévitable, le système ne doit prendre aucune décision selon les caractéristiques personnelles des passagers (âge, sexe, constitution physique ou mentale). Par exemple, il ne faut pas essayer de gérer un accident en sacrifiant plutôt une personne âgée qu’un enfant, même si l’argument selon lequel le sénior « a déjà bien vécu » et le bambin a encore sa vie devant lui peut être avancé.

L’humain d’abord. En cas de danger, la protection de la vie humaine a toujours une priorité absolue. En clair, il est préférable de causer des dégâts matériels si cela peut sauver le ou les passagers. Idem si cela doit conduire à la mort d’un animal, de compagnie ou non : un sanglier, un daim, un cheval ou une vache traverse la route ? Pas question pour le véhicule de finir dans un platane pour l’éviter.

Pour la commission éthique allemande, il est préférable de sacrifier un animal sauvage plutôt qu’un passager d’une voiture autonome.
CC Tabl-trai

Il est indispensable que l’on puisse en tout instant être en mesure d’identifier sans ambiguïté qui est responsable de la conduite (une situation qui se pose tant que les voitures ne seront pas complètement autonomes : aujourd’hui, cette tâche est partagée entre le conducteur et le système de bord, dans des proportions qui varient selon le degré de technicité du logiciel embarqué).

Les propriétaires doivent avoir le plein contrôle des données générées par le véhicule autonome (comme la géolocalisation). Ils doivent pouvoir décider si et dans quelles proportions ces informations peuvent être partagées (avec le fabricant du système et de bord et le constructeur si ce ne sont pas les mêmes). Toute collecte doit être approuvée préalablement et les propriétaires doivent être correctement informés.

Enfin, et c’est assez évident mais la commission éthique allemande a préféré le rappeler, il est attendu que les propriétaires des véhicules autonomes soient en possession de tous les documents légaux (permis de conduire, certificat d’immatriculation, attestation d’assurance automobile, justificatifs des contrôles techniques) leur permettant de prendre le volant et de circuler.