4 questions sur le nouveau comité pilote d’éthique du numérique

Un comité pilote d’éthique du numérique ?

Lié au Comité consultatif national d’éthique, le comité pilote d’éthique du numérique répond à une demande du Premier ministre d’avoir une structure capable « de remettre des premières contributions sur l’éthique du numérique et de l’intelligence artificielle et de déterminer les équilibres pertinents pour l’organisation du débat sur l’éthique des sciences et technologies du numérique et de l’intelligence artificielle.»

Il s’avère que l’idée d’un tel comité pilote figure aussi dans le rapport du député Cédric Villani. Intitulé « Donner un sens à l’intelligence artificielle», le document recommande la création d’un tel organe pour produire des propositions « en toute indépendance ». Dans l’esprit du parlementaire, le comité pourrait être saisi par le gouvernement, les grandes écoles et les universités, et même s’auto-saisir.

Quelle place, par exemple, pour l’IA dans le diagnostic médical ? // Source : Alejandra Silva / IAEA

Le comité est composé de spécialistes dans un nombre varié de disciplines. En fonction des sujets abordés, des groupes de travail seront mis en place. L’instance, qui est pour l’instant provisoire, ne fonctionnera pas en vase clos : elle aura des échanges avec des universités, des organisations comme la CNIL et le Conseil national du numérique, mais aussi avec ses homologues étrangères.

Qui figure au sein de ce nouveau comité ?

27 personnes composent ce comité pilote d’éthique du numérique, dont 15 hommes et 12 femmes. Claude Kirchner en est le président. Il connaît bien les sujets relatifs à l’éthique, puisque ce directeur de recherche émérite de l’institut national français de recherche en sciences et technologies du numérique (INRIA) est aussi membre du Comité consultatif national d’éthique.

À ses côtés figurent des personnalités comme Marie-Laure Denis, présidente de la Commission nationale de l’informatique et des libertés (CNIL), Valéria Faure-Muntian, députée et membre de l’Office parlementaire d’évaluation des choix scientifiques et technologiques (OPECST) ou encore Karin Dognin-Sauze, membre du Conseil national du numérique (CNNum).

Claude Kirchner.

Source : Association ADULLACT

Les domaines d’expertise de membres du comité incluent évidemment tout ce qui a trait au numérique et à la technologie (robotique, informatique, innovation, IA, cybersécurité), mais aussi à la médecine (génomique, éthique médicale, bioinformatique, droit de la santé, ), au droit (y compris international et numérique), ainsi qu’à la philosophie, à l’industrie, à l’économie, à l’anthropologie, au langage et à la logique.

La liste complète des membres peut être consultée sur le site du comité, avec le détail de leurs spécialités et à quel organisme ils appartiennent. On y trouve en particulier plusieurs grandes universités, mais aussi le CNRS, HEC, l’École normale supérieure Paris-Saclay, le CEA, l’Institut national de la santé et de la recherche médicale (INSERM) ou encore l’Office national d’études et de recherches aérospatiales (ONERA).

Quels sont les premiers sujets en discussion ?

Trois sujets occuperont dans un premier temps le comité pilote d’éthique du numérique : les agents conversationnels (aussi appelés « chatbots »), les véhicules autonomes et la place de l’IA dans le cadre du diagnostic médical. Ce dernier thème a d’ailleurs fait l’objet d’une réflexion en 2018, quand le Comité consultatif national d’éthique a remis son rapport — et dont la future loi bioéthique tient compte.

Les chatbots soulèvent des questions sur la « transparence sur le traitement des données récoltées, le respect des individus d’une part et la commodité de l’utilisation de telles applications de l’autre, ou encore la mise en œuvre de stratégies d’influence par de tels agents ». La tendance à vouloir les rendre de plus en plus « humains » nécessitera peut-être d’exiger qu’ils s’identifient bien comme robots.

Un dilemme de la machine morale du MIT.

Source : Moral Machine

Sur les voitures autonomes, ce sont les « tensions existantes entre automatisation et maitrise humaine dans le contrôle du véhicule » qui occuperont le comité, ainsi que la question des responsabilités en cas d’accident : le constructeur, le conducteur (qui sera de plus en plus un simple passager), l’assureur, les équipementiers ou encore le fournisseur du système de conduite autonome.

Pour aller plus loin

Une voiture autonome devrait-elle tuer un jeune ou un papi ? Le MIT dévoile les résultats de son étude éthique

Quant à l’IA dans le diagnostic médical, il y aura évidemment à discuter de la transparence et de l’explicabilité des algorithmes structurant cette intelligence artificielle, aussi bien au niveau des professionnels de santé que du public, qui sera concerné au premier chef par ces évolutions. Autre sujet de discussion : la question du risque, si un médecin se décide à ne pas suivre la recommandation d’un algorithme prédictif.

Et maintenant ?

Le comité pilote d’éthique du numérique venant de voir le jour tout récemment, il ne faut pas s’attendre à ce qu’il produise une synthèse de ses travaux dans les jours ou les semaines à venir. D’ailleurs, la première réunion n’a eu lieu que le 4 décembre 2019. Un bilan de ses activités est attendu pour « début 2021 », ce qui laisse aux membres entre un an et un an et demi pour boucler leurs travaux.

Se posera ensuite la question de savoir s’il convient de pérenniser ou non ce comité. Le Comité consultatif national d’éthique doit à ce sujet émettre des recommandations au cours de 2021. Une nouvelle structure pourrait ne pas être forcément requise, d’autant qu’il existe des instances déjà en place qui poursuivent des missions assez similaires, comme la CNIL et le Conseil national du numérique.