La DNS publie ses recommandations pour une éthique de l’IA « by design » pour la santé

La Délégation ministérielle au Numérique en Santé (DNS) a publié en avril dernier ses recommandations de bonnes pratiques pour intégrer l’éthique dès le développement des solutions d’intelligence artificielle en santé : mise en œuvre de « l’éthique by design ». Retour sur ce rapport.

Brigitte Seroussi, responsable de la cellule éthique du numérique en santé à la DNS et professeure des universités-praticienne hospitalière, dirige la cellule éthique du conseil du numérique en santé, agencée selon plusieurs groupes de travail. C’est le groupe de travail n°3, animé par David Gruson, spécialiste et directeur du programme santé de Luminess, qui est à l’origine de ce guide méthodologique. Son but est d’intégrer l’éthique dès le développement des solutions d’IA, ce qu’on appelle « l’éthique by design ».

Ce rapport est l’aboutissement d’une concertation des différentes parties prenantes de l’écosystème de la santé numérique. Il concrétise une démarche de deux ans pendant lesquels les travaux de la cellule éthique ont associé des experts pluri-professionnels avec des chercheurs en IA, des représentants de patients, des professionnels de santé, des juristes, des sociologues, des éthiciens, etc. On retrouve parmi eux Emeline Brule (École d’ingénierie et d’informatique, Université du Sussex), Madeleine Cavet (Médecin radiologue), Caroline Guillot (Health Data Hub) mais également Daniela Parrot (Déléguée à la protection des données, Ministère des solidarités et de la santé) et Philippe Lamoureux (LEEM). Ensemble, ils ont établi ces recommandations de bonnes pratiques, qui visent à intégrer l’éthique dès les premières étapes du développement des solutions d’IA en santé.

Ce livre blanc s’adresse « en priorité » aux concepteurs de solutions basées sur des algorithmes entraînés à partir de l’extraction massive de données, hors systèmes évolutifs auto-apprenants.

Le processus d’élaboration d’une solution d’IA comporte de nombreuses étapes : cadrage, collecte des données, prétraitement des données, construction de l’algorithme et évaluation de l’algorithme en amont de la mise en production de la solution numérique. Des questionnements éthiques propres à chacune de ces étapes ont été proposés, c’est ce que les experts ont désigné comme une conception « by design ». Par exemple, les fournisseurs devront effectuer une déclaration de conformité et s’assurer que le système d’IA à haut risque fait l’objet d’un marquage CE avant toute mise sur le marché. A chaque modification de celui-ci, une nouvelle évaluation de conformité devra être réalisée.

Certaines recommandations sont d’ailleurs déjà entrées dans le droit national et européen. On peut citer notamment la loi n° 2021-1017 du 2 août 2021 relative à la bioéthique, qui a introduit une obligation d’information à la charge des professionnels utilisant une IA en matière de santé.