IA et diagnostic : le CNPEN alerte sur les risques

Publié le 10 Jan, 2023

Ce mardi, le Comité national pilote d’éthique du numérique (CNPEN), sous l’égide du Comité consultatif national d’éthique (CCNE), a rendu un avis « sur les enjeux liés à l’utilisation de l’intelligence artificielle dans le domaine du diagnostic médical ».

Des enjeux éthiques

Alors que les promesses de l’intelligence artificielle (IA) sont nombreuses, les enjeux éthiques alertent les experts « entre intérêts économiques et industriels, promesses thérapeutiques pour les patients, modification de la pratique professionnelle des personnels de santé concernés et objectifs de régulation pour les autorités publiques ».

En effet, « de la conception des médicaments au suivi post-traitement en passant par le dépistage et le diagnostic », ces dispositifs médicaux qui n’ont pas vocation à être vendus aux patients sont exclus de l’évaluation par la Haute Autorité de santé. Les concepteurs d’IA médicales ont peu de compte à rendre. Faudrait-il élargir la compétence de la HAS ?, s’interroge le comité.

Quelles limites à l’intelligence artificielle ? 

La loi actuelle « impose que toute décision médicale reposant sur une IA soit validée par un humain ». En effet, l’une des règles d’or du CNPEN et du CCNE est « l’explicabilité ». « Un médecin doit toujours pouvoir expliquer ce que l’IA a découvert ou suggéré ». Les décisions doivent être questionnées pour « prendre de la distance avec le résultat fourni ».

Or, cette règle devra être remise en question « lorsque l’on utilisera des IA pour faire des choses que l’humain est incapable de faire » note le Professeur Jean-Emmanuel Bibault, médecin de l’Hôpital Européen Georges Pompidou. Elle pourra aussi poser des problèmes de compétences et nécessiter la création de nouveaux métiers, entre la médecine et l’informatique.

L’intelligence artificielle devra être utilisée « en priorité dans une optique d’amélioration du soin », sans prendre uniquement en compte les critères économiques et organisationnels, recommande le CNPEN. Une « ligne rouge » à ne pas franchir, prévient-il.

Source : Le Figaro, Soline Roy (10/01/2023) – Photo : iStock

Partager cet article

Synthèses de presse

Italie : le Sénat permet une meilleure information des femmes souhaitant avorter
/ IVG-IMG

Italie : le Sénat permet une meilleure information des femmes souhaitant avorter

Le 23 avril, le Sénat a voté une loi permettant aux personnes qualifiées dans le « soutien de la maternité ...
Une sœur mère porteuse, une autre pour les ovocytes
/ PMA-GPA

Une sœur mère porteuse, une autre pour les ovocytes

Emersyn a été conçue en utilisant les gamètes du mari de Jaclyn et les ovocytes de Meredith, sa sœur. Et ...
Drapeaux Europe
/ PMA-GPA

“Exploitation de la GPA” : une forme de traite des êtres humains selon le Parlement européen

Le Parlement européen a voté en faveur du projet de révision de la Directive européenne sur la traite des êtres ...

Textes officiels

Fiches Pratiques

Bibliographie

Lettres