IA et diagnostic : le CNPEN alerte sur les risques

Publié le 10 Jan, 2023

Ce mardi, le Comité national pilote d’éthique du numérique (CNPEN), sous l’égide du Comité consultatif national d’éthique (CCNE), a rendu un avis « sur les enjeux liés à l’utilisation de l’intelligence artificielle dans le domaine du diagnostic médical ».

Des enjeux éthiques

Alors que les promesses de l’intelligence artificielle (IA) sont nombreuses, les enjeux éthiques alertent les experts « entre intérêts économiques et industriels, promesses thérapeutiques pour les patients, modification de la pratique professionnelle des personnels de santé concernés et objectifs de régulation pour les autorités publiques ».

En effet, « de la conception des médicaments au suivi post-traitement en passant par le dépistage et le diagnostic », ces dispositifs médicaux qui n’ont pas vocation à être vendus aux patients sont exclus de l’évaluation par la Haute Autorité de santé. Les concepteurs d’IA médicales ont peu de compte à rendre. Faudrait-il élargir la compétence de la HAS ?, s’interroge le comité.

Quelles limites à l’intelligence artificielle ? 

La loi actuelle « impose que toute décision médicale reposant sur une IA soit validée par un humain ». En effet, l’une des règles d’or du CNPEN et du CCNE est « l’explicabilité ». « Un médecin doit toujours pouvoir expliquer ce que l’IA a découvert ou suggéré ». Les décisions doivent être questionnées pour « prendre de la distance avec le résultat fourni ».

Or, cette règle devra être remise en question « lorsque l’on utilisera des IA pour faire des choses que l’humain est incapable de faire » note le Professeur Jean-Emmanuel Bibault, médecin de l’Hôpital Européen Georges Pompidou. Elle pourra aussi poser des problèmes de compétences et nécessiter la création de nouveaux métiers, entre la médecine et l’informatique.

L’intelligence artificielle devra être utilisée « en priorité dans une optique d’amélioration du soin », sans prendre uniquement en compte les critères économiques et organisationnels, recommande le CNPEN. Une « ligne rouge » à ne pas franchir, prévient-il.

Source : Le Figaro, Soline Roy (10/01/2023) – Photo : iStock

Partager cet article

Synthèses de presse

Xénotransplantation de rein de porc : une procédure combinée inédite
/ Don d'organes

Xénotransplantation de rein de porc : une procédure combinée inédite

Lisa Pisano, une américaine du New Jersey âgée de 54 ans, est devenue la seconde patiente vivante à recevoir une ...
23_experimentation_animale

Des organoïdes de cerveau humain implantés chez des rats pour étudier un traitement

Des chercheurs ont créé des « organoïdes cérébraux » humains à partir de cellules de peau d'enfants atteints du syndrome ...
Changement de sexe à l’état civil : le Parlement néerlandais en faveur du statu quo
/ Genre

Changement de sexe à l’état civil : le Parlement néerlandais en faveur du statu quo

Aux Pays-Bas, une « majorité de députés » a indiqué qu'elle ne souhaitait pas poursuivre l’examen d’une proposition qui visait ...

Textes officiels

Fiches Pratiques

Bibliographie

Lettres