IA et diagnostic : le CNPEN alerte sur les risques

Publié le 10 Jan, 2023

Ce mardi, le Comité national pilote d’éthique du numérique (CNPEN), sous l’égide du Comité consultatif national d’éthique (CCNE), a rendu un avis « sur les enjeux liés à l’utilisation de l’intelligence artificielle dans le domaine du diagnostic médical ».

Des enjeux éthiques

Alors que les promesses de l’intelligence artificielle (IA) sont nombreuses, les enjeux éthiques alertent les experts « entre intérêts économiques et industriels, promesses thérapeutiques pour les patients, modification de la pratique professionnelle des personnels de santé concernés et objectifs de régulation pour les autorités publiques ».

En effet, « de la conception des médicaments au suivi post-traitement en passant par le dépistage et le diagnostic », ces dispositifs médicaux qui n’ont pas vocation à être vendus aux patients sont exclus de l’évaluation par la Haute Autorité de santé. Les concepteurs d’IA médicales ont peu de compte à rendre. Faudrait-il élargir la compétence de la HAS ?, s’interroge le comité.

Quelles limites à l’intelligence artificielle ? 

La loi actuelle « impose que toute décision médicale reposant sur une IA soit validée par un humain ». En effet, l’une des règles d’or du CNPEN et du CCNE est « l’explicabilité ». « Un médecin doit toujours pouvoir expliquer ce que l’IA a découvert ou suggéré ». Les décisions doivent être questionnées pour « prendre de la distance avec le résultat fourni ».

Or, cette règle devra être remise en question « lorsque l’on utilisera des IA pour faire des choses que l’humain est incapable de faire » note le Professeur Jean-Emmanuel Bibault, médecin de l’Hôpital Européen Georges Pompidou. Elle pourra aussi poser des problèmes de compétences et nécessiter la création de nouveaux métiers, entre la médecine et l’informatique.

L’intelligence artificielle devra être utilisée « en priorité dans une optique d’amélioration du soin », sans prendre uniquement en compte les critères économiques et organisationnels, recommande le CNPEN. Une « ligne rouge » à ne pas franchir, prévient-il.

Source : Le Figaro, Soline Roy (10/01/2023) – Photo : iStock

Partager cet article

Synthèses de presse

Angleterre et Pays de Galles : près de la moitié de la population "transgenre" a entre 16 et 34 ans
/ Genre

Angleterre et Pays de Galles : près de la moitié de la population “transgenre” a entre 16 et 34 ans

En Angleterre et au Pays de Galles, 47% des personnes interrogées qui se sont revendiquées comme « transgenres » avaient ...
Ecosse : une "femme transgenre" n’ira pas dans une prison pour femmes
/ Genre

Ecosse : une “femme transgenre” n’ira pas dans une prison pour femmes

Condamnée pour le viol de deux femmes en 2016 et 2019, Isla Bryson, une femme transgenre, devra purger sa peine ...
artificial-intelligence-2167835_1920
/ E-santé, Transhumanisme

ChatGPT : « Toutes les frayeurs de remplacement de l’homme par la machine ressurgissent »

Le succès de ChatGPT relance le débat sur les dangers de l’intelligence artificielle. Une « réflexion prospective » doit être menée ...

Textes officiels

Fiches Pratiques

Bibliographie

Lettres