Ce mardi, le Comité national pilote d’éthique du numérique (CNPEN), sous l’égide du Comité consultatif national d’éthique (CCNE), a rendu un avis « sur les enjeux liés à l’utilisation de l’intelligence artificielle dans le domaine du diagnostic médical ».
Des enjeux éthiques
Alors que les promesses de l’intelligence artificielle (IA) sont nombreuses, les enjeux éthiques alertent les experts « entre intérêts économiques et industriels, promesses thérapeutiques pour les patients, modification de la pratique professionnelle des personnels de santé concernés et objectifs de régulation pour les autorités publiques ».
En effet, « de la conception des médicaments au suivi post-traitement en passant par le dépistage et le diagnostic », ces dispositifs médicaux qui n’ont pas vocation à être vendus aux patients sont exclus de l’évaluation par la Haute Autorité de santé. Les concepteurs d’IA médicales ont peu de compte à rendre. Faudrait-il élargir la compétence de la HAS ?, s’interroge le comité.
Quelles limites à l’intelligence artificielle ?
La loi actuelle « impose que toute décision médicale reposant sur une IA soit validée par un humain ». En effet, l’une des règles d’or du CNPEN et du CCNE est « l’explicabilité ». « Un médecin doit toujours pouvoir expliquer ce que l’IA a découvert ou suggéré ». Les décisions doivent être questionnées pour « prendre de la distance avec le résultat fourni ».
Or, cette règle devra être remise en question « lorsque l’on utilisera des IA pour faire des choses que l’humain est incapable de faire » note le Professeur Jean-Emmanuel Bibault, médecin de l’Hôpital Européen Georges Pompidou. Elle pourra aussi poser des problèmes de compétences et nécessiter la création de nouveaux métiers, entre la médecine et l’informatique.
L’intelligence artificielle devra être utilisée « en priorité dans une optique d’amélioration du soin », sans prendre uniquement en compte les critères économiques et organisationnels, recommande le CNPEN. Une « ligne rouge » à ne pas franchir, prévient-il.
Source : Le Figaro, Soline Roy (10/01/2023) – Photo : iStock
