Le 5 mars, l’Académie nationale de médecine a adopté un rapport relatif aux systèmes d’IA générative en santé [1]. « Tous les domaines de la santé et toutes les spécialités sont concernés », assure l’Académie. « Les systèmes d’intelligence artificielle générative (SIAgen) impressionnent par leur capacité à produire en quelques secondes des textes souvent pertinents, mais aussi parfois erronés ». Ainsi, « tous ont en commun qu’une validation humaine est indispensable avant leur mise en œuvre », prévient l’instance.
Un fonctionnement à part
Les SIAgen fonctionnent « à partir d’auto-apprentissage basé sur un nombre extrêmement élevé d’exemples ». « Ce qui est très différent de l’approche humaine, qui s’appuie sur l’expérience, le contexte et un système de valeurs », souligne l’Académie de médecine. Ces systèmes génèrent des textes « avec une grande rapidité », par des moyens stochastiques, mais ils ne sont « pas entrainés à rechercher ou à dire la vérité ».
L’instance insiste sur la qualité des données utilisées pour l’entrainement des modèles, c’est « fondamental ». Or, actuellement, la quantité des données nécessaire à cet entrainement, recueillies en particulier sur internet, ne permet pas « de vérifier leur qualité ni leur diversité ».
Un vaste champ d’applications
Le champ d’applications des SIAgen dans le domaine de la santé est très vaste. Ainsi, « la mise au point de systèmes d’aide à la décision clinique est depuis longtemps un objectif des spécialistes de l’IA, indique l’Académie. Mais les résultats ne sont pas à la hauteur des espoirs malgré des investissements financiers très importants dans ce secteur ». L’année dernière, « près de 700 dispositifs utilisant des technologies d’IA dans le domaine de la santé ont été approuvés par la FDA ». Cependant, « il y a un pas majeur entre proposer un diagnostic à partir d’un résumé de cas clinique publié dans un journal où les SIAgen peuvent exceller, et la synthèse, faite par un médecin, des données cliniques et paracliniques (images, biologie) d’un patient réel ».
La découverte de médicaments est une autre opportunité pour ce processus habituellement long, coûteux et « aux résultats aléatoires ». Les SIAgen pourraient le rendre plus rapide et moins onéreux, et « en permettant d’examiner beaucoup plus d’hypothèses de nouvelles molécules qui répondent au cahier des charges qu’il ne serait possible de le faire en laboratoire ». Le marché actuel, estimé à 150 M$ en 2023, « pourrait être multiplié par 10 dans les années à venir ».
Les systèmes d’intelligence artificielle générative pourraient aussi, par ailleurs, « aider à améliorer de différentes manières l’organisation hospitalière pour la rendre plus efficace », dans un contexte de « difficultés chroniques en raison notamment des manques de personnel et de moyens qui peuvent compromettre leurs missions » (cf. Canada : développer l’IA en santé pour économiser jusqu’à 26 milliards par an ?).
Finalement, les académiciens estiment que « l’utilisation de systèmes d’IA génératives dans le cadre de la santé et du soin est inéluctable »[2].
Des enjeux éthiques
La mise en œuvre de SIAgen pour l’aide à la décision clinique pose la question des responsabilités. En effet, « les systèmes logiciels en tant que tels n’ont pas de responsabilité attribuable, contrairement aux personnes physiques ou morales qui les utilisent ou celles qui les conçoivent ».
Mais plus généralement, « le décalage entre la rapidité de l’innovation technologique et notre capacité à en comprendre et maitriser les conséquences est au cœur des enjeux d’éthique ». « Ce décalage est susceptible de générer pendant plusieurs années des tensions anthropologiques, psychologiques, économiques, sociales, politiques et culturelles »[3].
Pourtant « il ne serait pas éthique de ne pas pouvoir bénéficier de l’aide que peuvent apporter dans le cadre de la santé les systèmes d’IA et en particulier les SIAgen », estime l’Académie de médecine. L’instance souligne toutefois que « ces systèmes présentent des risques avérés de leur conception à leur utilisation et à leurs évolutions ». « Ils doivent donc faire l’objet de considérations précises et claires en considérant les modèles de fondation mis sur le marché et les SIAgen comme des systèmes à haut risque dans le cadre de la finalisation du règlement européen sur l’Intelligence Artificielle (IA Act) » (cf. Intelligence artificielle : « Nous ne sommes plus dans le temps du débat intellectuel »).
Outre « le rapport à la vérité et à la signification », l’Académie de médecine insiste également sur « la maîtrise des données, en particulier médicales, [qui] doit faire l’objet d’une attention particulière tant dans le respect de leur confidentialité que dans la représentativité de la très grande diversité de la population vivant sur l’ensemble du territoire français ». Les académiciens évoquent aussi la question de l’impact environnemental de ce type de systèmes.
Les recommandations de l’Académie
Face à ce tableau, l’Académie de médecine formule 10 recommandations « à mettre en œuvre sans délai ».
Elle préconise de généraliser l’usage de ces systèmes en formant les professionnels. Mais « il faut absolument éviter de communiquer les données personnelles des patients et des professionnels de santé à des SIAgen dont la maîtrise en France ou en Europe n’est pas clairement établie », prévient l’Académie. « Il n’y a pas de “petites” données », alerte-t-elle (cf. CNIL : « contrairement à un mot de passe, il n’est pas possible de changer son ADN »).
L’Académie recommande une supervision humaine systématique, et de préserver, voire renforcer, le temps consacré au colloque singulier entre le patient et le soignant. Elle attire aussi l’attention sur la responsabilité des différents « acteurs, concepteurs, utilisateurs » qui « doit être clairement déterminée par une réglementation prenant rapidement en compte le règlement européen sur l’IA pour les systèmes numériques en santé » (cf. AI Act : le feu vert unanime des Etats membres). « La cyber sécurité des établissements de santé et des plateformes de données de santé doit être traitée comme une priorité première et absolue », prévient l’Académie.
Elle alerte également sur les questions de propriété intellectuelle et éthiques – notamment en matière d’impact environnemental, en invitant à soutenir les recherches sur les SIAgen au niveau national et européen.
Des garde-fous qui seront suffisants à préserver la qualité du soin et la relation patient-médecin ?
Le rapport de l’Académie de médecine a précédé de quelques jours celui de la Commission de l’intelligence artificielle, remis à l’Exécutif mercredi, recommandant d’investir 3 milliards d’euros sur cinq ans pour l’IA dans la santé. Les soins palliatifs ont, eux, droit au tiers, et sur 10 ans (cf. Fin de vie : une « loi de rassemblement » qui suscite la colère).
[1] par 70 voix pour, 3 voix contre et 8 abstentions
[2] La délégation du numérique en Santé a imposé 28h de cours de numérique en Santé pour toutes les filières d’enseignement en Santé. La formation qui doit être mise en place à la rentrée prochaine portera sur les données, la cybersécurité, la communication, les outils et la télésanté. Pour le moment elle n’inclut pas de mention spécifique des outils d’IA ou des SIAgen.
[3] Mis en avant par le CNPEN dans son avis sur les enjeux d’éthique des SIAgen
