Alors que « la plupart des modèles d’IA[1] décrits dans les revues – et encensés dans les communiqués de presse – ne sont jamais utilisés en clinique », et que « les rares exceptions sont loin de répondre à leurs attentes révolutionnaires » (cf. Intelligence artificielle et médecine : un vrai progrès ?), différentes organisations ont dévoilé mercredi dernier un plan pour changer cet état de fait. La « Coalition for Health AI » regroupe hôpitaux universitaires, agences gouvernementales et entreprises privées. Parmi eux : la Mayo clinic, les universités de Berkeley et de Stanford, la FDA et les National Institutes of Health (NIH), ou encore des GAFAM : Google et Microsoft.
Comprendre les avantages et les risques
« Nous ne disposons pas aujourd’hui des outils nécessaires pour comprendre si les algorithmes d’apprentissage automatique et ces nouvelles technologies déployées sont bons ou mauvais pour les patients », estime John Halamka, président de Mayo Clinic Platform. « La seule façon de changer cela, a-t-il ajouté, est d’étudier plus rigoureusement leurs impacts et de rendre les résultats transparents, afin que les utilisateurs puissent comprendre les avantages et les risques ».
La Coalition for Health AI appelle à la « création d’organismes de test indépendants et d’un registre national des algorithmes cliniques afin de permettre aux médecins et aux patients d’évaluer leur pertinence et leurs performances ». Ou encore « de plusieurs laboratoires à travers le pays pour permettre aux développeurs de tester leurs algorithmes sur des ensembles de données plus diversifiés et de les auditer pour détecter les biais ».
Encadrer l’inéluctable ?
Le groupe espère que ses nombreux membres contribueront à susciter un débat national et « des mesures concrètes pour commencer à régir l’utilisation de l’IA en médecine » (cf. Données de santé : le patient devenu produit). Il envisage par ailleurs l’idée de créer « une organisation d’accréditation qui certifierait l’aptitude d’un algorithme à être utilisé pour une tâche ou un ensemble de tâches données », avec pour objectif de « fournir un certain niveau d’assurance qualité ». « Nous devons établir que la prise de décision guidée par l’IA est utile », affirme Nigam Shah, professeur d’informatique biomédicale à Stanford (cf. Santé numérique : priorité au patient ?).
[1] Intelligence artificielle
Source : Stat news, Casey Ross (07/12/2022)
