Comprendre le comportement des machines dotées d’intelligence artificielle est un défi qui mérite de « créer une nouvelle discipline scientifique », selon 23 scientifiques qui publient une tribune dans la revue Nature. Pour « garder ces machines sous contrôle, en tirer les plus grands bénéfices et en minimiser les dommages potentiels », il ne s’agit pas seulement de « comprendre leur programmation », parfois gardée sous le secret industriel, ni de « prédire le comportement d’une machine à partir de son code », mais « il est nécessaire de comprendre une machine de l’extérieur, en observant ses actions et en mesurant leurs conséquences », « d’en simuler les évolutions potentielles » et « de mener des expériences pour anticiper la coévolution culturelle des humains et des machines ».
Cette discipline dédiée au comportement des machines devrait se calquer sur celle du comportement animal, selon les auteurs, qui englobe non seulement la génétique, la chimie organique ou l’anatomie cérébrale mais aussi des « méthodes observationnelles et expérimentales, étudiant l’animal dans son environnement ou en laboratoire ». De la même façon, l’informatique ou la robotique ne suffit pas pour comprendre le comportement des machines intelligentes, il faut y adjoindre les « méthodes expérimentales dans les champs de la psychologie, de l’économie, des sciences politiques ou de l’anthropologie ». Cette discipline regrouperait « ce qui est aujourd’hui épars » et difficile d’accès. Elle répondrait aux grandes questions telles que « par quels mécanismes un comportement a-t-il été acquis et par quels mécanismes a-t-il été modifié ? », « dans quel environnement un comportement peut se maintenir ou se propager, et dans quel environnement il est voué à disparaître ? » Des interrogations qui « doivent être déclinées à l’échelle d’une machine isolée, d’une machine interagissant avec d’autres machines, et à l’échelle des collectifs hybrides formés par les humains et les machines ».
Pour aller plus loin :
- Intelligence artificielle et médecine, le miroir aux alouettes ?
- IA : des rapports insuffisants face à l’urgence d’un cadre éthique solide
CNRS, Jean-François Bonnefon (24/04/2019)
