Vers une nouvelle discipline pour comprendre le comportement des « machines intelligentes » ?

Publié le 25 Avr, 2019

Comprendre le comportement des machines dotées d’intelligence artificielle est un défi qui mérite de « créer une nouvelle discipline scientifique », selon 23 scientifiques qui publient une tribune dans la revue Nature. Pour « garder ces machines sous contrôle, en tirer les plus grands bénéfices et en minimiser les dommages potentiels », il ne s’agit pas seulement de « comprendre leur programmation », parfois gardée sous le secret industriel, ni de « prédire le comportement d’une machine à partir de son code », mais « il est nécessaire de comprendre une machine de l’extérieur, en observant ses actions et en mesurant leurs conséquences », « d’en simuler les évolutions potentielles » et « de mener des expériences pour anticiper la coévolution culturelle des humains et des machines ».

 

Cette discipline dédiée au comportement des machines devrait se calquer sur celle du comportement animal, selon les auteurs, qui englobe non seulement la génétique, la chimie organique ou l’anatomie cérébrale mais aussi des « méthodes observationnelles et expérimentales, étudiant l’animal dans son environnement ou en laboratoire ». De la même façon, l’informatique ou la robotique ne suffit pas pour comprendre le comportement des machines intelligentes, il faut y adjoindre les « méthodes expérimentales dans les champs de la psychologie, de l’économie, des sciences politiques ou de l’anthropologie ». Cette discipline regrouperait « ce qui est aujourd’hui épars » et difficile d’accès. Elle répondrait aux grandes questions telles que « par quels mécanismes un comportement a-t-il été acquis et par quels mécanismes a-t-il été modifié ? », « dans quel environnement un comportement peut se maintenir ou se propager, et dans quel environnement il est voué à disparaître ? » Des interrogations qui « doivent être déclinées à l’échelle d’une machine isolée, d’une machine interagissant avec d’autres machines, et à l’échelle des collectifs hybrides formés par les humains et les machines ».

 

Pour aller plus loin :

CNRS, Jean-François Bonnefon (24/04/2019)

Partager cet article

Synthèses de presse

« Aide à mourir » : les pharmaciens et les établissements exclus de la clause de conscience
/ Fin de vie

« Aide à mourir » : les pharmaciens et les établissements exclus de la clause de conscience

Le projet de loi relatif à l’« aide à mourir » dispose que « le pharmacien ne peut bénéficier d’une ...
Fin de vie : l'Ecosse en marche vers la légalisation de « l’aide à mourir » ?
/ Fin de vie

Fin de vie : l’Ecosse en marche vers la légalisation de « l’aide à mourir » ?

Le 28 mars, un projet de loi visant à légaliser l'« aide à mourir » a été présenté au Parlement ...
30_fiv
/ PMA-GPA

Embryons congelés : détruire pour ne pas payer

Alors qu’aux Etats-Unis, le coût de la conservation des embryons congelés ne cesse d’augmenter, certains choisissent de les détruire plutôt ...

Textes officiels

Fiches Pratiques

Bibliographie

Lettres