Vers une nouvelle discipline pour comprendre le comportement des « machines intelligentes » ?

Publié le 25 Avr, 2019

Comprendre le comportement des machines dotées d’intelligence artificielle est un défi qui mérite de « créer une nouvelle discipline scientifique », selon 23 scientifiques qui publient une tribune dans la revue Nature. Pour « garder ces machines sous contrôle, en tirer les plus grands bénéfices et en minimiser les dommages potentiels », il ne s’agit pas seulement de « comprendre leur programmation », parfois gardée sous le secret industriel, ni de « prédire le comportement d’une machine à partir de son code », mais « il est nécessaire de comprendre une machine de l’extérieur, en observant ses actions et en mesurant leurs conséquences », « d’en simuler les évolutions potentielles » et « de mener des expériences pour anticiper la coévolution culturelle des humains et des machines ».

 

Cette discipline dédiée au comportement des machines devrait se calquer sur celle du comportement animal, selon les auteurs, qui englobe non seulement la génétique, la chimie organique ou l’anatomie cérébrale mais aussi des « méthodes observationnelles et expérimentales, étudiant l’animal dans son environnement ou en laboratoire ». De la même façon, l’informatique ou la robotique ne suffit pas pour comprendre le comportement des machines intelligentes, il faut y adjoindre les « méthodes expérimentales dans les champs de la psychologie, de l’économie, des sciences politiques ou de l’anthropologie ». Cette discipline regrouperait « ce qui est aujourd’hui épars » et difficile d’accès. Elle répondrait aux grandes questions telles que « par quels mécanismes un comportement a-t-il été acquis et par quels mécanismes a-t-il été modifié ? », « dans quel environnement un comportement peut se maintenir ou se propager, et dans quel environnement il est voué à disparaître ? » Des interrogations qui « doivent être déclinées à l’échelle d’une machine isolée, d’une machine interagissant avec d’autres machines, et à l’échelle des collectifs hybrides formés par les humains et les machines ».

 

Pour aller plus loin :

CNRS, Jean-François Bonnefon (24/04/2019)

Partager cet article

Synthèses de presse

01bis_embryon

Etats-Unis : trois souriceaux nés d’une cellule de peau

Dirigé par Shoukrat Mitalipov, des chercheurs ont fait naitre des souriceaux à partir d'une cellule de peau et d'un ovocyte ...
02_fin_de_vie_soins_palliatifs
/ Fin de vie

Sédation palliative : une nouvelle directive aux Pays-Bas

En juin 2022, la KNMG et l’IKNL ont publié une révision de la directive relative à la sédation palliative ...
Maladies cardiaques : 36 millions d’euros pour un traitement CRISPR
/ Génome

Maladies cardiaques : 36 millions d’euros pour un traitement CRISPR

Une équipe internationale vient de remporter le Big Beat Challenge, pour son projet de thérapie génique visant les maladies cardiaques ...

Textes officiels

Fiches Pratiques

Bibliographie

Lettres