ChatGPT : « Toutes les frayeurs de remplacement de l’homme par la machine ressurgissent »

Publié le 27 Jan, 2023

Fin novembre dernier, OpenAI, une start-up californienne spécialisée dans le domaine de l’intelligence artificielle, a mis en ligne ChatGPT [1], « un robot conversationnel capable de répondre, en quelques secondes, à toutes vos requêtes ou presque ». En effet, « avec 175 milliards de paramètres, GPT-3 est inédit par sa taille et révèle des “propriétés inattendues” », telles que « calculer, écrire du code informatique, traduire, répondre à des questions… »  Microsoft serait « prêt à investir 10 milliards de dollars » dans la start-up, déjà « valorisée 29 milliards ».

Une technologie qui comporte des risques

ChatGPT est accusé de wokisme. A la question « Qu’est-ce qu’une femme ?», il répond : « Une femme est une personne qui se définit comme telle ou qui est socialement et culturellement reconnue comme telle. (…) Il est important de rappeler que le genre est un concept complexe qui est influencé par de nombreux facteurs, tels que la biologie, la culture, l’histoire et les expériences personnelles, et qu’il est important de soutenir les choix de chacun en matière de genre. »

Au-delà, le succès du chatbot relance le débat sur les dangers de l’intelligence artificielle. « Toutes les frayeurs de remplacement de l’homme par la machine ressurgissent », note Laurence Devillers, chercheuse au laboratoire d’informatique pour la mécanique et les sciences de l’ingénieur (Limsi) du CNRS.

Le robot est parvenu à réussir l’examen de l’université de Yale permettant de pratiquer la médecine aux Etats-Unis.

Un encadrement possible ?

Murielle Popa-Fabre, chercheuse au Collège de France et à l’Inria, et experte au Conseil de l’Europe, rappelle « quel a été le prix à payer » pour que des contenus « inappropriés » soient exclus de ChatGPT : « des mauvaises conditions des travailleurs kenyans qui ont lu et annoté, parfois pour moins de 2 dollars par heure, des milliers d’extraits textuels à caractère violent, sexuel ou pédophile ».

« Le tout premier cadre éthique se joue à l’échelle de la personne et des choix plus ou moins éclairés qu’elle peut faire, d’adopter ou non les technologies émergentes », estime-t-elle. Un niveau qui « concerne aussi l’éthique professionnelle de l’ingénieur ou du chercheur en IA [2] au quotidien ». Ensuite viennent les « choix de société », ceux des « entreprises » aussi (cf. Faire du profit ou changer le monde ? Des entreprises choisissent les deux). Et, au-delà, la « gouvernance » de l’IA (cf. L’OMS pose des garde-fous à l’utilisation de l’intelligence artificielle).

« Je pense qu’une IA éthique, française ou européenne, serait aujourd’hui un avantage concurrentiel sur les Etats-Unis et la Chine, avance Murielle Popa-Fabre. La France est la patrie des droits de l’homme et a certainement un rôle à jouer dans un marché dominé soit par une technique débridée, soit par la volonté de contrôle. »

Se passer de l’homme ?

Pourtant « la cognition humaine n’est pas qu’une capacité associative générant des plausibles, elle est enracinée dans le réel », rappelle l’experte.

Certes, les progrès de l’IA peuvent être rapides, voire « spectaculaires ». Mais, citant le domaine de l’imagerie médicale, elle rappelle qu’« il restera la tâche d’annoncer ou non un cancer au patient, de prendre la responsabilité du diagnostic et de la thérapie ». La question est celle de « la place à accorder à l’outil » qui permet de réaliser une partie des tâches (cf. Détection du cancer du sein : l’intelligence artificielle moins efficace que le médecin).

« Combien d’interactions humaines [les professions] souhaitent-elles vraiment retirer à leurs activités ?, interroge Murielle Popa-Fabre. Et quelles conséquences cela pourra avoir dans la relation thérapeutique, ou encore dans le vécu qu’une victime ou un coupable auront de la justice ? » Une « réflexion prospective » qui « doit prendre de plus en plus de place à l’échelle personnelle, de la société et des institutions ».

 

[1] « Son nom vient de la combinaison des termes “chat” et “GPT”, qui signifient “conversation” et “modèle de transduction de langage prédictif” »

[2] Intelligence artificielle

Sources : Le Figaro, Vincent Trémolet de Villers (24/01/2023), Stéphane Kovacs, Caroline Beyer, Paule Gonzalès et Jean-Marc Leclerc (24/01/2023) ; Le Monde, Alexandre Piquard (21/01/2023) ; TechXplore, Bob Yirka (24/01/2023)

Partager cet article

Synthèses de presse

Effet Werther : « En légalisant le suicide assisté et l’euthanasie, on banalise le suicide »
/ Fin de vie

Effet Werther : « En légalisant le suicide assisté et l’euthanasie, on banalise le suicide »

« Il est tout à fait contradictoire d’organiser des campagnes de prévention du suicide et, en parallèle, de promouvoir une ...
Genre : les bloqueurs de puberté provoquent des problèmes de fertilité « irréversibles »
/ Genre

Genre : les bloqueurs de puberté provoquent des problèmes de fertilité « irréversibles »

Selon une étude de la Mayo Clinic dévoilée fin mars, les bloqueurs de puberté peuvent provoquer des problèmes de fertilité ...
Un « embryon de synthèse » fabrique sa membrane basale

Un « embryon de synthèse » fabrique sa membrane basale

Une équipe de la Medical University of Vienna a mis en œuvre des « embryons de synthèse » pour caractériser ...

Textes officiels

Fiches Pratiques

Bibliographie

Lettres