Le 8 décembre, après trois jours de négociations, les Etats membres de l’Union européenne et le Parlement européen ont trouvé un « accord politique » pour encadrer le développement de l’intelligence artificielle (IA) (cf. Le Parlement européen avance sur les premières règles sur l’intelligence artificielle ; IA : le Parlement européen adopte un projet de régulation).
Des avis divergents
« Un moment historique pour l’Europe numérique » estime Roberta Metsola, présidente du Parlement européen, louant « une législation avant-gardiste, responsable et globale qui fixe des standards mondiaux ». En effet, « l’UE devient le premier continent à fixer des règles claires pour l’utilisation de l’IA » se félicite le commissaire européen Thierry Breton, à l’origine du projet qui a été présenté en avril 2021 (cf. Vers une législation européenne sur l’intelligence artificielle).
De son côté Jean-Noël Barrot, ministre français de la Transition numérique, relativise estimant que des discussions supplémentaires sont nécessaires et que cet accord n’est qu’« une étape dans un chantier qui s’est ouvert il y a quatre ans ». « Nous allons analyser attentivement le compromis trouvé (…) et nous assurer dans les prochaines semaines que le texte préserve la capacité de l’Europe à développer ses propres technologies d’intelligence artificielle et préserve son autonomie stratégique » précise-t-il. Afin que l’Europe soit en capacité de développer sur son territoire des systèmes d’IA « conformes à sa culture et ses valeurs », « il faut éviter d’écraser les innovateurs européens sous une règlementation qui soit trop lourde » poursuit-il. En effet, deux modèles européens sont en cours d’élaboration, Aleph Alpha en Allemagne et Mistral AI en France (cf. IA Act : la France, l’Allemagne et l’Italie se mettent d’accord).
Pour Daniel Friedlaender, responsable Europe de la Computer & Communications Industry Association, « la rapidité semble avoir prévalu sur la qualité, avec des conséquences potentiellement désastreuses pour l’économie européenne ».
Un débat cristallisé sur deux sujets
Les discussions ont porté notamment sur deux points, l’IA générative et l’utilisation de l’IA par les forces de police. Au sujet de l’IA générative, l’accord prévoit des obligations pour les modèles les plus puissants [1] avec une évaluation et un suivi des risques. Pour les plus petits modèles, seule l’obligation de transparence sera exigée (cf. « Potentiellement, l’IA est un outil discriminant, manipulateur de l’information et de nos décisions »).
Au sujet de l’utilisation de ces technologies par les forces de police, l’accord interdit, « conformément aux valeurs européennes », les systèmes de notation citoyenne, de surveillance de masse, comme en Chine (cf. Chine : des caméras intelligentes surveillent la concentration des lycéens), ou l’identification biométrique à distance des personnes (cf. Une caméra laser pour remplacer le stéthoscope ?). Mais il prévoit des exemptions notamment dans le cadre de la prévention de menaces terroristes, de recherche de victimes d’enlèvement, ou d’identification de personnes soupçonnées de crimes. Pour éviter les abus et protéger le principe de présomption d’innocence en cas de crime, des « autorités indépendantes » contrôleront ces utilisations. Des mesures critiquées par Mher Hakobyan, conseiller en plaidoyer sur l’intelligence artificielle à Amnesty International. Selon lui, « Ne pas garantir une interdiction complète de la reconnaissance faciale constitue une occasion largement manquée de stopper et de prévenir des dommages colossaux aux droits de l’homme, à l’espace civique et à l’Etat de droit, qui sont déjà menacés dans toute l’UE ».
Un office européen de l’IA
L’accord prévoit également la création d’un office européen de l’IA, au sein de la Commission européenne, composé de 100 personnes. Il sera chargé « d’assurer au niveau européen la coordination de la mise en œuvre de ces nouvelles règles » et « pourra infliger des amendes jusqu’à 7% du chiffre d’affaires, avec un plancher de 35 millions d’euros, pour les infractions les plus graves ».
Désormais, le texte doit être validé par le Parlement européen puis par chacun des 27 Etats membres de l’Union européenne. Il n’entrera pas en vigueur avant 2025 (cf. Intelligence artificielle : « Nous ne sommes plus dans le temps du débat intellectuel »).
[1] « Le niveau de puissance d’un modèle est défini par une unité de mesure, “Flops”, qui désigne le nombre d’opérations nécessaires pour entraîner un système ».
Sources : Le Figaro avec AFP (08/12/2023) ; Le Figaro, Ingrid Vergara (09/12/2023) ; Amnesty (09/12/2023)
