Les commissions du marché intérieur et des libertés civiles du Parlement européen ont adopté jeudi « un projet de mandat de négociation sur les premières règles au monde sur l’intelligence artificielle » (IA). Les députés ont voté le texte par 84 voix pour, 7 contre et 12 abstentions.
Dans le communiqué, les députés expliquent viser à « garantir que les systèmes d’IA bénéficient d’un contrôle humain, qu’ils sont sûrs, transparents, traçables, non discriminatoires et respectueux de l’environnement ». A cette fin, ils ont introduit des amendements à la proposition de la Commission (cf. IA : La Commission européenne présente son projet de réglementation).
Une approche fondée sur le risque
Les règles introduites sont établies en fonction du niveau de risque que l’IA peut générer.
Si le risque est « inacceptable », les systèmes seront « strictement interdits ». Les députés citent à ce titre les systèmes « qui déploient des techniques subliminales ou délibérément manipulatrices, exploitent les vulnérabilités des personnes ou sont utilisés pour la notation sociale »[1].
Dans la catégorie « haut risque », les députés ont « élargi la classification » pour y « inclure les atteintes à la santé, à la sécurité, aux droits fondamentaux ou à l’environnement ».
Enfin, pour l’intelligence artificielle à « usage général », les parlementaires ont inclus des obligations pour les fournisseurs. Des « exigences de transparence supplémentaires » sont aussi incluses, comme l’obligation de préciser que le contenu a été généré par une IA.
Des exemptions pour la recherche
Les députés ont toutefois introduit des exemptions à ces règles « pour les activités de recherche et les composants d’IA fournis dans le cadre de licences open source ».
Mais ils souhaitent « soutenir le droit des citoyens à porter plainte contre des systèmes d’IA ». De même, ils doivent pouvoir « recevoir des explications concernant les décisions fondées sur des systèmes d’IA à haut risque qui ont une incidence significative sur leurs droits ». En outre, les députés ont révisé le rôle de l’Office européen de l’IA, un organisme qui sera chargé de « contrôler la mise en œuvre du règlement sur l’intelligence artificielle ».
« Probablement la mesure législative la plus importante de ce mandat »
« Compte tenu de la transformation profonde que l’intelligence artificielle entrainera dans nos sociétés et nos économies, la législation sur l’IA est très probablement la mesure législative la plus importante de ce mandat », estime le corapporteur Dragos Tudorache (Renew, Roumanie). « C’est la première législation au monde de ce type, ce qui signifie que l’UE peut montrer la voie en orientant l’IA pour qu’elle soit centrée sur l’humain, sûre et digne de confiance », espère-t-il.
Ce projet doit être approuvé par l’ensemble du Parlement. Le vote est attendu lors de la session du 12 au 15 juin. Ensuite, les négociations avec le Conseil sur la « forme finale » pourront débuter.
[1] Le communiqué du parlement européen indique que « les députés ont modifié la liste de manière substantielle, afin d’y inclure des interdictions d’utilisations des systèmes d’IA intrusifs et discriminatoires, comme :
- les systèmes d’identification biométrique à distance “en temps réel” dans les espaces accessibles au public ;
- les systèmes d’identification biométrique à distance “a posteriori”, à la seule exception des services répressifs pour la poursuite d’infractions graves et seulement après autorisation judiciaire ;
- les systèmes de catégorisation biométrique utilisant des données sensibles (par exemple, le genre, la race, le statut de citoyenneté, la religion, l’orientation politique) ;
- les systèmes de police prédictifs (basés sur le profilage, la localisation ou le comportement criminel antérieur) ;
- les systèmes de reconnaissance des émotions (dans les domaines de l’application de la loi, de la gestion des frontières, sur le lieu de travail et dans les établissements d’enseignement) ;
- la récupération aveugle de données biométriques provenant des médias sociaux ou de la vidéosurveillance pour créer des bases de données de reconnaissance faciale (violation des droits humains et du droit à la vie privée) ».
