« Ouvrir la voie à une technologie éthique. » Mercredi 21 avril, les commissaires européens Margrethe Vestager et Thierry Breton ont présenté leur projet de règlementation en matière d’intelligence artificielle (IA) (cf. IA : La Commission européenne présente son projet de réglementation) : « l’effort international le plus important déployé à ce jour pour réglementer l’IA ». L’objectif affiché de l’Europe est de pouvoir « bénéficier des avancées de l’IA, que la filière se développe, mais qu’il s’agisse d’une IA éthique, ne risquant pas de nuire au citoyen ».
Certains systèmes seront interdits, telles que les applications qui peuvent manipuler les comportements, les opinions ou les décisions. Les moyens mis en œuvre seront les « contrôles » et « une certification ». Ainsi, « une entreprise qui commercialise un logiciel d’intelligence artificielle devra faire une auto-évaluation, sous le contrôle d’une autorité de surveillance ». Pour les applications à « risques faibles », l’objectif sera de « garantir la transparence pour les utilisateurs ». Par exemple, la Commission juge « indispensable » « d’être informé du fait que son interlocuteur est un robot ». Si l’application est « à haut risque », elle devra subir des « tests de conformité » préalables à sa commercialisation.
En cas d’infraction, des sanctions sont prévues, pouvant s’élever « jusqu’à 6 % de leur chiffre d’affaires mondial ou 30 millions d’euros ». Elles concernent par exemple les « technologies qui pourraient être amenées à sélectionner des individus (pour accéder à des services publics, intégrer une université, obtenir un prêt bancaire, être embauché ou licencié) ».
Un accueil mitigé
Ce projet de réglementation a suscité des réactions diverses. Le Center for Data Innovation a déploré un texte de nature à « porter un coup dommageable au projet de la Commission de faire de l’UE un leader mondial de l’IA ». De son côté, l’ONG Union pour les libertés civiles en Europe estime que le projet n’est pas suffisant, craignant que « les Etats puissent aisément contourner les interdictions pour procéder à une surveillance biométrique massive des populations ». Un avis partagé par Ella Jakubowska, responsable des politiques et des campagnes chez European Digital Rights (EDRi), qui estime que « certaines dispositions permettraient aux entreprises et aux autorités gouvernementales de continuer à utiliser l’IA de manière douteuse ».
« Il s’agit d’un message très important à l’échelle mondiale », qui atteste que « certaines applications de l’IA ne sont pas admissibles dans une société fondée sur la démocratie, l’État de droit et les droits fondamentaux », souligne toutefois Daniel Leufer, analyste politique pour l’Europe chez Access Now, une association européenne de défense des droits numériques.
Une mise en application qui prendra du temps
La proposition doit à présent être examinée par le Parlement européen et le Conseil de l’Union européenne (UE). Elle devrait subir « des modifications importantes » avant d’être promulguée. En effet, les règles doivent « être conciliées avec d’autres réglementations européennes, notamment la Charte des droits fondamentaux de l’UE et une proposition de loi européenne sur la gouvernance numérique ». Les États membres devront ensuite mettre en œuvre les règles finales via la promulgation de lois à l’échelle nationale.
La proposition de la Commission suggère également la création d’un « conseil européen de l’intelligence artificielle et d’autorités de surveillance nationales chargées de superviser l’application des règles », sans donner de détails sur leur mode de fonctionnement.
Des répercussions pour d’autres pays ?
Avi Gesser, associé du cabinet d’avocats américain Debevoise, qui conseille les entreprises technologiques américaines, affirme que cette réglementation est susceptible d’avoir de « grandes implications » pour les entreprises américaines, car les précédentes réglementations européennes, comme le règlement général sur la protection des données (RGPD), ont influencé les réglementations dans d’autres pays.
Selon Avi Gesser, il faudra des années pour que la réglementation devienne une loi, mais au final, elle pourrait affecter toutes sortes d’entreprises américaines. « Toute publicité est conçue pour manipuler le comportement », rappelle l’avocat. « Le défi sera de déterminer ce qui est acceptable et ce qui ne l’est pas. »
Sources : France Info, Jérôme Colombain (21/04/2021) ; Les Echos, Gabriel Grésillon (21/04/2021) ; Wired, Will Knight (21/04/2021)
