Garantir que l’intelligence artificielle (IA) développée et utilisée en Europe soit pleinement conforme aux droits et valeurs de l’Union européenne (UE). C’est tout l’enjeu d’une législation sur l’IA pour laquelle le Parlement européen a adopté, ce mercredi, sa position de négociation par 499 voix pour, 28 contre et 93 abstentions. Les négociations avec le Conseil concernant la forme finale de la législation commenceront dès aujourd’hui.

Le projet impliquera plus de contrôle et des obligations de transparence, pour une IA qui soit pleinement conforme aux droits et valeurs de l’UE, «notamment sur la surveillance humaine, la sécurité, la protection de la vie privée, la transparence, la non-discrimination et le bien-être social et environnemental», souligne le Parlement dans un communiqué. 

La notion d’obligation ainsi introduite dépendra du risque que l’IA peut générer. Ainsi, les fournisseurs de ces systèmes devront, en plus d’évaluer et d’atténuer les risques potentiels, enregistrer leurs modèles dans la base de données de l’UE avant une mise en circulation sur le marché. 

Au-delà de certaines obligations, il s’agit tout bonnement d’interdire les IA qui présenteraient un «niveau de risque inacceptable pour la sécurité des personnes», ou qui seraient utilisées à des fins de notation sociale. 

Entre soutien de l’innovation et protection des citoyens

Les députés européens, qui se sont prononcés à une large majorité en faveur de ces nouvelles règles, vont encore plus loin. Ils incluent également des interdictions pour: les systèmes d’identification biométriques à distance, les systèmes de police prédictive, ceux de reconnaissance des émotions, mais aussi la saisie non ciblée d’images faciales provenant d’Internet ou de séquences de vidéosurveillance. 

Les solutions d’IA utilisées pour influencer les électeurs et le résultat des élections, ainsi que ceux utilisés dans les systèmes de recommandation exploités par les plateformes de médias sociaux (ayant plus de 45 millions d’utilisateurs) ont été ajoutés à la liste des systèmes à haut risque. Autant de règles qui devront être surveillées par le Bureau européen de l’IA, dont les députés ont révisé le rôle. 

Si les négociations aboutissent à la finalisation de la législation, elle ne devrait pas être appliquée avant 2026.