D'après le Parlement européen, les systèmes d'IA doivent être supervisés par les humains et la surveillance de masse interdite.
Hier, les députés européens ont voté un rapport d'initiative dans l'établissement d'un cadre juridique pour l'utilisation de l'intelligence artificielle. Ils ont souligné les risques d'inefficacité et de discrimination liés à ces systèmes. Par ailleurs, ils se positionnent contre l'utilisation des dispositifs de surveillance par la police pour une notation sociale.
Le Parlement européen veut interdire la surveillance de masse
Dans le but de mettre en place un cadre juridique pour l'utilisation de l'intelligence artificielle, les députés européens ont procédé hier à un vote. Il s'agit d'une initiative qui met l'accent sur la supervision de ces systèmes, autrement dit le contrôle humain. Les parlementaires ont également émis leur avis contre l'utilisation des systèmes d'identification biométrique par la police. En effet, les bases de données privées et la reconnaissance faciale pour une notation sociale devront être interdites.
Le rapport d'initiative souligne les risques liés à ces applications, notamment les biais dans les algorithmes. Selon eux, les résultats peuvent être « incorrects, incomplets, dépourvus de pertinence ou discriminatoires ».
Améliorez la performance de vos projets grâce à l’IA générative ?
Dans cette lutte, le contrôle humain et juridique est donc primordial. En d'autres termes, chaque décision doit passer par une véritable personne. Le Parlement européen s'oppose à la surveillance de masse faite par la police en se servant de l'IA et dénonce l'utilisation de la reconnaissance faciale à des fins répressives.
Transparence et respect de la vie privée
Il s'agit avant tout de respecter les droits fondamentaux des citoyens. Les députés exigent alors que « toute utilisation de l'IA incompatible avec les droits fondamentaux soit interdite ». À cette fin, ils réclament la transparence, la traçabilité et la documentation de toutes les technologies utilisées. Et sur cette même lancée, ils demandent aux autorités d'utiliser des logiciels libres.
En outre, ils ont également voté pour l'interdiction de l'identification automatique dans les espaces publics. Cette initiative du Parlement européen concerne également les données privées, comme celles que Clearview AI met à la disposition des autorités pour une surveillance de masse. Autrement dit, les parlementaires souhaitent interdire tout système de notation sociale basé sur le comportement ou la personnalité des citoyens.
- Partager l'article :
