dans

Quelles sont les failles de l’AI Act de l’Union Européenne ?

AI Act

Avec une définition étroite de l’IA, l’AI Act de l’Union Européenne risque d’aller dans la mauvaise direction.

Le projet de loi sur la réglementation de l’intelligence artificielle en Europe a récemment fait l’objet d’un appel à contribution. L’AIA ou AI Act détermine principalement les systèmes d’IA qui peuvent être déployés dans l’UE. Mais les nouvelles propositions de définition de l’IA risquent d’aller à l’encontre de l’objectif même de la réglementation.

Redéfinir l’IA dans l’AI Act (AIA)

L’AI Act ou « Artificial Intelligence Act » est un projet de loi de l’Union Européenne présentée le 21 avril 2021 sur la réglementation de l’IA. Le mois dernier, la Commission des affaires juridiques en charge du projet de loi a lancé un appel à contribution pour améliorer l’AI Act.

La consultation sollicitait des idées sur plusieurs questions. L’une d’entre elles portait sur la définition plus correcte de l’IA. Selon le texte actuel, l’IA est « un logiciel développé à l’aide d’une ou plusieurs des techniques et approches (…) ». Elle devrait être « capable, pour un ensemble donné d’objectifs définis par l’homme, de générer des résultats ». Il peut s’agir de « de contenus, de prédictions, de recommandations ou de décisions influençant les environnements avec lesquels ils interagissent ».

Mais un nouveau projet de « compromis » propose une définition plus étroite de l’IA. Désormais, elle devrait être capable « d’apprentissage, de raisonnement ou de modélisation mis en œuvre à l’aide des techniques et des approches » données. Par ailleurs, il sera question d’un « système génératif » qui influence directement son environnement.

Ouvrir la voie à des systèmes d’IA potentiellement dangereux

L’AI Act vise à encourager la transparence et la bonne gouvernance de l’IA. Cependant, cette nouvelle définition de l’IA, encore plus complexe que la précédente, risque d’entraîner une complexification ou une absence de gouvernance. Une entreprise pourrait développer un système complexe et incompréhensible en prétextant un apprentissage ou une modélisation avancée.

Notons également que l’IA Act décrit les systèmes d’IA dont l’automatisation pourrait être dangereuse. La réglementation s’applique donc exclusivement à ces systèmes. Elle ne fait donc pas référence à d’autres types d’IA moins complexes, mais plus importants comme les dispositifs sujets à des discriminations sociales. Autrement dit, une définition étroite de l’IA risque de conduire à la négligence.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée.