La CNAF utilise un système algorithmique critiqué pour sa discrimination à l’encontre des plus vulnérables. Amnesty International et ses partenaires demandent sa suspension immédiate au nom des droits humains.
Les algorithmes de notation fragilisent les droits des bénéficiaires
Depuis 2010, la Caisse nationale d’allocations familiales (CNAF) applique un algorithme pour détecter les fraudes et les erreurs. Chaque bénéficiaire reçoit un score de risque, influencé par des facteurs souvent discriminants. Le système cible ainsi des personnes à faibles revenus, chômeurs ou vivant en quartiers défavorisés. Ces critères, loin d’être neutres, stigmatisent les plus vulnérables comme les parents isolés ou les handicapés.
D’ailleurs, un score élevé entraîne des enquêtes plus approfondies. Cela augmente la pression sur des groupes déjà marginalisés. Amnesty International et La Quadrature du Net ont porté plainte pour mettre fin à ce système. Ils dénoncent une violation du droit à la vie privée et une discrimination contraire aux principes d’égalité.
La transparence en question dans l’usage des données sensibles
L’accès au code source de l’algorithme en 2023 a révélé des pratiques biaisées dans la gestion des allocations. Le système exploite des données personnelles sensibles de 32 millions de ménages, compilées sans consentement éclairé. De plus, il agit comme un outil d’exploration massive qui rend légitime des décisions arbitraires.
La France, pourtant engagée dans l’essor de l’intelligence artificielle, doit réexaminer ces dérives. Elle légalise des technologies de surveillance tout en sapant les négociations européennes sur la régulation de l’IA. Ainsi, ce paradoxe met en lumière une contradiction entre innovation technologique et respect des droits fondamentaux.
Vers une régulation européenne plus stricte sur l’IA
Le nouveau règlement européen sur l’IA impose des critères de transparence et d’évaluation des risques. Les systèmes publics doivent garantir la protection des droits fondamentaux et prévenir toute discrimination. Pourtant, la législation actuelle reste floue quant à la définition des systèmes de notation sociale. Cette imprécision retarde la suppression des pratiques discriminatoires.
Amnesty International appelle donc à une interprétation claire des interdictions. La France doit aligner ses technologies avec les règles européennes pour éviter toute stigmatisation systémique. En février 2025, la Commission européenne publiera des lignes directrices pour encadrer ces pratiques.
Une révision indispensable pour rétablir la justice sociale
Le modèle actuel d’algorithmes de la CNAF reflète une bureaucratie déshumanisante, amplifiant les inégalités. En exagérant le risque de fraude, ces technologies légitiment un contrôle discriminatoire qui fragilise les plus précaires.
La France doit donc repenser l’utilisation de l’IA dans les politiques publiques. Un équilibre entre innovation et respect des droits humains reste ainsi indispensable pour garantir une gestion équitable des aides sociales.
- Partager l'article :
