Une étude a démontré que les veines de la rétine indiquent la race d'une personne et cela pourrait accroître les biais dans les systèmes d'IA.
L'intelligence artificielle peut révéler la race dans l'imagerie médicale. En partant de ce principe, des chercheurs ont mené une étude pour savoir si c'est le cas des motifs des veines de la rétine. Ayant prouvé leur théorie, l'équipe de recherche s'inquiète que ce vecteur élargisse le champ des biais raciaux de l'IA.
Détecter la race à partir des vaisseaux rétiniens
L'étude qui a rassemblé des médecins et des chercheurs des États-Unis et du Royaume-Uni a été publiée dans un article. Le titre indique que l'IA prédit l'identité raciale à partir des segmentations des vaisseaux rétiniens noirs et blancs. Selon l'article, cette découverte concernant les veines de la rétine un présente un risque de propagation des biais raciaux dans les systèmes médicaux d'IA.
Pour l'analyse de la rétine, nous pouvons distinguer deux types d'imagerie : les images du fond rétinien (RFI) et les cartes des vaisseaux rétiniens en niveaux de gris (RVM). Les RFI correspondent à des images en couleur qui contiennent des informations sur la pigmentation pour identifier la race. Les RVM rejettent la plupart de ces informations pour extraire un schéma sous-jacent des capillaires sanguins pathologiques.
Pour l'étude, les chercheurs se sont basés sur les données de 245 nourrissons collectées dans le cadre d'une étude de cohorte multicentrique i-ROP. Puis, des réseaux neuronaux convolution (CNN) ont été entraînés pour analyser et effectuer une classification binaire (« noir »/ » blanc »).
Théoriquement, d'après les chercheurs, les RVM ne devraient pas révéler la race aux CNN. Cependant, les résultats ont affiché un plus grand nombre d'artères principales pour les yeux blancs que pour les noirs. Autrement dit, l'intelligence artificielle peut facilement prédire les races des bébés, même à partir des informations réduites.
L'analyse des veines de la rétine pourrait élargir le champ des biais de l'IA
Une des explications suggérées par les chercheurs était que les données de l'étude présentaient une prédominance de la race blanche. Toutefois, il déclare ne pas encore être en mesure d'expliquer clairement les résultats.
Actuellement, leur plus grande préoccupation concerne leur impact. En effet, selon eux, la capacité de l'IA à discerner la race à partir des veines de la rétine pourrait accroître le risque de biais dans les algorithmes d'IA.
- Partager l'article :
