in

Les dispositifs d’intelligence artificielle alimentent les biais

Intelligence artificielle préjugés

Dans le cadre de la médecine clinique et chirurgicale, l’intelligence artificielle, bien que  révolutionnaire, contribue à alimenter les biais.

Les dispositifs d’intelligence artificielle prennent de plus en plus d’ampleur dans l’industrie de la santé. Ils permettent d’accélérer les diagnostics et les recherches de traitement. Toutefois, une étude a permis de constater que les biais seraient perpétrés par l’IA.

Des biais perpétrés par l’intelligence artificielle, comment est-ce possible ?

Un article a soulevé que les biais en matière de genre et de race seraient en réalité alimentés par les dispositifs de l’intelligence artificielle. À la base, les recherches et les découvertes de nouveaux médicaments reposaient sur un prototype masculin avec une couleur de peau blanche. C’est ce qu’a expliqué le professeur Londa Schiebinger dans son article. Selon elle, il faudra alors éviter que les appareils IA restent limités à ce modèle.

En effet, avec l’évolution de la médecine clinique et chirurgicale, les dispositifs utilisés devraient également prendre en compte les différences entre chaque patient. Entre autres, cela concerne à la fois la démographie et la génétique.

Les enjeux de l’IA pour la médecine

Certes, l’intelligence artificielle est un renfort très apprécié dans la médecine grâce à ses algorithmes. Ils permettent de diagnostiquer plus rapidement certaines maladies, tout comme ils aident à optimiser les soins administrés aux patients.

Toutefois, ce sont ces  mêmes algorithmes qui peuvent poser des inconvénients. Afin d’exécuter des tâches, ils se basent sur les modèles collectés sur d’anciens patients. Seulement, les références ne représentent pas forcément le cas du nouveau patient. 

Dans l’idée de surmonter ce défi, des modifications au niveau de la politique et de la structure de l’industrie médicale ont été abordées. Pour outrepasser les biais perpétrées par l’intelligence artificielle, les agences de financement représenteraient un point de départ. En 2016, la National Institutes of Health a demandé à ces agences d’exiger l’intégration du sexe en tant que variable biologique dans les recherches. La même politique, incluant la race et les origines démographiques, serait donc une alternative à privilégier. L’étude envisage également la multiplication des publications et des articles pour mettre l’accent sur le sujet.

Comments

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Loading…

0
IBM intelligence artificielle

L’intelligence artificielle fait un sprint chez IBM

LaMDA rends les conversations plus naturelles

Grâce à LaMDA, Google améliore les conversations avec l’IA