Un mannequin et artiste britannique déclare que l'intelligence artificielle est raciste. La vidéo dans laquelle il en parle est devenue virale sur TikTok.
En effet, dans une vidéo qu'il a publiée dans TikTok, un homme noir a utilisé une photo de passeport pour prouver que l'IA est raciste. Il explique comment un logiciel a rejeté sa photo car il n'était pas reconnaissable.
L'intelligence artificielle est raciste
Joris Lechêne est un mannequin et artiste londonien. Il publie des vidéos sur TikTok dans lesquelles il parle des préjugés raciaux qui sont présents partout. L'ironie du sort : il a été lui-même victime de racisme perpétrée par l'intelligence artificielle.
Récemment, il a partagé un TikTok pour expliquer comment un logiciel a rejeté la photo qu'il souhaitait télécharger pour son passeport. Sur la photo en question, il porte un haut noir et se tient devant un mur gris. Le logiciel n'a pas reconnu Lechêne sous prétexte que la photo ne répond pas aux règles, donc ne convient pas à un nouveau passeport. D'après le site, il était difficile de distinguer l'image du mur en fond.
@joris_explains Automation is never diversity-friendly. #LearnOnTikTok #diversity #technology #artificialintelligence #ukcitizen #bias
Toutefois, dans sa publication devenue virale, il affirme avoir déjà eu connaissance que l'intelligence artificielle est raciste. D'ailleurs, il utilise des exemples similaires dans ses autres vidéos de formations sur les préjugés.
Une technologie biaisée
Selon Joris Lechêne, l'IA et l'automatisation ne sont pas favorables à la diversité, et représentent plutôt un système biaisé. Effectivement, ce n'est pas la première fois que cette technologie fait sujet de racisme. D'après le New York Times, l'application Google Photos qualifiait les Noirs de gorilles. Pareillement, un service de reconnaissance faciale d'Amazon avait du mal à identifier les femmes et les couleurs de peau foncées. Pourtant, le même service n'affiche aucune erreur quand il s'agit d'un homme avec un teint clair.
C'est la société et ses préjugés qui impactent sur l'intelligence artificielle la rendant aussi raciste, a expliqué Lechêne.
- Partager l'article :
