dans

TikTok : une intelligence artificielle raciste ?

Intelligence artificielle raciste
Racism in technology concept.

Un mannequin et artiste britannique déclare que l’intelligence artificielle est raciste. La vidéo dans laquelle il en parle est devenue virale sur TikTok.

En effet, dans une vidéo qu’il a publiée dans TikTok, un homme noir a utilisé une photo de passeport pour prouver que l’IA est raciste. Il explique comment un logiciel a rejeté sa photo car il n’était pas reconnaissable.

L’intelligence artificielle est raciste

Joris Lechêne est un mannequin et artiste londonien. Il publie des vidéos sur TikTok dans lesquelles il parle des préjugés raciaux qui sont présents partout. L’ironie du sort : il a été lui-même victime de racisme perpétrée par l’intelligence artificielle.

Récemment, il a partagé un TikTok pour expliquer comment un logiciel a rejeté la photo qu’il souhaitait télécharger pour son passeport. Sur la photo en question, il porte un haut noir et se tient devant un mur gris. Le logiciel n’a pas reconnu Lechêne sous prétexte que la photo ne répond pas aux règles, donc ne convient pas à un nouveau passeport. D’après le site, il était difficile de distinguer l’image du mur en fond.

@joris_explains

Automation is never diversity-friendly. #LearnOnTikTok #diversity #technology #artificialintelligence #ukcitizen #bias

♬ Clock It – Clutch

Toutefois, dans sa publication devenue virale, il affirme avoir déjà eu connaissance que l’intelligence artificielle est raciste. D’ailleurs, il utilise des exemples similaires dans ses autres vidéos de formations sur les préjugés.

Une technologie biaisée

Selon Joris Lechêne, l’IA et l’automatisation ne sont pas favorables à la diversité, et représentent plutôt un système biaisé. Effectivement,  ce n’est pas la première fois que cette technologie fait sujet de racisme. D’après le New York Times, l’application Google Photos qualifiait les Noirs de gorilles. Pareillement, un service de reconnaissance faciale d’Amazon avait du mal à identifier les femmes et les couleurs de peau foncées. Pourtant, le même service n’affiche aucune erreur quand il s’agit d’un homme avec un teint clair.

C’est la société et ses préjugés qui impactent sur l’intelligence artificielle la rendant aussi raciste, a expliqué Lechêne.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée.