L'intelligence artificielle (IA), loin d'être neutre, peut renforcer les discours racistes. Le gouvernement indien doit réagir face à ce phénomène croissant qui cible particulièrement les Indiens sur Internet.
L'IA, généralement perçue comme une technologie neutre et objective, se retrouve influencée par des biais humains. Les modèles d'IA se nourrissent des données disponibles en ligne et intègrent parfois des préjugés et des stéréotypes raciaux.
Cette réalité démontre que l'IA n'est pas exempte des travers de ses créateurs et utilisateurs. Les préjugés humains, reproduits par les algorithmes, montrent que la technologie peut perpétuer des discriminations plutôt que les corriger.
Des chercheurs en technologie et linguistique ont mis en lumière l'influence des stéréotypes dans les grands modèles linguistiques. En 2024, une étude a révélé que des outils comme ChatGPT d'OpenAI et Gemini de Google contiennent des biais racistes.
Ces modèles tendent à véhiculer des stéréotypes sur les locuteurs de l'anglais vernaculaire afro-américain (AAVE). Ils imitent les schémas de pensée discriminatoires. Cela illustre que l'IA amplifie parfois les préjugés plutôt que de les neutraliser.
Les cibles fréquentes de propos racistes
La communauté indienne, généralement victime de discriminations, se retrouve particulièrement exposée aux propos racistes en ligne. Les stéréotypes visant l'accent anglais des Indiens et leurs modes de vie se répandent facilement sur les réseaux sociaux et autres plateformes en ligne.
De plus, les outils de traduction automatique, couramment utilisés par les internautes, jouent un rôle non négligeable dans la propagation des propos racistes. Par exemple, Google Translate a été pointé du doigt pour sa traduction directe des insultes racistes chinoises envers les Indiens sur X (anciennement Twitter). Le terme péjoratif « a san », utilisé en chinois pour désigner les Indiens, est traduit littéralement, ce qui renforce ainsi des stéréotypes offensants. Ce terme trouve son origine historique à l'époque coloniale, mais dans le contexte actuel, il véhicule des connotations racistes et dégradantes.
Le rôle des géants technologiques
Les leaders de la technologie, comme Google et OpenAi, doivent prendre des mesures concrètes pour corriger les biais racistes présents dans leurs modèles d'IA. Cela inclut une révision approfondie des algorithmes et des sources de données utilisées. En outre, des actions proactives sont nécessaires pour garantir que les technologies ne propagent pas de discours de haine ou de stéréotypes nuisibles.
Face à cette situation préoccupante, le gouvernement indien se doit d'agir. Une collaboration avec les géants de la technologie pourrait aider à freiner la propagation du racisme en ligne. L'intervention des autorités pourrait inclure des discussions sur les normes éthiques que doivent respecter les modèles d'IA. L'objectif est de garantir que ces outils respectent des standards élevés de neutralité et d'inclusivité.
L'inaction risquerait d'aggraver le problème et de renforcer les discriminations. Le gouvernement doit ainsi prendre des mesures pour protéger ses citoyens contre ces nouvelles formes de racisme. La lutte contre le racisme en ligne ne peut attendre. Elle nécessite des actions concrètes et immédiates pour construire un Internet plus respectueux et équitable.
- Partager l'article :
