Alors que le règlement européen sur l’IA (AI Act) se profile, l’urgence n’est plus à débattre : il est impératif d’adresser les biais systémiques de l’IA, en particulier ceux qui touchent les femmes. Sous peine de voir les avancées technologiques automatiser et amplifier des inégalités historiques, la vigilance est de mise.
L’intégration rapide de l’intelligence artificielle dans nos sociétés soulève des questions fondamentales, notamment celle de la conformité aux principes d’équité et de non-discrimination. Nous avons interrogé Nejma Travaglini, fondatrice et CEO de Nolej, une entreprise spécialisée dans l’IA pédagogique, pour décrypter la problématique complexe, où l’analytique et le juridique se rencontrent pour dessiner les contours d’une IA véritablement inclusive.
L’IA, reflet et moteur des biais et inégalités envers les femmes ?
Les modèles d’IA, et en particulier les grands modèles de langage, sont des miroirs de nos sociétés. En effet, entraînés sur d’immenses corpus de données existantes, ils reproduisent et, par leur capacité d’amplification, peuvent même exacerber les idées reçues profondément ancrées.
« Les modèles de langage sont entraînés sur des données qui reflètent et amplifient les préjugés et stéréotypes sociétaux existants, » affirme Nejma Travaglini. Cette réalité a des conséquences directes sur les femmes. C’est notamment le cas dans des domaines cruciaux comme le recrutement et le leadership.
Les processus de sélection automatisés, par exemple, peuvent associer inconsciemment des traits de leadership à des profils masculins. Cette association ne naît pas de l’algorithme, mais se base sur des décennies de données historiques. Ceci crée une discrimination indirecte, où des systèmes technologiquement neutres en apparence perpétuent des rapports de force désavantageant les femmes.
Nejma Travaglini explique ainsi que l’IA a tendance à « automatiser et pérenniser des rapports de force historiques défavorables aux femmes. » Cette situation est d’autant plus préoccupante que les métiers majoritairement occupés par des femmes sont souvent les plus exposés à l’automatisation. Il s’agit de postes qui couvrent des rôles de fonctions support, dans l’administration ou la relation client
Toutefois, cette visibilité accrue des mécanismes de discrimination a des aspects positifs. « L’intelligence artificielle, malgré ses biais, rend plus visibles les phénomènes de discrimination, comme le tri automatisé des candidatures, » note Travaglini.
Ainsi, cette transparence involontaire offre une opportunité de mieux contester et de déconstruire ces pratiques injustes. Elle fournit des preuves concrètes là où, auparavant, le biais restait implicite. Les obligations de transparence des algorithmes et de redevabilité imposées par le futur AI Act européen visent précisément à outiller les organisations et les individus pour identifier et corriger ces dérives.
Au-delà de la méfiance, l’agentivité face à l’IA
Face à l’adoption des nouvelles technologies, une perception persistante voudrait que les femmes fassent preuve d’une « méfiance » ou d’une « prudence » excessive. Nejma Travaglini récuse cette idée, y voyant plutôt une stratégie d’évaluation lucide des risques.
« Les femmes évaluent plus rapidement les risques potentiels pour leur santé mentale ou leur équilibre professionnel, » explique-t-elle. Elle cite ici des études neurologiques qui montrent une plus grande adaptabilité cognitive des femmes à actualiser leurs croyances face à de nouvelles informations. Cette « prudence » n’est donc pas un frein, mais une démarche rationnelle de gestion des risques.
C’est dans cette compréhension de l’autonomie cognitive que des entreprises comme Nolej innovent. Loin de proposer des outils « boîtes noires » où l’utilisateur est passif, Nejma Travaglini défend une IA qui renforce l’agentivité. Ceci concerne non seulement des femmes, mais de tous les utilisateurs.
« L’interface est conçue pour éviter la page blanche en permettant à l’utilisateur de sélectionner son propre contenu source, garantissant ainsi l’autonomie et le sentiment d’efficacité personnelle, » détaille-t-elle à propos des outils Nolej.
Cette approche privilégie le contrôle humain significatif. Elle devient essentielle pour lutter contre la « crise de l’agentivité ». L’automatisation excessive risque de diminuer la capacité à agir de manière intentionnelle.
L’objectif est de transformer l’IA en un levier d’apprentissage et de création. Plutôt que d’en faire un outil de contrôle ou de substitution. En canalisant l’attention et en guidant l’utilisateur à travers des « tunnels » de conception, Nolej permet à des profils variés, y compris des enseignants peu familiarisés avec le numérique, de s’approprier ces technologies.
Cette conception respectueuse des particularités cognitives devrait garantir que l’IA ne standardise pas à outrance. Elle n’exclura pas de fait les profils moins « représentés » dans les codes et les données. Elle servira au contraire à renforcer les compétences et la confiance des femmes et de tous les apprenants.
Conformité et métacognition, les clés d’une IA équitable
Un conformité inclusive de l’IA pour intégrer les femmes
La simple conformité réglementaire, comme celle imposée par l’AI Act, ne suffira pas à elle seule à résoudre le problème des biais si elle ne s’attaque pas à la structure même des données et des interfaces. L’engagement pour une IA éthique exige une approche holistique. La diversité des équipes de conception et la métacognition sont primordiales.
Nejma Travaglini, en tant que l’une des rares femmes dirigeantes dans l’IA, applique ces principes au sein de Nolej. Elle favorise une diversité de points de vue qui permet d’éviter les « angles morts » des groupes homogènes. « La diversité des profils utilisateurs permet d’identifier des problématiques invisibles pour des groupes homogènes, » insiste-t-elle.
Intégrer un psychologue cognitiviste à un poste de succès client, par exemple. Cela permet une compréhension plus fine des besoins et des défis des utilisateurs, y compris ceux spécifiques aux femmes. C’est un principe de design by default qui va au-delà des obligations légales pour intégrer l’équité dès la conception.
Pour une meilleure métacognition face à l’IA
La métacognition, ou la capacité à réfléchir sur ses propres processus de pensée, est également une compétence essentielle à développer face à l’IA. Nejma Travaglini partage son expérience des modèles de langage qui, malgré ses directives, adoptent des tons stéréotypés. « L’importance de la métacognition pour analyser ces systèmes et rester vigilante face à ces biais automatiques » est donc un rempart individuel crucial.
Pour les entreprises, cela se traduit par une responsabilisation des développeurs et des équipes en charge de l’entraînement des modèles. Ainsi elle exige des audits réguliers et une démarche proactive d’identification et de correction des biais.
Il n’est pas trop tard pour éviter une exclusion professionnelle des femmes d’ici 2030. Mais, à condition de « changer les méthodes de travail et d’inclure des profils variés. » La solution ne réside pas dans des ajustements cosmétiques. Elle réside dans une refonte des processus de conception et d’implémentation de l’IA.
Ils doivent placer l’équité et l’humain, dont les femmes et les minorités, au centre des préoccupations. L’AI Act offre un cadre. Cepednant, c’est l’engagement éthique des acteurs technologiques à traiter les problèmes à la source qui déterminera si l’IA sera un vecteur de progrès social ou un amplificateur d’inégalités pour les femmes.
Restez à la pointe de l'information avec INTELLIGENCE-ARTIFICIELLE.COM !
- Partager l'article :
