Les technologies de pointe ne sont pas toujours conformes à l’éthique de l’IA. Le déploiement de certains systèmes avancés est suspendu en attente d’une réévaluation.
Google, Microsoft, IBM, toutes de grandes entreprises qui ont développé des solutions d’IA de pointe. Cependant, les comités de l’éthique de l’IA ont posé leur droit de véto pour ces technologies qui, pourtant, rapporteraient beaucoup. La lutte contre les systèmes d’IA qui pourrait perpétrer des biais raciaux et sexistes continue.
Aux grands noms les grandes avancées
En 2017, Microsoft a créé un comité d’éthique de l’IA pour examiner les nouveaux services dès leur lancement, suivie par Google et IBM en 2018. Avant ces prises de décisions, ces géants de la technologie déployaient des solutions d’intelligence artificielle qui, selon eux, manquent de garanties éthiques.
Google avait récemment envisagé de mettre son unité cloud au service d’une société financière pour l’aider à décider à qui accorder un prêt. En effet, la société en question estimait que l’IA serait plus capable d’évaluer la solvabilité des personnes. Pour sa part, Google prévoyait que ce genre de système pourrait être un marché profitable.
De son côté, Microsoft a mis au point un logiciel mimétique appelé Custom Neural Voice. Il peut reproduire la voix d’une personne à partir d’un échantillon. Quant à IBM, un client avait fait une demande de personnalisation de la technologie de reconnaissance faciale pour repérer les fièvres et les masques dans le cadre de la pandémie.
Un point commun nous amène à énumérer ces technologies de pointe : elles ont fait l’objet d’une réévaluation au niveau des comités d’éthique de l’IA.
Les technologies de pointe face à l’IA éthique
Le comité éthique de Google avait unanimement voté contre le projet pour le service financier. Le système d’IA doit apprendre à partir de modèles de données antérieurs. Selon le comité, cela risquerait de perpétuer les pratiques discriminatoires à l’encontre de certains groupes de personnes. Un autre comité éthique de l’entreprise aurait également remis en question son service de déduction d’émotion sous prétexte que cela pouvait être insensible. En fin de compte, 13 émotions prévues pour l’outil cloud de Google ont été bloquées.
Dans le cas du mimétisme de Microsoft, ils ont trouvé un terrain d’entente. Le logiciel a obtenu un feu vert, à condition que les achats soient approuvés par une équipe de responsables.
Malheureusement, IBM n’a pas connu la même fin heureuse. Six mois après que son conseil d’administration ait décliné la demande de personnalisation, l’entreprise a annoncé l’arrêt de son service de reconnaissance faciale.
Toutefois, les nouvelles règles de l’UE sur l’utilisation de l’intelligence artificielle abordent certaines de ces questions. Autrement dit, les nouvelles technologies de pointe continueront d’être examinées à loupe pour garantir leur conformité à l’éthique de l’IA.
- Partager l'article :
