Mis à part le développement de chatbots IA et d’outils de génération de contenu, quels sont les autres objectifs des entreprises d’intelligence artificielle ? Peut-être dominer le monde, créer un Dieu, une menace pour l’humanité, ou un système pouvant surpasser l’intelligence humaine.
En tout cas, OpenAI, sous la direction de Sam Altman, a pour objectif de créer une IA magique qui n’est autre que l’AGI ou l’intelligence artificielle générale.
Mais est-ce une bonne idée ? Ces entreprises ont-elles le droit de créer ce genre d’IA, ou de mettre le monde en danger sans notre consentement ?
Sam Altman souligne malgré tout que l’AGI représente la plus grande menace que l’humanité ait jamais connue.
Diviser pour… innover
À mon humble avis, il s’agit d’une décision purement antidémocratique. Et les propos de Jack Clark, cofondateur d’Anthropic, soulèvent parfaitement les questions éthiques du développement de l’IA.
« L’IA ne semble pas constituer un projet gouvernemental. Les entreprises d’AI n’ont donc pas besoin de l’approbation du public pour développer un système d’intelligence artificielle », a-t-il déclaré.
À voir sous un autre angle, Clark a tout à fait raison puisque les plateformes de réseaux sociaux, ou encore les réseaux de covoiturage ont émergé sans l’accord de la société.
De notre côté, on a tendance à réagir quand une société lance un nouveau système. Et c’est ce facteur qui va nous diviser.
La communauté se divise alors en trois camps. Il y a ceux qui sont d’avis à l’innovation sans permission, ceux qui la contestent, et ceux qui, sans arguments qui tiennent, font avec.
L’engouement à double tranchant de ChatGPT et de Claude AI
Jusqu’à aujourd’hui, l’essor de l’intelligence artificielle est sans précédent. ChatGPT, l’application phare d’OpenAI, a atteint 100 millions d’utilisateurs en seulement deux mois.
D’autres chatbots comme Claude ont rapidement suivi le rythme et ont séduit un large public allant des journalistes aux développeurs.
Mais ce succès soulève des questions. Certains y voient un consentement tacite du public aux pratiques des géants de la tech. Une analyse plus approfondie révèle d’ailleurs la complexité de la situation.
Mais selon les experts en IA, l’utilisation d’un système d’IA n’équivaut pas à un consentement éclairé.
Peu d’utilisateurs sont en effet conscients des implications environnementales de ces technologies.
Nous avons vu dans cet article que l’IA générative consomme tellement d’énergie que des entreprises comme Google et Microsoft revoient leurs engagements climatiques.
Par ailleurs, le contexte sociétal pousse souvent à l’utilisation de ces technologies, même à contrecœur.
Un sondage récent montre que de nombreux jeunes auraient préféré que les réseaux sociaux n’existent pas, mais se sentent contraints d’y être présents.
Cela dit, il est important de distinguer l’IA étroite, conçue pour des tâches spécifiques, de l’intelligence artificielle générale.
L’IA étroite a déjà prouvé son utilité dans divers domaines, de la relecture de textes à l’aide à la recherche scientifique.
La résolution du problème du repliement des protéines par l’IA, récompensée par un prix Nobel, illustre bien ce potentiel.
Cependant, l’AGI, visant à créer une intelligence surpassant celle de l’homme dans tous les domaines, suscite plus de réticences.
L’AGI serait-elle inéluctable ?
Quoi qu’on dise, l’argument selon lequel le progrès technologique serait inéluctable, souvent avancé dans le débat sur l’intelligence artificielle, se heurte à des contre-exemples historiques.
Des cas qui datent de 1967, notamment celui du clonage ou du Traité de l’espace extra-atmosphérique, montrent que la société peut encadrer, voire freiner certaines avancées technologiques jugées sensibles.
Concernant l’IA superintelligente, des experts plaident pour une approche démocratique. Leurs arguments relèvent des enjeux qui concernent l’ensemble de l’humanité.
Face à de tels enjeux, il me semble essentiel de favoriser une approche démocratique, où les décisions au sujet de l’humanité tout entière ne sont pas prises par quelques-uns, mais par le plus grand nombre.
Cela vaut autant pour l’AGI que pour les technologies nucléaires ou les communications interstellaires.
- Partager l'article :
