Les entreprises d’intelligence artificielle développent des machines capables de surpasser l’intelligence humaine. Cette ambition, connue sous le nom d’intelligence artificielle générale (AGI), a pour objectif de transformer radicalement le monde.
Sam Altman, PDG d’OpenAI, décrit cette technologie comme une « intelligence magique dans le ciel ». Il pense que l’AGI pourrait « briser le capitalisme », mais qu’elle représente aussi « la plus grande menace pour l’existence humaine ».
L’AGI promet des changements massifs. Cependant, une question clé persiste : le public a-t-il réellement consenti à ce bouleversement ? Très peu de citoyens ont été consultés, alors que cette technologie pourrait profondément modifier la société. Selon Altman, l’AGI pourrait à la fois ouvrir de nouvelles opportunités économiques et représenter des menaces existentielles. Mais personne ne semble avoir demandé au grand public s’il est d’accord avec ces risques.
Certains experts expriment leurs inquiétudes. Jack Clark, cofondateur d’Anthropic, a déclaré que ce projet devrait être encadré par les gouvernements. En fait, il trouve étrange qu’une technologie aussi puissante soit laissée aux mains de sociétés privées. La Silicon Valley a déjà montré, avec les réseaux sociaux et Uber, que les technologies sont souvent imposées à la société sans régulation. Clark remet en cause cette approche et suggère que l’IA ne devrait pas suivre ce modèle.
Les objections contre cette approche
Les défenseurs de l’IA affirment que son utilisation massive prouve que le public consent. Cependant, ce n’est pas vraiment un consentement éclairé. Beaucoup d’utilisateurs ne sont pas informés des coûts réels, qu’ils soient énergétiques ou sociaux. Par ailleurs, certains se sentent obligés d’adopter ces technologies pour ne pas être marginalisés. Prenons l’exemple des réseaux sociaux : des personnes les utilisent uniquement parce qu’elles s’y sentent contraintes et non par choix éclairé.
Un argument fréquent est que l’innovation est inarrêtable. Pourtant, l’histoire prouve que certaines technologies ont été limitées. Le clonage humain, par exemple, a été freiné volontairement pour des raisons éthiques. Ce précédent montre que l’humanité peut choisir de restreindre ou de réguler certaines innovations lorsque les risques sont élevés.
L’avenir de l’AGI doit faire l’objet d’un débat public. Il est crucial que la population soit consultée avant que ces technologies bouleversent la société. Comme le dit un ancien proverbe romain, « ce qui concerne tout le monde doit être décidé par tous ». La construction de l’AGI mérite une réflexion collective, au même titre que les technologies nucléaires ou les armes biologiques.
- Partager l'article :
