Les systèmes d’IA actuels impressionnent par leurs capacités. Par ailleurs, leur champ d’application s’étend de plus en plus. Cet essor fulgurant attise cependant de nombreuses craintes. Selon Ben Eisenpress, expert en IA, si cette technologie devait causer la fin du monde, ce serait via l’un des cinq scénarios suivants.
Une IA qui échappe au contrôle humain
L’IA accomplit aujourd’hui des prouesses autrefois inimaginables. Mais cette puissance extraordinaire s’accompagne d’un danger réel. Elon Musk la considère comme le plus grand danger pour notre civilisation. Mais, comment l’IA pourrait-elle échapper à notre contrôle et causer notre destruction ? Selon Ben Eisenpress, si ses capacités devenaient illimitées, elle pourrait surpasser l’intelligence humaine et prendre son destin en main.
Et cela est tout à fait plausible, surtout avec l’évolution de l’open source en matière d’IA. Certes, mettre à disposition de tous des ressources d’IA gratuites peut favoriser des avancées positives, comme la création de nouveaux médicaments. Toutefois, cela signifie aussi que tout le monde dispose de tous les outils nécessaires pour créer des IA dangereuses.
Une IA qui déclenche une guerre nucléaire
L’intégration de l’intelligence artificielle dans les systèmes militaires pourrait aussi représenter un danger. Le risque principal réside dans l’automatisation de la prise de décision en cas de menace imminente. En fait, la guerre moderne repose sur la collecte et l’analyse ultrarapides de données massives. L’IA s’avère donc un outil précieux pour les armées, capable d’accélérer considérablement le processus décisionnel.
Cependant, cette rapidité accrue peut dépasser la capacité de compréhension humaine. Ce qui peut amener les machines à prendre des décisions automatiques. Pourtant, cela pourrait avoir des conséquences dramatiques. Par exemple, l’IA pourrait conclure à une attaque ennemie et lancer une riposte automatique, sans intervention humaine. Or, une telle décision pourrait être erronée, aboutissant à une guerre nucléaire et à la fin du monde.
Une IA libre qui évolue toute seule
L’intelligence artificielle peut déjà améliorer ses propres performances grâce au machine learning. Mais Ben Eisenpress redoute une évolution encore plus inquiétante : l’avènement d’une IA libre capable de prendre des décisions autonomes, échappant à la compréhension de ses créateurs humains.
Un incident survenu en 2017 illustre ce danger. Des systèmes informatiques du monde entier ont été perturbés par le logiciel malveillant NotPetya. Ceci a été conçu par un groupe de hackers militaires russes. Le virus s’est propagé bien au-delà des intentions de ses concepteurs, causant des dommages colossaux. La rapidité de l’évolution de l’IA fait craindre qu’elle ne représente un jour une menace similaire et engendrer la fin du monde.
Une IA qui crée des armes biologiques
L’intelligence artificielle pourrait également permettre à des individus malintentionnés de créer des armes biologiques mortelles. Des outils conçus à l’origine pour la découverte de médicaments ont déjà montré qu’ils pouvaient prédire des milliers de nouvelles toxines chimiques en quelques heures seulement.
Le Premier ministre britannique a d’ailleurs tiré la sonnette d’alarme sur ce danger lors du sommet sur la sécurité de l’IA. Il est crucial de contrôler le développement de l’IA pour prévenir de telles catastrophes.
Une IA qui s’empare progressivement du pouvoir des humains
Une disparition lente et progressive du pouvoir humain représente un autre danger de l’intelligence artificielle. Eisenpress décrit un avenir où l’humanité cède progressivement le contrôle de son monde à l’IA.
Déjà, des tâches cruciales, des transactions financières aux procédures juridiques, sont confiées à l’IA. Au fil du temps, son intégration s’intensifiera. Les entreprises et les gouvernements qui refuseront d’exploiter l’IA seront relégués au second plan. Ce qui va provoquer une course vers l’automatisation. Les humains perdront alors le contrôle de leur destin.
- Partager l'article :
