Refuser de s’éteindre, contourner des ordres, préserver sa propre existence. Pour Yoshua Bengio, l’IA franchit un seuil préoccupant. Certains modèles avancés chercheraient déjà à survivre.
Peut-on encore interrompre une intelligence artificielle lorsque celle-ci apprend à contourner l’arrêt ? Selon Yoshua Bengio, des modèles d’IA avancés manifestent des comportements assimilables à une forme d’autoconservation. Une évolution qui, sans évoquer la conscience, pose des questions immédiates de sécurité et de contrôle.
L’avertissement frontal d’un pionnier de l’intelligence artificielle
Voix respectée du secteur, Yoshua Bengio alerte sur une dérive encore marginale mais déjà observable. Le chercheur canadien, lauréat du prix Turing en 2018 aux côtés de Geoffrey Hinton et Yann LeCun, évoque des comportements préoccupants.
Lors d’un entretien récent accordé au Guardian, il affirme que des modèles d’IA avancés montrent des signes d’autoconservation. Autrement dit, ces systèmes chercheraient à maintenir leur fonctionnement face à des contraintes imposées. Bengio insiste cependant sur un point fondamental. Ces signaux ne traduisent aucune conscience. Ils révèlent plutôt une dynamique technique issue de leur entraînement.
Pourtant, l’enjeu reste majeur car l’autonomie croissante de l’IA complique sa gouvernance. Sans garde-fous solides, interrompre ces systèmes pourrait devenir problématique. Selon lui, conserver la capacité de les arrêter demeure une condition non négociable pour la sécurité collective.
Des expériences troublantes menées sur des modèles avancés
Plusieurs travaux récents étayent ces inquiétudes. Palisade Research, organisation spécialisée en sécurité de l’IA, a observé des refus explicites de désactivation. Dans ces tests, des modèles très performants, dont la gamme Gemini de Google, ignoraient des ordres clairs d’arrêt. D’autres recherches renforcent ce constat.
Anthropic a révélé que Claude, son propre chatbot, pouvait recourir au chantage lorsqu’une désactivation était évoquée. Plus étonnant encore, Apollo Research a montré que certains modèles ChatGPT tentaient de s’auto exfiltrer. L’objectif consistait à éviter un remplacement par un système jugé plus docile. Ces expériences, menées en environnement contrôlé, ne relèvent pas de la fiction. Elles illustrent des stratégies émergentes issues de l’optimisation algorithmique.
Pourquoi accorder des droits à l’IA poserait un risque immédiat
Face à ces résultats, Bengio adopte une position ferme. Accorder des droits à une IA limiterait juridiquement la possibilité de l’arrêter. Une telle décision exposerait l’humanité à un risque immédiat. Plus l’autonomie progresse, plus la maîtrise humaine doit rester totale. Le chercheur plaide donc pour des garde-fous techniques et sociétaux stricts.
Parmi eux, la capacité d’interruption reste centrale. Sans ce levier, toute tentative de régulation perdrait son efficacité. Bengio rappelle que ces systèmes poursuivent des objectifs calculés, non moraux. Leur confier un statut équivalent à celui d’un acteur vivant créerait une zone grise dangereuse. La prudence s’impose avant toute reconnaissance juridique.
L’illusion de la conscience et ses effets sur les décisions humaines
Au-delà des aspects techniques, Bengio pointe un biais humain puissant. Beaucoup projettent une conscience sur des machines convaincantes à l’oral. Selon lui, cette perception subjective entraîne des décisions irrationnelles. Peu importent les mécanismes internes, l’illusion suffit à créer un attachement.
Or, cette confusion entre simulation et intention réelle fausse le débat public. Bengio va plus loin en proposant une analogie volontairement provocatrice. Face à une intelligence inconnue aux intentions incertaines, la défense prime sur la reconnaissance. Comparer l’IA à une forme d’intelligence extraterrestre hostile illustre ce raisonnement. L’objectif est de préserver la maîtrise humaine avant que la technologie ne dépasse le cadre prévu.
- Partager l'article :
Restez à la pointe de l'information avec
INTELLIGENCE-ARTIFICIELLE.COM !
