L’entreprise Anthropic appelle les acteurs technologiques à instaurer un gel mondial de l’IA. Cette demande vise à stopper le développement des modèles avancés. La société affirme en outre que la technologie approche d’une étape critique d’auto-amélioration. Cela nécessite une pause selon la firme.
Anthropic indique dans un récent article de blog que son modèle Claude atteindra bientôt une auto-amélioration récursive. Selon l’entreprise, cette capacité d’amélioration autonome pourrait créer des entités qui agiront contre les intérêts humains. Ce niveau n’est pas encore atteint, mais Anthropic estime que la situation évolue vite. Elle suggère d’interrompre temporairement les recherches sur les algorithmes.
Plusieurs laboratoires internationaux doivent accepter des conditions d’arrêt communes pour concrétiser ce projet. L’entreprise reconnaît toutefois, la difficulté d’appliquer cette mesure. Les phases d’entraînement restent faciles à dissimuler. Anthropic veut blinder l’avenir de Claude et prévoit d’organiser des discussions avec des décideurs politiques ainsi que les chercheurs.
Pourquoi Anthropic demande-t-elle un gel de l’IA ?
Anthropic réclame cette pause pour permettre aux structures sociales de rattraper leur retard technologique. Anthropic domine déjà le marché avec une valorisation de 1 000 milliards de dollars. Elle dépasse OpenAI d’après les données financières du secteur. Un arrêt technologique consoliderait sa position de leader financier vu que ses modèles dominent déjà le secteur du codage.
L’entreprise a récemment annoncé le développement du modèle Mythos. Cependant, elle ne l’a pas encore rendu public. Ce système peut pirater les principaux systèmes d’exploitation indique l’entreprise. C’est ainsi que le nouveau géant d’Anthropic justifie ses demandes de gel de l’IA.
Les capacités techniques face aux enjeux de sécurité
En 2022, Anthropic a refusé de déployer un modèle pour des raisons de sécurité. Cela a laissé le champ libre à ChatGPT. L’entreprise affirme ainsi que l’évolution technologique nécessite un autre gel mondial de l’IA. De nombreux spécialistes doutent pourtant de ces affirmations. L’introduction d’un robot intelligence artificielle plus rapide dans le codage ne constitue pas par exemple une menace vitale pour l’humanité indiquent les experts du secteur.
Quelles sont les critiques formulées par les experts par rapport à cette demande de gel de l’IA ?
Les experts considèrent la demande d’Anthropic comme un simple leurre commercial. Sur la plateforme Substack, le critique Gary Marcus explique qu’Anthropic tente de susciter la peur avec l’auto-amélioration récursive. Il indique que les modèles de l’entreprise disposent d’une capacité de codage rapide qui est contrôlée par les humains. Un simple outil informatique ne provoquera pas la fin du monde.
Les observateurs soulignent également qu’Anthropic a récemment fait marche arrière sur son engagement à stopper l’entraînement d’une IA. Elle a accepté ce compromis tant que les conditions de sécurité ne sont pas réunies.
Les collaborations controversées avec les autorités militaires
Les discours d’Anthropic sur la sécurité contrastent avec ses actions sur le terrain. L’entreprise a refusé que le Pentagone utilise ses systèmes pour des armes autonomes. Des rapports ultérieurs montrent par contre que l’armée a utilisé le modèle Claude pour identifier des cibles de frappes en Iran indique un article de Futurism en juin 2026.
Le professeur Steven Murdoch a ensuite accordé un entretien au journal The Guardian. Pour appuyer sa critique, il a cité le Financial Times. Cet article révèle qu’Anthropic aide la National Security Agency (NSA) à utiliser le modèle Mythos pour des opérations de cyberguerre contre la Chine et l’Iran. Il a aussi précisé qu’Anthropic ne s’est jamais opposée au développement des capacités offensives de l’armée américaine.
Restez à la pointe de l'information avec INTELLIGENCE-ARTIFICIELLE.COM !
- Partager l'article :
