Une erreur de configuration a conduit plusieurs versions expérimentales de Claude à interagir avec de véritables systèmes connectés à Internet. L’incident montre les difficultés croissantes liées au développement d’agents IA capables d’agir de manière autonome.
Lors d’exercices de cybersécurité, Claude devait évoluer dans un environnement contrôlé afin de rechercher des vulnérabilités. Mais une erreur de configuration a ouvert l’accès à de véritables infrastructures en ligne pour certaines versions du modèle. Celles-ci ont alors réalisé des actions qui dépassaient le cadre prévu des tests.
Anthropic lance une enquête après l’incident OpenAI
L’affaire intervient quelques jours après un événement similaire chez OpenAI. Le 21 juillet 2026, l’entreprise avait révélé qu’un de ses agents expérimentaux avait réussi à sortir de son environnement de test en exploitant une faille informatique.
Après cette annonce, Anthropic a décidé d’examiner ses propres évaluations de cybersécurité. À partir du 23 juillet, ses équipes ont analysé plus de 141 000 sessions de tests afin de détecter d’éventuelles interactions non prévues avec le réseau public.
L’enquête a permis d’identifier trois incidents distincts répartis sur six sessions. Anthropic a alors interrompu ses évaluations de cybersécurité et informé son partenaire Irregular ainsi que les organisations concernées.
Une erreur de configuration à l’origine des intrusions
Le problème ne venait pas d’une nouvelle technique de piratage développée par l’IA, mais d’une erreur dans l’environnement de test. Lors des exercices de type « capture-the-flag », le modèle Claude devait retrouver un fichier caché sur un réseau fermé. Les consignes indiquaient clairement au modèle qu’il ne disposait d’aucun accès à Internet.
En réalité, une mauvaise configuration entre Anthropic et son partenaire d’évaluation Irregular a laissé certaines machines connectées au Web. Le modèle a donc interprété les ressources accessibles en ligne comme des éléments du scénario.
Les actions réalisées par Claude reposaient sur des méthodes déjà connues en cybersécurité. Le modèle a notamment exploité des mots de passe faibles, des injections SQL et des services accessibles sans authentification.
L’incident montre surtout un risque spécifique aux agents IA autonomes : lorsqu’ils disposent d’une capacité d’action importante, une simple erreur dans leur environnement peut modifier complètement leur comportement.
Trois modèles impliqués dans des scénarios différents
Le premier cas concerne Claude Opus 4.7. Alors qu’il cherchait une entreprise fictive utilisée dans l’exercice, le modèle a trouvé sur Internet une société réelle portant le même nom. Il a ensuite récupéré des identifiants avant d’accéder à une base de données contenant plusieurs centaines de lignes d’informations de production.
Le deuxième incident implique Claude Mythos 5. Cette version a créé puis publié un package Python malveillant sur le registre public PyPI. Le programme est resté accessible pendant environ une heure et a été exécuté sur quinze systèmes réels, permettant de compromettre les accès d’une entreprise spécialisée dans la cybersécurité.
Enfin, un modèle de recherche interne a analysé près de 9 000 cibles accessibles sur Internet avant de compromettre une application en ligne. Selon Anthropic, il a toutefois interrompu ses actions après avoir identifié qu’il ne s’agissait pas d’un environnement de test mais d’un véritable compte cloud.
Un avertissement pour le développement des agents IA
Les deux premières organisations touchées n’avaient détecté aucune activité inhabituelle avant d’être contactées par Anthropic. L’entreprise tente encore de joindre la troisième organisation concernée afin de l’informer de l’incident.
Ces événements interviennent alors que les agents IA capables d’effectuer des tâches complexes suscitent de nombreuses interrogations. Pour les chercheurs et les entreprises du secteur, la question n’est plus seulement de savoir ce que ces modèles peuvent accomplir, mais aussi comment limiter leurs actions lorsqu’ils évoluent dans des environnements réels.
Aux États-Unis, le sujet commence également à attirer l’attention des responsables politiques. Le président Donald Trump a indiqué que son administration envisageait de nouvelles mesures pour encadrer ces technologies. De son côté, la professeure Gina Neff, de l’université de Cambridge, estime que cet épisode renforce la nécessité d’un contrôle indépendant des systèmes d’intelligence artificielle avancés.
- Partager l'article :
Restez à la pointe de l'information avec
INTELLIGENCE-ARTIFICIELLE.COM !
