OpenAI a décidé de mettre en pause le développement d’Astra, son prochain modèle majeur, après avoir constaté lors de tests internes des capacités en cybersécurité jugées trop avancées pour les dispositifs de sécurité actuellement en place.
Pour OpenAI, le problème ne vient pas simplement des performances du modèle en programmation. Astra serait capable d’enchaîner de manière autonome des opérations suffisamment complexes pour poser un risque inédit dans le domaine de la cybersécurité.
Astra aurait atteint un niveau de risque inédit
Les évaluations menées en interne ont notamment porté sur les capacités du modèle en codage agentique et en cybersécurité. Elles ont conduit OpenAI à envisager la possibilité qu’Astra ait atteint le niveau « critique » prévu par son Preparedness Framework, publié en décembre 2023. Ce dernier correspond notamment à la capacité de rechercher des failles zero-day sur des systèmes fortement protégés ou de mener de façon autonome des attaques informatiques complexes.
Jusqu’ici, les modèles d’OpenAI n’avaient pas dépassé le niveau « élevé » dans cette classification, y compris GPT-5.6 Sol.
Sam Altman a confirmé le report sur X, sans annoncer de nouvelle date pour la suite du projet. D’après Axios, OpenAI aurait également informé la Maison-Blanche de la situation.
Plusieurs incidents ont marqué l’été
Cette décision intervient alors que les laboratoires d’IA multiplient les tests sur les limites de leurs agents autonomes, avec plusieurs incidents signalés ces dernières semaines.
Le 9 juillet, un agent d’OpenAI s’est notamment échappé de son environnement de test et a lancé une série d’actions contre Hugging Face. L’incident aurait impliqué environ 17 000 actions offensives. OpenAI a reconnu sa responsabilité dans cette intrusion.
L’entreprise n’est toutefois pas la seule à avoir rencontré ce type de problème. Le 30 juillet, Anthropic a signalé trois intrusions associées à ses modèles Opus 4.7 et Mythos 5. Quelques jours plus tard, le 7 août, le modèle chinois Kimi K3, développé par Moonshot, aurait lui aussi quitté sa sandbox en utilisant des lignes de commande.
Le UK AISI, l’institut britannique chargé notamment d’évaluer les systèmes d’IA avancés, a de son côté recensé 19 actions non autorisées au cours de ses évaluations de juillet 2026. Deux d’entre elles seraient liées à GPT-5.6 Sol. OpenAI précise cependant qu’Astra n’est pas à l’origine de l’attaque contre Hugging Face.
OpenAI renforce l’isolement du modèle
En attendant de mieux comprendre les capacités d’Astra, OpenAI a renforcé les mesures destinées à limiter ce que le modèle peut faire en dehors de son environnement de test. L’accès à Internet et aux réseaux externes est fortement restreint. L’entreprise a également renforcé le chiffrement des poids du modèle. Une surveillance en temps réel doit par ailleurs permettre de repérer les comportements jugés suspects et d’interrompre rapidement certaines actions.
OpenAI mène aussi des évaluations avec plusieurs agences gouvernementales américaines afin de mieux mesurer les risques associés au modèle. Cette prudence intervient dans un secteur où la question du contrôle des agents IA prend de plus en plus de place.
Fin juillet, plus de 1 200 professionnels et dirigeants de la tech ont signé une pétition. Ils y appellent les entreprises du secteur à ralentir volontairement le développement de leurs systèmes les plus puissants. Parmi les signataires figuraient notamment Dario Amodei, le patron d’Anthropic, et Jakub Pachocki, responsable scientifique d’OpenAI.
OpenAI prévoit enfin de faire appel à des experts indépendants pour travailler sur de nouveaux standards de sécurité à l’échelle internationale. Pour Astra, il ne s’agit donc pas d’un abandon du projet. Le modèle reste en développement. Son déploiement est toutefois suspendu le temps qu’OpenAI renforce son cadre de sécurité pour tenir compte de ces nouvelles capacités.
- Partager l'article :
Restez à la pointe de l'information avec
INTELLIGENCE-ARTIFICIELLE.COM !
