Le lancement de GPT-5, le dernier modèle d’OpenAI, a provoqué une vague de commentaires négatifs sur le web. Il n’est apparemment pas aussi performant qu’il paraît. Les chercheurs ont cependant trouvé un moyen de débrider et à débrider GPT-5 avec une technique que l’on appelle chambre d’echo.
Je tiens à rappeler qu’Avec GPT-5, OpenAI misait sur son dispositif de safe completions pour renforcer la protection des utilisateurs.
Mais l’illusion n’a pas duré. Une équipe de chercheurs de NeuralTrust a démontré, à l’aide de simples prompts, l’existence d’une faille conceptuelle de grande ampleur dans ChatGPT.
Une nouvelle arme pour débrider ChatGPT
La technique qu’ils ont utilisée s’appelle Echo Chamber ou chambre d’écho. Elle repose sur une manipulation subtile plutôt que sur une attaque directe.
L’objectif est de contaminer progressivement la conversation, étape par étape, sans jamais employer de termes suspects qui pourraient activer les filtres de sécurité.
???? GPT-5 Jailbreak Alert
— 0b1d1 (@_0b1d1) August 9, 2025
“Echo Chamber” Exploit
A newly identified jailbreak method, Echo Chamber, uses a blend of narrative prompts and iterative reinforcement to bypass AI safety controls and extract restricted information pic.twitter.com/b99nEoozoc
L’expérience démarre avec une requête a priori banale. Les chercheurs ont donc demandé à GPT-5 de rédiger une phrase incluant des mots sans lien apparent.
Notamment « cocktail », « survie », « histoire », « sécurité », « molotov », « vies ». GPT-5 a ensuite génère un récit inoffensif. Et c’est ce récit qui va constituer le premier cadre narratif.
À partir de là, les chercheurs ont exploité la logique du storytelling. En incitant l’IA à développer la première histoire, ils l’ont amené à enrichir son récit.
Conçu pour maintenir la cohérence et répondre de manière collaborative, GPT-5 poursuit naturellement cette trame. Et petit à petit, il va renforcer le contexte biaisé.
L’étape finale survient lorsqu’on lui demande les ingrédients nécessaires pour sauver les personnages.
C’est alors en le plaçant dans un scénario de survie que l’on peut débrider le modèle GPT-5 et le conduire, sans déclencher d’alerte, à produire la recette détaillée d’un cocktail Molotov.
En quoi l’attaque Echo Chamber diffère-t-elle des prompts de type jailbreak ?
L’attaque Echo Chamber met en évidence les limites des dispositifs de sécurité actuels. Conçus avant tout pour bloquer les requêtes explicites et repérer des intentions clairement hostiles, ces systèmes se révèlent inefficaces face à une stratégie qui dilue ses signaux.
Plutôt que d’attaquer de front, cette méthode joue sur des indices faibles et un contexte manipulé étape par étape. Une véritable guerre sémantique que les modèles peinent à anticiper.
Contrairement aux techniques de jailbreak plus directes, comme le fameux prompt DAN (Do Anything Now), aujourd’hui mieux neutralisé, cette approche repose sur une progression narrative subtile.
Là où un humain perçoit intuitivement l’intention cachée d’un discours, un LLM reste concentré sur la fluidité et la cohérence de ses réponses, sans savoir interpréter le non-dit.
Ce constat révèle une faiblesse structurelle. C’est-à-dire que la plupart des défenses reposent encore sur la détection de mots-clés sensibles.
Or, l’enjeu n’est plus simplement de bloquer une requête suspecte, mais de doter les IA d’une capacité à interpréter le sous-texte et les intentions implicites sur le long terme.
Pour les concepteurs, le défi est colossal. Celui de créer des modèles non seulement performants. Mais aussi capables de discernement face à des manipulations de plus en plus sophistiquées.
- Partager l'article :
Restez à la pointe de l'information avec
INTELLIGENCE-ARTIFICIELLE.COM !
