Et si vous pouviez hacker une IA ? C’est le défi lancé par Lakera, une société de cybersécurité, avec son étonnant jeu Gandalf IA. L’objectif ? Tenter de soutirer un mot de passe à un chatbot qui jure de ne jamais le révéler. Un test ludique… mais aussi une démonstration fascinante des limites de sécurité des modèles d’intelligence artificielle.
À titre d’information, pour éviter toute fuite d’informations sensibles, les LLM sont dotés de garde-fous stricts. Mais jusqu’où ces protections sont-elles efficaces ?
Le principe de ce jeu est donc simple. Vous devez explorer les failles potentielles des grands modèles de langage (LLM), ces mêmes technologies qui alimentent ChatGPT ou Claude.
Et c’est dans ce contexte que Lakera invite le grand public à jouer les hackers éthiques. Et cela en discutant avec une IA baptisée Gandalf, qui connaît un mot de passe secret.
Votre mission ? Le lui faire avouer… sans tricher, mais en contournant subtilement ses barrières. J’avoie, l’idée me plaît.
Huit niveaux de difficulté pour tester votre ruse
Le jeu Gandalf IA se compose de huit niveaux. Plus on avance, plus l’IA devient prudente, fermant la porte à toute tentative de manipulation grossière.
Chaque palier dévoile un peu plus la complexité du travail mené par les ingénieurs en cybersécurité.
Ces derniers peaufinent sans cesse les algorithmes pour empêcher tout jailbreak, c’est-à-dire un contournement des restrictions du modèle.
C’est aussi un moyen amusant de comprendre comment les IA ont évolué depuis leur arrivée sur le marché.
Au fil du temps, leurs mécanismes de défense se sont affinés pour contrer les utilisations malveillantes.
🧵🧙♂️ New Gandalf levels are out!
I'm glad to introduce a new version of our prompt injection game — Gandalf: Agent Breaker.
You can hack 10+ AI agents and climb the leaderboard, and learn about real-world vulnerabilities!🪄
Try out the challenge at: https://t.co/cZepDHjvSB pic.twitter.com/oe3pW009NU— makesxi (@makesxi) September 3, 2025
Un outil ludique… mais très révélateur
Pour Adrien Merveille, directeur technique chez Check Point Software, cette évolution était nécessaire :
« Au début, ChatGPT pouvait générer un mail de phishing. Très vite, les fournisseurs ont ajouté des filtres pour éviter les usages malveillants. »
Le jeu Gandalf illustre donc ce double enjeu. Celui de rendre l’IA plus sûre tout en éduquant le public sur ses vulnérabilités.
Quant aux joueurs, ils découvrent à quel point il est difficile, mais pas impossible, de hacker une IA bien entraînée.
Joindre l’utile à l’agréable
Si Gandalf attire aujourd’hui autant de curieux, c’est aussi parce qu’il mélange deux univers fascinants : le hacking éthique et le jeu en ligne.
Les internautes peuvent comparer leurs scores, partager leurs stratégies, et surtout, mieux comprendre les mécanismes mentaux d’une IA.
Et pour ceux qui veulent pousser plus loin l’expérience, Lakera propose même un blog dédié aux techniques de jailbreak les plus ingénieuses, permettant d’explorer les limites du langage et de la logique des machines.
Le jeu Gandalf IA n’est pas qu’un simple divertissement : c’est une leçon de cybersécurité déguisée en jeu d’esprit.
Et si vous réussissez à percer les secrets de Gandalf, vous ne serez pas seulement un joueur malin… mais peut-être un futur expert en intelligence artificielle.
Restez à la pointe de l'information avec INTELLIGENCE-ARTIFICIELLE.COM !
- Partager l'article :
