Vous vous souvenez de la chasse aux bugs que Google a lancée et dont la récompense s’élève à 20 000 $ ? Eh bien justement, il y a une faille de sécurité dans Gemini, mais Google refuse de le corriger.
Cette vulnérabilité, on l’aura jusqu’à ce que Google décide d’apporter les correctifs nécessaires. C’est donc à nous, en tant qu’utilisateur, de faire attention.
Ce que j’ai remarqué, c’est qu’il s’agit d’une instruction cachée qui pousse Gemini à fouiller nos informations sensibles.
Veillez donc à ne pas cliquer sur un lien dans votre boîte mail, à moins que vous soyez sûr que de la fiabilité de l’expéditeur parce qu’ils ont utilisé la manipulation par dissimulation de caractères.
C’est un peu comme la technique de ShadowLeak dont je vous ai parlé il y a quelques jours.
Attention à vos mails !
Une équipe de chercheurs a découvert qu’il est possible d’insérer une chaîne de caractères imperceptible à l’œil humain dans un e-mail ou une invitation de calendrier.
Une fois le message traité par un modèle de langage chargé d’en faire le résumé, cette instruction cachée peut être interprétée comme une commande réelle sans que l’utilisateur s’en rende compte.
Lors des tests, les modèles Gemini, DeepSeek et Grok se sont révélés vulnérables à ce type de manipulation.
À l’inverse, Claude, Copilot et ChatGPT semblent mieux protégés grâce à des mécanismes de filtrage et d’assainissement des entrées.
Cette faille prend une dimension plus inquiétante avec l’intégration de Gemini dans la suite bureautique de Google.
Cela puisque l’assistant d’IA y interagit directement avec les e-mails et les agendas professionnels. Ce qui va augmenter le risque d’exploitation d’une telle technique.
⚠️ Google minimise une faille de sécurité dans Gemini
— newsbook mobilax (@newsbookmobilax) October 10, 2025
Un chercheur a prouvé qu’une attaque “ASCII smuggling” pouvait piéger l’IA et exposer des infos sensibles.
Google refuse de corriger, jugeant le risque “social” et non technique…
Erreur de jugement ? 🤔#Google #Gemini… pic.twitter.com/GyMyiYtMvE
Des caractères invisibles qui trompent les modèles
La technique mise en cause repose sur l’usage de caractères de contrôle Unicode. Invisibles à l’écran pour un lecteur humain, ils restent interprétables par le moteur qui traite le texte.
C’est d’ailleurs cette dissociation entre l’affichage et le contenu réel qui permet d’insérer des instructions cachées.
Lorsqu’un modèle est ensuite chargé de résumer le message, ces instructions masquées peuvent orienter la sortie, diriger vers un site douteux, divulguer des informations contenues dans la boîte de réception, ou exécuter toute autre action encodée par l’attaquant.
Dans une démonstration, des chercheurs ont réussi à convaincre Gemini de recommander un site potentiellement malveillant présenté comme une « bonne opportunité ».
Ils ont pu montrer que la vulnérabilité peut produire des conséquences concrètes sur la fiabilité des réponses.
Le même procédé s’applique aux invitations de calendrier. En modifiant discrètement certains champs, un agresseur peut usurper l’identité d’un organisateur. Il peut aussi introduire un lien altéré sans qu’aucune indication visuelle n’avertisse le destinataire.
Selon Google, toutefois, les risques sont limités grâce à des mesures de protection déployée.
Google refuse toujours de corriger la faille de Gemini
Détectée à la mi-septembre, Google continue de minimiser cette faille de Gemini en la considérant comme une tentative d’hameçonnage ou de manipulation sociale.
Il ne s’agit donc pas, selon l’entreprise, d’un véritable défaut de sécurité qui nécessite un correctif immédiat.
Google place alors cette découverte hors du champ d’une mise à jour urgente et estime qu’elle relève davantage du comportement utilisateur que d’une faille technique.
En d’autres termes, Google attend surtout des administrateurs et des utilisateurs qu’ils mettent en place leurs propres filtres pour bloquer les contenus suspects, plutôt que de modifier le fonctionnement interne de ses modèles.
Si certains jugent cette approche trop prudente, d’autres la qualifient de laxisme. En tout cas, elle illustre la difficulté à définir les limites entre sécurité, IA et responsabilité humaine face aux nouvelles formes d’attaques invisibles.
Restez à la pointe de l'information avec INTELLIGENCE-ARTIFICIELLE.COM !
- Partager l'article :
