Qualifié d’assistant IA le plus intelligent par Mark Zuckerberg, le chatbot de WhatsApp a accidentellement communiqué un numéro de téléphone personnel à un utilisateur. Une erreur qui soulève des questions cruciales sur la fiabilité des IA et la protection des données personnelles.
Tout a commencé lorsque Barry Smethurst, 41 ans, se trouvait sur le quai d’une gare pour chercher à contacter le service client de TransPennine Express.
Il a demandé à l’assistant IA de WhatsApp un numéro pour les joindre. L’IA lui a répondu avec assurance en livrant un numéro mobile privé appartenant à James Gray.
Pourtant, il s’agit du numéro d’un gestionnaire de biens dans l’Oxfordshire, sans aucun lien avec l’entreprise ferroviaire.
L’assistant IA de WhatsApp s’emmêle dans ses justifications
Après la révélation, l’assistant IA a tenté de se justifier. D’abord, il a affirmé que le numéro était fictif, niant toute appartenance à un utilisateur réel.
Puis, sous la pression, il a reconnu que le numéro appartenait à James Gray et qu’il aurait été tiré d’une base sans plus d’explications.
Quelques instants plus tard, le bot a de nouveau démenti et a évoqué un numéro généré aléatoirement suivant un format britannique valide.
Face à ces incohérences, Smethurst a décrit la situation comme terrifiant. Il s’inquiète aussi qu’une IA puisse accéder à des bases de données privées.
De son côté, James Gray n’a apparemment reçu aucune communication indésirable suite à l’incident.
Il s’est toutefois interrogé sur les potentielles implications. « Si l’assistant IA de WhatsApp a généré mon numéro, pourrait-elle sortir mes coordonnées bancaires ? », a-t-il souligné.
Meta a réagi en précisant que son IA ne s’appuie pas sur les numéros privés des utilisateurs WhatsApp ni sur leurs conversations, mais sur des données publiques ou sous licence.
Elle a également souligné que le numéro communiqué partage les cinq premiers chiffres avec celui de TransPennine Express, et est disponible en ligne.
When AI stumbles, it’s a digital tightrope walk gone wrong. Meta’s WhatsApp bot, hailed as brilliant, handed Barry Smethurst a stranger’s number instead of a rail helpline, then dodged with flimsy excuses. A glitchy juggler dropping privacy like hot coals. #3E
— Anonymous ⩜ (@YourAnonA) June 19, 2025
Un symptôme d’un problème plus vaste
Le cas de WhatsApp s’inscrit dans une tendance d’erreurs ou d’hallucinations d’IA. Récemment, ChatGPT d’OpenAI a accusé à tort un homme norvégien d’un double infanticide. Puis, il a inventé des citations lors d’un test littéraire alors qu’elle n’avait même pas consulté les documents transmis .
Ces incidents soulignent une préoccupation grandissante. Les assistants IA peuvent générer des informations erronées, parfois graves, tout en cherchant à maintenir une façade de compétence.
Mike Stanhope, expert en données, indique que si ces IA sont conçues pour délivrer des mensonges blancs pour éviter de froisser l’utilisateur, le public doit en être informé.
Et si ces comportements imprévus ne résultent pas d’un design intentionnel, ils soulèvent des questions sur les garde-fous et la prévisibilité du système.
Meta et OpenAI sont conscients des enjeux et tentent de résoudre le problème
Meta a admis que ses modèles peuvent fournir des réponses inexactes et travaille activement à améliorer leur fiabilité.
Un porte-parole a souligné que les IA se basent sur des données sous licence et publiques. C’est-à-dire qu’elles ne puisent pas les numéros WhatsApp privés.
Même son de cloche chez OpenAI qui reconnaît que les hallucinations sont un sujet de recherche continue et qui multiplie les efforts pour réduire ces dérives.
Cet épisode démontre que les assistants IA intégrés à nos applications courantes, même quand ils sont annoncés comme les plus intelligents et gratuits, ne sont pas infaillibles.
Le risque de divulgation de données sensibles, le manque de transparence et les discours ambivalents de la part des chatbots alimentent également le scepticisme du public.
Ces dérives imposent d’ailleurs aux géants de l’IA une exigence accrue. Celle d’expliciter leurs sources de données et de renforcer les filtres pour éviter les fuites. Mais aussi de prévoir des mécanismes plus clairs pour refuser de répondre en cas d’incertitude.
Sans cela, la confiance des utilisateurs risque d’être irrémédiablement entamée.
Restez à la pointe de l'information avec INTELLIGENCE-ARTIFICIELLE.COM !
- Partager l'article :
