Mardi soir, ChatGPT, le chatbot star d’OpenAI, a rencontré un bug inhabituel. Ce modèle d’intelligence artificielle, connu pour sa capacité à converser de manière fluide, a soudainement dévié de son comportement habituel. Il a généré des réponses absurdes, laissant les utilisateurs perplexes.
Des réponses incompréhensibles et dénuées de sens
ChatGPT reste l’IA générative la plus utilisée. L’entreprise star de la Silicon Valley l’a dévoilée fin décembre 2022 et lui a fait bénéficier progressivement de nombreuses mises à jour afin d’améliorer ses compétences. L’IA est capable de comprendre le langage naturel et génère des réponses aux requêtes qui lui sont soumises. ChatGPT peut même vous répondre de vive voix.
Toutefois, entre mardi soir et mercredi, de nombreux utilisateurs ont rapporté avoir reçu de la part de ChatGPT des réponses dénuées de sens. L’IA mélange plusieurs langues dans ses réponses, et parfois, elle ajoute des émojis. Dans certains cas, le système reproduit la même réponse jusqu’à remplir entièrement l’écran de l’utilisateur. Pour d’autres, ChatGPT commence par générer des réponses normales et enchaîne avec du charabia pur. Certains ont précisé que même la version payante ChatGPT Enterprise est affectée par ce bug.
Surpris par ces réponses incohérentes venant de l’IA, plusieurs utilisateurs ont publié des captures d’écran des divagations de ChatGPT sur Reddit et X. « ChatGPT a un AVC », commente un utilisateur, « Il est hanté », écrit un autre.
Une optimisation de l’expérience utilisateur à l’origine du bug
Anyone else's ChatGPT having a stroke? This was an answer to a question about javascript pic.twitter.com/snoM9DHuVt
— Damon Crockett (@DamonCrockett) February 21, 2024
Suite aux signalements de nombreux utilisateurs, OpenAI a analysé le dysfonctionnement qui a touché ChatGPT mardi soir. L’entreprise a déterminé que la cause du problème provenait d’une optimisation visant à améliorer l’expérience utilisateur.
En effet, les grands modèles de langage comme ChatGPT s’appuient sur des probabilités pour générer des phrases. Ils sélectionnent des « jetons », des éléments de base du texte, pour imaginer la suite des mots. Le bug se situait au niveau de cette sélection, ce qui a abouti à des séquences de mots dénuées de sens.
OpenAI a rapidement réagi en déployant un correctif dès l’identification de la cause du problème. Le bug a été résolu mercredi matin.
Une technologie encore à perfectionner
ChatGPT a des capacités impressionnantes. Un écrivain français a même admis que cette IA écrit mieux que lui. Toutefois, cet incident démontre que cette technologie encore récente n’est pas encore stable. D’ailleurs, il faut noter qu’il ne s’agit pas du premier problème rencontré par l’IA. Par exemple, fin décembre, ChatGPT était devenu paresseux et demandait aux utilisateurs d’effectuer eux-mêmes les tâches. D’autres utilisateurs ont également réussi à contourner les filtres de sécurité de l’IA en manipulant les prompts pour générer du contenu interdit.
Suite à ce souci rencontré par ChatGPT, Gary Marcus, spécialiste en IA, souligne que « personne n’a jamais été en mesure de mettre au point des garanties de sécurité absolues autour de ces systèmes ». Pourtant, c’est indispensable pour améliorer sa fiabilité.
