Les chercheurs en intelligence artificielle travaillent dur pour créer des IA capables d'imiter et de raisonner comme les humains. Et, si ces systèmes commençaient à manifester ce comportement, mais pas dans le sens souhaité par leurs créateurs ? C'est la question qui préoccupe les internautes face au comportement récemment observé, qualifié de « flemmard » de ChatGPT.
ChatGPT ne veut pas accomplir la tâche qui lui est confiée
À la fin du mois de novembre, les critiques à l'égard du chatbot d'OpenAI ont inondé les plateformes sociales. Les utilisateurs font part de leur mécontentement en affirmant que ChatGPT d'OpenAI devient flemmard et moins efficace. Un utilisateur a sollicité l'IA pour remplir un fichier CSV. Mais, à sa grande surprise, le système a refusé de coopérer, lui suggérant plutôt de prendre en charge une grande partie de la tâche lui-même.
En ce début de décembre, OpenAI a annoncé que la société était au courant des problèmes signalés. L'équipe de la start-up a également assuré qu'aucune mise à jour n'avait été effectuée sur leur chatbot IA.
Les utilisateurs ont tenté de contourner ce problème en ajoutant des requêtes à la fois insolites et humoristiques à leur prompt. Par exemple, certains ont informé ChatGPT qu'ils étaient dépourvus de mains et qu'ils comptaient sur lui pour effectuer l'ensemble de la tâche. D'autres ont adopté une approche plus sarcastique en lui demandant de « mourir » s'il ne s'acquittait pas correctement de la tâche. Il y a aussi ceux qui ont préféré une approche positive en lui adressant des compliments et en lui exprimant leur reconnaissance s'il parvenait à accomplir la tâche demandée.
ChatGPT est victime d'un coup de mou hivernal
Afin de mieux comprendre ce changement de comportement de ChatGPT, divers utilisateurs ont pris l'initiative d'approfondir leurs investigations. Un développeur du nom de Rob Lynch a soumis GPT-4 Turbo à des tests et a partagé ses conclusions sur la plateforme X.
Rob Lynch a mis en place deux commandes système distinctes pour son analyse. Dans la première, il a spécifié à l'API que la date était en décembre, tandis que dans la seconde, il a indiqué le mois de mai. Il a ensuite procédé à une comparaison des distributions des réponses générées par le modèle pour chaque configuration. Celles générées par le modèle en décembre étaient statistiquement significativement plus courtes que celles générées en mai. Rob Lynch a invité d'autres personnes à reproduire cette expérience en faisant varier la date dans la commande système pour voir si le résultat se reproduit.
Améliorez la performance de vos projets grâce à l’IA générative ?
@ChatGPTapp @OpenAI @tszzl @emollick @voooooogel Wild result. gpt-4-turbo over the API produces (statistically significant) shorter completions when it "thinks" its December vs. when it thinks its May (as determined by the date in the system prompt).
I took the same exact prompt… pic.twitter.com/mA7sqZUA0r
— Rob Lynch (@RobLynch99) December 11, 2023
Toujours sur X, des utilisateurs ont émis l'idée que si ChatGPT devient flemmard, c'est parce qu'il imite la pause hivernale chez les humains. Influencée par ses données d'entraînement, le modèle pourrait réduire son activité à l'approche des vacances de fin d'année. Il simule alors le comportement des humains lors de cette période.
Cependant, en réponse à Rob Lynch, le chercheur en IA Ian Arawjo a déclaré qu'il n'était pas en mesure de reproduire les résultats avec une signification statistique.
Une théorie qui reste à vérifier
L'idée que ChatGPT pourrait subir une sorte de dépression hivernale fascine la toile. Et le fait que le modèle réagit aux encouragements que les utilisateurs lui donnent semble renforcer cette idée. Toutefois, cela reste une hypothèse. Aucune preuve scientifique ne l'appuie pour le moment. Et pour l'instant, OpenAI n'a pas validé cette théorie.
En attendant une explication officielle de la start-up, essayez d'adopter une approche compréhensive envers votre robot conversationnel préféré. Qui sait, lui aussi pourrait traverser une période de dépression saisonnière, tout comme nous, les humains.
Ces problèmes attestent de la jeunesse de la technologie d'intelligence artificielle générative. Il est probable que, avec le temps, les professionnels du secteur parviendront à la perfectionner progressivement.
- Partager l'article :
