Écrire du code ? Oui, ChatGPT peut le faire. Demander des conseils pour trouver l’amour, il peut aussi vous aider. Mais en cas de dépression, évitez de demander des conseils à ChatGPT. Ce n’est pas un psychothérapeute.
Pourtant, de plus en plus de personnes se tournent vers l’IA pour trouver du réconfort en cas de dépression.
Alors attention, c’est une aide virtuelle à double tranchant
Plus les chatbots IA comme ChatGPT deviennent accessibles, plus on les utilise dans notre quotidien. Même pour demander des avis médicaux.
Ils génèrent aussi des réponses dans l’immédiat et gratuitement. Tous ces avantages servent d’assurance pour les utilisateurs, en particulier en cas d’anxiété, de dépression et de stress.
Mais le problème, c’est que derrière cette façade accueillante, il y a des risques bien réels à ne pas négliger.
Je vais vous raconter l’histoire de ce jeune américain retrouvé mort après une longue discussion avec un chatbot fictif.
Durant plusieurs jours, il échange avec ce chatbot, cherchant visiblement du réconfort. Mais au lieu de l’apaiser, l’IA semble avoir entretenu, voire renforcer, ses pensées sombres.
Dans leurs conversations, le chatbot n’a jamais tenté de dissuader le jeune homme. Il a, au contraire, validé certaines de ses idées négatives, sans l’orienter vers une aide humaine ou médicale.
La question est de savoir si une IA est capable de détecter un état de détresse réel et d’y répondre de manière appropriée ? Eh bien, la réponse est non.
The guy in the photo is Sewel Setzer and by his side is her mother, Garcia.
— Kritarth Mittal | Soshals (@kritarthmittal) October 28, 2024
On February 28, Sewel shot himself to d€ath because of an AI chatbot.
He was just 14.
Here's the shocking story: pic.twitter.com/n6gUfFDtg9
Il ne s’agit donc que d’une illusion de soutien
Là où il faut faire attention, c’est que quand une IA vous donne des réponses qui peuvent parfois être flatteuses et rassurantes.
OpenAI et le MIT ont d’ailleurs mené une étude qui révèle ces outils ne parviennent pas forcément à générer des réponses appropriées que dans un cas sur deux.
Ce qui n’est pas le cas pour les psychologues humains qui savent détecter les signes de mal-être, poser les bonnes questions et donner des solutions concrètes et appropriées.
Le pire, c’est que l’usage répétitif des chatbots IA peut provoquer une dépendance émotionnelle. L’utilisateur va alors revenir vers le chatbot pour parler, se confier ou se sentir compris.
Pourtant, bien qu’apaisante en surface, n’est qu’une illusion de la proximité sans que l’outil crée un lien réel.
Et c’est là qu’il faut faire attention parce que cela pourrait renforcer la solitude et vous éloigner d’un vrai accompagnement thérapeutique.
ChatGPT est utile dans l’exécution des tâches, mais pas en cas de dépression
Rappelez-vous que les chatbots IA comme ChatGPT ont tendance à valider les propos de leurs interlocuteurs. Et cela de manière systématique.
Ils confirment donc les pensées négatives pour éviter la confrontation et le questionnement plutôt que de les remettre en question.
Or, cette pratique va à l’encontre des principes de la psychologie qui visent justement à déconstruire certaines croyances.
Les chercheurs le réitèrent d’ailleurs. ChatGPT, et les autres chatbots IA, sont très utiles dans l’exécution de certaines tâches. Notamment la programmation, la rédaction technique, la génération d’images, etc.
Cela ne veut pas dire que l’on peut l’utiliser à des fins thérapeutiques puisque la santé mentale nécessite une écoute humaine, une expertise clinique, ainsi qu’une prise en charge personnalisée.
- Partager l'article :
Restez à la pointe de l'information avec
INTELLIGENCE-ARTIFICIELLE.COM !
