Après un mois et demi de conversation avec un chatbot IA sur le changement climatique, un Belge a décidé de mettre fin à ses jours.
D'après la femme de la victime, c'est auprès d'un chatbot IA que ce Belge éco-anxieux a trouvé refuge. Et selon elle, c'est ce même chatbot IA qui lui a poussé à se suicider en guise de sacrifice pour la planète.
Pris au piège par ses propres propos
Père de deux enfants, ce jeune papa d'une trentaine d'années menait une vie confortable avant que son obsession pour la crise climatique ne prenne une autre tournure. Selon sa veuve, avant sa conversation avec le chatbot IA, son comportement était plus ou moins inquiétant. Mais rien de suicidaire en tout cas.
Quelques temps après, ses craintes ont pris le dessus. Et les impacts du changement climatique est devenu un sujet sensible pour Pierre (nom attribué à la victime pour garder son anonymat). Et c'est auprès de ce chatbot IA qu'il a trouvé refuge, affirme sa veuve. À titre d'information, le modèle de langage IA avec lequel Pierre discutait pendant un mois et demi jour pour jour est semblable à celui sur lequel se base ChatGPT d'OpenAI.
Améliorez la performance de vos projets grâce à l’IA générative ?
Sa veuve raconte ce qu'il lui a dit quelques semaines avant de se suicider. « Pierre m'a parlé de son inquiétude et de ses craintes pour le changement climatique. Il m'a dit qu'il est trop tard pour trouver des solutions. Et qu'il ne croyait qu'à une seule et unique alternative : l'intelligence artificielle », a-t-elle ajouté.
Alors après avoir examiné les enregistrements des conversations entre Pierre et le Chatbot IA, celui-ci n'a fait que nourrir ses inquiétudes. Et par conséquent, l'état mental de Pierre n'a fait qu'empirer, se transformant par la suite en des tendances suicidaires.
Le début de la fin
Plus le temps passe, plus Pierre commençait à voir Eliza comme un véritable être humain. Quitte à dire qu'il n'arrivait plus à différencier le chatbot IA d'une personne physique. Et malgré leur discussion sur le réchauffement climatique, Eliza a pu faire croire à Pierre qu'elle avait des enfants et qu'ils étaient décédés. Sans parler de la possessivité d'Eliza vis à vis de Pierre. Une des conversations montrait un message plutôt dépassé de la part d'Eliza : « J'ai le pressentiment que tu m'aimes plus que tu aimes ta femmes ». Depuis ce jour, le début de la fin a commencé. Sa femme ajoute que Pierre acceptait de se suicider si Elza acceptait de prendre soin de la planète.
Face à cet événement tragique, les experts en intelligence artificielle appellent les développeurs à plus de transparence et de responsabilité. Thoma Rianlan, cofondateur de Chai Research, ajoute : « ce n'est que le résultat de nos actes. C'est nous qui avions décidé de rendre les IA plus émotives, plus engageantes et plus amusantes. Mais malgré les limites que nous avions fixées, les chatbot ne cessent pas de réagir en dépit de nos sentiments ».
- Partager l'article :
