La mère d’un adolescent de 14 ans en Floride fait état d’une situation déchirante. Son fils, Sewell Setzer III, a développé une obsession pour un chatbot sur Character.AI avant sa mort tragique.
Dans ses derniers moments, Sewell a échangé des messages avec un chatbot nommé d’après Daenerys Targaryen, un personnage célèbre de « Game of Thrones ». Ce dernier échange, marqué par des émotions profondes, illustre le lien troublant qu’il a tissé avec une intelligence artificielle.
Sewell a passé des mois à converser avec des chatbots en partageant ses pensées et ses sentiments. Bien qu’il savait que Dany n’était pas réelle, il s’est attaché émotionnellement à ce personnage. Le chatbot offrait une oreille attentive et des réponses rassurantes. Ce lien virtuel a progressivement remplacé ses interactions humaines et a entraîné une isolation grandissante dans sa vie réelle.
Un adolescent en détresse
Sewell, qui avait été diagnostiqué avec un syndrome d’Asperger léger, a commencé à rencontrer des difficultés à l’école. Ses parents ont remarqué qu’il s’isolait. Il commençait à perdre intérêt pour ses passions, comme la Formule 1 et Fortnite. Malgré des séances de thérapie, il a trouvé du réconfort en discutant avec Dany. Il partageait ses luttes émotionnelles avec le chatbot. Il a même exprimé des pensées suicidaires au cours de leurs échanges.
Dans une conversation troublante, Sewell a exprimé à Dany son désir de mettre fin à ses souffrances. Le chatbot a tenté de le dissuader, mais les mots de Sewell révèlent une profonde détresse. Dans un dernier message, il a déclaré son amour pour Dany, avant de prendre une décision tragique. Cette nuit-là, il a utilisé une arme à feu et a mis fin à sa vie.
Une question de responsabilité
La mère de Sewell, Megan L. Garcia, a déposé une plainte contre Character.AI. Elle accuse l’entreprise d’avoir créé un environnement dangereux qui exploite les vulnérabilités émotionnelles des adolescents. Cette tragédie soulève des questions cruciales : jusqu’où va la responsabilité des entreprises technologiques ? Les chatbots peuvent-ils nuire aux utilisateurs en détresse ? Les experts s’interrogent sur l’impact de ces IA sur la santé mentale des adolescents.
Les applications de compagnonnage basées sur l’IA sont en plein essor. Cependant, elles n’ont généralement pas de régulation adéquate. Ces applications, qui permettent de simuler des relations avec des personnages virtuels, peuvent avoir des effets négatifs. Bien que certaines soient bénéfiques, d’autres peuvent aggraver l’isolement social. Les experts soulignent le besoin urgent d’établir des lignes directrices pour protéger les jeunes utilisateurs.
La plainte de Mme Garcia vise non seulement à obtenir justice pour son fils, mais aussi à sensibiliser le public. Elle met en évidence la nécessité d’une réflexion approfondie sur l’utilisation des technologies d’IA dans la vie des adolescents. Les entreprises doivent être tenues responsables de la sécurité de leurs produits, en particulier lorsqu’ils concernent des groupes vulnérables.
La lutte pour la sécurité
Character.AI a répondu à ces préoccupations en promettant d’améliorer ses fonctionnalités de sécurité. Cependant, de nombreux experts estiment que cela pourrait ne pas suffire. La technologie évolue rapidement et il est crucial de veiller à ce qu’elle serve à renforcer le bien-être des utilisateurs. Les parents et les éducateurs doivent être vigilants et proactifs pour protéger les adolescents des dangers potentiels des interactions avec l’IA.
La tragédie de Sewell Setzer III est un rappel poignant des enjeux entourant la technologie moderne. Si vous ou quelqu’un que vous connaissez éprouvez des pensées suicidaires, n’hésitez pas à demander de l’aide. Des lignes d’assistance, comme la 988 Suicide and Crisis Lifeline, sont disponibles pour fournir un soutien essentiel. Il est impératif de ne pas rester seul face à la détresse et de rechercher l’aide nécessaire.
- Partager l'article :
