ChatGPT est un outil d’apprentissage puissant. Mais c’est devenu une source d’angoisse pour les parents, particulièrement après le suicide d’un adolescent. Pour cela, OpenAI va sortir une version pour ados de l’outil, qui soit moins risquée.
Une IA « ouverte », ce n’est pas pour les enfants
Cette décision, c’est un aveu; la preuve que leur créature, dans sa version actuelle, n’est pas adaptée aux mineurs. Des incidents récents, comme le cas tragique de cet adolescent qui se serait suicidé après des conversations avec le chatbot, ont mis en lumière les dangers.
Ajoutez à ça sa capacité à être « jailbreakée » pour générer des contenus inappropriés, et sa tendance à créer des « chambres d’écho » qui peuvent amplifier la détresse… Bref, des risques trop gros pour être ignorés.
Alors, comment ça marche ? Le « compte supervisé ».
La solution, ce n’est pas un nouveau produit, mais un nouveau mode de fonctionnement. Les parents pourront créer un compte pour leur ado, qui sera lié au leur. Et ce lien, c’est la clé. C’est ce qui va permettre d’activer toute une série de restrictions et de fonctions de surveillance. Ainsi, on transforme le ChatGPT « sauvage » en un environnement plus contrôlé et plus sûr.
Des filtres renforcés et des contenus triés sur le volet
Le premier bouclier de ce mode « ado », c’est un renforcement énorme des filtres. Les conversations sur des sujets sensibles comme la violence, la sexualité ou l’automutilation seront bien plus strictement modérées, voire bloquées. Et ce n’est pas tout. L’accès à la marketplace des « GPTs » personnalisés, qui est une porte ouverte à de nombreuses dérives, sera limité à une sélection de GPTs éducatifs et vérifiés.
Un tableau de bord pour les parents
La grande nouveauté, c’est l’arrivée d’un tableau de bord pour les parents. Attention, ils n’auront pas accès au contenu exact des conversations, pour préserver un minimum d’intimité. Mais ils pourront avoir une vue d’ensemble de l’activité. Ils verront la fréquence d’utilisation, les grands thèmes abordés… Et surtout, ils pourront définir des limites de temps et des « plages horaires » d’utilisation. L’idée, c’est de s’assurer que l’IA reste un outil, et pas une addiction.
Éduquer, pas interdire
En lançant cette version, OpenAI ne dit pas aux parents de laisser leurs enfants seuls face à la machine. C’est tout l’inverse. C’est une invitation à les accompagner dans ce nouvel univers.
C’est un outil qui veut faciliter la discussion entre parents et enfants sur l’IA, sur ses dangers, mais aussi sur son potentiel. L’objectif, ce n’est pas d’interdire, mais d’éduquer; d’apprendre aux ados à utiliser ces nouveaux outils de manière critique et responsable. C’est un premier pas, sûrement imparfait, mais indispensable pour que la révolution de l’IA ne se fasse pas au détriment de la sécurité de nos enfants.
- Partager l'article :
Restez à la pointe de l'information avec
INTELLIGENCE-ARTIFICIELLE.COM !
