Le 16 novembre 2026, OpenAI a présenté un nouveau classificateur capable de détecter les contenus d’abus sexuels sur mineurs, y compris les images générées par IA. L’entreprise ajoute des alertes dans ChatGPT, des suspensions temporaires de comptes et de nouveaux outils pour les développeurs et les forces de l’ordre.
L’objectif est d’intervenir à plusieurs étapes : détecter les images abusives, dissuader les utilisateurs, aider les plateformes à signaler les contenus et soutenir les enquêteurs. La pression est forte, car autorités, associations et plusieurs familles s’interrogent sur la sécurité de ces technologies pour les mineurs.
D’autres chatbots ont également servi à produire des images sexuelles non consenties impliquant des enfants.
OpenAI détecte les images inédites et celles que l’IA génère
Le classificateur analyse les images et recherche des signes visuels associés aux contenus d’abus sexuels sur mineurs, souvent désignés par l’acronyme anglais CSAM. Les fichiers déjà connus ou répertoriés ne sont pas sa seule cible : il peut aussi examiner des images inédites, notamment celles qu’un système d’IA a générées.
Chaque fichier reçoit un score. Les équipes de modération peuvent ensuite hiérarchiser les vérifications humaines et traiter en priorité les contenus au risque le plus élevé.
Selon la société, l’outil a été conçu avec le National Center for Missing & Exploited Children (NCMEC). Des collaborations avec Tech Coalition et ROOST doivent faciliter son adoption, et certaines entreprises pourront y accéder gratuitement depuis l’API. À titre d’information, la source ne précise ni les critères d’éligibilité ni le calendrier d’ouverture à d’autres plateformes.
Le classificateur réduit de 48 % les images à examiner
D’après les premiers tests menés avec les partenaires, le volume d’images signalées aux examinateurs baisse de 48 %, pour le même nombre de contenus abusifs retrouvés. Les images sélectionnées ont aussi deux fois plus de chances de contenir réellement un contenu pédopornographique.
Cette précision doit alléger la charge des équipes humaines. Un classificateur trop sensible peut envoyer des milliers d’images inoffensives aux modérateurs et ralentir l’identification des cas les plus graves. Par contre, l’outil ne remplace pas l’examen humain : il organise le travail, attribue un niveau de risque et aide les spécialistes à concentrer leurs efforts. Les plateformes qui acceptent des images doivent donc conserver leurs propres procédures de vérification, de signalement et de protection.
We’re releasing a free new tool to vetted organizations to help detect child sexual abuse material, including AI-generated images. We’re also adding ChatGPT warnings, publishing guidance for developers, and supporting child safety investigators. We developed the classifier with assistance from the National Center for Missing & Exploited Children. We’re working with the Tech Coalition and ROOST to help make it available to more organizations. https://t.co/MqKVJ6mdTy
— OpenAI Newsroom (@OpenAINewsroom) November 16, 2026
ChatGPT avertira puis suspendra certains utilisateurs
Les demandes qui cherchent à créer ou à consulter des contenus pédopornographiques sont déjà bloquées dans ChatGPT. Un message d’avertissement plus visible vient s’y ajouter : face à une telle tentative, le service affiche une alerte et oriente l’utilisateur vers une aide spécialisée destinée à interrompre ce comportement.
Le compte concerné est aussi suspendu pendant 24 heures, une mesure présentée comme un avertissement avant une sanction plus lourde. Les récidives pourront conduire à la suppression définitive du compte.
Ces messages ont été conçus avec des spécialistes de la protection de l’enfance, dont Protect Children, la Lucy Faithfull Foundation et Joel Scanlan, chercheur à l’Université de Tasmanie. Ce dernier a participé à l’évaluation indépendante d’une expérimentation sur des messages de dissuasion, qui cherche à déterminer si une intervention au moment de la recherche peut réduire les comportements dangereux.
Des outils pour les développeurs et les forces de l’ordre
De nouvelles recommandations s’adressent aux développeurs qui utilisent les modèles et les API. Elles expliquent comment prévenir, détecter et signaler les contenus pédopornographiques. Selon l’entreprise, les premiers tests ont déjà poussé plusieurs développeurs à adopter des outils de protection de l’enfance et à s’enregistrer auprès du NCMEC pour leurs signalements.
Les services chargés de la protection des enfants reçoivent aussi des fonctions d’IA : extensions spécialisées, fonctions d’enquête et analyse de données complexes. Les administrateurs du programme contrôlent l’accès. Des formations et un guide pratique destinés aux enquêteurs complètent le dispositif, afin d’aider les autorités à exploiter l’IA sans accès non encadré à ces capacités.
Une pression croissante sur la sécurité des mineurs
Plusieurs familles ont engagé des poursuites en accusant le groupe d’avoir causé ou aggravé des dommages chez certains utilisateurs, notamment des mineurs. Common Sense Media a qualifié cette technologie de « risque inacceptable » pour les adolescents.
Au cours des douze derniers mois, un plan consacré à l’exploitation sexuelle des enfants a été publié, les règles de contenu ont été renforcées, les modèles ajustés et une version de ChatGPT destinée aux adolescents a été lancée. Le nouveau classificateur complète ces mesures. Le problème, c’est que son efficacité dépendra de son adoption par les plateformes, de la qualité des signalements et de la rapidité des interventions humaines.
- Partager l'article :
Restez à la pointe de l'information avec
INTELLIGENCE-ARTIFICIELLE.COM !

