ChatGPT suspend 24 heures les comptes qui visent des contenus pédopornographiques 

Suivez INTELLIGENCE-ARTIFICIELLE.COM

Le 16 novembre 2026, OpenAI a présenté un nouveau classificateur capable de détecter les contenus d’abus sexuels sur mineurs, y compris les images générées par IA. L’entreprise ajoute des alertes dans ChatGPT, des suspensions temporaires de comptes et de nouveaux outils pour les développeurs et les forces de l’ordre.

L’objectif est d’intervenir à plusieurs étapes : détecter les images abusives, dissuader les utilisateurs, aider les plateformes à signaler les contenus et soutenir les enquêteurs. La pression est forte, car autorités, associations et plusieurs familles s’interrogent sur la sécurité de ces technologies pour les mineurs. 

D’autres chatbots ont également servi à produire des images sexuelles non consenties impliquant des enfants.

OpenAI détecte les images inédites et celles que l’IA génère

Le classificateur analyse les images et recherche des signes visuels associés aux contenus d’abus sexuels sur mineurs, souvent désignés par l’acronyme anglais CSAM. Les fichiers déjà connus ou répertoriés ne sont pas sa seule cible : il peut aussi examiner des images inédites, notamment celles qu’un système d’IA a générées.

Chaque fichier reçoit un score. Les équipes de modération peuvent ensuite hiérarchiser les vérifications humaines et traiter en priorité les contenus au risque le plus élevé.

Selon la société, l’outil a été conçu avec le National Center for Missing & Exploited Children (NCMEC). Des collaborations avec Tech Coalition et ROOST doivent faciliter son adoption, et certaines entreprises pourront y accéder gratuitement depuis l’API. À titre d’information, la source ne précise ni les critères d’éligibilité ni le calendrier d’ouverture à d’autres plateformes.

Le classificateur réduit de 48 % les images à examiner

D’après les premiers tests menés avec les partenaires, le volume d’images signalées aux examinateurs baisse de 48 %, pour le même nombre de contenus abusifs retrouvés. Les images sélectionnées ont aussi deux fois plus de chances de contenir réellement un contenu pédopornographique.

Cette précision doit alléger la charge des équipes humaines. Un classificateur trop sensible peut envoyer des milliers d’images inoffensives aux modérateurs et ralentir l’identification des cas les plus graves. Par contre, l’outil ne remplace pas l’examen humain : il organise le travail, attribue un niveau de risque et aide les spécialistes à concentrer leurs efforts. Les plateformes qui acceptent des images doivent donc conserver leurs propres procédures de vérification, de signalement et de protection.

ChatGPT avertira puis suspendra certains utilisateurs

Les demandes qui cherchent à créer ou à consulter des contenus pédopornographiques sont déjà bloquées dans ChatGPT. Un message d’avertissement plus visible vient s’y ajouter : face à une telle tentative, le service affiche une alerte et oriente l’utilisateur vers une aide spécialisée destinée à interrompre ce comportement.

Le compte concerné est aussi suspendu pendant 24 heures, une mesure présentée comme un avertissement avant une sanction plus lourde. Les récidives pourront conduire à la suppression définitive du compte.

Ces messages ont été conçus avec des spécialistes de la protection de l’enfance, dont Protect Children, la Lucy Faithfull Foundation et Joel Scanlan, chercheur à l’Université de Tasmanie. Ce dernier a participé à l’évaluation indépendante d’une expérimentation sur des messages de dissuasion, qui cherche à déterminer si une intervention au moment de la recherche peut réduire les comportements dangereux.

Des outils pour les développeurs et les forces de l’ordre

De nouvelles recommandations s’adressent aux développeurs qui utilisent les modèles et les API. Elles expliquent comment prévenir, détecter et signaler les contenus pédopornographiques. Selon l’entreprise, les premiers tests ont déjà poussé plusieurs développeurs à adopter des outils de protection de l’enfance et à s’enregistrer auprès du NCMEC pour leurs signalements.

Les services chargés de la protection des enfants reçoivent aussi des fonctions d’IA : extensions spécialisées, fonctions d’enquête et analyse de données complexes. Les administrateurs du programme contrôlent l’accès. Des formations et un guide pratique destinés aux enquêteurs complètent le dispositif, afin d’aider les autorités à exploiter l’IA sans accès non encadré à ces capacités.

Une pression croissante sur la sécurité des mineurs

Plusieurs familles ont engagé des poursuites en accusant le groupe d’avoir causé ou aggravé des dommages chez certains utilisateurs, notamment des mineurs. Common Sense Media a qualifié cette technologie de « risque inacceptable » pour les adolescents.

Au cours des douze derniers mois, un plan consacré à l’exploitation sexuelle des enfants a été publié, les règles de contenu ont été renforcées, les modèles ajustés et une version de ChatGPT destinée aux adolescents a été lancée. Le nouveau classificateur complète ces mesures. Le problème, c’est que son efficacité dépendra de son adoption par les plateformes, de la qualité des signalements et de la rapidité des interventions humaines.

Restez à la pointe de l'information avec
INTELLIGENCE-ARTIFICIELLE.COM !

Abonnez-vous à notre chaîne YouTube et rejoignez-nous sur Actualités

ARTICLES SIMILAIRES

Chaque correctif publié peut devenir une arme pour un agent IA, alerte Google 

Selon Google, des attaquants ont automatisé entièrement la découverte et l’exploitation de vulnérabilités grâce à l’IA, une première observée. Un framework baptisé exploit_agent aurait déjà

18 novembre 2026

Sekoia distingué pour son SOC autonome dopé à l’IA

Relu par Narindra R., Rédacteur en chef Avec ses agents IA, Sekoia veut accélérer les investigations de cybersécurité sans écarter les analystes humains. Une stratégie

17 novembre 2026

Microsoft détaille une attaque assistée par IA qui donne un accès cloud en moins de trois heures

Microsoft vient d’affirmer que Storm-0940, un groupe lié à l’État chinois, a utilisé le framework ARTEX pour automatiser des attaques contre des centaines d’organisations. Dans

17 novembre 2026

Après plusieurs incidents, OpenAI place un kill switch au cœur de ses modèles

Le 10 novembre 2026, OpenAI a dévoilé un système d’arrêt immédiat au cas où ChatgPT dérape. Il s’agit en effet de Control Room qui a

12 novembre 2026

L’ONU encadre l’usage de l’IA dans les villes connectées

Relu par Narindra R., Rédacteur en chef Des capteurs urbains aux logiciels de gestion municipale, l’IA dans les villes intelligentes soulève de nouvelles questions de

10 novembre 2026

Daybreak Blue et Red, différences, accès et tarifs

OpenAI a présenté Daybreak Blue et Red le 10 août 2026 pour encadrer les usages avancés de l’IA en cybersécurité. Blue facilite vos activités défensives,

6 novembre 2026