Les autorités du Nouveau-Mexique ont intenté une action en justice contre Snapchat pour ses pratiques jugées dangereuses pour les mineurs. Cette affaire soulève des questions éthiques sur l’utilisation de l’IA par la police pour traquer les prédateurs d’enfants en ligne.
Snapchat accusé d’être un terrain fertile pour les prédateurs
Le ministère de la Justice du Nouveau-Mexique a révélé que Snapchat facilite la mise en relation de mineurs avec des prédateurs. Selon les autorités, l’algorithme de l’application recommande activement des comptes dangereux à des utilisateurs mineurs. Dans leur enquête, les policiers ont créé un faux profil d’adolescente de 14 ans. Cela a attiré rapidement l’attention de comptes suspects. Même sans interaction initiale, le faux compte a été recommandé à des utilisateurs aux noms explicites tels que child.rape et pedo_lover10.
De plus, lorsque ce profil fictif a accepté un seul abonné, les suggestions de comptes sont devenues encore plus préoccupantes. Effectivement, cela inclue des adultes cherchant à échanger du contenu sexuellement explicite. L’application a ainsi été qualifiée de terrain fertile pour les prédateurs cherchant à exploiter les enfants. Ces faits ont alimenté une inquiétude croissante sur les lacunes en matière de sécurité.
L’IA pour piéger les prédateurs : une pratique controversée
Pour attraper les prédateurs en ligne, les policiers se sont tournés vers des images générées par l’IA, représentant de faux enfants. Cette méthode, présentée comme une solution plus éthique, pourrait néanmoins poser des problèmes légaux. En effet, les prévenus pourraient se défendre en invoquant la manipulation des autorités. Les concernés argumentent qu’ils n’étaient pas initialement prédisposés à commettre ces actes.
Carrie Goldberg, avocate spécialisée dans les crimes sexuels, met en garde contre les risques de cette pratique. Selon elle, créer des images d’abus sexuels générées par l’IA reste illégal et moralement préoccupant. Cela pourrait également compliquer les poursuites judiciaires, car la preuve générée artificiellement pourrait être contestée pour incitation.
Responsabilité de Snapchat, un combat juridique intense
Snapchat est accusé de promouvoir sa plateforme comme sûre, alors qu’elle serait en réalité un espace dangereux pour les enfants. Le procès allègue que Snapchat ignore délibérément les dangers. Ce fait expose les jeunes à des risques graves, tels que la sextorsion et l’exploitation sexuelle. Le ministère de la Justice du Nouveau-Mexique déclare avoir trouvé des preuves de milliers d’images explicites partagées sur le dark web, en grande partie issues de Snapchat.
La plainte demande à Snap de cesser ses pratiques trompeuses et de prendre des mesures pour protéger les utilisateurs mineurs. Les autorités cherchent à imposer des sanctions sévères en incluant des amendes substantielles et des injonctions contre la promotion de Snapchat comme une plateforme sécurisée pour les jeunes.
Des mesures de sécurité insuffisantes selon les experts snapchat
Malgré les efforts déclarés de Snap pour renforcer la sécurité, des experts estiment que ces mesures restent insuffisantes. Goldberg souligne que Snapchat attire les mineurs avec des fonctionnalités engageantes, mais ne parvient pas à protéger efficacement ses utilisateurs vulnérables. Elle critique également la réponse de l’entreprise face aux tragédies survenues sur sa plateforme en accusant Snap de rejeter la responsabilité sur les utilisateurs mineurs et leurs parents.
Le Nouveau-Mexique espère que ce procès incitera Snapchat à revoir ses politiques pour mieux protéger les jeunes utilisateurs. En attendant, les parents sont invités à être vigilants et à utiliser des ressources disponibles pour surveiller l’activité en ligne de leurs enfants. La sécurité des enfants sur Internet demeure une préoccupation majeure. Elle nécessite d’ailleurs une action immédiate et concertée de la part des entreprises technologiques et des autorités.
- Partager l'article :
