Une photo innocente a été transformée en image nue grâce à l’intelligence artificielle. Le drame secoue les lycées américains jusqu’à maintenant.
Francesca Mani, une adolescente de 14 ans, a vu sa vie bouleversée par l’IA. Un jour, son nom a été annoncé par haut-parleur au lycée de Westfield, dans le New Jersey. Dans le bureau du directeur, elle a appris qu’une photo d’elle avait été modifiée en une image dénudée. “C’est inacceptable”, a déclaré Francesca. Cette situation est devenue un exemple marquant d’une nouvelle menace numérique.
L’émergence des sites de « nudification »
Des sites comme Clothoff utilisent l’IA pour créer des images réalistes de nus à partir de photos. Selon les témoignages, un garçon de l’école a téléchargé une photo d’Instagram sur ce site et l’a transformée en une image dégradante.
Ce phénomène est préoccupant, car Clothoff reçoit des millions de visites chaque mois. Les utilisateurs peuvent télécharger des photos et obtenir des démonstrations où des images apparaissent habillées, puis se dénudent sous les yeux du spectateur. Le résultat semble souvent effrayamment réel.
Une violation de la vie privée et des conséquences dramatiques
Le directeur a convoqué Francesca et ses camarades de classe à son bureau, où elles ont découvert qu’elles étaient des cibles. Elle a exprimé son désarroi face à la façon dont on a géré cette situation. “J’ai l’impression que c’était une violation majeure de notre vie privée”, a-t-elle expliqué.
Cette affaire de « nudification par IA » a non seulement ruiné la réputation de plusieurs filles, mais a aussi provoqué un traumatisme psychologique. Yiota Souras, directrice juridique du Centre national pour les enfants disparus, a souligné que les conséquences sur la santé mentale des victimes sont graves.
Francesca et sa mère, Dorota, n’ont pas baissé les bras. Elles militent pour des lois plus strictes contre la diffusion d’images modifiées par IA. Elles ont travaillé avec des législateurs pour soutenir le Take It Down Act. Ce loi imposerait des sanctions pénales pour le partage de photos dénudées créées par IA. Le projet de loi, récemment adopté par le Sénat, exige également que les réseaux sociaux retirent ces images sous 48 heures. “Ce n’est pas juste que des enfants soient exposés à cela”, a déclaré Dorota.
Une menace qui dépasse les frontières scolaires
Le cas de Francesca n’est pas unique. Près de 30 cas similaires ont été signalés aux États-Unis. Des plateformes comme Snapchat sont utilisées pour diffuser ces images modifiées. Cela favorise une situation de harcèlement en ligne de plus en plus fréquente. Malheureusement, ces images peuvent être difficiles à supprimer, car des captures d’écran ou des copies peuvent facilement circuler. Ce qui aggrave le sentiment d’impuissance des victimes.
Dorota Mani a déposé une plainte auprès de la police, mais aucune accusation n’a encore été portée. Le manque de réactivité des entreprises technologiques face à ces abus soulève des inquiétudes. Selon Yiota Souras, les entreprises doivent prendre des mesures plus efficaces pour protéger les victimes. “Les entreprises doivent assumer immédiatement la responsabilité de supprimer ces contenus”, a-t-elle insisté. Elle appelle à un changement urgent dans la gestion de ces nudifications par IA, qui sont des nouvelles formes d’exploitation.
Restez à la pointe de l'information avec INTELLIGENCE-ARTIFICIELLE.COM !
- Partager l'article :
