Une nouvelle application deepfake de pornographie rend une fois de plus les femmes victimes de l'usage abusif des technologies.
Alors que certaines femmes continuent de lutter pour faire retirer leur photo de certaines applications à dénuder, une autre vient de faire son apparition. Ce nouveau logiciel basé sur l'IA permet d'échanger le visage d'une femme dans des vidéos pornographiques par une photo au choix.
Une nouvelle application de pornographie deepfake
L'application en question invite ses utilisateurs à télécharger la photo d'un visage. Une IA génératrice d'images propose ensuite quatre visages basés sur la photo, que l'utilisateur peut utiliser pour tester le service. Mais dans quel but ? Transformer n'importe qui en star de la pornographie grâce au deepfake. Le logiciel ne connaît pas encore beaucoup d'utilisateurs, mais pour les chercheurs, il menace d'enfreindre l'éthique de l'IA d'une manière excessive.
Il ne s'agit pas de la première application qui dénude les femmes à partir d'une photo. En effet, d'après une étude, entre 90 et 95 % des vidéos deepfake en ligne sont des vidéos pornographiques non consensuelles. Pire encore, 90 % d'entre elles mettent en scène des femmes. Malgré le retrait de plusieurs de ces services, le code du logiciel est toujours disponible. Autrement dit, nous ne sommes pas prêts de nous en débarrasser.
Une technologie dévastatrice
Pour attirer les utilisateurs, l'application facilite la génération de vidéo qui peut ensuite être téléchargée. Et bien que les résultats soient loin d'être parfaits, l'impact psychologique sur les victimes reste les mêmes, selon les experts. En effet, nombreux sont ceux qui n'ont pas conscience de l'existence d'une telle technologie. Cela signifie que ces vidéos trompeuses peuvent conduire certaines personnes à blâmer les victimes, dans l'ignorance.
D'autre part, les images et les vidéos générées par ces applications sont souvent difficiles à retirer d'internet. La pornographie deepfake peut également avoir des répercussions professionnelles. Dans plusieurs cas, même après avoir prouvé qu'il s'agit de photos volées, la société continue de repousser et de harceler les victimes.
Outre les femmes qui représentent la majorité, des hommes, notamment les homosexuels peuvent également subir les conséquences dévastatrices de ces applications. Beaucoup de militants continuent de lutter pour interdire et bannir l'utilisation, voire la création de tels outils. Mais jusqu'ici la situation ne s'améliore pas.
- Partager l'article :
