Si les restrictions sur la génération de visuels ou de vidéos pour adulte sont encore en vigueur chez certaines IA génératives, OpenAI a décidé de permettre la création de porno. La décision va de ce fait à l'encontre de la politique mise en place par la startup. Une vision qui a pour objectif de fournir une intelligence artificielle plus sûre et plus bienfaisante pour ses utilisateurs.
Dans sa déclaration, OpenAI, le propriétaire de DALL-E, affirme avoir autorisé la génération de contenu NSFW.
D'après l'annonce, ces contenus devraient inclure les insultes, l'érotisme, les grossièretés, ainsi que le sang extrême.
« Est-ce que nous sommes en mesure de fournir la possibilité de générer du contenu NSFW de manière responsable ? Nous n' avons pas encore la réponse ! Mais en tout cas, nous travaillons sur cette possibilité en nous basant sur les attentes de nos utilisateurs ».
Non au deepfake, oui au porno ? OpenAI va à l'encontre de sa politique
« OpenAI est encore en phase de discussion sur l'éventualité de pouvoir générer du contenu pornographique avec ses produits », a déclaré Joanne Jang, employée chez OpenAI.
Parallèlement, elle ajoute que l'on ne peut, en aucun cas, générer du deepfake avec les outils proposés par la startup.
Néanmoins, elle réitère dans sa déclaration que ce sont les utilisateurs qui ont le contrôle sur le contenu qu'ils génèrent.
« Notre objectif, c'est de permettre aux utilisateurs de contrôler ce qu'ils créent. Mais il faudra qu'ils respectent les droits d'autrui. C'est pourquoi nous avons interdit formellement les deepfakes », a-t-elle ajouté.
À ce titre, définir un contenu d'œuvre pornographique dépend du point de vue de chaque utilisateur. Du moins, c'est ce qu'a souligné Jang.
Parallèlement, elle indique que certains utilisateurs, dans le cadre de leur travail, nécessitent la génération de contenu qui implique la sexualité et la nudité.
Dans ce cas bien précis, le contexte d'exploitation des contenus devrait s'adapter avec l'âge. Ce qui confirme la déclaration d'OpenAI de jeudi dernier sur son intention à ne pas générer du porno.
Priorité sur la sécurité des enfants face à la propagation de l'IA
Cette déclaration d'OpenAI de permettre la génération de porno, ou de contenu impliquant le sexe et la nudité a attiré l'attention de l'Internet Watch Foundation.
« Si OpenAI autorise ce genre de contenu, les pédophiles pourraient utiliser l'IA pour générer des images contenant des enfants nus.
Pour Beeban Kidron, œuvrant également dans la sécurité des enfants, OpenAI vient de contredire sa déclaration de mission qui est la base de proposer une IA sûre et bénéfique.
De son côté, Clare McGlynn, professeur à l'Université de Durham, a également exprimé des doutes face à l'engagement des entreprises d'IA à permettre la génération de contenu pornographique de manière responsable.
Pour se conformer aux réglementations, Microsoft a décidé d'intégrer de nouveaux dispositifs de sécurité dans Microsoft Design.
Pour ce qui est d'OpenAI, sa directrice de la technologie, Mira Murati, fait part de son avis sur la décision de l'entreprise.
Selon elle, OpenAI n'ira pas au bout de son imagination. Ce qui veut dire qu'elle ne va pas autoriser Sora AI à générer des images nues.
- Partager l'article :
