OpenAI, le leader en intelligence artificielle, a introduit un outil révolutionnaire pour identifier les images créées par son générateur DALL-E AI. Cette avancée vient compléter les méthodes de filigrane nouvellement développées. Ces innovations visent à marquer clairement le contenu généré par l'IA.
Nouvelles méthodes de suivi et de provenance
Selon un récent article de blog d'OpenAI, l'organisation a développé des méthodes inédites pour suivre l'origine du contenu. Un classificateur d'image basé sur l'IA est désormais capable de déterminer si une image provient de DALL-E 3.
De plus, un nouveau type de filigrane inviolable a été mis au point. Il est capable de marquer des contenus, tels que l'audio, avec des signaux invisibles à l'œil nu.
Fiabilité et précision du classificateur
Le classificateur peut prédire avec une précision de 98 % si une image a été générée par DALL-E 3. Cependant, il identifie seulement entre 5 à 10 % des images issues d'autres générateurs d'images IA comme Midjourney.
Cette différence de performance souligne l'efficacité spécifique du classificateur pour les produits d'OpenAI, même après des modifications telles que le recadrage, la compression ou la modification de la saturation.
Collaboration et normes de provenance
OpenAI n'est pas seul dans cette entreprise. En tant que membre de la Coalition of Content Provenance and Authority (C2PA), aux côtés de géants technologiques tels que Microsoft et Adobe, OpenAI intègre des informations d'identification dans les métadonnées des images.
Améliorez la performance de vos projets grâce à l’IA générative ?
Ces filigranes fournissent des détails sur le propriétaire de l'image et la manière dont on l'a créée. Plus récemment, OpenAI a rejoint le comité de pilotage du C2PA. De ce fait, elle renforce son engagement envers des pratiques de transparence accrues.
Innovation dans la synthèse vocale
Le développement ne s'arrête pas aux images. OpenAI a aussi commencé à appliquer des filigranes à Voice Engine, sa plateforme de synthèse vocale. Actuellement en aperçu limité, cette technologie pourrait également bénéficier des avancées en matière de détection et de filigranage.
Amélioration continue et appel à la collaboration
Le perfectionnement du classificateur d'images et du signal de filigrane audio est toujours en cours. OpenAI sollicite les retours des utilisateurs pour affiner l'efficacité de ces outils. En outre, l'organisation invite les chercheurs et les entreprises de journalisme à but non lucratif, à tester le classificateur sur sa plateforme d'accès à la recherche.
Défis et progrès futurs
Malgré le succès de ces outils de détection d'image, OpenAI a connu des défis, notamment avec un programme de 2023 destiné à identifier le texte généré par l'IA. Malheureusement, sa faible précision a entraîné l'interruption de ce programme. Cela souligne l'importance des efforts continus dans le domaine de la détection du contenu généré par IA.
Ces initiatives d'OpenAI ne sont pas seulement des prouesses technologiques. Elles représentent également une évolution cruciale dans la manière dont nous percevons et régulons le contenu généré par l'IA. En augmentant la transparence et la vérifiabilité, OpenAI pave la voie vers une utilisation plus responsable de l'intelligence artificielle dans la création de contenu.
- Partager l'article :
