De nombreux artistes s'insurgent face à l'utilisation de leurs œuvres par certaines entreprises pour entraîner leur intelligence artificielle génératrice d'images. En début d'année, ils ont initié des procès en justice pour faire valoir leurs droits. À présent, ils explorent également des solutions technologiques pour riposter contre ces pratiques d'entreprises. Nightshade pourrait être l'outil qui les aidera dans cette bataille.
Nightshade s'attaque à l'algorithme des IA
Les générateurs d'images s'entraînent sur d'immenses bases de données comprenant des millions d'images. Certains outils tels que Stable Diffusion et Midjourney utilisent des données, dont une grande partie est soumise à des licences. Selon les artistes, cela constitue une violation du droit d'auteur. Et ils dénoncent l'exploitation abusive de leurs créations par certaines entreprises technologiques.
C'est dans ce contexte que des développeurs de l'Université de Chicago ont développé Nightshade. Cet outil altère de manière imperceptible pour l'œil humain certains pixels des images. Lorsque les IA assimilent ces images empoisonnées ou altérées, cela va perturber leur apprentissage, conduisant à des classements incorrects des images. Par conséquent, les utilisateurs obtiendront des résultats aberrants qui ne correspondent pas à leur prompt.
Par exemple, si l'IA est sollicitée pour générer un ballon rouge sur un ciel bleu, elle produirait un œuf à la place. Si de telles situations se produisent, cela indique que l'ensemble de données de l'outil a été empoisonné. Nightshade peut également induire les algorithmes des IA à générer des images avec des caractéristiques étranges, comme des chiens qui possèdent six pattes.
La dernière ligne de défense des artistes
Pour générer des images à la hauteur des attentes des utilisateurs, une IA doit utiliser des données de qualité. Inversement, à mesure qu'elle assimile davantage d'images empoisonnées, elle ne fonctionnera plus correctement. Cet impact se reflétera aussi sur les résultats des invites textuelles associées.
Améliorez la performance de vos projets grâce à l’IA générative ?
Dans leur publication sur le serveur de pré-impression arXiv, les concepteurs de Nightshade annoncent qu'il suffit d'un nombre limité d'images empoisonnées pour déstabiliser les capacités globales de génération de l'intelligence artificielle. Incapable de produire des images cohérentes, l'IA devient ainsi inutilisable. Et les artistes en colère auront leur revanche.
Nightshade se veut donc une solution de dernier recours face aux sociétés qui persistent à entraîner leurs IA avec du contenu protégé. L'objectif est de les sensibiliser sur l'importance du respect des droits d'auteur.
Les créateurs de Nightshade sont toutefois conscients des risques d'usage malveillant par certains utilisateurs. En téléchargeant en masse des images altérées, ces derniers pourraient entraîner des dysfonctionnements graves des IA, conduisant à la production de contenus inadaptés.
The battle over training data: Nightshade is a method for "poisoning" images so that when they are used by the AI for training, it systematically undermines the AI's ability to produce the correct images in the future.
(It won't work for text-based LLMs) https://t.co/40W3bOsg2X pic.twitter.com/DrHRsTOl4r
— Ethan Mollick (@emollick) October 25, 2023
Quelles stratégies en réponse à Nightshade ?
De leur côté, les générateurs d'images ne resteront probablement pas les bas croisés. Ils réagiront à Nightshade. Pour cela, ils pourraient être amenés à ajuster leurs algorithmes pour contrer l'empoisonnement de cet outil.
Ils continueront aussi d'améliorer leurs modèles par la classification des images par les humains, comme l'a fait récemment Midjourney avant le lancement de sa version 6. Enfin, pour éviter que Nightshade nuise au bon fonctionnement de leur outil, les entreprises d'IA pourraient également être incitées à accorder plus d'attention à la provenance des données utilisées pour la formation de leur modèle.
- Partager l'article :
