Des outils d'IA, tels que les générateurs d'images, soulèvent des inquiétudes quant à leur capacité à créer de fausses images ultra-réalistes de personnalités politiques. Cette possibilité est particulièrement préoccupante pendant les périodes électorales aux États-Unis. C'est dans ce contexte que Midjourney a décidé d'interdire la création d'images représentant des figures politiques.
Les requêtes concernant Trump et Biden sont bannies
L'élection présidentielle américaine de 2024 se profile à l'horizon, et la campagne a déjà commencé. Avec l'IA, produire des images ultra-réalistes est très facile. Il suffit de formuler sa requête ou prompt et l'outil fait le reste. Malheureusement, une telle avancée technologique offre aussi aux utilisateurs malveillants des outils pour manipuler l'opinion publique. Face à ce danger, David Holz, PDG de Midjourney, a décidé de prendre les devants.
Durant les douze prochains moins, l'IA de Midjourney ne générera plus d'images de personnalités politiques candidates à l'élection, y compris Donald Trump et Joe Biden . Cette décision vise à limiter la diffusion de deepfakes, et à protéger l'intégrité du scrutin.
« Je sais que c'est amusant de créer des images de Trump – je le fais moi-même », explique David Holz. Il ajoute qu'il vaut mieux ne pas le faire durant la période électorale.
Protéger la plateforme des critiques durant cette période sensible
L'élection présidentielle américaine se déroulera en novembre 2024. Cette mesure ne dissuadera pas forcément certaines personnes à utiliser d'autres outils IA pour leur campagne de désinformation. Néanmoins, l'interdiction instaurée par Midjourney pourrait contribuer à limiter ce phénomène.
Améliorez la performance de vos projets grâce à l’IA générative ?
Mais, si David Holtz, PDG de l'entreprise, a mis en place cette restriction, c'est aussi probablement dans le but de protéger sa plateforme des critiques et controverses pendant cette période sensible sur le plan politique. Il souhaite éviter de s'attirer des ennuis et d'entacher la réputation de son IA.
Toutefois, malgré les mesures prises par Midjourney, l'enquête de Bloomberg révèle que des failles persistent dans le système. En effet, cette agence de presse américaine a pu générer via l'IA une image satirique de Trump couvert de spaghetti. Si la dernière version de Midjourney bloquait ce type de requête, ce n'était pas le cas de la version précédente. Cela démontre que les restrictions mises en place peuvent encore être contournées par les utilisateurs.
Midjourney rejoint les autres entreprises IA dans la lutte contre la désinformation
Plusieurs entreprises d'IA s'activent pour lutter contre la prolifération des contenus trompeurs sur la toile. Outre Midjourney, Meta va aussi déployer un outil permettant de détecter automatiquement les images générées par des IA sur ses plateformes Threads, Facebook et Instagram. Ces images sont ensuite étiquetées automatiquement pour avertir les internautes. Pour les vidéos et audios créés par l'IA, Meta exige des utilisateurs de les identifier comme tels.
La plateforme YouTube a déployé une initiative similaire il y a quelques mois. Sam Altman, PDG d'OpenAI n'est pas en reste. La start-up marquera toutes les images créées par son IA DALL-E 3 (web et API) afin d'assurer la transparence des contenus.
- Partager l'article :
