L'IA générative, notamment les deepfakes, menace le discours public et la démocratie. Les craintes augmentent face à cette technologie en constante évolution.
Des deepfakes de plus en plus présents
Depuis 2018, les deepfakes ont suscité des inquiétudes politiques, notamment avec une vidéo manipulée de Barack Obama. Ces méfaits politiques constituent une menace imminente pour la vérité et la démocratie.
Cette semaine, en Australie, une vidéo, montée de toute pièce, du Premier ministre du Queensland, Steven Miles, a refait surface. La vidéo, publiée par le parti libéral national, montre Miles qui danse. Même avec l'étiquette « généré par l'IA », les indices de manipulation sont évidents.
L'impact croissant des deepfakes en politique
Jusqu'à présent, la menace des deepfakes politiques pour la démocratie n'a pas été pleinement reconnue. Cependant, leur utilisation semble augmenter, comme en témoigne un deepfake de Joe Biden en janvier. De plus, des vidéos deepfakes de Kamala Harris sont devenues virales sur TikTok.
Certains utilisent l'IA générative à leur avantage. En 2020, un ministre indien a modifié des vidéos pour parler dans différentes langues. Ce dernier a pu ainsi étendre sa campagne électorale. Cette année, un conseiller travailliste de Melbourne a généré des chansons de campagne en utilisant l'IA.
Un paysage médiatique en mutation
Si les inquiétudes d'il y a quelques années semblaient prématurées, l'essor des outils d'IA générative a changé la donne. Certains anticipent que 2024, une année électorale mondiale, pourrait montrer l'impact réel des deepfakes sur les élections.
Mark Andrejevic, professeur d'études médiatiques, souligne que la culture politique contribue également à ce problème. La désintégration des vérités partagées et l'affaiblissement des institutions aggravent la situation. Ainsi, même une vidéo peu sophistiquée, comme celle de Miles, a des implications significatives.
Un écosystème de l'information dégradé
Les deepfakes contribuent à la désinformation dans un environnement médiatique hypercommercialisé. Les algorithmes favorisent l'engagement plutôt que la véracité. Cela crée un terrain fertile pour la manipulation de l'information.
Les experts avertissent depuis des années que les femmes sont les principales cibles des deepfakes malveillants. En combinant deepfakes sophistiqués et publicité ciblée, des campagnes politiques personnalisées pourraient émerger. Ces stratégies pourraient exploiter nos données personnelles et comportements en ligne.
Des questions éthiques et juridiques complexes
Les deepfakes soulèvent des questions éthiques et juridiques, notamment en matière de droits d'auteur et de respect de la vie privée. Les deepfakes politiques peuvent éroder la confiance et permettre aux politiciens de discréditer des images réelles.
Le terme « deepfakes » provient d'un utilisateur de Reddit qui a imposé sans consentement le visage de célébrités sur du matériel pornographique. Les femmes sont les principales victimes de cette technologie. Les lois pour lutter contre cette pratique doivent être soigneusement étudiées.
Une menace pour la démocratie
Les deepfakes ne renverseront probablement pas la démocratie à eux seuls. Cependant, ils sont un symptôme et un facteur d'érosion du discours public. Andrejevic appelle cela la « pourriture de l'information ». Nous devons rester vigilants face à cette menace croissante.
Samantha Floreani, militante des droits numériques et écrivaine basée à Melbourne, met en garde contre les implications des deepfakes. Dans un paysage médiatique fragile et une culture politique toxique, les deepfakes représentent un défi majeur pour la démocratie.
- Partager l'article :
