OpenAI lève le voile, Pékin aurait détourné ChatGPT pour mener des campagnes de désinformation et des cyberattaques sur le sol chinois et à l’international. Une énième dérive de l’utilisation de l’intelligence artificielle par l’homme !
Est-ce que c’est l’intelligence artificielle qui va causer l’extinction de l’humanité ou c’est l’homme lui-même ? D’après le rapport publié par OpenAI, la licorne derrière ChatGPT, Pékin aurait détourné l’usage de ChatGPT pour alimenter des campagnes de désinformation et des opérations de cyberattaques. Ces cybéropérations ont été menées par plusieurs groupés liées de près ou de loin à la Chine, ce qui nous prouve que l’IA générative ne nous a pas révélé tous ses potentiels, surtout en ce qui concerne la géopolitiques. Explication !
ChatGPT utilisé dans des campagnes de désinformation et de cyberattaques par Pékin ?
Cette annonce d’OpenAI a fait l’effet d’une bombe dans le cercle de l’intelligence artificielle. En effet, des groupes liés à Pékin se servaient de ChatGPT afin de produire des contenus visant à manipuler les opinions sur les réseaux sociaux. De la rédaction des messages politiques, à la création d’images de profil générées par lA, en passant par des contenus clivants visant à alimenter les tensions dans la communauté américaine, ces groupes ont tout orchestré à la perfection.
Parmi les exemples relevés, OpenAI avait présenté des publications hostiles à la politique américaine sur les droits de douane ou encore de fausses accusations contre des figures publiques. D’autres contenus qui critiquaient ouvertement un jeu vidéo jugé favorable à Taïwan figuraient également dans cette liste.
Certes, les tactiques mises en place par ces groupes évoluent rapidement, mais ils restaient encore sur une échelle modeste. D’après OpenAI, ces campagnes ne relèvent pas « encore » d’une guerre informationnelle massive.
ChatGPT, lorsque les hackers s’en mêlent pour du jailbreak !
Outre les campagnes de propagandes menées sur les réseaux sociaux, ces groupes utilisaient également ChatGPT pour automatiser et affiner certaines tâches techniques de cybersécurité offensive. En d’autres termes, Pékin aurait fait appel à ces groupes pour des piratages ciblés.
Comment ils ont parvenu à détourner ChatGPT alors que cette dernière est équipée de garde-fous qui surveillent chaque requête afin d’empêcher les usages malveillants ? Tout simplement en détournant les scripts. Les groupes auraient pu créer des outils d’IA sensibles ayant permis de pirater des mots de passe ou encore de gérer les faux comptes sur les réseaux sociaux en automatique.
Quelle a été la réaction de Pékin face à cette accusation d’OpenAI ?
Comme nous nous attendions, Pékin avait refuté toutes ces accusations, en les qualifiant de sans fondement. En effet, le ministère chinois des Affaires étrangères a insisté sur la volonté de la Chine à promouvoir une IA responsable. Il n’a pas manqué également de condamner l’usage abusif de cette technologie à des fins malveillantes.
Sauf que malgré ces déclarations, le rapport d’OpenAI montre que le détournement de ChatGPT pour des cyberopérations ne cesse d’augmenter au cours de ces derniers mois. L’IA générative aurait été utilisée dans des campagnes de désinformations, de manipulations électorales et de cyber-espionnage.
Cette révélation ajoute de l’ombre sur le tableau alors qu’OpenAI vient de revoir sa valorisation à 300 milliards de dollars après une levée de fonds atteignant les 40 milliards de dollars au cours de ces dernières semaines.
Restez à la pointe de l'information avec INTELLIGENCE-ARTIFICIELLE.COM !
- Partager l'article :
