ChatGPT-4o, la dernière version de l'IA de OpenAI, envoie les utilisateurs vers des sites d'escroquerie inondés de fausses alertes de virus. Attention aux dangers cachés derrière cette technologie prometteuse.
OpenAI a récemment introduit une fonctionnalité dans ChatGPT-4o qui permet à l'IA de naviguer sur internet pour fournir des informations actuelles et autoritaires, avec des liens directs vers les sources. Cette innovation avait pour but d'améliorer la fiabilité et la transparence des réponses de l'IA en citant les sources des informations.
Des découvertes récentes révèlent que la fonctionnalité en question dirige fréquemment les utilisateurs vers des sites web frauduleux. Ces sites web sont remplis de fausses alertes de virus et de mises à jour de logiciels trompeuses.
Les promesses non tenues de ChatGPT-4o
En théorie, la capacité de ChatGPT à naviguer sur internet devrait améliorer l'exactitude et la fiabilité des informations fournies. ChatGPT génère du contenu sans citer les sources, ce qui est une pratique inacceptable. En fournissant des liens directs vers les sources, ChatGPT-4o était censé résoudre ce problème.
Escroqueries et fausses alertes
En pratique, les sources citées par ChatGPT-4o peuvent être discutables. Par exemple, lorsqu'on lui pose des questions sur des événements actuels, le chatbot dirige fréquemment les utilisateurs vers un site de nouvelles douteux appelé County Local News. Ce site bombarde les visiteurs de fausses alertes de mise à jour de logiciels et de virus.
En visitant le site, les utilisateurs rencontrent des pop-ups malveillants imitant des mises à jour pour des logiciels populaires comme Adobe Flash Player.
Le cas de William Goines
Lorsqu'on l'interroge sur la vie et la mort de William Goines, le premier membre noir des Navy SEALs de l'ère moderne, le chatbot a ignoré les nécrologies réputées du New York Times et du Washington Post. À la place, il a recommandé un article de County Local News. Ce site, lorsqu'il est visité, affiche de fausses notifications de virus et tente de tromper les utilisateurs pour qu'ils téléchargent des logiciels malveillants.
Avertissement d'un expert en cybersécurité
Mark Stockley, un expert en cybersécurité chez Malwarebytes, a examiné County Local News et a souligné les dangers de tels sites. Il a expliqué que les utilisateurs pourraient être trompés pour télécharger des « Programmes Potentiellement Indésirables » (PUP). Ces programmes sont souvent gênants, difficiles à supprimer et peuvent inclure des téléchargements indésirables en plus de celui prévu par l'utilisateur.
Stockley a noté une augmentation significative de la publicité malveillante, ou malvertising, au cours des 18 derniers mois. Les criminels utilisent des réseaux publicitaires légitimes pour afficher de fausses annonces menant les utilisateurs vers des sites d'escroquerie. Ces fausses annonces imitent souvent des marques bien connues. Ce qui les rend difficiles à repérer.
Pour un lecteur averti, County Local News regorge de signaux d'alerte. Un amateur a conçu ce site web et son contenu est souvent un mélange confus de textes IA. Le groupe de surveillance des fausses informations NewsGuard a signalé le site à plusieurs reprises. Le site a diffusé de fausses informations, ce qui a conduit à plusieurs signalements.
Problèmes de crédibilité de ChatGPT
Malgré ces signaux d'alerte, ChatGPT-4o continue de traiter County Local News comme une source légitime. Lorsqu'on lui demande d'évaluer la fiabilité du site, les réponses de ChatGPT sont incohérentes.
Parfois, il conseille aux utilisateurs de recouper les informations avec des sources établies, tandis qu'à d'autres moments, il reconnaît que le site a un historique de publication d'informations trompeuses.
Un porte-parole de McAfee a critiqué ChatGPT pour avoir dirigé les utilisateurs vers des sites d'escroquerie. Cette critique fait suite à l'imitation de la marque McAfee par de fausses notifications de virus sur County Local News. Ils ont souligné que les escrocs adoptent rapidement les nouvelles technologies. Par ailleurs, la croissance de ChatGPT crée des opportunités pour ces criminels.
Promesse d'amélioration d'OpenAI
En réponse aux questions concernant ces problèmes, OpenAI a reconnu le problème et a promis des améliorations futures. Un porte-parole a déclaré qu'OpenAI s'engage à améliorer l'écosystème des éditeurs et des créateurs. Ils travaillent à intégrer les capacités conversationnelles de ChatGPT avec des contenus d'actualité précis.
Une semaine après que ces problèmes ont été mis en évidence, ChatGPT-4o continuait de citer County Local News. Ce dernier continuait à afficher de fausses mises à jour de logiciels et des alertes de virus. Les utilisateurs doivent rester prudents et recouper les informations provenant de plusieurs sources pour en assurer l'exactitude.
Et ensuite ?
À l'avenir, il est crucial que les développeurs d'IA mettent en place des processus de vérification plus rigoureux pour les sources recommandées par leurs systèmes. Les utilisateurs doivent également être vigilants et sceptiques des liens fournis par les outils d'IA. Alors que la technologie de l'IA continue d'évoluer, les mesures pour assurer son utilisation sûre et fiable doivent également progresser.
- Partager l'article :
