La Direction générale du Trésor a dû interrompre en urgence l’expérimentation de Qwen, conçu par le géant asiatique Alibaba. Plusieurs alertes internes ont mis en évidence des réponses biaisées. Mais aussi des partis pris idéologiques incompatibles avec les missions de cette administration stratégique.
Moins d’une semaine après avoir défendu l’importance de la souveraineté technologique lors du salon VivaTech, le gouvernement français fait face à un sérieux contretemps.
Intégrée à l’application interne HéphAIstos pour assister les agents de la Direction générale du Trésor, ces derniers ont débranché Qwen AI le mardi 23 juin.
Cette décision radicale fait suite aux signalements de hauts fonctionnaires ayant constaté des biais pro-chinois marqués dans les analyses de l’outil. Ce qui a poussé le ministère à remplacer immédiatement la technologie d’Alibaba par une solution française éditée par Mistral AI.
On a identifié des biais politiques au cœur d’une direction stratégique
L’expérimentation lancée au début du mois de juin concernait une centaine d’agents sur les 1 300 que compte la Direction générale du Trésor.
Or, cette administration joue un rôle névralgique pour l’État français. Elle suit la conjoncture macroéconomique et élabore les prévisions de croissance et d’emploi. C’est aussi elle qui conseille directement l’exécutif sur la fiscalité ou la politique commerciale internationale.
L’outil HéphAIstos intégrait en effet un agent conversationnel. Mais aussi un module de transcription multilingue, configurés pour traiter des dossiers confidentiels et sensibles.
Très rapidement, les utilisateurs ont constaté plusieurs anomalies. Les réponses qu’a fournies le modèle d’Alibaba sur les sujets liés à la Chine ont été jugées systématiquement orientées.
Plusieurs cadres du secteur rappellent d’ailleurs qu’un logiciel développé sous la surveillance des autorités de Pékin intègre structurellement un filtrage idéologique. Ce qui s’avère particulièrement problématique lorsqu’il s’agit de guider la politique commerciale de la France face aux grandes puissances économiques.
Impossible d’utiliser les LLM de manière neutre ?
Ce qui s’est passé au sein de la Direction générale du Trésor français révèle une caractéristique fondamentale de l’IA générative.
Autrement dit, on ne peut pas identifier les biais comme des anomalies techniques accidentelles. Mais plutôt comme des propriétés structurelles des algorithmes.
Ils découlent cependant des bases de données d’entraînement, des règles d’alignement et des choix politiques des développeurs.
De nombreux chatbots d’origine chinoise ont d’ailleurs été pointés du doigt pour leurs réponses restrictives ou biaisées sur des sujets géopolitiques sensibles comme le statut de Taïwan ou la situation des Ouïghours.
De son côté, pour sécuriser l’expérimentation, Bercy avait mis en place un protocole technique strict. Le modèle Qwen fonctionnait localement, sans aucun accès à internet et sans possibilité de porte dérobée. Il exclut ainsi toute éventuelle fuite de données confidentielles vers l’extérieur.
Mais cette isolation matérielle a montré ses limites. Même si elle protège la confidentialité des données traitées, elle reste impuissante face à l’orientation idéologique native inscrite au cœur même du modèle de langage.
ATTENTION !!!! Ce serait une très grave erreur de se priver des modèles open source chinois ultra-performants en France.
— Defend Intelligence (Anis Ayari) (@DFintelligence) June 27, 2026
Des réponses orientées ou biaisées, oui, il y en a. Oui, il y en aura. Il y en en a aussi chez Mistral AI, GPT, Anthropic, etc.
La probabilité qu'un agent… pic.twitter.com/URyCJiIdkY
La transition vers Mistral AI est immédiate
Face à la gravité des signalements, le ministère de l’Économie et des Finances a réagi. Il a en effet ordonné l’arrêt immédiat de l’utilisation de Qwen AI après seulement quelques jours de test.
Pour ne pas bloquer le travail des agents et maintenir l’application HéphAIstos opérationnelle, Bercy a basculé dès le lendemain, mercredi, vers un modèle conçu par la start-up française Mistral AI.
Le Trésor rappelle d’ailleurs que l’usage du modèle d’Alibaba s’inscrivait dans une phase exploratoire temporaire et qu’il n’avait pas vocation à être conservé à long terme, d’autres technologies ayant vocation à être évaluées par l’administration.
Cet incident survient néanmoins à un moment politique délicat, alors que l’exécutif vient de présenter un plan global visant à intégrer l’intelligence artificielle au sein de l’ensemble des services de l’État.
- Partager l'article :
Restez à la pointe de l'information avec
INTELLIGENCE-ARTIFICIELLE.COM !
