L’IA déterministe répond aux impératifs de conformité, de fiabilité et de responsabilité de l’univers professionnel. Elle vient de plus en plus compléter l’IA « générative », qui, à elle seule, ne répond peut-être pas pleinement aux exigences des environnements d’entreprise.
Alors que le Règlement sur l’IA de l’Union européenne (AI Act) s’apprête à redéfinir les cadres juridiques, les entreprises B2B, en particulier dans les secteurs à haut risque comme la pharmacie, la finance ou la logistique, font face à une urgence croissante. Comment garantir que l’intelligence artificielle respecte des standards de prédictibilité, d’auditabilité et de transparence ?
Matthieu Jonglez est SVP Product and Engineering chez Progress Software, dont la division se spécialise dans les plateformes de données. Il nous éclaire sur l’approche de son entreprise pour ancrer l’IA dans la réalité des faits et des règles.
Décrypter l’IA déterministe, entre enjeux techniques et Obligations Légales
La distinction entre IA probabiliste et déterministe est au cœur des préoccupations de Progress Software et de ses clients. Si l’IA, par nature, fonctionne souvent sur des probabilités, les conséquences de cette incertitude dans le monde de l’entreprise peuvent être désastreuses. C’est notamment le cas en termes de conformité réglementaire et de responsabilité légale.
Matthieu Jonglez l’affirme sans détour : “toutes les IA sont probabilistes par défaut, surtout lorsqu’il leur manque des informations. L’aspect déterministe est critique dans des domaines tels que la logistique, la pharmacie et la médecine, où la prédictibilité et la répétabilité du résultat sont très importantes.”
Le non-déterminisme est souvent causé par un manque de contexte. Il conduit l’IA à « utiliser ses propres connaissances ou rechercher des informations externes ». Il génère alors des hypothèses non documentées, voire des « hallucinations ».
Contrairement à l’IA déterministe, cette imprévisibilité est une source majeure de risque juridique. En l’absence de traçabilité et de reproductibilité des décisions, comment prouver la légitimité d’une action automatisée en cas de litige ? Le Règlement sur l’IA, et plus généralement le droit de la responsabilité civile, exigent une obligation de preuve et une transparence algorithmique. Elles restent difficilement compatibles avec des systèmes « génératifs ».
« Si l’IA ne peut justifier ses décisions par des règles et des Procédures Opérationnelles Standard datées et vérifiables, elle met l’entreprise en position de vulnérabilité juridique. » souligne Matthieu.
Le SOP comme garde-fou de l’intelligence artificielle
Pour Progress Software, la solution réside donc dans la capacité à « ancrer » l’IA dans un cadre de règles et de connaissances explicites.
Il faut d’abord des Procédures Opérationnelles Standard (SOP). Courantes dans l’industrie, les SOP sont des « recettes » claires pour la réalisation d’une tâche. Progress Software permet à l’IA d’interagir avec les utilisateurs. Ainsi, elle dérive ces règles métiers à partir des approbations et rejets humains.
Un agent IA peut ainsi apprendre les « règles de pensée » d’un manager pour automatiser progressivement les processus d’approbation. « L’IA devient une intersection entre un système de règles métier et un système d’IA », précise Matthieu Jonglez.
Cette approche a un double avantage. Elle réduit les coûts liés à l’utilisation de jetons (tokens) D’une part. Et d’autre part, elle garantit une gouvernance accrue, une auditabilité et une reproductibilité essentielles pour la conformité.
Enseigner l’IA déterministe par la modélisation sémantique
Ensuite, il y a la modélisation sémantique pour le « savoir-faire métier ». Au-delà des données documentées, il existe le « savoir-faire métier », les connaissances tacites qui ne figurent pas toujours dans les documents. Progress Software crée des modèles sémantiques, des représentations structurées de la connaissance du domaine (taxonomies, ontologies). Ils comblent ces lacunes.
En reliant des éléments clés dans les documents à ce modèle de connaissance externe, l’IA dispose d’un contexte plus complet et fiable. L’exemple cité est celui d’un modèle sémantique extrait des lois complexes néo-zélandaises pour déterminer le traitement des bananes importées : une démonstration éloquente de la puissance de cette approche pour des cas légaux et réglementaires.
Pour évaluer la fiabilité du contexte fourni et la « terre-à-terre » (groundedness) de la réponse, Progress Software utilise l’algorithme « Remy » (RAG Evaluation Matrix), un outil clé pour éviter les lacunes et les « trous » dans le raisonnement de l’IA.
L’Human in the Loop, responsabilité et synergie avec l’IA déterministe
La question de la responsabilité est centrale. Est-ce l’IA, son développeur, ou l’utilisateur final qui est responsable en cas d’erreur ? Progress Software adopte une position claire : maintenir l’Human in the Loop (HITL).
« Notre approche actuelle est de maintenir l’humain dans la boucle, où l’IA assiste l’humain plutôt que de le remplacer. L’IA peut interroger l’expert pour comprendre et automatiser les paramètres de décision, agissant comme une « réplication décisionnelle douce ». » insiste Matthieu Jonglez.
L’IA ne prend pas de décisions finales sans supervision humaine. Elle agit comme un copilote intelligent, aidant à structurer le raisonnement, à identifier les règles et à gérer les exceptions. Cette synergie est cruciale pour la responsabilité de l’opérateur, un principe fondamental du RGPD et des futures réglementations sur l’IA.
L’IA devient ainsi un outil d’apprentissage dynamique. L’IA déterministe « apprenant le poste sur le tas » pour enrichir les SOP et le graphe de connaissances, sans jamais supplanter l’autorité humaine.
Au-delà de l’effet de mode, les gains concrets et l’acceptation
Contrairement aux idées reçues, Matthieu Jonglez assure que cette exigence de fiabilité ne ralentit pas les systèmes, bien au contraire. « On gagne en rapidité en fait… et une réduction des coûts grâce à la consommation moindre de jetons et à l’utilisation de modèles plus simples. » insiste-t-il.
Les architectures deviennent « hybrides et composables ». Elles utilisent le meilleur système (IA, moteur de règles) pour chaque tâche spécifique, et ne sont « plus jamais IA only ».
Convaincre les décideurs passe par la démonstration de la confiance (data trust) et de l’aspect déterministe de l’IA. Ils répondent alors aux principales réticences.
En répliquant l’interprétation humaine des données dans un système automatisé, l’IA déterministe renforce l’acceptabilité et réduit la « peur de l’IA » dans les entreprises.
Quant à l’éradication totale des hallucinations, Matthieu Jonglez est lucide. « Il est impossible de retirer toutes les hallucinations ou de garantir un contexte complet dans tous les cas, car le risque est inhérent. »
L’utilisation de « guard rails », mécanismes pour refuser de répondre aux questions pour lesquelles les données sont insuffisantes, est donc une mesure de gestion des risques indispensable. Ces outils sont principalement dédiés à un usage professionnel, où la motivation et les ressources pour construire des systèmes sémantiques et des corpus d’informations pointus sont présentes.
Restez à la pointe de l'information avec INTELLIGENCE-ARTIFICIELLE.COM !
- Partager l'article :
