Eric Cohen, président exécutif et fondateur du groupe Keyrus, alerte sur le passage d’une IA qui assiste à une IA qui agit. À ses yeux, la vraie question ne porte plus seulement sur la performance des outils, mais sur le niveau d’autonomie qu’une entreprise accepte de leur confier.
Le signal lancé le 31 août par Andrew Bailey, président du Financial Stability Board, sert de point de départ au texte d’Eric Cohen. Son propos dépasse toutefois la seule sphère financière. Dans cette tribune, il décrit une bascule ! Après l’IA générative, capable de rédiger, résumer, analyser ou produire du code, place à une IA qui peut accéder à des données, utiliser des applications et déclencher des opérations.
Une IA qui n’aide plus seulement, mais qui agit
Eric Cohen insiste sur la rupture introduite par l’IA agentique. Selon lui, les entreprises ont de bonnes raisons d’accélérer dans la relation client, les achats, la finance, la logistique ou l’administratif. La promesse n’est plus seulement l’automatisation d’une tâche isolée, mais celle de processus entiers.
Cette capacité d’action fait aussi naître un autre niveau de risque. Un agent doté de plusieurs droits peut consulter une information, la modifier, lancer une opération ou échanger avec un tiers au nom de l’entreprise. Si cet agent est mal réglé, détourné ou compromis, l’incident peut se diffuser bien plus vite qu’après une erreur humaine isolée. Dans des organisations très interconnectées, écrit-il, une faille locale peut vite prendre une ampleur systémique.
La question de l’autonomie arrive au sommet de l’entreprise
La tribune défend une idée simple : le sujet ne relève plus seulement de l’informatique ou de la cybersécurité. Il touche désormais à la gouvernance. Quels systèmes un agent peut-il utiliser ? À quelles données a-t-il accès ? Avec quels droits ? Jusqu’à quel montant peut-il engager une opération ? Peut-il parler seul à un client ou à un fournisseur ?
Eric Cohen résume l’enjeu en une formule nette : « une entreprise peut automatiser une action, elle ne peut pas automatiser la responsabilité qui l’accompagne ». Il voit là un angle mort de la course actuelle à l’IA. Les entreprises comptent les cas d’usage, les agents déployés, les gains de productivité ou la rapidité d’exécution. Elles évaluent encore trop peu le pouvoir d’action transféré aux machines.
Du Human in the Loop au Human in Command
Pour l’auteur, placer un humain derrière chaque décision ne suffit pas. À grande échelle, le Human in the Loop peut même devenir un simple rituel de validation. Face à des milliers de décisions automatisées, la personne chargée du contrôle n’a plus le temps de tout examiner.
Eric Cohen plaide donc pour un Human in Command. L’idée n’est pas de tout faire soi-même, mais de fixer les règles : niveau d’autonomie, accès aux données, actions autorisées, seuils de validation, alertes et reprise en main immédiate. Cette gouvernance doit être pensée dès la conception. Son avertissement final est clair : l’enjeu n’est pas de freiner l’IA, mais d’éviter que le pouvoir confié aux machines avance plus vite que notre capacité à le gouverner.
Article basé sur un communiqué de presse reçu par la rédaction.
- Partager l'article :
Restez à la pointe de l'information avec
INTELLIGENCE-ARTIFICIELLE.COM !
