L’explosion du coût de l’IA ne vient pas seulement du prix des modèles, mais d’architectures de données obsolètes. Duplication inutile, contexte trop large et perte de souveraineté… Victor Coustenoble explique comment repenser sa gestion des données pour diviser la facture sans freiner l’innovation.
L’IA, jadis promesse d’efficience, confronte les entreprises à une explosion budgétaire, comme Uber en témoigne. Pour enrayer cette spirale, il faut revoir l’architecture, mieux gérer les données et optimiser les infrastructures pour mieux maîtriser les coûts de l’IA. Expert reconnu dans l’architecture de données, Victor Coustenoble œuvre depuis cinq ans en tant que Solution Architect chez Starburst. Avec plus de deux décennies d’expérience dans l’industrie de la data, il accompagne les entreprises dans l’adoption de technologies avancées. Son expertise couvre l’accès sécurisé et gouverné à de vastes volumes de données, une brique essentielle pour les initiatives d’intelligence artificielle.
L’explosion des coûts IA, au-delà des tokens
intelligence-artificielle.com : Les entreprises font face à des budgets IA qui explosent. Comment analysez-vous la situation de géants comme Uber, qui semblent consommer l’intégralité de leurs fonds dédiés à l’IA en seulement quatre mois ?
Victor Coustenoble : Oui, ce sont des situations que nous observons, même en interne. On voit de plus en plus d’utilisation. Aujourd’hui, toutes les entreprises, on voit des budgets IA qui explosent parce qu’on a ouvert les vannes. Tout le monde utilise de plus en plus.
Ce sujet est capital, et la question du coût est systématique : « combien ça va coûter ? ». Au-delà des coûts des modèles LLM, la facturation des « tokens » masque des défis structurels plus profonds. Les coûts d’infrastructure et de maintenance des projets sont des éléments essentiels à considérer dans l’optimisation coûts IA.
L’importance du contexte pour maîtriser les coûts
intelligence-artificielle.com : Vous évoquez l’importance de maîtriser le contexte pour l’IA. Comment un contexte non délimité peut-il impacter les coûts et la pertinence des réponses ?
Victor Coustenoble : Pour fonctionner, l’IA a besoin d’informations, d’un contexte sémantique pour bien répondre. Si vous lui posez une question sans connaître vos données d’entreprise ou votre métier, elle répondra avec des données trouvées sur Internet, ce qui est peu pertinent.
L’un des facteurs clés, c’est de ne pas donner un accès illimité aux données. Il faut limiter et cibler le contexte de l’entreprise. Cela a plusieurs avantages : améliorer la qualité de la donnée, car l’agent est mieux guidé, et réduire la consommation de tokens.
Plus on donne d’informations à l’IA, plus ça coûte cher. Donc là, en lui restreignant le champ d’action, les données à disposition pour répondre, on va réduire cette consommation de tokens. C’est essentiel pour des réponses plus ciblées, plus pertinentes et une meilleure optimisation des coûts IA.
Dépasser la duplication des données
intelligence-artificielle.com : L’audit souligne l’habitude persistante des entreprises à copier massivement les données pour alimenter leurs projets IA, héritage des architectures passées. Pourquoi cette approche est-elle problématique ?
Victor Coustenoble : C’est une habitude qui vient des data warehouses puis du Big Data : on pensait qu’il fallait tout mettre au même endroit. Malheureusement, bouger et dupliquer les données coûte cher : infrastructure, stockage, équipes, maintenance. C’est un coût caché significatif.
Aujourd’hui, nous avons de multiples sources de données, on-premise et cloud, avec des enjeux de souveraineté. L’idée est d’accéder aux données là où elles se trouvent, sans les bouger, via la fédération de données. Cela permet de donner un accès aux modèles LLM à des données réparties sans les déplacer, ce qui réduit considérablement la facture du projet et contribue à l’optimisation des coûts de l’IA. On peut gérer la gouvernance même si la donnée n’est pas centralisée.
Souveraineté et contrôle des modèles
intelligence-artificielle.com : La dépendance aux grands fournisseurs de LLM externes, avec leurs politiques tarifaires et le placement des données sur des infrastructures tierces, représente un autre défi. Quelles sont les alternatives pour reprendre le contrôle ?
Victor Coustenoble : Les factures peuvent exploser si l’on ne contrôle pas les modèles ou leurs accès. Les fournisseurs peuvent augmenter leurs prix du jour au lendemain, nous rendant dépendants. C’est pourquoi la souveraineté est capitale, notamment en France et en Europe.
C’est important en France et en Europe, c’est tout ce qui tourne autour de la souveraineté. Donc, avec des outils comme Starburst, on peut se connecter à des modèles qui sont dans votre propre infrastructure. Il est possible d’utiliser des modèles LLM on-premise, chez vous.
Vous contrôlez ces modèles, vous payez l’infrastructure, mais vous cessez de souscrire à des services externes. Cela permet de maîtriser pleinement les coûts et d’assurer la conformité avec des régulations comme le RGPD ou le futur AI Act.
Optimiser l’expérience utilisateur et l’agilité métier
intelligence-artificielle.com : Comment une architecture de données repensée peut-elle améliorer l’expérience des utilisateurs métiers et leur agilité ?
Victor Coustenoble : Pour les métiers, le but est un point d’accès unique à la donnée, pour faire de l’IA. Ils n’ont pas à se soucier de la technologie sous-jacente ou de la localisation des données. Cela simplifie considérablement les choses.
Un seul agent devrait pouvoir analyser les ventes, le CRM, et bien d’autres choses. La fédération de données permet de croiser facilement des informations issues de systèmes différents. Plutôt que d’attendre l’IT pour consolider de nouvelles sources pendant des mois, les métiers gagnent en agilité et en flexibilité. C’est ce qu’on appelle le time to insight : accéder rapidement, facilement, et de manière gouvernée à la donnée pour répondre aux enjeux du marché.
Vers une architecture de données hybride et flexible
intelligence-artificielle.com : Comment les architectures de données vont-elles évoluer d’ici trois ans pour soutenir l’IA tout en garantissant sécurité et coûts optimisés ?
Victor Coustenoble : Nous anticipons clairement des architectures hybrides. De nombreux clients, notamment dans la finance ou l’assurance, ont des systèmes legacy importants on-premise et veulent aussi aller dans le cloud. On ne peut pas tout centraliser au même endroit.
Il faut des moyens d’accéder à ces données distribuées, que ce soit via copie ou virtualisation. C’est un mouvement de fond, surtout en Europe, avec les enjeux de souveraineté et de conformité. Les entreprises cherchent également des architectures ouvertes, flexibles et réversibles pour éviter le vendor lock-in.
Elles doivent pouvoir évoluer rapidement, ne pas être liées par des systèmes propriétaires et s’adapter aux changements technologiques et réglementaires. La capacité de se donner le choix, l’optionnalité, est essentielle pour ne pas être entravé et pouvoir réagir aux besoins des métiers. L’IT doit être au service des métiers, et non un frein.
- Partager l'article :
Restez à la pointe de l'information avec
INTELLIGENCE-ARTIFICIELLE.COM !
