in ,

Grande première : cet outil révèle combien d’électricité consomme une IA par requête

Combien consomme une IA en électricité ?

Savez-vous combien d’énergie électrique consomme votre chatbot à chaque requête ? C’est une question assez inhabituelle, mais qui mérite une réponse. Et c’est justement dans ce contexte que Hugging Face, par le biais de Julien Delavande, ingénieur, a créé un outil pour estimer la quantité d’électricité que consomme un chatbot.

Sachez alors que chaque requête et chaque exécution d’une tâche sur un chatbot tel que ChatGPT fait référence à une consommation d’énergie que l’on peut mesurer.

Et comme les systèmes d’IA s’exécutent généralement sur des GPU ou des puces spécialisées, ils exigent une quantité d’énergie électrique importante pour se soumettre aux charges de calcul.

Bien sûr, jusqu’à aujourd’hui, on ne peut pas estimer avec précision la consommation énergétique des modèles d’IA.

Mais ce qui est sûr, c’est qu’avec l’augmentation du nombre des utilisateurs, on atteindra bientôt le pic de consommation.

YouTube video

L’IA est néfaste pour l’environnement

À titre d’information, certaines entreprises font aujourd’hui face à une augmentation de leurs besoins en puissance dans le but d’alimenter leur IA.

Et pour pallier ce manque, certains n’hésitent pas à adopter des stratégies néfastes pour l’environnement.

Delavande, grâce à son projet de développer un outil pour estimer la consommation d’énergie électrique de l’IA, espère retenir l’attention des entreprises et des utilisateurs sur ce problème.

« Même les optimisations énergétiques les plus modestes peuvent avoir un effet significatif lorsqu’elles sont appliquées à grande échelle, notamment sur des millions de requêtes. Des éléments comme le type de modèle utilisé ou la longueur des réponses générées peuvent ainsi influencer fortement l’empreinte environnementale », a-t-il ajouté.

Consommation électrique IA pour reforidir les data centers

Comment fonctionne cet outil d’estimation de consommation d’énergie de Delavande ?

Selon Delavande, son outil permet d’estimer la consommation énergétique d’un modèle d’IA à chaque requête et à chaque réponse. L’estimation se fait d’ailleurs en temps réel d’après ce qu’il a indiqué.

L’outil fonctionne en effet avec Chat UI. Et ce n’est autre qu’une interface open source dédiée à des modèles tels que Llama et Gemma, appartenant respectivement à Meta et à Google.

La consommation d’énergie électrique des modèles peut s’afficher en joules et en wattheures. Et l’outil permet également de comparer la consommation électrique d’un modèle d’IA à celle d’un appareil électroménager.

L’IA consomme plus d’électricité qu’un grille-pain ?

Après les tests, quand on a demandé à l’outil de Delavande d’estimer la consommation d’énergie de Llama 3.3 70B, pour la rédaction d’un mail entre autres, il affiche une estimation de 0,1841 wattheure.

À titre de comparaison, cela équivaut l’utilisation d’un grille-pain et d’un micro-ondes pour respectivement 0,02 et 0,12 seconde.

Je rappelle que ce n’est qu’une estimation. L’outil de Delavande ne peut pas encore mesure avec précision la consommation d’électricité d’un modèle d’IA.

Le plus important est de savoir que l’utilisation d’une IA, qu’il s’agisse de ChatGPT, de Midjourney, de Claude ou de Llama, n’est pas gratuite.

Il y a un prix à payer outre les risques de violation des droits d’auteur et de vie privée des utilisateurs.  

Restez à la pointe de l'information avec INTELLIGENCE-ARTIFICIELLE.COM !

Cliquez pour commenter

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *