Promptez en connaissance de cause : ChatUI affiche l'énergie consommée pour chaque demande à l'IA
Les modèles de langage sur lesquels sont basées les IA génératives, telles que Chat GPT, consomment énormément d'énergie pour fonctionner. Aujourd’hui, il reste difficile de disposer de chiffres précis sur la consommation d’énergie d’un prompt.
Pour y voir plus clair, Julien Delavande, ingénieur chez Hugging Face (société spécialisée dans la conception d'applications d'IA en open source) a récemment développé ChatUI. Cet outil open source permet d'estimer en temps réel la consommation d'énergie des messages rédigés avec des modèles d'IA, tels que Llama 3.3 70B de Meta ou Gemma 3 de Google (des modèles open source)
Intégré à l'interface ChatUI, cet outil affiche la consommation énergétique en wattheures ou en joules pour chaque prompt (question posée à une intelligence artificielle générative) et la compare à celle d'appareils domestiques courants. Par exemple, générer un e-mail via Llama 3.3 70B consommerait environ 0,1841 Wh : cela correspond à un micro-ondes en marche pendant 0,12 seconde.
Julien Delavande et ses co-créateurs notent que de petites économies d'énergie peuvent s'accumuler sur des millions de requêtes, et que le choix du modèle ou la longueur de la réponse peuvent avoir un impact environnemental majeur.
ChatUI est un outil expérimental : même si ses estimations ne sont pas d'une précision absolue, elles visent à sensibiliser les utilisateurs·rices à l'empreinte énergétique des requêtes réalisées avec l'IA.
Ce projet s'inscrit dans une démarche plus large de transparence au sein de la communauté open source, avec l'ambition de rendre la consommation énergétique des outils numériques aussi visible que les informations nutritionnelles sur les aliments et leur impact écologique, tel que le Nutriscore.
Références :
- Chat UI : outil open source développé par Julien Delavande
- Tech Crunch : "This tool estimates how much electricity your chatbot messages consume
[Photo de couverture : Shantanu Kumar]
Soutenez-nous en partageant l'article :
