L’Empreinte Écologique des LLM en Action Ce document (arxiv) Ă©value l’impact environnemental des modèles de langage Ă grande Ă©chelle (LLM) en termes de consommation d’Ă©nergie, d’eau et d’Ă©missions de carbone, se concentrant sur la phase d’infĂ©rence plutĂ´t que sur la … Read More
EcoLLM Podcast
🎙️ Le Podcast d’EcoLLM
L’IA Frugale en Action
CoĂ»t Ă©nergĂ©tique de l’infĂ©rence des LLM – Podcast
Posted by Jérémie Zarka
Green Prompting Cette Ă©tude explore l’impact de la conception des prompts et des caractĂ©ristiques des rĂ©ponses sur la consommation d’Ă©nergie des grands modèles linguistiques (LLMs) pendant l’infĂ©rence. En utilisant trois modèles open-source et diffĂ©rents types de tâches, les chercheurs ont constatĂ© que … Read More
Featured Post