Évaluer l'impact écologique des LLM : l’initiative innovante du projet Ecologits

L'essor des technologies d'Intelligence Artificielle générative (GenIA) et des Grands Modèles de Langage (LLM) a révolutionné de nombreux secteurs, de la création de contenu à la fourniture de services personnalisés. Aujourd’hui, l'Intelligence Artificielle générative s'immisce de plus en plus dans nos vies à travers des outils (ChatGPT, Midjourney, DALL-E, etc.) capables de générer des contenus (textuels, visuels et vidéo) de qualité quasi-humaine et à une vitesse inégalée. Cependant, cette avancée technologique s'accompagne d'une consommation énergétique considérable et d'un impact environnemental non négligeable. Il est donc crucial d'évaluer ces impacts pour promouvoir une utilisation raisonnée et responsable de l’IA générative et en particulier des LLM. Dans cet article, nous allons explorer pourquoi il est nécessaire de mesurer l'impact écologique de l'IA générative et comment le projet Ecologits.ai, contribue à cette démarche avec une approche novatrice et impactante.

Performance et coût : une évaluation incomplète des LLM

L'évaluation des LLM repose sur plusieurs critères clés qui incluent des aspects de performance technique, de pertinence contextuelle, d'éthique et de sécurité, ainsi que des considérations d'efficacité et de coût. Aujourd’hui, les performances et le coût des modèles de langage sont souvent au centre des préoccupations des entreprises qui les utilisent. Cependant, cette évaluation reste incomplète si l'on omet de prendre en compte l'impact écologique de ces technologies.

En effet, les LLM nécessitent d'énormes quantités d'énergie pour l'entraînement et l'inférence, et leur utilisation croissante contribue significativement aux émissions de gaz à effet de serre. Selon certaines études, l'entraînement de grands modèles pourrait générer autant de CO2 qu'une voiture sur toute sa durée de vie. Face à ce constat, mesurer uniquement la performance et le coût des LLM revient à ignorer une part cruciale de leur impact global. Cependant, si l’on évalue facilement les performances et le coût de l’IA générative, l’impact environnemental de son utilisation reste une zone d’ombre considérable, malgré – ou peut-être à cause de – l’incroyable rapidité de son adoption par le grand public.

Dans ce contexte, l’association Data for good, qui travaille chaque année sur des projets à impacts positifs sur des thématiques sociales, sociétales et environnementales, a conduit une recherche approfondie sur les enjeux de l'IA générative, ses implications directes et indirectes sur notre société et notre environnement. Une centaine de bénévoles ont créé le collectif “GenAI Impact” pour mettre en lumière l’impact des technologies de GenAI sur l’environnement, mieux les comprendre, les quantifier et sensibiliser les utilisateurs. L’objectif ? Mieux évaluer l’impact environnemental de l’IA générative et permettre une utilisation raisonnée et responsable.

Dans ce contexte, le collectif du projet « GenAI Impact» a créé 𝐄𝐜𝐨𝐋𝐨𝐠𝐢𝐭𝐬, une bibliothèque Python conçue pour permettre aux utilisateurs de mesurer les impacts environnementaux des requêtes faites aux différentes applications d’ IA générative.

Ecologits.ai : une initiative pionnière

Ecologits.ai est dans sa première mouture une bibliothèque Python innovante qui permet d'évaluer les impacts environnementaux et la consommation d'énergie des LLM lors de l’inférence. Ce module s'inscrit dans une logique de transparence et de responsabilité environnementale, en fournissant aux développeurs et aux entreprises les outils nécessaires pour quantifier et réduire l'empreinte écologique de leurs modèles.

Les fonctionnalités de Ecologits.ai

1. Mesure de la consommation d'énergie : Ecologits.ai fourni des outils pour mesurer la quantité d'énergie consommée lors de l'inférence des modèles. Cela inclut une granularité permettant de voir l'énergie consommée par requête, par session, ou sur des périodes plus longues.
2. Calcul de l'empreinte carbone : En se basant sur les données de consommation d'énergie et en utilisant des facteurs de conversion spécifiques, la librairie calcule l'empreinte carbone générée par l'utilisation des LLM.

Une démarche transparente et collaborative

L'une des forces de Ecologits.ai est son approche transparente et collaborative. Le projet est open-source, permettant à la communauté de contribuer, d'améliorer et de vérifier les algorithmes utilisés. Cette transparence garantit que les mesures prises sont fiables et acceptées par la communauté.

L'objectif de cet outil est de favoriser une approche durable au sein de l'industrie technologique, où les développeurs peuvent faire des choix éclairés pour minimiser l'impact environnemental sans sacrifier les performances.

Concrètement, EcoLogits suit la consommation d’énergie et l’empreinte environnementale de l’utilisation des modèles d’IA lors de l’inférence. Les modèles appartenant à cinq services d'Intelligence Artificielle (OpenAI, MistralAI, Hugging Face, Cohere, Anthropic, Google) peuvent déjà être analysés.

La contribution de Wikit à Ecologits

En tant que spécialiste de la création de chatbots basés sur l'IA générative et engagés dans une démarche numérique responsable, il nous a paru nécessaire de contribuer à un projet tel qu’Ecologits. Notre équipe de Recherche & Développement a identifié un sujet clé pour optimiser la librairie : favoriser l’utilisation d’Ecologits en production en proposant une intégration avec la passerelle LiteLLM. Ce projet aussi open source facilite l’appel de grands modèles de langages (une sorte de proxy) en standardisant les appels aux différents fournisseurs sous le format d’OpenAI.

Pourquoi cela est-il nécessaire ? Devoir individualiser les paramètres d’appel à chaque fournisseur complexifie grandement l’architecture de nos applications. En les unifiant sous un même format, cela rend l’application plus flexible et facilite l’intégration de nouveaux modèles et/ou de fournisseurs tout en gardant un code simple.

Nous avons donc contribué à Ecologits en proposant une intégration avec LiteLLM. Notre objectif est clair : faciliter l’intégration de la mesure de l’impact environnemental en production. Nous continuons encore activement à proposer des améliorations au projet pour qu’il devienne une bonne pratique obligatoire dans la création d’architectures se basant sur les grands modèles de langage.

Conclusion

Grâce à des solutions comme Ecologits.ai, les entreprises disposent désormais d'un outil précieux pour connaître précisément l'impact écologique des LLM. Cela leur permet de pouvoir choisir des modèles qui allient performance et durabilité. En adoptant une approche holistique et innovante, il est possible de minimiser le compromis entre écologie et performance, en faisant des choix technologiques qui soutiennent à la fois les objectifs commerciaux et environnementaux. La performance et le coût ne doivent plus être les seuls critères d'évaluation des LLM ; il est temps d'intégrer l'impact écologique dans cette équation pour un avenir plus durable !