Discussion :

[Jade Emy]

Les besoins énergétiques futurs des outils d'intelligence artificielle pourraient dépasser la consommation d'énergie des petits pays, selon une étude d'Alex de Vries.

Des études récentes ont mis en lumière l'importante consommation d'énergie et l'empreinte carbone des grands modèles de langage alimentés par l'intelligence artificielle (IA). L'un de ces modèles, ChatGPT, a consommé 1 287 mégawattheures d'électricité en utilisant 10 000 GPU NVIDIA, soit l'équivalent de l'énergie utilisée par 121 foyers aux États-Unis pendant un an.

Dans un commentaire publié dans la revue Joule, l'auteur Alex de Vries prévient que la demande énergétique future des outils d'IA pourrait dépasser la consommation d'énergie de petites nations. Il souligne que l'IA de Google représentera à elle seule 10 à 15 % de la consommation totale d'électricité de l'entreprise en 2021, ce qui suggère que la consommation d'énergie liée à l'IA pourrait potentiellement rivaliser avec celle d'un pays comme l'Irlande.

La demande de puces d'IA est montée en flèche avec l'essor de l'IA générative, qui a entraîné un besoin accru de puissance de calcul. Le principal fournisseur de puces, NVIDIA, a annoncé un chiffre d'affaires record, soulignant l'appétit croissant pour les puces d'IA. En réponse, des entreprises comme Google et Amazon ont développé leurs propres puces d'IA, et des rumeurs suggèrent que Microsoft dévoilera bientôt son propre matériel de puce interne.

Toutefois, cette explosion de la demande de puces d'IA s'accompagne d'un coût environnemental. Vries prévient que l'empreinte énergétique de l'industrie de l'IA continuera d'augmenter, en particulier si l'IA générative est intégrée dans chaque recherche Google. L'intégration d'un chatbot de type ChatGPT à chaque recherche nécessiterait plus de quatre millions de GPU, soit une consommation quotidienne d'électricité de 80 GWh et une consommation annuelle de 29,2 TWh.

Alors que la recherche sur la durabilité de l'IA s'est principalement concentrée sur la phase de formation à forte consommation d'énergie, Vries souligne la nécessité de prêter attention à la demande d'énergie de la phase d'inférence : lorsque les outils d'IA génèrent des résultats sur la base de leurs données de formation. L'auteur reconnaît également que les améliorations de l'efficacité du matériel et des logiciels ne peuvent pas compenser entièrement les changements à long terme de la consommation d'électricité liée à l'IA. Néanmoins, des efforts sont déployés pour atténuer l'impact environnemental de l'IA.

Par exemple, les chercheurs du MIT ont travaillé sur la réduction de la consommation d'énergie des modèles d'IA en plafonnant la puissance consommée par les GPU. Cette approche leur a permis de réduire de 12 à 15 % la consommation d'énergie des modèles d'IA. En outre, la réutilisation des GPU anciens et inutilisés issus des opérations de minage de crypto-monnaies, telles que l'Ethereum, pourrait constituer une solution alternative pour réduire les déchets électroniques et diminuer la demande énergétique de l'IA.

Alors que le domaine de l'IA continue de progresser, il est crucial de prendre en compte les implications environnementales et de rechercher des solutions durables qui concilient progrès technologique et consommation d'énergie responsable.

Source : Alex de Vries

Et vous ?

Pensez-vous que cette étude est crédible ou pertinente ?
Quel est votre avis sur la consommation d'énergie et l'émission de carbone de l'IA ?

Voir aussi :

Vers une AIEA (Agence internationale de l'énergie atomique) de l'intelligence artificielle ? L'ONU veut créer une agence mondiale pour réguler l'IA

La chaleur des centres de données : une source d'énergie renouvelable pour le chauffage et le refroidissement en Europe ? L'Union européenne a cette ambition

Microsoft envisage d'utiliser des réacteurs nucléaires pour alimenter ses centres de données, l'entreprise ne veut pas être dépendante d'une source voisine pour faire fonctionner ses services cloud

[Sandra Coret]

ChatGPT consomme plus d'énergie qu'une recherche traditionnelle sur Internet : une conversation avec ChatGPT consomme environ 50 cl d'eau, soit l'équivalent d'une petite bouteille en plastique

Trois clics pour écrire une pièce de théâtre ou créer un site web : les systèmes d'intelligence artificielle (IA) peuvent sembler magiques, mais leurs fonctions ne sont pas neutres pour l'environnement. Ils sont de grands consommateurs d'eau et d'électricité.

L'IA ne boit pas d'eau, mais les centres de données, où sont formés les systèmes d'intelligence artificielle, en utilisent beaucoup pour refroidir leurs serveurs. Il ne s'agit là que d'une partie du puzzle en ce qui concerne la consommation d'eau numérique.

Les systèmes d'intelligence artificielle tels que ChatGPT et Bard consomment bien plus d'eau et d'énergie qu'une recherche Internet classique. Selon une étude publiée par l'université de Californie à Riverside, une conversation avec ChatGPT consomme environ 50 cl d'eau, soit l'équivalent d'une petite bouteille en plastique. Avec près de 1,5 milliard d'utilisateurs par mois, l'addition est vite faite.

Fluctuation des émissions de CO2

Les centres de données, indispensables à l'apprentissage de l'IA, représentent près de 1 % de la consommation mondiale d'énergie. Ce chiffre est appelé à augmenter au cours des prochaines années.

Mais ces centres émettent des quantités variables de CO2 selon que leur pays de base produit son électricité à partir de charbon ou de gaz, par exemple, ou à partir d'énergies renouvelables. Dans un article financé par Microsoft et l'Allen Institute for Artificial Intelligence, des chercheurs ont montré qu'en modifiant le lieu d'entraînement d'une IA, il était possible de réduire de 75 % les émissions de CO2 de l'opération.

Les entreprises numériques parlent aussi beaucoup de "suivre le soleil", c'est-à-dire de changer les lieux d'entraînement de l'IA tout au long de la journée afin de pouvoir utiliser l'énergie solaire en continu. L'optimisation des lieux d'entraînement de l'IA pourrait être un moyen important de limiter son impact sur l'environnement.

Plus concrètement, une IA comme Bloom, un équivalent entièrement open-source de ChatGPT développé dans le cadre du projet de recherche BigScience, a généré l'équivalent de 25 tonnes de CO2 lors de son entraînement. Et ce, malgré le fait que la majeure partie de l'énergie utilisée provenait de l'énergie nucléaire, et était donc exempte de carbone. Pour GPT-3, qui utilise ChatGPT, l'empreinte carbone estimée est 20 fois plus élevée, soit l'équivalent d'environ 300 allers-retours Paris-New York en avion.

L'IA au service de la planète

Malgré leur impact environnemental, l'IA a un rôle à jouer dans la lutte contre le réchauffement climatique. Elle peut par exemple aider les météorologues à prévoir les événements climatiques extrêmes ou optimiser les processus industriels pour réduire les émissions de CO2.

Le défi particulier auquel sont confrontés les développeurs aujourd'hui est celui de la transparence. La plupart des modèles d'IA accessibles au public ne révèlent pas où ils ont été formés, ni le coût en carbone de leur utilisation.

Lorsque les utilisateurs disposent de ces informations, ils peuvent faire leurs propres choix en connaissance de cause. Par exemple, avant de bombarder ChatGPT de questions élémentaires, on peut se contenter d'effectuer une simple recherche dans le navigateur, ce qui est moins gourmand en énergie.

Sources : Euronews, Université de Californie Riverside

Et vous ?

Pensez-vous que l'étude de l''université de Californie soit crédible ou pertinente ?
Pensez-vous qu'il faut utiliser des outils d'IA comme ChatGPT, ou alors les boycotter, ou encore les interdire ?

Voir aussi :

Les besoins énergétiques futurs des outils d'intelligence artificielle pourraient dépasser la consommation d'énergie des petits pays, selon une étude d'Alex de Vries.

Le PDG d'un éditeur de logiciels affirme que l'utilisation de ChatGPT permet de réduire le temps nécessaire à la réalisation des tâches de codage, d'environ 9 semaines à quelques jours seulement

Une recherche avec Bard de Google et ChatGPT de Microsoft coûte probablement 10 fois plus qu'une recherche par mot-clé, ce qui pourrait représenter « plusieurs milliards de dollars de surcoûts »

[Jade Emy]

L'IA générative n'aura besoin que de deux centrales électriques pour maintenir ses applications en 2024, selon Sergey Edunov, cadre de Meta.

Sergey Edunov, cadre de Meta, affirme que l'IA générative n'a besoin que de deux centrales électriques pour maintenir ses applications en 2024. L'énergie nucléaire pourrait être en mesure de couvrir ces besoins d'après les calculs approximatifs qu'il a effectués.

L'essor de l'IA générative est considéré comme inévitable à ce stade, mais malgré cela, certaines préoccupations pourraient rendre sa croissance plus difficile. La question la plus cruciale est peut-être celle de la quantité d'énergie que l'IA générative pourrait nécessiter. La consommation d'énergie de ce secteur gourmand est un problème majeur qu'il faudra régler au plus vite.

Ceci étant dit, il est important de noter qu'un cadre de Meta, Sergey Edunov, est plutôt optimiste quant à l'avenir. En tant que directeur de l'ingénierie pour l'IA générative chez Meta, Edunov a une idée précise du type de consommation d'énergie dont l'industrie pourrait avoir besoin, et il a précisé que deux nouvelles centrales nucléaires suffiraient amplement pour faire le travail.

Lors d'une intervention au Digital Workers Forum, l'ingénieur en chef du LLM open source Llama 2 de Meta a déclaré que l'énergie produite par deux centrales nucléaires suffirait pour une année d'utilisation de l'IA. Lorsqu'on lui a demandé si le monde disposait ou non de suffisamment d'énergie pour continuer à fonctionner, il a répondu que l'IA n'était pas aussi gourmande en énergie qu'elle pourrait l'être dans un avenir proche ou lointain.

Il convient de préciser qu'Edunov faisait référence à la quantité d'énergie nécessaire à l'inférence. Il s'agit du processus par lequel l'IA peut être utilisée dans une application pour répondre à des questions et fournir des recommandations basées sur les demandes des utilisateurs, et l'existence de l'énergie nucléaire semble adéquate d'après les calculs approximatifs qu'il a effectués.

Il sera essentiel de répondre à la question des besoins en énergie de l'IA, car c'est le genre de chose qui pourrait permettre à l'industrie de se développer. Selon le rapport de Nvidia, les un à deux millions de GPU qu'elle a mis sur le marché nécessiteront 100 000 jetons LLM par personne, et bien que cela puisse sembler beaucoup, c'est en fait beaucoup plus durable si l'on tient compte de tous les éléments. Chaque GPU a besoin de 700 watts pour le refroidissement et d'autres processus, et l'énergie nucléaire pourrait être en mesure de couvrir ces besoins.

Source : Sergey Edunov, cadre de Meta, lors d'une intervention au Digital Workers Forum

Et vous ?

Pensez-vous que cette déclaration est crédible ou pertinente ?
Quel est votre avis sur le sujet ?

Voir aussi :

Les besoins énergétiques futurs des outils d'intelligence artificielle pourraient dépasser la consommation d'énergie des petits pays selon une étude d'Alex de Vries

Le ChatBot IA ChatGPT consomme plus d'énergie et d'eau qu'une recherche traditionnelle sur Internet d'après une étude de l'Université de Californie

Vers une AIEA (Agence internationale de l'énergie atomique) de l'intelligence artificielle ? L'ONU veut créer une agence mondiale pour réguler l'IA

[sergio_is_back]

Sergey Edunov, cadre de Meta, affirme que l'IA générative n'a besoin que de deux centrales électriques pour maintenir ses applications en 2024.

La vache... Déjà y'a centrale et centrale... Combien de réacteurs par centrale ?

Le mec qui écrit ça, se rend-il bien compte de quoi il parle, quand il dit ça ?
Deux centrales nucléaires donc, allez, on dit :

• Bugey, puissance nominale 3 580 MWH,
• Le Tricastin, puissance nominale 3 660 MWH

Soit 7240 MWH juste pour l'IA générative... (8 réacteurs nucléaires, rien que pour ça sur les 50 environ dont on dispose en France)
Donc ça représente à peu près 12% de toute l'électricité française produite à cette heure ci (56 000 MWH d'après RTE "en temps réel")

Va falloir se poser bientôt se pose la question de :

- Charger sa voiture électrique
- Discuter avec son IA favorite
- Se chauffer et se laver

Ça parle à quelqu'un, la sobriété énergétique, où c'est juste un terme à la mode employé par les Green Bobos Technos de la génération XWYZ+ ?