Un « merci » à un robot conversationnel ne coûte rien à l’utilisateur, mais ce n’est pas le cas côté machine. Une étude menée par Julien Delavande, Sasha Luccioni et Régis Pierrard révèle que ce simple mot de politesse a un prix… énergétique.

Contrairement à un humain, un modèle de langage comme ChatGPT ne garde pas en mémoire les échanges passés, sauf instruction contraire. Pourtant, chaque réponse, aussi courte soit-elle, nécessite une opération complète d’inférence, activant des milliards de paramètres. Selon Sam Altman, patron d’OpenAI, les « merci » et « s’il vous plaît » auraient déjà coûté des dizaines de millions de dollars en ressources informatiques.

Dire merci à une IA, c’est l’équivalent de trois minutes
d’éclairage d’une ampoule LED de 5 watts.

Pour quantifier l’impact énergétique d’un simple « merci », les chercheurs ont analysé 10 000 conversations conclues par un message de remerciement adressé à LLaMA 3–8B, un modèle de langage de Meta. Résultat : une réponse de l’IA consomme en moyenne 0,245 Wh — soit l’équivalent de trois minutes d’éclairage d’une ampoule LED de 5 watts.

La consommation est principalement imputable au processeur graphique (GPU), loin devant le CPU et la mémoire vive. Et plus le modèle est gros, plus il génère des réponses longues… et énergivores. Les modèles les plus imposants, comme Qwen-14B, peuvent consommer jusqu’à quatre fois plus qu’un modèle de taille moyenne.

En conditions réelles, les effets sont encore plus complexes à estimer. Des pratiques comme le traitement par lots réduisent l’empreinte par requête, mais d’autres facteurs, refroidissement, réseau, serveurs inactifs, augmentent la consommation totale. Le lieu de l’infrastructure et le type d’énergie du réseau influencent aussi l’impact carbone.

À l’échelle des millions d’interactions quotidiennes avec des modèles propriétaires de centaines de milliards de paramètres, ces « politesses numériques » peuvent représenter plusieurs mégawattheures par jour. Une consommation équivalente à celle de centaines de foyers. De quoi repenser notre manière d’échanger avec les IA.

Source : Hugging Face

+++

Tous les jours de la semaine, du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de tech.