Plus nous essayons de faire fonctionner les modèles d'IA, plus leurs émissions de carbone deviennent grandes - certaines invites générant jusqu'à 50 fois plus de dioxyde de carbone que d'autres, selon une étude récente.

Des modèles de raisonnement comme Claude d'Anthropic, O3 de l'OpenAI et R1 de Deepseek sont des modèles avancés de grande langue (LLM) qui allouent du temps supplémentaire et des ressources informatiques pour fournir des réponses plus précises par rapport aux versions antérieures.

Cependant, malgré les résultats impressionnants, ces modèles ont également démontré de graves limites lorsqu'il s'agit de résoudre des problèmes complexes. Maintenant, les chercheurs ont découvert un autre inconvénient - leur empreinte carbone substantielle. Leurs résultats ont été publiés le 19 juin dans la revue Frontiers en communication .

"L'impact environnemental de l'interrogation LLMS formés est fortement influencé par leur méthode de raisonnement, avec des méthodes de raisonnement explicites augmentant considérablement la consommation d'énergie et les émissions de carbone", a déclaré l'auteur principal de l'étude Maximilian Dauner , chercheur à Hochschule München University of Applied Sciences en Allemagne, dans un communiqué . "Nous avons observé que les modèles basés sur le raisonnement émiaient jusqu'à 50 fois plus de co? que les modèles optimisés pour des réponses plus courtes."

Lorsque vous répondez aux invites, le LLMS traite le langage en le divisant en jetons - des segments de mots convertis en séquences numériques avant d'être traitées par des réseaux de neurones. Ces réseaux sont raffinés à l'aide de données de formation qui déterminent la probabilité que des modèles spécifiques apparaissent. Sur la base de ces probabilités, elles génèrent des réponses.

Pour améliorer la précision, les modèles de raisonnement utilisent une méthode connue sous le nom de ?cha?ne de réflexion?. Cela implique de décomposer un problème complexe en étapes logiques plus petites, similaires à la fa?on dont les humains pourraient résoudre le même problème.

Connexes: AI fréquemment ?hallucine?, mais il existe un moyen de le réparer

Inscrivez-vous à la newsletter du Daily Science Live Science Nownonany, ces modèles nécessitent beaucoup plus d'énergie que les LLM standard, créant potentiellement un défi économique pour les entreprises et les utilisateurs qui cherchent à les mettre en ?uvre. Malgré certaines recherches existantes sur les conséquences environnementales de l'élargissement de l'utilisation de l'IA, les comparaisons directes des empreintes carbone entre différents modèles restent limitées.

Le co?t du raisonnement

Pour évaluer les émissions de CO? de divers modèles, les chercheurs derrière cette nouvelle étude ont posé 1 000 questions sur plusieurs sujets à 14 LLM. Les modèles variaient en taille de 7 milliards à 72 milliards de paramètres.

Ces calculs ont été effectués en utilisant le cadre Perun - qui évalue les performances et la consommation d'énergie LLM - sur un GPU NVIDIA A100. L'équipe a ensuite traduit la consommation d'énergie en émissions de CO?, en supposant que chaque kilowatt-heure génère 480 grammes de CO? .

Leurs résultats indiquent que les modèles de raisonnement ont généré, en moyenne, 543,5 jetons par question, contre seulement 37,7 jetons pour les modèles concis. Ces jetons supplémentaires signifiaient une augmentation des charges de travail de calcul, entra?nant des émissions de co? plus élevées pour les modèles de raisonnement plus précis.

Le modèle le plus précis était le modèle Cogito de 72 milliards de paramètres, qui a répondu correctement à 84,9% des questions de référence. Cependant, Cogito a émis trois fois plus de co? que des modèles de taille similaire con?us pour produire des réponses plus courtes.

"à l'heure actuelle, nous observons un compromis distinct entre la précision et la durabilité au sein de LLM Technologies", a déclaré Dauner. "Aucun des modèles qui maintenait des émissions inférieurs à 500 grammes d'équivalent CO? [les gaz à effet de serre totaux libérés] n'ont réussi à atteindre une précision de plus de 80% pour répondre correctement aux 1 000 questions."

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!