> ## Content Index
> Fetch the complete content index at: https://nanogiga.online/llms.txt
> Use this file to discover other available public pages before exploring further.

# Lei do Token-Energia prevê consumo das GPUs na geração de LLMs
- URL: https://nanogiga.online/sistemas/lei-token-energia-llms/
- Published: 2026-10-21T15:00:00.000Z
- Updated: 2026-10-22T17:18:54.000Z
- Description: Preprint de NVIDIA, Texas Tech e TACC condensa o gasto por token em uma fórmula com bytes ativos e tempo real; erro máximo de 3,73% em Hopper e Blackwell.
- Author: nanoGiga
- Tags: Sistemas

Quanta energia, em joules gastos na placa da GPU, custa cada token gerado por um modelo de linguagem? Um [preprint publicado na quarta-feira (21) no arXiv](https://arxiv.org/abs/2610.28576?ref=nanogiga.online) — ainda não revisado por pares — propõe uma resposta em forma de lei: uma fórmula compacta e interpretável que explica o consumo por token a partir de duas medidas de trabalho, os "bytes ativos", e do tempo real de decodificação. Os autores são Chenxu Niu (NVIDIA), Batuhan Sencer e Yong Chen (Texas Tech University) e Wei Zhang (Texas Advanced Computing Center). Nos testes, em 374 execuções de validação separadas, as estimativas de energia diferiram das medições em no máximo 3,73%.

## A lei em duas coordenadas e um relógio

A Lei do Token-Energia soma quatro parcelas: um termo constante, a resposta energética aos bytes de pesos, a resposta aos bytes de KV e um termo proporcional ao tempo. Os bytes ativos de pesos são o volume denso de parâmetros lido a cada iteração, dividido pelo lote eficaz — quanto mais requisições decodificam juntas, mais saídas se dividem a mesma leitura de pesos. Os bytes ativos de KV são o histórico privado de cada requisição: cada resposta nova precisa reler todo o seu passado de chaves e valores, então o custo cresce linearmente com o contexto atendido. O tempo é o realizado — duração dividida por tokens produzidos —, e captura o custo de estar ligado, mesmo que a placa esteja mal aproveitada. Os coeficientes, em joules por gigabyte e em watts, são calibrados por modelo, hardware e configuração de execução.

## Lote e contexto afetam de formas diferentes

A estrutura explica por que duas mudanças aparentemente parecidas puxam o consumo para lados opostos. Aumentar o lote dilui o trabalho com pesos por saída — mas não mexe no custo de KV, que cada requisição paga sozinha, nem garante menos tempo por token. Alongar o contexto encarece cada resposta de forma previsível, mesmo sem tocar no lote. E, como lembram os autores, menos potência média não significa menos energia: uma execução mais lenta pode gastar mais no fim, porque energia é potência acumulada ao longo do tempo.

## Validação em Hopper e Blackwell

A avaliação cobre três modelos em BF16 nas GPUs NVIDIA Hopper e Blackwell, incluindo decodificação com paralelismo de tensor em duas GPUs. Além das 374 execuções de energia, 177 perfis de tráfego da memória HBM sustentam que as coordenadas de bytes correspondem ao acesso físico real. Um teste de "saída de requisições" mostra que coeficientes congelados continuam prevendo bem quando a composição do lote muda, sem recalibração — e que transferir os coeficientes de um GPU para outro, no mesmo par, mantém a concordância. É o que a figura que ilustra esta matéria mostra: previsão contra medição, termo a termo, com os intervalos de confiança.

## Por que importa — e o que a lei não cobre

A motivação é o tamanho da conta. O artigo cita que o Google reportou processar mais de 3,2 quatrilhões de tokens por mês em maio de 2026, contra cerca de 480 trilhões um ano antes, e lembra estimativas segundo as quais, em volume alto, a energia acumulada de inferência chega a rivalizar com a do treinamento. Uma lei com esse formato serve para interpretar consumo, comparar configurações de serviço e planejar implantações mais eficientes em conjunto com modelos de desempenho. Os limites são declarados: vale para decodificação densa com histórico completo (o prefill fica de fora), mede a placa da GPU — não servidor nem datacenter — e não cobre modelos mistura de especialistas nem paralelismo multi-nó e em pipeline.

## Fontes

1. arXiv — "The Token-Energy Law of LLM Decode: Active Bytes and Realized Time Account for Joules per Token" (C. Niu, B. Sencer, W. Zhang, Y. Chen; NVIDIA, Texas Tech University e TACC), 21/10/2026\. arXiv:2610.28576 (CC BY 4.0).