Dá para calcular o gasto de energia de uma conversa com a inteligência artificial
IA gasta muita energia... mas quanta? O post Dá para calcular o gasto de energia de uma conversa com a inteligência artificial apareceu primeiro em Olhar Digital.
Cada comando enviado e executado por chatbots de inteligência artificial gasta muita energia. Imagine uma conta de eletricidade gigantesca só para uma conversa com o ChatGPT. Mas você já parou para pensar exatamente qual é esse consumo?
Se sua resposta foi “sim”, você não é o único. O engenheiro da empresa de IA Hugging Face Julien Delavande criou uma ferramenta para estimar em tempo real o consumo de energia das mensagens enviadas e respondida pelos chatbots.
Quanta energia gasta uma conversa com a inteligência artificial?
A resposta exata é bem difícil de obter. A ferramenta criada por Delavande traz uma estimativa.
Antes disso, vamos contextualizar:
- A inteligência artificial gasta muita energia porque depende de GPUs (circuitos eletrônicos para processar gráficos, imagens e vídeos) e chips especializados;
- Já esses eletrônicos dependem de eletricidade para executar a demanda de trabalho, o que causa todo o consumo da IA;
- É por isso que você já deve ter ouvido falar que os data centers, onde essas estruturas ficam armazenadas, gastam muita eletricidade.
Voltando: a ferramenta de Delavande foi projetada para funcionar com o Chat UI, uma interface com usuário de código aberto que funciona para os modelos Llama 3.3 70B, da Meta, e o Gemma 3, do Google.
O programa estima em tempo real o consumo de energia das mensagens enviadas e recebidas pelos chatbots, em watts-hora ou joules. Ele também compara o consumo com o de eletrodomésticos do dia a dia, como lâmpadas LED e micro-ondas.
Veja uma demonstração:
