E agora, Nvidia? Microsoft cria IA que roda dentro de PCs normais

Um grupo de pesquisadores da Microsoft Research apresentou um modelo de inteligência artificial (IA) que roda de maneira local em computadores normais. Desenvolvido em parceria com a Universidade da Academia Chinesa de Ciências, o modelo propõe uma baita mudança no uso e funcionamento de IAs.

Conforme descrito num artigo publicado recentemente no servidor arXiv, o BitNet b1.58 foi projetado para rodar em CPUs comuns. Assim, ele dispensa as potentes (e gastonas) Unidades de Processamento Gráfico (GPUs). No setor das IAs, a principal fornecedora de GPUs é a Nvidia.

Modelos atuais de IA têm um problema energético

Grandes modelos de linguagem (LLMs, na sigla em inglês) – por exemplo: ChatGPT (OpenAI) e Gemini (Google) – dependem de GPUs para funcionarem e serem treinados. Isso devido à imensa quantidade de dados e cálculos envolvidos.

Essa dependência gera consumo elevado de energia nos data centers que hospedam esses serviços, o que levanta preocupações ambientais e de sustentabilidade.

Uma solução possível: Arquitetura de 1 Bit

A equipe da Microsoft abordou o problema focando numa das partes mais intensivas do processo: o uso e armazenamento dos “pesos” do modelo.

Normalmente, são números complexos (ponto flutuante de 8 ou 16 bits). A nova abordagem, denominada “arquitetura de 1 bit”, simplifica radicalmente essa etapa.

Neste novo sistema:

• Valores simplificados: Os pesos são representados usando apenas três valores: -1, 0 e 1;
• Cálculos eficientes: O processamento se baseia em operações matemáticas simples de adição e subtração, que podem ser facilmente executadas por CPUs padrão.

Para otimizar a execução, os pesquisadores desenvolveram um ambiente específico chamado bitnet.cpp, projetado para tirar o máximo proveito da arquitetura de 1 bit.

Resultados promissores e possíveis impactos

Testes iniciais indicam que o BitNet b1.58 consegue ter um desempenho comparável, e em alguns casos até superior, a modelos baseados em GPU de tamanho similar.

A grande vantagem é a significativa redução no uso de memória – e, consequentemente, no consumo de energia.

Se os resultados se confirmarem, essa tecnologia pode revolucionar o uso de IAs. Como? Assim:

• Menor dependência de data centers: Usuários poderiam executar chatbots e outros modelos de IA diretamente em seus computadores pessoais ou (quem sabe um dia) celulares;
• Redução do consumo de energia: Diminuiria drasticamente a pegada energética associada à IA;
• Maior privacidade: A execução local dos modelos aumentaria a privacidade dos dados do usuário;
• Funcionamento offline: Permitiria o uso de IAs mesmo sem conexão com a internet.

Leia mais:

• Como é a rotina dos brasileiros que treinam IAs
• ChatGPT-4.5: o que é, para que serve e como usar a nova versão do chatbot da OpenAI
• 6 funções que o Perplexity tem e o ChatGPT não

Assim, o desenvolvimento do BitNet b1.58 pela Microsoft aponta para um futuro no qual a inteligência artificial pode se tornar mais acessível, eficiente e sustentável. A ver como essa ideia vai, de fato, sair do papel.

O post E agora, Nvidia? Microsoft cria IA que roda dentro de PCs normais apareceu primeiro em Olhar Digital.