NVIDIA Blackwell Ultra AI Factory inaugura era do raciocínio de IA
Plataforma NVIDIA Blackwell Ultra AI Factory abre caminho para a era do raciocínio de IA.
Plataforma NVIDIA Blackwell Ultra AI Factory abre caminho para a era do raciocínio de IA
- Principais fabricantes de computadores, provedores de serviços em cloud e provedores de cloud de GPU impulsionam o treinamento e a escalabilidade de inferência em tempo de teste, desde a lógica até agentes de IA e IA física
- Nova biblioteca de software de inferência de código aberto NVIDIA Dynamo para ampliar os serviços de IA de lógica com avanços em produtividade, resposta mais rápida e redução do custo total de propriedade
- A rede ethernet aprimorada NVIDIA Spectrum-X para infraestrutura de IA reduz significativamente a latência e o Jitter
A NVIDIA anuncia a próxima evolução da plataforma de fábrica de IA NVIDIA Blackwell, o Blackwell Ultra, abrindo caminho para a era do raciocínio de IA.
O Blackwell Ultra potencializa o treinamento e a escalabilidade de inferências em tempo de teste — a prática de aplicar maior capacidade de computação durante a inferência para melhorar a precisão — permitindo que empresas em todos o mundo acelerem aplicações, como raciocínio de IA, agentes de IA e IA física.
Criado com base na inovadora arquitetura Blackwell apresentada há um ano, o Blackwell Ultra inclui a solução em escala de rack NVIDIA GB300 NVL72 e o sistema NVIDIA HGX
B300 NVL16. O GB300 NVL72 oferece 1,5 vezes mais desempenho de IA do que o NVIDIA GB200 NVL72, além de aumentar a oportunidade de receita da Blackwell em 50 vezes para fábricas de IA, em comparação com aquelas construídas com o NVIDIA Hopper.
Blackwell Ultra capacita o raciocínio de IA
NVIDIA GB300 NVL72 conecta 72 GPUs Blackwell Ultra e 36 CPUs NVIDIA Grace baseadas em Arm Neoverse em um design em escala de rack, atuando como uma única GPU enorme criada para escalonamento em tempo de teste. Com o NVIDIA GB300 NVL72, os modelos de IA podem acessar a maior capacidade de computação da plataforma para explorar diferentes soluções para problemas e dividir solicitações complexas em várias etapas, resultando em respostas de maior qualidade.
Também se espera que o GB300 NVL72 esteja disponível no NVIDIA DGX Cloud, uma plataforma de IA completa e totalmente gerenciada nas principais clouds que otimiza o desempenho com software, serviços e experiência em AI para cargas de trabalho em evolução. O NVIDIA DGX SuperPOD com sistemas DGX GB300 usa o design de rack GB300 NVL72 para fornecer aos clientes uma fábrica de IA pronta para uso.
A NVIDIA HGX B300 NVL16 apresenta inferência 11 vezes mais rápida em modelos de linguagem grandes, 7 vezes mais computação e 4 vezes mais memória em comparação com a geração Hopper para oferecer um desempenho revolucionário para as cargas de trabalho mais complexas, como raciocínio de IA.
Além disso, a plataforma Blackwell Ultra é ideal para aplicações, incluindo:
- Agentes de IA, que usa lógica sofisticada e planejamento iterativo para resolver de forma autônoma problemas complexos e em várias etapas. Os sistemas de agentes de IA vão além de seguir instruções. Eles podem raciocinar, planejar e tomar ações para alcançar objetivos específicos.
- IA física, permitindo que as empresas gerem vídeos sintéticos e fotorrealistas em tempo real para o treinamento de aplicações, como robótica e veículos autônomos em escala.
Infraestrutura escalável NVIDIA para desempenho ideal
As redes avançadas de escalabilidade horizontal são um componente crítico da infraestrutura de IA que pode oferecer o máximo desempenho, reduzindo a latência e o jitter.
Os sistemas Blackwell Ultra integram-se perfeitamente às plataformas NVIDIA Spectrum-X Ethernet e NVIDIA Quantum-X800 InfiniBand, com 800Gb/s de rendimento de dados disponíveis para cada GPU do sistema, por meio de um SuperNIC, NVIDIA ConnectX®-8. Isso oferece os melhores recursos de acesso remoto direto à memória do setor, permitindo que fábricas de IA e data centers em cloud trabalhem com modelos de raciocínio de IA sem gargalos.
As DPUs NVIDIA BlueField®-3, também presentes nos sistemas Blackwell Ultra, permitem redes multilocatárias, elasticidade de computação de GPU, acesso acelerado a dados e detecção de ameaças à cibersegurança em tempo real.
Líderes globais em tecnologia adotam o Blackwell Ultra
Espera-se que os produtos baseados no Blackwell Ultra estejam disponíveis nos principais fabricantes de computadores e provedores de serviços em cloud a partir do final deste ano.
Espera-se que Cisco, Dell Technologies, Hewlett Packard Enterprise, Lenovo e Supermicro ofereçam uma ampla variedade de servidores baseados nos produtos Blackwell Ultra, além de Aivres, ASRock Rack, ASUS, Foxconn, GIGABYTE, Inventec, Pegatron, Quanta Cloud Technology (QCT), Wistron e Wiwynn.
Os provedores de serviços em cloud Amazon Web Services, Google Cloud, Microsoft Azure e Oracle Cloud Infrastructure, além de serem provedores de cloud de GPU, CoreWeave, Crusoe, Lambda, Nebius, Nscale, Yotta e YTL estarão entre os primeiros a oferecer instâncias com tecnologia Blackwell Ultra.
Inovações em software da NVIDIA reduzem os gargalos de IA
Todo o portfólio de produtos Blackwell conta com o suporte da plataforma de IA da NVIDIA de pacote completo. O framework de inferência de código aberto NVIDIA Dynamo, também anunciado hoje, escala os serviços de lógica de IA, oferecendo saltos no rendimento, reduzindo os tempos de resposta e os custos de atendimento de modelos, fornecendo a solução mais eficiente para dimensionar a computação em tempo de teste.
O NVIDIA Dynamo é um novo software que serve a inferência de IA projetado para maximizar a geração de receita de tokens para fábricas de IA que implantam modelos de lógica de IA. Ele orquestra e acelera a comunicação de inferência em milhares de GPUs e usa serviço desagregado para separar as fases de processamento e geração de grandes modelos de linguagem em diferentes GPUs. Isso permite que cada fase seja otimizada de forma independente para suas necessidades específicas e garante a máxima utilização de recursos de GPU.
Os sistemas Blackwell são ideais para executar os novos modelos NVIDIA Llama Nemotron Reason e o NVIDIA AI-Q Blueprint, com suporte da plataforma de software NVIDIA AI Enterprise para IA de nível de produção. O NVIDIA AI Enterprise inclui os microsserviços NVIDIA NIM, bem como frameworks de IA, bibliotecas e ferramentas que as empresas podem implantar em nuvens aceleradas pela NVIDIA, data centers e workstations.
A plataforma Blackwell baseia-se no ecossistema de potentes ferramentas de desenvolvimento da NVIDIA, bibliotecas NVIDIA CUDA-X, mais de 6 milhões de desenvolvedores e mais de 4.000 aplicações, dimensionando o desempenho em milhares de GPUs.
Disponibilidade
Espera-se que os produtos NVIDIA Blackwell Ultra estejam disponíveis em parceiros a partir do segundo semestre de 2025.
Saiba mais assistindo à palestra do NVIDIA GTC e inscreva-se em sessões com a NVIDIA e líderes do setor no show, que vai até 21 de março.
