CES 2025 | Nvidia revela o supercomputador de IA Project DIGITS para o desenvolvedor de IA para desktop
A Nvidia revelou o supercomputador de IA Project DIGITS para o usuário de desktop na CES 2025. O supercomputador é alimentado por um Grace Blackwell Superchip GB10 para permitir que os usuários de desktop executem grandes modelos de linguagem (LLMs) de até 200 bilhões de parâmetros em uma unidade e até 405 bilhões de parâmetros em duas unidades em rede.
O desenvolvimento de LLMs de IA exige computadores potentes para lidar com a quantidade de dados que estão sendo processados. Uma medida do poder de um LLM é o número de parâmetros com os quais ele é desenvolvido. Os modelos com um número maior de parâmetros geralmente apresentam melhor desempenho nos testes de raciocínio e conhecimento de IA.
A maioria dos desenvolvedores de IA para desktop usa GPUs locais, como a Nvidia 4090(vendida aqui na Amazon), que são limitadas em termos de desempenho e tamanho do modelo, ou serviços de GPU em nuvem por assinatura, que são mais caros. O tamanho da RAM da Nvidia 4090 limita o desenvolvimento do LLM a cerca de 30 bilhões de parâmetros. Infelizmente, os recentes modelos de IA de código aberto excedem em muito os recursos da Nvidia 4090. Por exemplo, o Grok-1 da xAI é um modelo de 314 bilhões de parâmetros.
O Projeto DIGITS lida com isso facilmente em uma configuração de duas unidades usando adaptadores de rede Nvidia ConnectX. Cada unidade contém uma CPU ARM de 20 núcleos, GPU Blackwell da Nvidia, 128 GB de RAM DDR5X e 4 TB de armazenamento NVMe. Cada GPU Blackwell tem capacidade para 1 PetaFLOP de desempenho de computação de IA FP4. Embora a queda de FP16 ou FP8 para FP4 reduza a precisão de cada cálculo, a Nvidia dedicou muito esforço para permitir o desenvolvimento de LLM em FP4 com precisão de saída semelhante. A GPU também é capaz de processar os dados de treinamento do LLM mais rapidamente porque o FP4 usa menos bits.
A principal vantagem do uso do Project DIGITS em relação a outras soluções é a capacidade de mover facilmente projetos de sistemas locais para a nuvem, usando a mesma arquitetura de GPU Grace Blackwell em execução na plataforma Nvidia AI Enterprise. Os desenvolvedores de IA interessados podem se inscrever no site Nvidia Project DIGITS para ser notificado sobre o lançamento previsto para maio de 2025 da unidade de mais de US$ 3.000.
Fonte(s)
NVIDIA coloca Grace Blackwell em cada mesa e na ponta dos dedos de cada desenvolvedor de IA
NVIDIA Project DIGITS com o novo superchip GB10 estreia como o menor supercomputador de AI do mundo, capaz de executar modelos de 200 bilhões de parâmetros
6 de janeiro de 2025
A NVIDIA coloca Grace Blackwell em cada mesa e na ponta dos dedos de cada desenvolvedor de AI
A CES-NVIDIA apresentou hoje o NVIDIA® Project DIGITS, um supercomputador pessoal de AI que oferece aos pesquisadores de AI, cientistas de dados e estudantes de todo o mundo acesso ao poder da plataforma NVIDIA Grace Blackwell.
O Project DIGITS apresenta o novo NVIDIA GB10 Grace Blackwell Superchip, que oferece um petaflop de desempenho de computação de IA para prototipagem, ajuste fino e execução de grandes modelos de IA.
Com o Project DIGITS, os usuários podem desenvolver e executar inferência em modelos usando seu próprio sistema de desktop e, em seguida, implementar perfeitamente os modelos na infraestrutura acelerada de nuvem ou data center.
"A IA será a tendência em todos os aplicativos de todos os setores. Com o Projeto DIGITS, o Grace Blackwell Superchip chega a milhões de desenvolvedores", disse Jensen Huang, fundador e CEO da NVIDIA. "Colocar um supercomputador de IA nas mesas de cada cientista de dados, pesquisador de IA e estudante permite que eles se envolvam e moldem a era da IA"
O superchip GB10 fornece um Petaflop de desempenho de IA com eficiência energética
O GB10 Superchip é um SoC (system-on-a-chip) baseado na arquitetura NVIDIA Grace Blackwell e oferece até 1 petaflop de desempenho de AI com precisão FP4.
O GB10 conta com uma GPU NVIDIA Blackwell com núcleos CUDA® de última geração e Tensor Cores de quinta geração, conectados via interconexão chip a chip NVLink®-C2C a uma CPU NVIDIA Grace™ de alto desempenho, que inclui 20 núcleos de baixo consumo de energia construídos com a arquitetura Arm. A MediaTek, líder de mercado em projetos de SoC baseados na arquitetura Arm, colaborou no projeto do GB10, contribuindo para a sua melhor eficiência energética, desempenho e conectividade.
O superchip GB10 permite que o Project DIGITS ofereça um desempenho poderoso usando apenas uma tomada elétrica padrão. Cada Project DIGITS apresenta 128 GB de memória unificada e coerente e até 4 TB de armazenamento NVMe. Com o supercomputador, os desenvolvedores podem executar modelos de linguagem grandes de até 200 bilhões de parâmetros para impulsionar a inovação em AI. Além disso, usando a rede NVIDIA ConnectX®, dois supercomputadores Project DIGITS AI podem ser conectados para executar modelos de até 405 bilhões de parâmetros.
Supercomputação de AI Grace Blackwell ao alcance das mãos
Com a arquitetura Grace Blackwell, empresas e pesquisadores podem criar protótipos, ajustar e testar modelos em sistemas locais do Project DIGITS que executam o NVIDIA DGX OS baseado em Linux e, em seguida, implantá-los perfeitamente no NVIDIA DGX Cloud™, instâncias de cloud aceleradas ou infraestrutura de data center.
Isso permite que os desenvolvedores criem protótipos de AI no Project DIGITS e depois escalem na infraestrutura de cloud ou data center, usando a mesma arquitetura Grace Blackwell e a plataforma de software NVIDIA AI Enterprise.
Os usuários do Project DIGITS podem acessar uma extensa biblioteca de software NVIDIA AI para experimentação e prototipagem, incluindo kits de desenvolvimento de software, ferramentas de orquestração, frameworks e modelos disponíveis no catálogo NVIDIA NGC e no portal NVIDIA Developer. Os desenvolvedores podem ajustar os modelos com o framework NVIDIA NeMo™, acelerar a ciência de dados com as bibliotecas NVIDIA RAPIDS™ e executar frameworks comuns, como PyTorch, Python e notebooks Jupyter.
Para criar aplicações de AI agêntica, os usuários também podem aproveitar o NVIDIA Blueprints e os microsserviços NVIDIA NIM™, que estão disponíveis para pesquisa, desenvolvimento e teste por meio do Programa para Desenvolvedores NVIDIA. Quando as aplicações de AI estão prontas para passar de ambientes de experimentação para produção, a licença NVIDIA AI Enterprise oferece segurança de nível empresarial, suporte e lançamentos de produtos do software NVIDIA AI.
Disponibilidade
O Project DIGITS estará disponível em maio na NVIDIA e nos principais parceiros, a partir de US$ 3.000. Inscreva-se para receber notificações hoje mesmo.
