Superchip Nvidia Grace Hopper revelado para cargas de trabalho centradas em IA
Embora a Nvidia não tenha tido nada para os gamers em sua apresentação na Computex 2023, sua apresentação estava repleta de produtos centrados em IA. Entre eles estava o Grace Hopper Superchip, uma combinação de uma CPU Grace e uma GPU Hopper. Ele alimentará DGX GH2000 da Nvidia da Nvidia e uma infinidade de outros serviços.
A CPU Grace possui 72 núcleos de CPU Arm Neoverse V2, até 480 GB de RAM LPDDR5X (largura de banda de memória de 512 GB/s) e um enorme cache L3 de 117 MB. A GPU Hopper que a acompanha pode ser configurada com até 96 GB de memória HBM3 (largura de banda de memória de até 4 TB/s). A Nvidia afirma que ela oferece até 67 TFLOPS de desempenho FP32. Da mesma forma, seus núcleos Tensor incluídos podem fazer 67 TFLOPS de FP64.
Combinado, o Grace Hopper Superchip pode consumir até 1.000 Watts de energia, dependendo da configuração. A CPU e a GPU são conectadas por meio de um módulo Nvlink que opera a 900 GB/s, cinco vezes mais rápido que o PCIe-Gen 5. A coerência da memória permite que os threads da CPU e da GPU acessem a memória uns dos outros, permitindo que o novo Transformer Engine treine modelos de IA 30 vezes mais rápido do que as GPUs existentes. Em comparação com as soluções baseadas em x86, o Grace Hopper Superchip é entre 2,75 e 3,9 vezes mais rápido.
Os dispositivos equipados com o Grace Hopper Superchip já estão disponíveis em várias regiões, inclusive nos Estados Unidos e na Europa. Se os rumores recentes estiverem corretos, poderemos até ver uma versão reduzida dele junto com o próximo Nintendo Switch console.
Fonte(s)
