Microsoft lança silício personalizado para IA e nuvem: o ARM Cobalt 100 de 128 núcleos e o Maia 100 de 5 nm visam atender às necessidades de treinamento e inferência de IA da próxima geração

Especulações sobre os planos da Planos da Microsoft para seguir o caminho do silício personalizado já estão correndo soltas há algum tempo. A Microsoft tem usado processadores baseados na Qualcomm, como o SQ1, SQ2e o SQ3 (Snapdragon 8cx Gen 3) para sua linha Surface. No entanto, começaram a surgir relatos de que a empresa estava pensando em seus próprios projetos internos de ARM para servidoresem 2020própria.

Na conferência Microsoft Ignite em andamento, a empresa revelou dois IPs de silício personalizados projetados para atender aos seus ambiciosos planos de IA - o acelerador Azure Maia 100 AI e a CPU personalizada Azure Cobalt 100. A Microsoft implantará esses chips no início do próximo ano em seus próprios datacenters que alimentam o Copilot e o serviço Azure OpenAI.

No entanto, a Microsoft não está revelando muitas informações técnicas sobre os chips em si. No entanto, ela observa que o Maia 100 é um chip de 5 nm com 105 bilhões de transistores, o que o torna um dos maiores chips desse tipo a ser fabricado nesse processo. O Maia 100 executará o treinamento e a inferência baseados em nuvem para os modelos da OpenAI e do ChatGPT, e foi projetado especificamente para treinar os grandes modelos de linguagem da OpenAI.

O Maia 100 será totalmente resfriado a líquido, e a Microsoft até projetou racks personalizados com radiadores de resfriamento líquido para abrigar esses chips.

O Cobalt 100, por outro lado, é uma CPU de 64 bits e 128 núcleos projetada para cargas de trabalho gerais no Microsoft Cloud, incluindo Teams e SQL. A Microsoft diz que o Cobalt 100 é 40% mais poderoso do que a atual safra de chips ARM do Azure.

Além do Maia 100 e do Cobalt 100, a Microsoft também anunciou a prévia pública das máquinas virtuais (VMs) Azure NC H100 v5 para executar cargas de trabalho de IA e computação de alto desempenho (HPC). Essas VMs são baseadas nas GPUs Nvidia Hopper H100 e nos processadores AMD EPYC Genoa.

Os clientes podem escolher entre duas configurações do NC H100 v5:

• 40 vCPUs, 320 GB de RAM, 1 GPU H100 com HBM3 de 94 GB e 40 GBps de largura de banda de rede do Azure
• 80 vCPUs, 640 GB de RAM, 2 GPUs H100 com 188 GB HBM3 e 80 GBps de largura de banda de rede do Azure

A Microsoft não está deixando de lado a AMD, no entanto. A gigante de Redmond também anunciou que agora está oferecendo VMs com a mais recente GPU Instinct MI300X da AMD com um HBM3 de 1,5 TB por VM. Uma VM ND MI300X v5 utiliza oito placas MI300X interconectadas pelo Infinity Fabric 3.0 com 192 GB de memória HBM3 por GPU que opera a velocidades de 5,2 TB/s. De acordo com a Microsoft, as especificações da VM ND MI300X v5 incluem:

• 400 Gb/s NVIDIA Quantum-2 CX7 InfiniBand por GPU com 3,2 Tb/s por VM
• processadores escaláveis Intel Xeon de 4ª geração
• Interconexão de host para GPU PCIE Gen5 com largura de banda de 64 GB/s por GPU
• 16 canais de DIMMs DDR5

Atualmente, o silício personalizado da Microsoft é voltado para o lado do servidor. Não está claro se a empresa trará alguma variante do Cobalt 100 para sua linha Surface ou se continuará a contar com as ofertas da Qualcomm e, possivelmente, da MediaTek - o que não é necessariamente uma má ideia, considerando os impressionantes números iniciais apresentados pelo Snapdragon X Elite.

Compre o Microsoft Surface Laptop Studio 2 com RTX 4050 na Amazon