A Zhaoxin implementa modelos DeepSeek-R1 em toda a linha de CPUs, de desktops a servidores

A Zhaoxin acaba de compartilhar que lançou com sucesso os modelos DeepSeek-R1 Distill em toda a sua linha, desde PCs desktop comuns até servidores de alta potência.

O fabricante chinês de CPUs anunciou que seus processadores agora suportam várias versões do modelo DeepSeek-R1 Distill, seja o 1.5B, 7B, 14B, 32B, 70B ou até mesmo a colossal variante 671B. Essa implementação abrange todo o hardware compatível com x86, demonstrando a flexibilidade de sua tecnologia.

Além disso, as CPUs da Zhaoxin suportam nativamente Linux, Windows e vários sistemas operacionais chineses desenvolvidos internamente, além de serem totalmente compatíveis com placas de aceleração de IA de GPU locais. Isso cria uma plataforma de computação robusta, pronta para todos os tipos de tarefas de IA.

Implementação de IA em desktops

O processador para desktop KaiXian KX-7000 demonstrou uma implementação local bem-sucedida do modelo DeepSeek-R1-7B quando combinado com placas gráficas e de aceleração produzidas internamente. Ao aproveitar a compreensão e o raciocínio avançados de linguagem do DeepSeek, essa configuração permite recursos como manuseio inteligente de documentos, análise de dados e assistência à codificação, todos perfeitamente integrados a aplicativos como o WPS Office e o VSCode.

O KX-7000 faz parte da última geração de chips para desktop da Zhaoxin. Ele apresenta a microarquitetura "Century Avenue" com interconexão inovadora de chiplets, possui 8 núcleos de CPU com 32 MB de cache L3 compartilhado e pode atingir velocidades de até 3,7 GHz.

Desempenho da estação de trabalho

A estação de trabalho Lianhe Donghai XRS302, equipada com o processador de servidor KH-40000/16, implementou com sucesso os modelos DeepSeek-R1-7B, 14B e 32B. Equipada com quatro placas de aceleração de inferência de GPU doméstica de alto desempenho, essa estação de trabalho oferece recursos de inferência de IA econômicos e robustos.

A Zhaoxin ajustou seu sistema de interconexão CPU-GPU para aumentar a taxa de transferência de dados e reduzir a latência. A estação de trabalho também se beneficia de um design silencioso e de baixo consumo de energia, perfeito para ambientes de escritório que precisam de inferência de IA no local sem ruído e sobrecarga de energia.

Processamento de IA de nível de servidor

Na extremidade superior, o processador Kaisheng KH-40000/32 apresenta uma configuração de soquete duplo com 64 núcleos totais e suporte para até 2 TB de memória. Em conjunto com placas aceleradoras domésticas, essa CPU implementou confortavelmente o modelo DeepSeek-R1-70B.

O KH-40000/32 também conseguiu implantar o modelo DeepSeek-R1-671B completo por conta própria, sem placas de aceleração externas. Essa façanha ressalta o quanto as CPUs de servidor da Zhaoxin são capazes de lidar sem esforço com modelos com centenas de bilhões de parâmetros.

Embora as afirmações da Zhaoxin sejam impressionantes, esses resultados de desempenho devem ser considerados com cautela. Como acontece com qualquer benchmark fornecido pelo fornecedor, o desempenho no mundo real pode ser diferente dos ambientes de teste controlados, e a empresa pode apresentar cenários otimizados que destacam seus produtos da melhor maneira possível.