A Radeon RX 7900 XTX supera a RTX 4090 e a RTX 4080 Super no benchmark DeepSeek AI

LLM chinês DeepSeek causou estragos no mercado de tecnologia dos EUA, eliminando efetivamente trilhões de dólares do mercado de ações. Apesar de ter sido treinado em um hardware um pouco mais antigo da Nvidia, ele funciona surpreendentemente bem em uma das ofertas de nível de consumidor da AMD: a Radeon RX 7900 XTX. David McAfee, gerente geral da divisão Radeon da AMD, publicou alguns resultados de benchmark no X.

Dependendo do número de parâmetros e do modelo usado, a Radeon RX 7900 XTX é entre 13% (7 bilhões de parâmetros) e 2% (14 bilhões de parâmetros) mais rápida. Depois disso, o carro-chefe da RDNA 3 começa a vacilar e fica atrás da RTX 4090 com 32 bilhões de parâmetros. A AMD chegou a compará-lo com o GeForce RTX 4080 Superem que o 7900 XTX tem uma vantagem de 34% no desempenho.

A AMD também forneceu instruções detalhadas sobre como executar o DeepSeek localmente em sua máquina. No entanto, a Radeon RX 7900 XTX mencionada acima limita-se a 32 bilhões de parâmetros, enquanto o Strix Halo Ryzen AI Max 395 Plus com 128 GB de RAM pode suportar até 72 bilhões. Ou, se o senhor tiver cerca de US$ 6.000 de sobra, Matthew Carrigan descobriu uma maneira de executar todo o modelo localmente em uma máquina com duas CPUs AMD Epyc e 768 GB de RAM.