Nvidia e Apple: Os amigos estão deixando os ressentimentos de lado para aumentar o desempenho da IA

É um fato bem conhecido que a Apple e a Nvidia não se dão muito bem. Houve uma época em que a linha de Macs da Apple usava gráficos da Nvidia, mas as coisas desandaram quando, em 2008, surgiram problemas generalizados nos MacBooks com a placa de vídeo 8400M da Nvidia GeForce 8400M e 8600M dGPUs da Nvidia começaram a surgir devido a defeitos na embalagem, levando a superaquecimento, falhas gráficas e, em casos extremos, à falha total da GPU. Embora os MacBooks continuassem a ter GPUs da Nvidia, o relacionamento entre as duas empresas estava, sem dúvida, em queda livre e, nos anos seguintes, a Apple mudou para a AMD e nunca mais olhou para trás.

Como resultado, e sem ofensa aos fãs da Team Red, os Macs sofriam com o baixo desempenho gráfico em comparação com os laptops Windows com GTX e RTX. Isso foi até o surgimento dos Macs com tecnologiaApple Silicon, é claro. Apesar de os entusiastas do Mac esperarem que a Nvidia e o Apple resolvessem o problema, isso nunca aconteceu - até agora. Bem, mais ou menos. A Apple anunciou recentemente uma colaboração com a Nvidia com o objetivo de acelerar a inferência de grandes modelos de linguagem, marcando um tipo de armistício bem-vindo entre os dois gigantes de vários trilhões de dólares.

No centro dessa colaboração inesperada está o ReCurrent Drafter (ReDrafter) da Apple, que é basicamente um método de decodificação especulativa bastante inovador projetado para melhorar a geração de tokens LLM lançado no início deste ano. Aparentemente, a Nvidia trabalhou com Apple para incorporar de alguma forma o ReDrafter em sua estrutura TensorRT-LLM estrutura. Além disso, a gigante da IA também atualizou sua estrutura com novos operadores otimizados, permitindo uma adoção perfeita. Os resultados, mesmo para um leigo como eu, parecem promissores: os LLMs que usam GPUs da Nvidia com o ReDrafter alcançam um aumento impressionante de 2,7 vezes na velocidade de geração de tokens, reduzindo assim a latência e o consumo de energia.

Agora, é claro, ainda não se sabe se essa colaboração indica que as duas maiores empresas do mundo estão esperando mais ou se é mais um tipo de trégua única. De qualquer forma, qualquer tipo de aliança de P&D provavelmente será uma notícia positiva para os consumidores. Afinal de contas, quem não quer um software mais rápido?