Três chips e o Google Tensor está em suporte de vida

Os smartphones Pixel do Google sempre estiveram na vanguarda do uso de aprendizado de máquina e IA para oferecer experiências exclusivas, tudo isso aproveitando a experiência em software do Google na criação de algoritmos inteligentes. O Pixel original foi o primeiro smartphone Android a contar com o Google Assistant, além de ter sido o primeiro smartphone em geral a contar com recursos de fotografia computacional com tecnologia de IA, como Lens Blur e Smartburst. Cada telefone sucessivo foi desenvolvido com base nesse legado e, até o Pixel 5, o Google fez uma parceria com a Qualcomm para usar seus chips Snapdragon para alimentar essas experiências de IA e ML.

Isso mudou com o lançamento do Pixel 6 e do Pixel 6 Pro em 2021, que foi equipado com o Google Tensor, seu primeiro chip personalizado. Na época, o Google disse que seu objetivo era criar seu próprio chip para que pudesse "...oferecer recursos totalmente novos para os usuários do Pixel, acompanhando os últimos avanços em ML" A implicação é que, se tivesse ficado com a Qualcomm, simplesmente não teria sido capaz de atingir seus objetivos. Especificamente:

O projeto conjunto do Google Tensor com o Google Research nos deu uma visão do rumo que os modelos de ML estão tomando, e não de onde eles estão hoje. Isso nos permitiu criar uma plataforma de IA/ML que pudesse acompanhar nosso trabalho no Google.

Ele também destacou como o Tensor permitiu que novos recursos de IA, como o Live Translate, "trabalhassem em mídias como vídeos usando modelos de fala e tradução no dispositivo" No que diz respeito aos recursos originais de aprendizado de máquina do primeiro Tensor, ele cumpriu o prometido. Se a série de chips Google Tensor foi criada especificamente para oferecer suporte aos recursos de IA do Google - tanto para acompanhar os modelos de IA do Google quanto para oferecer suporte a eles no dispositivo, como pretendido - algo deu errado desde então.

O desenvolvimento de chips personalizados líderes de mercado é um empreendimento caro. Applea decisão da Apple de investir em chips totalmente personalizados baseados em Arm remonta à era Steve Jobs, quando a empresa adquiriu algumas empresas de design de chips especializadas em silício de baixo consumo de energia e alto desempenho. Seu primeiro protótipo de Mac baseado em Arm também remonta à era Jobs, com rumores de sua existência surgindo pela primeira vez em 2011um ano antes de Jobs infelizmente falecer de câncer no pâncreas. No mesmo ano, a equipe de chips da Apple já havia sido formada para pelo menos 1.000 pessoas. A empresa também investiu muito na TSMC para garantir acesso prioritário às suas mais recentes tecnologias de fabricação. Em suma, a Apple investiu muitos bilhões de dólares em seus esforços de silício personalizado, pois isso proporcionaria uma união inigualável entre seu hardware e software.

O Google também quis imitar a abordagem da Apple, adaptando o silício para se alinhar melhor com seus recursos de software baseados em IA, líderes de mercado. Entretanto, até o momento, seus esforços não foram tão ambiciosos quanto os da Apple. Os três primeiros chips Tensor são considerados designs semi-personalizados, tendo sido co-projetados e desenvolvidos com a Samsung LSI, a equipe por trás dos chips Exynos da Samsung. Eles também são fabricados pela Samsung Foundry. A procedência do Tensor original e sua estreita relação com os chips Exynos da Samsung foram identificadas por Andrei Frumansu, que é o responsável pelo desenvolvimento do Tensor por Andrei Frumansu, que na época escrevia para a Anandtech. (Frumansu, desde então, passou a fazer coisas maiores e melhores e agora é engenheiro principal da Qualcomm, trabalhando no chip Chip Snapdragon X Elite -- portanto, ele sabe uma ou duas coisas sobre chips).

Portanto, embora a Apple esteja desenvolvendo CPUs baseadas em Arm totalmente personalizadas há muitos anos e, mais recentemente, núcleos de GPU totalmente personalizados tambémos chips Tensor do Google, projetados e desenvolvidos em conjunto com a Samsung, têm usado núcleos de CPU Arm Cortex e núcleos de GPU Arm Mali. No entanto, eles apresentam blocos de IP do Google totalmente personalizados, incluindo a Unidade de Processamento Tensor (TPU), o enclave seguro Titan M e outros blocos de IP personalizados, conforme descrito por Frumansu. Isso se baseia no IP de silício personalizado que o Google desenvolveu quando ainda estava usando chips Qualcomm Snapdragon, incluindo o Pixel Visual Core visto pela primeira vez no Pixel 2 e o primeiro Titan M que estreou no Pixel 3. Essa foi a abordagem que o Google adotou em todos os seus chips Tensor até agora - o Tensor original, Tensor G2 e o mais recente Tensor G3.

De acordo com os últimos rumores, o Google está projetando um tensor totalmente personalizado. Ele será fabricado em um dos nós de 3 nm da TSMC em vez dos nós da Samsung - embora a Samsung pareça estar reconquistando alguns dos clientes embora a Samsung pareça estar reconquistando alguns dos clientes que perdeu nos últimos dois ou três anos para a TSMC, parece que o Google perdeu a paciência com a gigante coreana. Infelizmente para os fãs do Pixel, esse chip não deve chegar até 2025, o que significa que podemos esperar pelo menos mais um chip Tensor de sua atual parceria com a Samsung. No entanto, os primeiros sinais não são promissores. Assim como o Tensor G2, que foi uma atualização modesta em relação ao Tensor OG, o Tensor G4 deverá ser uma atualização modesta em relação ao Tensor G3. Isso pode ser um problema para o Google, já que o Tensor G3 é incapaz de lidar com os mais recentes algoritmos de IA do Google no dispositivo conforme seus planos originais.

Embora o Tensor G3 tenha feito atualizações arquitetônicas significativasseu desempenho em benchmarks coloca seu desempenho entre o Qualcomm Snapdragon 7+ Gen 2 de médio porte e o Snapdragon 8+ Gen 1. Embora o desempenho seja suficiente para manter o Pixel 8 Pro executando a interface do usuário do sistema sem problemas e outras tarefas, ele ainda está propenso a esquentar ao realizar tarefas simples, como baixar aplicativos e gravar vídeos, de acordo com a experiência deste redator. Quando os telefones esquentam dessa forma no uso geral, isso reflete o tipo de ineficiência que é uma característica conhecida dos chips produzidos nos nós de 5 nm e 4 nm da Samsung - incluindo o nó 4LPP usado para fabricar o Tensor G3. O Google tentou mascarar essas deficiências térmicas carregando o Pixel 8 Pro com muito grafite. A mesma ineficiência também fica evidente em vários testes de bateria padronizados encontrados em , que normalmente mostram o o Pixel 8 Pro bem atrás do iPhone 15 Pro Max e do Galaxy S23 Ultraseus dois principais concorrentes.

O maior problema, talvez, com o Tensor G3 é (como destacamos recentemente), que muitos dos recursos mais recentes de IA que o Google anunciou junto com o lançamento do Pixel 8 Pro não podem ser manipulados no dispositivo. Isso ocorre apesar de o Google posicionar o chip como capaz de fazer isso em seu blog oficial. Embora o Google tenha deixado claro em seu lançamento que o novo recurso Video Boost é transferido para a nuvem para processamento, ele não deixou claro exatamente quais recursos exigem uma conexão com a Internet. A única pista de que o processamento de IA está sendo transferido para a nuvem para que um novo recurso de IA funcione é quando o Google indica especificamente, em letras pequenas, que um recurso "requer o aplicativo Google Fotos". Os novos recursos de IA que o Tensor G3 não é potente o suficiente para processar no dispositivo incluem o Google Assistant com Bard, Night Sight Video, Gboard proof-read, Magic Editor, AI Wallpaper, Audio Magic Eraser e a atualização de IA generativa que está chegando ao Magic Eraser.

Está claro que, com apenas três chips, e com tantos novos recursos de IA sendo enviados para o Google Cloud, o projeto Google Tensor está em plena atividade. Os senhores devem se lembrar que o Google disse que deixou de usar os chips Snapdragon, como vinha fazendo:

O projeto conjunto do Google Tensor com o Google Research nos deu uma visão do rumo que os modelos de ML estão tomando, e não de onde eles estão hoje. Isso nos permitiu criar uma plataforma de IA/ML que pudesse acompanhar nosso trabalho no Google.

O Tensor G3 simplesmente não chega perto de cumprir a razão de ser original do Google ao criar seus próprios chips. De acordo com o Google, os benefícios de um chip ser capaz de processar tarefas de IA no dispositivo incluem: baixa latência (já que o processamento é feito localmente); privacidade (já que os dados do usuário não estão sendo transferidos para servidores remotos); e maior duração da bateria (já que as conexões de celular ou Wi-Fi consomem energia). Em vez disso, ao transferir as tarefas de IA para a nuvem, a latência no Pixel 8 Pro aumenta, a privacidade diminui e a duração da bateria é afetada toda vez que o usuário usa um dos novos recursos de IA que precisa usar uma conexão celular ou Wi-Fi.

Ao lançar o poderoso Snapdragon 8 Gen 3 apenas algumas semanas após o Tensor G3, a Qualcomm não perdeu a oportunidade de enviar uma mensagem ao Google de que nunca deveria tê-los abandonado. Durante seu evento de lançamento, a Qualcomm deu ênfase extra aos recursos de processamento de IA generativa no dispositivo do Snapdragon 8 Gen 3, chamando-o de "Titã da inteligência no dispositivo". A Qualcomm não estava exagerando: o Snapdragon 8 Gen 3 é o primeiro SoC móvel com capacidade de suportar a difusão estável no dispositivo e grandes modelos de IA com até 10 bilhões de parâmetros.

O Snapdragon 8 Gen 3 também expôs a afirmação do Google de que as "métricas tradicionais de desempenho" não são importantes como uma farsa. O motivo pelo qual o Snapdragon 8 Gen 3 esmaga os recursos de processamento de IA no dispositivo do Tensor G3 é que ele também o esmaga em benchmarks. A Qualcomm chama a combinação da CPU, GPU e NPU do Snapdragon 8 Gen 3 de "motor de IA". Isso ocorre porque a CPU, a GPU e a NPU de um SoC de smartphone são utilizadas extensivamente ao processar os modelos de aprendizado de máquina que alimentam os recursos de IA nos smartphones. Os benchmarks mostram claramente que o Tensor G3 tem uma CPU e uma GPU comparativamente fracas, enquanto sua TPU personalizada não é suficiente para chegar perto de compensar isso.

A potência bruta é importante e é mais importante agora do que nunca, graças ao aumento da IA generativa nos últimos 12 a 18 meses. Neste momento, o único benefício do Tensor G3 para os fãs do Pixel é que o Google prometeu 7 anos de atualizações do sistema operacional para a série Pixel 8, o que é substancialmente mais do que teria sido possível com a Qualcomm. No entanto, nesse estágio, isso é apenas uma promessa, e deve haver pontos de interrogação sobre a capacidade do Tensor G3 de realmente suportar o Android 21, que é ostensivamente a última das atualizações do sistema operacional que o Pixel 8 Pro e o Pixel 8 receberão.

Não parece que as coisas vão melhorar muito para o Pixel 9 Pro quando ele for lançado em 2024, pois as primeiras indicações são de que o Tensor G4 continuará com a atual arquitetura de CPU do Tensor G3, embora possa receber uma atualização de TPU e GPU. Essa abordagem seria semelhante à do Tensor G2, que foi uma atualização modesta em relação ao Tensor OG. Será somente em 2025 que finalmente veremos o Google entregar um Tensor que possa cumprir a promessa original do Google, um que seja totalmente personalizadomas - o que é crucial - fabricado no nó 3NE da TSMC. Isso deve tornar o Tensor G5 muito mais competitivo em relação a outros chips emblemáticos do mercado.

No momento, porém, o Pixel 8 Pro está apenas se segurando como está - será que ele pode sobreviver a uma atualização do tipo Tensor G2 quando uma arquitetura totalmente nova e um processo de fabricação muito melhor são necessários o mais rápido possível? Uma solução óbvia de curto prazo seria lançar um Snapdragon 8 Gen 3 no Pixel 9 Pro no próximo ano. No entanto, isso representaria um desafio de marketing, dado o enorme esforço que o Google dedicou à marca Tensor, antes de levar em conta os custos irrecuperáveis gastos no desenvolvimento do Tensor G4 e os custos de reengenharia da troca de chips. É um obstáculo tão grande que parece que o Google está preso à sua trajetória atual. Se o Google prosseguir conforme o planejado, poderá acabar com qualquer resquício das marcas Tensor e Pixel.

Mesmo nesse estágio inicial, parece que as vendas da série Pixel 8 estão fracas. Embora o Google tradicionalmente dê descontos em seus Pixels para as vendas da Black Friday, o senhor pode ter certeza de que os descontos serão enormes, grandes descontos de mais de $400 AUD já estavam disponíveis no Pixel 8 Pro apenas quatro semanas após seu lançamento e uma semana e meia antes do início oficial das vendas da Black Friday. Isso é extremamente incomum. A série Pixel continua a oferecer um ótimo software e um excelente desempenho de câmera. O Google foi o pioneiro em recursos de IA no dispositivo em smartphones, e seus recursos de IA continuam sendo os melhores da categoria. Mas seus chips Tensor são o seu calcanhar de Aquiles.