MWC 2024 | IA em todos os lugares: A Qualcomm faz demonstrações impressionantes no dispositivo do Snapdragon X Elite PC, telefones e IoT
Desde que a OpenAI apresentou pela primeira vez o ChatGPT para o público mundial atônito em 2022, o tópico da IA generativa não desapareceu das manchetes, seja nas cartas do mercado de ações ou no setor de tecnologia. A abreviação de inteligência artificial também foi onipresente no Mobile World Congress 2022. No entanto, é importante distinguir onde a inteligência artificial tem sua casa. O senhor pode ver isso no novo Galaxy S24 "AI phone" da Samsung com muitos novos Galaxy recursos de IA: enquanto alguns deles são executados diretamente no dispositivo e também funcionam off-line, muitos exigem acesso à nuvem.
portanto, "no dispositivo" é um fator importante, por exemplo, por motivos de proteção de dados, mas também, é claro, devido à capacidade e ao desempenho off-line, independentemente da disponibilidade do respectivo provedor de nuvem. No MWC 2024 em Barcelona, que começa hoje, a Qualcomm demonstrou as possibilidades técnicas atuais de algoritmos de IA executados diretamente no dispositivo ou o que em breve será possível, no máximo no verão, quando o primeiro Snapdragon X Elite-baseados em IA, chegarão ao mercado.
NPU do Snapdragon X Elite contra Intel Core Ultra 7 155H
No vídeo de demonstração acima, uma imagem é gerada usando o Stable Diffusion 1.5 no editor de código aberto Gimp com a ajuda da IA generativa: à esquerda, a NPU Hexagon de 45 TOPs no dispositivo de demonstração Snapdragon X Elite e, à direita, o laptop Intel com Core Ultra 7 155H. O dispositivo de teste vermelho da Qualcomm, já conhecido do Qualcomm Summit em outubro de 2023completou a geração da imagem em 7,25 segundos, três vezes mais rápido que o PC Intel ao lado, que levou 22,26 segundos.
O segundo teste é quase ainda mais impressionante: Enquanto o laptop Snapdragon X Elite produz uma imagem a cada segundo, a geração de imagens da Intel leva em média 12 segundos, embora o Meteor Lake também tenha uma NPU integrada. É claro que devemos observar que não conhecemos os parâmetros específicos desse teste, mas, pelo menos no mundo da Qualcomm, os notebooks Snapdragon X Elite esperados para 2024 têm vantagens tangíveis, especialmente com IA no dispositivo.
Ajuste de imagem individual usando LoRA em um telefone Android
A demonstração acima também é empolgante, pois mostra pela primeira vez como a IA generativa pode personalizar o resultado de acordo com os requisitos do usuário usando "Low Rank Adaptation" ou LoRA, para abreviar. Sejam gatos com cristais ou macarrão em vez da pele clássica - praticamente não há limites para a imaginação. Tudo isso é executado diretamente em um telefone Android com um chip Snapdragon.
Primeiro modelo multimodal com mais de 7 bilhões de parâmetros localmente em um smartphone ...
Outra novidade é o LMM (Large Multimodal Model), com mais de 7 bilhões de parâmetros, apresentado pela equipe de pesquisa de IA da Qualcomm, que é executado localmente em um telefone Android. O vídeo acima mostra como a inteligência artificial aceita não apenas texto, mas também fala e imagens como entrada e as utiliza para manter uma conversa com o usuário. Tudo isso é chamado de LLAVA (Large Language and Vision Assistant) pela Qualcomm.
... e, claro, também em um PC Snapdragon X Elite
Na última demonstração acima, um LMM com mais de 7 bilhões de parâmetros também está sendo executado em um PC Windows-on-ARM, naturalmente baseado no Snapdragon X Elite, que também aceita arquivos de áudio como entrada e pode analisá-los - nesse caso, música, por exemplo. A Qualcomm chama isso de Raciocínio de áudio. Além dessas demonstrações, a Qualcomm também anunciou o AI Hub no MWC 2024, que os desenvolvedores de aplicativos podem usar para tornar seus aplicativos prontos para IA em pouco tempo. A Qualcomm também tem um novo hardware no campo da comunicação. Saiba mais sobre o modem Snapdragon X80 5G e o FastConnect 7900, o primeiro chip a combinar Wi-Fi 7, Bluetooth 5.4 e Ultrawideband, aqui.
IA em dispositivos IoT e smartphones atuais
Alguns dispositivos IoT de consumo baseados no Snapdragon também já estão usando recursos de IA, sendo um exemplo proeminente o polêmico AI Pin da Humane. Os principais smartphones lançados no fim de semana - Xiaomi 14, Xiaomi 14 Ultrae Honor Magic6 Pro - fornecem exemplos diferentes de como a IA no dispositivo pode ser usada para definir prioridades diferentes. No caso da Xiaomi, a principal área de preocupação é a câmera, enquanto o Honor se concentra mais na operação do usuário do que nas tarefas.
Fonte(s)
Qualcomm
