O SlimLM, apoiado pela Adobe, oferece recursos de IA móvel sem nuvem

Graças a um novo modelo de linguagem pequena (SLM) que foi desenvolvido por uma equipe de pesquisadores de IA da Adobe Inc. juntamente com colegas da Auburn University e da Georgia Tech, novos aplicativos de IA para smartphones poderão processar documentos localmente sem acesso à nuvem. Esse SLM é chamado SlimLM, e todos os detalhes sobre ele foram publicados no arXiv.

"Por meio de experimentos extensivos em um Samsung Galaxy S24, identificamos as compensações ideais entre o tamanho do modelo (variando de 125M a 7B parâmetros), o comprimento do contexto e o tempo de inferência para um processamento eficiente no dispositivo. O SlimLM é pré-treinado no SlimPajama-627B e ajustado no DocAssist, nosso conjunto de dados construído para tarefas de resumo, resposta a perguntas e sugestões. Nosso menor modelo demonstra um desempenho eficiente no S24, enquanto as variantes maiores oferecem recursos aprimorados dentro das restrições dos dispositivos móveis"

revelou a equipe de pesquisa.

O SlimLM ainda não está disponível para o grande público, mas isso pode acontecer em breve. Graças a esse trecho de código, um smartphone pode usar o poder da IA localmente para processar documentos sem nem mesmo ficar on-line. Embora as soluções de IA baseadas em nuvem geralmente usem muito menos poder de computação local do que os aplicativos executados localmente, o atributo mais importante que elas oferecem é a privacidade. Até o momento, os grandes nomes da área, como Google, Apple e Meta, já desenvolveram esses aplicativos. Infelizmente, seu status permanece bastante experimental, e nenhum deles chegou às massas. Se os planos dos pesquisadores mencionados acima se concretizarem, o SlimLM poderá se tornar a primeira solução desse tipo.

Os interessados no SlimLM e em soluções semelhantes devem adquirir o livro Demystifying AI: Your Guide to Mastering Small Language Models (Desmistificando a IA: seu guia para dominar modelos de linguagem pequenos), de Jesse Sprinter, que atualmente está disponível por US$ 7,11 no formato Kindle, enquanto a versão em brochura sai por US$ 18,99.