O Opera se torna o primeiro navegador da Web a oferecer acesso a LLMs locais

Os usuários do Opera One no fluxo de desenvolvedores estão recebendo uma grande atualização. A última atualização permite que os usuários baixem e usem LLMs localmente. Atualmente, a seleção de modelos é de mais de 50 famílias, e há mais de 150 modelos diferentes que os usuários podem baixar e executar em seus computadores.

Alguns dos modelos mais notáveis incluem Gemma do Google, LLaMA do Meta, Mixtral da Mistral AIe Vicuna da LMSYS. Esse novo recurso está sendo implementado como parte do programa AI Feature Drops. Ou seja, os usuários que executam a versão de desenvolvedor do Opera One para testar a atualização.

Mesmo assim, com isso, o Opera se tornou o primeiro navegador da Web a permitir que seus usuários baixem e usem LLMs locais. Para aqueles que estão se perguntando, a execução desses modelos localmente geralmente oferece controle total, latência reduzida e, o mais importante, melhor privacidade. Mas seu computador precisa atender a alguns requisitos.

Por exemplo, a empresa de navegadores da Web afirma que cada variante do LLM local precisará de mais de 2 GB de armazenamento. Quanto à execução dos modelos, a Opera disse que usa a estrutura de código aberto Ollama. Isso também significa que todos os modelos atualmente disponíveis no navegador são subconjuntos da biblioteca Ollama. A parte boa é que o Opera planeja incluir modelos de outras fontes.

Nem todos os usuários se beneficiarão com essa atualização. No entanto, é uma boa notícia para aqueles que desejam testar diferentes LLMs localmente em suas máquinas. O usuário pode usar o Assistente de IA chamado Aria se o senhor não quiser fazer download de modelos. Ele está disponível para a versão regular do navegador desde maio do ano passado.

Obtenha uma webcam OBSBOT Tiny 2 com tecnologia de IA na Amazon