Melhores ferramentas locais de gestão de bibliotecas (LLM) em 2026: ambientes de execução, aplicativos e agentes.

Atualizado em 19 de agosto de 2026: Primeira publicação. Pesquisa atualizada até esta data.

Existem quatro razões para executar um modelo de linguagem em seu próprio hardware em vez de em uma aba do navegador, e apenas uma delas é ideológica. Privacidade: um documento que você entrega a um modelo local nunca sai da máquina, o que é essencial para o código do cliente, contratos, dados de pacientes e produtos ainda não lançados. Estrutura de custos: a IA na nuvem é tarifada, e as cargas de trabalho com agentes multiplicam a contagem de tokens tão rapidamente que uma estação de trabalho capaz se paga; o hardware que você possui tem o custo da eletricidade. Disponibilidade: sem limites de taxa, sem interrupções, sem e-mails de aviso de descontinuação alterando seu fluxo de trabalho em uma terça-feira. E controle: o modelo que você validou é o modelo que você executa até que decida o contrário.

A contrapartida é que os modelos de nuvem de ponta continuam mais capazes e, para trabalhos de longo prazo com agentes, a diferença é real. Onde os modelos locais atingiram a paridade é em trabalhos com escopo limitado: bate-papo, sumarização, código em um único arquivo e perguntas e respostas em documentos. Isso, por acaso, representa a maior parte do que a maioria das pessoas faz o dia todo. Se sua prioridade é a capacidade máxima a qualquer custo, use a nuvem. Se sua prioridade é privacidade, custo ou controle, o modelo local é viável hoje, e esta página é o mapa.

Essa definição deve moldar seu orçamento de hardware, pois o investimento em IA local é, antes de tudo, uma decisão sobre memória. 16 GB de VRAM ou 32 GB de memória unificada cobrem a classe de 7 a 8 bytes, que lida com o trabalho limitado acima. De 24 a 32 GB de VRAM, ou 48 GB de memória unificada, alcançam a classe de 30 bytes, onde a programação agentiva deixa de ser uma demonstração. De 96 a 128 GB de memória unificada executam os modelos acima de 100 bytes, que se aproximam da qualidade de ponta. Comprar em excesso significa obter uma velocidade que você pode não perceber; comprar em falta significa que a classe de modelo desejada nunca será carregada. Nossos guias "Melhores Laptops para IA Local" e "Melhores Desktops para IA Local" classificam as máquinas por nível. Esta página aborda o que executar em cada uma delas.

O lado do software não amadureceu tão bem quanto o do hardware. Cerca de um terço das ferramentas recomendadas em uma busca hoje em dia estão obsoletas, e a maioria das páginas que as recomendam nem percebeu isso.

Esta página registra o que funciona e em qual hardware, até agosto de 2026. Por enquanto, classificamos por estrelas do GitHub, pois é um indicador neutro e verificável, e indicamos quando uma ferramenta é de código fechado e não possui classificação por estrelas. Cada nome de ferramenta nas tabelas contém um link para o download oficial. À medida que testamos cada plataforma em laboratório, a coluna Guia é preenchida com um passo a passo prático de configuração e nossos próprios resultados.

Três regras para esta página. Primeiro, distinguimos um modelo local de um agente local . Vários produtos são executados em sua máquina, enquanto cada chamada de inferência é feita para a nuvem de um fornecedor; isso representa uma postura de privacidade, não uma capacidade offline, e essas ferramentas são listadas separadamente na parte inferior, em vez de serem removidas. Segundo, cada entrada apresenta uma especificação de hardware mínima realista, porque "funciona em um laptop" não significa nada sem uma informação sobre a memória. Terceiro, registramos o que deixou de funcionar, com as respectivas datas, nas Perguntas Frequentes.

As Escolhas

Melhor duração geral de um LLM local: Ollama

A resposta padrão, e aquela com a qual a maioria das outras ferramentas se comunica. Licenciado sob a licença MIT, com aproximadamente 179,000 estrelas no GitHub, e agora inclui uma interface gráfica para desktop além da linha de comando. Ele baixa modelos com um único comando, expõe um endpoint compatível com OpenAI em localhost e, em janeiro de 2026, adicionou compatibilidade com a API de Mensagens Antropológicas, que é como as pessoas agora direcionam o Claude Code para um modelo local. Requisitos mínimos: 8 GB de RAM para um modelo de 3 bilhões de modelos, 16 GB para modelos de 7 a 8 bilhões de modelos e 24 GB de VRAM para a classe de 30 bilhões de modelos.

Melhor para avaliação comparativa de hardware: LM Studio

Por ser de código fechado, não possui classificação por estrelas, mas mesmo assim merece destaque. O LM Studio inclui tanto o llama.cpp quanto o MLX e expõe os controles que importam quando você está medindo o desempenho de uma máquina em vez de usá-la: camadas de descarregamento de GPU, escolha de quantização, comprimento do contexto e comportamento multi-GPU. É gratuito para uso comercial desde julho de 2025. Esta é a ferramenta por trás da maioria das medições de tokens por segundo em nossos painéis de estações de trabalho e laptops. Requisitos mínimos: 16 GB de RAM; 24 GB de VRAM ou 32 GB de memória unificada para um desempenho interessante.

Melhor motor subjacente: llama.cpp

Quase tudo o mais nesta página depende do llama.cpp. Licenciado sob a licença MIT, com aproximadamente 124,700 estrelas e várias versões com tags publicadas diariamente. É importante para o público de hardware por um motivo específico: a lista de backends é enorme, abrangendo CUDA, ROCm, Metal, Vulkan, SYCL, CANN e OpenCL, e os engenheiros dos fornecedores agora contribuem com otimizações diretamente para ele. Uma melhoria no pré-preenchimento do Intel Arc na versão 8688 representou um ganho de aproximadamente 5 vezes, e todos os usuários do Ollama e do LM Studio a receberam sem precisar instalar nada. Requisitos mínimos: funciona apenas com a CPU; 8 GB de RAM para ser utilizável.

Melhor aplicativo de desktop com foco em localização: janeiro

Apache 2.0, aproximadamente 44,100 estrelas, versão 0.8.4 em julho de 2026. O Jan inclui o llama.cpp, então não há nada mais para instalar, e funciona mesmo com o cabo de rede desconectado. Isso parece um requisito básico até você verificar quantos aplicativos nesta categoria são clientes em nuvem com um campo Ollama. Este é o aplicativo ideal para entregar a um colega que nunca abre um terminal. O Document RAG é seu ponto fraco. Requisitos mínimos: 8 GB de RAM.

Melhor documento local RAG: AnythingLLM

MIT, aproximadamente 64,800 estrelas. Ele inclui um banco de dados vetorial e lida com fragmentação e incorporação sem configuração, o que o torna o chat de documentos mais fácil de usar da categoria desktop. Duas coisas que não vamos esconder: uma vulnerabilidade de março de 2026, classificada como CVSS 9.6, permitia a execução remota de código acionada pela própria resposta transmitida do modelo, corrigida na versão 1.11.2, então atualize antes de usar. E a telemetria vem ativada por padrão em um aplicativo comercializado como prioritariamente local, que você pode desativar nas Configurações. Requisitos mínimos: 16 GB de RAM para trabalho com documentos.

Melhor solução multiusuário autohospedada: Open WebUI

Com aproximadamente 149,000 estrelas e a configuração de recuperação mais profunda disponível, a versão 0.11.0 será lançada em julho de 2026. Trata-se de um servidor auto-hospedado, e não de um aplicativo para desktop, portanto, o Docker é o ponto de partida. Um detalhe importante a saber antes de começar a usá-lo: a licença foi alterada em abril de 2025, passando de BSD-3 para uma licença personalizada não aprovada pela OSI, que adiciona uma cláusula contra a remoção da marca Open WebUI, com uma exceção para usuários com menos de cinquenta anos em qualquer período de trinta dias. Se você executar o aplicativo sem modificações em pequena escala, nada mudará para você. Requisitos mínimos: um ambiente de execução separado e 4 GB de RAM para o contêiner.

Melhor agente de codificação local: Cline

Apache 2.0, aproximadamente 63,900 estrelas. A Cline investiu mais em engenharia local do que qualquer concorrente, incluindo um prompt de sistema compacto criado especificamente para Ollama e LM Studio, além de chamadas de ferramentas nativas por família de modelos. A própria documentação da empresa é excepcionalmente franca sobre as vantagens que a nuvem ainda oferece. Requisitos mínimos: 24 GB de VRAM ou 36 GB de memória unificada e contexto configurado para 32K ou superior.

Melhor Programação de Terminal Offline: Aider

Apache 2.0, aproximadamente 48,300 estrelas, e arquiteturalmente a opção local mais confiável por um motivo que vale a pena entender. O Aider não usa chamadas de ferramentas JSON. Ele analisa formatos de diff e edição de arquivos inteiros a partir de texto simples, o que evita exatamente o modo de falha que quebra a maioria dos agentes em modelos locais. A ressalva é a manutenção: um único autor escreveu 96% dos commits, e a cadência de lançamentos caiu para aproximadamente uma versão estável em 2026. Requisitos mínimos: 24 GB de VRAM ou 36 GB de memória unificada.

Melhor plataforma de agentes autohospedados: OpenHands

Licenciado pelo MIT, com aproximadamente 84,500 estrelas. O OpenHands documenta os modelos locais adequadamente e, mais útil, indica quando o problema não está na sua configuração: a própria documentação afirma que, se o agente se comportar como um chatbot ou falhar constantemente com as ferramentas, o modelo é a limitação. Ele exige um mínimo de 22 mil contextos e recomenda 32 mil. Requisitos mínimos: 24 GB de VRAM para modelos quantizados ou 64 GB de memória unificada.

A melhor surpresa gratuita offline: GitHub Copilot CLI

Desde abril de 2026, a CLI do Copilot funciona com Ollama, vLLM e Foundry Local. A autenticação do GitHub é opcional e não é necessária uma assinatura do Copilot. Configurar COPILOT_OFFLINE interrompe toda a telemetria e comunicação de rede, e seus subagentes herdam seu provedor local. A maioria dos artigos comparativos ainda o lista como exclusivo para nuvem. Observe a diferença: a extensão para IDE ainda envia sugestões de conclusão embutidas para a nuvem, mesmo com a opção "traga sua própria chave". Requisitos mínimos: um modelo com uma janela de contexto de 128 KB, ou seja, 32 GB de VRAM ou 64 GB de memória unificada.

Melhor servidor com suporte do fornecedor: Lemonade

Apache 2.0, com aproximadamente 5,400 estrelas, é a única ferramenta de fornecedor que recomendamos por mérito, e não por fidelidade ao hardware. É mantida por engenheiros da AMD e funciona com NVIDIA CUDA, Apple Metal, Vulkan e CPUs convencionais, além de NPUs Radeon e Ryzen AI. É lançada aproximadamente a cada duas semanas e migrou seu aplicativo para desktop do Electron para o Tauri em abril de 2026. Requisitos mínimos: 16 GB de RAM; Ryzen AI série 300 ou posterior para uso com NPU.

Melhor RAG local para todo o sistema de arquivos: Nexa AI Hyperlink

Código fechado e gratuito. Ele indexa todo o seu sistema de arquivos no dispositivo e fornece respostas com citações embutidas. Está nesta lista porque é a única ferramenta RAG local nova com dados de aceleração publicados para hardware de consumo: indexação aproximadamente 3 vezes mais rápida e inferência 2 vezes mais rápida em uma RTX 5090, com uma pasta de 1 GB reduzindo o tempo de indexação de cerca de quinze minutos para quatro ou cinco. Requisitos mínimos: uma GPU RTX moderna; 16 GB de RAM.

Tempos de execução: o que realmente executa o modelo

Este é o mecanismo principal. Tudo nas duas tabelas seguintes é uma interface que se comunica com um desses mecanismos. Ordenado por estrelas do GitHub.

Runtime	Estrelas	Licença	Hardware Mínimo	Aceleração	Guias
Ollama	~ 179,000	MIT	8 GB de RAM (3B), 16 GB (7-8B), 24 GB de VRAM (classe 30B)	CUDA, ROCm, Metal, Vulkan	Em breve
lhama.cpp	~ 124,700	MIT	8 GB de RAM, somente CPU funciona	CUDA, ROCm, Metal, Vulkan, SYCL, CANN, OpenCL	Em breve
MLX / mlx-lm	~ 27,500	MIT	Apple Silicon, 16 GB unificado	Metal; Backend CUDA adicionado em 2026	Em breve
Estúdio LM	Fonte fechada	Propriedade exclusiva, livre para uso comercial.	16 GB de RAM; 24 GB de VRAM ou 32 GB unificados.	Pacotes llama.cpp e MLX	Em breve
vLLM	Serviço de produção	Apache 2.0	24 GB de VRAM, piso realista	CUDA, ROCm	Em breve

Aplicativos de desktop e RAG local

Os aplicativos que um leitor instala. A coluna "Local-First" é a que deve ser lida com atenção: ela separa o software que executa um modelo em sua máquina do software que adicionou um campo para um URL do Ollama.

App	Estrelas	Licença	Local-Primeiro	Hardware Mínimo	Guias
Abrir WebUI	~ 149,000	Personalizado, não aprovado pela OSI	Capaz, servidor, não desktop	Tempo de execução separado + 4 GB para contêiner	Em breve
Qualquer coisaLLM	~ 64,800	MIT	Compatível; telemetria ativada por padrão	RAM 16GB	Em breve
Jan	~ 44,100	Apache 2.0	Sim, pacotes llama.cpp	RAM 8GB	Em breve
Estúdio LM	Fonte fechada	Proprietário	Sim	16 GB de RAM; 24 GB de VRAM para ser interessante.	Em breve
Msty	Fonte fechada	Proprietário, nível gratuito	Sim, pacotes Ollama, MLX, llama.cpp	RAM 8GB	Em breve
Hiperlink Nexa AI	Fonte fechada	Proprietário, gratuito	Sim, indexação no dispositivo.	GPU RTX moderna, 16 GB de RAM	Em breve

Ferramentas de Codificação e Agentes

Essas são as entradas da página que mais exigem hardware, pois o trabalho com agentes requer uma grande janela de contexto e sessões longas. Considere 32 GB de VRAM ou 64 GB de memória unificada como o ponto em que isso deixa de ser uma demonstração.

ferramenta	Estrelas	Licença	Caminho local	Hardware Mínimo	Guias
Mãos Abertas	~ 84,500	MIT	LM Studio, Ollama, vLLM, SGLang	24 GB de VRAM ou 64 GB unificados; contexto de 32K	Em breve
Cline	~ 63,900	Apache 2.0	Ollama, LM Studio, compatível com OpenAI	24 GB de VRAM ou 36 GB unificados	Em breve
Ganso	~ 52,900	Apache 2.0	Ollama de primeira classe; agora Linux Foundation	24 GB de VRAM ou 36 GB unificados	Em breve
ajudar	~ 48,300	Apache 2.0	Ollama, compatível com OpenAI; sem necessidade de chamada de ferramenta.	24 GB de VRAM ou 36 GB unificados	Em breve
Zed	v1.0, abril de 2026	Apache 2.0	LM Studio, Ollama, llama.cpp	24 GB de VRAM ou 36 GB unificados	Em breve
CLI do GitHub Copilot	Fonte fechada	Proprietário, sem necessidade de assinatura	Ollama, vLLM, Foundry Local	32 GB de VRAM ou 64 GB unificados; contexto de 128K	Em breve

Iniciativas de Fornecedores

Todos os fornecedores de silício e sistemas operacionais lançam algo para IA local, e a categoria merece um item próprio, pois a nomenclatura é confusa e a taxa de mortalidade é alta. O padrão ao longo de 2026 é consistente: os fornecedores pararam de competir com a pilha de terceiros e começaram a alimentá-la. A NVIDIA descontinuou seus dois produtos de IA local e agora publica otimizações para Ollama, llama.cpp e ComfyUI. A AMD faz parceria com a LM Studio. A Qualcomm lançou sua capacidade de NPU portando o aplicativo de outra empresa.

A única coisa que as ferramentas do fornecedor fazem que o Ollama e o LM Studio não conseguem: acessar a NPU . O llama.cpp não possui um backend para a NPU, então, em uma máquina de IA com Snapdragon ou Ryzen, essas ferramentas deixam o mecanismo neural com utilização zero. Se você pagou por 40 a 60 TOPS, somente um caminho do fornecedor os utiliza. Mas ajuste suas expectativas. As NPUs atualmente atingem um limite de cerca de 7 bilhões de modelos, e a vantagem é a duração da bateria em tarefas contínuas com modelos pequenos, não a taxa de transferência. Uma GPU dedicada supera a NPU em velocidade sempre.

Vendedor	O que é	Formato	Hardware Necessário	Status	Guias
Limonada AMD	Servidor, GUI e SDK; ~5,400 estrelas, Apache 2.0	Aplicativo + servidor	16 GB de RAM; Ryzen AI 300+ para NPU. Também funciona em placas NVIDIA, Apple e CPUs.	Ativo, envios aproximadamente quinzenais.	Em breve
Intel OpenVINO GenAI	Runtime e SDK; ~10,700 estrelas	SDK	Core Ultra, série Arc A/B; 16 GB de RAM	Ativo, 2026.3 em agosto de 2026	Em breve
Modelos da Apple Foundation	Modelos no dispositivo expostos pelo sistema operacional	estrutura do SO	Apple Silicon; já instalado	Ativo; aberto a qualquer provedor na WWDC 2026.	Em breve
Microsoft Foundry Local	SDK e CLI de inferência local; ~2,400 estrelas	SDK	Windows, macOS, Linux; NPU/GPU/CPU	GA abril de 2026; catálogo de modelos selecionados	Em breve
AMD GAIA	Aplicativo LLM local para IA Ryzen; ~1,400 estrelas, MIT	Aplicativo + SDK	Processador Ryzen AI série 300 (mínimo); 16 GB de RAM, 64 GB recomendados.	Ativo, v0.20.0 Junho de 2026	Em breve
Parque de IA da Intel	Aplicativo para computador; ~900 estrelas	App	Arc série A 8GB+, Arc série B, Core Ultra	Ativo, mas ainda em versão beta após dois anos.	Em breve
Qualcomm GenieX	Ambiente de execução GGUF integrado para NPU Snapdragon	Runtime	Snapdragon X / X Elite, 8 Elite	Prévia para desenvolvedores, julho de 2026	Em breve
Projeto NVIDIA G-Assist	Assistente 8B integrado para controle do sistema	App	RTX série 20 ou posterior, 6 GB de VRAM	Ativo, mas ainda classificado como pré-lançamento.	Em breve

Uma observação sobre a nomenclatura. O "RTX AI Garage" da NVIDIA soa como um produto, mas não é; trata-se de uma série de posts no blog. A plataforma da Microsoft teve seus nomes alterados diversas vezes: as APIs do Copilot Runtime se tornaram APIs de IA do Windows, o Azure AI Foundry se tornou Microsoft Foundry e o DirectML agora está em modo de manutenção, recebendo apenas correções de segurança. O Qualcomm AI Hub é um serviço em nuvem que provisiona dispositivos físicos remotamente, não algo que você execute localmente.

O que geralmente quebra

A maioria dos relatos de que os modelos locais "não funcionam" são problemas de configuração, não problemas do modelo em si. Quatro deles, em particular, são responsáveis ​​por uma grande parte desses casos, e todos os quatro são aspectos que o público interessado em hardware deve conhecer antes de culpar o silício.

1. O Ollama usa por padrão um contexto de 4,096 tokens. Ele não gera um erro quando você excede esse limite. Ele trunca silenciosamente e um loop agentivo é encerrado sem problemas. Qualquer harness sério precisa de mais: o OpenHands exige pelo menos 22 tokens e recomenda 32, o Codex precisa de 32, o Copilot CLI precisa de 128 e o Cline define 262,144. Essa configuração específica é provavelmente a causa mais comum dos relatos de falhas que você encontrará online.

2. A quantização do cache KV degrada especificamente as chamadas de ferramentas , e isso ocorre antes que a qualidade geral da saída seja visivelmente afetada. A documentação do llama.cpp alerta diretamente sobre isso. Se você estiver executando um agente, desative-a.

3. A quantidade de ferramentas é um precipício, não uma ladeira. Acima, aproximadamente cinco ou seis ferramentas estão no escopo; alguns modelos silenciosamente param de emitir chamadas de ferramentas JSON válidas e começam a incorporar XML no corpo da resposta, o que o sistema interpreta como "nenhuma ferramenta usada". Um agente popular distribuía onze ferramentas por padrão e quebrou seu próprio modelo recomendado até o início de 2026. A consequência prática é contra-intuitiva: sobrecarregar muitos servidores MCP é ativamente prejudicial em modelos locais de uma forma que não é em modelos de ponta.

4. Q4_K_M é o limite mínimo prático. Abaixo dele, a confiabilidade das chamadas de ferramentas cai mais rapidamente do que a qualidade geral, então o modelo ainda parece bom, mas silenciosamente falha em fazer qualquer coisa.

A memória é a limitação.

Em todas as ferramentas desta página, o fator determinante para a execução de seus programas é a quantidade de memória que o acelerador consegue acessar. Estas são as combinações mais citadas para trabalhos com agentes e as que pretendemos verificar em laboratório.

Hardware	Modelo	Pegada	Taxa de transferência relatada
RTX 5090, 32 GB	Qwen3.6-35B-A3B Q4_K_M	~ 21 GB	160-180 tok/s, contexto de 262K
RTX 5090, 32 GB	Qwen3-Coder-30B-A3B Q4_K_M	~ 19 GB	50-90 tok/s em classe de 24 GB
RTX 5090, 32 GB	Devstral Pequeno 24B Q4_K_M	~ 14 GB	Projetado especificamente para chamadas de ferramentas.
RTX PRO 6000, 96 GB	GPT-OSS 120B MXFP4	~ 63 GB	A classe 100B em uma única placa de workstation; a GPU da nossa análise de laboratório.
Notebook RTX PRO 5000, 24GB GDDR7	Qwen3-Coder-30B-A3B Q4_K_M	~ 19 GB	A maior GPU para laptop que testamos (ThinkPad P16 Gen 3); a classe 30B se encaixa perfeitamente, com folga.
96-128 GB unificado, série M	gpt-oss-120b Q6_K	~ 93 GB	14-20 tok/s; JSON de chamada de ferramenta mais limpo de qualquer modelo open-weight

Vale a pena dizer, pois o marketing não menciona: os maiores modelos de código aberto não são para estações de trabalho. O GLM-5.2 tem aproximadamente 744 bytes de parâmetros e precisa de cerca de 744 GB em um FP8, que é um nó de data center com oito GPUs. O Kimi K2 e o DeepSeek V4 estão na mesma categoria. Qualquer guia que diga para executar esses modelos em um desktop está errado.

Os dados de throughput acima foram obtidos de testes de terceiros e materiais de fornecedores, e ainda não são resultados de laboratório da StorageReview. Substituiremos esses dados por nossos próprios números à medida que cada plataforma passar pelo processo de avaliação do Guia.

Ferramentas Cloud-First e por que elas não estão classificadas aqui

A maioria dos usuários de IA está familiarizada com as ferramentas online de IA populares e fáceis de usar. Um agente local não é um modelo local. Cada um deles é executado em sua máquina, enquanto envia todas as chamadas de inferência para a nuvem de um fornecedor.

ferramenta	Suporte ao modelo local	Observação
Cursor	Não	A documentação oficial afirma que todas as solicitações são roteadas pelos servidores da Cursor; as teclas personalizadas funcionam apenas com os principais provedores de nuvem, e o recurso de autocompletar com a tecla Tab sempre utiliza os modelos da Cursor. Adquirida pela SpaceX em 2026.
Devin Desktop (antes Windsurf)	Não	Renomeado em junho de 2026. Todos os modelos são hospedados na nuvem.
Antigravidade do Google	Não	A documentação afirma explicitamente que não é possível usar Ollama, LM Studio ou um endpoint personalizado.
Gemini CLI	Não	O suporte local existe apenas em forks da comunidade.
Qodo	Não	"On-premise" refere-se à infraestrutura auto-hospedada que ainda utiliza modelos de nuvem.
GitHub Copilot no IDE	Parcial	O chat pode usar modelos locais; as conclusões embutidas permanecem na nuvem mesmo em ambientes BYOD (Bring Your Own Key).
ChatGPT	Não	Os aplicativos para desktop e dispositivos móveis são clientes para os modelos em nuvem da OpenAI. Os modelos gpt-oss de peso aberto da OpenAI podem ser executados localmente, mas por meio dos ambientes de execução mencionados acima, e não pelo aplicativo ChatGPT.
Claude	Não	Os aplicativos Claude e o Cowork são executados nos modelos de nuvem da Anthropic. O Claude Code pode ser direcionado para um modelo local por meio da API compatível com Anthropic do Ollama, o que funciona, mas é uma configuração não suportada.
assistentes gerais de agentes	Não	As ferramentas desta classe são executadas na sua máquina, mas dependem de um modelo em nuvem para raciocínio.

Existe um gênero bastante difundido de guias sobre como "conectar o Cursor ao Ollama". A própria documentação do Cursor os contradiz. Se a operação offline for um requisito para você, essa distinção é crucial.

E quanto à geração de imagens e vídeos?

A geração local de imagens é uma das maiores comunidades em IA local. Só o ComfyUI supera a maioria das ferramentas classificadas acima por estrelas no GitHub, e a geração local de vídeos está se tornando a carga de trabalho de consumo que mais consome VRAM. Ela merece sua própria tabela de classificação, em vez de uma quarta categoria adicionada a esta, e terá uma. Até lá, a lógica de hardware desta página se aplica diretamente: o processamento de imagens e vídeos é ainda mais limitado pela memória do que os modelos de linguagem, e os mesmos níveis de exigência se aplicam.

Como funciona esta página

Três regras. Primeiro, a classificação é feita por estrelas do GitHub por enquanto. Não é o ideal, mas é neutro, verificável e não nos obriga a fingir que testamos coisas que não testamos. Ferramentas de código fechado são marcadas como tal, em vez de receberem uma pontuação inventada. À medida que nossos próprios testes identificarem favoritos, a ordem será alterada para refletir os resultados obtidos, e nós informaremos isso. Segundo, cada entrada inclui um requisito mínimo de memória, pois esse valor determina se um modelo será carregado. Terceiro, a coluna Guia representa um compromisso: cada plataforma recebe um passo a passo prático de configuração com nossos números em nosso hardware, e o link aparecerá aqui quando for publicado.

Perguntas frequentes sobre ferramentas locais de mestrado em direito

Qual ferramenta local de LLM devo usar para começar?

Ollama é uma boa opção se você se sente confortável usando um terminal; LM Studio é ideal para quem prefere uma interface gráfica com controles; e Jan é perfeito para quem busca uma solução pronta para uso, sem necessidade de instalação adicional. Os três são gratuitos, funcionam totalmente offline e utilizam o arquivo llama.cpp internamente, garantindo o mesmo comportamento do modelo. A diferença está na interface, não na velocidade.

O que aconteceu com o NVIDIA ChatRTX, o GPT4All e o Continue.dev?

Eles desapareceram, juntamente com um número surpreendente de seus pares, e esta é a informação mais útil a saber antes de seguir uma recomendação antiga. O NVIDIA ChatRTX foi descontinuado em 21 de janeiro de 2026, seu repositório foi arquivado e seu fórum de suporte bloqueado, sem que um substituto tenha sido anunciado. O GPT4All é o caso mais complicado: não teve commits nos últimos doze meses e seu último lançamento foi em fevereiro de 2025, mas o repositório não está arquivado e ainda exibe uma grande quantidade de estrelas, então parece estar ativo. Ele sempre suportou apenas um conjunto restrito de formatos de quantização e não consegue carregar a maioria das versões atuais de modelos. O Continue.dev , por dois anos a recomendação padrão para codificação de modelos locais, foi adquirido pelo Cursor e encerrado em junho de 2026. O Roo Code foi desativado em maio de 2026, o Void foi arquivado em junho de 2026, o Twinny em novembro de 2025 e o Reor em março de 2026. O Khoj desativou seu serviço hospedado em abril de 2026, embora a versão auto-hospedada ainda esteja disponível. Do lado dos fornecedores, o Intel IPEX-LLM foi arquivado em janeiro de 2026 e sinalizado por problemas de segurança conhecidos, sem um caminho de migração publicado, e o NVIDIA RTX AI Toolkit foi descontinuado em novembro de 2025.

De quanta VRAM eu preciso para executar um LLM local?

Para bate-papo, 8 GB de RAM do sistema executam um modelo de 3 bits, e 16 GB executam um modelo de 7 a 8 bits de forma aceitável apenas com a CPU. Para obter velocidade útil, você precisa do modelo em VRAM ou memória unificada: 16 GB suportam a classe de 7 a 14 bits, 24 GB alcançam a classe de 30 bits no quarto trimestre, e 32 GB ou mais é onde o trabalho de programação de agentes deixa de ser frustrante. Acima disso, a capacidade importa mais do que a largura de banda, e é por isso que máquinas com memória unificada de 96 a 128 GB executam modelos que nenhuma placa de vídeo para consumidor consegue suportar.

As ferramentas locais do LLM utilizam minha NPU?

Geralmente não. O arquivo llama.cpp não possui um backend de NPU, portanto, o Ollama e o LM Studio deixarão o mecanismo neural em zero por cento em uma máquina de IA com Snapdragon ou Ryzen e executarão na CPU ou GPU. Acessar a NPU atualmente requer um caminho específico do fornecedor: Qualcomm GenieX, AMD Lemonade com seu runtime de NPU, Intel OpenVINO ou o Neural Engine da Apple por meio das estruturas do sistema operacional. Vale a pena saber o que você ganha com isso, que é duração da bateria e operação contínua de baixo consumo de energia, em vez de velocidade. Além disso, as NPUs atualmente atingem um limite em torno de 7 bilhões de modelos, e uma GPU dedicada sempre terá um desempenho superior em termos de throughput.

Devo executar IA localmente no Windows ou no Linux?

Para os aplicativos de desktop desta página, Windows e macOS oferecem uma experiência mais fluida. LM Studio, Jan, AnythingLLM e Ollama são instalados nativamente, os drivers de GPU vêm das fontes usuais e nada requer um terminal. O Linux se destaca um nível abaixo: os mecanismos de servidor de produção, vLLM e SGLang, são desenvolvidos prioritariamente para Linux, o servidor multi-GPU pressupõe isso e alguns dos caminhos de aceleração mais recentes chegam ao Linux antes de qualquer outro sistema, incluindo o suporte a NPU de IA Ryzen da AMD, que chegou ao Linux e requer um kernel muito recente. A diferença é menor do que costumava ser. A AMD unificou seus lançamentos do ROCm entre Windows e Linux em 2026, e o WSL2 cobre a maior parte do restante, o que permite que ferramentas baseadas em Docker, como o Open WebUI, funcionem perfeitamente em uma máquina Windows. A regra prática é: se você estiver instalando a partir da tabela de aplicativos de desktop, mantenha o sistema operacional que você já possui; se você estiver criando um servidor dedicado ou buscando todos os caminhos de aceleração, compile-o no Linux.

Será que os modelos locais são suficientemente bons para substituir um modelo em nuvem na programação?

Depende inteiramente da tarefa, e a diferença é mais acentuada do que a maioria das análises admite. Em tarefas com escopo limitado, como geração de um único arquivo, testes unitários, código repetitivo e explicação de código, os modelos open-weight atuais em uma boa estação de trabalho estão praticamente em paridade com os modelos de ponta em nuvem. Em tarefas de longo prazo e com agentes, como refatorações de múltiplos arquivos em um grande repositório, eles perdem claramente, e os modos de falha são do tipo desagradável: operações nulas silenciosas e tarefas relatadas com confiança que nunca foram realizadas. Se o seu motivo para optar por uma infraestrutura local é privacidade, requisitos de isolamento da internet ou custo, é viável hoje. Se o seu motivo é capacidade, ainda não é.

Executar um modelo localmente é mais seguro do que usar um serviço em nuvem?

Para residência de dados, sim, e esse geralmente é o objetivo. Para segurança de software, não automaticamente. Um aplicativo de IA local com classificação CVSS 9.6 em março de 2026 poderia ser induzido a executar código no host pela própria saída transmitida do modelo, porque o aplicativo para desktop foi empacotado com configurações padrão inseguras. Local significa que seus dados permanecem no mesmo local. Isso não significa que o software seja extremamente seguro, e essa categoria inclui muitos códigos que mudam rapidamente.

O que é um ambiente de testes (sandbox) para agentes de IA e preciso de um para IA local?

Um sandbox é um ambiente isolado, geralmente um contêiner ou uma máquina virtual leve, onde um agente de IA executa os comandos e o código que gera, de forma que um erro ou uma instrução maliciosa não possa afetar o sistema hospedeiro. Ele existe porque os agentes não apenas respondem a perguntas; eles executam comandos de shell, editam arquivos e navegam, e cada uma dessas ações é orientada pela saída do modelo, que pode ser manipulada. Executar o modelo localmente não altera essa lógica. O objetivo do sandbox é isolar o que o agente faz, não onde o modelo reside, e a vulnerabilidade de execução de código descrita acima ilustrou exatamente esse ponto em um aplicativo que prioriza a execução local. Algumas ferramentas nesta página já vêm com sandbox integrado, e aquelas que executam agentes com acesso irrestrito ao host merecem uma análise mais cuidadosa antes de serem usadas em uma máquina importante. À medida que a adoção de agentes se expande para ambientes corporativos, espere que o sandbox se torne um recurso principal, em vez de uma nota de rodapé, e espere que comecemos a considerá-lo em nossa avaliação dessas ferramentas.

É possível que o hardware local execute cargas de trabalho com agentes e dezenas de subagentes?

Esta é a fronteira, e a resposta honesta é que uma única estação de trabalho fica sem espaço rapidamente. Cargas de trabalho multiagentes geram subagentes, cada um com seu próprio contexto, e no lado da inferência, cada contexto ativo significa seu próprio cache chave-valor na memória, portanto, a pegada de memória escala com a concorrência, não apenas com o tamanho do modelo. Para onde esses caches vão quando a memória excede a capacidade é um problema de engenharia à parte; nosso estudo aprofundado sobre o descarregamento de cache chave-valor para flash , baseado em hardware Dell e Solidigm, é o melhor tratamento desse assunto que já publicamos. Uma máquina que atende confortavelmente uma sessão de agente de classe 30B normalmente consegue lidar com algumas sessões paralelas por meio de um servidor de processamento em lote antes que a latência se degrade; dezenas de subagentes simultâneos já é território de servidor, com memória suficiente para armazenar muitos contextos ativos e um mecanismo de serviço como o vLLM, desenvolvido para processamento em lote contínuo. Há também um limite de qualidade: modelos locais já perdem confiabilidade à medida que o número de ferramentas aumenta, e a orquestração multiplica ferramentas e transferências. Nossa visão é que o trabalho com um único agente ou com poucos agentes é uma tarefa legítima para estações de trabalho atualmente, enquanto grandes frotas de subagentes são uma tarefa que exige infraestrutura. Essa fronteira, e o hardware necessário para ultrapassá-la, é algo que planejamos explorar com muito mais profundidade.