Esta categoria abrange o software que roda nas máquinas analisadas pelos nossos usuários finais, com foco atual em ferramentas LLM locais: aplicativos de desktop e ambientes de execução como Jan, LM Studio e Ollama, que baixam um modelo openweight e o disponibilizam a partir da GPU de um laptop ou estação de trabalho. Cada análise prática instala a ferramenta do zero em hardware de laboratório, demonstra o processo de download do modelo, descarregamento da GPU e as configurações relevantes, além de medir a taxa de transferência de decodificação para que os resultados possam ser comparados entre diferentes ferramentas no mesmo sistema. A categoria também inclui os utilitários de disco e guias de laboratório doméstico que publicamos ao longo dos anos, desde o Samsung Magician e o kit de ferramentas Solidigm Synergy até configurações do Proxmox e pfSense.
Se você estiver escolhendo uma ferramenta, comece com nossa lista das Melhores Ferramentas Locais de IA Local , que classifica ambientes de execução, aplicativos de desktop e frameworks de agentes, além de fornecer links para cada guia prático assim que for publicado. Para o hardware, as páginas Melhores Notebooks para IA Local e Melhores Desktops para IA Local classificam os sistemas com base no desempenho medido dos modelos, e nosso guia de dimensionamento de hardware para IA com agentes explica quanta VRAM, RAM e armazenamento um determinado modelo precisa antes da compra.
O Open WebUI combina chat, gerenciamento de modelos, arquivos, busca na web, chamada de ferramentas, suporte a imagens, recursos de conhecimento e acesso à API em uma única interface de IA local. Para esta análise prática, focamos na versão para desktop Windows e utilizamos o mesmo hardware e arquivos de modelo dos nossos testes anteriores com a versão 0.8.6 de janeiro, para que pudéssemos comparar os dois aplicativos.
Executar grandes modelos de linguagem localmente tornou-se muito mais fácil nos últimos anos, mas ainda existe uma lacuna entre baixar um modelo e ter um ambiente de desktop útil para ele. O Jan se descreve como uma alternativa ao ChatGPT, oferecendo um aplicativo de desktop de código aberto com uma interface familiar de bate-papo que mantém a maior parte da configuração interna.
O OSNexus QuantaStor Community Edition permite o uso com limitações mínimas, com suporte para até quatro nós a 80 TB por nó.
A Samsung lançou recentemente o Samsung Magician Versão 8, o conjunto gratuito de utilitários de gerenciamento de SSD para unidades internas e de consumo. Além de ser gratuito, o Magician fornece informações úteis sobre a unidade, como velocidades, saúde e configurações de segurança.
O Solidigm Synergy 2.0 é o pacote de software gratuito de última geração da empresa, que permite aos usuários desbloquear novos recursos e gerenciar seus SSDs. A Solidigm visa tornar seu PC mais sincronizado com seu SSD por meio de uma experiência de usuário otimizada. O que estamos vendo hoje é apenas a Fase 1 dessa nova ênfase em software. A empresa planeja
O ULINK DA Drive Analyzer é um aplicativo disponível para usuários da QNAP que permite uma previsão precisa dos discos instalados no sistema por meio do poder da Inteligência Artificial (IA). O que diferencia este aplicativo de outros monitores SMART disponíveis no mercado é que a ULINK utiliza aprendizado de máquina para aproveitar dados de mais de uma década.
Recentemente, decidimos criar uma pequena série sobre servidores econômicos para ambientes de laboratório doméstico. Neste artigo, analisamos a configuração do Hyper-V no HP EliteDesk que compramos há algum tempo. O Windows Hyper-V é um ambiente virtual integrado ao Windows Server e ao Windows 10 Pro, Enterprise e Education.
Quando se trata de aprender ou montar componentes para um laboratório doméstico, o amontoado de equipamentos eletrônicos usados conhecido como eBay ou Newegg é uma verdadeira mina de ouro. No ano passado, publicamos um artigo sobre a configuração de um servidor VMware, para o qual adquirimos um HP EliteDesk 800 G1 SFF. Ele tinha um SSD e era compatível.
Recentemente, publicamos um vídeo sobre o Lenovo ThinkEdge SE50 em nossa conta do TikTok que teve uma ótima repercussão. Recebemos vários comentários sobre o uso do SE50 como roteador pfSense. A ideia é bastante impraticável, considerando o preço do SE50 (que começa em torno de US$ 2500). Mas o sistema tem muito a oferecer.
O Samsung Magician é o software gratuito da empresa para gerenciamento de SSDs, que oferece uma variedade de informações úteis sobre a unidade e recursos de otimização para ajudar você a obter o máximo do seu SSD. A última vez que analisamos o software foi em janeiro de 2020 (versão 6) e o consideramos muito fácil de usar, além de ser abrangente e completo.
Amazon