Den här kategorin omfattar programvaran som körs på maskinerna i våra slutanvändarrecensioner, med nuvarande fokus på lokala LLM-verktyg: skrivbordsappar och runtime-program som Jan, LM Studio och Ollama som laddar ner en öppenviktsmodell och hanterar den från en bärbar dators eller arbetsstations GPU. Varje praktisk installation installerar verktyget från grunden på labhårdvara, fungerar genom modellnedladdning, GPU-avlastning och de inställningar som är viktiga, och mäter avkodningsdataflödet så att resultaten kan jämföras mellan verktyg på samma system. Kategorin innehåller också de enhetsverktyg och homelab-guider som vi har publicerat genom åren, från Samsung Magician och Solidigm Synergy-verktygslådan till Proxmox och pfSense-byggen.
Om du väljer ett verktyg, börja med vår topplista över de bästa lokala LLM-verktygen , som rankar körtider, skrivbordsappar och agentramverk och länkar varje praktisk guide allt eftersom den publiceras. För hårdvarusidan rankar sidorna Bästa bärbara datorer för lokal AI och Bästa stationära datorer för lokal AI system baserat på uppmätt modellprestanda, och vår storleksguide för agentisk AI-hårdvara täcker hur mycket VRAM, RAM och lagring en given modell behöver innan du köper.
Ollama 0.40.11 ger Windows-användare en chattapplikation på skrivbordet och en lokal modellkörningstid för annan programvara. Ollama har också gått bortom sitt ursprungliga kommandoradsgränssnitt och lagt till en sökbar modellväljare, bildbilagor och länkar till kodningsverktyg. Vissa kontroller vi behövde för testning finns fortfarande kvar i PowerShell och modellkonfigurationsfiler. Vi installerade Ollama
Open WebUI kombinerar chatt, modellhantering, filer, webbsökning, verktygsanrop, bildstöd, kunskapsfunktioner och API-åtkomst i ett lokalt AI-gränssnitt. För denna praktiska granskning fokuserade vi på Windows-skrivbordsversionen och använde samma hårdvara och modellfiler från vår tidigare testning i januari v0.8.6 så att vi kunde jämföra de två applikationerna.
Att köra stora språkmodeller lokalt har blivit mycket enklare under de senaste åren, men det finns fortfarande ett gap mellan att ladda ner en modell och att ha en användbar skrivbordsmiljö för den. Jan beskriver sig själv som ett ChatGPT-alternativ och erbjuder en öppen källkodsapp för skrivbordet med ett välbekant chattgränssnitt som håller det mesta av installationen inuti.
OSNexus QuantaStor Community Edition tillåter användning med minimala begränsningar med stöd för upp till fyra noder med 80TB per nod.
Samsung släppte nyligen Samsung Magician Version 8, den kostnadsfria SSD-hanteringssviten för interna och konsumentenheter. Förutom att vara gratis, tillhandahåller Magician användbar enhetsinformation som hastigheter, hälsa och säkerhetsinställningar.
Solidigm Synergy 2.0 är företagets kostnadsfria nästa generations programvarupaket som låter användare låsa upp nya funktioner och hantera sina SSD-diskar. Solidigm syftar till att göra din dator mer synkroniserad med din SSD genom en optimal användarupplevelse. Det vi ser idag är helt enkelt fas 1 av denna nya betoning på programvara. Företaget planerar
ULINK DA Drive Analyzer är en applikation tillgänglig för QNAP-användare som möjliggör en noggrann förutsägelse av de hårddiskar som är installerade på systemet med hjälp av AI. Det som skiljer den här applikationen från andra SMART-skärmar som finns på marknaden är att ULINK använder maskininlärning för att utnyttja data från över en ...
Vi har nyligen beslutat att skapa en liten serie om budgetservrar för hemmalabmiljöer. I den här artikeln tittade vi på konfiguration av Hyper-V på HP EliteDesk som vi köpte för ett tag sedan. Windows Hyper-V, som är en virtuell miljö inbyggd i Windows Server och Windows 10 Pro, Enterprise och Education. Det är
När det gäller att lära sig eller bygga komponenter för ett hemmalabb är skräphögen av teknik som kallas eBay eller NewEgg-renoveringar en stor sak. Förra året sammanställde vi en artikel om VMware-serverinstallation, vilket ledde till att vi köpte en HP EliteDesk 800 G1 SFF. Den hade en SSD och en stödd ...
Vi publicerade nyligen en video om Lenovo ThinkEdge SE50 på vårt TikTok-konto som fick ett utmärkt mottagande. Vi fick många kommentarer om att använda SE50 som en pfSense-router. Tanken är i stort sett opraktisk med tanke på kostnaden för SE50 (den börjar runt 2500 USD). Men systemet har mycket...
Amazon