Questa categoria comprende il software in esecuzione sulle macchine utilizzate nelle nostre recensioni per utenti finali, con particolare attenzione agli strumenti LLM locali: applicazioni desktop e runtime come Jan, LM Studio e Ollama, che scaricano un modello open-weight e lo eseguono tramite la GPU di un laptop o di una workstation. Ogni test pratico prevede l'installazione dello strumento da zero sull'hardware di laboratorio, il download del modello, l'offload della GPU e la configurazione delle impostazioni più importanti, oltre alla misurazione del throughput di decodifica per consentire il confronto dei risultati tra i diversi strumenti sullo stesso sistema. La categoria include anche le utility per unità disco e le guide per homelab che abbiamo pubblicato nel corso degli anni, da Samsung Magician e il toolkit Solidigm Synergy alle build di Proxmox e pfSense.
Se stai scegliendo uno strumento, inizia dalla nostra classifica dei migliori strumenti LLM locali , che elenca runtime, applicazioni desktop e framework per agenti e fornisce i link a ciascuna guida pratica non appena viene pubblicata. Per quanto riguarda l'hardware, le pagine "Migliori laptop per IA locale" e "Migliori desktop per IA locale" classificano i sistemi in base alle prestazioni misurate del modello, mentre la nostra guida al dimensionamento dell'hardware per l'IA agentiva illustra la quantità di VRAM, RAM e spazio di archiviazione necessari per un determinato modello prima dell'acquisto.
Open WebUI combina chat, gestione dei modelli, file, ricerca web, richiamo di strumenti, supporto per le immagini, funzionalità di conoscenza e accesso alle API in un'unica interfaccia AI locale. Per questa recensione pratica, ci siamo concentrati sulla versione desktop di Windows e abbiamo utilizzato lo stesso hardware e gli stessi file di modello dei nostri precedenti test della versione 0.8.6 di gennaio, in modo da poter confrontare le due applicazioni.
Negli ultimi due anni, l'esecuzione di modelli linguistici di grandi dimensioni in locale è diventata molto più semplice, ma persiste un divario tra il download di un modello e la disponibilità di un ambiente desktop funzionale. Jan si descrive come un'alternativa a ChatGPT, offrendo un'applicazione desktop open source con un'interfaccia familiare in stile chat che mantiene la maggior parte della configurazione al suo interno.
OSNexus QuantaStor Community Edition consente l'utilizzo con limitazioni minime con supporto per un massimo di quattro nodi a 80 TB per nodo.
Samsung ha recentemente rilasciato Samsung Magician Versione 8, la suite di utilità di gestione SSD gratuita per unità interne e consumer. Oltre ad essere gratuito, Magician fornisce informazioni utili sulla guida come velocità, salute e impostazioni di sicurezza.
Solidigm Synergy 2.0 è la suite software gratuita di nuova generazione dell'azienda che consente agli utenti di sbloccare nuove funzionalità e gestire i propri SSD. Solidigm mira a rendere il PC più sincronizzato con l'SSD attraverso un'esperienza utente ottimale. Quello che stiamo vedendo oggi è semplicemente la Fase 1 di questa nuova enfasi sul software. L'azienda prevede
ULINK DA Drive Analyzer è un'applicazione disponibile per gli utenti QNAP che consente una previsione accurata delle unità installate sul sistema grazie alla potenza dell'intelligenza artificiale. Ciò che rende questa applicazione diversa dagli altri monitor SMART presenti sul mercato è che ULINK utilizza l'apprendimento automatico per sfruttare i dati provenienti da oltre
Di recente abbiamo deciso di creare una piccola serie di articoli sui server economici per ambienti homelab. In questo articolo, abbiamo esaminato la configurazione di Hyper-V sull'HP EliteDesk che abbiamo acquistato qualche tempo fa. Windows Hyper-V è un ambiente virtuale integrato in Windows Server e Windows 10 Pro, Enterprise ed Education. È
Quando si tratta di imparare o costruire componenti per un homelab, il mucchio di tecnologia dismessa conosciuta come eBay o NewEgg refurbished è una vera e propria miniera d'oro. L'anno scorso, abbiamo scritto un articolo sulla configurazione di un server VMware, per il quale abbiamo acquistato un HP EliteDesk 800 G1 SFF. Aveva un SSD e un'unità di elaborazione dati supportata.
Di recente abbiamo pubblicato un video sul Lenovo ThinkEdge SE50 sul nostro account TikTok che ha riscosso un enorme successo. Abbiamo ricevuto numerosi commenti sull'utilizzo dell'SE50 come router pfSense. L'idea è decisamente poco pratica, dato il costo dell'SE50 (il cui prezzo parte da circa 2500 dollari USA). Ma il sistema offre molte...
Samsung Magician è il software gratuito di gestione SSD dell'azienda, che offre una serie di utili informazioni sull'unità e funzionalità di ottimizzazione per aiutarti a ottenere il massimo dal tuo SSD. Abbiamo esaminato il software l'ultima volta a gennaio 2020 (versione 6) e lo abbiamo trovato molto intuitivo, pur essendo composto da un'interfaccia completa e intuitiva.
Amazon