Ta kategoria obejmuje oprogramowanie działające na maszynach, które zostały omówione w naszych recenzjach użytkowników końcowych, ze szczególnym uwzględnieniem lokalnych narzędzi LLM: aplikacji desktopowych i środowisk uruchomieniowych, takich jak Jan, LM Studio i Ollama, które pobierają model w wersji open-weight i obsługują go z laptopa lub stacji roboczej z procesorem graficznym (GPU). Każdy z nich instaluje narzędzie od podstaw na sprzęcie laboratoryjnym, przechodzi przez proces pobierania modelu, odciążania procesora graficznego (GPU) i konfigurowania odpowiednich ustawień, a także mierzy przepustowość dekodowania, aby umożliwić porównywanie wyników między narzędziami w tym samym systemie. W tej kategorii znajdują się również narzędzia dyskowe i poradniki dotyczące laboratoriów domowych, które publikowaliśmy przez lata, od Samsung Magician i zestawu narzędzi Solidigm Synergy po kompilacje Proxmox i pfSense.
Jeśli wybierasz narzędzie, zacznij od naszej tabeli najlepszych lokalnych narzędzi LLM , która klasyfikuje środowiska wykonawcze, aplikacje desktopowe i frameworki agentów, a także linkuje do każdego przewodnika praktycznego w miarę jego publikacji. Jeśli chodzi o sprzęt, strony „ Najlepsze laptopy dla lokalnej sztucznej inteligencji” i „ Najlepsze komputery stacjonarne dla lokalnej sztucznej inteligencji ” klasyfikują systemy na podstawie mierzonej wydajności modelu, a nasz przewodnik po rozmiarach sprzętu dla sztucznej inteligencji agentowej omawia, ile pamięci VRAM, RAM i pamięci masowej potrzebuje dany model przed zakupem.
Open WebUI łączy czat, zarządzanie modelami, pliki, wyszukiwanie w internecie, wywoływanie narzędzi, obsługę obrazów, funkcje wiedzy i dostęp do API w jednym lokalnym interfejsie AI. W tej praktycznej recenzji skupiliśmy się na wersji na komputery stacjonarne z systemem Windows i wykorzystaliśmy te same pliki sprzętowe i modelowe z naszych wcześniejszych testów wersji 0.8.6 ze stycznia, aby móc porównać obie aplikacje.
Lokalne uruchamianie dużych modeli językowych stało się znacznie łatwiejsze w ciągu ostatnich kilku lat, ale wciąż istnieje luka między pobraniem modelu a udostępnieniem dla niego użytecznego środowiska graficznego. Jan opisuje siebie jako alternatywę dla ChatGPT, oferując aplikację desktopową typu open source z interfejsem w stylu czatu, która zachowuje większość konfiguracji.
Wersja OSNexus QuantaStor Community Edition umożliwia korzystanie z niej z minimalnymi ograniczeniami i obsługuje maksymalnie cztery węzły przy 80 TB danych na węzeł.
Samsung niedawno wydał Samsung Magician w wersji 8, darmowy pakiet narzędzi do zarządzania dyskami SSD, przeznaczony do użytku wewnętrznego i konsumenckiego. Magician jest bezpłatny, a ponadto udostępnia przydatne informacje o dyskach, takie jak prędkość, stan i ustawienia zabezpieczeń.
Solidigm Synergy 2.0 to darmowy pakiet oprogramowania nowej generacji, który umożliwia użytkownikom odblokowywanie nowych funkcji i zarządzanie dyskami SSD. Solidigm dąży do lepszej synchronizacji komputera z dyskiem SSD poprzez optymalne doświadczenie użytkownika. To, co widzimy dzisiaj, to po prostu pierwsza faza tego nowego podejścia do oprogramowania. Firma planuje
ULINK DA Drive Analyzer to aplikacja dostępna dla użytkowników QNAP, która umożliwia precyzyjną prognozę dysków zainstalowanych w systemie dzięki wykorzystaniu sztucznej inteligencji. Tym, co wyróżnia tę aplikację od innych monitorów SMART dostępnych na rynku, jest to, że ULINK wykorzystuje uczenie maszynowe do analizy danych z ponad
Niedawno postanowiliśmy stworzyć krótką serię artykułów na temat serwerów budżetowych dla środowisk homelab. W tym artykule przyjrzeliśmy się konfiguracji Hyper-V na komputerze HP EliteDesk, który kupiliśmy jakiś czas temu. Windows Hyper-V to środowisko wirtualne wbudowane w systemy Windows Server oraz Windows 10 Pro, Enterprise i Education.
Jeśli chodzi o naukę lub budowę komponentów do domowego laboratorium, to wysypisko śmieci znane jako eBay lub NewEgg to prawdziwa gratka. W zeszłym roku stworzyliśmy artykuł o konfiguracji serwera VMware, do którego nabyliśmy komputer HP EliteDesk 800 G1 SFF. Miał on dysk SSD i obsługiwany…
Niedawno opublikowaliśmy na naszym koncie TikTok film o Lenovo ThinkEdge SE50, który został przyjęty z zachwytem. Otrzymaliśmy wiele komentarzy dotyczących wykorzystania SE50 jako routera pfSense. Pomysł ten jest jednak mało praktyczny, biorąc pod uwagę cenę SE50 (rozpoczyna się ona od około 2500 dolarów). System ma jednak wiele
Samsung Magician to darmowe oprogramowanie firmy do zarządzania dyskami SSD, które oferuje szereg przydatnych informacji o dyskach i funkcji optymalizacji, aby pomóc Ci w pełni wykorzystać możliwości Twojego dysku SSD. Ostatni raz testowaliśmy to oprogramowanie w styczniu 2020 roku (wersja 6) i stwierdziliśmy, że jest bardzo przyjazne dla użytkownika, a jednocześnie zawiera kompleksowe i…
Amazon