Diese Kategorie umfasst die Software, die auf den Geräten unserer Endbenutzertests läuft. Derzeit liegt der Fokus auf lokalen LLM-Tools: Desktop-Anwendungen und Laufzeitumgebungen wie Jan, LM Studio und Ollama, die ein Open-Weight-Modell herunterladen und es über die GPU eines Laptops oder einer Workstation bereitstellen. Jeder Praxistest installiert das Tool von Grund auf auf der Testhardware, führt den Modell-Download, die GPU-Auslagerung und die relevanten Einstellungen durch und misst den Dekodierungsdurchsatz, um die Ergebnisse verschiedener Tools auf demselben System vergleichen zu können. Die Kategorie enthält außerdem die von uns im Laufe der Jahre veröffentlichten Laufwerks-Utilities und Anleitungen für Heimlabore, von Samsung Magician und dem Solidigm Synergy Toolkit bis hin zu Proxmox- und pfSense-Konfigurationen.
Wenn Sie ein Tool auswählen, beginnen Sie mit unserer Rangliste der besten lokalen LLM-Tools. Diese listet Laufzeitumgebungen, Desktop-Anwendungen und Agenten-Frameworks auf und verlinkt die jeweiligen Anleitungen, sobald diese veröffentlicht werden. Im Hardwarebereich bieten die Seiten „ Beste Laptops für lokale KI“ und „Beste Desktop-PCs für lokale KI“ eine Rangliste der Systeme anhand der gemessenen Modellleistung. Unser Leitfaden zur Dimensionierung von Agenten-KI-Hardware erklärt Ihnen vor dem Kauf, wie viel VRAM, RAM und Speicherplatz ein bestimmtes Modell benötigt.
Open WebUI vereint Chat, Modellverwaltung, Dateiverwaltung, Websuche, Tool-Aufruf, Bildunterstützung, Wissensdatenbankfunktionen und API-Zugriff in einer einzigen lokalen KI-Oberfläche. Für diesen Praxistest konzentrierten wir uns auf die Windows-Desktop-Version und verwendeten dieselbe Hardware und dieselben Modelldateien wie in unseren früheren Tests mit Version 0.8.6 vom Januar, um die beiden Anwendungen vergleichen zu können.
Das lokale Ausführen großer Sprachmodelle ist in den letzten Jahren deutlich einfacher geworden, doch es besteht weiterhin eine Lücke zwischen dem Herunterladen eines Modells und der Verfügbarkeit einer geeigneten Desktop-Umgebung. Jan versteht sich als Alternative zu ChatGPT und bietet eine Open-Source-Desktop-Anwendung mit einer vertrauten Chat-Oberfläche, bei der die meisten Einstellungen lokal vorgenommen werden.
Die OSNexus QuantaStor Community Edition ermöglicht eine Nutzung mit minimalen Einschränkungen und unterstützt bis zu vier Knoten mit 80 TB pro Knoten.
Samsung hat kürzlich Samsung Magician Version 8 veröffentlicht, das kostenlose SSD-Verwaltungsdienstprogramm für interne und Consumer-Laufwerke. Magician ist nicht nur kostenlos, sondern bietet auch nützliche Laufwerksinformationen wie Geschwindigkeit, Zustand und Sicherheitseinstellungen.
Solidigm Synergy 2.0 ist die kostenlose Software-Suite der nächsten Generation, mit der Nutzer neue Funktionen freischalten und ihre SSDs verwalten können. Solidigm möchte durch eine optimale Benutzererfahrung eine bessere Synchronisierung zwischen PC und SSD erreichen. Was wir heute sehen, ist lediglich Phase 1 dieser neuen Softwarestrategie. Das Unternehmen plant…
Der ULINK DA Drive Analyzer ist eine Anwendung für QNAP-Nutzer, die mithilfe von KI eine präzise Vorhersage der im System installierten Laufwerke ermöglicht. Im Gegensatz zu anderen SMART-Monitoren auf dem Markt nutzt ULINK maschinelles Lernen, um Daten aus über einem Jahrzehnt auszuwerten.
Wir haben uns kürzlich entschlossen, eine kleine Serie über kostengünstige Server für Heimnetzwerke zu erstellen. In diesem Artikel haben wir uns die Konfiguration von Hyper-V auf dem HP EliteDesk angesehen, den wir vor einiger Zeit erworben haben. Windows Hyper-V ist eine in Windows Server und Windows 10 Pro, Enterprise und Education integrierte virtuelle Umgebung.
Wenn es darum geht, Komponenten für ein Heim-Labor zusammenzustellen oder zu erlernen, sind die oft minderwertigen, generalüberholten Geräte von eBay oder Newegg eine wahre Fundgrube. Letztes Jahr haben wir einen Artikel über die Einrichtung eines VMware-Servers verfasst, für den wir einen HP EliteDesk 800 G1 SFF verwendet haben. Dieser verfügte über eine SSD und unterstützte...
Wir haben kürzlich ein Video zum Lenovo ThinkEdge SE50 auf unserem TikTok-Account veröffentlicht, das hervorragend ankam. Wir erhielten zahlreiche Kommentare zum Thema Nutzung des SE50 als pfSense-Router. Angesichts des Preises des SE50 (ab ca. 2500 US-Dollar) ist diese Idee jedoch wenig praktikabel. Das System hat aber durchaus einiges zu bieten.
Samsung Magician ist die kostenlose SSD-Verwaltungssoftware des Unternehmens. Sie bietet eine Reihe nützlicher Laufwerksinformationen und Optimierungsfunktionen, mit denen Sie das volle Potenzial Ihrer SSD ausschöpfen können. Wir haben die Software zuletzt im Januar 2020 (Version 6) getestet und sie als sehr benutzerfreundlich und gleichzeitig umfassend bewertet.
Amazon