Esta categoría abarca el software que se ejecuta en las máquinas analizadas por nuestros usuarios finales, centrándose actualmente en las herramientas LLM locales: aplicaciones de escritorio y entornos de ejecución como Jan, LM Studio y Ollama, que descargan un modelo de peso abierto y lo ejecutan desde la GPU de un portátil o estación de trabajo. Cada tutorial práctico instala la herramienta desde cero en hardware de laboratorio, recorre la descarga del modelo, la descarga a la GPU y la configuración relevante, y mide el rendimiento de la decodificación para poder comparar los resultados entre diferentes herramientas en el mismo sistema. Esta categoría también incluye las utilidades de unidades y las guías para laboratorios domésticos que hemos publicado a lo largo de los años, desde Samsung Magician y el kit de herramientas Solidigm Synergy hasta configuraciones de Proxmox y pfSense.
Si está buscando una herramienta, comience con nuestra tabla comparativa de las mejores herramientas LLM locales , que clasifica los entornos de ejecución, las aplicaciones de escritorio y los marcos de agentes, e incluye enlaces a cada guía práctica a medida que se publica. En cuanto al hardware, las páginas "Mejores portátiles para IA local" y "Mejores ordenadores de sobremesa para IA local" clasifican los sistemas según el rendimiento medido del modelo, y nuestra guía de dimensionamiento de hardware para IA con agentes explica cuánta VRAM, RAM y almacenamiento necesita un modelo determinado antes de comprarlo.
Amazon