QNAP Systems ha presentado el QAI-h1290FX, un servidor de almacenamiento de IA perimetral diseñado para organizaciones que desean ejecutar grandes modelos de lenguaje, búsqueda generativa con recuperación aumentada y otras cargas de trabajo de IA generativa en su propia infraestructura. El sistema está diseñado para empresas que buscan equilibrar la adopción de la IA con los requisitos de privacidad de datos, baja latencia, gobernanza y control operativo, lo que permite a los equipos implementar aplicaciones de IA localmente en lugar de enviar datos confidenciales a plataformas de nube pública.
Las organizaciones pueden usar el QAI-h1290FX para implementar asistentes de IA internos para la capacitación de empleados, consultas sobre políticas y búsqueda de información, manteniendo los datos subyacentes dentro de la empresa. Los equipos legales, financieros, de recursos humanos y de operaciones pueden crear flujos de trabajo RAG privados para buscar contratos, informes y registros internos, lo que proporciona un contexto más amplio que las búsquedas tradicionales por palabras clave. Los equipos creativos pueden usar herramientas de generación de imágenes como Stable Diffusion o ComfyUI para flujos de trabajo de diseño y contenido. Por otro lado, los equipos de TI pueden usar herramientas de automatización como n8n para activar tareas de inferencia, generar contenido o enrutar alertas a través de los sistemas empresariales.
Componentes, expansión y E/S de la QNAP QAI-h1290FX
Construido en torno a un procesador AMD EPYC 7302P y doce bahías U.2 NVMe/SATA para SSD, el QAI-h1290FX combina un rendimiento de computación de nivel servidor con un diseño de almacenamiento totalmente flash optimizado para cargas de trabajo de IA que requieren un acceso rápido a los datos. El procesador de 16 núcleos y 32 hilos admite inferencia, virtualización y cargas de trabajo paralelas. Asimismo, la arquitectura SSD está diseñada para la ejecución frecuente de modelos, la transmisión de datos a alta velocidad y el acceso ágil a conjuntos de datos, incrustaciones, documentos y contenido generado.
El sistema también admite la aceleración de GPU opcional NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation, que proporciona hasta 96 GB de memoria GPU para cargas de trabajo de IA locales más exigentes. La compatibilidad con la aceleración CUDA, TensorRT y Transformer Engine permite a los equipos ejecutar aplicaciones de inferencia de modelos de lenguaje, generación de imágenes y aprendizaje profundo de gran tamaño en sus propias instalaciones sin necesidad de construir una estación de trabajo GPU independiente desde cero.
El QAI-h1290FX ofrece conectividad de red de alta velocidad integrada con dos puertos SmartNIC SFP28 de 25 GbE y dos puertos de 2.5 GbE, y admite Wake-on-LAN a través de los puertos de 2.5 GbE. Para la expansión, incluye cuatro ranuras PCIe, con tres ranuras PCIe Gen 4 x16 y una ranura PCIe Gen 4 x8, lo que proporciona espacio para agregar conectividad de red de mayor velocidad, una GPU u otras tarjetas de expansión compatibles. Las E/S adicionales incluyen tres puertos USB 3.2 Gen 1, compatibilidad con tramas jumbo, SR-IOV, paso de GPU y compatibilidad con SSD SATA de 2.5 pulgadas y SSD U.2 NVMe PCIe Gen4 x4 en sus doce bahías para unidades.
Especificaciones de QNAP QAI-h1290FX
| Especificación | QNAP QAI-h1290FX |
|---|---|
| Resumen | |
| Modelo | AI-h1290FX-7302P-128G |
| Procesador y memoria | |
| CPU | Procesador AMD EPYC™ 7302P de 16 núcleos/32 hilos, hasta 3.3 GHz. |
| Arquitectura de la CPU | 64-bit x86 |
| Motor de cifrado | (AES-NI) |
| Memoria del sistema | 128 GB RDIMM DDR4 ECC |
| memoria máxima | 1 TB (8x128 GB) |
| ranura de memoria | 8 x RDIMM DDR4 |
| Memoria flash | 8GB (protección de SO de arranque dual) |
| Almacenaje | |
| Drive Bay | 12 x 2.5 pulgadas U.2 PCIe NVMe/SATA 6 Gbps El sistema se envía sin unidades SSD. Para obtener la lista de compatibilidad de SSD, visite https://www.qnap.com/compatibility/ |
| Compatibilidad de la unidad | Bahías de 2.5 pulgadas: Unidades de estado sólido SATA de 2.5 pulgadas Unidades de estado sólido U.2.5 NVMe PCIe Gen2 x4 de 4 pulgadas |
| Intercambiables en caliente | Sí: |
| Soporte de aceleración de caché SSD | Sí: |
| GPU y virtualización | |
| Paso de GPU | Sí: |
| SR-IOV | Sí: |
| Networking | |
| Puerto Ethernet de 2.5 Gigabits (2.5G/1G/100M) | 2 (2.5G/1G/100M/10M) |
| 25 puerto Gigabit Ethernet | 2 puertos SmartNIC SFP25 de 28 GbE |
| Despertar en LAN (WOL) | Solo el puerto de 2.5GbE |
| Marco Jumbo | Sí: |
| Expansión y puertos | |
| Ranura PCIe | 4 Ranura 1: PCIe Gen 4 x16 Ranura 2: PCIe Gen 4 x16 Ranura 3: PCIe Gen 4 x8 Ranura 4: PCIe Gen 4 x16 Dimensiones de la tarjeta para las ranuras PCIe 1 y 2: 185 x 111.15 x 18.76 mm / 7.28 x 4.38 x 0.74 pulgadas. Dimensiones de la tarjeta para las ranuras PCIe 3 y 4: 280 x 111.15 x 18.76 mm / 11.02 x 4.38 x 0.74 pulgadas. Se pueden instalar tarjetas más anchas si no se utilizará la siguiente ranura PCIe. |
| Puerto USB 3.2 Gen 1 | 3 |
| Diseño fisico | |
| Factor de forma | Torre |
| Los indicadores LED | Alimentación/Estado, LAN, USB, SSD1-12 |
| Pantalla LCD/Botón | Sí: |
| Botones | Encendido, reinicio, copia automática USB |
| Dimensiones (HxWxD) | 150 x 368 × 362 mm Las dimensiones no incluyen la almohadilla para los pies (la almohadilla para los pies puede tener hasta 10 mm / 0.39 pulgadas de altura, según el modelo). |
| Peso (neto) | 10.4 kg |
| Peso bruto) | 11.3 kg |
| Medio ambiente y energía | |
| Temperatura de Funcionamiento | 0 - 40 ° C (32 ° F - 104 ° F) |
| Temperatura de almacenamiento | -20 - 70 ° C (-4 ° F - 158 ° F) |
| Humedad relativa | 5-95% de humedad relativa sin condensación, bulbo húmedo: 27 ° C (80.6 ° F) |
| Unidad de fuente de alimentación | 750 W, 100-240 V |
| Ventilador | 2 x 92 mm, 12 V CC |
| Advertencia del sistema | Zumbador |
| Ranura de seguridad Kensington | Sí: |
| Garantía y conexiones | |
| Garantía estándar | 5 |
| máx. Número de conexiones simultáneas (CIFS): con máx. Memoria | 10000 |
Diseñado en torno al almacenamiento rápido, la aceleración por GPU y el control local.
El QAI-h1290FX, que funciona con el sistema operativo QuTS hero de QNAP basado en ZFS, incluye funciones de almacenamiento de nivel empresarial, como protección de la integridad de los datos, compatibilidad con instantáneas avanzadas y deduplicación en línea. Estas capacidades son relevantes para las implementaciones de IA, ya que las organizaciones suelen gestionar grandes volúmenes de datos repetidos o relacionados en documentos, incrustaciones, archivos de modelos, materiales de capacitación y resultados generados.
Los desarrolladores y los equipos de TI pueden ejecutar herramientas de IA en entornos de contenedores con acceso nativo a la GPU mediante QNAP Container Station. Al mismo tiempo, Virtualization Station admite el acceso directo a la GPU para máquinas virtuales. Esto brinda a las organizaciones mayor control sobre cómo se asignan los recursos informáticos, ya sea que las cargas de trabajo se implementen en contenedores para mayor velocidad y portabilidad o en máquinas virtuales para la separación, las pruebas y el control administrativo.
El QAI-h1290FX también incluye herramientas de IA preinstaladas como AnythingLLM, OpenWebUI y Ollama, lo que permite a los equipos configurar flujos de trabajo LLM privados e interfaces de chat locales con mayor rapidez. Se están integrando aplicaciones adicionales (como Stable Diffusion, ComfyUI, n8n y vLLM) para admitir la generación de texto, la creación de imágenes, la automatización de flujos de trabajo y casos de uso de inferencia en la misma plataforma local.
Una opción de infraestructura local para equipos de IA empresariales
QNAP afirma que la plataforma puede reducir el trabajo manual que normalmente implica la creación de infraestructura de IA local, incluyendo el ensamblaje de una estación de trabajo con GPU, la instalación de herramientas de IA y la configuración de entornos separados. Los usuarios pueden implementar modelos y aplicaciones de IA compatibles directamente en el sistema, manteniendo el control sobre sus datos y evitando depender de servicios en la nube.
También es compatible con las unidades de expansión JBOD de QNAP, lo que proporciona a las organizaciones una forma de ampliar la capacidad de almacenamiento a medida que crecen los conjuntos de datos de IA, las bases de conocimiento internas, los archivos de modelos y el contenido generado.
Amazon