El HPE ProLiant Compute DL380a Gen12 está dirigido a equipos de IA empresariales que buscan alta densidad sin modificar la configuración de sus racks. Este chasis 4U con refrigeración por aire se instala fácilmente, admite hasta ocho GPU de doble ancho y ofrece PCIe Gen5 en toda su estructura. Se puede configurar con dos CPU Intel Xeon 6, cada una con hasta 144 núcleos, 4 TB de memoria DDR5 en 32 DIMM y dieciséis bahías NVMe E3.S para un alto rendimiento y capacidad. El objetivo es claro: lograr inferencia de nivel de producción y un ajuste preciso a gran escala sin recurrir a la refrigeración líquida.
Para aceleradores, HPE valida una amplia gama que incluye NVIDIA H200 NVL, H100 NVL, L40S, L20, L4 y RTX PRO 6000 Blackwell Server Edition, con opciones de fuentes de alimentación que admiten componentes de alto consumo. En este análisis, nos centramos en la RTX PRO 6000 Server, que ofrece una solución práctica y óptima para la IA empresarial. Cada tarjeta cuenta con 96 GB de memoria ECC GDDR7, PCIe Gen5 x16, núcleos Tensor compatibles con FP4 y una potencia de 600 W que permite su uso en racks refrigerados por aire. Nuestro equipo incluía cuatro tarjetas, un punto de partida adecuado para la inferencia de alto rendimiento y el ajuste preciso, con capacidad para futuras ampliaciones.
HPE completa la plataforma con los componentes operativos esenciales. iLO 7 gestiona la configuración fuera de banda, el estado y el control de energía, respaldados por la raíz de confianza de silicio (un enclave seguro para la integridad del firmware), compatibilidad con RSA de 4096 bits y un módulo iLO DC-MHS desmontable que refuerza la verificación de la cadena de suministro. El servidor también se integra con el marco de IA de nube privada de HPE para la gobernanza multiequipo y las implementaciones repetibles a escala de flota.
HPE ProLiant Compute DL380a Gen12 – Especificaciones técnicas
| Categoría: | Especificaciones |
|---|---|
| tipo de procesador | HPE ProLiant Compute DL380a Gen12 |
| familia de procesador | Procesadores escalables Intel® Xeon® de cuarta generación |
| Núcleos de procesador disponibles | De 64 a 144 núcleos, dependiendo del procesador. |
| Número de procesadores | 2 |
| Velocidad del procesador | Hasta 2.4 GHz, según el procesador |
| La memoria máxima | RDIMM de 4 TB (2 TB por procesador) |
| ranuras de memoria | 32 ranuras DIMM |
| tipo de memoria | Memoria inteligente HPE DDR5 |
| Protección de la memoria | RAS: ECC avanzado, repuesto en línea, duplicación, funcionalidad de canal combinado (lockstep), memoria tolerante a fallos rápida HPE (ADDDC) |
| Soporte de unidad | SFF NVMe y EDSFF |
| Seguridad | Bisel de bloqueo opcional, detección de intrusiones y HPE TPM 2.0 integrado. |
| gestión de la infraestructura | HPE iLO Standard con Intelligent Provisioning (integrado), HPE OneView Standard (requiere descarga) • Opcional: HPE iLO Advanced y HPE OneView Advanced (se requieren licencias) |
| Fuente de alimentación | Hasta 8 M-CRPS. Redundancia simple 1+1 para la placa base. Redundancia doble 2+1 para las GPU. |
| Slots de expansión | 6 |
| Ventiladores del sistema | Incluye 4 ventiladores de doble rotor y 8 ventiladores de un solo rotor con conexión en caliente |
| Factor de forma | Rack 4U |
| Garantía | 3/3/3: Garantía del servidor |
Diseño y montaje de HPE ProLiant DL380a Gen12
El HPE ProLiant Compute DL380a Gen12 es un servidor rack de 4U y doble socket diseñado para implementaciones escalables de alto rendimiento. Con unas dimensiones de 6.88 x 17.63 x 31.60 cm, combina una alta densidad de potencia de cómputo de CPU y GPU con una refrigeración por aire eficiente para un funcionamiento fiable bajo cargas de trabajo intensivas.
Con un peso de entre 82.7 kg y 137.8 kg, según la configuración, el chasis admite componentes de alta capacidad, alimentación redundante y fácil acceso frontal para mantenimiento. Su diseño prioriza el rendimiento, la capacidad de ampliación y una gestión térmica robusta, lo que lo hace idóneo para entornos empresariales y centros de datos.
En cuanto al almacenamiento, el HPE ProLiant DL380a Gen12 ofrece configuraciones de 4 y 8 bahías en formatos SFF o EDSFF. Nuestra unidad de prueba venía configurada con el kit de panel frontal HPE DL380a Gen12 NS204i-u, compatible con dos dispositivos de arranque NVMe M.2 con conexión en caliente. El chasis también incluía ocho bahías de 2.5 pulgadas, equipadas con dos SSD U.3 de la marca HPE con una capacidad de 15.36 TB. HPE ofrece varias opciones de paneles frontales, lo que permite una escalabilidad flexible para diversas necesidades de implementación.
La unidad se puede transportar mediante dos asas laterales, por lo que requiere al menos dos personas para su correcta instalación. Utiliza un kit de rieles 2U con guías telescópicas, lo que permite una instalación sencilla y el mantenimiento dentro del rack sin necesidad de desmontarlo por completo.
En la parte posterior del HPE ProLiant DL380a Gen12, encontrará una distribución bien organizada que prioriza el flujo de aire, la capacidad de expansión y el mantenimiento. El sistema admite hasta ocho fuentes de alimentación MCRPS (1-8) con una pared de ventilación integrada, lo que garantiza una refrigeración óptima incluso bajo carga. La capacidad de expansión es amplia, con múltiples ranuras PCIe Gen5 x16 (ranuras 1-6) que admiten tarjetas elevadoras integradas, tanto estándar como opcionales, así como ranuras OCP A y B para configuraciones de adaptadores de red flexibles.
La conectividad incluye un puerto de red iLO dedicado, varios puertos USB 3.2 Gen 1 y un puerto VGA para administración local. Cabe destacar que la ranura 1 solo está disponible cuando se instala el cable directo HPE DL380a Gen12 4EDSFF para NVD (P74716-B21) y no se puede usar con unidades NVMe SFF, mientras que la ranura 4 no es compatible con configuraciones de 4 u 8 GPU DW.
La alimentación del HPE ProLiant DL380a Gen12 se proporciona mediante kits de fuentes de alimentación modulares M-CRPS Titanium Hot Plug, con opciones compatibles que incluyen los modelos de 1500 W (P67244-B21), 2400 W (P67252-B21) y 3200 W (P67248-B21). El sistema admite hasta ocho fuentes de alimentación, lo que permite una redundancia N+1 para garantizar el funcionamiento continuo incluso en caso de fallo de un módulo de alimentación. Los requisitos y la distribución de energía pueden variar según la configuración de la GPU. Nuestra unidad de prueba venía equipada con cinco fuentes de alimentación M-CRPS de 2400 W, que proporcionan la capacidad suficiente para alimentar las cuatro GPU de 600 W TDP del sistema, manteniendo una redundancia fiable.
Al observar el interior del HPE ProLiant DL380a Gen12 desde arriba, resulta evidente que HPE diseñó este chasis con una estrategia térmica centrada en la GPU, ubicándola en la parte frontal del sistema para recibir un flujo de aire directo y sin obstrucciones. El sistema de refrigeración cuenta con cuatro conjuntos de ventiladores intercambiables en caliente, cada uno compuesto por un ventilador de doble rotor de 92x56 mm y dos ventiladores de rotor simple de 40x28 mm. Los ventiladores más pequeños concentran el flujo de aire sobre la CPU y los módulos de memoria, garantizando una gestión térmica eficiente para los componentes inferiores. En comparación, los ventiladores de doble rotor más grandes están diseñados específicamente para dirigir un flujo de aire de alto volumen directamente sobre la matriz de GPU. Este diseño equilibrado garantiza una refrigeración óptima tanto para los componentes de cómputo como para los aceleradores, incluso bajo cargas de trabajo sostenidas de alta potencia.
Tras examinar la configuración de la GPU, nuestra unidad venía precableada para cuatro GPU PCIe 5.0, cada una instalada de forma impecable en la jaula frontal. El sistema estaba configurado con GPU NVIDIA RTX PRO 6000 (Blackwell Server Edition, 96 GB), pertenecientes a la nueva línea profesional de NVIDIA, optimizada para cargas de trabajo de IA, renderizado y computación. Según la configuración, el DL380a Gen12 admite 4 u 8 GPU de doble ancho o hasta 16 aceleradores de ancho simple, lo que ofrece flexibilidad para una amplia gama de implementaciones empresariales y de IA.
Las GPU compatibles con esta plataforma incluyen:
- NVIDIA RTX PRO 6000 Edición Servidor (96 GB)
- NVIDIA H200 NVL (141 GB)
- NVIDIA H100 NVL (94 GB)
- NVIDIA L40S (48 GB)
- NVIDIA L20 (48 GB)
- NVIDIA L4 (24 GB)
Esta disposición flexible de la GPU, junto con los carriles PCIe Gen5 de alto ancho de banda, garantiza que el DL380a Gen12 esté preparado tanto para tareas de inferencia intensivas como para entornos de entrenamiento de IA a gran escala. Al observar el interior del chasis, con la cubierta de refrigeración instalada, podemos apreciar el ingenioso enfoque de ingeniería de HPE para la gestión del flujo de aire. La cubierta cuenta con un diseño de deflectores moldeados con precisión que dirige el aire de forma eficiente a través de las CPU, los módulos de memoria y los VRM, lo que garantiza una refrigeración uniforme en todo el sistema.
En cuanto a los disipadores de la CPU, HPE diseñó el DL380a Gen12 teniendo en cuenta el equilibrio térmico. Cada procesador Xeon 6 incorpora un disipador de calor alto y de alta densidad, diseñado para gestionar la propia salida de calor de la CPU y el calor adicional generado por las GPU ubicadas en la parte frontal del chasis. Este diseño garantiza un rendimiento de refrigeración constante incluso bajo cargas de trabajo mixtas exigentes, donde la salida de aire de las GPU puede elevar la temperatura ambiente alrededor de la CPU. Al instalar GPU de alto consumo, la combinación de disipadores de calor más altos y el diseño de flujo de aire frontal a posterior de HPE proporciona la superficie y la eficiencia de refrigeración necesarias para gestionar eficazmente la carga térmica adicional.
Resumen de la OIT 7
Como se mencionó, el sistema incluye un puerto iLO dedicado que proporciona capacidades de administración fuera de banda para un control y monitoreo completos del servidor. Este dispositivo viene con la nueva interfaz HPE iLO 7, que brinda a los administradores acceso a una interfaz renovada y funcionalidades mejoradas, integrada con HPE Compute Ops Management para una configuración, monitoreo y administración del ciclo de vida optimizados. A continuación, se muestra la nueva pantalla de inicio de sesión de HPE iLO 7 de nuestro sistema de muestra.
Comenzando por el panel de control, podemos observar que HPE iLO 7 presenta una interfaz modernizada que resalta de inmediato el estado del sistema y los indicadores clave de salud. El panel principal ofrece una visión general del estado de alimentación, la salud y el estado de conexión del host con HPE Compute Ops Management. A la derecha, se muestra información general del sistema, como la dirección IP de iLO, el nombre de host y el tipo de licencia, para una consulta rápida.
El panel de control reúne métricas esenciales —como la redundancia de los ventiladores, el estado de la fuente de alimentación y las lecturas de temperatura— en un diseño claro con código de colores, lo que facilita la evaluación del estado del servidor de un vistazo. El acceso a medios virtuales y a la consola remota también está disponible directamente desde la página principal, lo que agiliza las tareas comunes de administración remota sin necesidad de navegación adicional.
En la pestaña Firmware, HPE iLO 7 ofrece una vista clara y organizada de todos los componentes y las tareas de gestión de actualizaciones. La interfaz muestra el inventario de firmware, las colas de instalación activas y los resultados de verificación en un diseño basado en tarjetas que facilita la navegación. Los administradores pueden iniciar actualizaciones rápidamente, cargar paquetes al repositorio de iLO o crear conjuntos de instalación para la implementación por lotes.
La verificación del firmware y la gestión del repositorio están integradas en esta vista, lo que permite a los usuarios confirmar la integridad y mantener la coherencia de versiones entre los componentes. El menú de Acciones rápidas a la derecha simplifica tareas esenciales, como la actualización del firmware o la carga de archivos nuevos. La tarjeta de Configuración de firmware permite controlar las políticas de degradación y la aceptación de paquetes de terceros.
En la sección Host, HPE iLO 7 proporciona acceso rápido a funciones críticas de administración del servidor, como controles de energía, medios virtuales, estado del hardware y rendimiento del sistema. Los administradores pueden ver el estado de redundancia del hardware en tiempo real, acceder al registro de administración integrado o iniciar la consola remota directamente desde esta interfaz. El diseño también incluye acciones rápidas como apagado controlado, reinicio y restablecimiento, lo que permite el control remoto completo del sistema sin necesidad de acceso físico.
El panel derecho muestra la configuración del host, incluyendo el estado del TPM, la configuración de la política de la plataforma y la información del módulo de hardware. En general, esta sección destaca el papel de iLO 7 como centro de control centralizado, que permite a los administradores gestionar de forma segura la alimentación, supervisar eventos y mantener el control operativo en una única vista.
Desde la vista Host > Hardware, podemos ver las GPU instaladas en el sistema. Como se observa, la unidad está equipada con cuatro GPU NVIDIA RTX PRO 6000 Blackwell, todas habilitadas y funcionando con normalidad. iLO 7 proporciona información detallada del hardware, incluyendo números de modelo, números de pieza y números de serie, lo que permite a los administradores verificar el estado de los componentes rápidamente.
En la pestaña Seguridad, HPE iLO 7 consolida todos los controles clave relacionados con la protección del sistema y la gestión de accesos. El panel de resumen ofrece una visión general del estado de seguridad, destacando los niveles de riesgo, los bloqueos de configuración y el estado de los certificados. Desde aquí, los administradores pueden gestionar la configuración de cifrado, los métodos de autenticación y los certificados TLS, así como configurar el borrado seguro y la gestión remota de claves.
La interfaz indica claramente las áreas que requieren atención, como los certificados autofirmados o la gestión de claves no configurada, al tiempo que confirma el funcionamiento seguro cuando corresponde. Los registros de seguridad, las políticas de gestión de usuarios y los controles de acceso son fácilmente accesibles, lo que proporciona a los administradores una visión integral del estado de seguridad del sistema directamente desde el entorno iLO.
En la pestaña Aplicaciones HPE, iLO 7 proporciona acceso a herramientas integradas que mejoran la implementación del servidor y la gestión de su ciclo de vida. Desde esta vista, los administradores pueden iniciar Intelligent Provisioning, una utilidad integrada diseñada para simplificar la instalación del sistema operativo, las actualizaciones de firmware y la configuración del sistema sin necesidad de medios externos.
La pestaña Configuración de iLO reúne todas las opciones de configuración y administración para gestionar la interfaz de iLO. Desde aquí, los administradores pueden controlar el acceso de los usuarios, la configuración de los puertos de red, los métodos de autenticación y el comportamiento del registro. El menú también incluye opciones para la resolución de problemas, la aplicación de políticas, la gestión de licencias y la sincronización horaria.
Las acciones rápidas, como realizar copias de seguridad o restaurar la configuración de iLO y reiniciarla, están disponibles en el panel derecho, lo que agiliza las tareas de mantenimiento. El diseño refleja la moderna interfaz basada en tarjetas de iLO 7, ofreciendo una forma clara y organizada de gestionar la seguridad, la conectividad y los parámetros operativos desde una única ubicación centralizada.
Test de rendimiento
Para evaluar las capacidades reales del DL380a Gen12, realizamos un conjunto exhaustivo de pruebas de rendimiento que abarcaron tanto la inferencia de IA como cargas de trabajo de computación general. Estas incluyen pruebas de rendimiento en línea de vLLM para modelos de lenguaje grandes (LLM) y pruebas de rendimiento de Phoronix Test Suite para medir el rendimiento de la CPU, el ancho de banda de la memoria, la eficiencia del servicio web y el rendimiento criptográfico.
Configuración del Sistema
- UPC: 2 procesadores Intel Xeon 6527P
- Memoria: 16 x Kit inteligente HPE de 64 GB 2Rx4 PC5-3400B-R
- GPU: 4 x NVIDIA RTX PRO 6000 (96 GB)
- Almacenamiento: 2 x 15.63 TB PM1733a U.3
Servicio en línea de vLLM – Rendimiento de inferencia de LLM
vLLM es el motor de inferencia y servicio de alto rendimiento más popular para LLM. La prueba de rendimiento en línea de vLLM es una herramienta que evalúa su capacidad de servicio en entornos reales bajo solicitudes concurrentes. Simula cargas de trabajo de producción enviando solicitudes a un servidor vLLM en ejecución con parámetros configurables, como la tasa de solicitudes, la longitud de las entradas y salidas, y el número de clientes concurrentes. La prueba mide métricas clave, como el rendimiento (tok/s), el tiempo hasta el primer token y el tiempo por token de salida, lo que permite a los usuarios comprender el desempeño de vLLM bajo diferentes condiciones de carga.
Probamos el rendimiento de la inferencia en tres modelos representativos que abarcan diferentes escalas y enfoques de cuantización, evaluando cómo las cuatro GPU NVIDIA RTX PRO 6000 del HPE ProLiant DL380a Gen12 manejan las cargas de trabajo de inferencia de producción.
Rendimiento del modelo denso
Los modelos densos representan la arquitectura LLM convencional, donde todos los parámetros y activaciones se utilizan durante la inferencia. Evaluamos dos configuraciones de modelos densos: Llama-2-70b-chat-hf y Llama-3.2-90B-Vision-Instruct.
Rendimiento del chat de Llama-2-70B
Con una concurrencia de un solo usuario (BS=1) y TP=4, el modelo alcanza 32.89 tok/s por usuario con un TPOT de 30.18 ms. Con BS=8, el rendimiento llega a 15.68 tok/s por usuario, con un rendimiento total de 433.62 tok/s y un TPOT de 35.98 ms. Al escalar a BS=32, el rendimiento total alcanza los 741.62 tok/s, manteniendo 8.00 tok/s por usuario con un TPOT de 43.44 ms.
Llama-3.2-90B-Visión-Instrucciones de rendimiento
Con BS=1 y TP=4, el modelo ofrece 20.59 tok/s por usuario con un TPOT de 38.27 ms. Con BS=16, el rendimiento aumenta a 7.20 tok/s por usuario, con un rendimiento total de 806.14 tok/s y un TPOT de 54.98 ms. El rendimiento total máximo de 1372.21 tok/s se alcanza con BS=128, ofreciendo 2.59 tok/s por usuario con un TPOT de 122.75 ms.
Rendimiento de tipos de datos de microescala
El microescalado representa un enfoque de cuantización avanzado que aplica factores de escala de grano fino a pequeños bloques de pesos, en lugar de una cuantización uniforme en grandes grupos de parámetros. El formato NVFP4 de NVIDIA implementa esta técnica mediante una representación de punto flotante por bloques, donde cada bloque de microescala de 8 a 32 valores comparte un exponente común como factor de escala. Este enfoque granular preserva la precisión numérica al tiempo que logra una representación de 4 bits, manteniendo el rango dinámico fundamental para las arquitecturas Transformer. El formato se integra con la arquitectura Tensor Core de NVIDIA en la RTX PRO 6000, lo que permite un cálculo eficiente de precisión mixta con descompresión en tiempo real durante las operaciones matriciales.
Rendimiento del GPT-OSS-120B
Evaluamos el modelo GPT-OSS-120B de OpenAI utilizando la cuantización NVFP4. Con concurrencia de un solo usuario y TP=2, el modelo alcanza 176.09 tok/s por usuario con un TPOT de 5.46 ms, la latencia más baja de nuestro conjunto de pruebas. Con BS=4 y TP=4, el rendimiento llega a 105.79 tok/s por usuario, con un rendimiento total de 1155.94 tok/s y un TPOT de 7.79 ms. Con BS=32 y TP=4, el rendimiento aumenta a 47.54 tok/s por usuario y 3956.44 tok/s en total, con un TPOT de 13.86 ms. El rendimiento total máximo de 4015.77 tok/s se alcanza con BS=64, con 25.38 tok/s por usuario y un TPOT de 14.78 ms.
Puntos de referencia de Phoronix
Phoronix Test Suite es una plataforma de evaluación comparativa automatizada de código abierto que admite más de 450 perfiles de prueba y más de 100 conjuntos de pruebas a través de OpenBenchmarking.org. Gestiona todo el proceso, desde la instalación de dependencias hasta la ejecución de pruebas y la recopilación de resultados, lo que la hace ideal para comparaciones de rendimiento, validación de hardware e integración continua. Nos centraremos en las siguientes pruebas: Streaming, 7-Zip, compilación del kernel de Linux, Apache y OpenSSL.
Ancho de banda de memoria de flujo
En la prueba de rendimiento Stream, que mide el rendimiento bruto de la memoria, el HPE DL380a Gen12 alcanzó la impresionante cifra de 542 GB/s, lo que demuestra la capacidad de la plataforma para mantener altas tasas de transferencia de datos bajo carga continua. Este nivel de ancho de banda hace que el sistema sea particularmente eficaz para cargas de trabajo como el modelado de datos, la simulación y la inferencia de IA, donde grandes conjuntos de datos deben moverse rápidamente entre la memoria y los recursos de cómputo.
Compresión de 7 cremalleras
La prueba de compresión 7-Zip registró 305 kMIP, lo que destaca la alta eficiencia multihilo del sistema para operaciones de compresión y descompresión que requieren un alto poder de cómputo. Estos resultados hacen que el DL380a Gen12 sea ideal para entornos con tareas frecuentes de empaquetado de datos, archivado o flujos de trabajo de copia de seguridad que dependen de un rendimiento de CPU constante y repetible.
Compilación del kernel
Al compilar un kernel completo de Linux (allmodconfig), el DL380a Gen12 completó la tarea en 316 segundos. Este resultado demuestra la capacidad del sistema para gestionar con facilidad cargas de trabajo paralelas y con gran cantidad de código. Un rendimiento de compilación más rápido se traduce directamente en tiempos de compilación más cortos y una mayor velocidad de iteración para los desarrolladores que trabajan en entornos de software a gran escala o de integración y entrega continuas (CI/CD).
Apache Web Server
En cuanto al rendimiento de los servidores web, el DL380a Gen12 soportó 94 348 peticiones por segundo en la prueba de rendimiento de Apache. Este resultado demuestra una gestión equilibrada de E/S y una alta eficiencia de caché, lo que proporciona el rendimiento y la capacidad de respuesta necesarios para aplicaciones web empresariales, servidores front-end de virtualización o alojamiento de servicios internos.
Verificación de OpenSSL
El rendimiento criptográfico fue igualmente sólido: el DL380a Gen12 verificó 803 mil millones de operaciones por segundo en OpenSSL. Esto demuestra la capacidad del sistema para gestionar cargas de trabajo de cifrado, autenticación y comunicaciones seguras a gran escala.
| Puntos de referencia de Phoronix | HPE ProLiant DL380a Gen 12 (2x Intel Xeon 6527P) |
| Transmite | 542,720.7 MB / s |
| 7 cremalleras | 304,907 MIP/s |
| Compilación del kernel (allmod) | 316.166 Segundos |
| Apache (solicitudes por segundo) | 94,347.52 rupias por segundo |
| OpenSSL | 803,597,895,087 Verificar/es |
Conclusión
El HPE ProLiant DL380a Gen12 destaca como uno de los servidores de IA más prácticos y equilibrados, diseñado para el mercado empresarial de IA convencional. Su diseño 4U con refrigeración por aire ofrece una alta densidad de cómputo con dos CPU Xeon 6, soporte para hasta 8 GPU de doble ancho o 16 GPU de ancho simple y 16 bahías NVMe E3.S, manteniendo la fiabilidad y la facilidad de mantenimiento. El enfoque de ingeniería de HPE para el flujo de aire y el equilibrio térmico garantiza un rendimiento constante incluso bajo cargas de trabajo intensivas, demostrando que la aceleración avanzada de IA puede prosperar en entornos tradicionales con refrigeración por aire.
La inclusión de iLO 7 supone una mejora significativa en la gestión, una gran ventaja para proveedores de servidores de primer nivel como HPE. La interfaz modernizada, la integración con HPE Compute Ops Management y la telemetría detallada del hardware hacen que la administración remota sea intuitiva y eficiente. Cada sección (Panel de control, Firmware, Host, Seguridad, Aplicaciones y Configuración) refleja la apuesta de HPE por una experiencia más fluida e integrada en la nube, sin renunciar al control local del que dependen los equipos empresariales.
En las pruebas de rendimiento, el servidor ofreció resultados excelentes. Las cuatro GPU RTX PRO 6000 lograron un rendimiento impresionante tanto en modelos LLM densos como en microescala, con un rendimiento en vLLM comparable al de sistemas con refrigeración líquida. Las pruebas de rendimiento de la CPU realizadas por Phoronix destacan aún más su equilibrio, con más de 540 GB/s de ancho de banda de memoria, 94 000 RPS en Apache y más de 800 000 millones de verificaciones OpenSSL por segundo, demostrando su potencia tanto en inteligencia artificial como en computación de propósito general.
El objetivo de diseño de HPE es claro: ofrecer un rendimiento de IA de alta densidad, listo para producción, mediante refrigeración por aire, compatible con las infraestructuras de racks y alimentación existentes. Para los equipos de centros de datos que buscan computación fiable, segura y fácil de gestionar en un formato refrigerado por aire, el DL380a Gen12 es una solución potente y con visión de futuro para el creciente mercado de la IA.
Amazon