HPE ProLiant Compute DL380a Gen12는 랙 구성을 변경하지 않고도 높은 밀도를 원하는 주류 기업 AI 팀을 대상으로 합니다. 이 4U 공랭식 섀시는 깔끔하게 장착되며, 최대 8개의 더블 와이드 GPU를 지원하고 PCIe Gen5를 제공합니다. 최대 144개의 코어를 갖춘 듀얼 Intel Xeon 6 CPU, 32개의 DIMM에 4TB DDR5 메모리, 그리고 높은 처리량과 용량을 위한 16개의 E3.S NVMe 베이로 구성할 수 있습니다. 목표는 간단합니다. 수냉식 영역으로 진출하지 않고도 프로덕션급 추론 성능과 집중적인 미세 조정을 대규모로 구현하는 것입니다.
가속기의 경우, HPE는 NVIDIA H200 NVL, H100 NVL, L40S, L20, L4 및 RTX PRO 6000 Blackwell Server Edition을 아우르는 광범위한 스택을 검증했으며, 고전력 구성 요소를 지원하는 PSU 옵션도 제공합니다. 이 리뷰에서는 엔터프라이즈 AI에 적합한 RTX PRO 6000 서버에 중점을 둡니다. 각 카드는 96GB ECC GDDR7, PCIe Gen5 x16, FP4 지원 Tensor 코어, 그리고 공랭식 랙에서 작동하는 600W 엔벨로프를 제공합니다. 본 장비에는 4개의 카드가 함께 제공되었는데, 이는 고처리량 추론 및 정밀 튜닝을 위한 합리적인 시작점이며, 확장을 위한 여유 공간도 제공합니다.
HPE는 중요한 운영 요소를 통해 플랫폼을 완성합니다. iLO 7은 펌웨어 무결성을 위한 보안 영역인 Silicon Root of Trust를 기반으로 대역 외 설정, 상태 및 전력 제어를 처리하고, 4096비트 RSA를 지원하며, 공급망 검증을 강화하는 분리형 DC-MHS iLO 모듈을 제공합니다. 또한 이 서버는 HPE의 프라이빗 클라우드 AI 프레임워크와 연동되어 여러 팀 간의 거버넌스와 대규모 반복 가능한 배포를 지원합니다.
HPE ProLiant Compute DL380a Gen12 – 기술 사양
| 카테고리 | 스펙 |
|---|---|
| 프로세서 종류 | HPE ProLiant 컴퓨팅 DL380a Gen12 |
| 프로세서 제품군 | 6세대 Intel® Xeon® 확장 가능 프로세서 |
| 사용 가능한 프로세서 코어 | 프로세서에 따라 64~144개 코어 |
| 프로세서 수 | 2 |
| 프로세서 속도 | 프로세서에 따라 최대 2.4GHz |
| 최대 메모리 | 4TB RDIMM(프로세서당 2TB) |
| 메모리 슬롯 | DIMM 슬롯 32 개 |
| 메모리 종류 | HPE DDR5 스마트 메모리 |
| 메모리 보호 | RAS: 고급 ECC, 온라인 스페어, 미러링, 결합 채널(록스텝) 기능, HPE Fast Fault Tolerant Memory(ADDDC) |
| 드라이브 지원 | SFF NVMe 및 EDSFF |
| 보안 | 옵션 잠금 베젤, 침입 감지 및 내장형 HPE TPM 2.0 |
| 인프라 관리 | Intelligent Provisioning(임베디드)이 포함된 HPE iLO Standard, HPE OneView Standard(다운로드 필요) • 선택 사항: HPE iLO Advanced 및 HPE OneView Advanced(라이선스 필요) |
| 전원 공급 장치 | 최대 8 M-CRPS. 시스템 보드용 단일 1+1 이중화. GPU용 이중 2+1 이중화. |
| 확장 슬롯 | 6 |
| 시스템 팬 | 듀얼 로터 4개와 싱글 로터 핫플러그 팬 8개가 포함되어 있습니다. |
| 폼 팩터 | 4U 랙 |
| 품질 보증 | 3/3/3: 서버 보증 |
HPE ProLiant DL380a Gen12 설계 및 구축
HPE ProLiant Compute DL380a Gen12는 고성능의 확장 가능한 구축을 위해 설계된 4U 듀얼 소켓 랙 서버입니다. 6.88 x 17.63 x 31.60인치 크기의 이 서버는 고밀도 CPU 및 GPU 컴퓨팅 성능과 효율적인 공랭 시스템을 결합하여 과중한 워크로드에서도 안정적인 작동을 보장합니다.
구성에 따라 무게는 82.7파운드(37.6kg)에서 137.8파운드(63.6kg) 사이이며, 대용량 구성 요소, 이중 전원 공급 장치, 그리고 편리한 전면 접근을 통해 정비가 용이합니다. 성능, 확장성, 그리고 견고한 열 관리 기능을 중시한 설계로 기업 및 데이터 센터 환경에 적합합니다.
스토리지 측면에서 HPE ProLiant DL380a Gen12는 SFF 또는 EDSFF 형식으로 4베이 및 8베이 구성을 제공합니다. 리뷰 대상 제품은 NVMe M.2 핫 플러그형 부팅 장치 2개를 지원하는 HPE DL380a Gen12 NS204i-u 전면 케이지 키트와 함께 제공되었습니다. 섀시에는 2.5인치 베이 8개도 포함되어 있으며, 15.36TB 용량의 HPE 브랜드 U.3 SSD 2개가 장착되어 있습니다. HPE는 다양한 구축 요구 사항에 맞춰 유연한 확장성을 제공하는 다양한 전면 베이 옵션을 제공합니다.
양쪽에 두 개의 손잡이가 있어 운반이 가능하므로 최소 두 명이 안전하게 랙에 장착하고 설치할 수 있습니다. 2U 레일 키트와 텔레스코픽 레일을 사용하여 랙 전체를 분리하지 않고도 원활하게 설치하고 랙 내에서 정비할 수 있습니다.
HPE ProLiant DL380a Gen12 후면에는 공기 흐름, 확장성 및 서비스 용이성에 중점을 둔 체계적인 레이아웃이 적용되어 있습니다. 이 시스템은 통합 통풍벽을 통해 최대 8개의 MCRPS 전원 공급 장치(1~8)를 지원하여 부하 시 최적의 냉각 상태를 유지합니다. 기본 및 옵션 캡티브 라이저를 모두 수용하는 여러 개의 PCIe Gen5 x16 슬롯(슬롯 1~6)과 유연한 네트워크 어댑터 구성을 위한 OCP 슬롯 A 및 B를 통해 광범위한 확장성을 제공합니다.
연결 기능에는 전용 iLO 네트워크 포트, 여러 개의 USB 3.2 Gen 1 포트, 그리고 로컬 관리용 VGA 포트가 포함됩니다. 슬롯 1은 NVD용 HPE DL380a Gen12 4EDSFF 다이렉트 케이블(P74716-B21)이 설치된 경우에만 사용할 수 있으며 SFF NVMe 드라이브와 함께 사용할 수 없습니다. 슬롯 4는 4개 또는 8개의 DW GPU 구성에서는 지원되지 않습니다.
HPE ProLiant DL380a Gen12의 전원은 모듈형 M-CRPS 티타늄 핫 플러그 전원 공급 장치 키트를 통해 제공되며, 1500W(P67244-B21), 2400W(P67252-B21), 3200W(P67248-B21) 모델을 포함한 다양한 지원 옵션을 제공합니다. 이 시스템은 최대 8개의 PSU를 지원하며, N+1 이중화를 통해 전원 모듈 장애 발생 시에도 지속적인 작동을 보장합니다. GPU 구성에 따라 전력 요구 사항 및 분배가 달라질 수 있습니다. 리뷰 대상 제품에는 2400W M-CRPS 전원 공급 장치 5개가 장착되어 있어 시스템의 600W TDP GPU 4개를 지원하는 동시에 안정적인 이중화를 유지할 수 있는 충분한 용량을 제공합니다.
HPE ProLiant DL380a Gen12 내부를 위에서 아래로 살펴보면, HPE가 GPU 우선 열 관리 전략을 바탕으로 이 섀시를 설계했음을 분명히 알 수 있습니다. 즉, GPU를 시스템 전면에 배치하여 공기 흐름을 방해하지 않고 직접 전달합니다. 냉각 시스템은 4개의 핫플러그 팬 어셈블리를 갖추고 있으며, 각 팬은 듀얼 로터 92x56mm 팬 1개와 싱글 로터 40x28mm 팬 2개로 구성됩니다. 작은 팬은 CPU와 메모리 모듈로 공기 흐름을 집중시켜 하위 구성 요소의 효율적인 열 관리를 보장합니다. 반면, 대형 듀얼 로터 팬은 GPU 어레이 전체에 직접 대량의 공기 흐름을 유도하도록 특별히 설계되었습니다. 이러한 균형 잡힌 설계는 지속적인 고전력 워크로드에서도 컴퓨팅 및 가속기 구성 요소 모두에 최적의 냉각을 보장합니다.
GPU 구성을 살펴본 결과, 저희 장비는 PCIe 5.0 GPU 4개를 사전 배선하여 전면 GPU 케이지에 깔끔하게 설치했습니다. 시스템은 AI, 렌더링 및 컴퓨팅 워크로드에 최적화된 NVIDIA의 새로운 전문가용 라인업인 NVIDIA RTX PRO 6000 GPU(Blackwell Server Edition, 96GB)로 구성되었습니다. 빌드에 따라 DL380a Gen12는 4개 또는 8개의 듀얼 폭 GPU 또는 최대 16개의 싱글 폭 가속기를 지원하여 다양한 엔터프라이즈 및 AI 구축 환경에 유연성을 제공합니다.
이 플랫폼에서 지원되는 GPU는 다음과 같습니다.
- NVIDIA RTX PRO 6000 서버 에디션(96GB)
- 엔비디아 H200 NVL(141GB)
- 엔비디아 H100 NVL(94GB)
- 엔비디아 L40S(48GB)
- 엔비디아 L20(48GB)
- 엔비디아 L4(24GB)
이 유연한 GPU 레이아웃은 고대역폭 PCIe Gen5 레인과 결합되어 DL380a Gen12가 고밀도 추론 작업과 대규모 AI 학습 환경 모두에 적합하도록 보장합니다. 냉각 덮개가 설치된 섀시 내부를 살펴보면 공기 흐름 관리에 대한 HPE의 세심한 엔지니어링 접근 방식을 확인할 수 있습니다. 덮개는 정밀하게 성형된 배플 설계를 통해 CPU, 메모리 모듈, VRM으로 공기를 효율적으로 전달하여 시스템 전체에 균일한 냉각을 보장합니다.
CPU 쿨러를 살펴보면, HPE는 열 균형을 고려하여 DL380a Gen12를 설계했습니다. 각 Xeon 6 프로세서에는 CPU 자체의 열 출력과 섀시 전면에 배치된 GPU에서 발생하는 추가 열을 처리할 수 있도록 설계된 키가 크고 고밀도의 히트싱크가 장착되어 있습니다. 이러한 설계는 GPU 배기가 CPU 주변 온도를 상승시킬 수 있는 고부하 혼합 워크로드에서도 일관된 냉각 성능을 보장합니다. 고출력 GPU가 장착된 경우, 키가 큰 히트싱크와 HPE의 전후방 공기 흐름 설계가 결합되어 추가 열 부하를 효과적으로 관리하는 데 필요한 표면적과 냉각 효율을 제공합니다.
ILO 7 개요
앞서 언급했듯이 이 시스템에는 완벽한 서버 제어 및 모니터링을 위한 대역 외 관리 기능을 제공하는 전용 iLO 포트가 포함되어 있습니다. 이 박스에는 새로운 HPE iLO 7 인터페이스가 탑재되어 있어 관리자에게 향상된 인터페이스와 기능을 제공하며, HPE Compute Ops Management와 통합되어 구성, 모니터링 및 수명 주기 관리를 간소화합니다. 아래는 샘플 시스템의 새로운 HPE iLO 7 로그인 화면입니다.
대시보드부터 살펴보면 HPE iLO 7은 시스템 상태와 주요 상태 지표를 즉시 강조 표시하는 현대화된 인터페이스를 제공합니다. 메인 패널은 HPE Compute Ops Management를 통해 호스트 전원 상태, 상태 및 연결 상태를 간략하게 보여줍니다. 오른쪽에는 iLO IP 주소, 호스트 이름, 라이선스 유형과 같은 일반적인 시스템 정보가 표시되어 빠르게 참조할 수 있습니다.
대시보드는 팬 이중화, 전원 공급 장치 상태, 온도 측정값과 같은 필수 지표를 명확하고 색상으로 구분된 레이아웃으로 통합하여 서버 상태를 한눈에 쉽게 파악할 수 있도록 합니다. 가상 미디어 및 원격 콘솔 액세스도 메인 페이지에서 직접 이용할 수 있어 추가 탐색 없이도 일반적인 원격 관리 작업을 간소화할 수 있습니다.
HPE iLO 7의 펌웨어 탭에서는 모든 구성 요소와 업데이트 관리 작업을 명확하고 체계적으로 볼 수 있습니다. 인터페이스는 펌웨어 인벤토리, 활성 설치 대기열, 검증 결과를 카드 기반 레이아웃으로 표시하여 탐색하기 쉽습니다. 관리자는 업데이트를 신속하게 시작하고, iLO 저장소에 패키지를 업로드하거나, 일괄 배포를 위한 설치 세트를 생성할 수 있습니다.
펌웨어 검증 및 저장소 관리 기능이 이 뷰에 직접 내장되어 있어 사용자가 구성 요소 간의 무결성을 확인하고 버전 일관성을 유지할 수 있습니다. 오른쪽의 빠른 작업 메뉴는 펌웨어 업데이트나 새 파일 업로드와 같은 필수 작업을 간소화합니다. 펌웨어 설정 카드는 다운그레이드 정책 및 타사 패키지 허용 여부를 제어할 수 있도록 지원합니다.
호스트 섹션에서 HPE iLO 7은 전원 제어, 가상 미디어, 하드웨어 상태 및 시스템 성능을 포함한 주요 서버 관리 기능에 빠르게 액세스할 수 있도록 합니다. 관리자는 이 인터페이스에서 실시간 하드웨어 이중화 상태를 확인하고, 통합 관리 로그에 액세스하거나, 원격 콘솔을 직접 실행할 수 있습니다. 또한, 레이아웃에는 정상 종료, 전원 껐다 켜기, 재설정 기능과 같은 빠른 작업이 포함되어 있어 물리적인 접근 없이도 시스템을 완벽하게 원격으로 제어할 수 있습니다.
오른쪽 패널에는 TPM 상태, 플랫폼 정책 구성, 하드웨어 모듈 정보를 포함한 호스트 설정이 표시됩니다. 전반적으로 이 섹션에서는 iLO 7이 중앙 제어 허브 역할을 하는 것을 강조합니다. iLO 7을 통해 관리자는 단일 뷰에서 전원을 안전하게 관리하고, 이벤트를 모니터링하고, 운영을 감독할 수 있습니다.
호스트 > 하드웨어 보기에서 시스템에 설치된 GPU를 확인할 수 있습니다. 앞서 언급했듯이 이 장치에는 NVIDIA RTX PRO 6000 Blackwell GPU 4개가 장착되어 있으며, 각 GPU는 활성화되어 정상적으로 작동하는 것으로 보고됩니다. iLO 7은 모델 번호, 부품 번호, 일련 번호를 포함한 자세한 하드웨어 정보를 제공하여 관리자가 구성 요소의 상태를 한눈에 확인할 수 있도록 합니다.
보안 탭에서 HPE iLO 7은 시스템 보호 및 액세스 관리와 관련된 모든 주요 제어 기능을 통합합니다. 개요 패널은 전반적인 보안 상태를 간략하게 보여주며, 위험 수준, 구성 잠금 및 인증서 상태를 강조 표시합니다. 관리자는 여기에서 암호화 설정, 인증 방법 및 TLS 인증서를 관리하고 보안 삭제 및 원격 키 관리를 구성할 수 있습니다.
이 인터페이스는 자체 서명 인증서나 구성되지 않은 키 관리와 같이 주의가 필요한 부분을 명확하게 표시하는 동시에, 해당되는 경우 안전한 운영을 보장합니다. 보안 로그, 사용자 관리 정책 및 액세스 제어에 쉽게 액세스할 수 있어 관리자는 iLO 환경에서 직접 시스템의 보안 상태를 종합적으로 파악할 수 있습니다.
HPE 앱 탭에서 iLO 7은 서버 구축 및 수명 주기 관리를 향상시키는 통합 도구에 대한 액세스를 제공합니다. 이 뷰에서 관리자는 외부 미디어 없이도 운영 체제 설치, 펌웨어 업데이트 및 시스템 구성을 간소화하도록 설계된 내장 유틸리티인 Intelligent Provisioning을 실행할 수 있습니다.
iLO 설정 탭은 iLO 인터페이스 관리를 위한 모든 구성 및 관리 옵션을 통합합니다. 관리자는 여기에서 사용자 액세스, 네트워크 포트 구성, 인증 방법 및 로깅 동작을 제어할 수 있습니다. 메뉴에는 문제 해결, 정책 적용, 라이선스 관리 및 시간 동기화 옵션도 포함되어 있습니다.
iLO 구성 백업 또는 복원, 재설정 등의 빠른 작업을 오른쪽에서 편리하게 사용할 수 있어 유지 관리 작업을 간소화하는 데 도움이 됩니다. iLO 7의 최신 카드 기반 인터페이스 레이아웃을 그대로 반영하여 보안, 연결 및 운영 매개변수를 단일 중앙 위치에서 깔끔하고 체계적으로 관리할 수 있도록 지원합니다.
성능 시험
DL380a Gen12의 실제 성능을 평가하기 위해 AI 추론 및 일반 컴퓨팅 워크로드를 모두 포괄하는 포괄적인 성능 테스트를 수행했습니다. 여기에는 대규모 언어 모델(LLM)을 위한 vLLM 온라인 서빙 벤치마크와 CPU 처리량, 메모리 대역폭, 웹 서빙 효율성 및 암호화 성능을 측정하는 Phoronix Test Suite 벤치마크가 포함됩니다.
시스템 구성
- CPU : 2 x 인텔 제온 6527P CPU
- 메모리 : 16 x HPE 64GB 2Rx4 PC5-3400B-R 스마트 키트
- GPU : 4 x NVIDIA RTX PRO 6000(96GB)
- 스토리지 : 2 x 15.63TB PM1733a U.3
vLLM 온라인 제공 – LLM 추론 성능
vLLM은 LLM을 위한 가장 널리 사용되는 고처리량 추론 및 서빙 엔진입니다. vLLM 온라인 서빙 벤치마크는 동시 요청 환경에서 이 추론 엔진의 실제 서빙 성능을 측정하는 성능 평가 도구입니다. 요청률, 입출력 길이, 동시 클라이언트 수 등 구성 가능한 매개변수를 사용하여 실행 중인 vLLM 서버에 요청을 전송하여 프로덕션 워크로드를 시뮬레이션합니다. 이 벤치마크는 처리량(tok/s), 첫 번째 토큰까지의 시간(Time to First Token), 출력 토큰당 시간(Time per Output Token) 등의 주요 지표를 측정하여 사용자가 다양한 부하 조건에서 vLLM의 성능을 이해하는 데 도움을 줍니다.
우리는 다양한 규모와 양자화 접근 방식을 사용하는 세 가지 대표 모델에 걸쳐 추론 성능을 테스트하고, HPE ProLiant DL380a Gen12의 4개 NVIDIA RTX PRO 6000 GPU가 프로덕션 추론 워크로드를 처리하는 방식을 평가했습니다.
밀집 모델 성능
밀집 모델은 추론 과정에서 모든 매개변수와 활성화가 사용되는 기존 LLM 아키텍처를 나타냅니다. 두 가지 밀집 모델 구성, 즉 Llama-2-70b-chat-hf와 Llama-3.2-90B-Vision-Instruct를 평가했습니다.
라마-2-70B-채팅 성능
단일 사용자 동시성(BS=1)에서 TP=4일 때, 이 모델은 사용자당 32.89 tok/s의 처리량과 30.18ms의 TPOT를 달성합니다. BS=8일 때, 성능은 사용자당 15.68 tok/s에 도달하며 총 처리량은 433.62 tok/s, TPOT는 35.98ms입니다. BS=32로 확장하면 총 처리량은 741.62 tok/s에 도달하며, 사용자당 8.00 tok/s의 처리량과 43.44ms의 TPOT를 유지합니다.
라마-3.2-90B-비전-지시 성능
BS=1, TP=4에서 모델은 사용자당 20.59 tok/s의 처리량과 38.27ms의 TPOT를 제공합니다. BS=16에서는 성능이 사용자당 7.20 tok/s로 확장되어 총 처리량은 806.14 tok/s, TPOT는 54.98ms입니다. BS=128에서는 최대 총 처리량 1372.21 tok/s를 달성하여 사용자당 2.59 tok/s, TPOT는 122.75ms입니다.
마이크로스케일링 데이터 유형 성능
마이크로스케일링은 대규모 매개변수 그룹에 걸쳐 균일한 양자화를 적용하는 대신, 작은 가중치 블록에 세밀한 스케일링 계수를 적용하는 고급 양자화 방식을 나타냅니다. NVIDIA의 NVFP4 포맷은 8~32개 값으로 구성된 각 마이크로스케일 블록이 공통 지수를 스케일링 계수로 공유하는 블록형 부동 소수점 표현을 통해 이 기술을 구현합니다. 이러한 세밀한 접근 방식은 수치적 정밀도를 유지하면서도 4비트 표현을 구현하여 트랜스포머 아키텍처에 필수적인 동적 범위를 유지합니다. 이 포맷은 RTX PRO 6000의 NVIDIA Tensor Core 아키텍처와 통합되어 행렬 연산 중 즉각적인 압축 해제를 통해 효율적인 혼합 정밀도 계산을 가능하게 합니다.
GPT-OSS-120B 성능
NVFP4 양자화를 사용하여 OpenAI의 GPT-OSS-120B 모델을 평가했습니다. TP=2의 단일 사용자 동시성에서 이 모델은 사용자당 176.09 tok/s의 처리량과 5.46ms의 TPOT를 달성하여 테스트 제품군 중 가장 낮은 지연 시간을 기록했습니다. BS=4의 TP=4에서는 사용자당 105.79 tok/s의 처리량과 7.79ms의 TPOT로 총 1155.94 tok/s의 처리량을 제공합니다. BS=32의 TP=4에서는 사용자당 47.54 tok/s, 총 3956.44 tok/s의 처리량과 13.86ms의 TPOT로 확장됩니다. BS=64에서는 최대 총 처리량 4015.77 tok/s를 달성하여 사용자당 25.38 tok/s의 처리량과 14.78ms의 TPOT를 제공합니다.
포로닉스 벤치마크
Phoronix Test Suite는 OpenBenchmarking.org를 통해 450개 이상의 테스트 프로파일과 100개 이상의 테스트 스위트를 지원하는 오픈소스 자동 벤치마킹 플랫폼입니다. 종속성 설치부터 테스트 실행 및 결과 수집까지 모든 것을 처리하므로 성능 비교, 하드웨어 검증 및 지속적인 통합에 이상적입니다. Stream, 7-Zip, Linux 커널 빌드, Apache 및 OpenSSL 테스트에 중점을 둘 것입니다.
스트림 메모리 대역폭
원시 메모리 처리량을 측정하는 Stream 벤치마크에서 HPE DL380a Gen12는 542GB/s라는 놀라운 성능을 달성하여 지속적인 부하 상황에서도 높은 데이터 전송 속도를 유지할 수 있음을 보여주었습니다. 이러한 수준의 대역폭 덕분에 이 시스템은 대용량 데이터 세트를 메모리와 컴퓨팅 리소스 간에 빠르게 이동해야 하는 데이터 모델링, 시뮬레이션, AI 추론과 같은 워크로드에 특히 효과적입니다.
7-Zip 압축
7-Zip 압축 테스트에서 측정된 305k MIP는 컴퓨팅 집약적인 압축 및 압축 해제 작업에 대한 시스템의 강력한 멀티스레드 효율성을 보여줍니다. 이러한 결과를 통해 DL380a Gen12는 일관되고 반복 가능한 CPU 성능에 의존하는 빈번한 데이터 패키징, 보관 작업 또는 백업 워크플로우가 포함된 환경에 매우 적합합니다.
커널 컴파일
DL380a Gen12는 전체 Linux 커널(allmodconfig)을 컴파일할 때 316초 만에 작업을 완료했습니다. 이 벤치마크는 병렬화되고 코드 집약적인 워크로드를 손쉽게 처리하는 시스템의 능력을 보여줍니다. 더 빠른 컴파일 성능은 대규모 소프트웨어 또는 CI/CD 환경에서 작업하는 개발자에게 빌드 시간 단축과 반복 속도 향상으로 이어집니다.
아파치 웹 서버
웹 서비스 성능 측면에서 DL380a Gen12는 Apache 벤치마크에서 초당 94,348건의 요청을 처리했습니다. 이 결과는 균형 잡힌 I/O 처리와 강력한 캐시 효율성을 보여주며, 엔터프라이즈 웹 애플리케이션, 가상화 프런트엔드 또는 내부 서비스 호스팅에 필요한 처리량과 응답성을 제공합니다.
OpenSSL 검증
암호화 성능 또한 강력했으며, DL380a Gen12는 OpenSSL에서 초당 803억 건의 연산을 검증했습니다. 이는 시스템이 대규모 암호화, 인증 및 보안 통신 워크로드를 관리할 수 있는 역량을 보여줍니다.
| 포로닉스 벤치마크 | HPE ProLiant DL380a Gen 12(2x Intel Xeon 6527P) |
| 흐름 | 542,720.7 MB / s의 |
| 7-ZIP | 304,907 MIP/초 |
| 커널 컴파일(allmod) | 316.166 (초) |
| Apache(초당 요청 수) | 94,347.52 R/초 |
| OpenSSL을 | 803,597,895,087 확인 |
맺음말
HPE ProLiant DL380a Gen12는 주류 엔터프라이즈 AI 시장을 위해 설계된 가장 실용적이고 균형 잡힌 AI 서버 중 하나로 손꼽힙니다. 4U 공랭식 설계는 듀얼 Xeon 6 CPU, 최대 8개의 더블 폭 또는 16개의 싱글 폭 GPU, 그리고 16개의 E3.S NVMe 베이를 지원하여 높은 컴퓨팅 밀도를 제공하는 동시에 안정성과 간편한 유지보수성을 유지합니다. 공기 흐름과 열 균형에 대한 HPE의 엔지니어링 접근 방식은 고부하 작업에서도 일관된 성능을 보장하며, 고급 AI 가속이 기존 공랭 환경에서도 여전히 탁월한 성능을 발휘할 수 있음을 보여줍니다.
iLO 7이 포함됨에 따라 관리 효율성이 크게 향상되어 HPE와 같은 Tier-1 서버 공급업체에게 큰 이점을 제공합니다. 현대화된 인터페이스, HPE Compute Ops Management와의 통합, 그리고 상세한 하드웨어 원격 분석 기능은 원격 관리를 직관적이고 효율적으로 만들어줍니다. 대시보드, 펌웨어, 호스트, 보안, 앱, 설정 등 각 섹션은 엔터프라이즈 팀이 의존하는 온프레미스 제어 기능을 희생하지 않으면서도 더욱 깔끔하고 클라우드에 통합된 환경을 지향하는 HPE의 변화를 반영합니다.
성능 테스트에서 서버는 탁월한 결과를 보였습니다. 4개의 RTX PRO 6000 GPU는 고밀도 및 마이크로스케일 LLM 모델 모두에서 뛰어난 처리량을 달성했으며, vLLM은 수냉 시스템에 필적하는 성능을 제공합니다. Phoronix의 CPU 벤치마크는 540GB/s 이상의 메모리 대역폭, Apache에서 94,000 RPS, 그리고 초당 8,000억 건 이상의 OpenSSL 검증을 통해 서버 성능의 균형을 더욱 강조하며, AI 및 범용 컴퓨팅 모두에서 뛰어난 성능을 보여줍니다.
HPE의 설계 목표는 명확합니다. 기존 랙 및 전력 인프라에 적합한 공랭 방식을 사용하여 고밀도의 프로덕션급 AI 성능을 제공하는 것입니다. 공랭 폼 팩터에서 안정적이고 안전하며 관리가 간편한 컴퓨팅을 원하는 데이터센터 팀에게 DL380a Gen12는 성장하는 주류 AI 시장을 위한 강력하고 미래 지향적인 솔루션입니다.
아마존