Dell Pro Max GB10 리뷰

지난 10월 NVIDIA DGX Spark를 처음 접했을 때, NVIDIA가 데이터센터급 AI를 책상 위에 놓을 수 있을 정도로 소형화하는 데 진지하게 임하고 있다는 것을 알 수 있었습니다. 초기 파운더스 에디션 샘플을 통해 Grace Blackwell 기반 GB10 플랫폼이 소형 독립형 어플라이언스에서 어떤 성능을 발휘할 수 있는지 미리 살펴볼 수 있었습니다.

그 이후로 OEM 설계가 적용되면서 생태계가 성숙해졌습니다. 최근 저희 연구실에 GB10이 탑재된 Dell Pro Max 두 대를 받아 검토했습니다. 다른 Spark 시스템과 함께 배치하여 성능 일관성, 발열, 그리고 제조사별 설계 차이점을 평가했습니다.

기존 Spark가 레퍼런스 하드웨어에 집중했던 것과 달리, Dell은 플랫폼에 자신만의 개성을 불어넣었습니다. GB10이 탑재된 Pro Max는 Dell의 L6 섀시 디자인을 채택하여 더욱 세련된 산업적 외관과 데스크톱 친화적인 디자인을 선보이며, 동일한 GB10 기반을 유지하면서도 차별화된 정체성을 확립했습니다. 개발자 키트라기보다는 전문가용 작업 공간을 위한 완성도 높은 제품처럼 느껴집니다.

현재(글을 쓰는 시점 기준) 1TB 구성은 델 스토어에서 4,061.34달러에 판매되고 있으며 , 프리미엄 데스크톱 AI 어플라이언스로 자리매김하고 있습니다. 이번 리뷰에서는 델의 GB10 플랫폼 제품이 기존에 테스트했던 다른 Spark 시스템들과 어떻게 다른지, 특히 지속적인 작업 부하 조건에서의 실제 성능과 발열 문제를 중점적으로 살펴보겠습니다.

Dell Pro Max GB10 사양

아래 표는 GB10이 탑재된 Dell Pro Max에서 사용 가능한 스토리지 구성 및 빌드 옵션을 보여줍니다.

스펙	GB10이 탑재된 Dell Pro Max
크기 및 무게
높이	2의
폭	5.9의
깊이	5.9의
중량(평량)	2.69 파운드
프로세서
프로세서 종류	NVIDIA GB10 (그레이스 블랙웰 슈퍼칩) (20코어)
통합 그래픽	NVIDIA Blackwell GPU(통합형)
메모리
메모리 유형	LPDDR5x (통합 시스템 메모리)
메모리 구성	128GB LPDDR5x 통합 시스템 메모리
메모리 대역폭	273 GB/s (8533 MT/s)
운영체제
지원되는 운영 체제	엔비디아 DGX OS
외부 포트 및 슬롯
네트워크 포트	RJ45(10GbE) 1개 NVIDIA ConnectX-7 NIC (200G × 2 QSFP)
USB 포트	USB 3.2 Gen 2×2 Type-C 포트 3개(20Gbps) PD 기능이 있는 USB 3.2 Gen 2×2 Type-C 포트 1개
비디오 포트	HDMI 2.1a 포트 1개
전원 어댑터 포트	USB 타입 C (PD 입력)
보안 슬롯	없음
Wireless
WiFi	WiFi 7 (AW-EM637, 2×2)
Bluetooth	Bluetooth 5.4
스토리지
저장 옵션	M.2 Gen4 NVMe: 1TB / 2TB / 4TB (Opal 2.0은 사양이 다를 수 있음)
전원 어댑터
타입	280W 외부 어댑터(USB Type-C)

GB10의 디자인과 성능을 갖춘 Dell Pro Max

전반적으로 델은 프로 시리즈 데스크톱과는 다른 디자인 접근 방식을 취하여, 미니 1L 섀시에도 불구하고 엔터프라이즈 서버와 같은 외관을 연출하는 벌집형 베젤을 전면에 추가했습니다. 전체적인 만듦새는 인상적입니다. 건메탈 그레이 색상의 금속 케이스는 손에 쥐었을 때 견고하고 튼튼한 느낌을 주어, 바쁜 책상이나 연구실 어디에서든 휴대성과 내구성을 모두 만족시킵니다. 또한 델은 GB10 디자인에 LED 전원 표시등을 탑재했는데, 이는 시장에서 이 제품과 다른 한 제품에서만 볼 수 있는 특징입니다.

GB10은 전면과 후면 높이가 1.80인치이고, 가장 높은 부분은 2.0인치입니다. 5.90인치 정사각형의 컴팩트한 크기로 공간을 최소한으로 차지하며, 구성에 따라 무게는 2.69~2.96파운드입니다.

기기 후면에는 RJ45 10GbE 이더넷 포트 1개, QSFP 200Gbps 포트 2개(Realtek RTL8127-CG, NVIDIA ConnectX-7), DisplayPort 1.4a alt-mode 및 전원 공급 기능을 지원하는 USB 3.2 Gen 2×2(20Gbps) Type-C 포트 3개, HDMI 2.1a 포트 1개가 있습니다. Dell은 Founders Edition 및 기타 OEM 제품과 차별화하기 위해 자사의 휴대용 워크스테이션 제품군에서 일반적으로 사용하는 대용량 280W USB Type-C 전원 어댑터를 제공하여 지속적인 작업 부하에 충분한 전력을 공급합니다.

GB10 내부에는 AzureWave AW-EM637 무선 모듈이 탑재되어 유연한 배포 시나리오를 위한 Wi-Fi 연결을 제공합니다. 스토리지는 PCIe Gen 4 SSD를 지원하는 단일 M.2 2230/2242 슬롯을 통해 빠른 부팅 속도와 신속한 데이터 액세스를 제공합니다. 메모리는 8533 MT/s 속도로 작동하는 128GB LPDDR5X RAM이 탑재되어 고성능 AI 워크로드에 필요한 높은 대역폭을 제공합니다.

이 시스템의 핵심은 AI 추론 및 엣지 컴퓨팅에 특화된 NVIDIA GB10 칩입니다. NVIDIA DGX OS가 사전 설치되어 제공되는데, 이는 NVIDIA의 최적화된 Linux 배포판으로, 사전 구성된 드라이버, CUDA 라이브러리, 그리고 TensorFlow 및 PyTorch와 같은 인기 있는 AI 프레임워크를 포함하고 있습니다. 따라서 사용자는 복잡한 시스템 설정 없이 AI 애플리케이션을 즉시 배포할 수 있습니다.

Dell Pro Max GB10 발열 테스트

Dell Pro Max GB10 내부 부품의 발열을 테스트하기 위해 파운더스 에디션 및 ASUS, Acer, Gigabyte와 같은 OEM 제품과 비교했습니다. 이에 대한 자세한 내용은 Spark 열 테스트 보고서 에서 확인할 수 있습니다.

전체 스택에 걸쳐 세 단계의 워크로드를 적용하여 약 1시간 동안 사용률을 점진적으로 증가시키면서 특정 기간 동안 구성 요소를 모니터링했습니다. 이를 통해 장치가 장시간 사용되고 다양한 워크로드 단계에 노출되는 것을 확인할 수 있었습니다. CPU, GPU, 네트워크, NVMe 온도 및 총 전력 소비량을 모니터링했습니다.

CPU 온도

CPU 열 테스트에서 GB10이 탑재된 Dell Pro Max는 고부하 작업 단계에서 상위권에 속하는 성능을 보였습니다. 특히 Prefill Heavy 테스트에서 Dell은 약 1500초 시점에 최고 온도 약 87.7°C를 기록했는데, 이는 해당 작업 부하 전환 단계에서 가장 높은 온도에 속합니다.

동일 ISL/OSL 테스트 단계에서 Dell은 ASUS 및 Founders Edition과 함께 62~75°C 범위로 꾸준히 상승하며 중상위 시스템과 유사한 성능을 보였습니다. Gigabyte는 이 단계에서 눈에 띄게 낮은 온도를 유지했으며, Acer는 전반적으로 가장 낮은 CPU 온도를 기록했습니다.

프리필 헤비(Prefill Heavy) 테스트에서 델의 온도 곡선은 대부분의 경쟁 제품보다 더 가파르게 상승하여 디코드 헤비(Decode Heavy) 단계로 넘어가기 전에 88°C 부근에서 최고점을 찍었습니다. 지속적인 디코드 작업 부하에서는 시스템 온도가 80~83°C로 안정화되었습니다. 이는 델이 그룹 내에서 온도가 높은 편에 속한다는 것을 의미하지만, 지속적인 온도 상승이 아닌 장시간 부하에서도 일관된 열 제어 능력을 보여주었습니다.

Acer는 테스트 전반에 걸쳐 가장 낮은 온도를 유지하며 지속적인 테스트 동안 60°C 중반대의 온도를 기록했습니다. Gigabyte 또한 Dell에 비해 더 안정적인 발열 수준을 보였습니다.

전반적으로 GB10이 탑재된 Dell Pro Max는 순간 부하가 집중되는 상황에서 그룹 내에서 가장 높은 CPU 최고 온도를 기록했지만, 부하가 안정화된 후에는 경쟁력 있는 수준의 지속 부하 발열을 보였습니다.

GPU 온도

GPU 발열 또한 비슷한 양상을 보였습니다. 프리필 헤비(Prefill Heavy) 테스트 동안 Dell은 최고 온도 약 80°C에 도달하여 버스트 조건에서 스택의 상위 범위에 속했습니다.

동일 ISL/OSL 조건에서 Dell은 빠르게 60°C 중반대까지 온도를 올리며 ASUS 및 Founders Edition과 비슷한 수준을 보였습니다. Gigabyte와 Acer는 이 단계에서 Dell보다 낮은 온도를 유지했습니다.

디코딩 작업이 집중적으로 진행되는 동안 Dell의 온도는 68~71°C 사이에서 안정화되었습니다. Acer와 Gigabyte보다 여전히 높았지만, 순간적인 발열 급증 단계에 비해 격차가 좁아졌습니다. 파운더스 에디션과 ASUS는 지속적인 디코딩 작업 동안 Dell과 유사한 온도 범위를 보였습니다.

종합적으로 볼 때, 델 시스템은 순간적으로 GPU 온도가 높게 나타났지만, 지속적인 작업 부하에서는 안정적이고 예측 가능한 동작을 보였습니다.

NVMe 온도

델 구성이 다른 제품들과 가장 확연히 차별화된 부분은 스토리지 발열이었습니다. 프리필 헤비(Prefill Heavy) 테스트 동안 NVMe 드라이브는 최고 약 63~64°C까지 상승하여 비교 대상 그룹 중 높은 편에 속했습니다.

동일 ISL/OSL 환경에서 Dell 드라이브는 40°C 초중반에서 시작하여 꾸준히 상승하며, 테스트 단계 전반에 걸쳐 대부분의 경쟁사보다 약간 높은 온도를 유지했습니다. 지속적인 디코딩 작업 부하 동안 드라이브 온도는 59~61°C 사이에서 안정화되었습니다.

이러한 온도는 표준 NVMe 작동 사양 범위 내에 있지만, 에이서와 기가바이트에 비해 공기 흐름이 원활하지 않거나 저장 장치가 배치된 상태를 나타냅니다. 에이서와 기가바이트는 동일한 단계에서 더 낮은 NVMe 온도를 지속적으로 유지했습니다.

NIC 온도

NIC 발열은 유사하지만 덜 두드러진 패턴을 보였습니다. Dell은 프리필 헤비(Prefill Heavy) 작업 중 최고 70°C대까지 상승했다가 디코드 헤비(Decode Heavy) 작업 중에는 60°C 후반대로 안정되었습니다.

테스트 기간 내내 Dell은 그룹 내에서 온도가 높은 편에 속했지만 ASUS나 파운더스 에디션과 비교했을 때 큰 차이를 보이지는 않았습니다. Acer는 다시 한번 전체적으로 가장 낮은 온도를 유지했습니다.

GPU 전력 소비량

GPU 전력 소모 양상은 그룹의 중간 수준에 더 가까웠습니다. Dell은 프리필 헤비(Prefill Heavy) 단계에서 약 1,400~1,600초경에 최고 약 70W를 기록했습니다. 이는 파운더스 에디션의 최대치인 74W에 잠시 근접했지만, 전체적으로는 약간 더 낮은 수준을 유지했습니다.

Equal ISL/OSL 테스트에서 Dell은 약 27W에서 40W 중반대까지 전력 소모량을 점진적으로 늘려갔으며, 이는 다른 시스템들과 대체로 비슷한 추세였습니다. Prefill Heavy 테스트에서는 순간적으로 70W까지 치솟았다가 다시 안정되었습니다. Decode Heavy 테스트에서는 Dell이 40~45W 사이에서 안정화되었는데, 이는 Acer와 ASUS보다 약간 높았지만 Founders Edition보다는 낮은 수치였습니다. Founders Edition은 벤치마크 테스트가 끝날 때까지 가장 높은 GPU 전력 소모량을 유지했습니다.

전력 소모 측면에서 볼 때, 델은 GPU를 과도하게 구동하는 것으로 보이지는 않습니다. 오히려 일부 경쟁사 대비 높은 발열은 과도한 전력 할당보다는 섀시 공기 흐름 및 내부 레이아웃 설계에서 비롯된 것으로 추정됩니다.

열 요약

CPU, GPU, NVMe 및 NIC 모니터링 결과, GB10이 탑재된 Dell Pro Max는 고부하 프리필(Prefill) 작업 시 전반적으로 발열이 높은 편이었습니다. 하지만 지속적인 디코딩(Decode) 작업 시에는 온도가 급격히 상승하지 않고 안정적인 수준을 유지했습니다.

Acer는 전반적으로 가장 낮은 발열 수준을 꾸준히 유지했으며, Gigabyte 또한 Dell에 비해 상대적으로 낮은 발열을 보였습니다. 파운더스 에디션과 ASUS는 일반적으로 Dell의 발열 양상과 유사한 경향을 나타냈습니다.

결론적으로, 데이터는 델의 구현 방식이 컴팩트한 디자인과 워크스테이션 스타일의 패키징을 우선시하며, 부하 시 열 동작은 안정적이지만, 스택에서 가장 발열이 적은 섀시에 비해 급격한 작업 부하 전환 시에는 여유 공간이 더 부족하다는 것을 시사합니다.

델 프로맥스 GB10 성능 테스트

Dell Pro Max와 GB10의 성능을 평가하기 위해, 대규모 언어 모델을 위한 가장 널리 사용되는 고처리량 추론 및 서빙 엔진인 vLLM 온라인 서빙 벤치마크를 사용하여 Spark 유닛을 테스트했습니다. vLLM 온라인 서빙 벤치마크는 실행 중인 vLLM 서버에 동시 요청을 전송하고 다양한 부하 조건에서 총 토큰 처리량(초당 토큰 수), 첫 번째 토큰 획득 시간, 출력 토큰당 시간 등의 주요 지표를 측정하여 실제 운영 환경의 워크로드를 시뮬레이션합니다.

본 테스트는 밀집 아키텍처와 마이크로 스케일링 데이터 유형을 포함한 다양한 모델을 대상으로 진행되었으며, ISL/OSL 균등, 사전 입력 작업량 많음, 디코딩 작업량 많음의 세 가지 워크로드 시나리오에서 성능을 평가했습니다. 이러한 시나리오는 균형 잡힌 입력 및 출력 부하부터 연산 집약적인 프롬프트 처리 및 메모리 대역폭 제약이 있는 토큰 생성에 이르기까지 실제 서비스 환경에서 발생하는 다양한 패턴을 나타냅니다.

Dell Pro Max GB10 외에도, 기준점으로 NVIDIA Founders Edition Spark를 비롯하여 ASUS, Acer, Gigabyte의 OEM 시스템들을 벤치마킹했습니다. 이를 통해 Dell의 성능을 보다 광범위한 경쟁 환경 속에서 파악하고, 다양한 모델과 워크로드 유형에서 Dell이 어떤 부분에서 선두를 달리고, 어떤 부분에서 경쟁사와 보조를 맞추는지, 혹은 뒤처지는지를 분석할 수 있었습니다.

GPT-OSS-120B

Equal ISL/OSL 환경에서 Dell은 68.57~670.83 tok/s의 처리량을 보이며 배치 크기 범위 전체에서 중간 수준의 성능을 유지합니다. Prefill Heavy는 298.60 tok/s에서 시작하여 배치 크기 64까지 2,707.15 tok/s로 확장되어, 비교적 낮은 시작점에도 불구하고 배치 크기가 클수록 Dell이 최상위권에 위치함을 보여줍니다. Decode Heavy는 37.74~273.54 tok/s의 처리량을 보이며, 다른 워크로드 유형에 비해 확장성이 제한적입니다.

GPT-OSS-20B

동일한 ISL/OSL 스케일링은 배치 크기에 따라 90.76~1,585.28 tok/s 범위에서 꾸준히 증가합니다. Prefill Heavy는 배치 크기 64에서 4,453.55 tok/s에 도달하여 테스트된 모델 중 Dell의 최고 절대 처리량을 나타냅니다. Decode Heavy는 배치 크기에 따라 49.88~687.17 tok/s 범위에서 일관된 스케일링을 보입니다.

Qwen3 코더 30B A3B FB8

동일한 ISL/OSL 스케일은 103.76~1,258.08 tok/s 범위에서 나타나며, 배치 크기에 따라 공급업체들이 밀접하게 그룹화됩니다. Prefill Heavy는 배치 크기 64에서 2,018.58 tok/s까지 증가하며, 배치 크기가 커질수록 시스템 간의 차이가 최소화됩니다. Decode Heavy는 54.69~493.82 tok/s 범위에서 나타나며, 공급업체별로 유사한 클러스터링 양상을 보입니다.

Qwen3 코더 30B A3B 베이스

동일한 ISL/OSL 실행 속도는 배치 크기에 따라 62.74~748.04 tok/s 범위에 있습니다. Prefill Heavy는 266.80~1,693.68 tok/s 범위에 있으며, 중간 및 큰 배치 크기에서 상위 범위에 근접합니다. Decode Heavy는 작업 부하 범위에 따라 34.11~365.68 tok/s 범위에 있습니다.

Llama 3.1 8B 명령어 FP4

동일한 ISL/OSL 스케일링은 배치 크기에 따라 76.03~2,776.30 tok/s 범위에서 작동합니다. Prefill Heavy는 배치 크기가 클수록 Dell을 중간 수준으로 유지하며, 처리량은 스택의 다른 부분과 함께 증가합니다. Decode Heavy는 40.87~575.50 tok/s 범위에서 작동하며, 배치 크기에 따라 점진적으로 확장됩니다.

Llama 3.1 8B 명령어 FP8

ISL/OSL 스케일은 24.50~1,079.44 tok/s 범위에서 동일하며, 배치 범위 전체에 걸쳐 공급업체 간 편차가 적습니다. Prefill Heavy는 배치 크기 64에서 245.35 tok/s에 도달하며, 배치 크기가 커질수록 공급업체 간 편차가 커집니다. Decode Heavy는 23.60~464.12 tok/s 범위에서 일관된 스케일링을 보입니다.

GPU 직접 스토리지

Spark에서 수행한 테스트 중 하나는 MagnumIO GPU Direct Storage(GDS) 테스트였습니다. GDS는 NVIDIA에서 개발한 기능으로, GPU가 NVMe 드라이브나 기타 고속 저장 장치에 저장된 데이터에 액세스할 때 CPU를 거치지 않고 바로 접근할 수 있도록 합니다. GDS는 CPU와 시스템 메모리를 거치지 않고 GPU와 저장 장치 간의 직접 통신을 가능하게 하여 지연 시간을 크게 줄이고 데이터 처리량을 향상시킵니다.

델은 Pro Max GB10에 Phison ESL04TBTLCZ 4TB Gen4 SSD를 사용합니다. 이 제품은 다른 4TB 모델과 용량은 같지만, Gen4 모델이기 때문에 읽기 및 쓰기 속도가 더 낮습니다.

GPU 직접 스토리지 작동 방식

기존 방식에서는 GPU가 NVMe 드라이브에 저장된 데이터를 처리할 때, 데이터가 GPU에 도달하기 전에 먼저 CPU와 시스템 메모리를 거쳐야 했습니다. 이 과정에서 CPU가 중간 역할을 하여 지연 시간을 발생시키고 시스템 리소스를 소모하기 때문에 병목 현상이 발생했습니다. GPU Direct Storage는 GPU가 PCIe 버스를 통해 스토리지 장치에서 직접 데이터에 접근할 수 있도록 함으로써 이러한 비효율성을 해결합니다. 이러한 직접 경로는 데이터 이동 오버헤드를 줄여 더 빠르고 효율적인 데이터 전송을 가능하게 합니다.

AI 워크로드, 특히 딥 러닝과 관련된 워크로드는 매우 데이터 집약적입니다. 대규모 신경망을 훈련하려면 테라바이트 규모의 데이터를 처리해야 하며, 데이터 전송이 지연되면 GPU 활용도가 낮아지고 훈련 시간이 길어질 수 있습니다. GPU Direct Storage는 데이터가 가능한 한 빨리 GPU에 전달되도록 하여 유휴 시간을 최소화하고 계산 효율성을 극대화함으로써 이러한 과제를 해결합니다.

또한 GDS는 비디오 처리, 자연어 처리 또는 실시간 추론과 같이 대용량 데이터 세트를 스트리밍하는 작업 부하에 특히 유용합니다. GDS는 CPU에 대한 의존도를 줄임으로써 데이터 이동을 가속화하고 다른 작업을 위한 CPU 리소스를 확보하여 전반적인 시스템 성능을 더욱 향상시킵니다.

GDSIO 읽기 처리량 16k

GDSIO 읽기 처리량 16K를 살펴보면, Dell은 1개 스레드에서 약 0.50GiB/s로 시작하여 8개 스레드에서는 1.34GiB/s까지 확장되며, 약 0.95GiB/s를 기록하는 ASUS를 확실히 앞섭니다. 이러한 우위는 16개 스레드에서도 이어져 Dell은 2.26GiB/s를, ASUS는 약 1.58GiB/s를 제공하며, 32개 스레드에서도 Dell은 3.32GiB/s를, ASUS는 2.55GiB/s를 기록하며 다시 한번 우위를 점합니다.

64개 스레드에서도 Dell은 4.35GiB/s의 처리 속도를 유지하며 약 3.68GiB/s의 ASUS를 앞서 나갑니다. Dell의 처리 속도가 약 4.30GiB/s로 정체되는 것은 128개 스레드부터이며, 다른 플랫폼들은 더 높은 처리 속도를 보여줍니다. 코어 수 증가에 따른 성능 향상 범위 전반에 걸쳐 Dell은 ASUS 시스템을 확실한 차이로 앞서며 우위를 점합니다.

GDSIO 읽기 평균 지연 시간 16K

GDSIO 읽기 평균 지연 시간(16K)을 살펴보면, Dell은 대부분의 확장 곡선에서 가장 낮은 지연 시간을 제공합니다. 1개 스레드에서는 약 0.03ms로 ASUS와 거의 비슷한 수준이지만, 2개 스레드(0.09ms vs. 0.13ms)와 4개 스레드(0.112ms vs. 0.118ms)에서는 빠르게 우위를 점합니다. Dell은 8개 스레드(0.092ms vs. 0.13ms), 16개 스레드(0.108ms vs. 0.155ms), 그리고 32개 스레드(0.148ms vs. 0.193ms)에서도 우위를 유지합니다.

64개 스레드에서 Dell은 약 0.222ms의 지연 시간을 유지하며 ASUS의 0.267ms보다 약간 낮은 경쟁력 있는 성능을 보여줍니다. 하지만 128개 스레드에 이르러서야 지연 시간이 약 0.45ms로 급격히 증가하여 동일 수준에서 ASUS와 거의 비슷한 수준이 됩니다. 전반적으로 Dell은 스레드 수가 가장 많아지기 전까지 낮은 수준에서 중간 수준의 동시 실행량에서 일관되게 낮은 지연 시간을 보여줍니다.

GSDIO 쓰기 처리량 16K

GDSIO 쓰기 처리량(16K)을 살펴보면, Dell은 1개 스레드에서 약 0.35GiB/s로 강력한 출발을 보이며, 동시 실행 스레드 수가 줄어들수록 빠르게 격차를 벌려 2개 스레드에서 약 0.75GiB/s, 4개 스레드에서 약 1.55GiB/s를 기록하며 동일 지점에서 ASUS(0.58GiB/s 및 0.65GiB/s)를 확실히 앞섭니다. Dell은 8개 스레드에서 2.33GiB/s까지 계속해서 성능을 확장하고, 16개 및 32개 스레드에서는 2.88~2.90GiB/s의 정점을 찍으며 해당 그룹에서 선두를 유지합니다.

하지만 32개 스레드를 넘어서면 Dell의 처리 속도는 정체되거나 약간 감소하여 64개 스레드에서 약 2.90GiB/s를 유지하고 128개 스레드에서는 약 2.75GiB/s까지 떨어집니다. 반면 Acer, Gigabyte, 그리고 Founders Edition은 64개 스레드에서 5GiB/s를 크게 넘어서 128개 스레드에서 약 6.5GiB/s에 도달합니다. 전반적으로 Dell은 저사양에서 중간사양 스레드 범위에서는 우위를 점하지만, 최고 성능 시스템처럼 높은 동시 처리량 수준에서는 확장성이 떨어집니다.

GDSIO 쓰기 평균 지연 시간 16K

GDSIO 쓰기 평균 지연 시간(16K)을 살펴보면, Dell은 거의 전체 확장 곡선에서 가장 낮은 지연 시간을 제공합니다. 1개 스레드에서 약 0.045ms로 시작하여 2개 스레드에서 0.05ms, 4개 스레드에서 0.04ms로 매우 낮은 수준을 유지하며, 각각 약 0.06ms와 0.10ms를 기록한 ASUS보다 훨씬 낮습니다. 8개 스레드에서는 Dell이 약 0.055ms를 기록하는 반면 ASUS는 약 0.20ms를 기록합니다. 16개 스레드에서는 Dell이 약 0.085ms를 기록하는 반면 ASUS는 약 0.35ms를 기록하여 격차가 더욱 벌어지며, 32개 스레드에서도 Dell은 약 0.17ms로 안정적인 지연 시간을 유지하는 반면 ASUS는 거의 0.68ms까지 상승합니다.

델은 64개 스레드에서도 약 0.34ms의 지연 시간을 유지하는 반면, ASUS는 약 1.51ms까지 급증합니다. 128개 스레드에서야 델의 지연 시간이 약 0.71ms로 다소 급격하게 상승하지만, 3.10ms를 넘는 ASUS에 비해 여전히 현저히 낮습니다. 전반적으로 델은 동시 실행 수가 증가함에 따라 ASUS보다 쓰기 지연 시간을 훨씬 더 효과적으로 제어합니다.

GDSIO 읽기 처리량 1M

GDSIO 읽기 처리량(1M)을 살펴보면, Dell은 1개 스레드에서 약 2.6GiB/s로 시작하여 2개 스레드에서 4.3GiB/s로 확장되고, 4개 스레드에서 약 5.6GiB/s에 도달합니다. 그 이후로는 성능이 대체로 안정화되어 8개 스레드에서 약 5.6GiB/s, 16개 스레드에서 약 5.4GiB/s, 32개 스레드에서 약 5.4GiB/s, 64개 스레드에서 약 5.5GiB/s를 유지하다가 128개 스레드에서 약 5.5GiB/s로 마무리됩니다.

델은 초기 확장성과 안정적인 성능을 제공하지만, 에이서와 기가바이트는 스레드 수가 증가함에 따라 11GiB/s를 넘어서는 성능을 지속적으로 보여주고 있으며, 파운더스 에디션은 10GiB/s에 근접하여 대용량 블록 읽기 처리량 부문에서 델을 중위권에 확고히 자리매김하게 합니다.

GDSIO 읽기 평균 지연 시간 1M

GDSIO 읽기 평균 지연 시간(1M)을 살펴보면, Dell은 스레드 1개에서 약 0.35ms로 시작하여 스레드 2개에서 약 0.45ms로 증가하고, 스레드 4개에서 약 0.70ms에 도달합니다. 지연 시간은 스레드 8개(1.50ms)와 16개(3.00ms)까지는 안정적으로 증가하다가, 스레드 32개에서는 약 5.90ms, 64개에서는 약 12.40ms에 이르며, 128개에서는 약 25.40ms에서 마무리됩니다.

델은 128개 스레드에서 거의 29.60ms에 도달하는 ASUS보다 효율적으로 확장되지만, 최대 동시 처리량에서는 Acer와 Gigabyte보다 지연 시간이 더 높습니다. Acer와 Gigabyte는 128개 스레드에서 11ms대에 가까운 지연 시간을 유지합니다. 전반적으로 델은 대용량 블록 읽기에서 중간 수준의 지연 시간을 보이며 ASUS보다 우수하지만, 가장 많은 스레드 수에서 가장 낮은 지연 시간을 제공하는 플랫폼에는 미치지 못합니다.

GDSIO 쓰기 처리량 1M

GDSIO 쓰기 처리량(1M)을 살펴보면, Dell은 스레드 1개에서 약 2.6GiB/s로 시작하여 스레드 2개에서 약 3.2GiB/s로 증가하고, 스레드 4개에서 약 3.3GiB/s에 도달합니다. 이후 성능은 8개에서 64개 스레드까지 약 3.2~3.3GiB/s를 유지하며 안정화되다가 128개 스레드에서 약 3.1GiB/s로 약간 떨어집니다.

델은 대용량 블록 쓰기 성능에서 안정적이고 일관된 성능을 제공하지만, 에이서나 기가바이트처럼 8~64개 스레드에서 12GiB/s 이상을 기록하거나, 파운더스 에디션처럼 중간 범위에서 약 8.7GiB/s를 유지하는 등 동시 접속자 수가 많아질수록 성능이 향상되는 것은 아닙니다. 전반적으로 델은 안정적인 성능을 보이지만, 1M 쓰기 처리량 측면에서는 최고 성능 시스템들에 비해 분명히 뒤처집니다.

GDSIO 쓰기 평균 지연 시간 1M

GDSIO 쓰기 평균 지연 시간(1M)을 살펴보면, Dell은 스레드 1개에서 약 0.6ms로 시작하여 스레드 2개에서는 약 0.8ms, 스레드 4개에서는 약 1.2ms로 점차 증가합니다. 지연 시간은 스레드 8개에서 약 2.5ms, 16개에서 5.0ms, 32개에서 9.5ms까지 계속 상승하다가 스레드 64개에서 약 19.0ms에 도달하고 128개에서 약 40.0ms로 마무리됩니다.

델은 64개 스레드에서 100ms를 급격히 넘어서는 ASUS보다 더 원활하게 확장되지만, 더 높은 동시 실행 수에서는 여전히 에이서와 기가바이트에 뒤처집니다. 에이서와 기가바이트는 128개 스레드에서도 14ms대에 가까운 지연 시간을 유지합니다. 전반적으로 델은 스레드 수가 증가함에 따라 안정적인 대용량 블록 쓰기 지연 시간을 중간 수준으로 유지합니다.

맺음말

Dell Pro Max GB10 패키지는 NVIDIA의 표준화된 GB10 Spark 플랫폼을 Dell Pro Max 섀시에 통합하여, 생태계 전반에서 볼 수 있는 동일한 컴퓨팅 기반을 유지합니다. vLLM 테스트에서 지속적인 AI 추론 성능은 다른 Spark 시스템과 유사한 수준을 보였으며, 강력한 사전 채우기(Prefill) 확장성과 동일성 평가(Equal) 및 디코딩(Decode) 워크로드 전반에 걸쳐 예측 가능한 동작을 보여주었습니다.

열 관리 측면에서 Dell은 집중적인 프리필(Prefill) 전환 과정에서 동급 제품들보다 높은 온도를 기록했으며, 특히 NVMe 온도가 경쟁 제품들에 비해 상승했습니다. 하지만 지속적인 디코딩(Decode) 작업 부하에서는 온도가 경쟁력 있는 범위 내에서 안정화되었으며, 불안정성이나 성능 저하 징후는 나타나지 않았습니다. GPU 전력 소비량 또한 플랫폼에서 예상되는 범위 내에 머물렀습니다.

GPU Direct Storage 테스트에서 Dell은 16K 읽기 처리량 확장에서 우수한 성능을 보였으며, 낮은 수준에서 중간 수준의 동시 접속자 수에서 쓰기 지연 시간 제어 능력이 뛰어났습니다. 하지만 1M 전송과 같은 대용량 데이터 전송에서는 스레드 수가 많아질수록 Acer와 Gigabyte보다 처리량이 더 빨리 포화 상태에 도달했는데, 이는 GB10 아키텍처 자체의 한계라기보다는 특정 Gen4 SSD 구성과 관련된 현상으로 보입니다. 안타깝게도 Dell은 GB10 구현에서 Gen5 SSD 옵션을 제공하지 않는 등 스토리지 관련 결정을 아쉬워했습니다. 또한 2TB 제품에는 Gen4 QLC SSD가 사용되었는데, 이는 본 리뷰 결과보다 실제 성능이 더 떨어질 가능성이 높습니다.

Spark 제품군 전반에 걸쳐 핵심 AI 처리량은 비슷한 수준으로 유지됩니다. 차이점은 순수 처리 능력보다는 구현 방식의 차이에서 나타납니다.

제품 페이지 – Dell Pro Max GB10 탑재

순위표: Dell Pro Max GB10은 로컬 AI에 가장 적합한 데스크톱 순위표 테스트 대상 제품 중 하나입니다.