StorageReview.com

델 프로맥스 마이크로 리뷰: 2.9리터 워크스테이션에 24GB RTX PRO 4000 및 24코어 탑재

최종 사용자  ◇  워크 스테이션

델 프로 맥스 마이크로(FCM2250)는 24코어 인텔 코어 울트라 9 285, 24GB NVIDIA RTX PRO 4000 블랙웰 SFF 에디션, 그리고 96GB DDR5-6400 메모리를 약 2.9리터 크기의 섀시에 담았습니다. 이 제품은 프로 맥스 데스크톱 라인업 중 가장 작은 워크스테이션으로, 델의 상용 데스크톱과 동일한 vPro 엔터프라이즈 관리 및 보안 기능을 제공합니다. 본 테스트에서는 리눅스 환경에서 델 프로 프리시전 9 T2 타워, 32GB 인텔 아크 프로 B70 칩셋을 탑재한 코세어 플렉스프라임 V20C, 그리고 128GB 통합 메모리를 사용하는 두 대의 데스크톱과 비교하여, 이 크기의 RTX PRO 그래픽 카드가 로컬 AI 작업에 어떤 성능을 제공하는지 측정했습니다.

델 프로 맥스 마이크로(FCM2250)가 실험실 벤치 위에 3/4 각도로 세워져 있는 모습

주요 요점

  • CUDA 덕분에 Micro는 Ollama 처리량과 이미지 생성 능력에서 Dell 제품군을 제외한 모든 시스템보다 앞서게 되었습니다. 이 제품은 초당 268.2개의 RAG 패시지를 처리했는데, 이는 GB10이 장착된 Dell Pro Max의 211.4개, AMD Ryzen AI Halo의 95.5개, Corsair FlexPrime V20C의 87.5개보다 높은 수치입니다. 또한 분당 11.46개의 FLUX.2 클라인 이미지를 생성했는데, 이는 각각 9.96개, 3.86개, 4.26개보다 높은 수치입니다.
  • 24GB의 그래픽 메모리가 모델의 최대 성능을 결정합니다. Qwen3.8 27B는 서비스 제공에 30GB가 필요하고 Qwen-Image 20B는 28GB가 필요하므로 RTX PRO 4000 SFF에서는 둘 다 로드되지 않았지만, 32GB Arc Pro B70, 두 개의 통합 메모리 시스템 및 T2에서는 둘 다 실행되었습니다.
  • 델의 Pro Precision 9 T2는 상위 모델에서 어떤 기능이 추가되었는지 보여줍니다. 96GB RTX PRO 6000 Max-Q를 탑재한 T2는 Ministral 3 8B를 초당 167.3 토큰으로 처리했는데, 이는 Micro의 52.0, V20C의 63.7, GB10의 37.0, Halo의 30.6보다 높은 수치이며, Micro가 로드할 수 없었던 27B 모델도 실행했습니다.
  • 이 케이스에 장착된 24코어 CPU는 발열이 심해 타워형 케이스보다 크기가 작습니다. Core Ultra 9 285는 모든 코어 테스트에서 최고 온도가 98°C에서 105°C 사이였으며, 7-Zip 테스트에서 V20C의 199.6 GIPS보다 높은 164.0 GIPS를 기록했고, Linux 커널 컴파일 시간은 V20C의 639초보다 높은 918초를 기록했습니다.
  • Gen5 SSD는 비교 대상 중 가장 빠른 단일 드라이브입니다. 1TB 용량의 Sandisk SN8050S는 9,433MB/s의 읽기 속도를 기록했고, 4K 랜덤 읽기에서 최대 2.08만 IOPS를 달성했으며, 12.8GB 모델을 첫 번째 토큰에 도달하는 데 5.11초가 걸렸습니다.
  • 델닷컴에서 저희가 검토한 구성의 가격은 11,999달러입니다. 델은 Pro Max Micro의 가격을 1,449달러부터 책정하고 있으며, 저희가 테스트한 제품은 3,999.99달러짜리 Corsair FlexPrime V20C와 AMD Ryzen AI Halo보다 3배, 7,521달러짜리 GB10이 탑재된 Dell Pro Max보다 약 1.6배 비쌉니다.

프로맥스 마이크로의 위치

델은 Pro Max Micro를 자사의 초소형 비즈니스 워크스테이션으로 포지셔닝하고 있으며, SFF 및 타워 모델 다음으로 작은 Pro Max 데스크톱 제품군입니다. 델은 협소한 공간에서 워크스테이션급 성능, 전문가용 외장 그래픽 카드, ISV 인증을 필요로 하는 기업을 위해 이 제품을 설계했으며, 올인원 스탠드, 디스플레이 뒤 선반, 벽 또는 책상 아래에 설치할 수 있습니다. 이 플랫폼은 Core Ultra 5, 7, 9 프로세서를 사용하며, 델은 향상된 열 관리 솔루션을 통해 해당 프로세서의 정격 65W보다 높은 85W로 작동시킵니다.

그래픽 옵션은 테스트 장비에 탑재된 70W RTX PRO 4000 Blackwell SFF 에디션(24GB GDDR7 ECC 메모리)이 최고 사양입니다. 시스템 메모리는 테스트 장비 사양인 두 개의 CSODIMM을 사용하여 최대 96GB의 DDR5-6400을 지원하며, ECC 모듈과 Dell의 Reliable Memory Technology Pro(BIOS 수준에서 불량 메모리 영역을 매핑하는 기술)를 사용하면 최대 64GB까지 확장 가능합니다. 이 시스템은 두 개의 M.2 2280 슬롯(PCIe Gen5 1개, Gen4 1개)을 통해 최대 8TB의 스토리지를 지원합니다. 테스트 장비에는 Dell에서 RAID 0 볼륨으로 구성한 1TB Gen5 자체 암호화 드라이브 두 개가 장착되어 있습니다.

마이크로 모델보다 상위 모델인 델의 워크스테이션 타워에는 풀 사이즈 그래픽 카드와 더 많은 메모리 채널이 추가됩니다. 이번 비교에 사용된 델 프로 프리시전 9 T2 는 제온 기반 프로 프리시전 9 라인업 중 가장 작은 타워로, 24코어 제온 658X, 96GB RTX PRO 6000 블랙웰 맥스-Q, 그리고 4채널 DDR5-6400 메모리를 탑재했습니다. 상위 모델인 델 프로 프리시전 9 T4는 그래픽 카드 종류에 따라 최대 4개의 GPU를 지원합니다. T2 모델을 포함함으로써 델의 가장 작은 워크스테이션과 단일 GPU 타워 간의 성능 차이를 확연히 확인할 수 있습니다.

델은 Pro Max Micro를 1,449달러부터 판매하고 있으며, 저희가 테스트한 구성은 델 공식 웹사이트(Dell.com)에서 11,999달러에 판매됩니다. 이 가격에는 Core Ultra 9 285, RTX PRO 4000 SFF, 96GB 메모리, 2개의 Gen5 SSD, 5GbE 모듈, Wi-Fi 7, 그리고 1년 기본 보증 대신 3년의 현장 서비스 포함 ProSupport가 포함됩니다. 델은 대부분의 시스템을 영업팀과 파트너사를 통해 판매하며, 대량 구매 시 할인 혜택이 적용됩니다.

빌드 및 디자인

본체는 검은색 레진 소재로 제작되었으며 크기는 206 x 79.3 x 178mm(8.11 x 3.12 x 7.00인치)이고, 구성에 따라 무게는 2.34kg에서 2.54kg 사이입니다. Dell은 이전 세대 디자인을 계승하여 기존 마운트 및 액세서리와 호환된다고 밝혔습니다. 전원은 7.4mm 배럴 커넥터가 있는 280W 외부 어댑터를 통해 공급됩니다. 사용된 소재는 46.4%가 재활용 플라스틱이며, ENERGY STAR 인증과 Climate+의 EPEAT Gold 등급을 획득했습니다.

전원 버튼, 헤드셋 잭, USB Type-A 포트 2개 및 USB Type-C 포트가 있는 Dell Pro Max Micro 전면 패널

전면 패널에는 20Gbps USB Type-C 포트 1개, 10Gbps USB Type-A 포트 2개(그중 하나는 PowerShare 지원), 헤드셋 잭이 있습니다. 후면에는 10Gbps USB Type-C 포트 1개, 10Gbps 및 5Gbps USB Type-A 포트 각각 2개, 내장 그래픽에서 출력되는 DisplayPort 1.4a 포트 3개, 1GbE RJ45 포트가 있습니다. RTX PRO 4000 SFF는 미니 DisplayPort 포트 4개를 추가하여 총 7개의 디스플레이 연결을 제공하며, Dell은 풀 사이즈 DisplayPort 어댑터 4개를 함께 제공합니다.

RTX PRO 4000 SFF에는 4개의 미니 DisplayPort 출력, 3개의 DisplayPort 출력, USB 포트 및 2개의 이더넷 포트를 갖춘 Dell Pro Max Micro 후면 I/O가 있습니다.

후면의 모듈식 포트는 9가지 옵션 중 하나를 선택할 수 있으며, 저희 제품에는 5GbE LAN 모듈이 장착되어 있습니다. 다른 옵션으로는 VGA, HDMI 2.1, DisplayPort 2.1, PS/2를 지원하는 시리얼 포트, DisplayPort Alt Mode를 지원하는 USB Type-C, 두 개의 USB Type-A 포트, USB Type-C를 지원하는 Thunderbolt 4, 그리고 5G 광섬유가 있습니다. Dell은 또한 이 플랫폼에 2.5GbE 및 듀얼 포트 10GbE 네트워킹 기능을 제공하며, 저희 제품의 무선 기능은 Intel Wi-Fi 7 BE200과 Bluetooth 5.4입니다.

내부에는 그래픽 카드용 x8 커넥터가 있는 PCIe Gen4 슬롯 2개와 x1 커넥터가 있는 슬롯 1개, 그리고 무선 카드용 M.2 2230 슬롯이 있습니다. 두 개의 SSD는 열 패드가 있는 공용 방열판 아래에 장착되며, 메모리는 두 개의 CSODIMM 슬롯에 장착됩니다. 섀시는 대부분 도구가 필요 없으며, 사용자가 메모리와 스토리지를 교체할 수 있습니다.

덮개를 열었을 때 델 프로 맥스 마이크로 내부 모습입니다. 그래픽 카드 케이지, CPU 방열판, 그리고 두 개의 메모리 모듈이 보입니다.

실험실에서 덮개는 나사 하나만 풀면 쉽게 분리되었습니다. 덮개를 분리하면 CPU 팬 덮개가 클립으로 고정되어 분리되고, 두 개의 메모리 슬롯이 드러납니다. 또한, PCIe 라이저는 나사 두 개를 풀면 분리되어 두 개의 확장 슬롯에 접근할 수 있습니다. 저희 실험실에서는 전반적으로 시스템 정비가 간편하다고 판단했습니다.

NVIDIA RTX PRO 4000 SFF 그래픽 카드가 제거된 Dell Pro Max Micro PCIe 라이저 박스와 시스템 보드 및 구리 히트파이프 쿨러 옆에 놓여 있습니다.

보안 및 관리는 SafeBIOS 오프호스트 펌웨어 검증, SafeID 자격 증명 보호, 보안 구성 요소 검증, Opal 2.0 자체 암호화 드라이브, 켄싱턴 슬롯 및 자물쇠 고리를 포함하여 Dell의 상용 데스크톱 템플릿을 따릅니다. 이 시스템은 Intel vPro Enterprise로 구성되어 있으며 Dell Client Command Suite와 호환됩니다. Dell은 이 시스템에 Windows 11 Pro를 설치하여 출고하지만, 연구실에서는 테스트를 위해 해당 이미지를 Ubuntu로 교체했습니다.

저희가 받은 제품에는 Dell의 지문 인식 ESS 마우스(MS526C)가 함께 제공되었습니다. 이 마우스는 44.99달러짜리 액세서리로, Windows Hello를 통해 원터치 로그인을 지원하는 지문 인식기가 내장되어 있습니다. 5.91피트 길이의 USB Type-A 케이블로 연결되며, 기본 1,600dpi에서 최대 6,000dpi까지 트래킹이 가능하고 무게는 2.57온스입니다. Dell은 Windows 10과 Windows 11을 지원한다고 명시하고 있어 Linux 환경에서는 테스트를 진행하지 않았습니다. 하지만 일반적으로 이처럼 벽에 장착하거나 접근하기 어려운 위치에 설치해야 하는 기기에는 유용한 액세서리입니다. 이러한 경우 무선 버전이 출시된다면 더욱 편리할 것입니다.

델 프로 맥스 마이크로 마우스가 델 프로 5 유선 지문인식 ESS 마우스(MS526C) 옆에 평평하게 놓여 있습니다.

델 프로맥스 마이크로 사양

스펙 델 프로 맥스 마이크로
플랫폼
모델 델 프로맥스 마이크로(FCM2250)
프로세서 인텔 코어 울트라 9 285, 24코어(P코어 8개, E코어 16개), 24스레드, 최대 5.6GHz
36MB 캐시, 전용 NPU
65W, 85W로 작동 (델)
그래픽 업로드 NVIDIA RTX PRO 4000 블랙웰 SFF 에디션, 70W
24GB GDDR7 ECC
메모리 96GB (48GB x 2) DDR5-6400 CSODIMM, 비ECC
최대 64GB DDR5 ECC 옵션
스토리지 2개의 1TB M.2 2280 PCIe Gen5 SED, RAID 0 구성으로 출고됨
샌디스크 SN8050S 테스트 결과
M.2 슬롯 두 개(Gen5 1개, Gen4 1개)를 통해 최대 8TB까지 지원
확장 2개의 PCIe Gen4 x8 슬롯(x8 및 x1로 배선됨)
1x M.2 2230 (무선)
운영체제 출고 상태의 Windows 11 Pro
테스트 환경: Ubuntu 26.04.1 LTS
입/출력 라인
전면 포트 USB Type-C 20Gbps 포트 1개
2개의 USB Type-A 10Gbps 포트(그중 하나는 PowerShare 기능 지원)
헤드셋 잭 1개
후면 포트 USB Type-C 10Gbps 포트 1개
2개의 USB Type-A 10Gbps 포트
2개의 USB Type-A 5Gbps 포트
1x RJ45 1GbE
옵션 모듈 포트 1개 (테스트 결과 5GbE)
디스플레이 출력 미니 디스플레이포트 4개 (RTX PRO 4000 SFF)
DisplayPort 1.4a 3개 (내장형)
Wireless 인텔 Wi-Fi 7 BE200(2×2), 블루투스 5.4
오디오 내장 스피커, Realtek ALC3204 코덱
전면 헤드셋 콤보 포트
보안 및 관리
보안 Dell SafeBIOS, SafeID, 보안 구성 요소 검증
오팔 2.0 SED, 켄싱턴 슬롯, 자물쇠 고리
인텔 v프로 엔터프라이즈
Dell 클라이언트 커맨드 스위트
물리적 및 지원
크기 (높이 x 폭 x D) 206 x 79.3 x 178mm (8.11 x 3.12 x 7.00인치), 약 2.9L
중량(평량) 2.34kg ~ 2.54kg (5.15lb ~ 5.59lb)
출력 280W AC 어댑터
품질 보증 3년간의 ProSupport(구성된 대로 현장 서비스 포함)
1년 기본 계약
가격 1,449만 달러 기본
테스트 결과 가격은 11,999달러입니다(Dell.com 참조).

테스트 설정 및 방법론

Dell은 Pro Max Micro에 Windows 11 Pro를 설치하여 출고합니다. 저희 연구실에서는 최신 커널이 탑재된 Linux 환경에서 고성능 워크스테이션을 테스트하기 때문에, 두 개의 1TB SSD 중 하나에 Ubuntu 26.04.1 LTS(커널 7.0)를 설치했습니다. 따라서 기본 RAID 0 볼륨은 이번 테스트 결과에 포함되지 않았습니다. 시스템은 BIOS 1.19.1 버전에서 기본 전원 프로필로 실행되었으며, NVIDIA 드라이버는 595.99.02였습니다. 테스트 결과, RTX PRO 4000 SFF에서 사용 가능한 GPU 메모리는 23.9GB로 측정되었습니다.

결과는 자체 개발한 세 가지 테스트 스위트에서 얻은 것입니다. 첫 번째는 로컬 AI, 콘텐츠 제작 및 스토리지 기능을 지원하는 클라이언트 스위트의 Linux 빌드인 sr-client_linux 0.1입니다. 각 수치는 반복 테스트의 중앙값입니다. 벤치마크 도구는 Phoronix Test Suite 워크로드와 y-cruncher를 사용하며, 서버 스위트는 ClickBench, OpenFOAM, STREAM 및 Valkey를 실행합니다. MLPerf Client의 Linux 릴리스에는 Intel OpenVINO 구성만 포함되어 있으므로 NVIDIA 카드에 대한 결과는 없으며, 미세 조정 테스트는 이번 테스트 실행에 포함되지 않았습니다.

비교 대상은 Dell 제품군에서 시작하여 현지에서 구매할 수 있는 AI 하드웨어 세 가지를 추가합니다. Pro Precision 9 T2는 24코어 Xeon 658X, 96GB RTX PRO 6000 Blackwell Max-Q, 128GB DDR5-6400을 탑재한 타워형 PC입니다. Corsair FlexPrime V20C 는 24코어 Core Ultra 7 270K Plus, 32GB Intel Arc Pro B70, 64GB DDR5-6400을 탑재한 마이크로 ATX 타워형 PC입니다. Dell Pro Max with GB10은 NVIDIA의 20코어 GB10과 128GB 통합 메모리를 NVIDIA의 Ubuntu 24.04 이미지에서 실행합니다. AMD Ryzen AI Halo는 16코어 Ryzen AI Max+ 395와 128GB 통합 LPDDR5X를 AMD의 Linux 개발자 이미지에서 실행합니다.

Halo는 AMD 개발자 이미지에서 sr-client_linux 0.1, harness v3.6, server suite r5.28을 실행했습니다. GB10은 동일한 애플리케이션 버전으로 이전 버전의 harness와 server suite를 실행했으며, 세 운영 체제는 서로 다른 컴파일러를 사용하기 때문에 커널 컴파일과 같은 소스 빌드 테스트에 영향을 미칩니다. Micro, T2, V20C는 Ubuntu 26.04.1을 공유하며 가장 긴밀한 그룹을 형성합니다.

GPU 제조사에 따라 소프트웨어 경로가 다르며, 이는 AI 결과에 영향을 미칩니다. Micro, T2, GB10은 llama.cpp, Ollama, stable-diffusion.cpp 전체에서 CUDA를 사용했습니다. Halo는 이 세 가지 모두에서 AMD의 ROCm을 사용했습니다. V20C에서는 llama.cpp가 SYCL 백엔드에서 실행되었고, Ollama와 stable-diffusion.cpp는 Vulkan을 통해 실행되었습니다. 이는 Ollama의 기본 경로가 Arc 카드에 모델을 배치하지 않았기 때문입니다. 이러한 차이가 Ollama 및 이후 이미지 테스트에서 Micro가 우위를 점하는 주요 원인입니다.

구성 CPU 메모리 GPU 부팅 드라이브 운영체제
델 프로맥스 마이크로(FCM2250) 코어 울트라 9 285, 24코어 96GB DDR5-6400(2GB 48개) NVIDIA RTX PRO 4000 블랙웰 SFF, 23.9GB 사용 가능 메모리 1TB Sandisk SN8050S, PCIe Gen5 우분투 26.04.1 LTS, 커널 7.0
델 프로 프리시전 9 T2 (PW9T2260) 제온 658X, 24코어 128GB DDR5-6400(4GB 32개) NVIDIA RTX PRO 6000 블랙웰 맥스-Q, 95.6GB 사용 가능 용량 삼성 PM9E1 Gen5 2TB 드라이브 스트라이핑 어레이 우분투 26.04.1 LTS, 커널 7.0
Corsair FlexPrime V20C Core Ultra 7 270K Plus, 24코어 64GB DDR5-6400(4GB 16개) 인텔 아크 프로 B70, 사용 가능 용량 31.9GB 1TB XPG MARS 970 PLUS, PCIe Gen5 우분투 26.04.1 LTS, 커널 7.0
Dell Pro Max GB10 (FCM1253) NVIDIA GB10, 20코어 128GB LPDDR5X-8533, 통합형 NVIDIA GB10, 사용 가능 용량 121.6GB 4TB PCIe Gen4 우분투 24.04.5 LTS, NVIDIA 커널 7.0
AMD 라이젠 AI 헤일로 라이젠 AI 맥스+ 395, 16코어 128GB LPDDR5X-8000, 통합형 라데온 8060S(내장형), 95.5GB 사용 가능 용량 2TB 마이크론 4600, PCIe Gen4 링크 AMD 리눅스 개발자 이미지, 커널 7.2

로컬 AI 성능

RTX PRO 4000 SFF는 Micro에 24GB의 전용 그래픽 메모리를 제공하며, 측정 결과 23.9GB가 사용 가능한 것으로 나타났습니다. 이는 당사 제품 라인업의 20B 에이전트 모델과 Ministral 서버 모델에 충분합니다. V20C의 32GB 카드는 27B 서버 모델에 필요한 30GB도 충족하며, T2의 96GB 카드와 128GB 통합 메모리 시스템은 Micro에서 사용할 수 없는 더 큰 모델 등급에 적합합니다.

LLM 제공

llama.cpp 서버 (별도로 명시되지 않은 경우, 값이 높을수록 좋습니다) 델 프로 맥스 마이크로 (울트라 9 285, RTX PRO 4000 SFF 24GB) 델 프로 프리시전 9 T2 (제온 658X, RTX PRO 6000 Max-Q 96GB) Corsair FlexPrime V20C (Ultra 7 270K Plus, Arc Pro B70 32GB) Dell Pro Max GB10(128GB 통합) AMD 라이젠 AI 헤일로(라이젠 AI 맥스+ 395, 128GB 통합)
Ministral 3 3B, 요청 1개(토큰/초) 80.7 243.8 84.9 53.2 43.0
Ministral 3 3B, 요청 4개(토큰/초) 201.5 602.6 213.3 139.8 105.1
Ministral 3 3B, 요청 1건, 첫 번째 토큰 생성 시간(밀리초, 낮을수록 좋음) 666 197 590 572 1,659
Ministral 3 8B, 요청 1개(토큰/초) 52.0 167.3 63.7 37.0 30.6
Ministral 3 8B, 요청 4개(토큰/초) 108.9 384.9 141.8 97.2 66.6
Ministral 3 8B, 요청 1건, 첫 번째 토큰 생성 시간(밀리초, 낮을수록 좋음) 1,477 427 1,362 1,398 4,602
Qwen3.8 27B, 요청 1건(토큰/초) 맞지 않았다 53.8 19.8 11.2 9.1
Qwen3.8 27B, 4개 요청(토큰/초) 맞지 않았다 113.5 33.5 27.1 18.4
Qwen3.8 27B, 8개 요청(토큰/초) 맞지 않았다 155.8 35.4 35.6 20.1
Qwen3.8 27B, 요청 1건, 첫 번째 토큰 획득 시간(밀리초, 낮을수록 좋음) 맞지 않았다 2,771 9,005 9,207 24,024

LLM 서버는 Ministral 3 모델에서 4,096개 토큰 프롬프트와 1,024개 토큰 출력을 사용하는 llama.cpp 서버를 실행합니다. Micro는 3B 모델을 한 명의 사용자에게 초당 80.7개 토큰으로 제공했는데, 이는 V20C의 Arc Pro B70보다 5% 느리고 GB10보다 52% 빠른 속도입니다. 8B 모델은 초당 52.0개 토큰으로 제공했는데, 이는 V20C보다 18% 느리고 GB10보다 41% 빠른 속도입니다. 동시 요청이 4개일 때는 초당 201.5개와 108.9개 토큰을 제공했는데, 이는 GB10보다 각각 44%와 12% 빠른 속도입니다.

Halo에 내장된 Radeon 8060S는 이 테스트에서 다른 모든 시스템에 비해 성능이 떨어졌습니다. 3B 모델의 경우 단일 요청에 대해 초당 43.0 토큰, 4개 요청에 대해서는 초당 105.1 토큰을 처리했는데, 이는 Micro의 절반 수준입니다. 8B 모델의 경우 초당 30.6 토큰과 66.6 토큰을 처리했습니다. 프롬프트 처리 속도 또한 느렸는데, 첫 번째 토큰 처리 시간의 중앙값은 3B 모델에서 1.7초, 8B 모델에서 4.6초였으며, Micro는 각각 0.7초와 1.5초였습니다.

Dell Pro Max Micro LLM 서비스, 단일 요청 차트. Ministral 3 3B: Dell Pro Max Micro 80.73, Dell Pro Precision 9 T2 244, Corsair FlexPrime V20C 84.89, Dell Pro Max with GB10 53.23, AMD Ryzen AI Halo 42.97; Ministral 3 8B: Dell Pro Max Micro 52.01, Dell Pro Precision 9 T2 167, Corsair FlexPrime V20C 63.69, Dell Pro Max with GB10 36.99, AMD Ryzen AI Halo 30.57; Qwen3.8 27B: Dell Pro Max Micro 결과 없음, Dell Pro Precision 9 T2 53.81, Corsair FlexPrime V20C 19.82, Dell Pro Max with GB10 11.22, AMD Ryzen AI Halo 9.06

Pro Precision 9 T2는 Micro 모델 대비 상당한 성능 향상을 제공합니다. RTX PRO 6000 Max-Q 프로세서는 3B 및 8B 모델에서 단일 요청 시 각각 초당 243.8개 및 167.3개의 토큰을 처리하여 Micro 모델보다 3.0배 및 3.2배 높은 처리량을 달성했습니다. 4개의 동시 요청 시에는 처리량이 각각 초당 602.6개 및 384.9개로 증가했습니다. 또한 Qwen3.8 27B를 단일 요청 시 초당 53.8개, 8개 요청 시에는 초당 155.8개의 토큰을 처리했으며, 첫 번째 토큰 처리 시간은 2.8초였습니다.

Qwen3.8 27B(Q4_K_M)는 가중치와 한 요청의 키-값 캐시를 위해 30GB의 GPU 사용 가능 메모리가 필요하므로 Micro의 23.9GB로는 실행할 수 없었습니다. V20C는 해당 모델에서 한 요청에 대해 초당 19.8개의 토큰을 생성했고, GB10은 11.2개, Halo는 9.1개를 생성했습니다. 같은 제한으로 인해 90GB가 필요한 gpt-oss 120B와 129.3GB가 필요한 MiniMax M2.7도 Micro에서 실행할 수 없었습니다. 서버용으로는 24GB면 4비트 양자화에서 대략 20B급까지의 모델을 처리할 수 있으며, 그보다 큰 모델은 더 큰 카드나 통합 메모리 시스템에서 처리해야 합니다.

Dell Pro Max Micro LLM 서비스, 동시 요청 4개 차트. Ministral 3 3B: Dell Pro Max Micro 202, Dell Pro Precision 9 T2 603, Corsair FlexPrime V20C 213, Dell Pro Max with GB10 140, AMD Ryzen AI Halo 105; Ministral 3 8B: Dell Pro Max Micro 109, Dell Pro Precision 9 T2 385, Corsair FlexPrime V20C 142, Dell Pro Max with GB10 97.18, AMD Ryzen AI Halo 66.65; Qwen3.8 27B: Dell Pro Max Micro 결과 없음, Dell Pro Precision 9 T2 114, Corsair FlexPrime V20C 33.53, Dell Pro Max with GB10 27.1, AMD Ryzen AI Halo 18.38

모델 로딩 및 코딩 에이전트

gpt-oss:20b (Ollama 0.40.3) 델 프로 맥스 마이크로 (울트라 9 285, RTX PRO 4000 SFF 24GB) 델 프로 프리시전 9 T2 (제온 658X, RTX PRO 6000 Max-Q 96GB) Corsair FlexPrime V20C (Ultra 7 270K Plus, Arc Pro B70 32GB) Dell Pro Max GB10(128GB 통합) AMD 라이젠 AI 헤일로(라이젠 AI 맥스+ 395, 128GB 통합)
gpt-oss:20b 첫 번째 토큰에 콜드 로드(s, 낮을수록 좋음) 5.11 5.57 6.29 6.86 4.20
gpt-oss: 첫 번째 토큰에 20b 웜 로드(s, 낮을수록 좋음) 3.12 3.47 3.18 6.36 4.03
코딩 에이전트, 성공 실행 횟수 (3회 중) 1* 2* 3 3 2*
코딩 에이전트, 평균 대기 시간(초, 낮을수록 좋음) 80 * 107 * 368 221 282 *
코딩 에이전트, 생성 속도(토큰/초) 76.2 225.0 32.2 53.9 41.2

*테스트 도구에서 문제가 있는 것으로 표시됨: Dell Pro Max Micro는 3번의 에이전트 실행 중 1번을 통과했고, Pro Precision 9 T2와 AMD Ryzen AI Halo는 3번 중 2번을 통과했습니다.

모델 부하 테스트는 12.8GB 모델인 gpt-oss:20b에서 Ollama를 실행하여 첫 번째 토큰에 도달하는 데 걸리는 시간을 SSD에서 바로 로드한 상태와 페이지 캐시에서 로드한 상태로 측정했습니다. Micro는 바로 로드한 상태에서 5.11초, 페이지 캐시에서 로드한 상태에서 3.12초 만에 첫 번째 토큰에 도달하여 그룹 내에서 가장 빠른 로드 속도를 보였습니다. T2는 바로 로드한 상태에서 5.57초, 페이지 캐시에서 로드한 상태에서 3.47초, V20C는 6.29초, 페이지 캐시에서 로드한 상태에서 3.18초, GB10은 6.86초, 페이지 캐시에서 로드한 상태에서 6.36초가 걸렸습니다. Halo는 바로 로드한 상태에서 4.20초로 가장 빠른 로드 속도를 기록했고, 페이지 캐시에서 로드한 상태에서는 4.03초가 걸렸습니다. Micro의 Gen5 드라이브는 바로 로드한 상태에서 6,636MB/s의 읽기 속도를 기록했으며, 최고 속도는 8,754MB/s에 달해 스토리지 성능이 런타임 속도를 충분히 따라가고 있음을 보여줍니다.

코딩 에이전트 테스트는 고정된 프로그래밍 작업을 통해 64K 컨텍스트에서 gpt-oss:20b에 대해 Crush를 세 번 실행합니다. Micro는 초당 76.2개의 토큰을 생성하여 GB10(53.9개), Halo(41.2개), V20C(32.2개)보다 앞섰으며, T2의 225.0개에 비해 약 3분의 1 수준이었습니다. Micro의 한 번의 통과 실행은 80초 만에 완료되었습니다. 나머지 두 번의 실행은 11개 테스트 중 각각 0개와 1개만 통과했으며, T2와 Halo는 3개 중 2개를 통과했고, V20C와 GB10은 3개 모두 통과했습니다. 이 모델의 통과 횟수는 실행마다 다르므로 토큰 생성 속도는 하드웨어 성능 결과입니다.

Dell Pro Max Micro Ollama 세대율 차트. RAG 응답(Phi-4-mini): Dell Pro Max Micro 137, Dell Pro Precision 9 T2 403, Corsair FlexPrime V20C 76.49, GB10 탑재 Dell Pro Max 93.2, AMD Ryzen AI Halo 80.01; 코딩 에이전트(gpt-oss:20b): Dell Pro Max Micro 76.24, Dell Pro Precision 9 T2 225, Corsair FlexPrime V20C 32.18, GB10 탑재 Dell Pro Max 53.88, AMD Ryzen AI Halo 41.2

RAG의 두 가지 스케일

RAG, 20,963개 구절 (Ollama 0.40.3) 델 프로 맥스 마이크로 (울트라 9 285, RTX PRO 4000 SFF 24GB) 델 프로 프리시전 9 T2 (제온 658X, RTX PRO 6000 Max-Q 96GB) Corsair FlexPrime V20C (Ultra 7 270K Plus, Arc Pro B70 32GB) Dell Pro Max GB10(128GB 통합) AMD 라이젠 AI 헤일로(라이젠 AI 맥스+ 395, 128GB 통합)
섭취량, 초당 통과 횟수 268.2 392.1 87.5 211.4 95.5
수집, 임베딩 속도(토큰/초) 43,430 63,486 14,162 34,227 15,468
답변: 생성률(토큰/초) 137.0 402.8 76.5 93.2 80.0
답변, 첫 번째 토큰 p50까지의 시간 (초, 낮을수록 좋음) 0.16 0.11 0.30 0.15 0.42
50페이지에 있는 질문에 답해주세요 (s, 낮을수록 좋습니다) 0.22 0.14 0.39 0.22 0.50

RAG 테스트는 20,963개의 SQuAD 지문을 임베드하고, 각 질문에 대한 상위 5개 지문을 추출하여 Ollama를 통해 Phi-4-mini 방식으로 답변을 생성합니다. Micro는 초당 268.2개의 지문을 처리했는데, 이는 GB10의 211.4개, Halo의 95.5개, V20C의 87.5개보다 높은 수치입니다. 이는 GB10보다 27% 빠른 속도이며, Vulkan 환경에서 Arc 카드의 처리 속도보다 약 3배 빠르며, T2는 392.1개를 기록했습니다. 답변 생성 속도는 Micro가 초당 137.0개의 토큰을 생성한 반면, GB10은 93.2개, Halo는 80.0개, V20C는 76.5개였으며, T2는 402.8개를 기록했습니다. 질문에서 답변까지의 평균 소요 시간은 0.22초로 GB10과 동일했습니다.

Dell Pro Max Micro RAG 수집, 20,963회 통과 차트. 초당 통과 횟수: Dell Pro Max Micro 268회, Dell Pro Precision 9 T2 392회, Corsair FlexPrime V20C 87.45회, Dell Pro Max with GB10 211회, AMD Ryzen AI Halo 95.52회
RAG 대규모 분석, 1,002,067개 통로 델 프로 맥스 마이크로 (울트라 9 285, RTX PRO 4000 SFF 24GB) 델 프로 프리시전 9 T2 (제온 658X, RTX PRO 6000 Max-Q 96GB) Corsair FlexPrime V20C (Ultra 7 270K Plus, Arc Pro B70 32GB) AMD 라이젠 AI 헤일로(라이젠 AI 맥스+ 395, 128GB 통합)
섭취, 1만 회분(회분/초) 313.9 1,140.9 321.4 65.8
입력 시간(초, 낮을수록 좋음) 3,192 878 3,118 15,230
HNSW 지수 빌드(s, 낮을수록 좋음) 78.9 46.3 73.4 68.9
HNSW 검색, ef 64 (쿼리/초) 27,359 45,085 29,643 34,012
HNSW 검색, ef 256 (쿼리/초) 7,664 13,478 8,285 9,649
50페이지에 있는 질문에 답해주세요 (s, 낮을수록 좋습니다) 0.20 0.12 0.36 0.46

더 큰 규모의 RAG 테스트는 llama.cpp를 통해 백만 개의 위키피디아 구절을 임베드하고, CPU에 HNSW 인덱스를 구축한 후 검색합니다. Micro는 초당 313.9개의 구절을 처리하며 53분 만에 완료했는데, 이는 SYCL 백엔드가 Vulkan 경로보다 훨씬 강력한 V20C보다 2% 뒤처진 결과입니다. 두 테스트에서 Micro의 임베드 속도는 초당 43,430개와 44,440개 토큰으로 3% 이내의 차이를 보였습니다. T2는 동일한 백만 개의 구절을 878초(15분 미만) 만에 임베드했는데, 이는 Micro보다 3.6배 빠른 속도입니다.

CPU 성능 측면에서는 V20C가 근소한 차이로, T2가 큰 차이로 우위를 점했습니다. Micro는 인덱스 구축에 78.9초가 소요되어 각각 73.4초와 46.3초를 기록했고, ef 설정 64에서 초당 27,359개의 쿼리를 처리하며 검색 성능을 보였는데, 이는 V20C의 29,643개와 45,085개보다 빠른 수치입니다. 정확한 검색에 대한 재현율은 91.4%였습니다. 이 테스트에서 답변 생성은 Ollama를 사용하며, Micro의 질문-답변 시간 중앙값은 0.20초로 V20C의 0.36초보다 훨씬 빨랐습니다. GB10은 아직 백만 건의 문항 처리 테스트를 진행하지 않았습니다.

Halo는 백만 개의 패시지 수집을 15,230초(약 4.2시간) 만에 완료했으며, 초당 65.8개의 패시지를 처리했는데, 이는 Micro의 처리 속도의 약 5분의 1 수준입니다. 16코어 프로세서는 CPU 성능 면에서 더 나은 결과를 보여주었는데, 인덱스 구축에 68.9초가 걸렸고, ef 설정 64에서 초당 34,012개의 쿼리를 처리하며 Micro와 V20C를 모두 앞섰습니다. 질문과 답변 사이의 중간 시간은 0.46초였습니다.

이미지 생성

stable-diffusion.cpp, 1024×1024 (이미지/분, 높을수록 좋음) 델 프로 맥스 마이크로 (울트라 9 285, RTX PRO 4000 SFF 24GB) 델 프로 프리시전 9 T2 (제온 658X, RTX PRO 6000 Max-Q 96GB) Corsair FlexPrime V20C (Ultra 7 270K Plus, Arc Pro B70 32GB) Dell Pro Max GB10(128GB 통합) AMD 라이젠 AI 헤일로(라이젠 AI 맥스+ 395, 128GB 통합)
FLUX.2 클라인 4B Q4_0 (이미지/분) 11.46 40.53 4.26 9.96 3.86
FLUX.2 클라인 4B BF16(이미지/분) 10.93 41.32 2.40 10.28 4.17
Z-Image Turbo 6B Q4_0 (이미지/분) 4.39 16.97 2.11 3.68 1.85
Z-Image Turbo 6B BF16 (이미지/분) 3.95 17.27 0.96 3.94 0.47
Qwen-Image 20B Q4_0 (이미지/분) 맞지 않았다 2.42 0.35 0.50 0.23
Qwen-Image 20B Q8_0 (이미지/분) 맞지 않았다 2.39 맞지 않았다 0.48 0.23

이미지 생성 성능은 Dell 제품군 외 세 시스템과의 비교에서 Micro의 가장 뛰어난 결과였습니다. CUDA를 사용한 stable-diffusion.cpp 테스트에서 Micro는 FLUX.2 klein 4B Q4_0 포맷으로 분당 11.46개의 이미지를 생성했는데, 이는 GB10의 9.96개보다 15% 높은 수치이며, Vulkan에서 V20C의 4.26개보다 2.7배, ROCm에서 Halo의 3.86개보다 2배 빠른 속도입니다. Z-Image Turbo 6B 테스트에서는 분당 4.39개의 이미지를 생성했는데, 이는 각각 3.68개, 2.11개, 1.85개와 비교됩니다. Precision 테스트에서는 BF16 포맷으로 분당 10.93개, Z-Image Turbo에서 3.95개의 이미지를 생성하여 결과에 큰 차이가 없었습니다. T2의 그래픽 카드는 분당 40.53개의 FLUX.2 이미지를 생성했는데, 이는 Micro보다 3.5배 빠른 속도입니다.

Dell Pro Max Micro 이미지 생성(1024x1024) 차트. FLUX.2 Klein 4B Q4_0: Dell Pro Max Micro 11.46, Dell Pro Precision 9 T2 40.53, Corsair FlexPrime V20C 4.26, Dell Pro Max(GB10 탑재) 9.96, AMD Ryzen AI Halo 3.86; Z-Image Turbo 6B Q4_0: Dell Pro Max Micro 4.39, Dell Pro Precision 9 T2 16.97, Corsair FlexPrime V20C 2.11, Dell Pro Max(GB10 탑재) 3.68, AMD Ryzen AI Halo 1.85

가장 큰 모델에서도 메모리 용량이 한계점입니다. Qwen-Image 20B는 Q4_0 버전에서 28GB, Q8_0 버전에서 38GB의 GPU 사용 가능 메모리가 필요하므로 24GB 그래픽 카드에서는 로드되지 않았습니다. V20C는 Q4_0 버전을 분당 0.35개의 이미지로 실행했고, GB10은 두 버전 모두 분당 0.50개와 0.48개, Halo는 분당 0.23개, T2는 분당 2.42개와 2.39개의 이미지로 실행했습니다. 이 모델급이 필요한 구매자는 Dell이 Micro 제품군에서 제공하는 최고 사양 그래픽 카드가 RTX PRO 4000 SFF이므로 이 섀시에 장착할 수 있는 것보다 더 많은 그래픽 메모리를 고려해야 합니다.

CPU 성능

7-Zip, Blender, HandBrake 및 LLVM

Test 델 프로 맥스 마이크로 (울트라 9 285, RTX PRO 4000 SFF 24GB) 델 프로 프리시전 9 T2 (제온 658X, RTX PRO 6000 Max-Q 96GB) Corsair FlexPrime V20C (Ultra 7 270K Plus, Arc Pro B70 32GB) Dell Pro Max GB10(128GB 통합) AMD 라이젠 AI 헤일로(라이젠 AI 맥스+ 395, 128GB 통합)
7-Zip, 모든 스레드, 총합(GIPS) 164.0 285.1 199.6 149.5 215.8
7-Zip, 단일 스레드, 총합(GIPS) 10.90 9.27 11.26 9.68 9.66
블렌더 4.5 몬스터(샘플/분) 243.1 400.7 330.4 arm64 빌드 없음 285.3
Blender 4.5 정크샵(샘플/분) 161.6 266.9 212.5 arm64 빌드 없음 173.9
Blender 4.5 강의실용 (샘플/분) 114.5 187.2 152.8 arm64 빌드 없음 144.0
핸드브레이크 x265 (fps) 39.7 41.5 49.6 arm64 빌드 없음 44.5
핸드브레이크 SVT-AV1 (fps) 147.9 198.5 177.4 arm64 빌드 없음 194.1
LLVM 빌드(s, 낮을수록 좋음) 173 106 136 175 149

Core Ultra 9 285는 65W 데스크톱 프로세서로, Dell은 Micro 모델에서 85W로 구동하며, V20C에 탑재된 270K Plus와 동일한 24코어 구성을 공유합니다. Micro 모델은 7-Zip 테스트에서 164.0 GIPS를 기록했는데, 이는 V20C의 199.6 GIPS보다 18% 낮은 수치이며, Blender의 세 가지 장면 테스트에서도 24~26% 느린 성능을 보였습니다. V20C는 타워형 케이스와 360mm 수랭 쿨러를 통해 성능 향상을 얻었습니다. HandBrake의 x265 및 SVT-AV1 인코딩 테스트에서는 각각 20%와 17% 느린 성능을 나타냈습니다. Blender와 HandBrake는 저희 테스트 제품군에 arm64 Linux 빌드가 없으므로 GB10의 해당 테스트 결과는 없습니다.

Dell Pro Max Micro 7-Zip 24.09 모든 스레드 성능 비교표. 총점: Dell Pro Max Micro 164, Dell Pro Precision 9 T2 285, Corsair FlexPrime V20C 200, Dell Pro Max with GB10 150, AMD Ryzen AI Halo 216

GB10과 비교했을 때, Micro는 모든 스레드를 사용한 7-Zip 실행에서 10%, 단일 스레드 실행에서는 13% 앞섰으며, LLVM 빌드 완료 시간은 173초로 175초와 동일했습니다. V20C는 136초 만에 빌드를 완료했습니다. 이 정도 크기의 시스템에서는 합리적인 결과이며, 이번 비교는 폼팩터의 성능을 보여줍니다. 동일한 코어 레이아웃을 가진 프로세서가 수랭식 타워 케이스에서 7-Zip 처리량은 2.9리터 수랭 케이스에 85W를 소비하는 285보다 22%, Blender 처리량은 32~36% 더 높습니다.

Halo에 탑재된 16코어 32스레드 Ryzen AI Max+ 395는 멀티스레드 작업에서도 Micro보다 우수한 성능을 보였습니다. 7-Zip 테스트에서 215.8 GIPS를 기록하며 32% 앞섰고, Blender 장면 테스트에서는 8~26% 더 빠른 속도를 보였습니다. SVT-AV1 인코딩에서는 194.1fps로 Micro의 147.9fps를 앞섰으며, LLVM 빌드 시간은 149초로 Micro의 173초보다 빨랐습니다. 하지만 단일 스레드 7-Zip 테스트에서는 Micro가 13%의 우위를 유지했습니다.

Dell Pro Max Micro Blender 4.5 CPU 성능 차트. 최고 사양: Dell Pro Max Micro 243, Dell Pro Precision 9 T2 401, Corsair FlexPrime V20C 330, Dell Pro Max (GB10 탑재, 결과 없음), AMD Ryzen AI Halo 285; 일반 사용자: Dell Pro Max Micro 162, Dell Pro Precision 9 T2 267, Corsair FlexPrime V20C 213, Dell Pro Max (GB10 탑재, 결과 없음), AMD Ryzen AI Halo 174; 일반 사용자: Dell Pro Max Micro 115, Dell Pro Precision 9 T2 187, Corsair FlexPrime V20C 153, Dell Pro Max (GB10 탑재, 결과 없음), AMD Ryzen AI Halo 144

T2는 타워형 케이스에 탑재된 24코어 48스레드 제온 프로세서답게 멀티스레드 성능을 예상대로 향상시켰습니다. 7-Zip 테스트에서 285.1 GIPS를 기록하며 Micro보다 74% 앞섰고, Blender 처리량은 63~65% 향상되었으며, LLVM 빌드는 173초가 걸린 Micro보다 106초 만에 완료했습니다. 코어별 속도는 반대로 Micro의 Core Ultra 9 285가 Xeon 658X보다 단일 스레드 7-Zip 테스트에서 18%, 단일 스레드 Stockfish 테스트에서 14% 앞섰으며, 단일 스레드 Python 테스트에서는 18~20% 더 빨랐습니다.

스톡피시, 프라임체이브, 그리고 파이썬

Test 델 프로 맥스 마이크로 (울트라 9 285, RTX PRO 4000 SFF 24GB) 델 프로 프리시전 9 T2 (제온 658X, RTX PRO 6000 Max-Q 96GB) Corsair FlexPrime V20C (Ultra 7 270K Plus, Arc Pro B70 32GB) Dell Pro Max GB10(128GB 통합) AMD 라이젠 AI 헤일로(라이젠 AI 맥스+ 395, 128GB 통합)
말린 대구, 한 가닥 (Mnps) 2.02 1.77 2.08 1.66 2.15
스톡피쉬, 모든 스레드(Mnps) 31.58 45.44 40.55 23.86 38.74
10^12까지의 소수체, 모든 스레드 (s, 값이 낮을수록 좋음) 8.72 7.51 6.48 9.16 6.29
10^11까지의 소수체, 스레드 1개 (s, 값이 낮을수록 좋음) 9.07 9.66 9.03 12.32 6.76
PyPerformance go (ms, 낮을수록 좋음) 57.8 72.1 56.0 85.5 69.1
PyPerformance nbody (ms, 낮을수록 좋음) 38.9 47.3 36.3 55.0 43.1

모든 스레드를 사용한 Stockfish 테스트에서 Micro는 31.58 Mnps를 기록했는데, 이는 T2의 45.44 Mnps, V20C의 40.55 Mnps, Halo의 38.74 Mnps보다 낮았지만 GB10보다는 32% 빠른 결과였습니다. 10^12까지의 primesieve 테스트는 Micro에서 8.72초 만에 완료되었는데, 이는 Halo의 7.51초, 6.48초, 9.16초, 6.29초보다 빠른 기록입니다. 두 Core Ultra 시스템 간의 단일 스레드 테스트 결과는 Stockfish에서 3% 이내의 차이를 보였고, primesieve에서는 9.07초와 9.03초로 동일한 결과를 나타냈습니다. 단일 스레드 Python 테스트는 V20C보다 3~7% 느렸지만 Arm 기반 GB10보다는 약 30% 빠른 속도로 완료되었습니다.

GROMACS 및 OpenBLAS

Test 델 프로 맥스 마이크로 (울트라 9 285, RTX PRO 4000 SFF 24GB) 델 프로 프리시전 9 T2 (제온 658X, RTX PRO 6000 Max-Q 96GB) Corsair FlexPrime V20C (Ultra 7 270K Plus, Arc Pro B70 32GB) Dell Pro Max GB10(128GB 통합) AMD 라이젠 AI 헤일로(라이젠 AI 맥스+ 395, 128GB 통합)
GROMACS benchMEM, 16개 코어 (ns/일) 52.68 62.66 67.23 27.81 72.39
GROMACS benchMEM, 모든 코어(ns/일) 55.52 81.56 77.77 34.61 70.95
OpenBLAS DGEMM, 모든 코어(GFLOPS) 791.6 2,318.9 1,100.0 418.0 1,610.3
OpenBLAS LU는 N=20000, 모든 코어(GFLOPS)를 해결합니다. 717.0 1,615.8 938.6 393.0 1,391.3
메모리 지연 시간, 4KiB 페이지(ns, 낮을수록 좋음) 129.0 143.8 105.2 123.8 162.2

GROMACS benchMEM은 16코어에서 52.68ns/일, 24코어 모두에서 55.52ns/일을 기록했는데, 이는 V20C보다 각각 22%와 29% 뒤처지고 GB10보다는 각각 89%와 60% 앞선 수치입니다. OpenBLAS DGEMM은 모든 코어에서 791.6GFLOPS를 달성했는데, 이는 V20C의 1,100.0GFLOPS, GB10의 418.0GFLOPS와 비교됩니다. AVX-512와 4개의 메모리 채널을 갖춘 T2의 Xeon 프로세서는 2,318.9GFLOPS를 기록했습니다. GROMACS는 이 섀시에서 가장 높은 발열을 보인 테스트였으며, 16코어에서 24코어로의 소폭 증가는 프로세서가 열 한계에 도달하여 작동하고 있음을 시사합니다. 4KiB 페이지의 메모리 지연 시간은 129.0ns로 측정되었으며, 이는 V20C의 105.2ns, GB10의 123.8ns와 비교됩니다.

Halo는 16코어 GROMACS 테스트에서 72.39ns/day로 그룹 내 최고 속도를 기록하며 Micro보다 37% 앞섰습니다. 32개 스레드 모두에서 70.95ns/day의 응답 속도를 보였는데, 이는 T2의 81.56ns/day와 V20C의 77.77ns/day에 이어 세 번째로 빠른 기록입니다. OpenBLAS DGEMM 테스트에서는 1,610.3GFLOPS의 성능을 달성하여 Micro의 약 두 배에 달하는 수치이며 T2에 이어 두 번째로 높은 기록입니다. 메모리 지연 시간은 162.2ns로 그룹 내에서 가장 높았습니다.

Dell Pro Max Micro GROMACS 2025.3 벤치마크 메모리 차트. 16코어: Dell Pro Max Micro 52.68, Dell Pro Precision 9 T2 62.66, Corsair FlexPrime V20C 67.23, Dell Pro Max with GB10 27.81, AMD Ryzen AI Halo 72.39; 모든 코어: Dell Pro Max Micro 55.52, Dell Pro Precision 9 T2 81.56, Corsair FlexPrime V20C 77.77, Dell Pro Max with GB10 34.61, AMD Ryzen AI Halo 70.95

서버 및 HPC 워크로드

이 결과는 Linux에서만 실행되는 당사의 벤치마크 도구 및 서버 제품군에서 얻은 것입니다. 이 도구들은 Micro를 컴파일, 압축, 웹 및 캐싱 요청 처리, 분석 쿼리 실행, CFD 사례 해결 등을 수행하는 일반적인 컴퓨팅 노드로 간주합니다. Micro, T2 및 V20C를 제외한 각 시스템은 서로 다른 Linux 배포판과 컴파일러를 사용하며, 이 세 시스템은 Ubuntu 26.04.1을 공유하여 가장 직접적인 비교가 가능합니다.

Phoronix Test Suite 및 y-cruncher (별도로 명시되지 않은 경우, 수치가 높을수록 좋습니다) 델 프로 맥스 마이크로 (울트라 9 285, RTX PRO 4000 SFF 24GB) 델 프로 프리시전 9 T2 (제온 658X, RTX PRO 6000 Max-Q 96GB) Corsair FlexPrime V20C (Ultra 7 270K Plus, Arc Pro B70 32GB) Dell Pro Max GB10(128GB 통합) AMD 라이젠 AI 헤일로(라이젠 AI 맥스+ 395, 128GB 통합)
리눅스 커널 컴파일 시간, allmodconfig (초, 낮을수록 좋음) 918 537 639 892 727
7-Zip 압축 등급, 모든 스레드(MIPS) 150,543 264,940 186,668 154,634 178,530
7-Zip 감압 등급, 모든 나사산(MIPS) 88,641 195,348 128,723 106,148 143,464
7-Zip 압축 등급, 단일 스레드(MIPS) 9,351 9,100 10,260 7,474 8,019
OpenSSL AES-256-GCM, 모든 스레드 (GB/s) 110.0 371.2 171.4 97.1 298.6
nginx, 1,000 연결(요청/초) 155,203 323,567 225,708 114,909 223,433
nginx, 4,000 연결(요청/초) 109,352 244,008 155,146 101,613 190,454
y-cruncher Pi, 1억 자리 (초, 숫자가 낮을수록 좋음) 30.10 8.51 17.54 실행되지 않음 10.46
y-cruncher Pi, 5억 자리 (초, 숫자가 낮을수록 좋음) 158.24 53.40 111.17 실행되지 않음 63.45
y-cruncher Pi, 10억 자리 (초, 숫자가 낮을수록 좋음) 342.87 119.21 244.44 실행되지 않음 135.18

Micro는 Linux 커널 컴파일에 918초가 걸렸는데, 이는 GB10(892초)보다 3% 느린 기록이며, Halo(727초)와 V20C(639초)보다는 훨씬 뒤처지는 수치입니다. 모든 스레드를 사용한 7-Zip 압축 테스트에서는 GB10과 3% 이내의 차이를 보였고, Micro는 단일 스레드 테스트에서 GB10보다 25%, OpenSSL AES-256-GCM 테스트에서 13%, 1,000개 연결을 사용한 nginx 테스트에서 35% 더 빠른 성능을 보였습니다. V20C와 Halo는 모든 스레드 테스트에서 Micro보다 빨랐으며, T2는 모든 스레드 테스트에서 537초 만에 커널을 컴파일하고 OpenSSL을 371.2GB/s의 속도로 실행하여 Micro의 110.0GB/s를 크게 앞섰습니다.

Dell Pro Max Micro Timed Linux 커널 컴파일 차트. allmodconfig: Dell Pro Max Micro 918, Dell Pro Precision 9 T2 537, Corsair FlexPrime V20C 639, Dell Pro Max with GB10 892, AMD Ryzen AI Halo 727

y-cruncher 테스트에서 Micro는 파이(π)의 50억 자리 숫자를 계산하는 데 158.24초가 걸렸는데, 이는 V20C의 111.17초, Halo의 63.45초보다 빠른 기록입니다. 100억 자리 숫자 계산에는 342.87초가 걸렸으며, 이는 V20C의 244.44초와 Halo의 135.18초보다 빠른 속도입니다. 이 테스트는 메모리 대역폭과 벡터 폭에 민감한데, Halo는 AVX-512 코덱과 더 넓은 메모리 버스를 제공하는 반면, Micro는 DDR5-6400 메모리 두 채널을 사용합니다. T2는 53.40초와 119.21초로 가장 빠른 성능을 보였으며, GB10은 y-cruncher 테스트를 실행하지 않았습니다.

Dell Pro Max Micro y-cruncher 0.8.7 파이 차트. 10억 자리: Dell Pro Max Micro 30.1, Dell Pro Precision 9 T2 8.51, Corsair FlexPrime V20C 17.54, Dell Pro Max (GB10 탑재) 결과 없음, AMD Ryzen AI Halo 10.46; 1억 자리: Dell Pro Max Micro 158, Dell Pro Precision 9 T2 53.4, Corsair FlexPrime V20C 111, Dell Pro Max (GB10 탑재) 결과 없음, AMD Ryzen AI Halo 63.45; 5억 자리: Dell Pro Max Micro 343, Dell Pro Precision 9 T2 119, Corsair FlexPrime V20C 244, Dell Pro Max (GB10 탑재) 결과 없음, AMD Ryzen AI Halo 135
서버 제품군 (별도 표기가 없는 한, 등급이 높을수록 좋습니다) 델 프로 맥스 마이크로 (울트라 9 285, RTX PRO 4000 SFF 24GB) 델 프로 프리시전 9 T2 (제온 658X, RTX PRO 6000 Max-Q 96GB) Corsair FlexPrime V20C (Ultra 7 270K Plus, Arc Pro B70 32GB) Dell Pro Max GB10(128GB 통합) AMD 라이젠 AI 헤일로(라이젠 AI 맥스+ 395, 128GB 통합)
ClickBench 핫런, 43개 쿼리 (초, 낮을수록 좋음) 8.11 4.80 7.39 6.67 5.82
ClickBench 콜드런, 43개 쿼리 (초, 수치가 낮을수록 좋음) 10.80 6.92 10.41 11.01 9.30
OpenFOAM 드라이버, 3M 셀, 해결 시간(초, 낮을수록 좋음) 2,320 826 1,636 1,222 1,148
스트림 트라이어드(MB/s) 65,802 141,832 68,252 121,313 114,007
Valkey 캐시, SET(요청/초) 1,389,084 914,832 1,852,556 810,246 1,211,538
Valkey 캐시, GET (초당 요청 수) 1,398,409 991,576 1,866,031 884,644 1,271,481

메모리 대역폭은 서버 스위트 테스트 결과의 대부분을 설명합니다. STREAM Triad는 Micro의 두 개의 DDR5 채널에서 65.8GB/s의 대역폭을 측정했는데, 이는 V20C의 68.3GB/s와 비슷하고 GB10과 Halo의 121.3GB/s 및 114.0GB/s의 절반 수준이며, T2는 141.8GB/s를 기록했습니다. 300만 개의 셀을 사용하는 OpenFOAM drivAer 케이스 테스트에서 Micro는 2,320초가 걸린 반면 T2는 826초, V20C는 1,636초, GB10은 1,222초, Halo는 1,148초가 걸렸습니다. ClickBench 핫런 테스트에서는 Micro가 8.11초, T2는 4.80초, V20C는 6.67초, Halo는 5.82초가 걸렸습니다.

Dell Pro Max Micro OpenFOAM 13 드라이버, 3M 셀 차트. 해결 시간: Dell Pro Max Micro 2,320, Dell Pro Precision 9 T2 826, Corsair FlexPrime V20C 1,636, Dell Pro Max with GB10 1,222, AMD Ryzen AI Halo 1,148

Valkey는 코어당 속도를 중요시하는데, Micro는 캐시 프로파일에서 초당 1.39만 개의 SET 요청과 1.40만 개의 GET 요청을 처리했습니다. 이는 V20C보다 25% 낮지만, Halo의 1.21만 개와 1.27만 개보다는 각각 15%와 10% 높고, GB10의 810K와 885K보다는 각각 71%와 58% 높으며, T2의 Xeon 915K와 992K보다는 각각 52%와 41% 높은 수치입니다. 모델 서버 외에 캐시나 소규모 데이터베이스를 함께 운영하는 워크스테이션은 Core Ultra의 코어당 속도 덕분에 이점을 얻을 수 있습니다.

Dell Pro Max Micro의 ClickBench 벤치마크 결과(ClickHouse 26.8, 43개 쿼리). 핫런: Dell Pro Max Micro 8.11, Dell Pro Precision 9 T2 4.8, Corsair FlexPrime V20C 7.39, Dell Pro Max (GB10 탑재) 6.67, AMD Ryzen AI Halo 5.82; 콜드런: Dell Pro Max Micro 10.8, Dell Pro Precision 9 T2 6.92, Corsair FlexPrime V20C 10.41, Dell Pro Max (GB10 탑재) 11.01, AMD Ryzen AI Halo 9.3

GPU 인코딩

GPU 인코딩의 경우, FFmpeg 8.1과 NVENC를 사용하여 RTX PRO 4000 SFF에서 4K Big Buck Bunny 클립을 HEVC 코덱으로 123fps로 인코딩했습니다. T2와 GB10은 동일한 인코더를 사용하여 124fps와 134fps를 기록했고, V20C는 Intel Quick Sync를 통해 154fps, Halo는 VAAPI를 통해 204fps를 달성했습니다. 각 제품은 인코더 설정이 다르므로 이 두 수치는 순위라기보다는 참고용으로 봐야 합니다. 테스트에 포함된 최신 FFmpeg 빌드는 NVENC를 위해 NVIDIA 드라이버 610.00 이상을 요구하며, 여기에 설치된 595.99.02 드라이버에서는 실행되지 않았습니다.

부하 시 열 관리

델 프로 맥스 마이크로 CPU 최대치(섭씨) CPU 평균(C) GPU 최대치(C) GPU 평균(C)
7 - 우편 번호 101 78.7 32 31.7
믹서기 98 82.3 35 33.7
LLVM 빌드 100 79.4 33 33.0
오픈블라스 104 83.5 32 32.0
GROMACS 105 89.3 33 32.6
코딩 에이전트 83 70.0 69 62.3
LLM 과정 제공 76 73.5 73 67.2
대규모 RAG 97 79.6 73 71.7
이미지 생성 85 72.0 72 68.5

285는 모든 코어 테스트에서 열 한계에 거의 도달했습니다. CPU 패키지 온도는 Blender에서 98°C, LLVM 빌드에서 100°C, 7-Zip에서 101°C, OpenBLAS에서 104°C, GROMACS에서 105°C를 기록했으며, 테스트 평균 온도는 79°C에서 89°C 사이였습니다. 이는 2.9리터 섀시에서 65W 데스크톱 칩을 85W로 작동시킬 때 발생하는 비용이며, CPU 테스트 결과에서 타워형 PC와의 멀티스레드 성능 차이와도 일치합니다. 테스트 사이 유휴 상태에서 프로세서 온도는 약 40°C였습니다.

덮개를 벗긴 델 프로 맥스 마이크로의 전면 모습으로, CPU 블로어와 전면 포트가 보입니다.

그래픽 카드는 훨씬 낮은 온도로 작동했습니다. RTX PRO 4000 SFF는 유휴 상태에서 32°C를 유지했고, LLM 서빙 및 백만 건의 패스를 처리하는 RAG 인제스트 중 최고 73°C를 기록했으며, 57분간의 테스트 동안 평균 71.7°C를 유지했습니다. 이미지 생성 중에는 72°C, 코딩 에이전트 중에는 69°C를 유지했습니다. 70W 그래픽 카드는 CPU가 열 여유가 부족한 상황에서도 이 섀시에서 충분한 열 여유를 확보했으며, SSD는 74분간의 스토리지 테스트 내내 63°C 이하를 유지했습니다.

스토리지 성능

fio, 25GiB 용량 (용량이 클수록 좋음) 델 프로 맥스 마이크로 (울트라 9 285, RTX PRO 4000 SFF 24GB) 델 프로 프리시전 9 T2 (제온 658X, RTX PRO 6000 Max-Q 96GB) Corsair FlexPrime V20C (Ultra 7 270K Plus, Arc Pro B70 32GB) Dell Pro Max GB10(128GB 통합) AMD 라이젠 AI 헤일로(라이젠 AI 맥스+ 395, 128GB 통합)
순차 읽기 속도 128K(MB/s) 9,433 20,914 * 7,311 6,947 7,232
순차 쓰기 속도 128K(MB/s) 6,766 12,564 6,082 6,310 1,554 *
랜덤 읽기 4K, 최대 (IOPS) 2,084,437 3,214,066 1,184,970 932,210 1,197,992
랜덤 쓰기 4K, 최대 (IOPS) 1,028,079 * 2,353,766 184,231 997,758 121,285 *
랜덤 읽기 4K, QD32 x 4 작업(IOPS) 1,386,889 1,394,262 1,184,970 754,896 1,001,941
랜덤 쓰기 4K, QD32 x 4 작업(IOPS) 1,028,079 * 1,175,233 178,312 946,264 121,285 *

*테스트 도구 모음에서 실행 간 편차가 있는 것으로 표시되었습니다.

연구실의 Ubuntu 설치는 1TB Sandisk SN8050S 드라이브 두 개 중 하나에 설치되어 있으며, PCIe Gen5 x4로 연결되어 있습니다. 따라서 이 결과는 단일 드라이브에 대한 것이며 Dell의 RAID 0 구성은 제외합니다. 읽기 속도는 9,433MB/s, 쓰기 속도는 6,766MB/s로, V20C 드라이브보다 읽기 속도가 29%, Halo 드라이브보다 30%, GB10의 Gen4 드라이브보다 36% 높습니다. T2의 20,914MB/s는 Gen5 드라이브 스트라이프 어레이에서 나온 결과입니다. 최대 4K 랜덤 읽기 IOPS는 2.08만 IOPS에 달했으며, T2는 3.21만 IOPS, V20C는 1.18만 IOPS, Halo는 1.20만 IOPS, GB10은 932K IOPS를 기록했습니다.

Dell Pro Max Micro fio 순차 128K, 25GiB 차트. 읽기: Dell Pro Max Micro 9,433, Dell Pro Precision 9 T2 20,914, Corsair FlexPrime V20C 7,311, GB10 탑재 Dell Pro Max 6,947, AMD Ryzen AI Halo 7,232; 쓰기: Dell Pro Max Micro 6,766, Dell Pro Precision 9 T2 12,564, Corsair FlexPrime V20C 6,082, GB10 탑재 Dell Pro Max 6,310, AMD Ryzen AI Halo 1,554

랜덤 쓰기 성능은 최고 1.03만 IOPS를 기록했는데, 이는 GB10의 998K와 비슷한 수준이며, T2의 2.35만 IOPS의 절반에도 못 미치고, V20C의 184K와 Halo의 121K보다는 5배 이상 높은 수치입니다. 다만, 테스트 스위트는 재실행 후 Micro와 Halo의 결과에 대해 실행 간 편차가 있음을 지적했습니다. 드라이브 온도는 방열판 아래에서 최고 63°C를 기록했습니다. 이미 1TB 드라이브가 하나 더 설치되어 있으므로, 구매자는 스트라이프 볼륨을 스크래치 공간으로 사용하거나 드라이브를 부팅 디스크와 모델 라이브러리로 분할하여 사용할 수 있으며, Dell은 두 슬롯에 걸쳐 최대 8TB까지 지원한다고 명시하고 있습니다.

Dell Pro Max Micro fio 랜덤 4K 피크, 25GiB 차트. 읽기: Dell Pro Max Micro 2,084,437, Dell Pro Precision 9 T2 3,214,066, Corsair FlexPrime V20C 1,184,970, Dell Pro Max with GB10 932,210, AMD Ryzen AI Halo 1,197,992; 쓰기: Dell Pro Max Micro 1,028,079, Dell Pro Precision 9 T2 2,353,766, Corsair FlexPrime V20C 184,231, Dell Pro Max with GB10 997,758, AMD Ryzen AI Halo 121,285

맺음말

델 프로 맥스 마이크로는 2.9리터 크기에 CUDA 워크스테이션을 탑재했으며, CUDA 관련 소프트웨어가 사용되는 모든 곳에서 그 성능이 입증됩니다. Ollama 처리량 및 stable-diffusion.cpp 이미지 생성 테스트에서 델 제품군 외의 모든 시스템을 능가했으며, RAG 패시지를 GB10보다 27% 빠르게 처리하고, FLUX.2 이미지를 Vulkan 환경에서 32GB Arc Pro B70보다 2.7배, ROCm 환경에서 Halo보다 3배 빠른 속도로 생성했습니다. 탑재된 Gen5 드라이브는 테스트 그룹에서 가장 빠른 단일 SSD였으며, 그래픽 카드 온도는 73°C를 넘지 않았습니다.

델 프로 맥스 마이크로 노트북이 280W 외장 전원 어댑터 옆에 똑바로 서 있다.

한계는 24GB 메모리 용량 제한과 발열 문제입니다. 4비트 양자화 방식의 27B 모델과 Qwen-Image 20B는 용량이 부족했고, 285는 모든 코어 테스트에서 98°C에서 105°C 사이의 온도를 기록했습니다. 동일한 코어 구성을 가진 데스크탑 PC에 비해 압축, 렌더링, 인코딩 작업에서 17~26% 정도 뒤처졌습니다. 반면, 동일한 데스크탑 PC는 리눅스 커널 컴파일 시간이 30% 더 짧았고, 16코어 Halo는 7-Zip 실행 속도가 32% 더 빨랐습니다. 128GB 통합 메모리 데스크탑은 OpenFOAM 케이스를 약 절반의 시간 만에 해결했으며, 훨씬 더 큰 모델을 처리할 수 있었습니다.

델 제품군 내에서 Pro Precision 9 T2는 차세대 제품의 성능을 명확히 보여줍니다. LLM 서비스 속도는 약 3배, 이미지 생성 속도는 3.5배, 7-Zip 처리량은 74% 향상되었으며, Qwen3.8 27B, Qwen-Image 20B, gpt-oss 120B를 탑재한 96GB 메모리 카드를 제공합니다. 이 모든 기능은 Micro에는 탑재할 수 없습니다. Micro는 더 빠른 개별 코어, 타워형 제품보다 훨씬 작은 크기, 그리고 디스플레이 뒤나 책상 아래에 워크스테이션을 설치할 수 있는 다양한 장착 옵션을 통해 이러한 성능 향상에 대응합니다.

이 구성에서 또 다른 중요한 요소는 가격입니다. Dell.com에서 구성된 제품의 가격은 11,999달러로, Corsair의 FlexPrime V20C(3,999.99달러)와 Micro Center의 AMD Ryzen AI Halo(7,521달러)보다 약 3배 높습니다. 또한 Dell.com에서 판매하는 128GB Pro Max(GB10 및 1TB SSD 포함) 모델의 가격보다도 약 1.6배 비쌉니다. 이 가격에는 ISV 인증 RTX PRO 그래픽 카드, vPro Enterprise, ECC 메모리 옵션, 3년간의 온사이트 ProSupport를 포함한 기업용 패키지가 포함되어 있습니다. 최소한의 공간에 관리형 인증 워크스테이션이 필요한 기업에 적합한 구성이며, 가격 대비 성능을 중시하는 팀은 다른 옵션을 고려해야 합니다.

StorageReview 2026년 최고의 미니 워크스테이션 (외장 그래픽 카드 탑재)

순위표: 델 프로 맥스 마이크로는 최고의 데스크탑 워크스테이션 순위표에서 외장 그래픽 카드를 탑재한 최고의 미니 워크스테이션으로 선정되었습니다.

델 프로맥스 마이크로 제품 페이지

StorageReview에 참여

뉴스레터 | 유튜브 | 팟캐스트 ( 아이튠즈 / 스포티파이) | 인스타그램 | 트위터 | 틱톡 | RSS 피드

브라이언 빌러

Brian은 오하이오주 신시내티에 있으며 StorageReview.com의 수석 분석가이자 사장입니다.