Der Dell Pro Max Micro (FCM2250) vereint einen 24-Kern Intel Core Ultra 9 285, eine 24 GB NVIDIA RTX PRO 4000 Blackwell SFF Edition und 96 GB DDR5-6400-Arbeitsspeicher in einem Gehäuse mit einem Volumen von ca. 2.9 Litern (laut Dell). Er ist die kleinste Workstation der Pro Max Desktop-Reihe und bietet die vPro Enterprise-Management- und Sicherheitsfunktionen der Dell Business-Desktops. Wir haben ihn unter Linux gegen den Dell Pro Precision 9 T2 Tower, den Corsair FlexPrime V20C mit seiner 32 GB Intel Arc Pro B70 und zwei Desktop-PCs mit insgesamt 128 GB Arbeitsspeicher getestet, um die Leistung einer dedizierten RTX PRO-Grafikkarte in dieser kompakten Bauweise für lokale KI-Anwendungen zu ermitteln.
Wichtige Erkenntnisse
- CUDA positionierte den Micro hinsichtlich Ollama-Durchsatz und Bildgenerierung vor allen Systemen außerhalb der Dell-Produktlinie. Es verarbeitete 268.2 RAG-Passagen pro Sekunde gegenüber 211.4 beim Dell Pro Max mit GB10, 95.5 beim AMD Ryzen AI Halo und 87.5 beim Corsair FlexPrime V20C und erzeugte 11.46 FLUX.2-Klein-Bilder pro Minute gegenüber 9.96, 3.86 und 4.26.
- 24 GB Grafikspeicher setzen die Obergrenze für dieses Modell. Qwen3.8 27B benötigt 30 GB für die Serverbereitstellung und Qwen-Image 20B benötigt 28 GB, daher wurde keines der beiden auf der RTX PRO 4000 SFF geladen, während die 32 GB Arc Pro B70, die beiden Unified-Memory-Systeme und die T2 beide ausführen konnten.
- Das Dell Pro Precision 9 T2 zeigt, was die nächste Stufe der Produktpalette hinzufügt. Mit einer 96GB RTX PRO 6000 Max-Q erreichte die T2 bei Ministral 3 8B eine Token-Rate von 167.3 pro Sekunde für eine Anfrage, verglichen mit 52.0 auf der Micro, 63.7 auf der V20C, 37.0 auf der GB10 und 30.6 auf der Halo. Außerdem konnte sie das 27B-Modell ausführen, das die Micro nicht laden konnte.
- Die 24-Kern-CPU wird in diesem Gehäuse sehr heiß und wirkt wie ein Tower-Gehäuse. Der Core Ultra 9 285 erreichte in allen All-Core-Tests Spitzentemperaturen zwischen 98°C und 105°C, erzielte in 7-Zip 164.0 GIPS gegenüber 199.6 beim V20C und kompilierte den Linux-Kernel in 918 Sekunden gegenüber 639 Sekunden.
- Die Gen5 SSD ist das schnellste Einzellaufwerk im Vergleich. Eine 1-TB-Sandisk SN8050S erreichte eine Lesegeschwindigkeit von 9,433 MB/s, einen Spitzenwert von 2.08 Millionen IOPS beim zufälligen Lesen von 4K und brachte ein 12.8-GB-Modell in 5.11 Sekunden zum ersten Token.
- Unsere Testkonfiguration wird auf Dell.com mit 11,999 US-Dollar angeboten. Dell bietet das Pro Max Micro ab 1,449 US-Dollar an, und unser Testgerät kostet das Dreifache des 3,999.99 US-Dollar teuren Corsair FlexPrime V20C und AMD Ryzen AI Halo und etwa das 1.6-fache des 7,521 US-Dollar teuren Dell Pro Max mit GB10.
Wo das Pro Max Micro positioniert ist
Dell positioniert den Pro Max Micro als seine ultrakompakte Business-Workstation – das kleinste Modell der Pro Max-Desktop-Reihe unterhalb der SFF- und Tower-Varianten. Dell hat ihn für Unternehmen entwickelt, die Workstation-Leistung, dedizierte professionelle Grafikkarte und ISV-Zertifizierung auf engstem Raum benötigen. Er lässt sich auf einem All-in-One-Ständer, einem Regal hinter einem Monitor, an der Wand oder unter dem Schreibtisch montieren. Die Plattform unterstützt Core Ultra 5-, 7- und 9-Prozessoren, die Dell mit einer verbesserten Kühllösung auf 85 W betreibt – über der Nennleistung der Chips von 65 W.
Die Grafikoptionen erreichen ihren Höhepunkt mit der in unserem Testgerät verbauten Karte, der 70-Watt-RTX PRO 4000 Blackwell SFF Edition mit 24 GB GDDR7-ECC-Speicher. Der Arbeitsspeicher ist, wie getestet, auf 96 GB DDR5-6400 mit zwei CSODIMMs erweiterbar oder auf 64 GB mit ECC-Modulen und Dells Reliable Memory Technology Pro, die fehlerhafte Speicherbereiche im BIOS erkennt. Das System unterstützt bis zu 8 TB Speicherplatz über zwei M.2-2280-Steckplätze (einen PCIe Gen5 und einen Gen4). Unser Testgerät enthält zwei 1-TB-Gen5-Festplatten mit Selbstverschlüsselung, die von Dell als RAID-0-Volume konfiguriert wurden.
Über dem Micro-Modell bieten Dells Workstation-Tower vollwertige Grafikkarten und mehr Speicherkanäle. Der Dell Pro Precision 9 T2 in diesem Vergleich ist der kleinste Tower der Xeon-basierten Pro Precision 9-Reihe. Er ist mit dem 24-Kern-Xeon 658X, einer 96 GB RTX PRO 6000 Blackwell Max-Q und vier DDR5-6400-Speicherkanälen ausgestattet. Der darüber liegende Dell Pro Precision 9 T4 bietet je nach Grafikkarte Platz für bis zu vier GPUs. Der Vergleich mit dem T2 verdeutlicht den deutlichen Leistungsunterschied zwischen Dells kleinster Workstation und einem Tower mit nur einer GPU.
Dell bietet den Pro Max Micro ab 1,449 US-Dollar an, die von uns getestete Konfiguration kostet auf Dell.com 11,999 US-Dollar pro Gerät. Dieser Preis beinhaltet den Core Ultra 9 285, die RTX PRO 4000 SFF, 96 GB Arbeitsspeicher, zwei Gen5 SSDs, ein 5GbE-Modul, Wi-Fi 7 und drei Jahre ProSupport mit Vor-Ort-Service anstelle der einjährigen Basisgarantie. Dell vertreibt die meisten dieser Systeme über Account-Teams und Partner, wobei Mengenrabatte gelten.
Aufbau und Design
Das Gehäuse besteht aus schwarzem Kunstharz und misst 206 x 79.3 x 178 mm (8.11 x 3.12 x 7.00 Zoll). Das Gewicht liegt je nach Konfiguration zwischen 2.34 kg und 2.54 kg. Laut Dell wurde das Design von der Vorgängergeneration übernommen, sodass vorhandene Halterungen und Zubehör für Flottenkunden kompatibel sind. Die Stromversorgung erfolgt über ein externes 280-W-Netzteil mit 7.4-mm-Hohlstecker. Das System besteht zu 46.4 Prozent aus recyceltem Kunststoff und ist ENERGY STAR-zertifiziert sowie EPEAT Gold-registriert mit Climate+.
Die Vorderseite verfügt über einen USB-C-Anschluss (20 Gbit/s), zwei USB-A-Anschlüsse (10 Gbit/s, einer davon mit PowerShare) und eine Kopfhörerbuchse. Auf der Rückseite befinden sich ein USB-C-Anschluss (10 Gbit/s), zwei USB-A-Anschlüsse (10 Gbit/s und zwei mit 5 Gbit/s), drei DisplayPort-1.4a-Ausgänge der integrierten Grafik und ein RJ45-Anschluss (1 Gbit/s). Die RTX PRO 4000 SFF bietet zusätzlich vier Mini-DisplayPort-Ausgänge, wodurch sich die Gesamtzahl der Display-Anschlüsse auf sieben erhöht. Dell legt außerdem vier Adapter auf Standard-DisplayPort bei.
Ein modularer Anschluss an der Rückseite bietet neun Optionen; unser Testgerät ist mit einem 5-GbE-LAN-Modul ausgestattet. Die weiteren Optionen sind VGA, HDMI 2.1, DisplayPort 2.1, seriell mit PS/2, USB Typ-C mit DisplayPort Alt Mode, zwei USB Typ-A-Anschlüsse, Thunderbolt 4 mit USB Typ-C und 5G-Glasfaser. Dell gibt außerdem 2.5-GbE- und Dual-Port-10-GbE-Netzwerk für die Plattform an. Unser Gerät verfügt über Intel Wi-Fi 7 BE200 mit Bluetooth 5.4.
Im Inneren des Dell-Gehäuses befinden sich zwei PCIe-Gen4-Steckplätze mit x8-Anschlüssen, einer davon für die Grafikkarte (x8) und einer für die Grafikkarte (x1), sowie ein M.2-2230-Steckplatz für die WLAN-Karte. Beide SSDs sind unter einem gemeinsamen Kühlkörper mit Wärmeleitpads untergebracht, der Arbeitsspeicher ist in zwei CSODIMM-Steckplätzen installiert. Das Gehäuse lässt sich weitgehend werkzeuglos montieren, sodass Arbeitsspeicher und Speicher vom Benutzer selbst ausgetauscht werden können.
Im Labor ließ sich die Abdeckung nach dem Entfernen einer Schraube abnehmen. Anschließend konnte die CPU-Lüfterabdeckung mithilfe von Fingerclips gelöst werden, wodurch die beiden Speicherslots freigelegt wurden. Die PCIe-Riserkarte ließ sich nach dem Entfernen von zwei Schrauben herausnehmen und ermöglichte so den Zugriff auf beide Erweiterungssteckplätze. Unser Labor empfand das System insgesamt als wartungsfreundlich.
Sicherheit und Verwaltung entsprechen dem Dell-Standard für kommerzielle Desktop-PCs und umfassen SafeBIOS zur externen Firmware-Verifizierung, SafeID-Anmeldeinformationen, Secured Component Verification, selbstverschlüsselnde Opal 2.0-Laufwerke, einen Kensington-Steckplatz und einen Vorhängeschlossring. Das System ist mit Intel vPro Enterprise konfiguriert und mit der Dell Client Command Suite kompatibel. Dell liefert es standardmäßig mit Windows 11 Pro aus; im Testlabor wurde dieses Image durch Ubuntu ersetzt.
Unser Testgerät wurde mit der kabelgebundenen Dell Pro 5 Fingerprint ESS Mouse (MS526C) geliefert, einem 44.99 US-Dollar teuren Zubehör mit Fingerabdruckleser für die Ein-Tasten-Anmeldung über Windows Hello. Die Maus wird über USB Typ-A mit einem 5.91 m langen Kabel angeschlossen, bietet standardmäßig eine Auflösung von 1,600 dpi (bis zu 6,000 dpi) und wiegt 2.57 g. Dell gibt die Unterstützung für Windows 10 und Windows 11 an, daher konnten wir den Leser in unseren Linux-Tests nicht verwenden. Generell ist er aber eine sinnvolle Ergänzung für Geräte wie dieses, die möglicherweise an der Wand montiert oder anderweitig schwer zugänglich sind. Eine kabellose Version dieser Maus wäre in solchen Fällen noch praktischer.
Dell Pro Max Micro Spezifikationen
| Normen | Dell Pro Max Micro |
|---|---|
| Plattform | |
| Modell | Dell Pro Max Micro (FCM2250) |
| Prozessor | Intel Core Ultra 9 285, 24 Kerne (8 P-Kerne, 16 E-Kerne), 24 Threads, bis zu 5.6 GHz 36 MB Cache, dedizierte NPU 65 W, Betrieb mit 85 W (Dell) |
| Grafiken | NVIDIA RTX PRO 4000 Blackwell SFF Edition, 70 W 24 GB GDDR7-ECC |
| Memory | 96 GB (2 x 48 GB) DDR5-6400 CSODIMM, non-ECC Bis zu 64 GB DDR5 ECC optional |
| Lagerung | 2x 1 TB M.2 2280 PCIe Gen5 SED, RAID 0 (wie ausgeliefert) Sandisk SN8050S im Test Bis zu 8 TB verteilt auf zwei M.2-Steckplätze (einer Gen5, einer Gen4) |
| Expansion | 2x PCIe Gen4 x8 Steckplätze (verdrahtet x8 und x1) 1x M.2 2230 (drahtlos) |
| Betriebssystem | Windows 11 Pro im Auslieferungszustand Ubuntu 26.04.1 LTS (getestet) |
| Konnektivität | |
| Frontanschlüsse | 1x USB Typ-C 20 Gbit/s 2x USB Typ-A 10 Gbit/s (einer mit PowerShare) 1x Headset-Buchse |
| Anschlüsse an der Rückseite | 1x USB Typ-C 10 Gbit/s 2x USB Typ-A 10 Gbit/s 2x USB Typ-A 5 Gbit/s 1x RJ45 1GbE 1x optionaler Modulanschluss (5GbE, wie getestet) |
| Ausgaben anzeigen | 4x Mini-DisplayPort (RTX PRO 4000 SFF) 3x DisplayPort 1.4a (integriert) |
| Wireless | Intel Wi-Fi 7 BE200 (2×2), Bluetooth 5.4 |
| Audio | Interner Lautsprecher, Realtek ALC3204 Codec Front-Headset-Kombianschluss |
| Sicherheit und Management | |
| Sicherheit | Dell SafeBIOS, SafeID, Sichere Komponentenverifizierung Opal 2.0 SED, Kensington-Schlitz, Vorhängeschlossring |
| Verwaltung | Intel vPro Enterprise Dell Client Command Suite |
| Physische und unterstützende Funktionen | |
| Abmessungen (H x B x T) | 206 x 79.3 x 178 mm (8.11 x 3.12 x 7.00 Zoll), ca. 2.9 l |
| Gewicht | 2.34 kg bis 2.54 kg (5.15 lb bis 5.59 lb) |
| Tuning | 280W Netzteil |
| Garantie | 3 Jahre ProSupport mit Vor-Ort-Service gemäß Konfiguration 1 Jahr Basis |
| Preis | 1,449 USD Basis 11,999 US-Dollar (Dell.com) |
Testaufbau und Methodik
Dell liefert das Pro Max Micro mit Windows 11 Pro aus. Da wir High-End-Workstations unter Linux mit einem aktuellen Kernel testen, installierte unser Testlabor Ubuntu 26.04.1 LTS mit Kernel 7.0 auf einer der beiden 1-TB-SSDs. Daher ist das werkseitig konfigurierte RAID-0-Volume nicht in den Ergebnissen enthalten. Das System lief mit BIOS-Version 1.19.1 im Standard-Energiesparmodus und dem NVIDIA-Treiber 595.99.02. Die Testsuite ermittelte 23.9 GB nutzbaren GPU-Speicher auf der RTX PRO 4000 SFF.
Die Ergebnisse stammen aus drei internen Testreihen, beginnend mit sr-client_linux 0.1, der Linux-Version unserer Client-Suite, die lokale KI, Content-Erstellung und Speicherung abdeckt. Jeder Wert stellt den Median mehrerer Durchläufe dar. Unsere Benchmark-Umgebung umfasst die Workloads der Phoronix Test Suite und y-cruncher, während unsere Server-Suite ClickBench, OpenFOAM, STREAM und Valkey ausführt. Die Linux-Version des MLPerf-Clients enthält ausschließlich Intel OpenVINO-Konfigurationen, daher liegen keine Ergebnisse für die NVIDIA-Karte vor, und unser Feinabstimmungstest war nicht Teil dieser Testreihe.
Der Vergleich beginnt mit Produkten aus dem Dell-Portfolio und umfasst drei weitere Möglichkeiten, lokale KI-Hardware zu erwerben. Der Pro Precision 9 T2 ist ein Tower-PC mit dem 24-Kern-Prozessor Xeon 658X, einer 96 GB RTX PRO 6000 Blackwell Max-Q und 128 GB DDR5-6400-Arbeitsspeicher. Der Corsair FlexPrime V20C ist ein Micro-ATX-Tower-PC mit dem 24-Kern-Prozessor Core Ultra 7 270K Plus, einer 32 GB Intel Arc Pro B70 SSD und 64 GB DDR5-6400-Arbeitsspeicher. Der Dell Pro Max mit GB10 nutzt NVIDIAs 20-Kern-GB10-Prozessor mit 128 GB unified Memory auf NVIDIAs Ubuntu 24.04-Image, und der AMD Ryzen AI Halo verwendet den 16-Kern-Prozessor Ryzen AI Max+ 395 mit 128 GB unified LPDDR5X-Arbeitsspeicher auf AMDs Linux-Entwickler-Image.
Das Halo-System nutzte sr-client_linux 0.1, Harness v3.6 und die Server Suite r5.28 auf dem Entwickler-Image von AMD. Das GB10-System verwendete ältere Versionen des Harness und der Server Suite mit denselben Anwendungsversionen. Die drei Betriebssysteme verwenden unterschiedliche Compiler, was sich auf Quellcode-basierte Tests wie die Kernel-Kompilierung auswirkt. Micro, T2 und V20C nutzen Ubuntu 26.04.1 und bilden die engste Gruppe.
Die Softwarepfade unterscheiden sich je nach GPU-Hersteller und beeinflussen die KI-Ergebnisse. Micro, T2 und GB10 nutzten CUDA in llama.cpp, Ollama und stable-diffusion.cpp. Halo verwendete in allen drei Dateien AMDs ROCm. Auf der V20C lief llama.cpp mit dem SYCL-Backend, während Ollama und stable-diffusion.cpp über Vulkan ausgeführt wurden, da Ollamas nativer Pfad keine Teile des Modells auf der Arc-Karte platzierte. Dieser Unterschied erklärt einen Großteil des Vorsprungs von Micro in den nachfolgenden Ollama- und Bildtests.
| Konfiguration | CPU | Memory | GPU | Bootlaufwerk | Betriebssystem |
|---|---|---|---|---|---|
| Dell Pro Max Micro (FCM2250) | Core Ultra 9 285, 24 Kerne | 96 GB DDR5-6400 (2x 48 GB) | NVIDIA RTX PRO 4000 Blackwell SFF, 23.9 GB nutzbar | 1 TB Sandisk SN8050S, PCIe Gen5 | Ubuntu 26.04.1 LTS, Kernel 7.0 |
| Dell Pro Precision 9 T2 (PW9T2260) | Xeon 658X, 24 Kerne | 128 GB DDR5-6400 (4x 32 GB) | NVIDIA RTX PRO 6000 Blackwell Max-Q, 95.6 GB nutzbar | Samsung PM9E1 Gen5, 2-TB-Festplatten im Striping-Verbund | Ubuntu 26.04.1 LTS, Kernel 7.0 |
| Corsair FlexPrime V20C | Core Ultra 7 270K Plus, 24 Kerne | 64 GB DDR5-6400 (4x 16 GB) | Intel Arc Pro B70, 31.9 GB nutzbar | 1 TB XPG MARS 970 PLUS, PCIe Gen5 | Ubuntu 26.04.1 LTS, Kernel 7.0 |
| Dell Pro Max mit GB10 (FCM1253) | NVIDIA GB10, 20 Kerne | 128 GB LPDDR5X-8533, einheitlich | NVIDIA GB10, 121.6 GB nutzbar | 4 TB PCIe Gen4 | Ubuntu 24.04.5 LTS, NVIDIA Kernel 7.0 |
| AMD Ryzen AI Halo | Ryzen AI Max+ 395, 16 Kerne | 128 GB LPDDR5X-8000, einheitlich | Radeon 8060S (integriert), 95.5 GB nutzbar | 2 TB Micron 4600, PCIe Gen4-Anbindung | AMD Linux-Entwicklerimage, Kernel 7.2 |
Lokale KI-Leistung
Die RTX PRO 4000 SFF stattet das Micro mit 24 GB dediziertem Grafikspeicher aus, wovon im Test 23.9 GB als nutzbar ermittelt wurden. Das reicht für das Agentenmodell 20B und die Ministral-Servermodelle in unserem Testfeld. Die 32-GB-Karte des V20C bietet ebenfalls ausreichend Speicher für die 30 GB, die das Servermodell 27B benötigt, und die 96-GB-Karte des T2 sowie die Systeme mit 128 GB integriertem Speicher qualifizieren sich für höhere Modellstufen, die das Micro nicht unterstützt.
LLM-Dienstleistung
| llama.cpp-Server (höher ist besser, sofern nicht anders angegeben) | Dell Pro Max Micro (Ultra 9 285, RTX PRO 4000 SFF 24GB) | Dell Pro Precision 9 T2 (Xeon 658X, RTX PRO 6000 Max-Q 96GB) | Corsair FlexPrime V20C (Ultra 7 270K Plus, Arc Pro B70 32GB) | Dell Pro Max mit GB10 (128 GB unified) | AMD Ryzen AI Halo (Ryzen AI Max+ 395, 128 GB Unified) |
|---|---|---|---|---|---|
| Ministral 3 3B, 1 Anfrage (Token/s) | 80.7 | 243.8 | 84.9 | 53.2 | 43.0 |
| Ministral 3 3B, 4 Anfragen (Token/s) | 201.5 | 602.6 | 213.3 | 139.8 | 105.1 |
| Ministral 3 3B, 1 Anfrage, Zeit bis zum ersten Token (ms, je niedriger, desto besser) | 666 | 197 | 590 | 572 | 1,659 |
| Ministral 3 8B, 1 Anfrage (Token/s) | 52.0 | 167.3 | 63.7 | 37.0 | 30.6 |
| Ministral 3 8B, 4 Anfragen (Token/s) | 108.9 | 384.9 | 141.8 | 97.2 | 66.6 |
| Ministral 3 8B, 1 Anfrage, Zeit bis zum ersten Token (ms, je niedriger, desto besser) | 1,477 | 427 | 1,362 | 1,398 | 4,602 |
| Qwen3.8 27B, 1 Anfrage (Tokens/s) | Hat nicht gepasst | 53.8 | 19.8 | 11.2 | 9.1 |
| Qwen3.8 27B, 4 Anfragen (Tokens/s) | Hat nicht gepasst | 113.5 | 33.5 | 27.1 | 18.4 |
| Qwen3.8 27B, 8 Anfragen (Tokens/s) | Hat nicht gepasst | 155.8 | 35.4 | 35.6 | 20.1 |
| Qwen3.8 27B, 1 Anfrage, Zeit bis zum ersten Token (ms, je niedriger, desto besser) | Hat nicht gepasst | 2,771 | 9,005 | 9,207 | 24,024 |
LLM Serving nutzt den llama.cpp-Server mit 4,096 Token prompts und 1,024 Token pro output auf den Ministral 3-Modellen. Das Micro-System erreichte beim Modell 3B für einen Benutzer eine Übertragungsrate von 80.7 Token pro Sekunde, was 5 Prozent hinter dem Arc Pro B70 im V20C und 52 Prozent vor dem GB10 lag. Beim Modell 8B wurden 52.0 Token pro Sekunde erreicht, 18 Prozent hinter dem V20C und 41 Prozent vor dem GB10. Bei vier gleichzeitigen Anfragen lieferte das System 201.5 bzw. 108.9 Token pro Sekunde, 44 bzw. 12 Prozent mehr als der GB10.
Die integrierte Radeon 8060S des Halo schnitt in diesem Test deutlich schlechter ab als alle anderen Systeme. Sie verarbeitete beim 3B-Modell 43.0 Token pro Sekunde bei einer Anfrage und 105.1 Token pro Sekunde bei vier Anfragen – etwa die Hälfte der Rate des Micro – sowie beim 8B-Modell 30.6 bzw. 66.6 Token pro Sekunde. Auch die Verarbeitung von Eingabeaufforderungen war langsamer: Die mittlere Wartezeit für das erste Token betrug beim 3B-Modell 1.7 Sekunden und beim 8B-Modell 4.6 Sekunden, verglichen mit 0.7 bzw. 1.5 Sekunden beim Micro.
Der Pro Precision 9 T2 bietet eine deutlich höhere Leistung als der Micro. Seine RTX PRO 6000 Max-Q erreichte bei den Modellen 3B und 8B mit einer einzelnen Anfrage 243.8 bzw. 167.3 Token pro Sekunde und übertraf damit den Durchsatz des Micro um das 3.0- bzw. 3.2-Fache. Bei vier gleichzeitigen Anfragen stieg der Durchsatz auf 602.6 bzw. 384.9 Token pro Sekunde. Auch Qwen3.8 27B lief mit einer Anfrage und 155.8 Token pro Sekunde bei acht Anfragen, wobei das erste Token nach 2.8 Sekunden verarbeitet wurde.
Qwen3.8 27B bei Q4_K_M benötigt 30 GB GPU-Speicher für seine Gewichtungen und den KV-Cache einer Anfrage. Die 23.9 GB des Micro reichten dafür nicht aus. Der V20C generierte auf diesem Modell 19.8 Token pro Sekunde für eine Anfrage, der GB10 11.2 und der Halo 9.1. Dieselbe Beschränkung verhinderte, dass gpt-oss 120B (90 GB) und der 129.3 GB große MiniMax M2.7 auf dem Micro liefen. Für Serveranwendungen reichen 24 GB bei 4-Bit-Quantisierung für Modelle bis etwa zur 20B-Klasse aus. Größere Modelle benötigen eine größere Grafikkarte oder ein System mit einheitlichem Speicher.
Modellladen und der Codierungsagent
| gpt-oss:20b (Ollama 0.40.3) | Dell Pro Max Micro (Ultra 9 285, RTX PRO 4000 SFF 24GB) | Dell Pro Precision 9 T2 (Xeon 658X, RTX PRO 6000 Max-Q 96GB) | Corsair FlexPrime V20C (Ultra 7 270K Plus, Arc Pro B70 32GB) | Dell Pro Max mit GB10 (128 GB unified) | AMD Ryzen AI Halo (Ryzen AI Max+ 395, 128 GB Unified) |
|---|---|---|---|---|---|
| gpt-oss:20b Kaltladung des ersten Tokens (s, niedriger ist besser) | 5.11 | 5.57 | 6.29 | 6.86 | 4.20 |
| gpt-oss:20b Warmladung des ersten Tokens (s, niedriger ist besser) | 3.12 | 3.47 | 3.18 | 6.36 | 4.03 |
| Codierungsagent, erfolgreiche Durchläufe (von 3) | 1* | 2* | 3 | 3 | 2* |
| Kodierungsagent, mittlere Wandzeit (s, niedriger ist besser) | 80 * | 107 * | 368 | 221 | 282 * |
| Codierungsagent, Generierungsrate (Token/s) | 76.2 | 225.0 | 32.2 | 53.9 | 41.2 |
*Von der Testsuite als fehlerhaft eingestuft: Das Dell Pro Max Micro bestand einen von drei Agentenläufen, das Pro Precision 9 T2 und das AMD Ryzen AI Halo bestanden zwei von drei.
Der Modelllasttest von Ollama auf gpt-oss:20b (12.8 GB) misst die Zeit vom Start bis zum ersten Token, sowohl im Kaltstart (SSD) als auch im Warmstart (Seitencache). Das Micro erreichte den ersten Token in 5.11 Sekunden (Kaltstart) bzw. 3.12 Sekunden (Warmstart) – die schnellste Warmstartzeit im Testfeld. Beim T2 dauerten Kaltstart 5.57 Sekunden und Warmstart 3.47 Sekunden, beim V20C 6.29 Sekunden bzw. 3.18 Sekunden und beim GB10 6.86 Sekunden bzw. 6.36 Sekunden. Das Halo erzielte mit 4.20 Sekunden den schnellsten Kaltstart und benötigte im Warmstart 4.03 Sekunden. Die Lesegeschwindigkeit des Gen5-Laufwerks des Micro lag beim Kaltstart bei 6,636 MB/s mit einem Spitzenwert von 8,754 MB/s, sodass die Speicherkapazität mit der Laufzeit Schritt hält.
Der Codierungsagent-Test führte Crush dreimal mit einem 64K-Kontext gegen gpt-oss:20b anhand einer festen Programmieraufgabe aus. Der Micro generierte 76.2 Token pro Sekunde und lag damit vor dem GB10 mit 53.9, dem Halo mit 41.2 und dem V20C mit 32.2. Er erreichte etwa ein Drittel der 225.0 Token pro Sekunde des T2. Der einzige erfolgreiche Durchlauf dauerte 80 Sekunden. Die beiden anderen Durchläufe endeten mit 0 bzw. 1 von 11 bestandenen Tests. Der T2 und der Halo bestanden jeweils zwei von drei Tests, der V20C und der GB10 alle drei. Die Anzahl der bestandenen Tests variiert bei diesem Modell von Durchlauf zu Durchlauf; die angegebene Generierungsrate entspricht dem Hardware-Ergebnis.
RAG in zwei Maßstäben
| RAG, 20,963 Passagen (Ollama 0.40.3) | Dell Pro Max Micro (Ultra 9 285, RTX PRO 4000 SFF 24GB) | Dell Pro Precision 9 T2 (Xeon 658X, RTX PRO 6000 Max-Q 96GB) | Corsair FlexPrime V20C (Ultra 7 270K Plus, Arc Pro B70 32GB) | Dell Pro Max mit GB10 (128 GB unified) | AMD Ryzen AI Halo (Ryzen AI Max+ 395, 128 GB Unified) |
|---|---|---|---|---|---|
| Aufnahme, Passagen pro Sekunde | 268.2 | 392.1 | 87.5 | 211.4 | 95.5 |
| Aufnahme- und Einbettungsrate (Token/s) | 43,430 | 63,486 | 14,162 | 34,227 | 15,468 |
| Antwort, Generierungsrate (Token/s) | 137.0 | 402.8 | 76.5 | 93.2 | 80.0 |
| Antwort, Zeit bis zum ersten Token p50 (s, niedriger ist besser) | 0.16 | 0.11 | 0.30 | 0.15 | 0.42 |
| Frage zur Beantwortung von S. 50 (s, niedriger ist besser) | 0.22 | 0.14 | 0.39 | 0.22 | 0.50 |
Der RAG-Test umfasst 20,963 SQuAD-Passagen, ermittelt die fünf besten Antworten pro Frage und beantwortet diese mit Phi-4-mini – alles über Ollama. Der Micro verarbeitete 268.2 Passagen pro Sekunde, verglichen mit 211.4 beim GB10, 95.5 beim Halo und 87.5 beim V20C. Das entspricht einem Vorsprung von 27 Prozent gegenüber dem GB10 und ist etwa dreimal so hoch wie die Rate der Arc-Karte unter Vulkan. Der T2 erreichte 392.1. Die Antworten wurden mit 137.0 Token pro Sekunde generiert, verglichen mit 93.2, 80.0 und 76.5 beim T2 (402.8). Die mittlere Antwortzeit des Micro betrug 0.22 Sekunden und lag damit auf dem Niveau des GB10.
| RAG im großen Maßstab, 1,002,067 Passagen | Dell Pro Max Micro (Ultra 9 285, RTX PRO 4000 SFF 24GB) | Dell Pro Precision 9 T2 (Xeon 658X, RTX PRO 6000 Max-Q 96GB) | Corsair FlexPrime V20C (Ultra 7 270K Plus, Arc Pro B70 32GB) | AMD Ryzen AI Halo (Ryzen AI Max+ 395, 128 GB Unified) |
|---|---|---|---|---|
| Aufnahme, 1 Mio. Passagen (Passagen/s) | 313.9 | 1,140.9 | 321.4 | 65.8 |
| Wandzeit einatmen (s, je niedriger, desto besser) | 3,192 | 878 | 3,118 | 15,230 |
| HNSW-Indexaufbau (s, niedriger ist besser) | 78.9 | 46.3 | 73.4 | 68.9 |
| HNSW-Suche, ef 64 (Anfragen/s) | 27,359 | 45,085 | 29,643 | 34,012 |
| HNSW-Suche, ef 256 (Anfragen/s) | 7,664 | 13,478 | 8,285 | 9,649 |
| Frage zur Beantwortung von S. 50 (s, niedriger ist besser) | 0.20 | 0.12 | 0.36 | 0.46 |
Der umfangreichere RAG-Test bettet eine Million Wikipedia-Passagen über llama.cpp ein, erstellt einen HNSW-Index auf der CPU und durchsucht diesen. Der Micro verarbeitete 313.9 Passagen pro Sekunde und benötigte dafür 53 Minuten, 2 Prozent weniger als der V20C, dessen SYCL-Backend deutlich leistungsfähiger ist als sein Vulkan-Pfad. Die Einbettungsraten des Micro lagen in den beiden Tests mit 43,430 bzw. 44,440 Tokens pro Sekunde nur 3 Prozent auseinander. Der T2 verarbeitete dieselbe Million Passagen in 878 Sekunden (unter 15 Minuten) und war damit 3.6-mal schneller als der Micro.
Die CPU-seitige Arbeit ging knapp an den V20C und deutlich an den T2. Der Micro erstellte den Index in 78.9 Sekunden (gegenüber 73.4 bzw. 46.3 Sekunden) und führte bei einer EF-Einstellung von 64 27,359 Abfragen pro Sekunde durch (gegenüber 29,643 bzw. 45,085). Die Trefferquote (Recall) bei exakter Suche lag bei 91.4 Prozent. Die Antwortgenerierung erfolgte in diesem Test wieder mit Ollama. Die mittlere Antwortzeit des Micro von 0.20 Sekunden lag deutlich unter der des V20C (0.36 Sekunden). Der GB10 hat den Test mit einer Million Passagen noch nicht absolviert.
Der Halo verarbeitete die Million Passagen in 15,230 Sekunden (ca. 4.2 Stunden) mit 65.8 Passagen pro Sekunde, was etwa einem Fünftel der Geschwindigkeit des Micro entspricht. Sein 16-Kern-Prozessor schnitt bei der CPU-Leistung besser ab: Er erstellte den Index in 68.9 Sekunden und durchsuchte ihn mit 34,012 Anfragen pro Sekunde bei einer ef-Einstellung von 64. Damit lag er sowohl vor dem Micro als auch vor dem V20C, mit einer mittleren Antwortzeit von 0.46 Sekunden.
Bilderzeugung
| stable-diffusion.cpp, 1024×1024 (Bilder/min, je höher, desto besser) | Dell Pro Max Micro (Ultra 9 285, RTX PRO 4000 SFF 24GB) | Dell Pro Precision 9 T2 (Xeon 658X, RTX PRO 6000 Max-Q 96GB) | Corsair FlexPrime V20C (Ultra 7 270K Plus, Arc Pro B70 32GB) | Dell Pro Max mit GB10 (128 GB unified) | AMD Ryzen AI Halo (Ryzen AI Max+ 395, 128 GB Unified) |
|---|---|---|---|---|---|
| FLUX.2 klein 4B Q4_0 (Bilder/min) | 11.46 | 40.53 | 4.26 | 9.96 | 3.86 |
| FLUX.2 klein 4B BF16 (Bilder/Min) | 10.93 | 41.32 | 2.40 | 10.28 | 4.17 |
| Z-Image Turbo 6B Q4_0 (Bilder/min) | 4.39 | 16.97 | 2.11 | 3.68 | 1.85 |
| Z-Image Turbo 6B BF16 (Bilder/min) | 3.95 | 17.27 | 0.96 | 3.94 | 0.47 |
| Qwen-Image 20B Q4_0 (Bilder/min) | Hat nicht gepasst | 2.42 | 0.35 | 0.50 | 0.23 |
| Qwen-Image 20B Q8_0 (Bilder/min) | Hat nicht gepasst | 2.39 | Hat nicht gepasst | 0.48 | 0.23 |
Die Bildgenerierung war das beste Ergebnis des Micro im Vergleich zu den drei Systemen außerhalb der Dell-Produktpalette. Mit CUDA und der Anwendung stable-diffusion.cpp erreichte er 11.46 Bilder pro Minute auf FLUX.2 klein 4B im vierten Quartal (Q4_0). Das waren 15 Prozent mehr als beim GB10 mit 9.96 Bildern pro Minute, das 2.7-Fache des V20C mit 4.26 Bildern pro Minute auf Vulkan und das Dreifache des Halo mit 3.86 Bildern pro Minute auf ROCm. Z-Image Turbo 6B erzielte 4.39 Bilder pro Minute, verglichen mit 3.68, 2.11 und 1.85. Precision konnte das Ergebnis kaum verbessern: BF16 erreichte 10.93 Bilder pro Minute auf FLUX.2 klein und 3.95 auf Z-Image Turbo. Die Karte des T2 produzierte 40.53 FLUX.2-Bilder pro Minute, das 3.5-Fache des Micro.
Die Speicherkapazität ist auch beim größten Modell der limitierende Faktor. Qwen-Image 20B benötigt 28 GB nutzbaren GPU-Speicher im Q4_0-Modus und 38 GB im Q8_0-Modus, weshalb die 24-GB-Karte nicht ausreichte. Der V20C erreichte im Q4_0-Modus 0.35 Bilder pro Minute; der GB10 0.50 und 0.48 Bilder pro Minute; der Halo 0.23 Bilder pro Minute; und der T2 2.42 und 2.39 Bilder pro Minute. Käufer, die dieses Modell vor Ort benötigen, sollten mehr Grafikspeicher einplanen, als dieses Gehäuse aufnehmen kann, da die RTX PRO 4000 SFF die leistungsstärkste Grafikkarte ist, die Dell im Micro-Segment anbietet.
CPU-Leistung
7-Zip, Blender, HandBrake und LLVM
| Test | Dell Pro Max Micro (Ultra 9 285, RTX PRO 4000 SFF 24GB) | Dell Pro Precision 9 T2 (Xeon 658X, RTX PRO 6000 Max-Q 96GB) | Corsair FlexPrime V20C (Ultra 7 270K Plus, Arc Pro B70 32GB) | Dell Pro Max mit GB10 (128 GB unified) | AMD Ryzen AI Halo (Ryzen AI Max+ 395, 128 GB Unified) |
|---|---|---|---|---|---|
| 7-Zip, alle Threads, gesamt (GIPS) | 164.0 | 285.1 | 199.6 | 149.5 | 215.8 |
| 7-Zip, ein Thread, insgesamt (GIPS) | 10.90 | 9.27 | 11.26 | 9.68 | 9.66 |
| Blender 4.5 Monster (Samples/min) | 243.1 | 400.7 | 330.4 | Kein arm64-Build | 285.3 |
| Blender 4.5 Junkshop (Proben/Min.) | 161.6 | 266.9 | 212.5 | Kein arm64-Build | 173.9 |
| Blender 4.5 Klassenzimmer (Beispiele/Minute) | 114.5 | 187.2 | 152.8 | Kein arm64-Build | 144.0 |
| HandBrake x265 (fps) | 39.7 | 41.5 | 49.6 | Kein arm64-Build | 44.5 |
| HandBrake SVT-AV1 (fps) | 147.9 | 198.5 | 177.4 | Kein arm64-Build | 194.1 |
| LLVM-Build (s, niedrigere Werte sind besser) | 173 | 106 | 136 | 175 | 149 |
Der Core Ultra 9 285 ist ein 65-Watt-Desktop-Prozessor, der im Dell Micro mit 85 Watt betrieben wird. Er teilt sich die 24-Kern-Architektur mit dem 270K Plus im V20C. Der Micro erreichte im 7-Zip-Test 164.0 GIPS, 18 Prozent weniger als der V20C mit 199.6 GIPS, und war in den drei Blender-Szenen 24 bis 26 Prozent langsamer. Der V20C profitiert von einem Tower-Gehäuse und einer 360-mm-Flüssigkeitskühlung. Die x265- und SVT-AV1-Codierungen von HandBrake waren 20 bzw. 17 Prozent langsamer. Da Blender und HandBrake in unserem Test keine arm64-Linux-Versionen enthalten, liegen für den GB10 keine Ergebnisse vor.
Im Vergleich zum GB10 lag der Micro bei 7-Zip mit allen Threads 10 Prozent und mit einem Thread 13 Prozent vorn. Der LLVM-Build dauerte mit 173 Sekunden gleichauf mit dem GB10 (175 Sekunden). Der V20C benötigte für diesen Build 136 Sekunden. Für ein System dieser Größe ist das Ergebnis zufriedenstellend, und der Vergleich verdeutlicht die Nachteile des Formfaktors: Ein Prozessor mit demselben Kernlayout liefert in einem wassergekühlten Tower 22 Prozent mehr 7-Zip-Durchsatz und 32 bis 36 Prozent mehr Blender-Durchsatz als der 285 bei 85 W in einem 2.9-Liter-Gehäuse.
Der Ryzen AI Max+ 395 mit 16 Kernen und 32 Threads des Halo schnitt auch bei Multithreading-Aufgaben besser ab als der Micro. Er erreichte 215.8 GIPS in 7-Zip, 32 Prozent mehr als der Micro; in den Blender-Szenen war er 8 bis 26 Prozent schneller; er kodierte SVT-AV1 mit 194.1 fps gegenüber 147.9 fps; und er kompilierte LLVM in 149 Sekunden gegenüber 173 Sekunden. Der Micro behielt in 7-Zip mit einem Thread einen Vorsprung von 13 Prozent.
Der T2 skaliert die Multithread-Ergebnisse wie erwartet für einen 24-Kern-Xeon mit 48 Threads im Tower-Gehäuse. Er erreichte 285.1 GIPS in 7-Zip, 74 Prozent mehr als der Micro, lieferte 63 bis 65 Prozent mehr Blender-Durchsatz und schloss den LLVM-Build in 106 Sekunden ab, im Vergleich zu 173 Sekunden. Die Leistung pro Kern verhält sich umgekehrt: Der Core Ultra 9 285 des Micro liegt im Single-Thread-Test mit 7-Zip 18 Prozent und im Single-Thread-Test mit Stockfish 14 Prozent vor dem Xeon 658X und ist in den Single-Thread-Python-Tests 18 bis 20 Prozent schneller.
Stockfisch, Primesieb und Python
| Test | Dell Pro Max Micro (Ultra 9 285, RTX PRO 4000 SFF 24GB) | Dell Pro Precision 9 T2 (Xeon 658X, RTX PRO 6000 Max-Q 96GB) | Corsair FlexPrime V20C (Ultra 7 270K Plus, Arc Pro B70 32GB) | Dell Pro Max mit GB10 (128 GB unified) | AMD Ryzen AI Halo (Ryzen AI Max+ 395, 128 GB Unified) |
|---|---|---|---|---|---|
| Stockfisch, ein Thread (Mnps) | 2.02 | 1.77 | 2.08 | 1.66 | 2.15 |
| Stockfisch, alle Threads (Mnps) | 31.58 | 45.44 | 40.55 | 23.86 | 38.74 |
| Primsieb bis 10^12, alle Threads (s, niedriger ist besser) | 8.72 | 7.51 | 6.48 | 9.16 | 6.29 |
| Primsieb bis 10^11, ein Thread (s, niedriger ist besser) | 9.07 | 9.66 | 9.03 | 12.32 | 6.76 |
| PyPerformance go (ms, niedriger ist besser) | 57.8 | 72.1 | 56.0 | 85.5 | 69.1 |
| PyPerformance nbody (ms, niedrigere Werte sind besser) | 38.9 | 47.3 | 36.3 | 55.0 | 43.1 |
Der Stockfish-Benchmark (alle Threads) erreichte auf dem Micro 31.58 Mnps und lag damit hinter dem T2 (45.44 Mnps), dem V20C (40.55 Mnps) und dem Halo (38.74 Mnps). Er war jedoch 32 Prozent schneller als der GB10. Der PrimeSieve-Berechnungstest bis 10^12 dauerte 8.72 Sekunden, verglichen mit 7.51 Sekunden (T2), 6.48 Sekunden (V2), 9.16 Sekunden (V2), 6.29 Sekunden (Halo) und 6,52 Sekunden (Halo). Die Ergebnisse der Ein-Thread-Berechnungen beider Core-Ultra-Systeme lagen im Stockfish-Benchmark innerhalb von 3 Prozent und im PrimeSieve-Berechnungstest mit 9.07 bzw. 9.03 Sekunden gleichauf. Die Ein-Thread-Python-Tests lagen 3 bis 7 Prozent hinter dem V20C zurück und waren etwa 30 Prozent schneller als auf dem Arm-basierten GB10.
GROMACS und OpenBLAS
| Test | Dell Pro Max Micro (Ultra 9 285, RTX PRO 4000 SFF 24GB) | Dell Pro Precision 9 T2 (Xeon 658X, RTX PRO 6000 Max-Q 96GB) | Corsair FlexPrime V20C (Ultra 7 270K Plus, Arc Pro B70 32GB) | Dell Pro Max mit GB10 (128 GB unified) | AMD Ryzen AI Halo (Ryzen AI Max+ 395, 128 GB Unified) |
|---|---|---|---|---|---|
| GROMACS benchMEM, 16 Kerne (ns/Tag) | 52.68 | 62.66 | 67.23 | 27.81 | 72.39 |
| GROMACS benchMEM, alle Kerne (ns/Tag) | 55.52 | 81.56 | 77.77 | 34.61 | 70.95 |
| OpenBLAS DGEMM, alle Kerne (GFLOPS) | 791.6 | 2,318.9 | 1,100.0 | 418.0 | 1,610.3 |
| OpenBLAS LU löst N=20000, alle Kerne (GFLOPS) | 717.0 | 1,615.8 | 938.6 | 393.0 | 1,391.3 |
| Speicherlatenz, 4-KiB-Seiten (ns, je niedriger, desto besser) | 129.0 | 143.8 | 105.2 | 123.8 | 162.2 |
Der GROMACS-BenchmarkMEM-Test erreichte 52.68 ns/Tag auf 16 Kernen und 55.52 ns/Tag auf allen 24 Kernen. Dies entspricht einem Rückstand von 22 bzw. 29 Prozent gegenüber dem V20C und einem Vorsprung von 89 bzw. 60 Prozent gegenüber dem GB10. Der OpenBLAS-DGEMM-Test erzielte 791.6 GFLOPS auf allen Kernen, verglichen mit 1,100.0 GFLOPS beim V20C und 418.0 GFLOPS beim GB10. Der Xeon des T2 mit AVX-512 und vier Speicherkanälen erreichte 2,318.9 GFLOPS. GROMACS war zudem der leistungsstärkste Test der Suite für dieses Gehäuse. Der geringe Leistungszuwachs von 16 auf 24 Kerne deutet darauf hin, dass der Prozessor an seiner thermischen Leistungsgrenze arbeitet. Die Speicherlatenz auf 4-KiB-Seiten betrug 129.0 ns, gegenüber 105.2 ns beim V20C und 123.8 ns beim GB10.
Der Halo erzielte mit 72.39 ns/Tag das schnellste 16-Kern-GROMACS-Ergebnis der Gruppe und lag damit 37 Prozent vor dem Micro. Auf allen 32 Threads erreichte er 70.95 ns/Tag, hinter dem T2 mit 81.56 ns/Tag und dem V20C mit 77.77 ns/Tag. Im OpenBLAS-DGEMM-Benchmark erreichte er 1,610.3 GFLOPS, etwa das Doppelte des Micro-Wertes und den zweiten Platz hinter dem T2. Seine Speicherlatenz war mit 162.2 ns die höchste der Gruppe.
Server- und HPC-Workloads
Diese Ergebnisse stammen aus unserer Benchmark-Umgebung und Server-Suite, die ausschließlich unter Linux laufen. Sie nutzen den Micro als allgemeinen Rechenknoten, der kompiliert, komprimiert, Web- und Cache-Anfragen bearbeitet, Analyseabfragen ausführt und eine CFD-Simulation durchführt. Jedes System verwendet eine andere Linux-Distribution und einen anderen Compiler, mit Ausnahme des Micro, des T2 und des V20C, die alle Ubuntu 26.04.1 nutzen und daher den direktesten Vergleich ermöglichen.
| Phoronix Test Suite und y-cruncher (höhere Werte sind besser, sofern nicht anders angegeben) | Dell Pro Max Micro (Ultra 9 285, RTX PRO 4000 SFF 24GB) | Dell Pro Precision 9 T2 (Xeon 658X, RTX PRO 6000 Max-Q 96GB) | Corsair FlexPrime V20C (Ultra 7 270K Plus, Arc Pro B70 32GB) | Dell Pro Max mit GB10 (128 GB unified) | AMD Ryzen AI Halo (Ryzen AI Max+ 395, 128 GB Unified) |
|---|---|---|---|---|---|
| Zeitgesteuerte Linux-Kernel-Kompilierung, allmodconfig (s, niedrigere Werte sind besser) | 918 | 537 | 639 | 892 | 727 |
| 7-Zip-Komprimierungsrate, alle Threads (MIPS) | 150,543 | 264,940 | 186,668 | 154,634 | 178,530 |
| 7-Zip-Dekomprimierungsrate, alle Threads (MIPS) | 88,641 | 195,348 | 128,723 | 106,148 | 143,464 |
| 7-Zip-Komprimierungsrate, ein Thread (MIPS) | 9,351 | 9,100 | 10,260 | 7,474 | 8,019 |
| OpenSSL AES-256-GCM, alle Threads (GB/s) | 110.0 | 371.2 | 171.4 | 97.1 | 298.6 |
| nginx, 1,000 Verbindungen (Anfragen/s) | 155,203 | 323,567 | 225,708 | 114,909 | 223,433 |
| nginx, 4,000 Verbindungen (Anfragen/s) | 109,352 | 244,008 | 155,146 | 101,613 | 190,454 |
| y-cruncher Pi, 1B Stellen (s, je niedriger, desto besser) | 30.10 | 8.51 | 17.54 | Nicht ausführen | 10.46 |
| y-cruncher Pi, 5B Stellen (s, je niedriger, desto besser) | 158.24 | 53.40 | 111.17 | Nicht ausführen | 63.45 |
| y-cruncher Pi, 10B Stellen (s, je niedriger, desto besser) | 342.87 | 119.21 | 244.44 | Nicht ausführen | 135.18 |
Der Micro kompilierte den Linux-Kernel in 918 Sekunden, 3 Prozent langsamer als der GB10 mit 892 Sekunden und deutlich hinter dem Halo mit 727 Sekunden und dem V20C mit 639 Sekunden. Die 7-Zip-Komprimierung mit allen Threads erreichte eine Geschwindigkeit, die nur 3 Prozent hinter der des GB10 lag. Der Micro war diesem System mit einem Thread um 25 Prozent, mit OpenSSL AES-256-GCM um 13 Prozent und mit nginx bei 1,000 Verbindungen um 35 Prozent überlegen. Der V20C und der Halo waren in den Tests mit allen Threads schneller, wobei der T2 in jeder Kategorie die Nase vorn hatte: Er kompilierte den Kernel in 537 Sekunden und erreichte mit OpenSSL eine Übertragungsrate von 371.2 GB/s gegenüber 110.0 GB/s beim Micro.
Im y-cruncher-Test berechnete der Micro fünf Milliarden Nachkommastellen von Pi in 158.24 Sekunden, im Vergleich zu 111.17 Sekunden beim V20C und 63.45 Sekunden beim Halo; zehn Milliarden Nachkommastellen benötigten 342.87 Sekunden, gegenüber 244.44 Sekunden bzw. 135.18 Sekunden. Der Test reagiert empfindlich auf Speicherbandbreite und Vektorbreite. Der Halo bietet AVX-512 und einen breiteren Speicherbus, während der Micro über zwei Kanäle DDR5-6400 verfügt. Der T2 war mit 53.40 Sekunden bzw. 119.21 Sekunden am schnellsten, der GB10 wurde im y-cruncher-Test nicht getestet.
| Server-Suite (höhere Stufe ist besser, sofern nicht anders angegeben) | Dell Pro Max Micro (Ultra 9 285, RTX PRO 4000 SFF 24GB) | Dell Pro Precision 9 T2 (Xeon 658X, RTX PRO 6000 Max-Q 96GB) | Corsair FlexPrime V20C (Ultra 7 270K Plus, Arc Pro B70 32GB) | Dell Pro Max mit GB10 (128 GB unified) | AMD Ryzen AI Halo (Ryzen AI Max+ 395, 128 GB Unified) |
|---|---|---|---|---|---|
| ClickBench-Schnelllauf, 43 Abfragen (s, je niedriger, desto besser) | 8.11 | 4.80 | 7.39 | 6.67 | 5.82 |
| ClickBench-Kaltstart, 43 Abfragen (s, je niedriger, desto besser) | 10.80 | 6.92 | 10.41 | 11.01 | 9.30 |
| OpenFOAM-Treiber, 3 Millionen Zellen, Lösungszeit (s, je niedriger, desto besser) | 2,320 | 826 | 1,636 | 1,222 | 1,148 |
| STREAM-Triade (MB/s) | 65,802 | 141,832 | 68,252 | 121,313 | 114,007 |
| Valkey-Cache, SET (Anfragen/s) | 1,389,084 | 914,832 | 1,852,556 | 810,246 | 1,211,538 |
| Valkey-Cache, GET (Anfragen/s) | 1,398,409 | 991,576 | 1,866,031 | 884,644 | 1,271,481 |
Die Speicherbandbreite erklärt den Großteil der Ergebnisse der Server-Suite. STREAM Triad maß 65.8 GB/s auf den beiden DDR5-Kanälen des Micro, was nahe am Wert des V20C mit 68.3 GB/s liegt und etwa der Hälfte der Werte von 121.3 GB/s und 114.0 GB/s des GB10 und des Halo entspricht. Der T2 erreichte 141.8 GB/s. Der OpenFOAM-DrivAer-Fall, eine Berechnung mit 3 Millionen Zellen, benötigte auf dem Micro 2,320 Sekunden, verglichen mit 826 Sekunden auf dem T2, 1,636 Sekunden auf dem V20C, 1,222 Sekunden auf dem GB10 und 1,148 Sekunden auf dem Halo. Der ClickBench-Hot-Run dauerte 8.11 Sekunden, verglichen mit 4.80, 7.39, 6.67 und 5.82 Sekunden.
Valkey setzt auf hohe Geschwindigkeit pro Kern, und der Micro verarbeitete im Cache-Profil 1.39 Millionen SET- und 1.40 Millionen GET-Anfragen pro Sekunde. Das sind 25 Prozent weniger als beim V20C, 15 bzw. 10 Prozent mehr als beim Halo (1.21 Millionen bzw. 1.27 Millionen), 71 bzw. 58 Prozent mehr als beim GB10 (810 bzw. 885) und 52 bzw. 41 Prozent mehr als beim Xeon des T2 (915 bzw. 992). Eine Workstation, die neben dem Modellserver auch einen Cache oder eine kleine Datenbank hostet, profitiert von der hohen Geschwindigkeit pro Kern des Core Ultra.
GPU-Codierung
Für die GPU-Codierung erreichte FFmpeg 8.1 mit NVENC auf der RTX PRO 4000 SFF beim 4K-Big-Buck-Bunny-Clip aus der Suite 123 fps in HEVC. Die T2 und die GB10 erzielten mit demselben Encoder 124 bzw. 134 fps, die V20C 154 fps über Intel Quick Sync und die Halo 204 fps über VAAPI – jeweils mit unterschiedlichen Encoder-Einstellungen. Daher dienen diese beiden Werte eher als Referenzwerte denn als Ranglisten. Eine neuere FFmpeg-Version der Suite benötigt den NVIDIA-Treiber 610.00 oder höher für NVENC und lief nicht mit dem hier installierten Treiber 595.99.02.
Thermik unter Last
| Dell Pro Max Micro | Maximale CPU-Leistung (°C) | CPU-Mittelwert (°C) | GPU Max (C) | GPU-Mittelwert (C) |
|---|---|---|---|---|
| 7-Zip | 101 | 78.7 | 32 | 31.7 |
| Mixer | 98 | 82.3 | 35 | 33.7 |
| LLVM-Build | 100 | 79.4 | 33 | 33.0 |
| BLAS öffnen | 104 | 83.5 | 32 | 32.0 |
| GROMACS | 105 | 89.3 | 33 | 32.6 |
| Codierungsagent | 83 | 70.0 | 69 | 62.3 |
| LLM-Dienst | 76 | 73.5 | 73 | 67.2 |
| RAG im Maßstab | 97 | 79.6 | 73 | 71.7 |
| Bilderzeugung | 85 | 72.0 | 72 | 68.5 |
Der Ryzen 5 285 stieß in allen All-Core-Tests an seine thermische Leistungsgrenze. Die CPU-Gehäusetemperatur erreichte Spitzenwerte von 98 °C in Blender, 100 °C im LLVM-Build, 101 °C in 7-Zip, 104 °C in OpenBLAS und 105 °C in GROMACS, mit Durchschnittswerten zwischen 79 °C und 89 °C über alle Tests hinweg. Dies entspricht den Kosten für den Betrieb eines 65-Watt-Desktop-Prozessors mit einer Leistungsaufnahme von 85 Watt in einem 2.9-Liter-Gehäuse und deckt sich mit dem Unterschied in der Multithreading-Leistung im Vergleich zum Tower-Prozessor. Zwischen den Tests lag die Prozessortemperatur im Leerlauf bei etwa 40 °C.
Die Grafikkarte blieb deutlich kühler: Die RTX PRO 4000 SFF erreichte im Leerlauf 32 °C und während des LLM-Servings und der Verarbeitung einer Million RAG-Passagen einen Spitzenwert von 73 °C. Der Durchschnittswert lag über einen 57-minütigen Testlauf bei 71.7 °C. Bei der Bildgenerierung blieb die Temperatur bei 72 °C, der Codierungsagent bei 69 °C. Die 70-W-Karte bietet in diesem Gehäuse selbst dann noch thermische Reserven, wenn die CPU an ihre Grenzen stößt. Die SSD blieb während des 74-minütigen Speichertests bei 63 °C oder darunter.
Speicherleistung
| fio, 25 GiB Speicherbedarf (je höher, desto besser) | Dell Pro Max Micro (Ultra 9 285, RTX PRO 4000 SFF 24GB) | Dell Pro Precision 9 T2 (Xeon 658X, RTX PRO 6000 Max-Q 96GB) | Corsair FlexPrime V20C (Ultra 7 270K Plus, Arc Pro B70 32GB) | Dell Pro Max mit GB10 (128 GB unified) | AMD Ryzen AI Halo (Ryzen AI Max+ 395, 128 GB Unified) |
|---|---|---|---|---|---|
| Sequenzielles Lesen 128K (MB/s) | 9,433 | 20,914 * | 7,311 | 6,947 | 7,232 |
| Sequenzielles Schreiben 128K (MB/s) | 6,766 | 12,564 | 6,082 | 6,310 | 1,554 * |
| Zufällige Lesevorgänge 4K, Spitzenwert (IOPS) | 2,084,437 | 3,214,066 | 1,184,970 | 932,210 | 1,197,992 |
| Zufälliges Schreiben 4K, Spitzenwert (IOPS) | 1,028,079 * | 2,353,766 | 184,231 | 997,758 | 121,285 * |
| Zufälliges Lesen 4K, QD32 x 4 Jobs (IOPS) | 1,386,889 | 1,394,262 | 1,184,970 | 754,896 | 1,001,941 |
| Zufälliges Schreiben 4K, QD32 x 4 Jobs (IOPS) | 1,028,079 * | 1,175,233 | 178,312 | 946,264 | 121,285 * |
*Von der Testsuite wegen Abweichungen zwischen den einzelnen Durchläufen als problematisch eingestuft.
Die Ubuntu-Installation im Labor befindet sich auf einer der beiden 1-TB-Sandisk-SN8050S-Festplatten mit PCIe Gen5 x4-Anbindung. Die Ergebnisse beziehen sich daher auf eine einzelne Festplatte und schließen die RAID-0-Konfiguration von Dell aus. Die Lesegeschwindigkeit betrug 9,433 MB/s, die Schreibgeschwindigkeit 6,766 MB/s. Dies entspricht einer Steigerung von 29 Prozent gegenüber der Festplatte des V20C beim Lesen, 30 Prozent gegenüber der des Halo und 36 Prozent gegenüber der Gen4-Festplatte im GB10. Die 20,914 MB/s des T2 basieren auf einem RAID-Verbund aus Gen5-Festplatten. Die maximale Anzahl zufälliger 4K-Lesezugriffe erreichte 2.08 Millionen IOPS, verglichen mit 3.21 Millionen beim T2, 1.18 Millionen beim V20C, 1.20 Millionen beim Halo und 932 Millionen beim GB10.
Die zufällige Schreibgeschwindigkeit erreichte einen Spitzenwert von 1.03 Millionen IOPS, was dem Wert der GB10 mit 998 IOPS entspricht. Sie lag unter der Hälfte der 2.35 Millionen IOPS der T2 und mehr als fünfmal so hoch wie die 184 IOPS der V20C und die 121 IOPS der Halo. Allerdings wies die Testsuite nach einem erneuten Testlauf auf Schwankungen bei den Ergebnissen der Micro und der Halo hin. Die maximale Temperatur des Laufwerks unter dem Kühlkörper betrug 63 °C. Da bereits ein zweites 1-TB-Laufwerk installiert ist, kann der Käufer das Striping-Volume als temporären Speicherplatz nutzen oder die Laufwerke in ein Boot-Laufwerk und eine Modellbibliothek aufteilen. Dell gibt eine Speicherkapazität von bis zu 8 TB über die beiden Steckplätze an.
Fazit
Das Dell Pro Max Micro vereint eine CUDA-Workstation in einem 2.9-Liter-Gehäuse, was sich überall dort bemerkbar macht, wo CUDA zum Einsatz kommt. Beim Durchsatz mit Ollama und der Bildgenerierung mit stable-diffusion.cpp übertraf es alle Systeme außerhalb der Dell-Produktpalette. Es verarbeitete RAG-Passagen 27 Prozent schneller als das GB10 und generierte FLUX.2-Bilder 2.7-mal schneller als eine 32-GB-Arc Pro B70 unter Vulkan und dreimal schneller als das Halo unter ROCm. Seine Gen5-SSD war die schnellste im Testfeld, und die Grafikkarte überschritt nie 73 °C.
Die Grenzen liegen im maximalen Speicher von 24 GB und der Wärmeentwicklung. Ein 27B-Modell mit 4-Bit-Quantisierung und Qwen-Image 20B passte nicht, und der 285 erreichte in allen All-Core-Tests Temperaturen zwischen 98 °C und 105 °C. Er lag bei Komprimierung, Rendering und Kodierung 17 bis 26 Prozent hinter einem Tower-PC mit identischer Kernkonfiguration zurück. Dieser Tower kompilierte den Linux-Kernel 30 Prozent schneller, und der 16-Kern-Halo war in 7-Zip 32 Prozent schneller. Die Desktop-PCs mit 128 GB Unified Memory lösten unseren OpenFOAM-Test in etwa der Hälfte der Zeit und bieten Platz für deutlich größere Modelle.
Innerhalb der Dell-Produktpalette zeigt der Pro Precision 9 T2, was der nächste Schritt bringt: etwa die dreifache LLM-Serverleistung, die 3.5-fache Bildgenerierungsrate, 74 Prozent mehr 7-Zip-Durchsatz und eine 96-GB-Karte mit Qwen3.8 27B, Qwen-Image 20B und gpt-oss 120B – allesamt Software, die nicht auf den Micro passt. Der Micro kontert mit schnelleren Kernen, einem deutlich kleineren Stellraum und flexiblen Montageoptionen, die eine Aufstellung hinter einem Monitor oder unter einem Schreibtisch ermöglichen.
Der Preis ist bei dieser Konfiguration ein weiterer wichtiger Faktor. Mit 11,999 US-Dollar auf Dell.com kostet unser Gerät dreimal so viel wie die 3,999.99 US-Dollar, die Corsair für das FlexPrime V20C und Micro Center für das AMD Ryzen AI Halo verlangen, und etwa 1.6-mal so viel wie die 7,521 US-Dollar, die Dell.com für ein 128-GB-Pro-Max mit GB10 und 1-TB-SSD anbietet. Dieses Paket beinhaltet die Business-Version mit ISV-zertifizierter RTX-PRO-Grafikkarte, vPro Enterprise, ECC-Speicheroptionen und drei Jahren ProSupport vor Ort. Organisationen, die eine verwaltete, zertifizierte Workstation mit minimalem Platzbedarf benötigen, sind die Zielgruppe für diese Konfiguration. Teams, die auf ein optimales Preis-Leistungs-Verhältnis achten, haben andere Optionen.
Bestenliste: Der Dell Pro Max Micro belegt den ersten Platz in unserer Bestenliste der Desktop-Workstations als beste Mini-Workstation mit dedizierter Grafikkarte.




Amazon