Als wir im Oktober den NVIDIA DGX Spark zum ersten Mal in den Händen hielten, war klar, dass NVIDIA es ernst meinte, KI-Leistung der Rechenzentrumsklasse auf ein kompaktes, autarkes Format zu verkleinern. Unser erstes Founders Edition-Testmuster gab uns einen ersten Einblick in die Leistungsfähigkeit der auf Grace Blackwell basierenden GB10-Plattform in einem kompakten, eigenständigen Gerät.
Seitdem hat sich das Ökosystem mit OEM-Designs weiterentwickelt. Wir haben kürzlich zwei Dell Pro Max mit GB10 zum Testen in unser Labor erhalten. Wir haben sie mit unseren anderen Spark-Systemen verglichen, um die Leistungskonsistenz, die Wärmeentwicklung und die allgemeinen Designunterschiede zwischen den verschiedenen Herstellerimplementierungen zu bewerten.
Während sich das ursprüngliche Spark auf Referenzhardware konzentrierte, verleiht Dell der Plattform eine ganz eigene Note. Das Pro Max mit GB10 verfügt über Dells L6-Gehäusedesign mit einem eleganteren, industriellen Look und einer desktopfreundlichen Ästhetik. Dadurch erhält es eine unverwechselbare Identität, ohne die GB10-Basis zu verlieren. Es wirkt weniger wie ein Entwicklerkit und mehr wie ein fertiges Produkt für den professionellen Einsatz.
Zum jetzigen Zeitpunkt ist die 1-TB-Konfiguration aufgeführt auf Dells Ladenpreis: 4,061.34 $Dell positioniert es als Premium-Desktop-KI-System. In diesem Test untersuchen wir, wie sich Dells Version der GB10-Plattform im Vergleich zu anderen von uns getesteten Spark-Systemen schlägt, wobei wir uns auf die Leistung im realen Einsatz und das Wärmeverhalten unter Dauerlast konzentrieren.
Dell Pro Max mit GB10 Spezifikationen
Die folgende Tabelle gibt einen Überblick über die verfügbaren Speicherkonfigurationen und Bauoptionen für das Dell Pro Max mit GB10.
| Normen | Dell Pro Max mit GB10 |
|---|---|
| Abmessungen und Gewicht | |
| Höhe | 2 in |
| Länge | 5.9 in |
| Tiefe | 5.9 in |
| Gewicht | 2.69 g |
| Prozessor | |
| Prozessortyp | NVIDIA GB10 (Grace Blackwell Superchip) (20 Kerne) |
| Integrierte Graphiken | NVIDIA Blackwell GPU (integriert) |
| Memory | |
| Speichertyp | LPDDR5x (Unified System Memory) |
| Speicherkonfiguration | 128 GB LPDDR5x, einheitlicher Systemspeicher |
| Speicherbandbreite | 273 GB/s (8533 MT/s) |
| Betriebssystem | |
| Unterstützte Betriebssysteme | NVIDIA DGX-Betriebssystem |
| Externe Anschlüsse und Steckplätze | |
| Netzwerkanschlüsse | Ein RJ45-Anschluss (10GbE) NVIDIA ConnectX-7 NIC (200G × 2 QSFP) |
| USB-Ports | Drei USB 3.2 Gen 2×2 Typ-C (20 Gbit/s) Ein USB 3.2 Gen 2×2 Typ-C-Anschluss mit PD |
| Videoanschluss(e) | Ein HDMI 2.1a-Anschluss |
| Netzteilanschluss | USB Typ-C (PD IN) |
| Sicherheits-Slot | Keine Präsentation |
| Wireless | |
| WLAN | WiFi 7 (AW-EM637, 2×2) |
| Bluetooth | Bluetooth 5.4 |
| Lagerung | |
| Speicheroptionen | M.2 Gen4 NVMe: 1 TB / 2 TB / 4 TB (Opal 2.0 variiert) |
| Power Adapter | |
| Typ | 280-W-Netzteil (USB Typ-C) |
Dell Pro Max mit GB10-Prozessor und Design
Insgesamt verfolgte Dell beim Design des GB10 einen anderen Ansatz als bei seinen Pro-Serien-Desktop-PCs. Die wabenförmige Frontblende verleiht dem Gerät trotz seines kompakten 1-Liter-Gehäuses ein professionelles Server-Aussehen. Die Verarbeitung ist insgesamt beeindruckend. Das anthrazitgraue Metallgehäuse vermittelt ein solides und hochwertiges Gefühl in der Hand und macht den PC sowohl portabel als auch robust – egal ob am Schreibtisch oder im Labor. Dell hat dem GB10 außerdem eine LED-Betriebsanzeige spendiert, die wir bisher nur bei diesem Modell und einer weiteren Variante auf dem Markt gesehen haben.
Der GB10 ist vorne und hinten 4,6 cm hoch und erreicht eine maximale Höhe von 5,1 cm. Dank seiner kompakten Grundfläche von 15 cm x 15 cm benötigt er nur wenig Platz und wiegt je nach Konfiguration zwischen 1,22 kg und 1,34 kg.
Auf der Rückseite des Geräts befinden sich ein RJ45 10GbE Ethernet-Anschluss, zwei QSFP 200 Gbit/s-Anschlüsse (Realtek RTL8127-CG; NVIDIA ConnectX-7), drei USB 3.2 Gen 2×2 (20 Gbit/s) Typ-C-Anschlüsse mit DisplayPort 1.4a Alt-Modus und Stromversorgung, ein HDMI 2.1a-Anschluss. Dell unterscheidet sich von der Founders Edition und anderen OEM-Designs durch die Beigabe eines größeren 280-W-USB-Typ-C-Netzteils, das üblicherweise in seinem Portfolio an tragbaren Workstations verwendet wird und ausreichend Leistungsreserven für anhaltende Arbeitslasten bietet.
Im Inneren des GB10 arbeitet das AzureWave AW-EM637 Wireless-Modul, das WLAN-Konnektivität für flexible Einsatzszenarien bietet. Der Speicher wird über einen einzelnen M.2 2230/2242-Steckplatz bereitgestellt, der PCIe Gen 4 SSDs für schnelle Bootzeiten und zügigen Datenzugriff unterstützt. Ein besonderes Highlight ist der Arbeitsspeicher: 128 GB LPDDR5X-RAM mit einer Taktfrequenz von 8533 MT/s liefern die hohe Bandbreite, die für anspruchsvolle KI-Workloads benötigt wird.
Herzstück des Systems ist der NVIDIA GB10-Chip, der speziell für KI-Inferenz und Edge-Computing entwickelt wurde. Das System wird mit vorinstalliertem NVIDIA DGX OS ausgeliefert, NVIDIAs optimierter Linux-Distribution mit vorkonfigurierten Treibern, CUDA-Bibliotheken und gängigen KI-Frameworks wie TensorFlow und PyTorch. So können Anwender KI-Anwendungen sofort und ohne aufwendige Systemkonfiguration einsetzen.
Thermische Tests des Dell Pro Max mit GB10
Um die Wärmeentwicklung der Komponenten im Dell Pro Max mit GB10 zu testen, haben wir sie mit der Founders Edition und Geräten von OEMs wie ASUS, Acer und Gigabyte verglichen. Einen detaillierteren Einblick in dieses Thema gaben wir in unserem Testbericht. Funken-Thermo-Testpapier.
Wir überwachten die Komponenten des gesamten Stacks über einen festgelegten Zeitraum mit drei Auslastungsstufen, wobei die Nutzung über etwa eine Stunde hinweg schrittweise erhöht wurde. Dadurch konnten wir das Gerät im Dauerbetrieb und in verschiedenen Auslastungsstufen beobachten. Wir überwachten die Temperaturen von CPU, GPU, Netzwerk und NVMe sowie den Gesamtstromverbrauch.
CPU Temperatur
Bei den CPU-Wärmetests erreichte das Dell Pro Max mit GB10 in Phasen mit hoher Lastspitzenleistung Werte im oberen Bereich der Vergleichsgruppe. Im Test „Prefill Heavy“ wurde nach etwa 1500 Sekunden eine Spitzentemperatur von ca. 87.7 °C gemessen, womit es zu den wärmsten Systemen während dieses Lastübergangs zählte.
In der Phase mit gleicher ISL/OSL-Leistung lag Dell leistungsmäßig eng bei den Systemen der oberen Mittelklasse und erreichte, wie ASUS und die Founders Edition, stetig Temperaturen zwischen 62 und 75 °C. Gigabyte blieb in dieser Phase deutlich kühler, während Acer die niedrigsten CPU-Temperaturen insgesamt aufwies.
Unter „Prefill Heavy“ stieg die Temperaturkurve von Dell deutlich stärker an als bei den meisten anderen Geräten und erreichte einen Spitzenwert von fast 88 °C, bevor sie in den Modus „Decode Heavy“ überging. Unter anhaltender Decodierlast stabilisierte sich das System bei 80–83 °C. Obwohl Dell damit im Vergleich zu den anderen Geräten eher zu den wärmeren Systemen zählte, zeigte es unter Dauerlast eine stabile Temperaturkontrolle ohne weitere Temperatursteigerung.
Acer erwies sich während der gesamten Testreihe als das kühlste Gerät und hielt die Temperatur in längeren Testphasen im mittleren 60°C-Bereich. Auch Gigabyte wies im Vergleich zu Dell ein moderateres Wärmebild auf.
Insgesamt wies das Dell Pro Max mit GB10 bei kurzzeitiger Arbeitslast eine der höchsten Spitzentemperaturen der CPU in der Gruppe auf, erreichte aber bei normaler Arbeitslast konkurrenzfähige Temperaturen unter Dauerlast.
GPU-Temperatur
Die GPU-Temperaturen zeigten ein ähnliches Muster. Während der Vorbelegung (Prefill Heavy) erreichte Dell eine Spitzentemperatur von etwa 80 °C und lag damit im oberen Bereich der Werte unter Lastspitzen.
Im Equal ISL/OSL-Test erreichte Dell schnell Temperaturen im mittleren 60°C-Bereich und lag damit dicht hinter ASUS und der Founders Edition. Gigabyte und Acer arbeiteten in dieser Phase bei niedrigeren Temperaturen.
Nach dem Übergang in den Dekodiermodus stabilisierte sich die Temperatur des Dell-Geräts zwischen 68 und 71 °C. Obwohl es immer noch wärmer war als die Geräte von Acer und Gigabyte, verringerte sich der Temperaturunterschied im Vergleich zur Burst-Phase. Die Founders Edition und ASUS wiesen während der anhaltenden Dekodierung ähnliche Temperaturwerte wie Dell auf.
Insgesamt wies das Dell-System zwar höhere Spitzentemperaturen der GPU auf, zeigte aber unter anhaltender Belastung ein stabiles und vorhersehbares Verhalten.
NVMe-Temperatur
Bei der Speichertemperatur unterschied sich die Dell-Konfiguration am deutlichsten von den anderen. Während des Prefill Heavy erreichte die NVMe-SSD einen Spitzenwert von etwa 63–64 °C und lag damit im oberen Bereich der Vergleichsgruppe.
Im Equal ISL/OSL-Test lag die Temperatur des Dell-Laufwerks zu Beginn im niedrigen bis mittleren 40-°C-Bereich und stieg kontinuierlich an, wobei sie im Verlauf der Phase tendenziell etwas höher war als bei den meisten Wettbewerbern. Bei anhaltender Dekodierungslast stabilisierte sich die Temperatur des Laufwerks zwischen 59 und 61 °C.
Obwohl diese Temperaturen innerhalb der Standard-NVMe-Betriebsspezifikationen liegen, deuten sie auf eine vergleichsweise engere Luftzirkulation oder Speicherplatzierung im Vergleich zu Acer und Gigabyte hin, die beide während der gleichen Phasen niedrigere, dauerhafte NVMe-Temperaturen aufwiesen.
NIC-Temperatur
Die Temperaturmessung der Netzwerkkarte zeigte ein ähnliches, jedoch weniger ausgeprägtes Muster. Dell erreichte während des Vorfüllvorgangs (Prefill Heavy) Spitzenwerte im niedrigen 70-°C-Bereich und pendelte sich während des Dekodierungsvorgangs (Decode Heavy) im oberen 60-°C-Bereich ein.
Während der gesamten Testphase lagen die Dell-Geräte im wärmeren Bereich der Gruppe, wichen aber nicht extrem von ASUS oder der Founders Edition ab. Acer erzielte erneut die insgesamt niedrigsten Temperaturen.
GPU-Leistungsaufnahme
Das Leistungsverhalten der GPU entsprach eher dem Mittelfeld der Gruppe. Dell erreichte während der Phase „Prefill Heavy“ einen Spitzenwert von ca. 70 W, etwa nach 1,400–1,600 Sekunden. Dieser Wert näherte sich kurzzeitig dem Maximalwert von 74 W der Founders Edition an, blieb aber insgesamt etwas niedriger.
Während des Equal ISL/OSL-Tests stieg der Stromverbrauch von Dell von etwa 27 W auf rund 45 W an und lag damit weitgehend im Bereich der anderen Systeme. Im Prefill Heavy-Test erreichte er kurzzeitig 70 W, bevor er sich wieder einpendelte. Im Decode Heavy-Test stabilisierte sich der Stromverbrauch von Dell zwischen 40 und 40 W und lag damit etwas über dem von Acer und ASUS, aber unter dem der Founders Edition, die im restlichen Benchmark den höchsten kontinuierlichen Stromverbrauch der GPU aufwies.
Aus Sicht der Leistungsaufnahme scheint Dell die GPU nicht übermäßig zu belasten. Die im Vergleich zu einigen Konkurrenten höheren Temperaturen dürften vielmehr auf die Gehäusebelüftung und die interne Anordnung der Komponenten zurückzuführen sein als auf eine übermäßige Leistungszufuhr.
Thermische Zusammenfassung
Bei der Überwachung von CPU, GPU, NVMe und Netzwerkkarte zeigte sich, dass das Dell Pro Max mit GB10 bei rechenintensiven Prefill-Workloads tendenziell eher im oberen Bereich der Vergleichsgruppe lag. Unter anhaltenden Decodierbedingungen stabilisierten sich die Temperaturen jedoch in einem wettbewerbsfähigen Bereich, ohne dass es zu einem unkontrollierten Temperaturanstieg kam.
Acer wies durchweg das kühlste Gesamttemperaturprofil auf, wobei Gigabyte im Vergleich zu Dell ebenfalls kühlere Temperaturen aufwies. Die Founders Edition und ASUS wiesen typischerweise ein ähnliches Temperaturverhalten wie Dell auf.
Die Daten legen letztlich nahe, dass Dell bei seiner Implementierung Wert auf ein kompaktes Design und eine Workstation-ähnliche Gehäusekonstruktion legt, wobei das thermische Verhalten unter Last stabil bleibt, jedoch bei aggressiven Lastwechseln ein geringerer Spielraum besteht als beim kühlsten Gehäuse der Reihe.
Dell Pro Max GB10 Leistungstests
Zur Evaluierung des Dell Pro Max mit GB10 testeten wir Spark-Einheiten mithilfe des vLLM Online Serving Benchmarks, der am weitesten verbreiteten Engine für Inferenz und Bereitstellung mit hohem Durchsatz für große Sprachmodelle. Der vLLM Online Serving Benchmark simuliert reale Produktions-Workloads, indem er gleichzeitig Anfragen an einen laufenden vLLM-Server sendet und wichtige Kennzahlen wie den gesamten Token-Durchsatz (Tokens pro Sekunde), die Zeit bis zum ersten Token und die Zeit pro ausgegebenem Token unter verschiedenen Lastbedingungen misst.
Unsere Tests umfassten verschiedene Modelle, darunter dichte Architekturen und mikroskalierte Datentypen, und bewerteten die Leistung anhand von drei Workload-Szenarien: Gleichmäßige ISL/OSL-Last, hohe Prefill-Last und hohe Dekodierungslast. Diese Szenarien repräsentieren unterschiedliche reale Serverlastmuster, von ausgewogenen Eingabe- und Ausgabelasten bis hin zu rechenintensiver Prompt-Verarbeitung und speicher- und bandbreitenbegrenzter Token-Generierung.
Zusätzlich zum Dell Pro Max mit GB10 haben wir die NVIDIA Founders Edition Spark als Referenzgerät sowie OEM-Systeme von ASUS, Acer und Gigabyte getestet. Dadurch konnten wir die Ergebnisse von Dell im breiteren Wettbewerbsumfeld einordnen und feststellen, wo das Unternehmen bei verschiedenen Modellen und Arbeitslasten führt, mit der Konkurrenz mithält oder hinterherhinkt.
GPT-OSS-120B
Bei Equal ISL/OSL skaliert Dell von 68.57 auf 670.83 tok/s und liegt damit über den gesamten Batch-Bereich im Mittelfeld. Prefill Heavy beginnt bei 298.60 tok/s und skaliert bis zu einer Batchgröße von 64 auf 2,707.15 tok/s. Damit gehört Dell trotz eines bescheideneren Ausgangswerts bei größeren Batchgrößen zur Spitzengruppe. Decode Heavy skaliert zwischen 37.74 und 273.54 tok/s, wobei die Skalierung im Vergleich zu den anderen Workload-Typen begrenzt bleibt.
GPT-OSS-20B
Equal ISL/OSL skaliert von 90.76 bis 1,585.28 tok/s mit stetigem Anstieg über alle Batchgrößen hinweg. Prefill Heavy erreicht 4,453.55 tok/s bei einer Batchgröße von 64 und stellt damit den höchsten absoluten Durchsatz von Dell unter den getesteten Modellen dar. Decode Heavy liegt zwischen 49.88 und 687.17 tok/s und skaliert konsistent über das gesamte Batch-Spektrum.
Qwen3-Coder 30B A3B FB8
Equal ISL/OSL skaliert von 103.76 bis 1,258.08 tok/s, wobei die Anbieter über alle Batchgrößen hinweg eng beieinander liegen. Prefill Heavy erreicht bei einer Batchgröße von 64 einen Wert von 2,018.58 tok/s, wobei die Systeme bei höheren Batchgrößen kaum noch Unterschiede aufweisen. Decode Heavy liegt zwischen 54.69 und 493.82 tok/s und zeigt eine ähnliche Clusterbildung über alle Anbieter hinweg.
Qwen3-Coder 30B A3B Basis
Die ISL/OSL-Rate (gleiche Verarbeitungsgeschwindigkeit) liegt über verschiedene Batchgrößen hinweg zwischen 62.74 und 748.04 kJ/s. Die Prefill-Rate (schwere Verarbeitung) variiert zwischen 266.80 und 1,693.68 kJ/s und bleibt bei mittleren und größeren Batchgrößen im oberen Bereich. Die Decode-Rate (schwere Verarbeitung) liegt über das gesamte Workload-Spektrum hinweg zwischen 34.11 und 365.68 kJ/s.
Llama 3.1 8B Instruct FP4
Equal ISL/OSL skaliert über verschiedene Batchgrößen hinweg von 76.03 bis 2,776.30 kB/s. Prefill Heavy positioniert Dell bei größeren Batchgrößen im Mittelfeld, wobei der Durchsatz parallel zum Rest des Stacks ansteigt. Decode Heavy liegt zwischen 40.87 und 575.50 kB/s und skaliert progressiv mit der Batchgröße.
Llama 3.1 8B Instruct FP8
Die ISL/OSL-Werte variieren zwischen 24.50 und 1,079.44 t/s, wobei die Anbieter über den gesamten Chargenbereich hinweg ähnliche Werte aufweisen. Prefill Heavy erreicht bei einer Chargengröße von 64 einen Wert von 245.35 t/s, wobei die Unterschiede zwischen den Anbietern bei höheren Chargengrößen zunehmen. Decode Heavy liegt zwischen 23.60 und 464.12 t/s, wobei die Skalierung innerhalb der Gruppe konsistent ist.
GPU-Direktspeicher
Einer der Tests, die wir mit dem Spark durchgeführt haben, war der MagnumIO GPU Direct Storage (GDS)-Test. GDS ist eine von NVIDIA entwickelte Funktion, die es GPUs ermöglicht, die CPU zu umgehen, wenn sie auf Daten zugreifen, die auf NVMe-Laufwerken oder anderen Hochgeschwindigkeitsspeichern gespeichert sind. Anstatt Daten über die CPU und den Systemspeicher zu leiten, ermöglicht GDS die direkte Kommunikation zwischen GPU und Speichergerät, wodurch die Latenz deutlich reduziert und der Datendurchsatz verbessert wird.
Dell verbaut im Pro Max GB10 die Phison ESL04TBTLCZ 4TB Gen4 SSD. Obwohl diese die Kapazität anderer 4TB-Modelle aufweist, handelt es sich um ein Gen4-Modell mit geringeren Lese- und Schreibgeschwindigkeiten.
So funktioniert GPU Direct Storage
Traditionell müssen Daten, die auf einem NVMe-Laufwerk gespeichert sind, zunächst die CPU und den Arbeitsspeicher durchlaufen, bevor sie die GPU erreichen. Dieser Prozess führt zu Engpässen, da die CPU als Vermittler fungiert, was Latenzzeiten verursacht und wertvolle Systemressourcen verbraucht. GPU Direct Storage beseitigt diese Ineffizienz, indem es der GPU ermöglicht, über den PCIe-Bus direkt auf die Daten des Speichermediums zuzugreifen. Dieser direkte Pfad reduziert den Aufwand für die Datenübertragung und ermöglicht so schnellere und effizientere Datentransfers.
KI-Workloads, insbesondere solche mit Deep Learning, sind äußerst datenintensiv. Das Training großer neuronaler Netzwerke erfordert die Verarbeitung von Terabyte an Daten, und jede Verzögerung bei der Datenübertragung kann zu einer Unterauslastung der GPUs und längeren Trainingszeiten führen. GPU Direct Storage bewältigt diese Herausforderung, indem es sicherstellt, dass die Daten so schnell wie möglich an die GPU übermittelt werden, wodurch Leerlaufzeiten minimiert und die Rechenleistung maximiert werden.
Darüber hinaus ist GDS besonders vorteilhaft für Workloads, die das Streamen großer Datensätze beinhalten, wie etwa Videoverarbeitung, Verarbeitung natürlicher Sprache oder Echtzeit-Inferenz. Durch die Reduzierung der Abhängigkeit von der CPU beschleunigt GDS die Datenbewegung und gibt CPU-Ressourcen für andere Aufgaben frei, was die Gesamtsystemleistung weiter verbessert.
GDSIO-Lesedurchsatz 16k
Betrachtet man den GDSIO-Lesedurchsatz (16K), so beginnt Dell bei etwa 0.50 GiB/s mit einem Thread und skaliert auf 1.34 GiB/s mit acht Threads, womit es ASUS mit rund 0.95 GiB/s deutlich übertrifft. Dieser Vorteil setzt sich bei 16 Threads fort, wo Dell 2.26 GiB/s gegenüber etwa 1.58 GiB/s von ASUS erreicht, und erneut bei 32 Threads, wo Dell 3.32 GiB/s gegenüber 2.55 GiB/s von ASUS erzielt.
Selbst bei 64 Threads behält Dell mit 4.35 GiB/s die Nase vorn, vor ASUS mit rund 3.68 GiB/s. Erst bei 128 Threads pendelt sich Dell bei etwa 4.30 GiB/s ein, während andere Plattformen höhere Werte erreichen. Über den gesamten Skalierungsbereich hinweg führt Dell das ASUS-System durchweg an und übertrifft es deutlich.
GDSIO-Leselatenz: Durchschnittlich 16K
Betrachtet man die durchschnittliche Leselatenz (16K) von GDSIO, bietet Dell über weite Strecken der Skalierungskurve die niedrigste Latenz. Sie beginnt bei etwa 0.03 ms mit einem Thread und liegt damit nahe an ASUS, hebt sich aber schnell bei zwei Threads (0.09 ms vs. 0.13 ms) und vier Threads (0.112 ms vs. 0.118 ms) ab. Dell behält seinen Vorteil auch bei acht Threads (0.092 ms vs. 0.13 ms), 16 Threads (0.108 ms vs. 0.155 ms) und 32 Threads (0.148 ms vs. 0.193 ms).
Bei 64 Threads bleibt Dell mit rund 0.222 ms wettbewerbsfähig und liegt damit etwas unter ASUS mit 0.267 ms. Erst bei 128 Threads steigt die Latenz sprunghaft auf etwa 0.45 ms an und erreicht damit nahezu das Niveau von ASUS. Insgesamt zeigt Dell bei niedriger bis mittlerer Thread-Auslastung durchgehend niedrigere Latenzen, bevor diese sich bei der höchsten Thread-Anzahl angleichen.
GSDIO-Schreibdurchsatz 16K
Betrachtet man den GDSIO-Schreibdurchsatz (16K), so legt Dell mit ca. 0.35 GiB/s bei einem Thread einen starken Start hin und hebt sich bei geringerer Parallelität schnell ab: Bei zwei Threads erreicht Dell etwa 0.75 GiB/s und bei vier Threads 1.55 GiB/s – deutlich vor ASUS (0.58 bzw. 0.65 GiB/s). Dell steigert den Durchsatz weiter auf 2.33 GiB/s bei acht Threads und erreicht Spitzenwerte von ca. 2.88–2.90 GiB/s bei 16 und 32 Threads, wo Dell die Spitzenposition einnimmt.
Ab 32 Threads stagniert die Leistung von Dell und sinkt leicht. Sie hält sich bei 64 Threads bei etwa 2.90 GiB/s und fällt bei 128 Threads auf rund 2.75 GiB/s ab. Acer, Gigabyte und die Founders Edition hingegen beschleunigen deutlich und erreichen bei 64 Threads über 5 GiB/s und bei 128 Threads rund 6.5 GiB/s. Insgesamt dominiert Dell den Bereich mit wenigen bis mittleren Threads, kann aber im Vergleich zu den leistungsstärksten Systemen nicht mit höheren Parallelitätsstufen mithalten.
GDSIO Schreiblatenz durchschnittlich 16K
Betrachtet man die durchschnittliche Schreiblatenz (16K) von GDSIO, bietet Dell über nahezu die gesamte Skalierungskurve die niedrigste Latenz. Sie beginnt bei etwa 0.045 ms mit einem Thread und bleibt mit 0.05 ms bei zwei Threads und 0.04 ms bei vier Threads sehr niedrig – deutlich unter ASUS mit etwa 0.06 ms bzw. 0.10 ms. Bei acht Threads liegt Dell bei rund 0.055 ms, ASUS hingegen bei etwa 0.20 ms. Der Unterschied vergrößert sich bei 16 Threads weiter: Dell erreicht hier etwa 0.085 ms gegenüber ASUS mit rund 0.35 ms. Bei 32 Threads bleibt Dell mit etwa 0.17 ms im grünen Bereich, während ASUS auf fast 0.68 ms ansteigt.
Selbst bei 64 Threads liegt Dell bei etwa 0.34 ms, während ASUS auf ca. 1.51 ms ansteigt. Erst bei 128 Threads steigt Dell steiler auf etwa 0.71 ms an, bleibt aber deutlich niedriger als ASUS, dessen Wert auf über 3.10 ms ansteigt. Insgesamt zeigt Dell im Vergleich zu ASUS eine deutlich bessere Kontrolle der Schreiblatenz bei steigender Anzahl gleichzeitiger Zugriffe.
GDSIO-Lesedurchsatz 1 Mio.
Betrachtet man den GDSIO-Lesedurchsatz (1M), so beginnt Dell bei etwa 2.6 GiB/s mit einem Thread, skaliert auf 4.3 GiB/s mit zwei Threads und erreicht etwa 5.6 GiB/s mit vier Threads. Danach stagniert die Leistung weitgehend und liegt bei etwa 5.6 GiB/s bei acht Threads, 5.4 GiB/s bei 16 Threads, 5.4 GiB/s bei 32 Threads und 5.5 GiB/s bei 64 Threads, bevor sie bei 128 Threads bei etwa 5.5 GiB/s ihren Höhepunkt erreicht.
Während Dell eine starke Skalierbarkeit in der Anfangsphase und eine stabile Leistung bietet, steigen Acer und Gigabyte bei höheren Thread-Anzahlen weiterhin über 11 GiB/s hinaus, und die Founders Edition nähert sich 10 GiB/s, wodurch sich Dell solide im Mittelfeld für den Durchsatz großer Datenblöcke positioniert.
GDSIO-Leselatenz durchschnittlich 1M
Betrachtet man die durchschnittliche Leselatenz (1M) von GDSIO, so beginnt diese bei Dell mit einem Thread bei etwa 0.35 ms, steigt mit zwei Threads auf etwa 0.45 ms und erreicht mit vier Threads ungefähr 0.70 ms. Die Latenz steigt kontrolliert weiter an bis zu acht Threads (1.50 ms) und 16 Threads (3.00 ms), erreicht dann bei 32 Threads etwa 5.90 ms und bei 64 Threads 12.40 ms, bevor sie bei 128 Threads bei etwa 25.40 ms ihren Endpunkt erreicht.
Dell skaliert zwar effizienter als ASUS, das bei 128 Threads fast 29.60 ms erreicht, liegt aber bei maximaler Auslastung immer noch über Acer und Gigabyte, die beide bei 128 Threads eher im Bereich von 11 ms bleiben. Insgesamt bietet Dell bei großen Blocklesevorgängen ein mittelmäßiges Latenzverhalten und übertrifft ASUS, bleibt aber bei der höchsten Thread-Anzahl hinter den Plattformen mit der niedrigsten Latenz zurück.
GDSIO-Schreibdurchsatz 1M
Betrachtet man den GDSIO-Schreibdurchsatz (1M), so beginnt Dell bei etwa 2.6 GiB/s mit einem Thread, steigt auf etwa 3.2 GiB/s mit zwei Threads und erreicht ungefähr 3.3 GiB/s mit vier Threads. Danach flacht die Leistung ab und liegt zwischen 8 und 64 Threads bei etwa 3.2–3.3 GiB/s, bevor sie bei 128 Threads leicht auf etwa 3.1 GiB/s abfällt.
Dell bietet zwar eine stabile und konstante Leistung beim Schreiben großer Datenblöcke, skaliert aber im Gegensatz zu Acer und Gigabyte, die bei 8 bis 64 Threads über 12 GiB/s erreichen, oder selbst der Founders Edition, die im mittleren Leistungsbereich etwa 8.7 GiB/s konstant hält, nicht mit höherer Parallelität. Insgesamt bleibt Dell zwar stabil, hinkt aber in puncto Schreibdurchsatz von 1 MB bei hoher Parallelität deutlich hinter den leistungsstärksten Systemen zurück.
GDSIO Schreibdurchschnittslatenz 1M
Betrachtet man die durchschnittliche Schreiblatenz (1M) von GDSIO, so beginnt diese bei Dell mit etwa 0.6 ms bei einem Thread, steigt allmählich auf etwa 0.8 ms bei zwei Threads und 1.2 ms bei vier Threads. Die Latenz erhöht sich weiter auf etwa 2.5 ms bei acht Threads, 5.0 ms bei 16 Threads und 9.5 ms bei 32 Threads, bevor sie bei 64 Threads rund 19.0 ms erreicht und bei 128 Threads bei etwa 40.0 ms ihren Höchstwert erreicht.
Dell skaliert zwar flüssiger als ASUS, dessen Latenz bei 64 Threads deutlich über 100 ms ansteigt, bleibt aber bei höherer Thread-Anzahl hinter Acer und Gigabyte zurück, die beide bei 128 Threads im Bereich von 14 ms bleiben. Insgesamt bietet Dell jedoch auch bei steigender Thread-Anzahl eine kontrollierte, aber durchschnittliche Schreiblatenz für große Datenblöcke.
Fazit
Der Dell Pro Max mit GB10 integriert NVIDIAs standardisierte GB10 Spark-Plattform in das Dell Pro Max-Gehäuse und bietet damit die gleiche Rechenleistung wie die anderen Systeme im Dell-Ökosystem. In vLLM-Tests blieb die Leistung bei der KI-Inferenz konstant auf dem Niveau der übrigen Spark-Systeme, mit starker Prefill-Skalierung und vorhersehbarem Verhalten bei Equal- und Decode-Workloads.
Thermisch gesehen lag Dell bei zeitintensiven Prefill-Übergängen eher im oberen Bereich der Vergleichsgruppe, was sich auch in höheren NVMe-Temperaturen im Vergleich zu einigen Konkurrenzprodukten widerspiegelte. Unter anhaltender Dekodierlast stabilisierten sich die Temperaturen jedoch in konkurrenzfähigen Bereichen, ohne Anzeichen von Instabilität oder Drosselung. Das Leistungsverhalten der GPU blieb innerhalb der für die Plattform erwarteten Grenzen.
In GPU-Direct-Storage-Tests erzielte Dell gute Ergebnisse bei der Skalierung des Lesedurchsatzes (16 Byte) und demonstrierte eine starke Kontrolle der Schreiblatenz bei niedriger bis mittlerer Parallelität. Bei größeren Übertragungen (1 MB) erreichte der Durchsatz bei höheren Thread-Anzahlen früher ein Plateau als bei Acer und Gigabyte. Dieses Verhalten scheint eher mit der spezifischen Gen4-SSD-Konfiguration als mit Einschränkungen der GB10-Architektur selbst zusammenzuhängen. Leider traf Dell bei der GB10-Implementierung einige enttäuschende Speicherentscheidungen, da keine Gen5-SSD-Optionen angeboten werden. Darüber hinaus verwendet das 2-TB-Modell eine Gen4-QLC-SSD, deren Leistung wahrscheinlich schlechter ausfallen dürfte als in diesem Test.
Innerhalb der Spark-Produktpalette bleibt der KI-Durchsatz im Kernbereich eng beieinander. Unterschiede finden sich in den Implementierungsentscheidungen, nicht in der reinen Rechenleistung.
Amazon