Dell Pro Max Micro (FCM2250) mieści 24-rdzeniowy procesor Intel Core Ultra 9 285, 24 GB karty graficznej NVIDIA RTX PRO 4000 Blackwell SFF Edition i 96 GB pamięci DDR5-6400 w obudowie o pojemności około 2.9 litra, którą Dell podaje jako pojemność około 2,9 litra. Jest to najmniejsza stacja robocza w linii komputerów stacjonarnych Pro Max i oferuje funkcje zarządzania i bezpieczeństwa vPro Enterprise znane z komercyjnych komputerów stacjonarnych Dell. Przetestowaliśmy ją pod Linuksem, porównując ją z komputerem Dell Pro Precision 9 T2 Tower, Corsair FlexPrime V20C z 32 GB pamięci Intel Arc Pro B70 oraz dwoma komputerami stacjonarnymi o pojemności 128 GB zunifikowanej pamięci, aby zmierzyć, jak oddzielna karta RTX PRO o takiej pojemności zapewnia lokalnemu sztuczeniu inteligencji.
Na wynos
- Dzięki technologii CUDA system Micro wyprzedza wszystkie systemy spoza linii Dell pod względem przepustowości Ollama i generowania obrazu. Przetworzył 268.2 przebiegów RAG na sekundę, w porównaniu z 211.4 na komputerze Dell Pro Max z GB10, 95.5 na komputerze AMD Ryzen AI Halo i 87.5 na komputerze Corsair FlexPrime V20C, a także wygenerował 11.46 obrazów FLUX.2 Klein na minutę w porównaniu z 9.96, 3.86 i 4.26.
- 24 GB pamięci graficznej wyznacza limit modelu. Qwen 3.8 27B wymaga 30 GB do obsługi serwerów, a Qwen-Image 20B wymaga 28 GB, dlatego żaden z nich nie uruchomił się na karcie RTX PRO 4000 SFF, natomiast na 32-gigabajtowym Arc Pro B70, dwóch systemach z ujednoliconą pamięcią oraz na T2 działały obydwa.
- Dell Pro Precision 9 T2 pokazuje, co oferuje kolejny model z tej serii. Przy użyciu karty RTX PRO 6000 Max-Q z 96 GB pamięci, T2 obsłużył Ministral 3 8B z szybkością 167.3 tokenów na sekundę dla jednego żądania, w porównaniu z 52.0 na Micro, 63.7 na V20C, 37.0 na GB10 i 30.6 na Halo, i obsługiwał model 27B, którego Micro nie mógł obsłużyć.
- 24-rdzeniowy procesor w tej obudowie mocno się nagrzewa i jest mniejszy niż w obudowie typu tower. Procesor Core Ultra 9 285 osiągnął temperaturę od 98°C do 105°C w każdym teście wszystkich rdzeni, uzyskał wynik 164.0 GIPS w programie 7-Zip w porównaniu do 199.6 na procesorze V20C, a kompilacja jądra Linux zajęła 918 sekund w porównaniu do 639.
- Dysk SSD Gen5 jest najszybszym dyskiem w tym porównaniu. Karta Sandisk SN8050S o pojemności 1 TB osiągnęła prędkość odczytu 9,433 MB/s, osiągnęła szczytową wartość 2.08 mln IOPS w losowym odczycie 4K i umożliwiła modelowi o pojemności 12.8 GB wygenerowanie pierwszego tokena w 5.11 sekundy.
- Cena konfiguracji testowej na stronie Dell.com wynosi 11 999 USD. Cena modelu Pro Max Micro w firmie Dell zaczyna się od 1,449 dolarów, a cena naszego egzemplarza to trzy razy więcej niż cena modelu Corsair FlexPrime V20C z procesorem AMD Ryzen AI Halo wynosząca 3,999.99 dolarów oraz około 1.6 raza więcej niż cena modelu Dell Pro Max z procesorem GB10 wynosząca 7,521 dolarów.
Gdzie znajduje się Pro Max Micro
Dell pozycjonuje Pro Max Micro jako ultrakompaktową, komercyjną stację roboczą, najmniejszy komputer stacjonarny Pro Max poniżej modeli SFF i Tower. Dell stworzył go z myślą o organizacjach, które potrzebują wydajności stacji roboczej, oddzielnej, profesjonalnej karty graficznej i certyfikacji ISV w ciasnych przestrzeniach. Można go zamontować na stojaku typu „wszystko w jednym”, na półce za monitorem, na ścianie lub pod biurkiem. Platforma obsługuje procesory Core Ultra 5, 7 i 9, które Dell generuje z mocą 85 W dzięki ulepszonemu systemowi chłodzenia, przekraczając moc 65 W.
Opcje graficzne w naszym urządzeniu obejmują kartę graficzną 70W RTX PRO 4000 Blackwell SFF Edition z 24 GB pamięci GDDR7 ECC. Pamięć systemowa to 96 GB pamięci DDR5-6400 na dwóch modułach CSODIMM (testy) lub 64 GB z modułami ECC i technologią Dell Reliable Memory Technology Pro, która mapuje uszkodzone obszary pamięci na poziomie BIOS-u. System obsługuje do 8 TB pamięci masowej w dwóch gniazdach M.2 2280, jednym PCIe Gen5 i jednym Gen4. Nasze urządzenie zawiera dwa samoszyfrujące dyski Gen5 o pojemności 1 TB, skonfigurowane przez firmę Dell jako wolumin RAID 0.
Stacje robocze Dell Pro Precision 9 T2 , wyższe od Micro, oferują pełnowymiarowe karty graficzne i więcej kanałów pamięci. W tym porównaniu Dell Pro Precision 9 T2 to najmniejszy model w linii Pro Precision 9 z procesorem Xeon, wyposażony w 24-rdzeniowy procesor Xeon 658X, 96 GB kartę graficzną RTX PRO 6000 Blackwell Max-Q i cztery kanały pamięci DDR5-6400. Dell Pro Precision 9 T4, znajdujący się wyżej, obsługuje do czterech procesorów graficznych, w zależności od karty. Włączenie T2 pokazuje, jak bardzo wyniki różnią się od najmniejszej stacji roboczej Della i wieży z jednym procesorem graficznym.
Dell wycenia Pro Max Micro na 1,449 dolarów, a testowana przez nas konfiguracja kosztuje 11 999 dolarów za sztukę na Dell.com. Cena ta obejmuje procesor Core Ultra 9 285, obudowę RTX PRO 4000 SFF, 96 GB pamięci RAM, dwa dyski SSD Gen5, moduł 5GbE, Wi-Fi 7 oraz trzyletnią usługę ProSupport z serwisem na miejscu zamiast rocznej gwarancji podstawowej. Dell sprzedaje większość tych systemów za pośrednictwem zespołów obsługi klienta i partnerów, gdzie obowiązują ceny hurtowe.
Budowa i projektowanie
Obudowa wykonana jest z czarnej żywicy i ma wymiary 206 x 79.3 x 178 mm (8.11 x 3.12 x 7.00 cala), a jej waga, w zależności od konfiguracji, waha się od 2.34 kg do 2.54 kg. Firma Dell twierdzi, że konstrukcja jest oparta na poprzedniej generacji, dzięki czemu można zamontować istniejące uchwyty i akcesoria. Zasilanie pochodzi z zewnętrznego zasilacza 280 W ze złączem baryłkowym 7.4 mm. Materiały zawierają 46.4% plastiku pochodzącego z recyklingu, a system posiada certyfikat ENERGY STAR oraz certyfikat EPEAT Gold z certyfikatem Climate+.
Na przednim panelu znajduje się port USB typu C 20 Gb/s, dwa porty USB typu A 10 Gb/s (jeden z funkcją PowerShare) oraz gniazdo słuchawkowe. Z tyłu znajdują się port USB typu C 10 Gb/s, dwa porty USB typu A 10 Gb/s i dwa porty USB typu A 5 Gb/s, trzy wyjścia DisplayPort 1.4a zintegrowanej karty graficznej oraz port RJ45 1 GbE. Karta RTX PRO 4000 SFF oferuje cztery wyjścia mini-DisplayPort, co daje łącznie siedem złączy wyświetlacza. Dell dołącza cztery adaptery do pełnowymiarowego DisplayPort.
Modułowy port z tyłu obsługuje jedną z dziewięciu opcji, a nasz model posiada moduł LAN 5GbE. Pozostałe opcje to VGA, HDMI 2.1, DisplayPort 2.1, port szeregowy z PS/2, USB typu C z trybem DisplayPort Alt Mode, dwa porty USB typu A, Thunderbolt 4 z USB typu C oraz światłowód 5G. Dell wymienia również sieć 2.5 GbE i dwuportową 10 GbE dla tej platformy, a nasz model obsługuje kartę sieciową Intel Wi-Fi 7 BE200 z Bluetooth 5.4.
Wewnątrz Dell wymienia dwa gniazda PCIe Gen4 ze złączami x8, jedno przewodowe x8 dla karty graficznej i jedno przewodowe x1, a także gniazdo M.2 2230 dla karty bezprzewodowej. Oba dyski SSD znajdują się pod wspólnym radiatorem z podkładkami termicznymi, a pamięć jest montowana w dwóch gniazdach CSODIMM. Obudowa jest w dużej mierze beznarzędziowa, a pamięć i pamięć masową można wymienić samodzielnie.
W laboratorium pokrywa odpadła po odkręceniu jednej śrubki. Po jej zdjęciu osłona wentylatora procesora otwiera się zatrzaskami, odsłaniając dwa gniazda pamięci, a karta PCIe riser wysuwa się po odkręceniu dwóch śrubek, dając dostęp do obu gniazd rozszerzeń. Nasze laboratorium stwierdziło, że system jest ogólnie prosty w serwisowaniu.
Bezpieczeństwo i zarządzanie są zgodne ze standardem Dell dla komputerów komercyjnych, z weryfikacją oprogramowania układowego SafeBIOS poza hostem, ochroną poświadczeń SafeID, weryfikacją Secured Component Verification, samoszyfrującymi dyskami Opal 2.0, gniazdem Kensington i kłódką. System jest skonfigurowany z technologią Intel vPro Enterprise i współpracuje z pakietem Dell Client Command Suite. Dell dostarcza go z systemem Windows 11 Pro, a laboratorium zastąpiło ten obraz systemem Ubuntu w celach testowych.
Nasz egzemplarz został dostarczony z przewodową myszą Dell Pro 5 Wired Fingerprint ESS Mouse (MS526C), akcesorium w cenie 44.99 USD z czytnikiem linii papilarnych, który umożliwia logowanie jednym dotknięciem za pośrednictwem funkcji Windows Hello. Mysz łączy się przez USB typu A za pomocą kabla o długości 5.91 stopy (1,7 m), domyślnie śledzi sygnał z rozdzielczością 1,600 dpi i do 6,000 dpi, a jej waga wynosi 2.57 uncji (74 g). Dell zapewnia obsługę systemów Windows 10 i Windows 11, więc czytnik nie był używany podczas testów z Linuksem. Generalnie jednak jest to miły dodatek do komputerów, które mogą być zamontowane lub z innych powodów trudno dostępne. Bezprzewodowa wersja tej myszy byłaby w takich przypadkach jeszcze bardziej przydatna.
Specyfikacja Dell Pro Max Micro
| Specyfikacja | Dell Pro Max Micro |
|---|---|
| Platforma | |
| Model | Dell Pro Max Micro (FCM2250) |
| Procesor | Intel Core Ultra 9 285, 24 rdzenie (8 rdzeni P, 16 rdzeni E), 24 wątki, do 5.6 GHz Pamięć podręczna 36 MB, dedykowany NPU 65 W, działa z mocą 85 W (Dell) |
| Grafika | NVIDIA RTX PRO 4000 Blackwell SFF Edition, 70 W 24 GB pamięci GDDR7 ECC |
| Pamięć | 96 GB (2 x 48 GB) DDR5-6400 CSODIMM, bez ECC Do 64 GB pamięci DDR5 ECC (opcjonalnie) |
| Dyski | 2 dyski SED 1TB M.2 2280 PCIe Gen5, RAID 0, jak w zestawie Sandisk SN8050S w testach Do 8 TB w dwóch gniazdach M.2 (jedno Gen5, jedno Gen4) |
| Ekspansja | 2 gniazda PCIe Gen4 x8 (podłączone x8 i x1) 1x M.2 2230 (bezprzewodowy) |
| System operacyjny | Windows 11 Pro w stanie, w jakim został dostarczony Ubuntu 26.04.1 LTS w wersji testowej |
| Łączność | |
| Porty czołowe | 1x USB typu C 20 Gb/s 2x USB typu A 10 Gb/s (jeden z funkcją PowerShare) 1x gniazdo słuchawkowe |
| Tylne porty | 1x USB typu C 10 Gb/s 2x USB typu A 10 Gb/s 2x USB typu A 5 Gb/s 1x RJ45 1GbE 1x opcjonalny port modułu (5GbE zgodnie z testami) |
| Wyświetl wyjścia | 4x mini-DisplayPort (RTX PRO 4000 SFF) 3x DisplayPort 1.4a (zintegrowany) |
| Bezprzewodowy | Karta Intel Wi-Fi 7 BE200 (2×2), Bluetooth 5.4 |
| Audio | Głośnik wewnętrzny, kodek Realtek ALC3204 Przedni port combo zestawu słuchawkowego |
| Bezpieczeństwo i zarządzanie | |
| Ochrona | Dell SafeBIOS, SafeID, bezpieczna weryfikacja komponentów Opal 2.0 SED, gniazdo Kensington, pierścień na kłódkę |
| Zarząd | Intel vPro dla przedsiębiorstw Dell Client Command Suite |
| Fizyczne i wsparcie | |
| Wymiary (wys x szer x gł) | 206 x 79.3 x 178 mm (8.11 x 3.12 x 7.00 cala), około 2.9 l |
| Waga | od 2.34 kg do 2.54 kg (od 5.15 funta do 5.59 funta) |
| Zasilanie | Adapter AC 280W |
| Gwarancja | 3 lata usługi ProSupport z serwisem na miejscu, zgodnie z konfiguracją 1 rok bazowy |
| Cena | Podstawa 1,449 XNUMX dolarów 11 999 USD w wersji testowej (Dell.com) |
Konfiguracja i metodologia testów
Dell dostarcza Pro Max Micro z systemem Windows 11 Pro. Ponieważ testujemy stacje robocze wyższej klasy z Linuksem i aktualnym kernelem, w laboratorium zainstalowaliśmy Ubuntu 26.04.1 LTS z kernelem 7.0 na jednym z dwóch dysków SSD o pojemności 1 TB, więc fabryczny wolumin RAID 0 nie ma wpływu na te wyniki. System działał z BIOS-em 1.19.1 w domyślnym profilu zasilania ze sterownikiem NVIDIA 595.99.02, a pakiet zmierzył 23.9 GB pamięci użytecznej dla GPU na karcie RTX PRO 4000 SFF.
Wyniki pochodzą z trzech wewnętrznych pakietów, począwszy od sr-client_linux 0.1, linuksowej wersji naszego pakietu klienckiego, która obejmuje lokalną sztuczną inteligencję, tworzenie treści i przechowywanie danych. Każda wartość to mediana powtórzonych przebiegów. Nasze testy porównawcze obejmują obciążenia Phoronix Test Suite i y-cruncher, a nasz pakiet serwerowy obsługuje ClickBench, OpenFOAM, STREAM i Valkey. Wersja linuksowa klienta MLPerf zawiera tylko konfiguracje Intel OpenVINO, więc nie ma wyników dla karty NVIDIA, a nasz test dostrajający nie był częścią tego testu.
Zestaw porównawczy zaczyna się od portfolio Della i dodaje trzy inne sposoby zakupu lokalnego sprzętu AI. Pro Precision 9 T2 to obudowa typu tower z 24-rdzeniowym procesorem Xeon 658X, kartą graficzną RTX PRO 6000 Blackwell Max-Q o pojemności 96 GB i 128 GB pamięci DDR5-6400. Corsair FlexPrime V20C to obudowa typu tower micro-ATX z 24-rdzeniowym procesorem Core Ultra 7 270K Plus, 32-gigabajtowym procesorem Intel Arc Pro B70 i 64 GB pamięci DDR5-6400. Dell Pro Max z pamięcią GB10 działa na 20-rdzeniowym procesorze GB10 firmy NVIDIA ze 128 GB zunifikowanej pamięci na obrazie Ubuntu 24.04 firmy NVIDIA, a AMD Ryzen AI Halo działa na 16-rdzeniowym procesorze Ryzen AI Max+ 395 ze 128 GB zunifikowanej pamięci LPDDR5X na obrazie deweloperskim Linux firmy AMD.
Halo korzystało z sr-client_linux 0.1, harness v3.6 i pakietu serwerowego r5.28 na obrazie deweloperskim AMD. GB10 korzystał z wcześniejszych wersji harness i pakietu serwerowego z tymi samymi wersjami aplikacji, a te trzy systemy operacyjne mają różne kompilatory, co wpływa na testy tworzone na podstawie kodu źródłowego, takie jak kompilacja jądra. Micro, T2 i V20C korzystają z Ubuntu 26.04.1 i tworzą najściślejszą grupę.
Ścieżki oprogramowania różnią się w zależności od dostawcy GPU i wpływają na wyniki AI. Micro, T2 i GB10 wykorzystywały CUDA w plikach llama.cpp, Ollama i stable-diffusion.cpp. Halo korzystało z ROCm firmy AMD we wszystkich trzech. Na V20C plik llama.cpp działał na zapleczu SYCL, a Ollama i stable-diffusion.cpp działały przez Vulkan, ponieważ natywna ścieżka Ollama nie umieszczała żadnego modelu na karcie Arc. Ta różnica w dużej mierze odpowiada za przewagę Micro w testach Ollama i obrazach, które zostaną omówione poniżej.
| Konfiguracja | CPU | Pamięć | GPU | Boot Drive | System operacyjny |
|---|---|---|---|---|---|
| Dell Pro Max Micro (FCM2250) | Rdzeń Ultra 9 285, 24 rdzeni | 96 GB DDR5-6400 (2 x 48 GB) | NVIDIA RTX PRO 4000 Blackwell SFF, 23.9 GB pamięci użytkowej | 1TB Sandisk SN8050S, PCIe Gen5 | Ubuntu 26.04.1 LTS, jądro 7.0 |
| Dell Pro Precision 9 T2 (PW9T2260) | Xeon 658X, 24 rdzenie | 128 GB DDR5-6400 (4 x 32 GB) | NVIDIA RTX PRO 6000 Blackwell Max-Q, 95.6 GB pamięci użytkowej | Dyski Samsung PM9E1 Gen5, 2TB w układzie pasmowym | Ubuntu 26.04.1 LTS, jądro 7.0 |
| Corsair FlexPrime V20C | Core Ultra 7 270K Plus, 24 rdzenie | 64 GB DDR5-6400 (4 x 16 GB) | Intel Arc Pro B70, 31.9 GB pamięci do wykorzystania | 1TB XPG MARS 970 PLUS, PCIe Gen5 | Ubuntu 26.04.1 LTS, jądro 7.0 |
| Dell Pro Max z GB10 (FCM1253) | NVIDIA GB10, 20 rdzeni | 128 GB LPDDR5X-8533, zunifikowana | NVIDIA GB10, 121.6 GB pamięci użytkowej | 4TB PCIe Gen4 | Ubuntu 24.04.5 LTS, jądro NVIDIA 7.0 |
| AMD Ryzen AI Halo | Ryzen AI Max+ 395, 16 rdzeni | 128 GB LPDDR5X-8000, zunifikowana | Radeon 8060S (zintegrowana), 95.5 GB pamięci użytkowej | 2TB Micron 4600, łącze PCIe Gen4 | Obraz deweloperski AMD Linux, jądro 7.2 |
Lokalna wydajność sztucznej inteligencji
Karta RTX PRO 4000 SFF zapewnia karcie Micro 24 GB dedykowanej pamięci graficznej, a w zestawie zmierzono 23.9 GB dostępnej pamięci. To wystarcza dla modelu 20B z agentem i modeli Ministral w naszej ofercie. Karta V20C o pojemności 32 GB oferuje również 30 GB potrzebne modelowi 27B, a karta T2 o pojemności 96 GB i systemy z pamięcią ujednoliconą o pojemności 128 GB kwalifikują się do większych modeli, których Micro nie jest w stanie obsłużyć.
Obsługa LLM
| Serwer llama.cpp (im wyższy, tym lepiej, chyba że zaznaczono inaczej) | Dell Pro Max Micro (Ultra 9 285, RTX PRO 4000 SFF 24 GB) | Dell Pro Precision 9 T2 (Xeon 658X, RTX PRO 6000 Max-Q 96 GB) | Corsair FlexPrime V20C (Ultra 7 270K Plus, Arc Pro B70 32GB) | Dell Pro Max z dyskiem GB10 (128 GB w wersji zunifikowanej) | AMD Ryzen AI Halo (Ryzen AI Max+ 395, 128 GB zunifikowany) |
|---|---|---|---|---|---|
| Ministral 3 3B, 1 wniosek (żetony/y) | 80.7 | 243.8 | 84.9 | 53.2 | 43.0 |
| Ministral 3 3B, 4 wnioski (tokeny/y) | 201.5 | 602.6 | 213.3 | 139.8 | 105.1 |
| Ministral 3 3B, 1 żądanie, czas do pierwszego tokena (ms, im niższy tym lepiej) | 666 | 197 | 590 | 572 | 1,659 |
| Ministral 3 8B, 1 wniosek (żetony/y) | 52.0 | 167.3 | 63.7 | 37.0 | 30.6 |
| Ministral 3 8B, 4 wnioski (tokeny/y) | 108.9 | 384.9 | 141.8 | 97.2 | 66.6 |
| Ministral 3 8B, 1 żądanie, czas do pierwszego tokena (ms, im niższy tym lepiej) | 1,477 | 427 | 1,362 | 1,398 | 4,602 |
| Qwen3.8 27B, 1 żądanie (tokeny/s) | Nie pasowało | 53.8 | 19.8 | 11.2 | 9.1 |
| Qwen3.8 27B, 4 żądań (tokenów/s) | Nie pasowało | 113.5 | 33.5 | 27.1 | 18.4 |
| Qwen3.8 27B, 8 żądań (tokenów/s) | Nie pasowało | 155.8 | 35.4 | 35.6 | 20.1 |
| Qwen3.8 27B, 1 żądanie, czas do pierwszego tokena (ms, im niższy, tym lepiej) | Nie pasowało | 2,771 | 9,005 | 9,207 | 24,024 |
Usługa LLM obsługuje serwer llama.cpp z 4,096 tokenami na żądanie i 1,024 tokenami na wyjściu w modelach Ministral 3. Model Micro obsłużył model 3B dla jednego użytkownika z prędkością 80.7 tokenów na sekundę, o 5% wolniej niż Arc Pro B70 w modelu V20C i o 52% szybciej niż model GB10, a model 8B z prędkością 52.0 tokenów na sekundę, o 18% wolniej niż model V20C i o 41% szybciej niż model GB10. Przy czterech równoczesnych żądaniach dostarczył odpowiednio 201.5 i 108.9 tokenów na sekundę, o 44 i 12% szybciej niż model GB10.
Zintegrowana karta graficzna Radeon 8060S z Halo wypadła gorzej od wszystkich innych systemów w tym teście. Model 3B obsłużył 43.0 tokenów na sekundę dla jednego żądania i 105.1 dla czterech, czyli o połowę mniej niż Micro, a model 8B obsłużył 30.6 i 66.6 tokenów na sekundę. Przetwarzanie natychmiastowe również było wolniejsze, ze średnią 1.7 sekundy dla modelu 3B i 4.6 sekundy dla modelu 8B, w porównaniu z 0.7 i 1.5 sekundy dla Micro.
Pro Precision 9 T2 zapewnia znaczny wzrost wydajności w porównaniu z Micro. Jego karta RTX PRO 6000 Max-Q obsłużyła modele 3B i 8B z prędkością odpowiednio 243.8 i 167.3 tokenów na sekundę przy jednym żądaniu, osiągając 3.0 i 3.2 razy większą przepustowość niż Micro. Przy czterech równoczesnych żądaniach przepustowość wzrosła odpowiednio do 602.6 i 384.9 tokenów na sekundę. Uruchomiono również Qwen3.8 27B z prędkością 53.8 tokenów na sekundę dla jednego żądania i 155.8 tokenów na sekundę dla ośmiu, z pierwszym tokenem w 2.8 sekundy.
Qwen3.8 27B w Q4_K_M potrzebuje 30 GB pamięci użytecznej dla GPU na swoje wagi i pamięć podręczną KV na jedno żądanie, więc 23.9 GB pamięci Micro nie mogło go uruchomić. V20C generował 19.8 tokenów na sekundę na tym modelu dla jednego żądania; GB10 generował 11.2, a Halo 9.1. Ten sam limit uniemożliwiał działanie gpt-oss 120B, który wymaga 90 GB, oraz MiniMax M2.7 o pojemności 129.3 GB poza Micro. Do obsługi, 24 GB wystarcza na modele z grubsza klasy 20B przy kwantyzacji 4-bitowej, a wszystko, co ma większą pojemność, powinno być na większej karcie lub w systemie zunifikowanej pamięci.
Ładowanie modelu i agent kodujący
| gpt-oss:20b (Ollama 0.40.3) | Dell Pro Max Micro (Ultra 9 285, RTX PRO 4000 SFF 24 GB) | Dell Pro Precision 9 T2 (Xeon 658X, RTX PRO 6000 Max-Q 96 GB) | Corsair FlexPrime V20C (Ultra 7 270K Plus, Arc Pro B70 32GB) | Dell Pro Max z dyskiem GB10 (128 GB w wersji zunifikowanej) | AMD Ryzen AI Halo (Ryzen AI Max+ 395, 128 GB zunifikowany) |
|---|---|---|---|---|---|
| gpt-oss:20b zimne ładowanie do pierwszego tokena (s, im niższy tym lepszy) | 5.11 | 5.57 | 6.29 | 6.86 | 4.20 |
| gpt-oss:20b ciepłe ładowanie do pierwszego tokena (s, im niższy tym lepszy) | 3.12 | 3.47 | 3.18 | 6.36 | 4.03 |
| Agent kodujący, pomyślne przebiegi (z 3) | 1* | 2* | 3 | 3 | 2* |
| Agent kodujący, mediana czasu ściany (s, im niższy tym lepszy) | 80 * | 107 * | 368 | 221 | 282 * |
| Agent kodujący, szybkość generacji (tokeny/s) | 76.2 | 225.0 | 32.2 | 53.9 | 41.2 |
*Oznaczone przez pakiet: Dell Pro Max Micro przeszedł jeden z trzech testów agenta, a Pro Precision 9 T2 i AMD Ryzen AI Halo przeszły dwa z trzech testów.
Test obciążenia modelu mierzy czas Ollama od uruchomienia do pierwszego tokena na gpt-oss:20b, modelu o pojemności 12.8 GB, w stanie zimnym z dysku SSD i ciepłym z pamięci podręcznej stronicowania. Micro osiągnął pierwszy token w 5.11 sekundy w stanie zimnym i 3.12 sekundy w stanie ciepłym, co jest najszybszym obciążeniem w grupie. Obciążenie zimne i ciepłe zajęło 5.57 i 3.47 sekundy dla T2, 6.29 i 3.18 sekundy dla V20C oraz 6.86 i 6.36 sekundy dla GB10. Halo miał najszybsze obciążenie zimne – 4.20 sekundy, a rozgrzanie zajęło 4.03 sekundy. Dysk Gen5 Micro odczytał 6,636 MB/s podczas obciążenia zimnego, ze szczytową wartością 8,754 MB/s, więc pamięć masowa dotrzymuje kroku czasowi wykonania.
Test agenta kodującego uruchamia Crush w kontekście gpt-oss:20b z 64-kilobajtowym kontekstem, wykonując zadanie programistyczne o stałej długości, trzykrotnie. Micro wygenerował 76.2 tokena na sekundę, wyprzedzając GB10 z wynikiem 53.9, Halo z wynikiem 41.2 i V20C z wynikiem 32.2, co stanowi około jedną trzecią wartości T2 (225.0). Jeden przebieg z wynikiem pozytywnym zakończył się w 80 sekund. Pozostałe dwa przebiegi zakończyły się 0 i 1 z 11 testów z wynikiem pozytywnym, podczas gdy T2 i Halo zaliczyły dwa z trzech, a V20C i GB10 wszystkie trzy. Liczba przebiegów w tym modelu różni się w zależności od przebiegu, więc szybkość generowania jest wynikiem sprzętowym.
RAG w dwóch skalach
| RAG, 20 963 przejść (Ollama 0.40.3) | Dell Pro Max Micro (Ultra 9 285, RTX PRO 4000 SFF 24 GB) | Dell Pro Precision 9 T2 (Xeon 658X, RTX PRO 6000 Max-Q 96 GB) | Corsair FlexPrime V20C (Ultra 7 270K Plus, Arc Pro B70 32GB) | Dell Pro Max z dyskiem GB10 (128 GB w wersji zunifikowanej) | AMD Ryzen AI Halo (Ryzen AI Max+ 395, 128 GB zunifikowany) |
|---|---|---|---|---|---|
| Połknięcie, liczba przejść na sekundę | 268.2 | 392.1 | 87.5 | 211.4 | 95.5 |
| Szybkość pobierania i osadzania (tokeny/s) | 43,430 | 63,486 | 14,162 | 34,227 | 15,468 |
| Odpowiedź, szybkość generacji (tokeny/s) | 137.0 | 402.8 | 76.5 | 93.2 | 80.0 |
| Odpowiedź: czas na pierwszy żeton p50 (im niższy tym lepszy) | 0.16 | 0.11 | 0.30 | 0.15 | 0.42 |
| Pytanie do odpowiedzi p50 (s, im niżej tym lepiej) | 0.22 | 0.14 | 0.39 | 0.22 | 0.50 |
Test RAG zawiera 20 963 fragmenty SQuAD, pobiera pięć najlepszych odpowiedzi dla każdego pytania i odpowiada za pomocą Phi-4-mini, a wszystko to w Ollamie. Micro pobierał 268.2 fragmentów na sekundę, w porównaniu do 211.4 na GB10, 95.5 na Halo i 87.5 na V20C. To 27-procentowa przewaga nad GB10 i około trzykrotnie więcej niż w przypadku karty Arc na Vulkanie, a T2 osiągnął 392.1. Odpowiedzi generowane były z szybkością 137.0 tokenów na sekundę na Micro, w porównaniu do 93.2, 80.0 i 76.5, przy czym T2 osiągnął 402.8, a mediana czasu od pytania do odpowiedzi na Micro wyniosła 0.22 sekundy, porównywalna z GB10.
| RAG na dużą skalę, 1 002 067 przejść | Dell Pro Max Micro (Ultra 9 285, RTX PRO 4000 SFF 24 GB) | Dell Pro Precision 9 T2 (Xeon 658X, RTX PRO 6000 Max-Q 96 GB) | Corsair FlexPrime V20C (Ultra 7 270K Plus, Arc Pro B70 32GB) | AMD Ryzen AI Halo (Ryzen AI Max+ 395, 128 GB zunifikowany) |
|---|---|---|---|---|
| Połknięcie, 1 mln przejść (przejść/s) | 313.9 | 1,140.9 | 321.4 | 65.8 |
| Połknij czas na ścianie (s, im mniej tym lepiej) | 3,192 | 878 | 3,118 | 15,230 |
| Budowa indeksu HNSW (s, im niższy tym lepiej) | 78.9 | 46.3 | 73.4 | 68.9 |
| Wyszukiwanie HNSW, ef 64 (zapytań/s) | 27,359 | 45,085 | 29,643 | 34,012 |
| Wyszukiwanie HNSW, ef 256 (zapytań/s) | 7,664 | 13,478 | 8,285 | 9,649 |
| Pytanie do odpowiedzi p50 (s, im niżej tym lepiej) | 0.20 | 0.12 | 0.36 | 0.46 |
Większy test RAG osadza milion fragmentów Wikipedii w pliku llama.cpp, buduje indeks HNSW na procesorze i go przeszukuje. Micro pobierał 313.9 fragmentów na sekundę i zakończył działanie w 53 minuty, 2 procent za V20C, którego backend SYCL jest znacznie mocniejszy niż ścieżka Vulkan. Szybkości osadzań Micro w obu testach różniły się o 3 procent, odpowiednio 43 430 i 44 440 tokenów na sekundę. T2 osadzał ten sam milion fragmentów w 878 sekund (poniżej 15 minut), 3.6 razy szybciej niż Micro.
Praca po stronie procesora przypadła V20C z niewielką przewagą, a T2 z dużą. Micro zbudował indeks w 78.9 sekundy, w porównaniu z 73.4 i 46.3 sekundy, i przeszukał go z szybkością 27 359 zapytań na sekundę, w porównaniu z 29 643 i 45 085 przy ustawieniu ef na 64, a wskaźnik recall w porównaniu z wyszukiwaniem dokładnym wyniósł 91.4%. Generowanie odpowiedzi w tym teście wraca do Ollama, a mediana czasu odpowiedzi Micro, wynosząca 0.20 sekundy, znacznie przewyższała 0.36 sekundy w V20C. GB10 nie przeprowadził jeszcze testu miliona przejść.
Halo ukończyło pobieranie miliona przejść w 15 230 sekund (około 4.2 godziny) z prędkością 65.8 przejść na sekundę, czyli mniej więcej jedną piątą prędkości Micro. Jego 16-rdzeniowy procesor poradził sobie lepiej z CPU, budując indeks w 68.9 sekundy i przeszukując go z prędkością 34 012 zapytań na sekundę przy ustawieniu ef na 64, wyprzedzając Micro i V20C w obu przypadkach, ze średnią czasu pytania do odpowiedzi wynoszącą 0.46 sekundy.
Generowanie obrazu
| stable-diffusion.cpp, 1024×1024 (obrazów/min, im więcej, tym lepiej) | Dell Pro Max Micro (Ultra 9 285, RTX PRO 4000 SFF 24 GB) | Dell Pro Precision 9 T2 (Xeon 658X, RTX PRO 6000 Max-Q 96 GB) | Corsair FlexPrime V20C (Ultra 7 270K Plus, Arc Pro B70 32GB) | Dell Pro Max z dyskiem GB10 (128 GB w wersji zunifikowanej) | AMD Ryzen AI Halo (Ryzen AI Max+ 395, 128 GB zunifikowany) |
|---|---|---|---|---|---|
| FLUX.2 klein 4B Q4_0 (images/min) | 11.46 | 40.53 | 4.26 | 9.96 | 3.86 |
| FLUX.2 klein 4B BF16 (obrazów/min) | 10.93 | 41.32 | 2.40 | 10.28 | 4.17 |
| Z-Image Turbo 6B Q4_0 (obrazów/min) | 4.39 | 16.97 | 2.11 | 3.68 | 1.85 |
| Z-Image Turbo 6B BF16 (obrazów/min) | 3.95 | 17.27 | 0.96 | 3.94 | 0.47 |
| Qwen-Image 20B Q4_0 (obrazów/min) | Nie pasowało | 2.42 | 0.35 | 0.50 | 0.23 |
| Qwen-Image 20B Q8_0 (obrazów/min) | Nie pasowało | 2.39 | Nie pasowało | 0.48 | 0.23 |
Generowanie obrazu było najsilniejszym wynikiem Micro w porównaniu z trzema systemami spoza linii Dell. W przypadku stable-diffusion.cpp z CUDA, system wygenerował 11.46 obrazów na minutę na FLUX.2 klein 4B w Q4_0, o 15 procent więcej niż GB10 z wynikiem 9.96, 2.7 razy więcej niż V20C z wynikiem 4.26 na Vulkanie i trzy razy więcej niż Halo z wynikiem 3.86 na ROCm. Z-Image Turbo 6B osiągnął 4.39 obrazów na minutę, w porównaniu z 3.68, 2.11 i 1.85. Precyzja nieznacznie poprawiła wynik, z BF16 na poziomie 10.93 na FLUX.2 klein i 3.95 na Z-Image Turbo. Karta T2 wygenerowała 40.53 obrazów FLUX.2 na minutę, 3.5 razy więcej niż Micro.
Pojemność pamięci ponownie stanowi ograniczenie w największym modelu. Qwen-Image 20B potrzebuje 28 GB pamięci do wykorzystania przez GPU w trybie Q4_0 i 38 GB w trybie Q8_0, więc nie załadował karty 24 GB. Model V20C uruchomił wersję Q4_0 z prędkością 0.35 klatek na minutę; GB10 uruchomił obie wersje z prędkością 0.50 i 0.48; Halo uruchomił obie wersje z prędkością 0.23; a T2 uruchomił obie wersje z prędkością 2.42 i 2.39. Klienci, którzy potrzebują tego modelu lokalnie, powinni zaplanować więcej pamięci graficznej niż ta obudowa jest w stanie pomieścić, ponieważ RTX PRO 4000 SFF to najlepsza karta oferowana przez Della w serii Micro.
Wydajność procesora
7-Zip, Blender, HandBrake i LLVM
| Testowanie | Dell Pro Max Micro (Ultra 9 285, RTX PRO 4000 SFF 24 GB) | Dell Pro Precision 9 T2 (Xeon 658X, RTX PRO 6000 Max-Q 96 GB) | Corsair FlexPrime V20C (Ultra 7 270K Plus, Arc Pro B70 32GB) | Dell Pro Max z dyskiem GB10 (128 GB w wersji zunifikowanej) | AMD Ryzen AI Halo (Ryzen AI Max+ 395, 128 GB zunifikowany) |
|---|---|---|---|---|---|
| 7-Zip, wszystkie wątki, łącznie (GIPS) | 164.0 | 285.1 | 199.6 | 149.5 | 215.8 |
| 7-Zip, jeden wątek, łącznie (GIPS) | 10.90 | 9.27 | 11.26 | 9.68 | 9.66 |
| Blender 4.5 Monster (próbki/min) | 243.1 | 400.7 | 330.4 | Brak kompilacji arm64 | 285.3 |
| Blender 4.5 Junkshop (próbki/min) | 161.6 | 266.9 | 212.5 | Brak kompilacji arm64 | 173.9 |
| Blender 4.5 Classroom (próbki/min) | 114.5 | 187.2 | 152.8 | Brak kompilacji arm64 | 144.0 |
| Hamulec ręczny x265 (fps) | 39.7 | 41.5 | 49.6 | Brak kompilacji arm64 | 44.5 |
| Hamulec ręczny SVT-AV1 (fps) | 147.9 | 198.5 | 177.4 | Brak kompilacji arm64 | 194.1 |
| Kompilacja LLVM (im niższa tym lepsza) | 173 | 106 | 136 | 175 | 149 |
Core Ultra 9 285 to 65-watowy procesor do komputerów stacjonarnych, który w procesorze Micro firmy Dell ma moc 85 W. W procesorze V20C ma on 24-rdzeniowy układ, taki sam jak procesor 270K Plus. Micro uzyskał 164.0 GIPS w 7-Zip, o 18 procent mniej niż V20C (199.6 GIPS), i był od 24 do 26 procent wolniejszy w trzech scenach Blendera. V20C korzysta z obudowy typu tower i 360-milimetrowego chłodzenia cieczą. Kodowanie HandBrake'a x265 i SVT-AV1 było odpowiednio o 20 i 17 procent wolniejsze. Blender i HandBrake nie mają w naszym pakiecie kompilacji Linuxa dla arm64, więc GB10 nie radzi sobie w tym względzie dobrze.
W porównaniu z GB10, Micro wyprzedził o 10 procent w trybie 7-Zip w trybie wielowątkowym i o 13 procent w trybie jednowątkowym, a kompilacja LLVM zakończyła się w 173 sekundy w porównaniu ze 175 sekundami. V20C ukończył tę kompilację w 136 sekund. Jak na system tej wielkości, wynik jest rozsądny, a porównanie pokazuje koszt współczynnika kształtu: procesor o tym samym rozkładzie rdzeni zapewnia o 22 procent większą przepustowość w trybie 7-Zip i od 32 do 36 procent większą przepustowość w trybie Blender w obudowie chłodzonej cieczą niż 285 o mocy 85 W i pojemności 2.9 litra.
16-rdzeniowy, 32-wątkowy Ryzen AI Max+ 395 z Halo wyprzedził również Micro w testach wielowątkowych. W 7-Zip uzyskał 215.8 GIPS, czyli o 32% więcej; w scenach w Blenderze wyprzedził go od 8 do 26%; zakodował SVT-AV1 z prędkością 194.1 kl./s w porównaniu do 147.9; i zbudował LLVM w 149 sekund w porównaniu do 173. Micro utrzymał 13-procentową przewagę w testach jednowątkowych 7-Zip.
Procesor T2 skaluje wyniki wielowątkowe zgodnie z oczekiwaniami dla 24-rdzeniowego, 48-wątkowego Xeona w obudowie typu tower. Uzyskał 285.1 GIPS w 7-Zip, o 74% więcej niż Micro, zapewnił o 63 do 65 procent większą przepustowość w Blenderze i ukończył kompilację LLVM w 106 sekund w porównaniu do 173 sekund. Prędkość na rdzeń wypada odwrotnie – Core Ultra 9 285 w Micro wyprzedza Xeona 658X o 18 procent w jednowątkowym teście 7-Zip i o 14 procent w jednowątkowym teście Stockfish, a także o 18 do 20 procent szybciej w jednowątkowych testach Pythona.
Sztokfisz, sito główne i pyton
| Testowanie | Dell Pro Max Micro (Ultra 9 285, RTX PRO 4000 SFF 24 GB) | Dell Pro Precision 9 T2 (Xeon 658X, RTX PRO 6000 Max-Q 96 GB) | Corsair FlexPrime V20C (Ultra 7 270K Plus, Arc Pro B70 32GB) | Dell Pro Max z dyskiem GB10 (128 GB w wersji zunifikowanej) | AMD Ryzen AI Halo (Ryzen AI Max+ 395, 128 GB zunifikowany) |
|---|---|---|---|---|---|
| Sztokfisz, jeden nit (Mnps) | 2.02 | 1.77 | 2.08 | 1.66 | 2.15 |
| Sztokfisz, wszystkie wątki (Mnps) | 31.58 | 45.44 | 40.55 | 23.86 | 38.74 |
| sito główne do 10^12, wszystkie nitki (s, im niższy tym lepszy) | 8.72 | 7.51 | 6.48 | 9.16 | 6.29 |
| sito główne do 10^11, jednoniciowe (s, im niższe tym lepsze) | 9.07 | 9.66 | 9.03 | 12.32 | 6.76 |
| PyPerformance go (ms, im niższy tym lepiej) | 57.8 | 72.1 | 56.0 | 85.5 | 69.1 |
| PyPerformance nbody (ms, im mniej tym lepiej) | 38.9 | 47.3 | 36.3 | 55.0 | 43.1 |
Wielowątkowy Stockfish osiągnął 31.58 Mnps na platformie Micro, ustępując T2 z wynikiem 45.44, V20C z wynikiem 40.55 i Halo z wynikiem 38.74, wyprzedzając tym samym GB10 o 32 procent. Test primesieve do 10^12 zakończył się w 8.72 sekundy, w porównaniu z 7.51, 6.48, 9.16 i 6.29 na platformie Halo. Wyniki testów jednowątkowych między dwoma systemami Core Ultra były zbieżne z 3 procentami w Stockfish i na tym samym poziomie w primesieve, odpowiednio 9.07 i 9.03 sekundy. Testy jednowątkowe w Pythonie były od 3 do 7 procent gorsze od V20C i zakończyły się około 30 procent szybciej niż na GB10 z procesorem ARM.
GROMACS i OpenBLAS
| Testowanie | Dell Pro Max Micro (Ultra 9 285, RTX PRO 4000 SFF 24 GB) | Dell Pro Precision 9 T2 (Xeon 658X, RTX PRO 6000 Max-Q 96 GB) | Corsair FlexPrime V20C (Ultra 7 270K Plus, Arc Pro B70 32GB) | Dell Pro Max z dyskiem GB10 (128 GB w wersji zunifikowanej) | AMD Ryzen AI Halo (Ryzen AI Max+ 395, 128 GB zunifikowany) |
|---|---|---|---|---|---|
| GROMACS benchMEM, 16 rdzeni (ns/dzień) | 52.68 | 62.66 | 67.23 | 27.81 | 72.39 |
| GROMACS benchMEM, wszystkie rdzenie (ns/dzień) | 55.52 | 81.56 | 77.77 | 34.61 | 70.95 |
| OpenBLAS DGEMM, wszystkie rdzenie (GFLOPS) | 791.6 | 2,318.9 | 1,100.0 | 418.0 | 1,610.3 |
| OpenBLAS LU rozwiązuje N=20000, wszystkie rdzenie (GFLOPS) | 717.0 | 1,615.8 | 938.6 | 393.0 | 1,391.3 |
| Opóźnienie pamięci, strony 4KiB (ns, im mniej tym lepiej) | 129.0 | 143.8 | 105.2 | 123.8 | 162.2 |
GROMACS benchMEM osiągnął 52.68 ns/dzień na 16 rdzeniach i 55.52 ns/dzień na wszystkich 24, co stanowi odpowiednio 22 i 29 procent mniej niż w przypadku V20C oraz 89 i 60 procent więcej niż w przypadku GB10. OpenBLAS DGEMM osiągnął 791.6 GFLOPS na wszystkich rdzeniach, w porównaniu z 1,100.0 ns w przypadku V20C i 418.0 ns w przypadku GB10; Xeon w T2, z AVX-512 i czterema kanałami pamięci, osiągnął 2,318.9 ns. GROMACS był również najbardziej wymagającym testem w tym zestawie dla tej obudowy, a niewielki wzrost z 16 do 24 rdzeni jest zgodny z procesorem pracującym na granicy swoich możliwości termicznych. Opóźnienie pamięci na stronach 4 KB wyniosło 129.0 ns, w porównaniu z 105.2 ns w przypadku V20C i 123.8 ns w przypadku GB10.
Halo uzyskał najszybszy wynik GROMACS dla 16 rdzeni w grupie – 72.39 ns/dzień, wyprzedzając o 37% Micro, i osiągnął 70.95 ns/dzień na wszystkich 32 wątkach, ustępując T2 z wynikiem 81.56 ns/dzień i V20C z wynikiem 77.77 ns/dzień. Osiągnął 1,610.3 GFLOPS w OpenBLAS DGEMM, co stanowi wynik około dwukrotnie wyższy niż Micro i drugi po T2, a jego opóźnienie pamięci było najwyższe w grupie – 162.2 ns/dzień.
Obciążenia serwerowe i HPC
Te wyniki pochodzą z naszego zestawu testowego i pakietu serwerowego, które działają wyłącznie na Linuksie. Traktują one system Micro jako ogólny węzeł obliczeniowy, który kompiluje, kompresuje, obsługuje żądania internetowe i buforowania, uruchamia zapytania analityczne i rozwiązuje przypadki obliczeniowe CFD. Każdy system działa na innej dystrybucji Linuksa i kompilatorze, z wyjątkiem systemów Micro, T2 i V20C, które korzystają z Ubuntu 26.04.1 i zapewniają najbardziej bezpośrednie porównanie.
| Phoronix Test Suite i y-cruncher (im wyższa wartość, tym lepiej, chyba że zaznaczono inaczej) | Dell Pro Max Micro (Ultra 9 285, RTX PRO 4000 SFF 24 GB) | Dell Pro Precision 9 T2 (Xeon 658X, RTX PRO 6000 Max-Q 96 GB) | Corsair FlexPrime V20C (Ultra 7 270K Plus, Arc Pro B70 32GB) | Dell Pro Max z dyskiem GB10 (128 GB w wersji zunifikowanej) | AMD Ryzen AI Halo (Ryzen AI Max+ 395, 128 GB zunifikowany) |
|---|---|---|---|---|---|
| Kompilacja jądra Linux z czasem, allmodconfig (s, im niższa wartość, tym lepiej) | 918 | 537 | 639 | 892 | 727 |
| Stopień kompresji 7-Zip, wszystkie wątki (MIPS) | 150,543 | 264,940 | 186,668 | 154,634 | 178,530 |
| Stopień dekompresji 7-Zip, wszystkie wątki (MIPS) | 88,641 | 195,348 | 128,723 | 106,148 | 143,464 |
| Stopień kompresji 7-Zip, jeden wątek (MIPS) | 9,351 | 9,100 | 10,260 | 7,474 | 8,019 |
| OpenSSL AES-256-GCM, wszystkie wątki (GB/s) | 110.0 | 371.2 | 171.4 | 97.1 | 298.6 |
| nginx, 1,000 połączeń (żądań/s) | 155,203 | 323,567 | 225,708 | 114,909 | 223,433 |
| nginx, 4,000 połączeń (żądań/s) | 109,352 | 244,008 | 155,146 | 101,613 | 190,454 |
| y-cruncher Pi, 1B cyfr (s, im mniej, tym lepiej) | 30.10 | 8.51 | 17.54 | Nie uruchomiono | 10.46 |
| y-cruncher Pi, 5B cyfr (s, im mniej, tym lepiej) | 158.24 | 53.40 | 111.17 | Nie uruchomiono | 63.45 |
| y-cruncher Pi, 10B cyfr (s, im mniej, tym lepiej) | 342.87 | 119.21 | 244.44 | Nie uruchomiono | 135.18 |
Micro skompilował jądro Linuksa w 918 sekund, o 3 procent za GB10 (892 sekundy) i znacznie za Halo (727 sekund) i V20C (639 sekund). Kompresja wielowątkowa 7-Zip wylądowała w granicach 3 procent od GB10, a Micro wyprzedził ten system o 25 procent w przypadku jednego wątku, o 13 procent w OpenSSL AES-256-GCM i o 35 procent w nginx przy 1,000 połączeniach. V20C i Halo były szybsze w testach wielowątkowych, a T2 prowadził w każdym wierszu wielowątkowym, kompilując jądro w 537 sekund i uruchamiając OpenSSL z prędkością 371.2 GB/s, podczas gdy Micro osiągnął 110.0 GB/s.
W programie y-cruncher, Micro obliczył pięć miliardów cyfr liczby Pi w 158.24 sekundy, w porównaniu do 111.17 sekundy w V20C i 63.45 sekundy w Halo; 10 miliardów cyfr zajęło 342.87 sekundy, w porównaniu do 244.44 i 135.18 sekundy. Test jest wrażliwy na przepustowość pamięci i szerokość wektora, a Halo oferuje AVX-512 i szerszą magistralę pamięci, podczas gdy Micro ma dwa kanały DDR5-6400. T2 był najszybszy z wynikami 53.40 i 119.21 sekundy, a GB10 nie korzystał z y-cruncher.
| Pakiet serwerów (wyższy jest lepszy, chyba że zaznaczono inaczej) | Dell Pro Max Micro (Ultra 9 285, RTX PRO 4000 SFF 24 GB) | Dell Pro Precision 9 T2 (Xeon 658X, RTX PRO 6000 Max-Q 96 GB) | Corsair FlexPrime V20C (Ultra 7 270K Plus, Arc Pro B70 32GB) | Dell Pro Max z dyskiem GB10 (128 GB w wersji zunifikowanej) | AMD Ryzen AI Halo (Ryzen AI Max+ 395, 128 GB zunifikowany) |
|---|---|---|---|---|---|
| Test ClickBench, 43 zapytania (im mniej, tym lepiej) | 8.11 | 4.80 | 7.39 | 6.67 | 5.82 |
| Test ClickBench na zimno, 43 zapytania (im mniej tym lepiej) | 10.80 | 6.92 | 10.41 | 11.01 | 9.30 |
| Sterownik OpenFOAM, ogniwa 3M, czas rozwiązania (s, im niższy tym lepiej) | 2,320 | 826 | 1,636 | 1,222 | 1,148 |
| STREAM Triad (MB/s) | 65,802 | 141,832 | 68,252 | 121,313 | 114,007 |
| Pamięć podręczna Valkey, SET (żądania/s) | 1,389,084 | 914,832 | 1,852,556 | 810,246 | 1,211,538 |
| Pamięć podręczna Valkey, GET (żądania/s) | 1,398,409 | 991,576 | 1,866,031 | 884,644 | 1,271,481 |
Przepustowość pamięci wyjaśnia większość wyników zestawu serwerów. STREAM Triad zmierzył 65.8 GB/s na dwóch kanałach DDR5 Micro, blisko V20C z 68.3 GB/s i około połowę 121.3 GB/s i 114.0 GB/s na GB10 i Halo, z T2 z 141.8 GB/s. Obudowa OpenFOAM drivAer z 3 milionami komórek zajęła 2,320 sekund na Micro, w porównaniu z 826 na T2, 1,636 na V20C, 1,222 na GB10 i 1,148 na Halo, a gorący przebieg ClickBench zajął 8.11 sekundy w porównaniu z 4.80, 7.39, 6.67 i 5.82.
Valkey stawia na prędkość na rdzeń, a Micro obsłużył 1.39 miliona żądań SET i 1.40 miliona żądań GET na sekundę w profilu pamięci podręcznej. To o 25 procent mniej niż V20C, o 15 i 10 procent więcej niż Halo z 1.21 i 1.27 milionami, o 71 i 58 procent więcej niż GB10 z 810 KB i 885 KB oraz o 52 i 41 procent więcej niż Xeon T2 z 915 KB i 992 KB. Stacja robocza, która oprócz serwera modelowego obsługuje również pamięć podręczną lub małą bazę danych, korzysta z prędkości na rdzeń Core Ultra.
Kodowanie GPU
W przypadku kodowania GPU, FFmpeg 8.1 z NVENC odtworzył klip 4K Big Buck Bunny z pakietu do HEVC z prędkością 123 kl./s na karcie RTX PRO 4000 SFF. T2 i GB10 odtworzyły ten sam koder z prędkością 124 i 134 kl./s, V20C osiągnął 154 kl./s dzięki Intel Quick Sync, a Halo 204 kl./s dzięki VAAPI – każdy z innymi ustawieniami kodera – więc te dwie wartości stanowią raczej punkt odniesienia niż ranking. Nowsza wersja FFmpeg w pakiecie wymaga sterownika NVIDIA w wersji 610.00 lub nowszej dla NVENC i nie działała na zainstalowanym tutaj sterowniku 595.99.02.
Termiczne pod obciążeniem
| Dell Pro Max Micro | Maksymalna moc procesora (C) | Średnia wydajność procesora (C) | Maksymalna moc GPU (C) | Średnia GPU (C) |
|---|---|---|---|---|
| 7-Zip | 101 | 78.7 | 32 | 31.7 |
| mikser | 98 | 82.3 | 35 | 33.7 |
| Kompilacja LLVM | 100 | 79.4 | 33 | 33.0 |
| OtwórzBLAS | 104 | 83.5 | 32 | 32.0 |
| GROMACS | 105 | 89.3 | 33 | 32.6 |
| Agent kodujący | 83 | 70.0 | 69 | 62.3 |
| Obsługa LLM | 76 | 73.5 | 73 | 67.2 |
| RAG na dużą skalę | 97 | 79.6 | 73 | 71.7 |
| Generowanie obrazu | 85 | 72.0 | 72 | 68.5 |
Procesor 285 osiągnął swój maksymalny pułap temperaturowy w każdym teście na wszystkich rdzeniach. Temperatura obudowy procesora osiągnęła szczyt 98°C w Blenderze, 100°C w kompilacji LLVM, 101°C w 7-Zip, 104°C w OpenBLAS i 105°C w GROMACS, ze średnimi wartościami od 79°C do 89°C w tych testach. Taki jest koszt uruchomienia 65-watowego układu stacjonarnego przy 85 W w obudowie 2.9 litra i pokrywa się z różnicą między wielowątkowością a obudową w wynikach CPU. Procesor utrzymywał temperaturę w stanie spoczynku na poziomie około 40°C między testami.
Karta graficzna działała znacznie chłodniej, ponieważ RTX PRO 4000 SFF w stanie spoczynku miał temperaturę 32°C, a podczas testu LLM i testu ingestu RAG z milionem przejść osiągnęła 73°C, osiągając średnio 71.7°C w ciągu 57 minut. Podczas generowania obrazu temperatura utrzymywała się na poziomie 72°C, a podczas testu kodującego na poziomie 69°C. Karta 70 W ma zapas mocy w tej obudowie, nawet gdy procesor nie ma takiej możliwości, a dysk SSD utrzymywał się na poziomie 63°C lub niższym podczas 74-minutowego testu pamięci masowej.
Wydajność pamięci masowej
| fio, 25GiB śladu (im większy tym lepszy) | Dell Pro Max Micro (Ultra 9 285, RTX PRO 4000 SFF 24 GB) | Dell Pro Precision 9 T2 (Xeon 658X, RTX PRO 6000 Max-Q 96 GB) | Corsair FlexPrime V20C (Ultra 7 270K Plus, Arc Pro B70 32GB) | Dell Pro Max z dyskiem GB10 (128 GB w wersji zunifikowanej) | AMD Ryzen AI Halo (Ryzen AI Max+ 395, 128 GB zunifikowany) |
|---|---|---|---|---|---|
| Odczyt sekwencyjny 128K (MB/s) | 9,433 | 20,914 * | 7,311 | 6,947 | 7,232 |
| Zapis sekwencyjny 128 KB (MB/s) | 6,766 | 12,564 | 6,082 | 6,310 | 1,554 * |
| Losowy odczyt 4K, szczyt (IOPS) | 2,084,437 | 3,214,066 | 1,184,970 | 932,210 | 1,197,992 |
| Losowy zapis 4K, szczyt (IOPS) | 1,028,079 * | 2,353,766 | 184,231 | 997,758 | 121,285 * |
| Losowy odczyt 4K, QD32 x 4 zadania (IOPS) | 1,386,889 | 1,394,262 | 1,184,970 | 754,896 | 1,001,941 |
| Losowy zapis 4K, QD32 x 4 zadania (IOPS) | 1,028,079 * | 1,175,233 | 178,312 | 946,264 | 121,285 * |
*Oznaczone przez pakiet ze względu na rozbieżności między seriami.
Instalacja Ubuntu w laboratorium znajduje się na jednym z dwóch dysków Sandisk SN8050S o pojemności 1 TB, połączonych magistralą PCIe Gen5 x4, więc wyniki odnoszą się do pojedynczego dysku i nie uwzględniają konfiguracji RAID 0 firmy Dell. Odczyt danych z prędkością 9,433 MB/s i zapis z prędkością 6,766 MB/s, co stanowi wzrost o 29% w porównaniu z dyskiem V20C w zakresie odczytów, o 30% w przypadku dysku Halo i o 36% w przypadku dysku Gen4 w obudowie GB10. Osiągnięcie 20 914 MB/s dysku T2 pochodzi z macierzy pasmowej dysków Gen5. Szczytowy odczyt losowy 4 KB osiągnął 2.08 mln IOPS, w porównaniu z 3.21 mln w obudowie T2, 1.18 mln w obudowie V20C, 1.20 mln w obudowie Halo i 932 KB w obudowie GB10.
Losowy zapis osiągnął szczyt na poziomie 1.03 mln IOPS, porównywalny z GB10 (998 KB), czyli mniej niż połowę 2.35 mln w T2 i ponad pięciokrotnie więcej niż 184 KB w V20C i 121 KB w Halo, chociaż po ponownym uruchomieniu pakiet oznaczył wyniki Micro i Halo jako różniące się od siebie. Temperatura dysku pod radiatorem osiągnęła szczyt 63°C. Po zainstalowaniu drugiego dysku 1 TB, kupujący może zachować wolumin rozłożony jako miejsce na dane robocze lub podzielić dyski na dysk rozruchowy i bibliotekę modeli. Dell podaje do 8 TB w dwóch slotach.
Wniosek
Dell Pro Max Micro oferuje stację roboczą CUDA o pojemności 2.9 litra, co widać wszędzie tam, gdzie ścieżka oprogramowania to CUDA. Pod względem przepustowości Ollama i generowania obrazów stable-diffusion.cpp, przewyższył wszystkie systemy spoza linii Dell, przetwarzając fragmenty RAG o 27 procent szybciej niż GB10 i generując obrazy FLUX.2 z szybkością 2.7 razy większą niż 32-gigabajtowy dysk Arc Pro B70 na dysku Vulkan i trzykrotnie większą niż Halo na dysku ROCm. Jego dysk Gen5 był najszybszym pojedynczym dyskiem SSD w grupie, a temperatura karty graficznej nigdy nie przekroczyła 73°C.
Ograniczeniami są limit 24 GB i temperatura. Model 27B z kwantyzacją 4-bitową i procesorem Qwen-Image 20B nie spełniał oczekiwań, a model 285 działał w temperaturze od 98°C do 105°C w każdym teście na wszystkich rdzeniach. Ustępował on od obudowy typu tower z tym samym układem rdzeni o 17–26% pod względem kompresji, renderowania i kodowania. Ta obudowa skompilowała jądro Linuksa w czasie o 30% krótszym, a 16-rdzeniowy Halo był o 32% szybszy w 7-Zip. Komputery stacjonarne z pamięcią zunifikowaną o pojemności 128 GB rozwiązały nasz problem z OpenFOAM w około połowę krótszym czasie i mieszczą modele kilkakrotnie większe.
W ofercie Della, Pro Precision 9 T2 pokazuje, co oferuje kolejny krok: około trzykrotnie większą szybkość obsługi LLM, 3.5 razy większą szybkość generowania obrazu, o 74 procent większą przepustowość 7-Zip oraz kartę 96 GB, która obsługuje Qwen3.8 27B, Qwen-Image 20B i gpt-oss 120B, z których żaden nie pasuje do obudowy Micro. Micro oferuje szybsze rdzenie, wymiary stanowiące ułamek obudowy Tower oraz opcje montażu, które pozwalają umieścić stację roboczą za wyświetlaczem lub pod biurkiem.
Cena to kolejny problem w przypadku tej konfiguracji. Przy cenie 11 999 USD (w konfiguracji na Dell.com), nasz model kosztuje trzy razy więcej niż 3,999.99 USD, które Corsair pobiera za FlexPrime V20C i Micro Center za AMD Ryzen AI Halo, oraz około 1.6 razy więcej niż 7,521 USD, które Dell.com podaje za 128 GB Pro Max z GB10 i dyskiem SSD o pojemności 1 TB. To obejmuje pakiet komercyjny: kartę graficzną RTX PRO z certyfikatem ISV, vPro Enterprise, opcje pamięci ECC i trzy lata wsparcia technicznego ProSupport na miejscu. Organizacje potrzebujące zarządzanej, certyfikowanej stacji roboczej o najmniejszych gabarytach są nabywcami tej konfiguracji, a zespoły wybierające tokeny za dolara mają inne opcje.
Tabela wyników: Dell Pro Max Micro został uznany za najlepszą mini stację roboczą z dedykowaną kartą graficzną w naszym rankingu najlepszych stacji roboczych.




Amazon