StorageReview.com

Recenzie Dell Pro Precision 9 T4: 86 de nuclee Xeon și două plăci video RTX PRO 6000 pentru modele prea mari pentru o singură placă video

Utilizator final  ◇  Stații de lucru

Dell Pro Precision 9 T4 este modelul tower cu un singur socket din vârful gamei Dell Pro Precision, iar unitatea noastră de testare este configurată pentru inteligență artificială locală la o scară pe care majoritatea stațiilor de lucru nu o pot atinge. Acesta combină procesorul Intel Xeon 698X cu 86 de nuclee cu 256 GB de memorie ECC DDR5-6400, două plăci NVIDIA RTX PRO 6000 Blackwell Max-Q de 300 W cu 96 GB de memorie GDDR7 fiecare, două SSD-uri Gen5 de 2 TB și un adaptor dual-port de 25 GbE, alimentat de o sursă de alimentare de 2400 W. Configurat în același mod pe Dell.com, prețul de listare este de aproximativ 66,600 USD.

Vedere din trei sferturi a sistemului Dell Pro Precision 9 T4 care prezintă zăvorul panoului lateral și grila frontală

Intrebari cu cheie

  • Două GPU-uri transformă un model care nu încape pe o singură placă într-unul utilizabil. MiniMax M2.7 la 129.3 GB a generat 83.7 tokenuri pe secundă pentru un utilizator atunci când a fost împărțit pe ambele plăci RTX PRO 6000, de 2.8 ori mai mult decât cele 30.3 tokenuri pe secundă cu o placă și restul modelului în memoria sistemului.
  • Al doilea GPU a scalat servirea de 1.85 până la 2.02 ori și integrarea de 1.92 ori. Randamentul maxim al fișierului llama.cpp a crescut de la 582.5 la 1,176.1 tokenuri pe secundă pe Ministral 3 3B și de la 424.8 la 787.9 pe gpt-oss 120B cu un server per GPU, iar încorporarea unui milion de pasaje Wikipedia a scăzut de la 890 la 464 de secunde.
  • Un al doilea GPU a redus o epocă LoRA cu 37%. O epocă LoRA pe Ministral 3 8B a durat 31.5 minute pe un GPU și 19.7 minute pe două, încheind cu pierderi rezistate de 1.169 și, respectiv, 1.167.
  • Lățimea de bandă a memoriei este punctul forte al procesorului Xeon de pe T4. STREAM Triad a atins 328GB/s, cu 53% peste Threadripper PRO 9995WX din Precision 7875, iar T4 a finalizat rezolvarea OpenFOAM drivAer în 293 de secunde față de 556 și o rulare de 10 miliarde de cifre y-cruncher în 53.9 secunde față de 83.7.
  • Precision 7875 este lider în ceea ce privește munca CPU bazată pe nuclee. Threadripper-ul cu 96 de nuclee a avut un avans de 37% în 7-Zip și de 30% în Blender Monster, iar versiunea LLVM a fost finalizată în 43.7 secunde, față de 58.4 secunde.

Unde se află Pro Precision 9 T4

Dell poziționează T4 ca stația de lucru turn cu un singur socket emblematică pentru organizațiile care au nevoie de densitate maximă de calcul și extensibilitate, cu dezvoltarea inteligenței artificiale, simularea inginerească și calculul științific în fruntea listei de sarcini de lucru. Se situează deasupra Dell Pro Precision 9 T2 , care utilizează aceeași platformă de stație de lucru Granite Rapids-WS Xeon 6 într-o carcasă mai mică, cu un singur GPU. T4 adaugă procesoarele cu opt canale din vârful gamei, până la 86 de nuclee, și spațiu pentru până la patru plăci grafice, în funcție de model.

Opțiunile de procesoare de pe Dell.com încep de la Xeon 634 cu 12 nuclee și merg de la Xeon 696X cu 64 de nuclee până la Xeon 698X cu 86 de nuclee din unitatea noastră, care are 336 MB de memorie cache, o frecvență de bază de 2.0 GHz, o frecvență maximă de 4.8 GHz și o putere de 350 W. Memoria ajunge până la 4 TB de DDR5 RDIMM pe 16 sloturi, iar unitatea noastră ocupă opt dintre ele cu module de 32 GB la 6400 MT/s. Grafica începe de la o singură RTX A400, iar numărul de plăci grafice depinde de model: configuratorul Dell listează patru plăci RTX A1000, trei plăci RTX PRO 4000 Blackwell, două plăci RTX PRO 6000 Max-Q de 300 W sau o RTX PRO 6000 de 600 W.

The base configuration is listed at $5,925 on Dell.com. Our configuration adds $8,300 for the Xeon 698X, $15,000 for 256GB of memory, and $30,820 for the pair of RTX PRO 6000 Max-Q cards, before storage, networking, and the 36-month ProSupport upgrade that Dell automatically adds to a build at this level.

Construcție și proiectare

T4 este un turn complet cu o înălțime de 449.8 mm, o lățime de 203.7 mm și o adâncime de 617.5 mm, iar Dell îl listează ca având o greutate minimă de 24.1 kg și maximă de 33.6 kg, în funcție de configurație. Unitatea noastră folosește sursa de alimentare Platinum de 2400 W, pe care configuratorul Dell o selectează pentru configurația duală RTX PRO 6000, iar o sursă de 1500 W este implicită pentru configurațiile mai ușoare.

Panou frontal Dell Pro Precision 9 T4 cu suporturi pentru unități FlexBay, buton de alimentare, porturi USB și slot pentru card SD

Serviceability is a strong point of the T4, starting with tool-less entry through a latch on the side panel and a 2400W power supply that slides out of the top rear of the chassis by hand. Everything else, including the graphics cards and the SSDs, comes out with a Phillips screwdriver, and Dell’s blue touch points mark the parts that come out by hand. The lab found the platform easy for users to repair in the field, which matters for a workstation at this price.

Sursa de alimentare Dell Pro Precision 9 T4 de 2400 W scoasă din compartimentul său fără unelte

Cooling is the best execution we have seen from Dell in this class of tower. Air moves front to back, and large form-fitted cowls drive it down and across the processor and the memory while keeping that channel separate from the PCIe area. This layout gives the two 300W graphics cards a separate air stream, keeping them from drawing air heated by the 350W Xeon. Two fans sit between the processor zone and the card bay. The fan assembly has the same blue touch points and lifts out for memory access.

Interiorul laptopului Dell Pro Precision 9 T4 cu capacele de răcire și ventilatoarele instalate deasupra celor două plăci grafice

Extinderea se realizează prin șase sloturi PCIe de înălțime completă: două sloturi Gen5 x16 care găzduiesc plăcile grafice, un slot Gen5 x8, un slot Gen4 x8 și două sloturi Gen4 cu conectori x8 și cablare x4. Stocarea acoperă trei sloturi interne M.2 Gen5 și un slot Gen4, două compartimente SATA interne de 3.5 inch și un FlexBay frontal care găzduiește până la patru unități NVMe sau două unități de 3.5 inch, cu o unitate optică subțire opțională. Unitatea noastră pornește de pe o unitate Gen5 internă de 2 TB și găzduiește o altă unitate Gen5 de 2 TB într-un slot M.2 intern.

Sloturi de expansiune PCIe în Dell Pro Precision 9 T4 cu plăcile grafice scoase

Panoul frontal conține o mufă pentru căști, două porturi USB-A de 10 Gbps, un port USB-C de 20 Gbps cu PowerShare, un port USB-C de 10 Gbps și un slot opțional pentru card SD. Partea din spate adaugă porturi RJ-45 de 10 GbE și 1 GbE, patru porturi USB-A de 10 Gbps, două porturi USB-C de 10 Gbps, un port USB-C de 20 Gbps, serial, două porturi PS/2 și ieșire de linie. Unitatea noastră adaugă adaptorul Intel E810-XXV SFP28 cu două porturi 25 GbE, MediaTek Wi-Fi 7 MT7925 cu Bluetooth 5.4, un cititor de carduri media și placa suplimentară Dell cu două porturi USB-C.

Partea din spate a sistemului Dell Pro Precision 9 T4 prezintă intrarea de alimentare, ieșirea de linie, porturile PS/2, seriale și Ethernet

Securitatea și gestionarea includ un TPM 2.0, Dell SafeBIOS, detectarea intruziunilor în carcasă, suport pentru unități cu autocriptare, ștergere securizată a BIOS-ului și Intel vPro Enterprise. Dell listează că modelul T4 conține până la 85% plastic reciclat în componentele cheie, 90% aluminiu reciclat în mânere și 11% oțel reciclat în carcasă, iar configurația este certificată ENERGY STAR.

Panoul posterior al sistemului Dell Pro Precision 9 T4 cu intrare de alimentare, intrare/ieșire pentru placa de bază și șase sloturi de expansiune

Specificații Dell Pro Precision 9 T4

Specificație Dell Pro Precision 9 T4 (conform testului)
Platformă
Model Dell Pro Precision 9 T4 (PW9T4260)
procesor Intel Xeon 698X, 86 nuclee, 172 fire de execuție, 336 MB memorie cache, frecvență de bază 2.0 GHz, până la 4.8 GHz, 350 W
Opțiuni procesor Xeon 634 (12 nuclee) până la Xeon 698X (86 nuclee)
Memorie 256 GB (8x 32 GB) DDR5-6400 RDIMM ECC
16 sloturi, până la 4 TB
Grafică 2x NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition, 96GB GDDR7 fiecare, 300W fiecare
Sistem de operare Windows 11 Pro pentru stații de lucru (testat pe Ubuntu 26.04.1 LTS)
Stocare
Conform configurației 2x 2TB M.2 2280 Gen5 x4 TLC SED (ambele în sloturi M.2 interne)
Sloturi interne 3x M.2 2230/2280 Gen5 NVMe
1x M.2 2230/2280 Gen4 NVMe
2 x SATA de 3.5 inci
FlexBay Până la 4 unități NVMe plus unitate optică subțire opțională sau 2 unități SATA de 3.5 inci
Extindere și conectivitate
Sloturi PCIe 2x Gen5 x16
1x Gen5 x8
1x Gen4 x8
2x Gen4 x8 (x4 electrice)
Rețele Intel E810-XXV SFP28 cu două porturi 25GbE (supliment)
RJ-45 10GbE și 1GbE integrat
MediaTek Wi-Fi 7 MT7925, Bluetooth 5.4
Porturi frontale 1x USB-C 20 Gbps cu PowerShare
1x USB-C 10 Gbps
2x USB-A 10 Gbps
Mufa de casti
Slot opțional pentru card SD
Porturi spate 1x USB-C 20 Gbps
2x USB-C 10 Gbps
4x USB-A 10 Gbps
Serial, 2x PS/2, ieșire de linie
Putere și fizic
Alimentare electrică Platinum 2400W (opțiune 1500W)
Dimensiuni 449.8 x 203.7 x 617.5mm (17.70 x 8.01 x 24.31in)
Greutate 24.1 kg până la 33.6 kg (53.1 până la 74.1 lb) în funcție de configurație
Garanție ProSupport with on-site service after remote diagnosis, 36 months
Preț Baza de 5,925 USD
Aproximativ 66,600 USD, configurat corespunzător (Dell.com)

Configurarea testului și metodologia

Am testat stații de lucru high-end pe Linux, iar toate cele patru sisteme din această recenzie au rulat Ubuntu 26.04.1 LTS pe kernel 7.0.0-43 cu driverul NVIDIA 595.99.02, CUDA 13, llama.cpp build b11716 și Ollama 0.40.3, pe profilul de putere de performanță Linux. Rezultatele provin din trei instrumente: sr-client pentru AI local și sarcini de lucru client, sr-harness pentru compilare, compresie, cripto, web serving și y-cruncher, și sr-suite r5.28 pentru GROMACS, OpenFOAM, ClickHouse, Valkey și lățime de bandă a memoriei. Fiecare rezultat este mediana trecerilor repetate.

Toate cele patru sisteme au rulat cu modul termic BIOS setat la Ultra Performance, iar T4 a rulat BIOS 1.2.0. Rularea cu hamul T4 a folosit sr-harness 3.3, Precision 7875 a folosit 3.5, iar ambele T2 au folosit 3.6, cu aceeași gamă de teste pentru aceste versiuni.

Fiecare sistem de comparație este un Dell tower cu placă grafică RTX PRO 6000 Blackwell. Dell Precision 7875 combină placa video Threadripper PRO 9995WX cu 96 de nuclee cu aceleași două plăci video RTX PRO 6000 Max-Q și 512 GB de DDR5-5600, ceea ce îl face cel mai apropiat. Dell Pro Precision 9 T2 rulează procesorul Xeon 658X cu 24 de nuclee cu o placă Max-Q, iar Dell Pro Max Tower T2 rulează procesorul Core Ultra 9 285K cu 24 de nuclee cu RTX PRO 6000 de 600 W, ceea ce arată cât adaugă limita de putere mai mare per GPU.

Configuraţie Procesor Memorie GPU Test Drive Mod termic BIOS
Dell Pro Precision 9 T4 Xeon 698X, 86 de nuclee 256GB DDR5-6400 (8 canale) 2x RTX PRO 6000 Max-Q (300W) 2TB SK Hynix PCB01 Gen5 Performanță ultra
Dell Precision 7875 Threadripper PRO 9995WX, 96 de nuclee 512GB DDR5-5600 (8 canale) 2x RTX PRO 6000 Max-Q (300W) Samsung Gen4 de 2 TB Performanță ultra
Dell Pro Precision 9 T2 Xeon 658X, 24 de nuclee 128GB DDR5-6400 (4 canale) 1x RTX PRO 6000 Max-Q (300W) Samsung PM9E1 Gen5, unități de stocare de 2 TB într-o matrice stripată Performanță ultra
Dell Pro Max Tower T2 Core Ultra 9 285K, 24 nuclee 128GB DDR5-4400 (2 canale) 1x RTX PRO 6000 (600W) Samsung PM9F1 Gen4 de 2 TB Performanță ultra

Performanța IA locală

Fiecare sistem de aici are cel puțin o placă video RTX PRO 6000 Blackwell cu 96 GB de memorie GDDR7, așa că rezultatele cu un singur GPU măsoară placa, limita sa de putere și cât de repede platforma o alimentează. Cele două plăci video ale modelului T4 sunt ceea ce îl diferențiază, iar testele noastre cu două GPU rulează fiecare model în trei moduri în care se aplică: două servere independente, câte unul per GPU, pentru debit; un model împărțit pe straturi pe ambele plăci video; și, pentru MiniMax M2.7, o placă cu restul modelului în memoria sistemului.

LLM care servește pe un singur GPU

server llama.cpp, un GPU (jetoane de ieșire/s, mai mare este mai bine) Dell Pro Precision 9 T4 Dell Precision 7875 Dell Pro Precision 9 T2 Dell Pro Max Tower T2
Ministral 3 3B, o cerere 240.5 252.6 243.8 261.6
Ministral 3 3B, vârf 582.5 637.6 602.6 658.8
Ministral 3 8B, o cerere 166.8 171.1 167.3 194.5
Ministral 3 8B, vârf 383.6 398.9 384.9 477.5
Qwen3.8 27B, o cerere 54.9 55.4 53.8 64.5
Qwen3.8 27B, vârf 158.1 162.8 155.8 194.7
gpt-oss 120B, o solicitare 166.9 171.2 164.5 193.0
gpt-oss 120B, vârf 424.8 458.4 413.1 520.7
gpt-oss 120B, o cerere, timp până la primul token (ms, mai puțin înseamnă mai bine) 1,189 1,181 1,213 844

Pe o GPU, T4 ajunge acolo unde o plasează limita de 300W a plăcii. A generat 166.9 tokenuri pe secundă pentru un utilizator pe gpt-oss 120B și a atins un vârf de 424.8 pe parcursul a 64 de solicitări simultane, cu o diferență de 1 până la 9% față de placa Max-Q identică a Precision 7875 pe toate cele patru modele și la același nivel cu Pro Precision 9 T2. Placa de 600W din Pro Max Tower T2 este cu 13 până la 25% mai rapidă în vârf pe fiecare model, atingând 520.7 tokenuri pe secundă pe gpt-oss 120B.

Putere maximă de ieșire llama.cpp pentru Dell Pro Precision 9 T4 pe un GPU: 582 tokens/s pe Ministral 3 3B, 384 pe 8B, 158 pe Qwen3.8 27B și 425 pe gpt-oss 120B față de trei sisteme Dell de comparație

Două GPU-uri: Replici și Modele Split

Server llama.cpp, două GPU-uri (jetoane de ieșire/s, mai mare este mai bine) Dell Pro Precision 9 T4 Dell Precision 7875
Ministral 3 3B, vârf, un server per GPU 1,176.1 1,260.2
Ministral 3 8B, vârf, un server per GPU 765.7 796.4
Qwen3.8 27B, vârf, un server per GPU 310.8 323.2
gpt-oss 120B, vârf, un server per GPU 787.9 905.8
gpt-oss 120B, o singură solicitare, împărțit pe straturi 170.6 182.4
gpt-oss 120B, vârf, împărțit pe straturi 539.2 619.4

Running one server per GPU raised the T4’s peak output by 1.85 to 2.02 times across the four models. Peak output rose from 582.5 to 1,176.1 tokens per second on Ministral 3 3B, from 383.6 to 765.7 on the 8B model, and from 158.1 to 310.8 on Qwen3.8 27B, scaling by 1.97 to 2.02 times. gpt-oss 120B scaled 1.85 times to 787.9 tokens per second on the T4 and 1.98 times to 905.8 on the Precision 7875, peaking at 128 concurrent requests, while the T4 peaked at 64.

Interiorul plăcii Dell Pro Precision 9 T4, fără capacele de răcire, care prezintă radiatorul Xeon, memoria, sloturile M.2 și două plăci RTX PRO 6000 Max-Q

Splitting gpt-oss 120B by layer across both cards is the slower way to use the second GPU when the model already fits on one. It served one user at 170.6 tokens per second, within 3 percent of a single card, and peaked at 539.2, 27 percent above one GPU and well short of the 787.9 that two replicas delivered. The split layout earns its place for models that don’t fit on one card, which is where MiniMax M2.7 comes in.

Putere maximă de ieșire llama.cpp pentru Dell Pro Precision 9 T4 pe una și două unități grafice: 1,176 tokenuri/s pe Ministral 3 3B și 788 pe gpt-oss 120B cu un server per GPU, față de Dell Precision 7875
Server llama.cpp, gpt-oss 120B, prompturi cu 8,192 de jetoane, ieșiri cu 1,024 de jetoane T4, o singură placă grafică T4, două GPU-uri, un server per GPU T4, două GPU-uri, împărțite pe straturi Precision 7875, două GPU-uri, câte un server per GPU
1 concurente: debit total (jetoane/s) 1,502 1,504 1,536 1,530
1 simultane: timpul până la primul token, mediană (ms, cu cât mai puțin înseamnă mai bine) 1,189 1,180 719 1,189
8 concurente: debit total (jetoane/s) 2,760 4,820 3,300 4,949
8 concurente: ieșire per utilizator (token-uri/s) 38.3 66.9 45.8 68.7
8 simultane: timpul până la primul token, mediană (ms, cu cât mai puțin înseamnă mai bine) 2,654 2,523 1,622 2,472
64 concurente: debit total (jetoane/s) 3,823 7,091 4,853 7,557
64 concurente: ieșire per utilizator (token-uri/s) 6.6 12.3 8.4 13.1
64 simultane: timpul până la primul token, mediană (ms, cu cât mai puțin înseamnă mai bine) 3,874 3,226 2,852 2,867

The full sweep on gpt-oss 120B shows how the second card changes the curve, with total throughput counting prompt and output tokens together. One GPU climbed from 1,502 tokens per second for a single request to 2,760 at eight and 3,823 at 64, where each user received 6.6 output tokens per second. With one server per GPU, total throughput reached 4,820 tokens per second at eight concurrent requests and 7,091 at 64. At 64 requests, that was 1.85 times the single-card throughput, with each user receiving 12.3 output tokens per second. Splitting the model across both cards delivered lower peak throughput at 4,853 total tokens per second but reduced time to first token for a single user from 1,189ms to 719ms.

Diagramă liniară a debitului total llama.cpp gpt-oss 120B de la 1 la 64 de solicitări simultane pe Dell Pro Precision 9 T4: 3,823 tokenuri/s pe un GPU, 7,091 cu un server per GPU și 4,853 împărțite pe straturi, față de Dell Precision 7875 la 7,557 și Dell Pro Max Tower T2 la 4,687

MiniMax M2.7: Un model prea mare pentru o singură placă

MiniMax M2.7 Q4_K_M, 129.3GB (cu cât mai mult înseamnă mai bine, dacă nu se specifică altfel) Dell Pro Precision 9 T4 Dell Precision 7875 Dell Pro Precision 9 T2 Dell Pro Max Tower T2
Un GPU plus RAM de sistem, o solicitare (token-uri/s) 30.3 32.8 22.6 15.8
Un GPU plus RAM de sistem, vârf (tokenuri/s) 35.5 39.1 27.7 18.0
Un GPU plus RAM de sistem, timp până la primul token (ms, mai puțin este mai bine) 16,224 16,143 16,216 18,522
Două GPU-uri împărțite pe straturi, o singură solicitare (token-uri/s) 83.7 85.0 GPU unic GPU unic
Două GPU-uri împărțite pe straturi, vârf (token-uri/s) 127.3 129.5 GPU unic GPU unic
Două GPU-uri împărțite pe straturi, timpul până la primul token (ms, mai puțin este mai bine) 3,138 3,162 GPU unic GPU unic
Încărcare la rece, un GPU plus RAM (s, mai puțin e mai bine) 40.5 65.8 37.6 81.1
Încărcare la rece, două GPU-uri împărțite (s, mai puțin e mai bine) 27.6 50.7 GPU unic GPU unic

MiniMax M2.7 is a 230-billion-parameter mixture-of-experts model, and our 4-bit quantization takes 129.3GB, more than the 96GB on one RTX PRO 6000. On one card with the remainder in system memory, the T4 generated 30.3 tokens per second for one user and took 16.2 seconds to return the first token. With the model split across both cards, single-user output rose to 83.7 tokens per second, 2.8 times the one-card rate. Time to first token fell from 16.2 to 3.1 seconds, and peak throughput increased from 35.5 to 127.3 tokens per second.

The one-GPU results show how much the host platform matters once a model spills into system memory. The T4’s eight channels of DDR5-6400 put it 34 percent ahead of the four-channel Pro Precision 9 T2 at 22.6 tokens per second and 1.9 times ahead of the dual-channel Pro Max Tower T2 at 15.8, even though the Pro Max Tower T2’s 600W card is faster on every model that fits. The Precision 7875 edged the T4 at 32.8 tokens per second with 35 percent less memory bandwidth, so bandwidth alone doesn’t explain this result. We report the 7875’s lead as measured and have not isolated its cause.

Ieșire Dell Pro Precision 9 T4 MiniMax M2.7: 83.7 tokenuri/s pentru o solicitare împărțită pe două GPU-uri față de 30.3 cu un GPU plus RAM de sistem, cu Precision 7875 și ambele sisteme T2

Încărcare model

Încărcare model Ollama 0.40.3 și llama.cpp (s, mai puțin este mai bine) Dell Pro Precision 9 T4 Dell Precision 7875 Dell Pro Precision 9 T2 Dell Pro Max Tower T2
gpt-oss:20b (12.8 GB), rece 5.79 7.61 5.57 7.95
gpt-oss:20b, cald 3.45 2.50 3.47 3.05
gpt-oss:120b (60.9 GB), rece 15.16 25.80 15.16 28.18
gpt-oss:120b, cald 7.49 5.01 7.87 6.81
gpt-oss:120b, rece, o copie pe fiecare GPU 26.47 35.55 GPU unic GPU unic
MiniMax M2.7 (129.3GB), rece, o placă grafică plus RAM 40.5 65.8 37.6 81.1
MiniMax M2.7, cald, o placă grafică plus RAM 28.6 15.2 36.7 80.5

Încărcările la rece favorizează unitățile Gen5, T4 încărcând gpt-oss:120b de pe SSD-ul său SK hynix Gen5 în 15.2 secunde, egalând Pro Precision 9 T2 și mult înainte de 25.8 și 28.2 secunde de pe Precision 7875 și Pro Max Tower T2 echipate cu Gen4. Încărcările la cald din memoria cache a paginii inversează această ordine, 7875 înregistrând 5.0 secunde față de 7.5 secunde pe T4, iar încărcarea unei copii pe fiecare GPU simultan a durat 26.5 secunde pe T4.

Generare augmentată prin recuperare la scară largă

RAG peste 1,002,067 de pasaje Wikipedia Dell Pro Precision 9 T4 Dell Precision 7875 Dell Pro Precision 9 T2 Dell Pro Max Tower T2
Integrare, un GPU (pasaje/s) 1,126 1,196 1,141 1,388
Timp de integrare a peretelui, un GPU (s, mai puțin este mai bine) 890 838 878 722
Integrare, două GPU-uri (pasaje/s) 2,162 2,371 GPU unic GPU unic
Încorporarea timpului de afișare, două GPU-uri (s, mai puțin este mai bine) 464 423 GPU unic GPU unic
Construcția indicelui HNSW (s, mai mic este mai bine) 27.3 34.8 46.3 118.6
Căutare HNSW, ef 64 (interogări/s) 98,503 65,228 45,085 17,540
Căutare HNSW, ef 256 (interogări/s) 32,149 19,598 13,478 4,932
Recall@5 vs. căutare exactă, ef 256 (%) 97.59 97.67 97.26 97.70
Întrebare la care trebuie să răspundeți p50 (s, mai puțin este mai bine) 0.123 0.082 0.117 0.095

The RAG-at-scale test hides SQuAD questions among a million Wikipedia passages, embeds them with nomic-embed-text, builds an HNSW index, and answers with Phi-4-mini. Using two GPUs cut the T4’s embedding time from 890 to 464 seconds, a 1.92x speedup. The Precision 7875 completed the same task in 423 seconds with two GPUs. The 600W card in the Pro Max Tower T2 is the fastest single GPU here at 722 seconds.

Construirea indexului și căutarea vectorială se execută pe procesor, iar aici conduce T4. A construit indexul HNSW în 27.3 secunde, față de 34.8 secunde pe Precision 7875 și 118.6 secunde pe Pro Max Tower T2, și a căutat la 98,503 interogări pe secundă la un randament de 64, de 1.51 ori mai mare decât 7875 și de 5.6 ori mai mare decât sistemul Core Ultra. La un randament de 256, a reținut 32,149 interogări pe secundă cu o rată de reamintire de 97.6% față de căutarea exactă, iar răspunsurile au venit într-o medie de 0.12 secunde.

Dell Pro Precision 9 T4 încorporând un milion de pasaje Wikipedia: 890 de secunde pe un GPU și 464 de secunde pe două față de trei sisteme Dell de comparație Căutare Dell Pro Precision 9 T4 HNSW peste un milion de pasaje: 98,503 interogări/s la un EF 64 și 32,149 la un EF 256 față de trei sisteme de comparație Dell

Reglaj fin

Ministral 3 8B LoRA, BF16, o epocă a Dolly 15k Dell Pro Precision 9 T4 Dell Precision 7875 Dell Pro Precision 9 T2 Dell Pro Max Tower T2
Timp de antrenament Epoch, un GPU (minute, mai puțin este mai bine) 31.5 27.2 30.6 22.3
Randament, un GPU (tokenuri/s) 1,584 1,834 1,631 2,236
Pierdere suportată înainte și după antrenament, un GPU 1.534 la 1.169 1.534 la 1.172 1.534 la 1.167 1.534 la 1.167
Timp de antrenament Epoch, două GPU-uri (minute, mai puțin este mai bine) 19.7 18.1 GPU unic GPU unic
Randament, două GPU-uri (token-uri/s) 2,528 2,754 GPU unic GPU unic
Accelerare de la a doua GPU 1.60x 1.50x GPU unic GPU unic
Pierdere rezistată după antrenament, două GPU-uri 1.167 1.168 GPU unic GPU unic

The one-epoch LoRA test fine-tunes Ministral 3 8B in BF16 on Dolly 15k across 1,849 steps and scores 200 held-out examples every 100 steps. Every system started at a held-out loss of 1.534 and finished between 1.167 and 1.172, so the difference comes down to time per epoch. One T4 GPU finished in 31.5 minutes at 1,584 tokens per second, within 3 percent of the Pro Precision 9 T2 on the same Max-Q card. The Precision 7875 took 27.2 minutes, and the 600W card in the Pro Max Tower T2 took 22.3 minutes.

Diagramă liniară a pierderilor suportate în funcție de timpul de antrenament pentru o ajustare fină Ministral 3 8B LoRA într-o singură epocă: Dell Pro Precision 9 T4 se încheie la 1.169 după 31.5 minute pe un GPU, față de 27.2 minute pe Dell Precision 7875, 30.6 pe Dell Pro Precision 9 T2 și 22.3 pe Dell Pro Max Tower T2

Held-out loss on the T4 fell from 1.534 to 1.219 in the first 100 steps (1.6 minutes into training), then eased to 1.169 over the rest of the epoch. Adding the second GPU cut the T4’s epoch to 19.7 minutes at 2,528 tokens per second, a 1.60x speedup that beat the single 600W card’s 22.3 minutes. The Precision 7875 completed its two-GPU epoch in 18.1 minutes, a 1.50x speedup, and the two-GPU runs ended at held-out losses of 1.167 and 1.168.

Diagramă liniară a pierderilor suportate în funcție de timpul de antrenament pentru o ajustare fină Ministral 3 8B LoRA de o singură epocă pe una și două unități grafice: Dell Pro Precision 9 T4 termină în 19.7 minute pe două unități grafice față de 31.5 pe una, iar Dell Precision 7875 în 18.1 față de 27.2.

Both cards run data-parallel with two examples per GPU and gradients accumulated to the same global batch of eight, over four passes on one GPU and two passes on a pair, so the two-GPU run sees the same examples at each step and lands on the same loss. With two short examples per GPU in each pass, the second card has little work to absorb, and gradient exchange takes a larger share of each step. The epoch peaked at 19.5GiB of GPU memory on one card and 19.7GiB per card on two, a fraction of the 96GB on each RTX PRO 6000.

Agent de codare, RAG la scară mică și generare de imagini

Agent de codare, RAG și generare de imagini (cu cât valoarea este mai mare, cu atât mai bine, dacă nu se specifică altfel) Dell Pro Precision 9 T4 Dell Precision 7875 Dell Pro Precision 9 T2 Dell Pro Max Tower T2
Agent de codare, gpt-oss:20b 64K, rulări reușite (din 3) 3 2* 2* 2*
Agent de codare, gpt-oss:120b 128K, rulări reușite (din 3) 3 3 3 3
Agent de codare, gpt-oss:120b, rată de generare (tokenuri/s) 161.5 167.9 166.7 183.2
RAG, 20,963 pasaje, ingerare (pasaje/s) 304.6 433.8 392.1 371.6
Generarea de răspunsuri RAG, Phi-4-mini (jetoane/s) 372.5 410.0 402.8 415.8
FLUX.2 klein 4B BF16, 1024×1024 (imagini/min) 40.96 43.03 41.32 54.25
Z-Image Turbo 6B BF16 (imagini/min) 17.29 17.67 17.27 23.83
Qwen-Image 20B BF16 (imagini/min) 2.43 2.45 2.39 3.20

*Segnalat de suită: una dintre cele trei rulări ale agenților pe acest sistem nu a trecut toate cele 11 teste.

T4 a trecut de fiecare rulare a agentului de codare la fiecare nivel de model, inclusiv toate cele trei rulări gpt-oss:20b la un context de 64K în care celelalte trei sisteme au trecut de două din trei, și a generat 161.5 tokenuri pe secundă pe gpt-oss:120b. Generarea de imagini rulează pe un singur GPU, așa că cele 40.96 imagini pe minut ale T4 pe FLUX.2 klein în BF16 se află alături de celelalte sisteme Max-Q și în spatele plăcii de 600W la 54.25.

Performanța CPU

Rezultatele procesorului plasează cele 86 de nuclee Xeon ale lui T4 față de cele 96 de nuclee Threadripper ale lui Precision 7875, cu cele două T2 cu 24 de nuclee ca puncte de referință. Threadripper are încă zece nuclee și aduce 192 de thread-uri la cele 172 ale lui Xeon. T4 este cel mai important în ceea ce privește lățimea de bandă a memoriei, iar 7875 este cel mai important în ceea ce privește numărul de nuclee și frecvențele.

Radiator Xeon W9 și bancuri de memorie DDR5 în interiorul plăcii Dell Pro Precision 9 T4

Compresie, randare și compilare

Testare Dell Pro Precision 9 T4 Dell Precision 7875 Dell Pro Precision 9 T2 Dell Pro Max Tower T2
7-Zip, toate firele de execuție (GIPS) 619.8 850.0 285.1 172.7
7-Zip, un singur fir de execuție (GIPS) 8.85 10.58 9.27 11.04
Blender 4.5 Monster (probe/min) 961.8 1,253.8 400.7 303.0
Blender 4.5 Junkshop (probe/min) 641.9 849.7 266.9 191.9
Blender 4.5 Sală de clasă (eșantioane/min) 442.8 612.2 187.2 147.1
Frână de mână x265 (fps) 31.4 41.7 41.5 40.0
Frână de mână SVT-AV1 (fps) 159.4 255.8 198.5 122.6
LLVM 21 versiune (s, o versiune inferioară este mai bună) 58.4 43.7 106.4 155.9
Nucleu Linux allmodconfig (s, o versiune mai mică este mai bună) 312 264 537 843
OpenSSL AES-256-GCM, toate firele de execuție (GB/s) 882.6 1,139.1 371.2 137.0
nginx, 1,000 conexiuni (cereri/s) 414,468 467,128 323,567 153,732

T4 a obținut un scor de 619.8 GIPS în 7-Zip și 961.8 sample-uri pe minut în Blender Monster, de 2.2 și, respectiv, de 2.4 ori mai mare decât Pro Precision 9 T2 cu 24 de nuclee. Precision 7875 a avut un avans de 37% în 7-Zip și de 30% în Blender, iar versiunea LLVM a finalizat în 43.7 secunde față de 58.4 secunde, iar versiunea allmodconfig a kernelului Linux în 264 de secunde față de 312 secunde. Viteza per nucleu este punctul slab al lui T4, cu cel mai mic scor 7-Zip pe un singur fir din acest grup, la 8.85 GIPS.

HandBrake’s x265 encode is the outlier in this table, and the cause is the encoder more than the processor. The other three systems all landed between 40.0 and 41.7 fps with 24 or 96 cores, so x265 at this preset isn’t scaling with core count, and the T4’s 31.4 fps is consistent with its lower per-core speed on the threads x265 uses. During the encode, the T4 averaged about 1GHz across its 172 threads at 51C to 64C, which shows most of the chip idle. SVT-AV1 scaled better, at 159.4 fps on the T4 against 255.8 on the 7875.

Diagrama procesorului Blender 4.5: Dell Pro Precision 9 T4 la 961.8 eșantioane/min pe Monster față de Precision 7875, Pro Precision 9 T2 și Pro Max Tower T2 Diagrama timpului de compilare: Dell Pro Precision 9 T4 la 58.4 secunde pentru LLVM și 312 secunde pentru kernelul Linux allmodconfig față de trei sisteme Dell de comparație

Lățime de bandă a memoriei, simulare și matematică

Testare Dell Pro Precision 9 T4 Dell Precision 7875 Dell Pro Precision 9 T2 Dell Pro Max Tower T2
Triada STREAM (MB/s) 328,329 215,177 141,832 45,102
OpenFOAM 13 drivAer, celule 3M, rezolvă (s, mai puțin este mai bine) 293 556 826 Nu a terminat
GROMACS benchPEP, toate miezurile (ns/zi) 1.243 1.034 Nu alerga Nu alerga
GROMACS benchMEM, 16 nuclee (ns/zi) 68.09 84.94 78.03 54.26
OpenBLAS DGEMM, toate nucleele (GFLOPS) 3,664 4,745 2,319 1,063
OpenBLAS LU rezolva N=20000 (GFLOPS) 1,660 1,172 1,616 858
y-cruncher Pi, 1B cifre (s, mai mic este mai bine) 4.01 7.45 8.51 24.61
y-cruncher Pi, 10B cifre (s, mai mic este mai bine) 53.9 83.7 119.2 347.9
y-cruncher Pi, 25B cifre (s, mai mic este mai bine) 155.6 259.6 Nu alerga Nu alerga

Eight channels of DDR5-6400 give the T4 328GB/s in STREAM Triad, 53 percent above the Precision 7875’s DDR5-5600 and 2.3 times the four-channel Pro Precision 9 T2. Bandwidth-bound work follows: the T4 solved the 3-million-cell OpenFOAM drivAer case in 293 seconds, compared with 556 on the 7875 and 826 on the Pro Precision 9 T2, while the Pro Max Tower T2 did not finish within the suite’s 150-minute limit. The T4 also ran the 22.6-million-cell case in 6,851 seconds.

Memorii RDIMM DDR5 și radiatoare SSD M.2 pe placa de bază Dell Pro Precision 9 T4

GROMACS benchPEP, cazul amplu de dinamică moleculară cu toate nucleele, a rulat la 1.243 ns/zi pe T4 față de 1.034 pe 7875, iar rezolvarea LU a atins 1,660 GFLOPS față de 1,172. y-cruncher a calculat 10 miliarde de cifre Pi în 53.9 secunde față de 83.7 pe 7875 și 25 de miliarde în 155.6 secunde față de 259.6. Calculul dens care rămâne în cache favorizează Threadripper, care a condus OpenBLAS DGEMM la 4,745 GFLOPS față de 3,664.

Diagrama STREAM Triad: Dell Pro Precision 9 T4 la 328,329 MB/s față de 215,177 pe Precision 7875 și două sisteme Dell T2 Timp de rezolvare OpenFOAM drivAer 3M-cell: Dell Pro Precision 9 T4 la 293 de secunde față de 556 pe Precision 7875 și 826 pe Pro Precision 9 T2 Diagramă Pi y-cruncher: Dell Pro Precision 9 T4 la 4.0 secunde pentru 1 miliard de cifre, 53.9 pentru 10 miliard de cifre și 155.6 pentru 25 miliard de cifre față de trei sisteme de comparație Dell

Baze de date și servicii

Testare Dell Pro Precision 9 T4 Dell Precision 7875 Dell Pro Precision 9 T2 Dell Pro Max Tower T2
Rulare rapidă ClickBench, 43 de interogări (s, mai puțin înseamnă mai bine) 3.21 2.88 4.80 10.44
Rulare la rece ClickBench, 43 de interogări (s, mai puțin înseamnă mai bine) 6.45 7.09 6.92 14.22
Cache Valkey, SET (cereri/s) 666,714 1,138,696 914,832 1,719,108
Cache Valkey, GET (cereri/s) 865,353 1,279,429 991,576 1,648,278
Stockfish, toate firele (Mnps) 68.21 168.27 45.44 37.42
PyPerformance merge (ms, mai mic este mai bine) 74.3 66.0 72.1 56.7

ClickHouse a executat cele 43 de interogări ClickBench în 3.21 secunde la cald și 6.45 secunde la rece pe T4, cu 0.33 secunde în urma lui 7875 în runda la cald și cu 0.64 secunde înaintea rundei la rece. Valkey favorizează nucleele rapide în detrimentul multor nuclee, iar cele 666,714 de solicitări SET pe secundă ale lui T4 sunt în urma tuturor celor trei sisteme de comparație, Core Ultra 9 285K din Pro Max Tower T2 conducând cu 1.72 milioane. Acest model se potrivește cu rezultatele pe un singur fir de execuție ale lui T4 și merită luat în considerare pentru serviciile cu latență limitată.

Cu toate cele 172 de fire de execuție încărcate și procesorul la o medie de 87C, T4 a căutat 68.21 milioane de noduri pe secundă în Stockfish, de 1.5 ori mai mult decât Pro Precision 9 T2 cu 48 de fire de execuție și mult sub jumătate din cele 168.27 de noduri ale lui 7875 pe 192 de fire de execuție. Testul a expirat și în prima rulare completă a T4, înainte ca un test independent să producă această cifră. Raportăm rezultatul așa cum a fost măsurat și nu am izolat cauza scalării slabe.

Performanța stocării

fio, amprentă de 25 GiB (cu cât mai mult, cu atât mai bine) Dell Pro Precision 9 T4 Dell Precision 7875 Dell Pro Precision 9 T2 Dell Pro Max Tower T2
Citire secvențială 128K (MB/s) 14,152 7,089 20,914 * 7,234
Scriere secvențială 128K (MB/s) 10,078 5,265 12,564 6,772
Citire aleatorie 4K, vârf (IOPS) 2,306,346 993,569 3,214,066 1,538,387
Scriere aleatorie 4K, vârf (IOPS) 1,830,776 787,388 2,353,766 1,326,030

*Segnalat de suită pentru varianța de la o rundă la alta după o reluare.

The T4’s 2TB SK hynix Gen5 boot drive delivered sequential reads of 14,152MB/s and writes of 10,078MB/s. Its sequential read speed was roughly twice that of the Gen4 drives in the Precision 7875 and Pro Max Tower T2. Random performance peaked at 2.31 million read IOPS and 1.83 million write IOPS. The Pro Precision 9 T2’s sequential read of 20,914MB/s exceeds what one Gen5 x4 link carries, which fits that system’s test volume, a striped array of Samsung PM9E1 Gen5 drives. We tested the T4’s boot drive alone, and the second 2TB drive was not part of this run.

Grafic secvențial fio de 128K: SSD Dell Pro Precision 9 T4 Gen5 la 14,152 MB/s citire și 10,078 MB/s scriere față de trei sisteme Dell de comparație

Termice și ceasuri sub sarcină

Dell Pro Precision 9 T4 CPU Max (C) Media CPU (C) Frecvență medie a procesorului (MHz)
7-Zip 93 80.6 1,967
Blender 91 85.7 2,587
GROMACS 96 81.3 1,313
Construcție LLVM 83 74.5 2,127
OpenBLAS 80 62.9 1,325
LLM servește 84 65.0 924
Reglaj fin 71 61.2 854
RAG la scară largă 74 64.4 987
Stocare 64 55.4 942

Cu BIOS-ul în modul Ultra Performance, Xeon 698X a atins un vârf de 93°C în 7-Zip și 96°C în GROMACS, iar valorile frecvenței din tabel reprezintă medii pentru toate cele 172 de procesoare logice. Blender și Stockfish încarcă fiecare fir de execuție și au menținut frecvența între 2.5 GHz și 2.6 GHz, peste frecvența de bază de 2.0 GHz a cipului. GROMACS și OpenBLAS încarcă 64 și 86 de nuclee fizice și lasă firele de execuție rămase inactive în apropierea a 0.8 GHz, motiv pentru care mediile lor sunt de aproximativ 1.3 GHz. Lucrul condus de GPU a menținut procesorul mai rece, la o medie de 61°C până la 65°C în timpul funcționării LLM, reglării fine și RAG, deoarece aceste teste se bazează pe plăcile video.

Capac de răcire cu ventilatorul scos de pe Dell Pro Precision 9 T4

Concluzie

Dell Pro Precision 9 T4 este construit pentru lucrul local cu inteligența artificială, iar al doilea RTX PRO 6000 este punctul culminant. Două plăci video Max-Q au crescut debitul maxim de servire de 1.85 până la 2.02 ori pe patru modele și debitul de încorporare de 1.92 ori, au redus o epocă LoRA pe Ministral 3 8B de la 31.5 la 19.7 minute și au transformat MiniMax M2.7, un model prea mare pentru o singură placă, de la 30.3 la 83.7 tokenuri pe secundă pentru un singur utilizator. Pe gpt-oss 120B, un server per GPU a atins un total de 7,091 de tokenuri pe secundă la 64 de solicitări, în timp ce împărțirea modelului pe ambele plăci video a returnat primul token al unui singur utilizator în 719 ms față de 1,189 ms.

Vedere frontală a sistemului Dell Pro Precision 9 T4 în laboratorul StorageReview

Opt canale de DDR5-6400 au oferit Xeon 698X un avans de 53% în lățimea de bandă a memoriei față de Threadripper PRO 9995WX. Această lățime de bandă a permis T4 să obțină rezultate de căutare OpenFOAM, GROMACS benchPEP, y-cruncher și HNSW mai rapide decât Precision 7875, iar stocarea Gen5 a lui T4 a încărcat mai rapid modelele mari. Și carcasa merită laude, cu cea mai bună configurație de răcire pe care am văzut-o de la Dell în această clasă și acces fără unelte la sursa de alimentare.

7875 rămâne în frunte la randarea pe nuclee, compresie și compilare cu 18 până la 38% și cu 60% în SVT-AV1. Viteza per nucleu a Xeon a fost în urma tuturor sistemelor din acest grup, lucru demonstrat în Valkey și alte servicii cu thread-uri reduse. Reglarea fină pe un singur GPU a fost, de asemenea, mai lentă pe T4, unde epoca LoRA a durat 31.5 minute față de 27.2 pe 7875 și 22.3 pe placa de 600W din Pro Max Tower T2, fiecare sistem terminând la 0.005 de aceeași pierdere.

At about $66,600 as configured on Dell.com, the T4 suits teams that want to serve, embed, and fine-tune models on-premises, including models that need more than 96GB of GPU memory, alongside memory-bound simulation and analytics on the same machine. Buyers whose work is mostly rendering and compilation will find the Threadripper platform faster, and buyers who need one GPU can get the same card in the smaller Pro Precision 9 T2.

StorageReview Best 2026: Cel mai bun turn Xeon pentru inteligența artificială locală

Clasament: Dell Pro Precision 9 T4 deține premiul pentru cel mai bun server turn Xeon pentru inteligență artificială locală în clasamentul nostru „Cele mai bune desktopuri pentru inteligență artificială locală” .

Pagina produsului Dell Pro Precision 9 T4

Interacționează cu StorageReview

Buletin informativ | YouTube | Podcast iTunes / Spotify | Instagram | Twitter | TikTok | Flux RSS

Kevin O'Brien

În cadrul laboratorului StorageReview, evaluez produse și colaborez cu lideri din industrie pentru a dezvolta noi medii de testare. Acasă, cresc o familie.