Dell Pro Precision 9 T4 este modelul tower cu un singur socket din vârful gamei Dell Pro Precision, iar unitatea noastră de testare este configurată pentru inteligență artificială locală la o scară pe care majoritatea stațiilor de lucru nu o pot atinge. Acesta combină procesorul Intel Xeon 698X cu 86 de nuclee cu 256 GB de memorie ECC DDR5-6400, două plăci NVIDIA RTX PRO 6000 Blackwell Max-Q de 300 W cu 96 GB de memorie GDDR7 fiecare, două SSD-uri Gen5 de 2 TB și un adaptor dual-port de 25 GbE, alimentat de o sursă de alimentare de 2400 W. Configurat în același mod pe Dell.com, prețul de listare este de aproximativ 66,600 USD.
Intrebari cu cheie
- Două GPU-uri transformă un model care nu încape pe o singură placă într-unul utilizabil. MiniMax M2.7 la 129.3 GB a generat 83.7 tokenuri pe secundă pentru un utilizator atunci când a fost împărțit pe ambele plăci RTX PRO 6000, de 2.8 ori mai mult decât cele 30.3 tokenuri pe secundă cu o placă și restul modelului în memoria sistemului.
- Al doilea GPU a scalat servirea de 1.85 până la 2.02 ori și integrarea de 1.92 ori. Randamentul maxim al fișierului llama.cpp a crescut de la 582.5 la 1,176.1 tokenuri pe secundă pe Ministral 3 3B și de la 424.8 la 787.9 pe gpt-oss 120B cu un server per GPU, iar încorporarea unui milion de pasaje Wikipedia a scăzut de la 890 la 464 de secunde.
- Un al doilea GPU a redus o epocă LoRA cu 37%. O epocă LoRA pe Ministral 3 8B a durat 31.5 minute pe un GPU și 19.7 minute pe două, încheind cu pierderi rezistate de 1.169 și, respectiv, 1.167.
- Lățimea de bandă a memoriei este punctul forte al procesorului Xeon de pe T4. STREAM Triad a atins 328GB/s, cu 53% peste Threadripper PRO 9995WX din Precision 7875, iar T4 a finalizat rezolvarea OpenFOAM drivAer în 293 de secunde față de 556 și o rulare de 10 miliarde de cifre y-cruncher în 53.9 secunde față de 83.7.
- Precision 7875 este lider în ceea ce privește munca CPU bazată pe nuclee. Threadripper-ul cu 96 de nuclee a avut un avans de 37% în 7-Zip și de 30% în Blender Monster, iar versiunea LLVM a fost finalizată în 43.7 secunde, față de 58.4 secunde.
Unde se află Pro Precision 9 T4
Dell poziționează T4 ca stația de lucru turn cu un singur socket emblematică pentru organizațiile care au nevoie de densitate maximă de calcul și extensibilitate, cu dezvoltarea inteligenței artificiale, simularea inginerească și calculul științific în fruntea listei de sarcini de lucru. Se situează deasupra Dell Pro Precision 9 T2 , care utilizează aceeași platformă de stație de lucru Granite Rapids-WS Xeon 6 într-o carcasă mai mică, cu un singur GPU. T4 adaugă procesoarele cu opt canale din vârful gamei, până la 86 de nuclee, și spațiu pentru până la patru plăci grafice, în funcție de model.
Opțiunile de procesoare de pe Dell.com încep de la Xeon 634 cu 12 nuclee și merg de la Xeon 696X cu 64 de nuclee până la Xeon 698X cu 86 de nuclee din unitatea noastră, care are 336 MB de memorie cache, o frecvență de bază de 2.0 GHz, o frecvență maximă de 4.8 GHz și o putere de 350 W. Memoria ajunge până la 4 TB de DDR5 RDIMM pe 16 sloturi, iar unitatea noastră ocupă opt dintre ele cu module de 32 GB la 6400 MT/s. Grafica începe de la o singură RTX A400, iar numărul de plăci grafice depinde de model: configuratorul Dell listează patru plăci RTX A1000, trei plăci RTX PRO 4000 Blackwell, două plăci RTX PRO 6000 Max-Q de 300 W sau o RTX PRO 6000 de 600 W.
The base configuration is listed at $5,925 on Dell.com. Our configuration adds $8,300 for the Xeon 698X, $15,000 for 256GB of memory, and $30,820 for the pair of RTX PRO 6000 Max-Q cards, before storage, networking, and the 36-month ProSupport upgrade that Dell automatically adds to a build at this level.
Construcție și proiectare
T4 este un turn complet cu o înălțime de 449.8 mm, o lățime de 203.7 mm și o adâncime de 617.5 mm, iar Dell îl listează ca având o greutate minimă de 24.1 kg și maximă de 33.6 kg, în funcție de configurație. Unitatea noastră folosește sursa de alimentare Platinum de 2400 W, pe care configuratorul Dell o selectează pentru configurația duală RTX PRO 6000, iar o sursă de 1500 W este implicită pentru configurațiile mai ușoare.
Serviceability is a strong point of the T4, starting with tool-less entry through a latch on the side panel and a 2400W power supply that slides out of the top rear of the chassis by hand. Everything else, including the graphics cards and the SSDs, comes out with a Phillips screwdriver, and Dell’s blue touch points mark the parts that come out by hand. The lab found the platform easy for users to repair in the field, which matters for a workstation at this price.
Cooling is the best execution we have seen from Dell in this class of tower. Air moves front to back, and large form-fitted cowls drive it down and across the processor and the memory while keeping that channel separate from the PCIe area. This layout gives the two 300W graphics cards a separate air stream, keeping them from drawing air heated by the 350W Xeon. Two fans sit between the processor zone and the card bay. The fan assembly has the same blue touch points and lifts out for memory access.
Extinderea se realizează prin șase sloturi PCIe de înălțime completă: două sloturi Gen5 x16 care găzduiesc plăcile grafice, un slot Gen5 x8, un slot Gen4 x8 și două sloturi Gen4 cu conectori x8 și cablare x4. Stocarea acoperă trei sloturi interne M.2 Gen5 și un slot Gen4, două compartimente SATA interne de 3.5 inch și un FlexBay frontal care găzduiește până la patru unități NVMe sau două unități de 3.5 inch, cu o unitate optică subțire opțională. Unitatea noastră pornește de pe o unitate Gen5 internă de 2 TB și găzduiește o altă unitate Gen5 de 2 TB într-un slot M.2 intern.
Panoul frontal conține o mufă pentru căști, două porturi USB-A de 10 Gbps, un port USB-C de 20 Gbps cu PowerShare, un port USB-C de 10 Gbps și un slot opțional pentru card SD. Partea din spate adaugă porturi RJ-45 de 10 GbE și 1 GbE, patru porturi USB-A de 10 Gbps, două porturi USB-C de 10 Gbps, un port USB-C de 20 Gbps, serial, două porturi PS/2 și ieșire de linie. Unitatea noastră adaugă adaptorul Intel E810-XXV SFP28 cu două porturi 25 GbE, MediaTek Wi-Fi 7 MT7925 cu Bluetooth 5.4, un cititor de carduri media și placa suplimentară Dell cu două porturi USB-C.
Securitatea și gestionarea includ un TPM 2.0, Dell SafeBIOS, detectarea intruziunilor în carcasă, suport pentru unități cu autocriptare, ștergere securizată a BIOS-ului și Intel vPro Enterprise. Dell listează că modelul T4 conține până la 85% plastic reciclat în componentele cheie, 90% aluminiu reciclat în mânere și 11% oțel reciclat în carcasă, iar configurația este certificată ENERGY STAR.
Specificații Dell Pro Precision 9 T4
| Specificație | Dell Pro Precision 9 T4 (conform testului) |
|---|---|
| Platformă | |
| Model | Dell Pro Precision 9 T4 (PW9T4260) |
| procesor | Intel Xeon 698X, 86 nuclee, 172 fire de execuție, 336 MB memorie cache, frecvență de bază 2.0 GHz, până la 4.8 GHz, 350 W |
| Opțiuni procesor | Xeon 634 (12 nuclee) până la Xeon 698X (86 nuclee) |
| Memorie | 256 GB (8x 32 GB) DDR5-6400 RDIMM ECC 16 sloturi, până la 4 TB |
| Grafică | 2x NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition, 96GB GDDR7 fiecare, 300W fiecare |
| Sistem de operare | Windows 11 Pro pentru stații de lucru (testat pe Ubuntu 26.04.1 LTS) |
| Stocare | |
| Conform configurației | 2x 2TB M.2 2280 Gen5 x4 TLC SED (ambele în sloturi M.2 interne) |
| Sloturi interne | 3x M.2 2230/2280 Gen5 NVMe 1x M.2 2230/2280 Gen4 NVMe 2 x SATA de 3.5 inci |
| FlexBay | Până la 4 unități NVMe plus unitate optică subțire opțională sau 2 unități SATA de 3.5 inci |
| Extindere și conectivitate | |
| Sloturi PCIe | 2x Gen5 x16 1x Gen5 x8 1x Gen4 x8 2x Gen4 x8 (x4 electrice) |
| Rețele | Intel E810-XXV SFP28 cu două porturi 25GbE (supliment) RJ-45 10GbE și 1GbE integrat MediaTek Wi-Fi 7 MT7925, Bluetooth 5.4 |
| Porturi frontale | 1x USB-C 20 Gbps cu PowerShare 1x USB-C 10 Gbps 2x USB-A 10 Gbps Mufa de casti Slot opțional pentru card SD |
| Porturi spate | 1x USB-C 20 Gbps 2x USB-C 10 Gbps 4x USB-A 10 Gbps Serial, 2x PS/2, ieșire de linie |
| Putere și fizic | |
| Alimentare electrică | Platinum 2400W (opțiune 1500W) |
| Dimensiuni | 449.8 x 203.7 x 617.5mm (17.70 x 8.01 x 24.31in) |
| Greutate | 24.1 kg până la 33.6 kg (53.1 până la 74.1 lb) în funcție de configurație |
| Garanție | ProSupport with on-site service after remote diagnosis, 36 months |
| Preț | Baza de 5,925 USD Aproximativ 66,600 USD, configurat corespunzător (Dell.com) |
Configurarea testului și metodologia
Am testat stații de lucru high-end pe Linux, iar toate cele patru sisteme din această recenzie au rulat Ubuntu 26.04.1 LTS pe kernel 7.0.0-43 cu driverul NVIDIA 595.99.02, CUDA 13, llama.cpp build b11716 și Ollama 0.40.3, pe profilul de putere de performanță Linux. Rezultatele provin din trei instrumente: sr-client pentru AI local și sarcini de lucru client, sr-harness pentru compilare, compresie, cripto, web serving și y-cruncher, și sr-suite r5.28 pentru GROMACS, OpenFOAM, ClickHouse, Valkey și lățime de bandă a memoriei. Fiecare rezultat este mediana trecerilor repetate.
Toate cele patru sisteme au rulat cu modul termic BIOS setat la Ultra Performance, iar T4 a rulat BIOS 1.2.0. Rularea cu hamul T4 a folosit sr-harness 3.3, Precision 7875 a folosit 3.5, iar ambele T2 au folosit 3.6, cu aceeași gamă de teste pentru aceste versiuni.
Fiecare sistem de comparație este un Dell tower cu placă grafică RTX PRO 6000 Blackwell. Dell Precision 7875 combină placa video Threadripper PRO 9995WX cu 96 de nuclee cu aceleași două plăci video RTX PRO 6000 Max-Q și 512 GB de DDR5-5600, ceea ce îl face cel mai apropiat. Dell Pro Precision 9 T2 rulează procesorul Xeon 658X cu 24 de nuclee cu o placă Max-Q, iar Dell Pro Max Tower T2 rulează procesorul Core Ultra 9 285K cu 24 de nuclee cu RTX PRO 6000 de 600 W, ceea ce arată cât adaugă limita de putere mai mare per GPU.
| Configuraţie | Procesor | Memorie | GPU | Test Drive | Mod termic BIOS |
|---|---|---|---|---|---|
| Dell Pro Precision 9 T4 | Xeon 698X, 86 de nuclee | 256GB DDR5-6400 (8 canale) | 2x RTX PRO 6000 Max-Q (300W) | 2TB SK Hynix PCB01 Gen5 | Performanță ultra |
| Dell Precision 7875 | Threadripper PRO 9995WX, 96 de nuclee | 512GB DDR5-5600 (8 canale) | 2x RTX PRO 6000 Max-Q (300W) | Samsung Gen4 de 2 TB | Performanță ultra |
| Dell Pro Precision 9 T2 | Xeon 658X, 24 de nuclee | 128GB DDR5-6400 (4 canale) | 1x RTX PRO 6000 Max-Q (300W) | Samsung PM9E1 Gen5, unități de stocare de 2 TB într-o matrice stripată | Performanță ultra |
| Dell Pro Max Tower T2 | Core Ultra 9 285K, 24 nuclee | 128GB DDR5-4400 (2 canale) | 1x RTX PRO 6000 (600W) | Samsung PM9F1 Gen4 de 2 TB | Performanță ultra |
Performanța IA locală
Fiecare sistem de aici are cel puțin o placă video RTX PRO 6000 Blackwell cu 96 GB de memorie GDDR7, așa că rezultatele cu un singur GPU măsoară placa, limita sa de putere și cât de repede platforma o alimentează. Cele două plăci video ale modelului T4 sunt ceea ce îl diferențiază, iar testele noastre cu două GPU rulează fiecare model în trei moduri în care se aplică: două servere independente, câte unul per GPU, pentru debit; un model împărțit pe straturi pe ambele plăci video; și, pentru MiniMax M2.7, o placă cu restul modelului în memoria sistemului.
LLM care servește pe un singur GPU
| server llama.cpp, un GPU (jetoane de ieșire/s, mai mare este mai bine) | Dell Pro Precision 9 T4 | Dell Precision 7875 | Dell Pro Precision 9 T2 | Dell Pro Max Tower T2 |
|---|---|---|---|---|
| Ministral 3 3B, o cerere | 240.5 | 252.6 | 243.8 | 261.6 |
| Ministral 3 3B, vârf | 582.5 | 637.6 | 602.6 | 658.8 |
| Ministral 3 8B, o cerere | 166.8 | 171.1 | 167.3 | 194.5 |
| Ministral 3 8B, vârf | 383.6 | 398.9 | 384.9 | 477.5 |
| Qwen3.8 27B, o cerere | 54.9 | 55.4 | 53.8 | 64.5 |
| Qwen3.8 27B, vârf | 158.1 | 162.8 | 155.8 | 194.7 |
| gpt-oss 120B, o solicitare | 166.9 | 171.2 | 164.5 | 193.0 |
| gpt-oss 120B, vârf | 424.8 | 458.4 | 413.1 | 520.7 |
| gpt-oss 120B, o cerere, timp până la primul token (ms, mai puțin înseamnă mai bine) | 1,189 | 1,181 | 1,213 | 844 |
Pe o GPU, T4 ajunge acolo unde o plasează limita de 300W a plăcii. A generat 166.9 tokenuri pe secundă pentru un utilizator pe gpt-oss 120B și a atins un vârf de 424.8 pe parcursul a 64 de solicitări simultane, cu o diferență de 1 până la 9% față de placa Max-Q identică a Precision 7875 pe toate cele patru modele și la același nivel cu Pro Precision 9 T2. Placa de 600W din Pro Max Tower T2 este cu 13 până la 25% mai rapidă în vârf pe fiecare model, atingând 520.7 tokenuri pe secundă pe gpt-oss 120B.
Două GPU-uri: Replici și Modele Split
| Server llama.cpp, două GPU-uri (jetoane de ieșire/s, mai mare este mai bine) | Dell Pro Precision 9 T4 | Dell Precision 7875 |
|---|---|---|
| Ministral 3 3B, vârf, un server per GPU | 1,176.1 | 1,260.2 |
| Ministral 3 8B, vârf, un server per GPU | 765.7 | 796.4 |
| Qwen3.8 27B, vârf, un server per GPU | 310.8 | 323.2 |
| gpt-oss 120B, vârf, un server per GPU | 787.9 | 905.8 |
| gpt-oss 120B, o singură solicitare, împărțit pe straturi | 170.6 | 182.4 |
| gpt-oss 120B, vârf, împărțit pe straturi | 539.2 | 619.4 |
Running one server per GPU raised the T4’s peak output by 1.85 to 2.02 times across the four models. Peak output rose from 582.5 to 1,176.1 tokens per second on Ministral 3 3B, from 383.6 to 765.7 on the 8B model, and from 158.1 to 310.8 on Qwen3.8 27B, scaling by 1.97 to 2.02 times. gpt-oss 120B scaled 1.85 times to 787.9 tokens per second on the T4 and 1.98 times to 905.8 on the Precision 7875, peaking at 128 concurrent requests, while the T4 peaked at 64.
Splitting gpt-oss 120B by layer across both cards is the slower way to use the second GPU when the model already fits on one. It served one user at 170.6 tokens per second, within 3 percent of a single card, and peaked at 539.2, 27 percent above one GPU and well short of the 787.9 that two replicas delivered. The split layout earns its place for models that don’t fit on one card, which is where MiniMax M2.7 comes in.
| Server llama.cpp, gpt-oss 120B, prompturi cu 8,192 de jetoane, ieșiri cu 1,024 de jetoane | T4, o singură placă grafică | T4, două GPU-uri, un server per GPU | T4, două GPU-uri, împărțite pe straturi | Precision 7875, două GPU-uri, câte un server per GPU |
|---|---|---|---|---|
| 1 concurente: debit total (jetoane/s) | 1,502 | 1,504 | 1,536 | 1,530 |
| 1 simultane: timpul până la primul token, mediană (ms, cu cât mai puțin înseamnă mai bine) | 1,189 | 1,180 | 719 | 1,189 |
| 8 concurente: debit total (jetoane/s) | 2,760 | 4,820 | 3,300 | 4,949 |
| 8 concurente: ieșire per utilizator (token-uri/s) | 38.3 | 66.9 | 45.8 | 68.7 |
| 8 simultane: timpul până la primul token, mediană (ms, cu cât mai puțin înseamnă mai bine) | 2,654 | 2,523 | 1,622 | 2,472 |
| 64 concurente: debit total (jetoane/s) | 3,823 | 7,091 | 4,853 | 7,557 |
| 64 concurente: ieșire per utilizator (token-uri/s) | 6.6 | 12.3 | 8.4 | 13.1 |
| 64 simultane: timpul până la primul token, mediană (ms, cu cât mai puțin înseamnă mai bine) | 3,874 | 3,226 | 2,852 | 2,867 |
The full sweep on gpt-oss 120B shows how the second card changes the curve, with total throughput counting prompt and output tokens together. One GPU climbed from 1,502 tokens per second for a single request to 2,760 at eight and 3,823 at 64, where each user received 6.6 output tokens per second. With one server per GPU, total throughput reached 4,820 tokens per second at eight concurrent requests and 7,091 at 64. At 64 requests, that was 1.85 times the single-card throughput, with each user receiving 12.3 output tokens per second. Splitting the model across both cards delivered lower peak throughput at 4,853 total tokens per second but reduced time to first token for a single user from 1,189ms to 719ms.
MiniMax M2.7: Un model prea mare pentru o singură placă
| MiniMax M2.7 Q4_K_M, 129.3GB (cu cât mai mult înseamnă mai bine, dacă nu se specifică altfel) | Dell Pro Precision 9 T4 | Dell Precision 7875 | Dell Pro Precision 9 T2 | Dell Pro Max Tower T2 |
|---|---|---|---|---|
| Un GPU plus RAM de sistem, o solicitare (token-uri/s) | 30.3 | 32.8 | 22.6 | 15.8 |
| Un GPU plus RAM de sistem, vârf (tokenuri/s) | 35.5 | 39.1 | 27.7 | 18.0 |
| Un GPU plus RAM de sistem, timp până la primul token (ms, mai puțin este mai bine) | 16,224 | 16,143 | 16,216 | 18,522 |
| Două GPU-uri împărțite pe straturi, o singură solicitare (token-uri/s) | 83.7 | 85.0 | GPU unic | GPU unic |
| Două GPU-uri împărțite pe straturi, vârf (token-uri/s) | 127.3 | 129.5 | GPU unic | GPU unic |
| Două GPU-uri împărțite pe straturi, timpul până la primul token (ms, mai puțin este mai bine) | 3,138 | 3,162 | GPU unic | GPU unic |
| Încărcare la rece, un GPU plus RAM (s, mai puțin e mai bine) | 40.5 | 65.8 | 37.6 | 81.1 |
| Încărcare la rece, două GPU-uri împărțite (s, mai puțin e mai bine) | 27.6 | 50.7 | GPU unic | GPU unic |
MiniMax M2.7 is a 230-billion-parameter mixture-of-experts model, and our 4-bit quantization takes 129.3GB, more than the 96GB on one RTX PRO 6000. On one card with the remainder in system memory, the T4 generated 30.3 tokens per second for one user and took 16.2 seconds to return the first token. With the model split across both cards, single-user output rose to 83.7 tokens per second, 2.8 times the one-card rate. Time to first token fell from 16.2 to 3.1 seconds, and peak throughput increased from 35.5 to 127.3 tokens per second.
The one-GPU results show how much the host platform matters once a model spills into system memory. The T4’s eight channels of DDR5-6400 put it 34 percent ahead of the four-channel Pro Precision 9 T2 at 22.6 tokens per second and 1.9 times ahead of the dual-channel Pro Max Tower T2 at 15.8, even though the Pro Max Tower T2’s 600W card is faster on every model that fits. The Precision 7875 edged the T4 at 32.8 tokens per second with 35 percent less memory bandwidth, so bandwidth alone doesn’t explain this result. We report the 7875’s lead as measured and have not isolated its cause.
Încărcare model
| Încărcare model Ollama 0.40.3 și llama.cpp (s, mai puțin este mai bine) | Dell Pro Precision 9 T4 | Dell Precision 7875 | Dell Pro Precision 9 T2 | Dell Pro Max Tower T2 |
|---|---|---|---|---|
| gpt-oss:20b (12.8 GB), rece | 5.79 | 7.61 | 5.57 | 7.95 |
| gpt-oss:20b, cald | 3.45 | 2.50 | 3.47 | 3.05 |
| gpt-oss:120b (60.9 GB), rece | 15.16 | 25.80 | 15.16 | 28.18 |
| gpt-oss:120b, cald | 7.49 | 5.01 | 7.87 | 6.81 |
| gpt-oss:120b, rece, o copie pe fiecare GPU | 26.47 | 35.55 | GPU unic | GPU unic |
| MiniMax M2.7 (129.3GB), rece, o placă grafică plus RAM | 40.5 | 65.8 | 37.6 | 81.1 |
| MiniMax M2.7, cald, o placă grafică plus RAM | 28.6 | 15.2 | 36.7 | 80.5 |
Încărcările la rece favorizează unitățile Gen5, T4 încărcând gpt-oss:120b de pe SSD-ul său SK hynix Gen5 în 15.2 secunde, egalând Pro Precision 9 T2 și mult înainte de 25.8 și 28.2 secunde de pe Precision 7875 și Pro Max Tower T2 echipate cu Gen4. Încărcările la cald din memoria cache a paginii inversează această ordine, 7875 înregistrând 5.0 secunde față de 7.5 secunde pe T4, iar încărcarea unei copii pe fiecare GPU simultan a durat 26.5 secunde pe T4.
Generare augmentată prin recuperare la scară largă
| RAG peste 1,002,067 de pasaje Wikipedia | Dell Pro Precision 9 T4 | Dell Precision 7875 | Dell Pro Precision 9 T2 | Dell Pro Max Tower T2 |
|---|---|---|---|---|
| Integrare, un GPU (pasaje/s) | 1,126 | 1,196 | 1,141 | 1,388 |
| Timp de integrare a peretelui, un GPU (s, mai puțin este mai bine) | 890 | 838 | 878 | 722 |
| Integrare, două GPU-uri (pasaje/s) | 2,162 | 2,371 | GPU unic | GPU unic |
| Încorporarea timpului de afișare, două GPU-uri (s, mai puțin este mai bine) | 464 | 423 | GPU unic | GPU unic |
| Construcția indicelui HNSW (s, mai mic este mai bine) | 27.3 | 34.8 | 46.3 | 118.6 |
| Căutare HNSW, ef 64 (interogări/s) | 98,503 | 65,228 | 45,085 | 17,540 |
| Căutare HNSW, ef 256 (interogări/s) | 32,149 | 19,598 | 13,478 | 4,932 |
| Recall@5 vs. căutare exactă, ef 256 (%) | 97.59 | 97.67 | 97.26 | 97.70 |
| Întrebare la care trebuie să răspundeți p50 (s, mai puțin este mai bine) | 0.123 | 0.082 | 0.117 | 0.095 |
The RAG-at-scale test hides SQuAD questions among a million Wikipedia passages, embeds them with nomic-embed-text, builds an HNSW index, and answers with Phi-4-mini. Using two GPUs cut the T4’s embedding time from 890 to 464 seconds, a 1.92x speedup. The Precision 7875 completed the same task in 423 seconds with two GPUs. The 600W card in the Pro Max Tower T2 is the fastest single GPU here at 722 seconds.
Construirea indexului și căutarea vectorială se execută pe procesor, iar aici conduce T4. A construit indexul HNSW în 27.3 secunde, față de 34.8 secunde pe Precision 7875 și 118.6 secunde pe Pro Max Tower T2, și a căutat la 98,503 interogări pe secundă la un randament de 64, de 1.51 ori mai mare decât 7875 și de 5.6 ori mai mare decât sistemul Core Ultra. La un randament de 256, a reținut 32,149 interogări pe secundă cu o rată de reamintire de 97.6% față de căutarea exactă, iar răspunsurile au venit într-o medie de 0.12 secunde.
Reglaj fin
| Ministral 3 8B LoRA, BF16, o epocă a Dolly 15k | Dell Pro Precision 9 T4 | Dell Precision 7875 | Dell Pro Precision 9 T2 | Dell Pro Max Tower T2 |
|---|---|---|---|---|
| Timp de antrenament Epoch, un GPU (minute, mai puțin este mai bine) | 31.5 | 27.2 | 30.6 | 22.3 |
| Randament, un GPU (tokenuri/s) | 1,584 | 1,834 | 1,631 | 2,236 |
| Pierdere suportată înainte și după antrenament, un GPU | 1.534 la 1.169 | 1.534 la 1.172 | 1.534 la 1.167 | 1.534 la 1.167 |
| Timp de antrenament Epoch, două GPU-uri (minute, mai puțin este mai bine) | 19.7 | 18.1 | GPU unic | GPU unic |
| Randament, două GPU-uri (token-uri/s) | 2,528 | 2,754 | GPU unic | GPU unic |
| Accelerare de la a doua GPU | 1.60x | 1.50x | GPU unic | GPU unic |
| Pierdere rezistată după antrenament, două GPU-uri | 1.167 | 1.168 | GPU unic | GPU unic |
The one-epoch LoRA test fine-tunes Ministral 3 8B in BF16 on Dolly 15k across 1,849 steps and scores 200 held-out examples every 100 steps. Every system started at a held-out loss of 1.534 and finished between 1.167 and 1.172, so the difference comes down to time per epoch. One T4 GPU finished in 31.5 minutes at 1,584 tokens per second, within 3 percent of the Pro Precision 9 T2 on the same Max-Q card. The Precision 7875 took 27.2 minutes, and the 600W card in the Pro Max Tower T2 took 22.3 minutes.
Held-out loss on the T4 fell from 1.534 to 1.219 in the first 100 steps (1.6 minutes into training), then eased to 1.169 over the rest of the epoch. Adding the second GPU cut the T4’s epoch to 19.7 minutes at 2,528 tokens per second, a 1.60x speedup that beat the single 600W card’s 22.3 minutes. The Precision 7875 completed its two-GPU epoch in 18.1 minutes, a 1.50x speedup, and the two-GPU runs ended at held-out losses of 1.167 and 1.168.
Both cards run data-parallel with two examples per GPU and gradients accumulated to the same global batch of eight, over four passes on one GPU and two passes on a pair, so the two-GPU run sees the same examples at each step and lands on the same loss. With two short examples per GPU in each pass, the second card has little work to absorb, and gradient exchange takes a larger share of each step. The epoch peaked at 19.5GiB of GPU memory on one card and 19.7GiB per card on two, a fraction of the 96GB on each RTX PRO 6000.
Agent de codare, RAG la scară mică și generare de imagini
| Agent de codare, RAG și generare de imagini (cu cât valoarea este mai mare, cu atât mai bine, dacă nu se specifică altfel) | Dell Pro Precision 9 T4 | Dell Precision 7875 | Dell Pro Precision 9 T2 | Dell Pro Max Tower T2 |
|---|---|---|---|---|
| Agent de codare, gpt-oss:20b 64K, rulări reușite (din 3) | 3 | 2* | 2* | 2* |
| Agent de codare, gpt-oss:120b 128K, rulări reușite (din 3) | 3 | 3 | 3 | 3 |
| Agent de codare, gpt-oss:120b, rată de generare (tokenuri/s) | 161.5 | 167.9 | 166.7 | 183.2 |
| RAG, 20,963 pasaje, ingerare (pasaje/s) | 304.6 | 433.8 | 392.1 | 371.6 |
| Generarea de răspunsuri RAG, Phi-4-mini (jetoane/s) | 372.5 | 410.0 | 402.8 | 415.8 |
| FLUX.2 klein 4B BF16, 1024×1024 (imagini/min) | 40.96 | 43.03 | 41.32 | 54.25 |
| Z-Image Turbo 6B BF16 (imagini/min) | 17.29 | 17.67 | 17.27 | 23.83 |
| Qwen-Image 20B BF16 (imagini/min) | 2.43 | 2.45 | 2.39 | 3.20 |
*Segnalat de suită: una dintre cele trei rulări ale agenților pe acest sistem nu a trecut toate cele 11 teste.
T4 a trecut de fiecare rulare a agentului de codare la fiecare nivel de model, inclusiv toate cele trei rulări gpt-oss:20b la un context de 64K în care celelalte trei sisteme au trecut de două din trei, și a generat 161.5 tokenuri pe secundă pe gpt-oss:120b. Generarea de imagini rulează pe un singur GPU, așa că cele 40.96 imagini pe minut ale T4 pe FLUX.2 klein în BF16 se află alături de celelalte sisteme Max-Q și în spatele plăcii de 600W la 54.25.
Performanța CPU
Rezultatele procesorului plasează cele 86 de nuclee Xeon ale lui T4 față de cele 96 de nuclee Threadripper ale lui Precision 7875, cu cele două T2 cu 24 de nuclee ca puncte de referință. Threadripper are încă zece nuclee și aduce 192 de thread-uri la cele 172 ale lui Xeon. T4 este cel mai important în ceea ce privește lățimea de bandă a memoriei, iar 7875 este cel mai important în ceea ce privește numărul de nuclee și frecvențele.
Compresie, randare și compilare
| Testare | Dell Pro Precision 9 T4 | Dell Precision 7875 | Dell Pro Precision 9 T2 | Dell Pro Max Tower T2 |
|---|---|---|---|---|
| 7-Zip, toate firele de execuție (GIPS) | 619.8 | 850.0 | 285.1 | 172.7 |
| 7-Zip, un singur fir de execuție (GIPS) | 8.85 | 10.58 | 9.27 | 11.04 |
| Blender 4.5 Monster (probe/min) | 961.8 | 1,253.8 | 400.7 | 303.0 |
| Blender 4.5 Junkshop (probe/min) | 641.9 | 849.7 | 266.9 | 191.9 |
| Blender 4.5 Sală de clasă (eșantioane/min) | 442.8 | 612.2 | 187.2 | 147.1 |
| Frână de mână x265 (fps) | 31.4 | 41.7 | 41.5 | 40.0 |
| Frână de mână SVT-AV1 (fps) | 159.4 | 255.8 | 198.5 | 122.6 |
| LLVM 21 versiune (s, o versiune inferioară este mai bună) | 58.4 | 43.7 | 106.4 | 155.9 |
| Nucleu Linux allmodconfig (s, o versiune mai mică este mai bună) | 312 | 264 | 537 | 843 |
| OpenSSL AES-256-GCM, toate firele de execuție (GB/s) | 882.6 | 1,139.1 | 371.2 | 137.0 |
| nginx, 1,000 conexiuni (cereri/s) | 414,468 | 467,128 | 323,567 | 153,732 |
T4 a obținut un scor de 619.8 GIPS în 7-Zip și 961.8 sample-uri pe minut în Blender Monster, de 2.2 și, respectiv, de 2.4 ori mai mare decât Pro Precision 9 T2 cu 24 de nuclee. Precision 7875 a avut un avans de 37% în 7-Zip și de 30% în Blender, iar versiunea LLVM a finalizat în 43.7 secunde față de 58.4 secunde, iar versiunea allmodconfig a kernelului Linux în 264 de secunde față de 312 secunde. Viteza per nucleu este punctul slab al lui T4, cu cel mai mic scor 7-Zip pe un singur fir din acest grup, la 8.85 GIPS.
HandBrake’s x265 encode is the outlier in this table, and the cause is the encoder more than the processor. The other three systems all landed between 40.0 and 41.7 fps with 24 or 96 cores, so x265 at this preset isn’t scaling with core count, and the T4’s 31.4 fps is consistent with its lower per-core speed on the threads x265 uses. During the encode, the T4 averaged about 1GHz across its 172 threads at 51C to 64C, which shows most of the chip idle. SVT-AV1 scaled better, at 159.4 fps on the T4 against 255.8 on the 7875.
Lățime de bandă a memoriei, simulare și matematică
| Testare | Dell Pro Precision 9 T4 | Dell Precision 7875 | Dell Pro Precision 9 T2 | Dell Pro Max Tower T2 |
|---|---|---|---|---|
| Triada STREAM (MB/s) | 328,329 | 215,177 | 141,832 | 45,102 |
| OpenFOAM 13 drivAer, celule 3M, rezolvă (s, mai puțin este mai bine) | 293 | 556 | 826 | Nu a terminat |
| GROMACS benchPEP, toate miezurile (ns/zi) | 1.243 | 1.034 | Nu alerga | Nu alerga |
| GROMACS benchMEM, 16 nuclee (ns/zi) | 68.09 | 84.94 | 78.03 | 54.26 |
| OpenBLAS DGEMM, toate nucleele (GFLOPS) | 3,664 | 4,745 | 2,319 | 1,063 |
| OpenBLAS LU rezolva N=20000 (GFLOPS) | 1,660 | 1,172 | 1,616 | 858 |
| y-cruncher Pi, 1B cifre (s, mai mic este mai bine) | 4.01 | 7.45 | 8.51 | 24.61 |
| y-cruncher Pi, 10B cifre (s, mai mic este mai bine) | 53.9 | 83.7 | 119.2 | 347.9 |
| y-cruncher Pi, 25B cifre (s, mai mic este mai bine) | 155.6 | 259.6 | Nu alerga | Nu alerga |
Eight channels of DDR5-6400 give the T4 328GB/s in STREAM Triad, 53 percent above the Precision 7875’s DDR5-5600 and 2.3 times the four-channel Pro Precision 9 T2. Bandwidth-bound work follows: the T4 solved the 3-million-cell OpenFOAM drivAer case in 293 seconds, compared with 556 on the 7875 and 826 on the Pro Precision 9 T2, while the Pro Max Tower T2 did not finish within the suite’s 150-minute limit. The T4 also ran the 22.6-million-cell case in 6,851 seconds.
GROMACS benchPEP, cazul amplu de dinamică moleculară cu toate nucleele, a rulat la 1.243 ns/zi pe T4 față de 1.034 pe 7875, iar rezolvarea LU a atins 1,660 GFLOPS față de 1,172. y-cruncher a calculat 10 miliarde de cifre Pi în 53.9 secunde față de 83.7 pe 7875 și 25 de miliarde în 155.6 secunde față de 259.6. Calculul dens care rămâne în cache favorizează Threadripper, care a condus OpenBLAS DGEMM la 4,745 GFLOPS față de 3,664.
Baze de date și servicii
| Testare | Dell Pro Precision 9 T4 | Dell Precision 7875 | Dell Pro Precision 9 T2 | Dell Pro Max Tower T2 |
|---|---|---|---|---|
| Rulare rapidă ClickBench, 43 de interogări (s, mai puțin înseamnă mai bine) | 3.21 | 2.88 | 4.80 | 10.44 |
| Rulare la rece ClickBench, 43 de interogări (s, mai puțin înseamnă mai bine) | 6.45 | 7.09 | 6.92 | 14.22 |
| Cache Valkey, SET (cereri/s) | 666,714 | 1,138,696 | 914,832 | 1,719,108 |
| Cache Valkey, GET (cereri/s) | 865,353 | 1,279,429 | 991,576 | 1,648,278 |
| Stockfish, toate firele (Mnps) | 68.21 | 168.27 | 45.44 | 37.42 |
| PyPerformance merge (ms, mai mic este mai bine) | 74.3 | 66.0 | 72.1 | 56.7 |
ClickHouse a executat cele 43 de interogări ClickBench în 3.21 secunde la cald și 6.45 secunde la rece pe T4, cu 0.33 secunde în urma lui 7875 în runda la cald și cu 0.64 secunde înaintea rundei la rece. Valkey favorizează nucleele rapide în detrimentul multor nuclee, iar cele 666,714 de solicitări SET pe secundă ale lui T4 sunt în urma tuturor celor trei sisteme de comparație, Core Ultra 9 285K din Pro Max Tower T2 conducând cu 1.72 milioane. Acest model se potrivește cu rezultatele pe un singur fir de execuție ale lui T4 și merită luat în considerare pentru serviciile cu latență limitată.
Cu toate cele 172 de fire de execuție încărcate și procesorul la o medie de 87C, T4 a căutat 68.21 milioane de noduri pe secundă în Stockfish, de 1.5 ori mai mult decât Pro Precision 9 T2 cu 48 de fire de execuție și mult sub jumătate din cele 168.27 de noduri ale lui 7875 pe 192 de fire de execuție. Testul a expirat și în prima rulare completă a T4, înainte ca un test independent să producă această cifră. Raportăm rezultatul așa cum a fost măsurat și nu am izolat cauza scalării slabe.
Performanța stocării
| fio, amprentă de 25 GiB (cu cât mai mult, cu atât mai bine) | Dell Pro Precision 9 T4 | Dell Precision 7875 | Dell Pro Precision 9 T2 | Dell Pro Max Tower T2 |
|---|---|---|---|---|
| Citire secvențială 128K (MB/s) | 14,152 | 7,089 | 20,914 * | 7,234 |
| Scriere secvențială 128K (MB/s) | 10,078 | 5,265 | 12,564 | 6,772 |
| Citire aleatorie 4K, vârf (IOPS) | 2,306,346 | 993,569 | 3,214,066 | 1,538,387 |
| Scriere aleatorie 4K, vârf (IOPS) | 1,830,776 | 787,388 | 2,353,766 | 1,326,030 |
*Segnalat de suită pentru varianța de la o rundă la alta după o reluare.
The T4’s 2TB SK hynix Gen5 boot drive delivered sequential reads of 14,152MB/s and writes of 10,078MB/s. Its sequential read speed was roughly twice that of the Gen4 drives in the Precision 7875 and Pro Max Tower T2. Random performance peaked at 2.31 million read IOPS and 1.83 million write IOPS. The Pro Precision 9 T2’s sequential read of 20,914MB/s exceeds what one Gen5 x4 link carries, which fits that system’s test volume, a striped array of Samsung PM9E1 Gen5 drives. We tested the T4’s boot drive alone, and the second 2TB drive was not part of this run.
Termice și ceasuri sub sarcină
| Dell Pro Precision 9 T4 | CPU Max (C) | Media CPU (C) | Frecvență medie a procesorului (MHz) |
|---|---|---|---|
| 7-Zip | 93 | 80.6 | 1,967 |
| Blender | 91 | 85.7 | 2,587 |
| GROMACS | 96 | 81.3 | 1,313 |
| Construcție LLVM | 83 | 74.5 | 2,127 |
| OpenBLAS | 80 | 62.9 | 1,325 |
| LLM servește | 84 | 65.0 | 924 |
| Reglaj fin | 71 | 61.2 | 854 |
| RAG la scară largă | 74 | 64.4 | 987 |
| Stocare | 64 | 55.4 | 942 |
Cu BIOS-ul în modul Ultra Performance, Xeon 698X a atins un vârf de 93°C în 7-Zip și 96°C în GROMACS, iar valorile frecvenței din tabel reprezintă medii pentru toate cele 172 de procesoare logice. Blender și Stockfish încarcă fiecare fir de execuție și au menținut frecvența între 2.5 GHz și 2.6 GHz, peste frecvența de bază de 2.0 GHz a cipului. GROMACS și OpenBLAS încarcă 64 și 86 de nuclee fizice și lasă firele de execuție rămase inactive în apropierea a 0.8 GHz, motiv pentru care mediile lor sunt de aproximativ 1.3 GHz. Lucrul condus de GPU a menținut procesorul mai rece, la o medie de 61°C până la 65°C în timpul funcționării LLM, reglării fine și RAG, deoarece aceste teste se bazează pe plăcile video.
Concluzie
Dell Pro Precision 9 T4 este construit pentru lucrul local cu inteligența artificială, iar al doilea RTX PRO 6000 este punctul culminant. Două plăci video Max-Q au crescut debitul maxim de servire de 1.85 până la 2.02 ori pe patru modele și debitul de încorporare de 1.92 ori, au redus o epocă LoRA pe Ministral 3 8B de la 31.5 la 19.7 minute și au transformat MiniMax M2.7, un model prea mare pentru o singură placă, de la 30.3 la 83.7 tokenuri pe secundă pentru un singur utilizator. Pe gpt-oss 120B, un server per GPU a atins un total de 7,091 de tokenuri pe secundă la 64 de solicitări, în timp ce împărțirea modelului pe ambele plăci video a returnat primul token al unui singur utilizator în 719 ms față de 1,189 ms.
Opt canale de DDR5-6400 au oferit Xeon 698X un avans de 53% în lățimea de bandă a memoriei față de Threadripper PRO 9995WX. Această lățime de bandă a permis T4 să obțină rezultate de căutare OpenFOAM, GROMACS benchPEP, y-cruncher și HNSW mai rapide decât Precision 7875, iar stocarea Gen5 a lui T4 a încărcat mai rapid modelele mari. Și carcasa merită laude, cu cea mai bună configurație de răcire pe care am văzut-o de la Dell în această clasă și acces fără unelte la sursa de alimentare.
7875 rămâne în frunte la randarea pe nuclee, compresie și compilare cu 18 până la 38% și cu 60% în SVT-AV1. Viteza per nucleu a Xeon a fost în urma tuturor sistemelor din acest grup, lucru demonstrat în Valkey și alte servicii cu thread-uri reduse. Reglarea fină pe un singur GPU a fost, de asemenea, mai lentă pe T4, unde epoca LoRA a durat 31.5 minute față de 27.2 pe 7875 și 22.3 pe placa de 600W din Pro Max Tower T2, fiecare sistem terminând la 0.005 de aceeași pierdere.
At about $66,600 as configured on Dell.com, the T4 suits teams that want to serve, embed, and fine-tune models on-premises, including models that need more than 96GB of GPU memory, alongside memory-bound simulation and analytics on the same machine. Buyers whose work is mostly rendering and compilation will find the Threadripper platform faster, and buyers who need one GPU can get the same card in the smaller Pro Precision 9 T2.
Clasament: Dell Pro Precision 9 T4 deține premiul pentru cel mai bun server turn Xeon pentru inteligență artificială locală în clasamentul nostru „Cele mai bune desktopuri pentru inteligență artificială locală” .




Amazon