La Dell Pro Precision 9 T4 est la tour monoprocesseur haut de gamme de la série Dell Pro Precision. Notre modèle de test est configuré pour l'IA locale à une échelle que la plupart des stations de travail ne peuvent atteindre. Il associe un processeur Intel Xeon 698X à 86 cœurs, 256 Go de mémoire DDR5-6400 ECC, deux cartes graphiques NVIDIA RTX PRO 6000 Blackwell Max-Q de 300 W avec 96 Go de GDDR7 chacune, deux SSD Gen5 de 2 To et une carte réseau 25 GbE à deux ports, le tout alimenté par un bloc d'alimentation de 2 400 W. Dans la même configuration, son prix sur Dell.com est d'environ 66 600 $.
Points clés à retenir
- Deux GPU permettent de transformer un modèle qui ne tient pas sur une seule carte en un modèle utilisable. Le MiniMax M2.7 de 129.3 Go a généré 83.7 jetons par seconde pour un utilisateur lorsqu'il était réparti entre les deux cartes RTX PRO 6000, soit 2.8 fois plus que les 30.3 jetons par seconde obtenus avec une seule carte et le reste du modèle dans la mémoire système.
- Le deuxième GPU a multiplié par 1.85 la capacité de service par 2.02 et par 1.92 la capacité d'intégration. Le débit maximal de llama.cpp est passé de 582.5 à 1 176,1 jetons par seconde sur Ministral 3 3B et de 424.8 à 787.9 sur gpt-oss 120B avec un serveur par GPU, et l’intégration d’un million de passages de Wikipédia est passée de 890 à 464 secondes.
- Un deuxième GPU a réduit une époque LoRA de 37 %. Une époque de LoRA sur Ministral 3 8B a pris 31.5 minutes sur un GPU et 19.7 minutes sur deux, se terminant par des pertes de 1.169 et 1.167.
- C'est au niveau de la bande passante mémoire que le Xeon du T4 prend l'avantage. STREAM Triad a atteint 328 Go/s, soit 53 % de plus que le Threadripper PRO 9995WX dans le Precision 7875, et le T4 a terminé la résolution OpenFOAM drivAer en 293 secondes contre 556 et une exécution y-cruncher de 10 milliards de chiffres en 53.9 secondes contre 83.7.
- Le Precision 7875 excelle dans les tâches gourmandes en ressources CPU. Le Threadripper à 96 cœurs a obtenu 37 % de performances en avance dans 7-Zip et 30 % de performances en avance dans Blender Monster, et il a terminé la compilation LLVM en 43.7 secondes contre 58.4.
Où se situe le Pro Precision 9 T4
Dell positionne la T4 comme sa station de travail tour monoprocesseur phare, destinée aux organisations exigeant une densité de calcul et une évolutivité maximales, notamment pour le développement d'IA, la simulation d'ingénierie et le calcul scientifique. Elle se positionne au-dessus de la Dell Pro Precision 9 T2 , qui utilise la même plateforme Granite Rapids-WS Xeon 6 dans un châssis plus compact avec un seul GPU. La T4 se distingue par ses processeurs huit canaux haut de gamme, jusqu'à 86 cœurs, et la possibilité d'intégrer jusqu'à quatre cartes graphiques, selon le modèle.
Les options de processeur sur Dell.com commencent avec le Xeon 634 à 12 cœurs et vont jusqu'au Xeon 696X à 64 cœurs, voire au Xeon 698X à 86 cœurs de notre modèle, qui dispose de 336 Mo de cache, d'une fréquence de base de 2.0 GHz, d'une fréquence maximale de 4.8 GHz et d'une consommation de 350 W. La mémoire vive peut atteindre 4 To de DDR5 RDIMM répartis sur 16 emplacements ; notre modèle en utilise huit, occupés par des modules de 32 Go à 6 400 MT/s. La partie graphique est assurée par une carte RTX A400, le nombre de cartes variant selon le modèle : le configurateur Dell propose quatre cartes RTX A1000, trois cartes RTX PRO 4000 Blackwell, deux cartes RTX PRO 6000 Max-Q de 300 W ou une carte RTX PRO 6000 de 600 W.
La configuration de base est affichée à 5 925 $ sur Dell.com. Notre configuration ajoute 8 300 $ pour le processeur Xeon 698X, 15 000 $ pour les 256 Go de mémoire et 30 820 $ pour les deux cartes graphiques RTX PRO 6000 Max-Q, sans compter le stockage, la connectivité réseau et l’extension de garantie ProSupport de 36 mois offerte automatiquement par Dell pour cette configuration.
Construire et concevoir
Le T4 est un boîtier tour complet mesurant 449.8 mm de hauteur, 203.7 mm de largeur et 617.5 mm de profondeur. Dell annonce un poids minimum de 24.1 kg et un poids maximum de 33.6 kg selon la configuration. Notre modèle est équipé d'une alimentation Platinum de 2 400 W, sélectionnée par défaut par le configurateur Dell pour la configuration à deux cartes graphiques RTX PRO 6000. Une alimentation de 1 500 W est proposée par défaut pour les configurations plus légères.
La facilité d'entretien est un atout majeur du T4, à commencer par l'accès sans outil grâce à un loquet sur le panneau latéral et une alimentation de 2 400 W qui se retire manuellement par le haut à l'arrière du châssis. Tous les autres composants, y compris les cartes graphiques et les SSD, s'extraient à l'aide d'un tournevis cruciforme, et les repères bleus Dell signalent les pièces à retirer manuellement. Le laboratoire a constaté que la plateforme était facile à réparer par l'utilisateur sur le terrain, un point essentiel pour une station de travail de ce prix.
Le système de refroidissement est le meilleur que Dell ait jamais conçu pour cette catégorie de boîtier tour. L'air circule de l'avant vers l'arrière, et de larges grilles profilées le dirigent vers le processeur et la mémoire, tout en séparant ce flux d'air de la zone PCIe. Les deux cartes graphiques de 300 W bénéficient ainsi d'un flux d'air distinct et ne sont pas affectées par la chaleur du processeur Xeon de 350 W. Grilles en place, deux ventilateurs se positionnent entre la zone du processeur et la baie de cartes graphiques. L'ensemble, doté des mêmes boutons bleus, se retire facilement pour accéder à la mémoire.
L'extension s'effectue via six emplacements PCIe pleine hauteur : deux emplacements Gen5 x16 pour les cartes graphiques, un emplacement Gen5 x8, un emplacement Gen4 x8 et deux emplacements Gen4 avec connecteurs x8 et câblage x4. Le stockage comprend trois emplacements M.2 Gen5 internes et un emplacement Gen4, deux baies SATA 3.5 pouces internes et une baie FlexBay en façade pouvant accueillir jusqu'à quatre disques NVMe ou deux disques 3.5 pouces, avec un lecteur optique slim en option. Notre modèle démarre sur un disque interne Gen5 de 2 To et dispose d'un second disque Gen5 de 2 To dans un emplacement M.2 interne.
Le panneau avant comporte une prise casque, deux ports USB-A 10 Gbit/s, un port USB-C 20 Gbit/s avec PowerShare, un port USB-C 10 Gbit/s et un lecteur de carte SD (en option). À l'arrière, on trouve des ports RJ-45 10 Gbit/s et 1 Gbit/s, quatre ports USB-A 10 Gbit/s, deux ports USB-C 10 Gbit/s, un port USB-C 20 Gbit/s, un port série, deux ports PS/2 et une sortie ligne. Notre modèle est équipé d'une carte réseau Intel E810-XXV double port 25 Gbit/s SFP28, d'une carte Wi-Fi 7 MediaTek MT7925 avec Bluetooth 5.4, d'un lecteur de cartes mémoire et d'une carte d'extension double USB-C Dell.
La sécurité et la gestion incluent une puce TPM 2.0, Dell SafeBIOS, la détection d'intrusion dans le châssis, la prise en charge du chiffrement automatique des disques, l'effacement sécurisé du BIOS et Intel vPro Enterprise. Dell indique que le T4 contient jusqu'à 85 % de plastique recyclé dans ses composants clés, 90 % d'aluminium recyclé dans ses poignées et 11 % d'acier recyclé dans son châssis. Sa configuration est certifiée ENERGY STAR.
Spécifications du Dell Pro Precision 9 T4
| Spécifications | Dell Pro Precision 9 T4 (tel que testé) |
|---|---|
| Plateforme complète | |
| Modèle | Dell Pro Precision 9 T4 (PW9T4260) |
| Processeur | Processeur Intel Xeon 698X, 86 cœurs, 172 threads, 336 Mo de cache, fréquence de base de 2.0 GHz, jusqu'à 4.8 GHz, 350 W |
| Options de processeur | Xeon 634 (12 cœurs) à Xeon 698X (86 cœurs) |
| Mémoire | 256 Go (8 x 32 Go) DDR5-6400 RDIMM ECC 16 emplacements, jusqu'à 4 To |
| Les éléments graphiques | 2 cartes graphiques NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition, 96 Go de mémoire GDDR7 chacune, 300 W chacune |
| Système d'exploitation | Windows 11 Pro pour stations de travail (testé sur Ubuntu 26.04.1 LTS) |
| Stockage | |
| tel que configuré | 2 x 2 To M.2 2280 Gen5 x4 TLC SED (tous deux dans des emplacements M.2 internes) |
| fentes internes | 3x SSD M.2 2230/2280 Gen5 NVMe 1x SSD M.2 2230/2280 Gen4 NVMe 2x SATA 3.5 pouces |
| FlexBay | Jusqu'à 4 disques NVMe plus un lecteur optique slim en option, ou 2 disques SATA 3.5 pouces |
| Extension et connectivité | |
| Emplacements PCIe | 2x Gen5 x16 1x Gen5 x8 1x Gen4 x8 2x Gen4 x8 (x4 électriques) |
| Networking | Module complémentaire Intel E810-XXV double port 25GbE SFP28 Interfaces RJ-45 10GbE et 1GbE intégrées MediaTek Wi-Fi 7 MT7925, Bluetooth 5.4 |
| Ports avant | 1 port USB-C 20 Gbit/s avec PowerShare 1 ports USB-C 10 Gbit/s 2x USB-A 10 Gbit/s Prise casque Emplacement pour carte SD en option |
| Ports arrière | 1 ports USB-C 20 Gbit/s 2 ports USB-C 10 Gbit/s 4x USB-A 10 Gbit/s Sortie série, 2x PS/2, sortie ligne |
| Puissance et physique | |
| Alimentation | 2400W Platine (option 1500W) |
| Dimensions | 449.8 x 203.7 x 617.5mm (17.70 x 8.01 x 24.31in) |
| Poids | De 24.1 kg à 33.6 kg (53.1 à 74.1 lb) selon la configuration |
| Garantie | Assistance ProSupport avec intervention sur site après diagnostic à distance, 36 mois |
| Tarifs et Prix | 5,925 $ de base Environ 66 600 $ avec cette configuration (Dell.com) |
Configuration du test et méthodologie
Nous testons des stations de travail haut de gamme sous Linux. Les quatre systèmes de ce test fonctionnent sous Ubuntu 26.04.1 LTS (noyau 7.0.0-43) avec le pilote NVIDIA 595.99.02, CUDA 13, llama.cpp (version b11716) et Ollama 0.40.3, en mode de performance Linux. Les résultats proviennent de trois outils : sr-client pour les charges de travail locales d'IA et client, sr-harness pour la compilation, la compression, le chiffrement, le serveur web et y-cruncher, et sr-suite r5.28 pour GROMACS, OpenFOAM, ClickHouse, Valkey et la bande passante mémoire. Chaque résultat correspond à la médiane de plusieurs passages.
Les quatre systèmes ont fonctionné avec le mode thermique du BIOS réglé sur Ultra Performance, et le T4 a utilisé le BIOS 1.2.0. Le test du T4 a utilisé sr-harness 3.3, le Precision 7875 a utilisé 3.5 et les deux T2 ont utilisé 3.6, avec la même configuration de test pour ces versions.
Chaque système de comparaison est une tour Dell équipée d'une carte graphique RTX PRO 6000 Blackwell. La Dell Precision 7875 associe le processeur Threadripper PRO 9995WX à 96 cœurs aux mêmes deux cartes RTX PRO 6000 Max-Q et 512 Go de mémoire DDR5-5600, ce qui en fait le modèle le plus comparable. La Dell Pro Precision 9 T2 est équipée du processeur Xeon 658X à 24 cœurs avec une carte Max-Q, tandis que la Dell Pro Max Tower T2 intègre le processeur Core Ultra 9 285K à 24 cœurs et la RTX PRO 6000 de 600 W, illustrant ainsi l'apport d'une limite de puissance plus élevée par GPU.
| Configuration | Processeur | Mémoire | GPU | Essai routier | Mode thermique du BIOS |
|---|---|---|---|---|---|
| Dell Pro Precision 9 T4 | Xeon 698X, 86 cœurs | 256 Go DDR5-6400 (8 canaux) | 2x RTX PRO 6000 Max-Q (300W) | Carte mère SK hynix PCB01 Gen5 de 2 To | ultra Performance |
| Dell Precision 7875 | Threadripper PRO 9995WX, 96 cœurs | 512 Go DDR5-5600 (8 canaux) | 2x RTX PRO 6000 Max-Q (300W) | Samsung Gen4 de 2 To | ultra Performance |
| Dell Pro Precision 9 T2 | Xeon 658X, 24 cœurs | 128 Go DDR5-6400 (4 canaux) | 1x RTX PRO 6000 Max-Q (300W) | Disques Samsung PM9E1 Gen5 de 2 To en configuration RAID 0 | ultra Performance |
| Tour Dell Pro Max T2 | Core Ultra 9 285K, 24 cœurs | 128 Go DDR5-4400 (2 canaux) | 1x RTX PRO 6000 (600W) | Samsung PM9F1 Gen4 de 2 To | ultra Performance |
Performances de l'IA locale
Chaque système ici embarque au moins une RTX PRO 6000 Blackwell avec 96 Go de GDDR7. Les résultats mono-GPU évaluent donc la carte, sa limite de consommation et la vitesse à laquelle la plateforme l'alimente. La présence de deux cartes sur le T4 est ce qui le distingue, et nos tests bi-GPU exécutent chaque modèle de trois manières différentes, selon le cas : deux serveurs indépendants, un par GPU, pour le débit ; un modèle réparti par couche sur les deux cartes ; et, pour le MiniMax M2.7, une carte avec le reste du modèle en mémoire système.
LLM déployé sur un seul GPU
| Serveur llama.cpp, un GPU (jetons/s en sortie, plus c'est élevé, mieux c'est) | Dell Pro Precision 9 T4 | Dell Precision 7875 | Dell Pro Precision 9 T2 | Tour Dell Pro Max T2 |
|---|---|---|---|---|
| Ministral 3 3B, une demande | 240.5 | 252.6 | 243.8 | 261.6 |
| Ministral 3 3B, pic | 582.5 | 637.6 | 602.6 | 658.8 |
| Ministral 3 8B, une demande | 166.8 | 171.1 | 167.3 | 194.5 |
| Ministral 3 8B, pic | 383.6 | 398.9 | 384.9 | 477.5 |
| Qwen3.8 27B, une requête | 54.9 | 55.4 | 53.8 | 64.5 |
| Qwen3.8 27B, pic | 158.1 | 162.8 | 155.8 | 194.7 |
| gpt-oss 120B, une requête | 166.9 | 171.2 | 164.5 | 193.0 |
| gpt-oss 120B, pic | 424.8 | 458.4 | 413.1 | 520.7 |
| gpt-oss 120B, une requête, temps d'obtention du premier jeton (ms, plus bas c'est mieux) | 1,189 | 1,181 | 1,213 | 844 |
Avec un seul GPU, le T4 atteint les performances limitées par sa consommation de 300 W. Il a généré 166.9 jetons par seconde pour un utilisateur sur gpt-oss 120B et a culminé à 424.8 jetons par seconde avec 64 requêtes simultanées, soit des performances comparables (de 1 à 9 %) à celles de la carte Max-Q identique de la Precision 7875 sur les quatre modèles, et équivalentes à celles du Pro Precision 9 T2. La carte de 600 W du Pro Max Tower T2 est de 13 à 25 % plus rapide en pointe sur tous les modèles, atteignant 520.7 jetons par seconde sur gpt-oss 120B.
Deux GPU : répliques et modèles fractionnés
| Serveur llama.cpp, deux GPU (jetons/s en sortie, plus c'est élevé, mieux c'est) | Dell Pro Precision 9 T4 | Dell Precision 7875 |
|---|---|---|
| Ministral 3 3B, en période de pointe, un serveur par GPU | 1,176.1 | 1,260.2 |
| Ministral 3 8B, en période de pointe, un serveur par GPU | 765.7 | 796.4 |
| Qwen3.8 27 octets, pic, un serveur par GPU | 310.8 | 323.2 |
| gpt-oss 120 octets, pic, un serveur par GPU | 787.9 | 905.8 |
| gpt-oss 120B, une requête, divisée par couche | 170.6 | 182.4 |
| gpt-oss 120B, pic, divisé par couche | 539.2 | 619.4 |
L'exécution d'un serveur par GPU a multiplié par 1.85 à 2.02 le débit maximal du T4 sur les quatre modèles. Le débit maximal est passé de 582.5 à 1 176,1 jetons par seconde sur Ministral 3 3B, de 383.6 à 765.7 sur le modèle 8B et de 158.1 à 310.8 sur Qwen3.8 27B, soit une multiplication par 1.97 à 2.02. Le débit de gpt-oss 120B a été multiplié par 1.85 pour atteindre 787.9 jetons par seconde sur le T4 et par 1.98 pour atteindre 905.8 sur le Precision 7875, ce dernier atteignant un pic de 128 requêtes simultanées, contre 64 pour le T4.
Répartir le modèle gpt-oss 120B par couche sur les deux cartes graphiques est la méthode la plus lente pour utiliser le second GPU lorsque le modèle tient déjà sur une seule carte. Elle a servi un utilisateur à 170.6 jetons par seconde, soit à moins de 3 % des performances d'une seule carte, et a atteint un pic de 539.2 jetons, 27 % de plus qu'avec un seul GPU, mais bien en deçà des 787.9 jetons fournis par deux répliques. Cette répartition se justifie pour les modèles qui ne tiennent pas sur une seule carte, comme c'est le cas pour le MiniMax M2.7.
| Serveur llama.cpp, gpt-oss 120 octets, 8 192 invites de saisie, 1 024 sorties de saisie | T4, un GPU | T4, deux GPU, un serveur par GPU | T4, deux GPU, répartis par couche | Precision 7875, deux GPU, un serveur par GPU |
|---|---|---|---|---|
| 1 simultanés : débit total (jetons/s) | 1,502 | 1,504 | 1,536 | 1,530 |
| 1 processus simultanés : temps d’attente du premier jeton, médiane (ms, plus bas est mieux) | 1,189 | 1,180 | 719 | 1,189 |
| 8 simultanés : débit total (jetons/s) | 2,760 | 4,820 | 3,300 | 4,949 |
| 8 simultanés : débit par utilisateur (jetons/s) | 38.3 | 66.9 | 45.8 | 68.7 |
| 8 processus simultanés : temps d’attente du premier jeton, médiane (ms, plus bas est mieux) | 2,654 | 2,523 | 1,622 | 2,472 |
| 64 simultanés : débit total (jetons/s) | 3,823 | 7,091 | 4,853 | 7,557 |
| 64 simultanés : débit par utilisateur (jetons/s) | 6.6 | 12.3 | 8.4 | 13.1 |
| 64 processus simultanés : temps d’attente du premier jeton, médiane (ms, plus bas est mieux) | 3,874 | 3,226 | 2,852 | 2,867 |
L'analyse complète sur gpt-oss 120B montre comment la seconde carte modifie la courbe de débit, le débit total incluant les jetons d'invite et de sortie. Avec un GPU, le débit est passé de 1 502 jetons par seconde pour une requête unique à 2 760 avec huit requêtes et à 3 823 avec 64, chaque utilisateur recevant alors 6.6 jetons de sortie par seconde. Avec un serveur par GPU, huit requêtes ont généré un débit de 4 820 jetons par seconde et 64 requêtes ont atteint 7 091 jetons par seconde, soit 1.85 fois le débit d'une carte, à 12.3 jetons par seconde et par utilisateur. En divisant le modèle, le débit maximal a été inférieur, à 4 853 jetons par seconde, mais le premier jeton d'un utilisateur a été renvoyé en 719 ms contre 1 189 ms.
MiniMax M2.7 : Un modèle trop grand pour une seule carte
| MiniMax M2.7 Q4_K_M, 129.3 Go (plus la capacité est élevée, mieux c'est, sauf indication contraire) | Dell Pro Precision 9 T4 | Dell Precision 7875 | Dell Pro Precision 9 T2 | Tour Dell Pro Max T2 |
|---|---|---|---|---|
| Un GPU plus la RAM système, une requête (jetons/s) | 30.3 | 32.8 | 22.6 | 15.8 |
| Un GPU plus la RAM système, pic (jetons/s) | 35.5 | 39.1 | 27.7 | 18.0 |
| Une carte graphique plus la mémoire vive du système, temps d'affichage du premier jeton (ms, plus bas c'est mieux) | 16,224 | 16,143 | 16,216 | 18,522 |
| Deux GPU répartis par couche, une requête (jetons/s) | 83.7 | 85.0 | GPU unique | GPU unique |
| Deux GPU répartis par couche, pic (jetons/s) | 127.3 | 129.5 | GPU unique | GPU unique |
| Deux GPU répartis par couche, temps d'obtention du premier jeton (ms, plus bas est mieux) | 3,138 | 3,162 | GPU unique | GPU unique |
| Chargement à froid, un GPU plus RAM (s, plus bas est mieux) | 40.5 | 65.8 | 37.6 | 81.1 |
| Charge à froid, deux GPU répartis (s, plus bas c'est mieux) | 27.6 | 50.7 | GPU unique | GPU unique |
MiniMax M2.7 est un modèle de mélange d'experts à 230 milliards de paramètres. Notre quantification 4 bits nécessite 129.3 Go, soit plus que les 96 Go d'une RTX PRO 6000. Sur une seule carte, le reste étant alloué à la mémoire système, le T4 a généré 30.3 jetons par seconde pour un utilisateur et a mis 16.2 secondes pour renvoyer le premier jeton. Réparti sur les deux cartes, il a généré 83.7 jetons par seconde, soit 2.8 fois plus vite, a renvoyé le premier jeton en 3.1 secondes et a atteint un pic de 127.3 jetons par seconde contre 35.5.
Les résultats obtenus avec un seul GPU montrent l'importance de la plateforme hôte une fois le modèle chargé en mémoire système. Les huit canaux DDR5-6400 du T4 lui confèrent une performance supérieure de 34 % à celle du Pro Precision 9 T2 (quatre canaux) avec 22.6 jetons par seconde, et 1.9 fois supérieure à celle du Pro Max Tower T2 (deux canaux) avec 15.8 jetons par seconde, malgré la carte graphique 600 W plus performante du Pro Max Tower T2 sur tous les modèles compatibles. Le Precision 7875 surpasse légèrement le T4 avec 32.8 jetons par seconde, malgré une bande passante mémoire inférieure de 35 %. La bande passante seule n'explique donc pas ce résultat. Nous rapportons l'avance du 7875 telle que mesurée, sans en déterminer la cause.
Chargement du modèle
| Chargement du modèle Ollama 0.40.3 et llama.cpp (s, plus bas est mieux) | Dell Pro Precision 9 T4 | Dell Precision 7875 | Dell Pro Precision 9 T2 | Tour Dell Pro Max T2 |
|---|---|---|---|---|
| gpt-oss : 20 octets (12.8 Go), froid | 5.79 | 7.61 | 5.57 | 7.95 |
| gpt-oss:20b, chaud | 3.45 | 2.50 | 3.47 | 3.05 |
| gpt-oss : 120 octets (60.9 Go), froid | 15.16 | 25.80 | 15.16 | 28.18 |
| gpt-oss:120b, chaud | 7.49 | 5.01 | 7.87 | 6.81 |
| gpt-oss:120b, à froid, une copie sur chaque GPU | 26.47 | 35.55 | GPU unique | GPU unique |
| MiniMax M2.7 (129.3 Go), froid, une carte graphique et de la RAM | 40.5 | 65.8 | 37.6 | 81.1 |
| MiniMax M2.7, chaud, une carte graphique et de la RAM | 28.6 | 15.2 | 36.7 | 80.5 |
Les chargements à froid favorisent les disques Gen5 : le T4 charge gpt-oss:120b depuis son SSD SK hynix Gen5 en 15.2 secondes, égalant le Pro Precision 9 T2 et devançant largement les 25.8 et 28.2 secondes des Precision 7875 et Pro Max Tower T2 équipés de disques Gen4. Les chargements à chaud depuis le cache de pages inversent cet ordre : le 7875 atteint 5.0 secondes contre 7.5 secondes pour le T4, et le chargement simultané d'une copie sur chaque GPU prend 26.5 secondes sur le T4.
Génération augmentée par la récupération à grande échelle
| RAG sur plus de 1 002 067 passages de Wikipédia | Dell Pro Precision 9 T4 | Dell Precision 7875 | Dell Pro Precision 9 T2 | Tour Dell Pro Max T2 |
|---|---|---|---|---|
| Intégration, un GPU (passages/s) | 1,126 | 1,196 | 1,141 | 1,388 |
| Temps d'exécution de l'intégration, un GPU (s, plus bas est mieux) | 890 | 838 | 878 | 722 |
| Intégration, deux GPU (passages/s) | 2,162 | 2,371 | GPU unique | GPU unique |
| Temps d'exécution de l'intégration, deux GPU (s, plus bas c'est mieux) | 464 | 423 | GPU unique | GPU unique |
| Indice HNSW (s, plus bas c'est mieux) | 27.3 | 34.8 | 46.3 | 118.6 |
| Recherche HNSW, ef 64 (requêtes/s) | 98,503 | 65,228 | 45,085 | 17,540 |
| Recherche HNSW, ef 256 (requêtes/s) | 32,149 | 19,598 | 13,478 | 4,932 |
| Rappel à 5 vs recherche exacte, ef 256 (%) | 97.59 | 97.67 | 97.26 | 97.70 |
| Question à répondre p50 (s, plus bas est mieux) | 0.123 | 0.082 | 0.117 | 0.095 |
Le test RAG à grande échelle dissimule des questions SQuAD parmi un million de passages Wikipédia, les intègre avec nomic-embed-text, construit un index HNSW et y répond avec Phi-4-mini. L'intégration a pris 890 secondes sur un GPU T4 et 464 secondes sur deux, soit une accélération de 1.92x. La Precision 7875 a terminé le test en 423 secondes avec deux cartes. La carte 600 W de la tour Pro Max T2 est la plus rapide avec un seul GPU, en 722 secondes.
La création de l'index et la recherche vectorielle s'effectuent sur le processeur, et c'est là que le T4 excelle. Il a créé l'index HNSW en 27.3 secondes, contre 34.8 secondes pour le Precision 7875 et 118.6 secondes pour le Pro Max Tower T2, et a effectué 98 503 requêtes par seconde avec un facteur d'efficacité (EF) de 64, soit 1.51 fois plus que le 7875 et 5.6 fois plus que le système Core Ultra. Avec un EF de 256, il a atteint 32 149 requêtes par seconde avec un rappel de 97.6 % par rapport à la recherche exacte, et les réponses ont été obtenues en 0.12 seconde en moyenne.
Réglage fin
| Ministral 3 8B LoRA, BF16, une époque de Dolly 15k | Dell Pro Precision 9 T4 | Dell Precision 7875 | Dell Pro Precision 9 T2 | Tour Dell Pro Max T2 |
|---|---|---|---|---|
| Durée d'entraînement par époque, un GPU (minutes, plus court est mieux) | 31.5 | 27.2 | 30.6 | 22.3 |
| Débit, un GPU (jetons/s) | 1,584 | 1,834 | 1,631 | 2,236 |
| Perte exclue avant et après l'entraînement, un GPU | 1.534 à 1.169 ans, qui | 1.534 à 1.172 ans, qui | 1.534 à 1.167 ans, qui | 1.534 à 1.167 ans, qui |
| Durée d'entraînement par époque, deux GPU (en minutes, plus court est mieux) | 19.7 | 18.1 | GPU unique | GPU unique |
| Débit, deux GPU (jetons/s) | 2,528 | 2,754 | GPU unique | GPU unique |
| Gain de vitesse grâce au deuxième GPU | 1.60x | 1.50x | GPU unique | GPU unique |
| Perte résiduelle après entraînement, deux GPU | 1.167 | 1.168 | GPU unique | GPU unique |
Le test LoRA en une seule époque affine le Ministral 3 8B dans BF16 sur Dolly 15k en 1 849 étapes et évalue 200 exemples de test toutes les 100 étapes. Chaque système a commencé avec une perte de 1.534 sur les exemples de test et a terminé entre 1.167 et 1.172 ; le résultat qui les distingue est donc le temps d'exécution de l'époque. Un GPU T4 a terminé en 31.5 minutes à 1 584 jetons par seconde, soit à moins de 3 % du Pro Precision 9 T2 avec la même carte Max-Q. Le Precision 7875 a mis 27.2 minutes et la carte 600 W du Pro Max Tower T2, 22.3 minutes.
La perte résiduelle sur le T4 est passée de 1.534 à 1.219 lors des 100 premières itérations, soit 1.6 minute après le début de l'entraînement, puis s'est stabilisée à 1.169 pour le reste de l'époque. L'ajout d'un second GPU a permis de réduire la durée de l'époque du T4 à 19.7 minutes à 2 528 jetons par seconde, soit une accélération de 1.60x, surpassant ainsi les 22.3 minutes de la carte unique de 600 W. Le Precision 7875 a terminé son époque à deux GPU en 18.1 minutes, soit une accélération de 1.50x, et les performances avec deux GPU ont abouti à des pertes résiduelles de 1.167 et 1.168.
Les deux cartes fonctionnent en parallèle avec deux exemples par GPU et les gradients sont cumulés dans un même lot global de huit, sur quatre passes pour une carte et deux passes pour les deux. Ainsi, l'exécution avec deux GPU traite les mêmes exemples à chaque étape et aboutit à la même perte. Avec deux exemples courts par GPU à chaque passe, la seconde carte a peu de travail à traiter et l'échange de gradients représente une part plus importante de chaque étape. L'époque a atteint un pic de 19.5 Gio de mémoire GPU sur une carte et de 19.7 Gio par carte sur les deux, soit une fraction des 96 Go de chaque RTX PRO 6000.
Agent de codage, RAG à petite échelle et génération d'images
| Agent de codage, RAG et génération d'images (plus la valeur est élevée, mieux c'est, sauf indication contraire) | Dell Pro Precision 9 T4 | Dell Precision 7875 | Dell Pro Precision 9 T2 | Tour Dell Pro Max T2 |
|---|---|---|---|---|
| Agent de codage, gpt-oss:20b 64K, exécutions réussies (sur 3) | 3 | 2* | 2* | 2* |
| Agent de codage, gpt-oss:120b 128K, exécutions réussies (sur 3) | 3 | 3 | 3 | 3 |
| Agent de codage, gpt-oss:120b, taux de génération (jetons/s) | 161.5 | 167.9 | 166.7 | 183.2 |
| RAG, 20 963 passages, ingérer (passages/s) | 304.6 | 433.8 | 392.1 | 371.6 |
| Génération de réponses RAG, Phi-4-mini (jetons/s) | 372.5 | 410.0 | 402.8 | 415.8 |
| FLUX.2 petit 4B BF16, 1024×1024 (images/min) | 40.96 | 43.03 | 41.32 | 54.25 |
| Z-Image Turbo 6B BF16 (images/min) | 17.29 | 17.67 | 17.27 | 23.83 |
| Qwen-Image 20B BF16 (images/min) | 2.43 | 2.45 | 2.39 | 3.20 |
*Signalé par la suite : l’une des trois exécutions d’agent sur ce système n’a pas réussi les 11 tests.
Le T4 a réussi tous les tests d'agent de codage à chaque niveau de modèle, y compris les trois tests gpt-oss:20b dans un contexte de 64 Ko, alors que les trois autres systèmes n'en ont réussi que deux sur trois. Il a généré 161.5 jetons par seconde sur gpt-oss:120b. La génération d'images s'exécutant sur un seul GPU, les 40.96 images par minute du T4 sur FLUX.2 klein dans BF16 le placent au même niveau que les autres systèmes Max-Q et derrière la carte 600W à 54.25.
Performance du processeur
Les résultats des tests CPU comparent les 86 cœurs Xeon du T4 aux 96 cœurs Threadripper du Precision 7875, les deux T2 à 24 cœurs servant de référence. Le Threadripper possède dix cœurs supplémentaires et offre 192 threads contre 172 pour le Xeon. Le T4 l'emporte lorsque la bande passante mémoire est déterminante, tandis que le 7875 domine lorsque le nombre de cœurs et la fréquence d'horloge le sont.
Compression, rendu et compilation
| Test | Dell Pro Precision 9 T4 | Dell Precision 7875 | Dell Pro Precision 9 T2 | Tour Dell Pro Max T2 |
|---|---|---|---|---|
| 7-Zip, tous les fils (GIPS) | 619.8 | 850.0 | 285.1 | 172.7 |
| Fermeture éclair 7-Zip, un fil (GIPS) | 8.85 | 10.58 | 9.27 | 11.04 |
| Blender 4.5 Monstre (échantillons/min) | 961.8 | 1,253.8 | 400.7 | 303.0 |
| Blender 4.5 Junkshop (échantillons/min) | 641.9 | 849.7 | 266.9 | 191.9 |
| Salle de classe Blender 4.5 (échantillons/min) | 442.8 | 612.2 | 187.2 | 147.1 |
| HandBrake x265 (fps) | 31.4 | 41.7 | 41.5 | 40.0 |
| HandBrake SVT-AV1 (fps) | 159.4 | 255.8 | 198.5 | 122.6 |
| LLVM 21 (version s, plus basse est meilleure) | 58.4 | 43.7 | 106.4 | 155.9 |
| Configuration de tous les modules du noyau Linux (s, plus bas c'est mieux) | 312 | 264 | 537 | 843 |
| OpenSSL AES-256-GCM, tous les threads (Go/s) | 882.6 | 1,139.1 | 371.2 | 137.0 |
| nginx, 1 000 connexions (requêtes/s) | 414,468 | 467,128 | 323,567 | 153,732 |
Le T4 a obtenu un score de 619.8 GIPS sous 7-Zip et de 961.8 échantillons par minute sous Blender Monster, soit respectivement 2.2 et 2.4 fois celui du Precision 9 T2 Pro à 24 cœurs. Le Precision 7875 a affiché des performances supérieures de 37 % sous 7-Zip et de 30 % sous Blender. Il a également réalisé la compilation LLVM en 43.7 secondes contre 58.4 secondes et la compilation allmodconfig du noyau Linux en 264 secondes contre 312 secondes. La vitesse par cœur constitue le point faible du T4, avec le score le plus bas de ce groupe sous 7-Zip (8.85 GIPS en mono-thread).
L'encodage x265 de HandBrake fait figure d'exception dans ce tableau, et cela est dû davantage à l'encodeur qu'au processeur. Les trois autres systèmes ont tous atteint des performances comprises entre 40.0 et 41.7 images par seconde (ips) avec 24 ou 96 cœurs. Ainsi, avec ces paramètres prédéfinis, les performances du x265 ne sont pas optimisées par le nombre de cœurs, et les 31.4 ips du T4 sont cohérents avec sa fréquence par cœur plus faible sur les threads utilisés par le x265. Pendant l'encodage, le T4 a fonctionné en moyenne à environ 1 GHz sur ses 172 threads, à une température de 51 °C à 64 °C, ce qui indique que la majeure partie du processeur était inactive. Le SVT-AV1 a affiché de meilleures performances, avec 159.4 ips sur le T4 contre 255.8 sur le 7875.
Bande passante mémoire, simulation et mathématiques
| Test | Dell Pro Precision 9 T4 | Dell Precision 7875 | Dell Pro Precision 9 T2 | Tour Dell Pro Max T2 |
|---|---|---|---|---|
| STREAM Triad (MB/s) | 328,329 | 215,177 | 141,832 | 45,102 |
| OpenFOAM 13 drivAer, 3M cellules, résoudre (s, plus bas c'est mieux) | 293 | 556 | 826 | N'a pas fini |
| GROMACS benchPEP, tous les cœurs (ns/jour) | 1.243 | 1.034 | Ne pas exécuter | Ne pas exécuter |
| GROMACS benchMEM, 16 cœurs (ns/jour) | 68.09 | 84.94 | 78.03 | 54.26 |
| OpenBLAS DGEMM, tous les cœurs (GFLOPS) | 3,664 | 4,745 | 2,319 | 1,063 |
| OpenBLAS LU résout N = 20000 (GFLOPS) | 1,660 | 1,172 | 1,616 | 858 |
| y-cruncher Pi, 1 milliards de chiffres (plus bas c'est mieux) | 4.01 | 7.45 | 8.51 | 24.61 |
| y-cruncher Pi, 10 milliards de chiffres (plus bas c'est mieux) | 53.9 | 83.7 | 119.2 | 347.9 |
| y-cruncher Pi, 25 milliards de chiffres (plus bas c'est mieux) | 155.6 | 259.6 | Ne pas exécuter | Ne pas exécuter |
Avec ses huit canaux DDR5-6400, le T4 atteint 328 Go/s sous STREAM Triad, soit 53 % de plus que le Precision 7875 (DDR5-5600) et 2.3 fois plus que le Pro Precision 9 T2 (quatre canaux). Concernant les tests de bande passante, le T4 a résolu le cas OpenFOAM drivAer (3 millions de cellules) en 293 secondes, contre 556 secondes pour le 7875 et 826 secondes pour le Pro Precision 9 T2. Le Pro Max Tower T2, quant à lui, n'a pas terminé le test dans le délai imparti de 150 minutes. Le T4 a également exécuté le cas (22.6 millions de cellules) en 6 851 secondes.
Le test GROMACS benchPEP, un calcul de dynamique moléculaire de grande envergure utilisant tous les cœurs, a nécessité 1.243 ns/jour sur le T4 contre 1.034 ns/jour sur le 7875, et la résolution LU a atteint 1 660 GFLOPS contre 1 172 GFLOPS. y-cruncher a calculé 10 milliards de décimales de Pi en 53.9 secondes contre 83.7 secondes sur le 7875 et 25 milliards en 155.6 secondes contre 259.6 secondes. Les calculs denses restant en cache favorisent le Threadripper, qui a dominé OpenBLAS DGEMM avec 4 745 GFLOPS contre 3 664 GFLOPS.
Bases de données et services
| Test | Dell Pro Precision 9 T4 | Dell Precision 7875 | Dell Pro Precision 9 T2 | Tour Dell Pro Max T2 |
|---|---|---|---|---|
| Exécution à chaud de ClickBench, 43 requêtes (s, plus bas est mieux) | 3.21 | 2.88 | 4.80 | 10.44 |
| Exécution à froid de ClickBench, 43 requêtes (s, plus bas est mieux) | 6.45 | 7.09 | 6.92 | 14.22 |
| Cache Valkey, SET (requêtes/s) | 666,714 | 1,138,696 | 914,832 | 1,719,108 |
| Cache Valkey, GET (requêtes/s) | 865,353 | 1,279,429 | 991,576 | 1,648,278 |
| Stockfish, tous les fils (Mnps) | 68.21 | 168.27 | 45.44 | 37.42 |
| Performances Py (ms, plus bas c'est mieux) | 74.3 | 66.0 | 72.1 | 56.7 |
ClickHouse a exécuté les 43 requêtes ClickBench en 3.21 secondes à chaud et en 6.45 secondes à froid sur le T4, soit 0.33 seconde de plus que le 7875 à chaud et 0.64 seconde de mieux à froid. Valkey privilégie les cœurs rapides aux cœurs nombreux, et les 666 714 requêtes SET par seconde du T4 le placent en queue de peloton par rapport aux trois systèmes de comparaison, le Core Ultra 9 285K du Pro Max Tower T2 arrivant en tête avec 1.72 million. Ce résultat correspond aux performances monocœur du T4 et mérite d'être pris en compte pour les services sensibles à la latence.
Avec ses 172 cœurs actifs et un processeur à une température moyenne de 87 °C, le T4 a exploré 68.21 millions de nœuds par seconde sur Stockfish, soit 1.5 fois plus que le Pro Precision 9 T2 à 48 cœurs et bien moins de la moitié des 168.27 millions de nœuds par seconde du 7875 sur 192 cœurs. Le test a également expiré lors de la première exécution complète du T4, avant qu'un nouveau test indépendant ne permette d'obtenir ce résultat. Nous présentons ce résultat tel que mesuré, sans avoir identifié la cause de cette faible progression.
Performances de stockage
| fio, empreinte de 25 Gio (plus c'est élevé, mieux c'est) | Dell Pro Precision 9 T4 | Dell Precision 7875 | Dell Pro Precision 9 T2 | Tour Dell Pro Max T2 |
|---|---|---|---|---|
| Lecture séquentielle 128K (Mo/s) | 14,152 | 7,089 | 20,914 * | 7,234 |
| Écriture séquentielle 128K (Mo/s) | 10,078 | 5,265 | 12,564 | 6,772 |
| Lecture aléatoire 4K, pic (IOPS) | 2,306,346 | 993,569 | 3,214,066 | 1,538,387 |
| Écriture aléatoire 4K, pic (IOPS) | 1,830,776 | 787,388 | 2,353,766 | 1,326,030 |
*Signalé par la suite pour une variation d'une exécution à l'autre après une nouvelle exécution.
Le disque de démarrage SK hynix Gen5 de 2 To du T4 a atteint une vitesse de lecture de 14 152 Mo/s et une vitesse d'écriture de 10 078 Mo/s, soit environ le double des vitesses de lecture séquentielle des disques Gen4 des Precision 7875 et Pro Max Tower T2. Il a culminé à 2.31 millions d'IOPS en lecture aléatoire et 1.83 million d'IOPS en écriture aléatoire. La vitesse de lecture séquentielle du Pro Precision 9 T2, à 20 914 Mo/s, dépasse les capacités d'une liaison x4 Gen5, ce qui correspond au volume de test de ce système : une grappe RAID 0 de disques Samsung PM9E1 Gen5. Nous avons testé uniquement le disque de démarrage du T4 ; le second disque de 2 To n'a pas été inclus dans ce test.
Températures et fréquences d'horloge sous charge
| Dell Pro Precision 9 T4 | Processeur Max (C) | Moyenne du processeur (C) | Fréquence d'horloge moyenne du processeur (MHz) |
|---|---|---|---|
| 7-Zip | 93 | 80.6 | 1,967 |
| Mixeur | 91 | 85.7 | 2,587 |
| GROMACS | 96 | 81.3 | 1,313 |
| LLVM build | 83 | 74.5 | 2,127 |
| Ouvrir BLAS | 80 | 62.9 | 1,325 |
| LLM au service | 84 | 65.0 | 924 |
| Réglage fin | 71 | 61.2 | 854 |
| RAG à l'échelle | 74 | 64.4 | 987 |
| Stockage | 64 | 55.4 | 942 |
Avec le BIOS en mode Ultra Performance, le Xeon 698X a atteint une température maximale de 93 °C sous 7-Zip et de 96 °C sous GROMACS. Les fréquences indiquées dans le tableau correspondent à des moyennes calculées sur l'ensemble des 172 cœurs logiques. Blender et Stockfish ont sollicité tous les threads et maintenu une fréquence de 2.5 GHz à 2.6 GHz, supérieure à la fréquence de base de 2.0 GHz du processeur. GROMACS et OpenBLAS ont utilisé respectivement 64 et 86 cœurs physiques, laissant les threads restants inactifs à environ 0.8 GHz, ce qui explique leurs moyennes d'environ 1.3 GHz. Les tâches nécessitant une forte activité du GPU ont permis de maintenir le processeur à une température moyenne de 61 °C à 65 °C lors des tests LLM, d'optimisation et RAG, ces tests étant particulièrement gourmands en ressources graphiques.
Conclusion
Le Dell Pro Precision 9 T4 est conçu pour les tâches d'IA locales, et la seconde carte graphique RTX PRO 6000 en est la preuve. Deux cartes Max-Q ont permis d'augmenter le débit de pointe de 1.85 à 2.02 fois sur quatre modèles et le débit d'intégration de 1.92 fois. Elles ont également réduit le temps d'exécution d'une époque LoRa sur Ministral 3 8B de 31.5 à 19.7 minutes et porté le débit de MiniMax M2.7, un modèle trop volumineux pour une seule carte, de 30.3 à 83.7 jetons par seconde pour un utilisateur unique. Sur gpt-oss 120B, un serveur par GPU a atteint un total de 7 091 jetons par seconde pour 64 requêtes, tandis que la répartition du modèle entre les deux cartes a permis de récupérer le premier jeton d'un utilisateur unique en 719 ms, contre 1 189 ms auparavant.
Les huit canaux de DDR5-6400 confèrent au Xeon 698X une bande passante mémoire supérieure de 53 % à celle du Threadripper PRO 9995WX. Cette bande passante accrue permet au T4 d'obtenir des résultats plus rapides aux tests OpenFOAM, GROMACS benchPEP, y-cruncher et HNSW que le Precision 7875, et son stockage Gen5 accélère le chargement des modèles volumineux. Le châssis mérite également d'être salué, avec le meilleur système de refroidissement jamais vu chez Dell dans cette catégorie et un accès à l'alimentation sans outil.
Le 7875 conserve une avance de 18 à 38 % sur les tâches de rendu, de compression et de compilation gourmandes en ressources, et de 60 % sur SVT-AV1. La vitesse par cœur du Xeon était inférieure à celle de tous les autres systèmes de ce groupe, comme en témoignent les performances sur Valkey et d'autres services peu sollicités. L'optimisation fine sur un seul GPU était également plus lente sur le T4 : l'époque LoRA a duré 31.5 minutes contre 27.2 minutes sur le 7875 et 22.3 minutes sur la carte 600 W du Pro Max Tower T2, chaque système affichant un écart inférieur à 0.005 seconde.
Proposé à environ 66 600 $ sur Dell.com, le T4 convient aux équipes souhaitant déployer, intégrer et optimiser des modèles sur site, y compris ceux nécessitant plus de 96 Go de mémoire GPU, ainsi que des simulations et analyses gourmandes en mémoire sur la même machine. Les utilisateurs dont l'activité principale consiste en le rendu et la compilation trouveront la plateforme Threadripper plus performante, tandis que ceux qui n'ont besoin que d'un seul GPU pourront opter pour la même carte dans le Pro Precision 9 T2, plus compact.
Classement : Le Dell Pro Precision 9 T4 occupe la première place du classement des meilleurs ordinateurs de bureau pour l’IA locale sur notre tableau des meilleurs ordinateurs de bureau pour l’IA locale.
Amazon