La NVIDIA RTX PRO 4500 Blackwell Server Edition est la carte graphique conçue par NVIDIA pour les serveurs que la plupart des entreprises possèdent déjà. Il s'agit d'une carte simple emplacement, à refroidissement passif, de 165 W, dotée de 32 Go de GDDR7 et de l'ensemble des fonctionnalités Blackwell : cœurs Tensor de cinquième génération avec FP4, cœurs RT de quatrième génération, trois encodeurs et trois décodeurs, et prise en charge du GPU multi-instance permettant de la diviser en deux partitions isolées de 16 Go. Elle remplace la L4 comme modèle d'entrée de gamme de la série RTX PRO pour serveurs de NVIDIA et s'intègre parfaitement dans un serveur PowerEdge, ProLiant ou ThinkSystem 2U sans problème d'alimentation ni de refroidissement.
L'argument principal de NVIDIA pour cette carte est l'adéquation aux besoins : la plupart des entreprises ne construisent pas d'usines à IA ; elles exploitent des centres de données existants refroidis par air, avec des limites strictes en matière de puissance des racks, et elles ont besoin d'une première étape d'accélération du calcul qui ne nécessite pas une nouvelle génération de serveurs. Ou bien elles travaillent en périphérie de réseau, où la RTX PRO 4500 est mieux adaptée aux charges de travail et aux contraintes énergétiques qui déterminent généralement les solutions déployables.
La RTX PRO 6000 Blackwell domine le marché avec 96 Go de RAM et une consommation pouvant atteindre 600 W. La 4500 conserve la même architecture et divise par deux toutes les autres caractéristiques, permettant ainsi aux clients disposant de configurations plus modestes, effectuant de nombreuses tâches simples ou optimisant leur budget en fonction du coût par watt, de bénéficier de la technologie Blackwell sans payer pour une marge de puissance inutilisée.
Les charges de travail de cette catégorie de GPU sont bien connues : inférence de petits modèles de langage, vision par ordinateur et analyse vidéo, recherche vectorielle et génération d'embeddings, transcodage et stations de travail virtuelles sous vGPU 20. Elle offre des performances plus de 5 fois supérieures à celles du cache L4 pour l'inférence de modèles de petite et moyenne taille, et jusqu'à 10 fois supérieures pour les modèles Nemotron. Parmi ses partenaires de lancement figurent NTT DATA pour la vidéo en périphérie, Pacific Biosciences pour le séquençage et Nokia pour les stations de base AI-RAN. AWS a construit ses nouvelles instances G7 sur cette plateforme en remplacement des G6.
Nous avons déjà comparé cette carte à la L4 intégrée à un serveur HPE ProLiant DL145 Gen11 lors de notre test de la RTX PRO 4500 edge , où elle a affiché un débit 2.7 fois supérieur à celui de la L4. Ce test examine ses performances par rapport à la L40S 350 W double slot, carte graphique de référence pour l'inférence grand public depuis deux ans, et détaille les avantages supplémentaires de la RTX PRO 6000 en termes de mémoire et de consommation.
Pour le savoir, nous avons placé le 4500 dans un Dell PowerEdge R770 contre un L40S et un L4, ajouté les données RTX PRO 6000 Blackwell de notre Dell Pro Max Tower T2 à la fois à sa valeur par défaut de 600 W et à une limite de 450 W correspondant à ce que le R770 autorise pour un emplacement GPU, et exécuté le service en ligne vLLM sur quatre modèles à deux longueurs de contexte.
En bref, pour des durées de conversation et de contexte d'agent typiques, le 4500 suit le rythme du L40S sur les modèles FP8 et BF16 avec moins de la moitié de la puissance ; en entrée 8K, le tampon d'images de 32 Go montre ses limites ; et NVFP4, la précision avec laquelle NVIDIA met en avant sa gamme Blackwell, fonctionne conformément au reste de la gamme sur cette version vLLM.
Points clés à retenir
- Débit L40S à 165 W dans un emplacement : Avec une entrée et une sortie de 512 jetons, le 4500 a égalé ou surpassé le L40S sur tous les modèles FP8 et BF16 que nous avons exécutés, 1 107 contre 995 jetons/s sur Ministral 3 14B FP8 et 2 006 contre 1 988 sur Ministral 3 3B, à partir d'une carte évaluée à 47 % de la puissance du L40S et à la moitié de ses emplacements.
- Environ 3 fois plus puissant que le L4 qu'il remplace : 2.8x à 3.6x le débit de sortie du L4 dans un contexte court, à une puissance de carte 2.3x celle du L4.
- 32 Go a ses limites : À 8K entrées, le 4500 était en retard de 17 à 33 % par rapport au L40S et ses courbes se sont aplaties à la concurrence 8 alors que le L40S continuait de grimper jusqu'à 16. L'aplatissement est dû à la saturation du cache KV, et 32 Go fixent cette limite.
- NVFP4 est une histoire logicielle, présente sur chaque carte : Sur Qwen3.8-27B NVFP4, le 4500 a produit 320 jetons/s à une concurrence de 32, le L40S 480 sans aucun matériel FP4, et le RTX PRO 6000 621. Le chemin NVFP4 dans cette version vLLM ne bénéficie d'aucune augmentation de la bande passante mémoire sur aucun d'entre eux, tandis que le balayage MAMF montre que le matériel FP4 du 4500 atteint 568.6 TFLOPS contre 280.1 en FP8.
- Ce que vous offre la carte de plus grande valeur : Limitée à 450 W, la puissance maximale autorisée par un emplacement GPU Dell R770, la RTX PRO 6000 offrait des performances environ deux fois supérieures à celles de la 4500 en contexte court et de 2.5 à 3.2 fois supérieures en 8K. Sa pleine capacité de 600 W ajoutait 1 à 2 % en contexte court et 4 à 9 % en contexte long, ce qui signifie que l'avantage principal de la 6000 par rapport à la 4500 réside dans la mémoire.
Spécifications de la carte graphique NVIDIA RTX PRO 4500 Blackwell Server Edition
Deux cartes portent l'appellation RTX PRO 4500 Blackwell ; similaires, elles ne sont cependant pas identiques. La version Workstation, présentée lors de la GTC 2025, est une carte double slot de 200 W à refroidissement actif, dotée de quatre sorties DisplayPort et d'une bande passante mémoire de 896 Go/s. La version Server, que nous testons ici, a été dévoilée à la GTC 2026. Il s'agit d'une carte simple slot passive de 165 W, sans écran, offrant une bande passante de 800 Go/s. Elle sacrifie le nombre de sorties vidéo et une certaine marge de fréquence au profit des fonctionnalités dédiées aux centres de données : MIG, calcul confidentiel, un troisième contrôleur NVENC et NVDEC, et la prise en charge de vGPU 20. Elles embarquent toutes deux le même GPU à 10 496 cœurs et 32 Go de GDDR7 avec ECC.
D'après les données de NVIDIA, la puce compte 45.6 milliards de transistors sur 378 mm² de silicium TSMC gravé en 4 nm, avec 82 cœurs RT de quatrième génération, soit 82 SM et 328 cœurs Tensor. Ces chiffres correspondent à la GB203, la même famille de puces que la RTX 5080, légèrement tronquée. Les performances Tensor indiquées ci-dessous représentent les pics de NVIDIA avec une densité de données réduite ; la densité est deux fois moindre, ce que confirme le test peakTOPS de NVIDIA, avec 805 TFLOPS FP8 et 403 TFLOPS FP16 mesurés sur cette carte.
| Spécifications | RTX PRO 4500 Blackwell SE | L4 | L40S | RTX PRO 6000 Blackwell SE |
|---|---|---|---|---|
| En savoir plus sur la plateforme | ||||
| Architecture | NVIDIA Blackwell | NVIDIA Ada Lovelace | NVIDIA Ada Lovelace | NVIDIA Blackwell |
| Cœurs de CUDA | 10,496 | 7,424 | 18,176 | 24,064 |
| RT Cœurs | 82 (4e génération) | 58 (3e génération) | 142 (3e génération) | 188 (4e génération) |
| Mémoire GPU | 32 Go GDDR7 avec ECC | 24GB GDDR6 | 48 Go GDDR6 avec ECC | 96 Go GDDR7 avec ECC |
| Interface de mémoire | 256-bits | 192-bits | 384-bits | 512-bits |
| Bande passante mémoire | 800GB / s | 300GB / s | 864GB / s | 1,597GB / s |
| Performances (valeurs maximales NVIDIA, taux de traitement des tenseurs avec parcimonie) | ||||
| FP32 | 51 TFLOPS | 30.3 TFLOPS | 91.6 TFLOPS | 120 TFLOPS |
| Tenseur FP16 / BF16 | 406 TFLOPS | 242 TFLOPS | 733 TFLOPS | 1hXNUMX FPLOPS |
| Tenseur FP8 | 811 TFLOPS | 485 TFLOPS | 1,466 TFLOPS | 2hXNUMX FPLOPS |
| Tenseur FP4 | 1.6hXNUMX FPLOPS | Non pris en charge | Non pris en charge | 4hXNUMX FPLOPS |
| Performances de base RT | 154 TFLOPS | Non listé | 209 TFLOPS | 355 TFLOPS |
| Facteur de puissance et de forme | ||||
| Puissance maximale du tableau | 165W | 72W | 350W | Jusqu'à 600 W (configurable) |
| Facteur de forme | Emplacement unique, FHFL 4.4 "x 10.5" |
Emplacement unique, HHHL | Double emplacement, FHFL 4.4 "x 10.5" |
Double fente, FHFL (air) Emplacement unique, FHXL (liquide) |
| Thermique | Revenu | Revenu | Revenu | Passif (air) ou liquide |
| Câble d'alimentation | 1x PCIe CEM5 16 broches | Alimenté par machine à sous | 1x 16-pin | 1x PCIe CEM5 16 broches |
| Interconnect | PCIe 5.0 x16 | PCIe 4.0 x16 | PCIe 4.0 x16 | PCIe 5.0 x16 |
| Poids | 1,055g | Non listé | Non listé | Non listé |
| Fonctionnalité | ||||
| GPU multi-instances | Jusqu'à 2 x 16 Go | Non | Non | Jusqu'à 4 x 24 Go |
| NVENC/NVDEC | 3x / 3x | 2x / 4x | 3x / 3x | 4x / 4x |
| Informatique confidentielle | Appareils | Non | Non | Appareils |
| Prise en charge vGPU | Oui (vGPU 20) | Oui | Oui | Oui |
Concevoir et construire
La carte mère 4500 Server Edition est une carte pleine hauteur et pleine longueur (4.4 cm de haut et 10.5 cm de long) occupant un emplacement. Il s'agit d'un changement important par rapport à la L4, qui était une carte demi-hauteur et demi-longueur. Bien que la L4 serve toujours de référence pour les tests de performance, le format FHFL (Full High Height, Full Long) permet d'intégrer la mémoire, le connecteur d'alimentation à 16 broches et un dissipateur thermique capable de dissiper 165 W grâce à la seule ventilation du boîtier.
Ce format est la principale différence avec le L4, qui s'adaptait à tous les emplacements HHHL et tirait ses 72 W de cet emplacement, ce qui le destinait aux serveurs 1U et aux petits boîtiers de périphérie. Le 4500, quant à lui, occupe toute la hauteur et la longueur du boîtier et nécessite un câble à 16 broches. Or, les serveurs 1U grand public que nous utilisons, notamment la gamme PowerEdge 1U actuelle de Dell, sont compatibles uniquement avec les cartes HHHL ou FHHL dépourvues de ce connecteur.
En pratique, il s'agit d'une carte 2U, ou d'une carte destinée aux rares châssis 1U whitebox construits autour d'emplacements FHFL, donc un magasin qui a acheté des L4 pour des boîtiers 1U ou de bord ne bénéficie pas d'un remplacement direct.
Empilé sur le côté avec le L4 au-dessus et le L40S en dessous, le 4500 nécessite un emplacement là où le L40S en nécessite deux, c'est pourquoi un serveur 2U qui prend quatre cartes double largeur peut en prendre huit, et comment les instances G7 d'AWS en exécutent jusqu'à huit par hôte.
L'alimentation est fournie par un unique connecteur PCIe CEM5 à 16 broches, identique à celui utilisé par la RTX PRO 6000, sans possibilité de connecteur auxiliaire à 8 broches. Le refroidissement est entièrement passif ; la carte dépend donc des ventilateurs du serveur et verra ses performances réduites dans un boîtier dont la ventilation est insuffisante, ce qui est normal pour cette catégorie de cartes graphiques, et toutes les autres ont la même exigence.
La carte ne possède pas de sorties vidéo ; les opérations graphiques, qu'il s'agisse de stations de travail virtuelles vGPU ou de rendu, transitent donc par le réseau. Le support est ventilé. Les trois moteurs NVENC de neuvième génération et les trois moteurs NVDEC de sixième génération ajoutent l'encodage et le décodage 4:2:2 H.264 et HEVC par rapport à la génération précédente de la L4. NVIDIA annonce un débit de décodage H.264 deux fois supérieur par moteur NVDEC par rapport à la L4. La photo du support ci-dessous illustre la différence : la L4 et la 4500 sont uniquement équipées de ventilations, tandis que la L40S et la RTX PRO 6000 Workstation Edition disposent chacune de quatre sorties DisplayPort.
Où se situe la RTX PRO 4500 Blackwell Server Edition
NVIDIA présente cette carte comme « la principale valeur ajoutée de la combinaison d'IA, de puissance de calcul, de graphismes et d'accélération vidéo dans un format passif à simple emplacement de 165 W », conçue pour les serveurs « où la densité de rack, la consommation d'énergie et le refroidissement constituent les principales contraintes de déploiement ». Elle se situe dans ce que NVIDIA appelle le segment grand public des centres de données et de l'edge computing de la gamme de cartes graphiques pour serveurs RTX PRO, en dessous de la RTX PRO 6000 Blackwell Server Edition et au-dessus de rien ; il s'agit du modèle d'entrée de gamme de la série Blackwell pour serveurs.
Face à la couche L4, NVIDIA annonce des performances jusqu'à 10 fois supérieures pour l'inférence de petits modèles avec ses modèles Nemotron Nano (NVFP4 sur le 4500 contre FP8 sur le L4), jusqu'à 4 fois supérieures pour la synthèse vidéo avec Cosmos Reason 2, 1.9 fois supérieures sur SPECviewperf 15 en 4K et une densité de flux 1.8 fois supérieure. Face aux processeurs, elle annonce des performances jusqu'à 50 fois supérieures pour le traitement de bases de données vectorielles avec cuVS CAGRA dans Milvus et jusqu'à 100 fois supérieures pour l'IA de vision, ces deux mesures ayant été effectuées sur des serveurs 4500 à huit cartes graphiques face à des systèmes EPYC 9654 à deux sockets.
L'équipe serveurs de Dell nous a indiqué que la 4500 est courante dans les serveurs racks, car trois 4500 de 32 Go coûtent presque autant qu'une 6000 de 96 Go, et dans ce cas, la carte la plus puissante est généralement privilégiée. Cette carte est destinée à un serveur qui, autrement, ne disposerait pas de GPU ou de cache L4, et n'est pas optimale pour un serveur conçu pour accueillir une ou plusieurs 6000.
Configuration de test
Nous avons installé les cartes 4500, L40S et L4 dans notre serveur Dell PowerEdge R770, configuré avec deux processeurs Intel Xeon 6787P (86 cœurs chacun) et 2 To de mémoire DDR5-6400 répartis sur 32 barrettes DIMM, exécutant le pilote NVIDIA 595.71.05. Les tests ont été réalisés avec le conteneur NGC vLLM 26.08-py3, qui intègre vLLM 0.27.1 sur CUDA 13.4.1 ; la pile logicielle est donc identique pour toutes les cartes. Chaque carte a été testée individuellement à sa limite de puissance par défaut, et le R770 fournit à chaque carte sa pleine puissance : Dell annonce 72 W pour la L4, 165 W pour la 4500 et 350 W pour la L40S dans ce châssis.
La RTX PRO 6000 Blackwell est la carte graphique pour station de travail de notre Dell Pro Max Tower T2, installée dans le même boîtier et avec le même pilote. NVIDIA annonce une consommation identique de 600 W pour les versions station de travail et serveur, et leurs performances sont similaires lors de nos tests ; elle fait donc office de carte serveur. À noter que nous avons également publié un test des cartes RTX PRO 6000 Server dans un XE7740 si vous souhaitez approfondir leurs capacités d'évolution.
Nous avons testé la 6000 à deux reprises : une première fois à sa consommation par défaut de 600 W, et une seconde fois avec une limitation à 450 W vérifiée via nvidia-smi. En effet, 450 W représente la puissance maximale que la R770 peut fournir à une 6000 dans un emplacement GPU, et c’est la valeur de référence pour un acheteur hésitant entre une 4500 et une 6000 pour un serveur 2U standard. La plateforme hôte diffère pour la 6000, mais à ces charges de service limitées par le GPU, l’impact du processeur et de la topologie PCIe sur le résultat est bien moindre que celui de la limitation de consommation.
Nous avons utilisé le benchmark de service en ligne de vLLM avec des niveaux de concurrence de 1, 2, 4, 8, 16 et 32 et deux configurations de requêtes : 512 jetons d’entrée et 512 jetons de sortie, simulant une conversation et des tours d’agent courts, et 8 192 jetons d’entrée et 1 024 jetons de sortie, simulant le traitement RAG et documentaire où le préremplissage est prédominant et le cache KV se remplit. Les modèles ont été choisis pour s’adapter à la carte la plus petite du groupe, lorsque cela était possible. La carte L4, avec ses 24 Go, constitue le minimum : Ministral 3 3B Reasoning et Ministral 3 8B Reasoning en BF16, Ministral 3 14B Instruct en FP8 et Qwen3.8-27B en NVFP4, compatibles avec les cartes de 32 Go et plus, mais pas avec la carte L4.
Nous indiquons le débit de jetons de sortie à chaque niveau de concurrence et citons le débit total, y compris les jetons de préremplissage, lorsque cela change la donne.
Ce qui n'est pas inclus : les modèles plus grands que seules les cartes de 48 Go et plus peuvent accueillir, le partitionnement MIG, le vGPU, le transcodage vidéo, la consommation d'énergie mesurée, la configuration à deux cartes 4500 et les cartes pour centres de données de catégorie supérieure.
FLOPS Matmul maximum atteignables (MAMF)
MAMF est un test GEMM dense et soutenu qui mesure le débit de multiplication mathématique maximal atteint par une carte dans chaque précision. C'est donc le moyen le plus simple de vérifier le bon fonctionnement du matériel FP4 une fois la pile de service désactivée. La 4500 a atteint 135.9 TFLOPS en BF16, 280.1 en FP8 et 568.6 en NVFP4, chaque diminution de la précision doublant quasiment le débit. Comparé aux pics de performance denses de NVIDIA (202, 406 et 811 TFLOPS), cela représente 67 % à 70 % du pic à chaque précision, et correspond aux résultats cuBLAS de NVIDIA pour cette carte (133, 275 et 534 TFLOPS).
La RTX PRO 6000 a affiché des performances similaires, atteignant 398.9, 773.9 et 1 480,9 TFLOPS à 600 W, soit 2.6 à 2.9 fois plus que la 4500 sur les trois précisions, ce qui correspond aux prévisions basées sur la taille de la puce et la consommation énergétique. À 450 W, elle a atteint 368.6, 772.4 et 1 413,1 TFLOPS : les performances en FP8 sont restées stables, celles en BF16 ont baissé de 8 % et celles en NVFP4 de 5 %, ce qui indique que le chemin Tensor FP8 de la 6000 reste sous les 450 W lors de ce test, les deux autres précisions frôlant tout juste la limite. La L40S a atteint 220.0 et 368.6 TFLOPS en BF16 et FP8, et la L4 a atteint 50.1 et 115.8 ; aucune de ces cartes Ada ne dispose de matériel Tensor FP4.
La comparaison pertinente est celle des performances NVFP4 du processeur 4500 face aux performances FP8 des autres processeurs : 568.6 TFLOPS, soit 1.5 fois la limite FP8 du L40S et 74 % des performances plafonnées du processeur 6000, pour une carte de 165 W. C’est l’avantage du FP4, qui se manifeste au niveau GEMM. Les résultats de service vLLM suivants montrent que cette technologie n’a pas encore atteint la pile de service dans cette version, et les résultats MAMF suggèrent que les performances de service continueront de croître à mesure que les noyaux NVFP4 rattraperont leur retard.
Service en ligne vLLM : Contexte bref (512/512)
C’est dans un contexte restreint que le processeur 4500 démontre toute sa supériorité : sur les trois modèles FP8 et BF16, son débit de sortie à une concurrence de 32 était de 1 107 jetons/s sur Ministral 3 14B contre 995 pour le L40S, de 1 017 contre 1 005 sur Ministral 3 8B et de 2 006 contre 1 988 sur Ministral 3 3B. Chacune de ces performances correspond à une carte Blackwell à 165 W, égalant ou surpassant une carte Ada à 350 W. De plus, les courbes se superposent de la concurrence 1 à 32, ce qui indique qu’il ne s’agit pas d’un résultat ponctuel. Le L4 a obtenu des performances de 364, 279 et 704 jetons/s sur les mêmes modèles, ce qui place le 4500 entre 2.8 et 3.6 fois plus performant que son prédécesseur.
La RTX PRO 6000 illustre les performances des autres cartes graphiques Blackwell. Limitée à 450 W, elle a atteint 2 161, 2 042 et 4 069 jetons/s sur les trois mêmes modèles, soit 1.95 à 2.03 fois plus que la 4500 ; à sa pleine puissance de 600 W, elle a atteint 2 283, 2 139 et 4 155 jetons/s, soit 2.06 à 2.1 fois plus. Les deux courbes de la 6000 se superposent jusqu'à 16 requêtes simultanées sur chaque modèle et ne diffèrent que de 2 à 5 % à 32 requêtes simultanées. Ainsi, à court terme, les 150 W supplémentaires n'apportent que peu de gain. Par rapport à la 4500, cela représente un débit deux fois supérieur pour une carte disposant de trois fois plus de mémoire et, dans le cas de la R770, d'une consommation électrique 2.7 fois plus élevée.
Le débit total, qui inclut les 512 jetons de préremplissage par requête, suit le même ordre : 2 215 jetons/s pour le modèle 4500 (14 B) contre 1 990 pour le L40S et 727 pour le L4. Le modèle 6000 atteint 4 323 jetons/s en mode plafonné et 4 566 à 600 W. L’écart avec le L4 est le plus important sur le modèle 8 B (3.6x) et le plus faible sur le modèle 3 B (2.8x). L’écart avec le L40S ne dépasse jamais 12 % en faveur du modèle 4500.
Service en ligne vLLM : Contexte long (8K/1K)
À 8 192 jetons d'entrée, la situation change, et la raison en est visible dans la forme des courbes. Sur Ministral 3 14B FP8, le 4500 suit le L40S jusqu'à une concurrence de 8, puis se stabilise à environ 180 jetons/s, tandis que le L40S continue jusqu'à 230 jetons/s à une concurrence de 16 et s'y maintient. Le modèle 8B présente le même comportement : 185 jetons/s pour le 4500 à 32 contre 277 pour le L40S, le 4500 se stabilisant à 8 et le L40S à 16. Sur le modèle 3B, les deux cartes se stabilisent à 16, 384 contre 475.
La raison réside dans la capacité du cache KV : chaque requête simultanée de 8 Ko nécessite que son contexte réside sur la carte, et une fois les poids chargés, un tampon d'images de 32 Go en contient moins qu'un tampon de 48 Go. Lorsque vLLM manque d'espace KV, il cesse d'apporter une concurrence utile et le débit se stabilise. Le 4500 accuse un retard de 17 à 33 % par rapport au L40S à 32 jetons/s sur ces modèles, pour cette seule raison ; le calcul n'est pas le facteur limitant, comme le montrent les résultats avec un contexte court. Le L4, avec 24 Go et 300 Go/s, affiche un débit stable à partir de 4 jetons/s sur tous les modèles, de 34 à 130 jetons/s.
Les 96 Go de mémoire du modèle 6000 ne sont jamais insuffisants lors de ce test, et ses performances continuent de progresser jusqu'à 32 jetons/s sur tous les modèles. À une puissance maximale de 450 W, il a atteint 552, 589 et 973 jetons/s, soit 2.5 à 3.2 fois plus que le modèle 4500 ; à 600 W, il a atteint 608, 639 et 1 033 jetons/s, soit 2.7 à 3.5 fois plus. C'est là que la limitation de puissance se fait sentir : le préremplissage avec contexte long maintient le modèle 6000 à pleine capacité de calcul plus longtemps, ce qui explique la perte de performances de 4 à 9 % pour les niveaux de concurrence 16 et 32, contre 2 à 5 % avec un contexte court. Dans tous les cas, le rapport avec le modèle 4500 passe de 2 à environ 3, et la mémoire est le principal facteur expliquant cette différence, plus que la consommation d'énergie.
Si votre charge de travail consiste en des questions-réponses sur des documents, des analyses RAG sur de longs contextes ou des agents traitant d'importants volumes de données, la mémoire est la spécification prédominante, et les 32 Go du modèle 4500 constituent une contrainte de concurrence. Ce n'est pas le cas pour le chat, la classification ou les cycles d'exécution courts des agents. Le débit total à 8K/1K est principalement déterminé par le préremplissage et suit le même ordre : 1 713 jetons/s pour le modèle 4500 sur le modèle 14B contre 2 070 pour le L40S et 381 pour le L4, le modèle 6000 atteignant 4 971 jetons/s en limite de débit et 5 474 jetons/s à 600 W.
NVFP4 : Là où le logiciel fixe les limites
La Qwen3.8-27B en NVFP4 est le seul modèle du groupe à utiliser le matériel FP4 Tensor de Blackwell, ce qui explique ses courbes de performances plus stables. Lors du test à contexte court avec une concurrence de 32, la 4500 a produit 320 jetons/s en sortie ; les L40S, 480 et RTX PRO 6000 ont atteint respectivement 621 et 616 jetons/s à 600 W. Avec une concurrence de 1, chaque carte a affiché un débit compris entre 17 et 22 jetons/s sur un modèle 27 bits, y compris la 6000 avec 1.6 To/s de GDDR7, alors que la même carte atteint 99 jetons/s en flux unique sur le modèle FP8 14 bits.
La L40S ne dispose pas de matériel FP4 Tensor ; vLLM exécute donc un point de contrôle NVFP4 en déquantifiant les poids et en effectuant des calculs avec une précision accrue, une méthode limitée par la bande passante mémoire. Elle surpasse la 4500 d'un facteur 1.5. La 6000, qui possède le même matériel FP4 que la 4500 et une bande passante deux fois supérieure, affiche également un facteur d'environ deux fois supérieur à celui de la 4500, ce qui explique l'écart de performances global entre les deux cartes. De plus, ses performances à 450 W et 600 W sont quasiment identiques (à 1 % près) pour chaque niveau de concurrence, ce qui indique que le noyau n'est pas non plus limité par la consommation d'énergie.
Le modèle observé sur les quatre séries, avec un débit de flux unique qui ne varie pas en fonction de la bande passante de la mémoire et un plafond de concurrence-32 de 480 à 621 quel que soit le GPU sous-jacent, indique que le chemin du noyau NVFP4 dans cette version vLLM constitue la limite sur chaque carte.
À 8K/1K, le modèle 4500 a atteint 153 jetons/s à une concurrence de 32, contre 190 pour le L40S et 402 et 425 pour le modèle 6000 (avec et sans limitation). Ces performances, limitées par le cache KV, sont similaires à celles observées pour les modèles FP8 et BF16. La mémoire de 96 Go du modèle 6000 explique une fois de plus sa croissance continue, contrairement aux autres modèles dont les performances se stabilisent.
NVIDIA affiche un débit FP4 de 1 221 jetons/s sur Llama 3.1 8B à 2K/256 et de 905 jetons/s sur Nemotron 3 Nano 30B A3B sous TensorRT-LLM. Le matériel est donc performant avec l'architecture NVIDIA. Les données actuelles indiquent que les performances NVFP4 de cette carte dépendent du logiciel vLLM, comme pour tous les GPU testés. Les acheteurs qui comptent sur le débit FP4 devraient donc tester leur infrastructure serveur avant de s'y fier.
Débit par watt nominal
Nous n'avons pas mesuré la consommation électrique lors de ce test ; les calculs d'efficacité disponibles sont donc effectués par rapport à la limite de puissance testée de chaque carte. Sur Ministral 3 14B FP8 à 32 processus simultanés, la 4500 délivre 6.7 jetons/s par watt nominal, contre 2.8 pour la L40S, 5.1 pour la L4, 4.8 pour la RTX PRO 6000 à sa limite de 450 W et 3.8 pour la 6000 à 600 W. Sur le modèle 3B, le ratio reste le même : 12.2 pour la 4500, 5.7 pour la L40S, 9.8 pour la L4, 9.0 pour la 6000 à sa limite et 6.9 pour la 6000 à 600 W.
La carte 4500 est la plus efficace du groupe selon ce critère, à court terme, et seule la 6000, avec sa consommation plafonnée, s'en approche. Limiter la consommation de la 6000 à 450 W lui coûte entre 2 et 5 % de débit et lui permet de récupérer 25 % de son budget énergétique, ce qui explique l'augmentation de son efficacité d'un quart. La carte L4 reste compétitive sur ce point car 72 W représente une consommation très faible, mais elle nécessite trois fois plus d'emplacements et de serveurs pour atteindre le même débit, un compromis que la carte 4500 visait précisément à éviter.
À 8K/1K, l'ordre change : le 4500 atteint 1.2 jetons/s par watt nominal sur le modèle 14B, le 6000 plafonné à 1.2 et le 6000 de 600 W à 1.0, tandis que le L40S est à 0.7. Une fois que le cache KV du 4500 est saturé, son débit cesse d'augmenter tandis que sa consommation d'énergie reste constante. Ainsi, dans un contexte long, le 6000 de 450 W offre la même efficacité et fournit 2.9 fois plus de travail par emplacement.
Conclusion
La RTX PRO 4500 Blackwell Server Edition tient ses promesses : elle intègre la technologie Blackwell dans un format, une consommation et un châssis auparavant limités à une puce L4. Sur les modèles de serveurs les plus courants (petits et moyens serveurs d'instructions et de raisonnement avec un contexte de conversation), elle offre un débit équivalent à celui d'une L40S avec une carte simple emplacement consommant moins de la moitié de cette dernière, et trois fois plus que la L4.
Il y a, bien sûr, des limites. À commencer par la mémoire : 32 Go suffisent pour les modèles ciblés par cette carte, mais cela limite la concurrence dans les requêtes de longue durée, là où les 48 Go de la L40S et surtout les 96 Go de la 6000 prennent l’avantage, et où la 6000 est environ trois fois plus performante que la 4500 avec la même configuration de requêtes, même avec sa puissance limitée à ce que le même serveur peut supporter.
La NVFP4, la carte de précision phare de Blackwell, offre des performances comparables à celles des cartes dépourvues de matériel FP4 sur cette configuration vLLM, même si le test MAMF montre que le matériel FP4 offre un débit deux fois supérieur au débit FP8 de la carte au niveau GEMM. L'avantage du FP4 reste donc à vérifier sur votre propre configuration, mais il est clair que le potentiel d'amélioration est plus important via le logiciel.
Toute personne disposant de serveurs 2U ou d'un châssis 1U compatible avec une carte FHFL et souhaitant augmenter ses capacités d'inférence, d'IA visuelle, de transcodage ou de stations de travail virtuelles sans impacter la consommation électrique ni le refroidissement trouvera la RTX PRO 4500 parfaitement adaptée. De plus, toute personne utilisant encore des processeurs L4 et dont les besoins en mémoire dépassent les 24 Go de mémoire vive devrait être séduite par la 4500. Pour les organisations dont les charges de travail nécessitent un contexte long ou sont mutualisées, et qui requièrent 48 Go ou plus par carte, la RTX PRO 6000 constitue la meilleure option.
NVIDIA a eu la bonne idée de désigner deux voies distinctes pour ces cartes, et la 4500 comble le manque d'IA périphérique entre la L4 et la 6000 tout en ne consommant que 165 W.
Classement : La RTX PRO 4500 Blackwell Server Edition occupe la première place du classement des meilleurs GPU à emplacement unique dans notre tableau des meilleurs GPU d’entreprise , où apparaissent également les données L40S et RTX PRO 6000 de ce test.
Amazon