La MSI XpertStation WS300 repose sur la toute nouvelle architecture DGX Station de NVIDIA, la plus performante à ce jour, intégrant un nœud GB300 Grace Blackwell Ultra complet directement sur votre bureau. Son atout majeur : une puissance de calcul FP4 de 20 pétaFLOPS, fournie par un GPU Blackwell Ultra unique couplé à un CPU Grace à 72 cœurs via une liaison NVLink-C2C de 900 Go/s. Les deux processeurs partagent une mémoire dédiée de 748 Go : 252 Go de HBM3e et 496 Go de LPDDR5X, une capacité suffisante pour exécuter un modèle à mille milliards de paramètres en mémoire locale.
La station DGX prend également en charge le clustering de plusieurs unités grâce à sa carte réseau ConnectX-8 SuperNIC, qui expose deux ports 400 GbE pour un débit total de 800 Gb/s. Il en résulte une machine de niveau centre de données pouvant être installée à domicile ou au bureau, et non plus dans une salle serveur.
Spécifications techniques de la station NVIDIA DGX
La XpertStation WS300 est la solution MSI basée sur la plateforme NVIDIA GB300 DGX Station. NVIDIA fournit la carte mère Grace Blackwell Ultra et l'environnement logiciel, tandis que MSI fournit le châssis, le refroidissement liquide, l'alimentation, l'agencement du stockage, les E/S externes et le service après-vente, transformant ainsi la plateforme en un système de bureau complet. Le processeur Grace, le GPU Blackwell Ultra, l'interconnexion NVLink-C2C et le réseau ConnectX-8 étant fixes, la véritable différenciation entre les constructeurs réside dans la capacité du système environnant à prendre en charge, gérer et exploiter efficacement ce matériel.
| Spécifications | DÉTAILS |
|---|---|
| Architecture | |
| Processeur | NVIDIA Grace, Arm Neoverse V2 à 72 cœurs |
| GPU | NVIDIA Blackwell Ultra (B300) |
| Noyaux de tenseurs | 5th Generation |
| Interconnexion CPU-GPU | NVLink-C2C, 900 Go/s bidirectionnel |
| Mémoire | |
| Mémoire cohérente | Jusqu'à 748 Go |
| Mémoire GPU | Jusqu'à 252 Go HBM3e |
| Bande passante mémoire GPU | 7.1 TB / s |
| Mémoire CPU | Jusqu'à 496 Go LPDDR5X (4 x SOCAMM) |
| Bande passante mémoire du processeur | 396 GB / s |
| Stockage | |
| Disques de démarrage | 2 SSD M.2 2280 PCIe 5.0 x4 NVMe (connectés au processeur), équipés de 2 disques durs de 2 To en RAID 1. |
| Entraînements d'expansion | 2 x M.2 2280 PCIe 5.0 x4 NVMe (ConnectX-8 intégré), ouvert d'usine |
| Networking | |
| NIC | Carte réseau NVIDIA ConnectX-8 SuperNIC, 2 ports QSFP112 400G (800 Gb/s agrégés) |
| Ethernet | 1 x 10GBase-T RJ45 (Marvell AQC113) |
| Port de gestion | 1 x 1000Base-T RJ45 (dédié hors bande) |
| Sans-fil | Emplacement M.2 2230 Key-E, PCIe 2.0 x1 (Wi-Fi 6E / Wi-Fi 7, Bluetooth) |
| Expansion | |
| Emplacements PCIe | 1 port PCIe 5.0 x16 FHFL double largeur ; 2 ports PCIe 5.0 x16 FHFL simple largeur (8 signaux) |
| GPU additionnels pris en charge | NVIDIA RTX PRO 2000 Blackwell, RTX PRO 4000 Blackwell SFF, RTX PRO 6000 Blackwell Workstation / Max-Q |
| Entrées/sorties avant/supérieure | |
| USB | 2 ports USB 3.2 Gen 2 Type-A ; 2 ports USB 3.2 Gen 2 Type-C (5 V/3 A) |
| Audio | 2 prises jack (sortie ligne / micro) |
| I / O arrière | |
| USB | 4 ports USB 10 Gbit/s Type-A ; 1 port micro-USB COM (console série) |
| Écran | 1 x Mini DisplayPort (vidéo BMC, résolution maximale 1024 x 768, pas de DP++) |
| Audio | 3 prises jack (entrée ligne / sortie ligne / micro) |
| Gestion & Sécurité | |
| BMC | ASPEED AST2600 avec firmware AMI MegaRAC, IPMI 2.0 et Redfish, stockage local eMMC |
| Sécurité | TPM 2.0, intrusion dans le châssis, racine de confiance matérielle Microchip CEC1736 (ERoT) |
| Refroidissement | |
| Refroidissement liquide | Module de refroidissement liquide conçu pour un processeur et une carte graphique de 1400 W, avec des blocs de refroidissement sur la carte graphique, le processeur, la mémoire et le ConnectX-8. |
| Radiateurs / Ventilateurs | 2 radiateurs de 360 mm ; 1 ventilateur système 12025 |
| Tuning Moteur | |
| Alimentation | 1 x 1600W ATX, 80 PLUS Platinum (150 x 86 x 210 mm) |
| Entrée CA | 100-114 Vca, 15 A, 47-63 Hz (puissance de sortie max. 1300 W) ; 115-240 Vca, 15-8 A, 47-63 Hz (puissance de sortie max. 1600 W) |
| Facteur de forme | |
| Dimensions | 245.7 x 529.0 x 570.4 mm (9.67 x 20.83 x 22.46 po), L x H x P |
Concevoir et construire
Au premier abord, l'XpertStation ressemble à une station de travail moderne standard, dotée d'un design professionnel et élégant. Retirez le panneau latéral, et la ressemblance s'arrête là.
Superpuce GB300 Grace Blackwell Ultra Desktop
Au cœur du WS300 se trouve notre vedette : le GPU B300 de NVIDIA, basé sur l'architecture Blackwell Ultra.
Source : NVIDIA, annoté par StorageReview
Le B300 est l'un des GPU les plus avancés du marché, doté d'une architecture à double réticule gravée selon le procédé 4NP de TSMC. Les deux puces sont reliées par l'interface NV-HBI 10 To/s de NVIDIA, permettant au GPU de fonctionner comme un accélérateur CUDA unique. Le B300 utilisé dans la station DGX est basé sur l'architecture Blackwell Ultra à 208 milliards de transistors, avec jusqu'à 160 SM et 640 cœurs Tensor de cinquième génération. Il embarque également 252 Go de mémoire HBM3e offrant une bande passante de 7.1 To/s. Conçu pour les centres de données, le B300 ne dispose pas de sortie d'affichage classique ni d'encodeurs matériels NVENC. Il intègre cependant sept moteurs NVDEC et sept décodeurs nvJPEG. Le GPU prend également en charge MIG, ce qui permet de le partitionner en sept instances isolées. Côté puissance de calcul, le B300 offre :
| La précision | Peak Performance |
|---|---|
| Performances de calcul du B300 | |
| Noyau Tensor NVFP4 | 20 PFLOPS clairsemés / 15 PFLOPS denses |
| Noyau Tensor FP8 / FP6 | 10hXNUMX FPLOPS |
| Noyau tenseur INT8 | 330 TOPS |
| Noyau Tensor FP16 / BF16 | 5hXNUMX FPLOPS |
| Noyau tenseur TF32 | 2.5hXNUMX FPLOPS |
| FP32 | 80 TFLOPS |
| Noyau Tensor FP64 / FP64 | 1.3 TFLOPS |
| Les débits maximaux sont basés sur la fréquence d'horloge boost du GPU. Les spécifications de Tensor Core utilisent la sparsité, sauf indication contraire. | |
Associé à la carte mère B300, Grace est le premier processeur NVIDIA dédié aux centres de données. Il utilise 72 cœurs Arm Neoverse V2, mais l'architecture du processeur est une conception NVIDIA, incluant la hiérarchie de cache, les contrôleurs mémoire, les E/S système, le Scalable Coherency Fabric et l'interface NVLink-C2C. Grace expose 72 cœurs et 72 threads matériels, chaque cœur implémentant l'architecture Armv9 avec des extensions de cryptographie et quatre unités vectorielles SVE2 de 128 bits. Le cœur dispose d'un décodeur d'instructions six voies capable de traiter jusqu'à huit instructions par cycle d'horloge, de six unités arithmétiques et logiques scalaires, de 64 Ko de cache d'instructions L1 et de 64 Ko de cache de données, ainsi que de 1 Mo de cache L2 privé. Sur l'ensemble de la puce, le processeur partage 114 Mo de cache L3.
Les cœurs et les tranches de cache L3 sont interconnectés via l'architecture Scalable Coherency Fabric de NVIDIA, une interconnexion maillée offrant une bande passante de 3.2 To/s pour la bisection. Cette architecture connecte également les cœurs du processeur à la mémoire, aux E/S système et à l'interface NVLink-C2C, fournissant ainsi à Grace la bande passante nécessaire au transfert de données pour alimenter le B300. Dans le WS300, Grace gère les tâches côté processeur liées à l'accélérateur : lancement des noyaux GPU, chargement des données, prétraitement, tokenisation et orchestration des modèles. Le schéma topologique ci-dessous illustre clairement l'architecture mono-socket, avec un processeur Grace à 72 cœurs et les périphériques de la plateforme connectés autour de celui-ci.
Grace est équipée de 496 Go de mémoire LPDDR5X, offrant une bande passante de 396 Go/s. Au lieu de souder la mémoire directement sur la carte mère, la station DGX utilise quatre modules SOCAMM. Le module SOCAMM (System-on-Chip Advanced Memory Module) intègre la mémoire LPDDR5X dans un format compact et amovible. Cette technologie permet à la plateforme de conserver les avantages de la LPDDR5X en termes de bande passante et d'efficacité énergétique, tout en facilitant la maintenance de la mémoire. Un module défectueux peut ainsi être remplacé sans avoir à changer la carte mère entière.
La carte graphique Grace et la carte mère B300 sont connectées via l'interface NVLink-C2C de NVIDIA, une interconnexion au niveau du boîtier offrant une bande passante bidirectionnelle de 900 Go/s, soit environ sept fois celle d'une connexion PCIe Gen5 x16. La différence majeure réside dans la cohérence de la mémoire. Dans une station de travail classique, le processeur et la carte graphique dédiée disposent d'espaces mémoire distincts, les données étant copiées entre eux via PCIe. Grâce à NVLink-C2C, Grace et la carte mère B300 partagent un espace d'adressage cohérent, permettant à chaque processeur d'accéder directement à la mémoire connectée à l'autre.
Il en résulte un espace d'adressage cohérent de 748 Go, et non un bloc de 748 Go de mémoire HBM. Le B300 dispose de 252 Go de HBM3e offrant un débit de 7.1 To/s, tandis que Grace apporte 496 Go de LPDDR5X à 396 Go/s. Les données stockées dans la mémoire Grace doivent toujours transiter par la liaison C2C ; la HBM reste donc la solution optimale pour les poids, tenseurs et tampons de modèles fréquemment utilisés. La mémoire Grace agit comme une couche de grande capacité, permettant aux charges de travail dépassant les 252 Go de mémoire locale du B300 de rester sur un seul système plutôt que d'être réparties entre plusieurs GPU. Nous mesurerons l'impact sur les performances de l'utilisation de cette seconde couche de mémoire plus loin dans la section des tests.
Topologie du système
En s'éloignant du boîtier GB300, le schéma fonctionnel de MSI montre comment le reste du système s'articule autour de la carte mère Grace. Le processeur est au centre de la topologie d'E/S, auquel sont directement connectés deux emplacements M.2 PCIe 5.0 x4. MSI y a installé deux SSD Micron 4600 de 2 To configurés en RAID 1 pour le système d'exploitation et les logiciels NVIDIA. Les trois emplacements d'extension pleine longueur sont également connectés directement à Grace, avec une interface PCIe 5.0 x16 et deux interfaces PCIe 5.0 x8.
MSI a également prévu un châssis compatible avec les cartes graphiques additionnelles de grande taille. Un câble d'alimentation 12VHPWR pré-câblé est facilement accessible à l'avant du châssis, évitant ainsi le passage d'un câble supplémentaire. La traverse métallique verticale qui rigidifie le châssis intègre également un support anti-affaissement pour accueillir les cartes RTX PRO longues et lourdes.
Un contrôleur USB côté Grace gère les ports USB principaux avant et arrière du système, ainsi que le codec audio. Grace se connecte également au contrôleur BMC ASPEED AST2600, qui fournit un port de gestion 1 GbE dédié, une sortie Mini DisplayPort limitée à 1024 x 768 et une console série Micro-USB. Le Mini DisplayPort est destiné à la configuration initiale et au dépannage, et non à l'affichage principal du système. Toute personne souhaitant utiliser le WS300 comme un ordinateur de bureau classique aura besoin d'une carte graphique RTX PRO optionnelle.
L'autre composant majeur est la carte réseau NVIDIA ConnectX-8. Sa caractéristique la plus visible est la présence de deux ports QSFP112 400 GbE sur le panneau arrière, offrant une bande passante réseau agrégée jusqu'à 800 Gb/s. La ConnectX-8 intègre également un commutateur PCIe à 48 voies ; sa liaison montante est compatible PCIe Gen6, mais les ports aval qu'elle expose aux périphériques fonctionnent en PCIe 5.0, ce qui permet à MSI de l'utiliser comme un concentrateur d'E/S secondaire plutôt que comme une simple carte réseau.
Deux liaisons PCIe 5.0 x4 du ConnectX-8 alimentent les emplacements M.2 2280 restants, que MSI laisse libres pour l'extension. Cette même liaison connecte également l'emplacement M.2 2230 Wi-Fi et Bluetooth via PCIe 2.0 x1, le contrôleur Marvell AQC113 pour le port 10GBase-T, et un second contrôleur USB assurant un port USB supplémentaire en façade.
Alimentation et refroidissement
L'alimentation du WS300 est assurée par un bloc d'alimentation ATX 80 PLUS Platinum de 1 600 W avec entrée C19. Pour les installations nord-américaines, la station DGX nécessite un circuit dédié de 20 A afin de fournir au système toute sa puissance.
La puissance de 1 600 W représente la limite pour l'ensemble du système. Grace, la carte mère B300, le stockage, les pompes, les ventilateurs et toute carte graphique RTX PRO optionnelle sont tous alimentés par la même source d'alimentation. L'ajout d'une carte graphique haute performance augmente les capacités de la WS300, mais elle ne puise pas dans une source d'alimentation distincte. Lorsque la carte mère B300 et la carte RTX sont toutes deux sollicitées, elles doivent partager la puissance disponible, ce qui peut réduire les performances du GPU de la carte mère B300.
MSI gère la charge thermique générée grâce à un système de refroidissement liquide sur mesure couvrant la carte mère B300, le processeur Grace, la mémoire SOCAMM et le ConnectX-8, y compris les cages optiques. La chaleur est dissipée par deux radiateurs de 360 mm, tandis qu'un ventilateur de 120 mm assure la circulation de l'air dans le reste du boîtier. MSI annonce une dissipation thermique maximale de 1 400 W pour le processeur et la carte graphique. Lors de nos tests, la température de la carte mère B300 a atteint 71 °C, tandis que celle du processeur n'a jamais dépassé 65 °C, la carte graphique consommant 1 292 W.
Éclaboussement puissant
NVIDIA gère ce budget partagé via le service vsloshd. En mode dynamique par défaut, ce service surveille en temps réel la consommation électrique du module GB300 et d'une carte RTX PRO (en option), répartissant la puissance disponible entre eux au lieu de limiter chaque composant à une valeur fixe. Selon la politique actuelle, la carte RTX est prioritaire : lorsqu'elle a besoin de plus de puissance, le système réduit d'abord la limite de puissance du GB300 avant d'augmenter celle de la RTX. Sans carte RTX installée, le budget total reste disponible pour le module GB300.
Cela signifie que la carte graphique RTX PRO 6000 (en option) n'offre pas simplement des performances supplémentaires à la carte mère B300. Lorsque les deux GPU sont sollicités, la puissance allouée à la carte RTX est directement prélevée sur le budget de la carte mère B300, ce qui peut réduire la fréquence et les performances de cette dernière.
La plateforme intègre également un limiteur de puissance matériel qui intervient en cas de détection d'une alimentation dégradée. Nous l'avons constaté lors de nos tests pratiques : des connecteurs d'alimentation mal branchés ont contraint le WS300 à réduire sa limite de puissance au lieu de s'éteindre ou de continuer à consommer toute la puissance nécessaire malgré une connexion défectueuse. La machine est restée en ligne en mode de puissance réduite jusqu'à la résolution du problème de connexion.
Connectivité
Avant de passer au châssis, il convient d'examiner rapidement les connecteurs d'E/S avant et arrière. La face avant comprend deux ports USB 3.2 Gen 2 Type-A, deux ports USB 3.2 Gen 2 Type-C, des prises de sortie ligne et microphone séparées, ainsi que les boutons d'alimentation et de réinitialisation.
Le panneau arrière est divisé entre la connectivité du poste de travail et le matériel serveur situé en dessous. ConnectX-8 fournit deux ports QSFP112 400 GbE, tandis qu'un port 10GBase-T distinct gère la connexion réseau hôte classique et qu'un port 1 GbE dédié se connecte au BMC. Quatre ports USB Type-A 10 Gbit/s et trois prises audio permettent de connecter les périphériques locaux. Le BMC propose également une console série Micro-USB et un Mini DisplayPort. L'entrée d'alimentation C19 se trouve en bas du châssis, et le Wi-Fi 6E ou le Wi-Fi 7 avec Bluetooth peuvent être ajoutés via l'emplacement M.2 2230 Key-E interne.
Charges de travail du centre de données sur le bureau
Tout ce qui précède décrit la DGX Station ; la question la plus pertinente pour les acheteurs est : que permet à une équipe de réaliser avec la XpertStation ? La valeur du WS300 apparaît plus clairement lorsqu’on le considère comme une plateforme de développement plutôt que comme un simple système d’inférence haute capacité. Son GPU B300, son CPU Grace, sa compatibilité MIG, sa carte graphique RTX PRO (en option) et sa suite logicielle pour centres de données permettent de déployer sur un seul nœud local plusieurs flux de travail qui nécessiteraient normalement un matériel de cluster partagé.
MIG en tant qu'outil de développement
Imaginez exécuter simultanément plusieurs tâches totalement indépendantes sur un seul GPU, chacune étant isolée des autres. C'est précisément le rôle du GPU multi-instance (MIG) : il segmente spatialement le B300 en sept instances de taille égale. Chaque instance dispose d'une part fixe de SM, de HBM, de cache et de bande passante mémoire, possède sa propre identité et est reconnue par CUDA comme un GPU distinct.
Cela permet de développer, tester et valider des charges de travail multi-GPU ; d'entraîner des scripts ; et de développer pour des outils comme Dynamo, LLM-D, etc.
Pour nos tests, nous avons configuré le B300 avec trois instances MIG et les avons utilisées pour exécuter des composants NVIDIA Dynamo sur des périphériques CUDA distincts. Cette méthode reflète la façon dont nous développons la plupart de nos outils de benchmark : vérifier leur bon fonctionnement implique des itérations répétées sur du matériel réel. Disposer d'un B300 local, que nous pouvons configurer et reconfigurer à volonté, sans avoir à réserver de temps sur un serveur partagé et sans les contraintes de consommation électrique, de chaleur et de bruit d'une baie physique, réduit considérablement les coûts liés à ce travail itératif.
Isaac GR00T et la boucle physique de l'IA
Un autre flux de travail qui convient particulièrement bien à la station DGX est l'IA physique.
Nous avons déjà testé ce type de flux de travail , mais il nécessitait plusieurs systèmes équipés de GPU de différentes classes. La station DGX réunit ces étapes auparavant distinctes au sein d'une seule machine de bureau.
Le processus débute par la téléopération : un opérateur guide le robot dans l’exécution d’une tâche afin de réaliser quelques démonstrations en situation réelle. Ces exemples sont ensuite intégrés au flux de travail d’Isaac GR00T. Le GPU RTX PRO (en option) prend en charge les besoins graphiques et de lancer de rayons d’Isaac Sim, tandis qu’Isaac Lab et GR00T-Mimic enrichissent les démonstrations initiales en une collection beaucoup plus vaste de trajectoires synthétiques physiquement plausibles. Enfin, le B300 affine le modèle GR00T à l’aide de l’ensemble de données réelles et synthétiques combiné.
Source : Nvidia
Après une phase de mise au point, la politique résultante peut être validée par simulation avant d'être déployée sur le robot pour une évaluation en conditions réelles. Ceci crée un cycle de développement court : capturer une démonstration réelle, la reproduire et la faire varier en simulation, réentraîner le modèle et tester la politique mise à jour sur le matériel. Pour les équipes ayant un accès limité aux robots, aux opérateurs ou aux fenêtres de collecte de données, le regroupement de la simulation, de la génération de données synthétiques et de l'entraînement du modèle dans un seul système de bureau peut considérablement réduire les difficultés rencontrées à chaque itération.
Développement du noyau Blackwell Ultra
L'utilisation la plus pertinente de la station DGX réside sans doute dans l'optimisation des noyaux. Lorsqu'une équipe développe des noyaux CUDA ou Triton pour Blackwell Ultra, rien ne remplace l'exécution sur l'architecture cible. La WS300 met à disposition du développeur un processeur B300 et 252 Go de mémoire HBM3e, permettant ainsi de profiler des charges de travail réelles, d'analyser le comportement de la mémoire, d'optimiser les chemins d'accès aux cœurs Tensor, de fusionner des opérations et d'itérer sans avoir à réserver du temps de calcul sur un serveur à huit GPU ou un système rack.
Les systèmes plus importants restent essentiels, mais peuvent être réservés aux tâches qui le requièrent : mise à l’échelle NVLink, opérations collectives NCCL, noyaux de communication, inférence multi-GPU et validation finale du débit. Le WS300 gère localement le travail du noyau mono-GPU, ce qui permet de conserver ces systèmes partagés coûteux pour les tests à grande échelle. Pour une équipe axée sur l’optimisation Blackwell Ultra, il s’agit de l’une des machines de développement les plus directes disponibles sur le marché.
Si la station DGX avait été commercialisée en même temps que les premiers systèmes Blackwell Ultra, nous pensons que les stocks initiaux auraient été épuisés presque instantanément par les laboratoires d'IA, les équipes de compilation, les développeurs de moteurs d'inférence et autres groupes s'efforçant d'optimiser les logiciels pour B300. Aujourd'hui encore, l'accès direct au GPU cible reste sans doute la principale raison pour laquelle une organisation souhaite en faire l'acquisition.
Performances
Note relative aux tests : Les tests ont été effectués à distance sur un système hébergé par MSI, StorageReview contrôlant l’intégralité de l’environnement logiciel pendant toute la durée de l’évaluation. Le système a été testé sans carte graphique RTX PRO ni aucune autre carte d’extension PCIe. Le processeur GB300 Superchip a ainsi bénéficié de la totalité de la puissance d’accélération disponible du système durant les tests.
FLOPS Matmul maximum atteignables (MAMF)
Pour commencer, afin de situer les performances de calcul du B300 dans leur contexte, nous avons exécuté le test MAMF sur trois systèmes de génération Blackwell. Le MAMF (Maximum Achievable Matmul FLOPS) est une mesure pratique des performances conçue pour évaluer le nombre maximal d'opérations en virgule flottante par seconde (FLOPS) réalisables sur les accélérateurs d'apprentissage automatique lors des multiplications matricielles. Il offre ainsi une référence plus précise que le nombre maximal théorique de FLOPS souvent annoncé dans les spécifications matérielles.
Pour ce test, nous balayons chacun des 3 systèmes en BF16, FP8 et NVFP4, et nous rapportons le meilleur résultat soutenu (dense) par précision.
La GB300 domine toutes les précisions. Sur BF16, elle atteint 1 967 TFLOPS contre 412 pour la RTX PRO 6000 et 104 pour la DGX Spark . En FP8, la tendance est identique : 3 909, 763 et 211. En NVFP4, la GB300 atteint 6 134 TFLOPS, contre 1 449 pour la RTX PRO 6000 et 364 pour la Spark. Ces rapports sont remarquablement stables sur les trois précisions : la GB300 affiche un avantage de 4 à 5 fois sur la RTX PRO 6000 et de 17 à 19 fois sur la Spark, tandis que la RTX PRO 6000 conserve un avantage d'environ 4 fois sur la Spark.
Bande passante NVB
La puissance de calcul brute n'est utile que si l'accélérateur peut alimenter ses unités d'exécution en données. Ceci est particulièrement important pour l'inférence en IA, où la génération de jetons lors de la phase de décodage est souvent davantage limitée par la bande passante mémoire que par les FLOPS disponibles.
Sur la puce GB300, cette hiérarchie s'étend de la mémoire HBM3e locale du B300 à la mémoire LPDDR5X de Grace, en passant par l'interconnexion NVLink-C2C qui les relie. L'utilitaire NVBandwidth de NVIDIA teste les différents chemins de copie à travers ces composants, affichant à la fois la bande passante disponible au sein du GPU et le coût du transfert de données entre les domaines mémoire du GPU et du CPU.
Les quatre premiers tests mesurent les transferts de données au sein des 252 Go de mémoire HBM3e du B300. Les lectures locales atteignent 6 875 Go/s, soit environ 6.9 To/s, ce qui place le résultat à quelques pourcents seulement de la bande passante mémoire nominale du GPU, qui est de 7.1 To/s. Les écritures locales atteignent 6 009 Go/s.
Les opérations de copie HBM à HBM sont moins performantes car chaque copie consomme de la bande passante deux fois : une fois pour lire la source et une autre fois pour écrire dans la destination. Les moteurs de copie dédiés atteignent 3 100 Go/s, tandis que l’accélérateur de mémoire tensorielle (TMA) enregistre 2 527 Go/s.
Les tests restants utilisent NVLink-C2C et accèdent aux 496 Go de mémoire LPDDR5X de Grace. Les transferts de la mémoire de Grace vers la mémoire HBM B300 atteignent 390 Go/s, tandis que les transferts dans le sens inverse atteignent 382 Go/s. Bien que NVLink-C2C fournisse jusqu'à 900 Go/s de bande passante cohérente entre le CPU et le GPU, les transferts mesurés sont limités par la bande passante de 396 Go/s de la mémoire LPDDR5X de Grace. Les transferts bidirectionnels mettent davantage en évidence cette limitation. Le trafic simultané atteint 253 Go/s avec les copies basées sur SM et 192 Go/s avec les moteurs de copie.
Inférence
Les tests de bas niveau étant terminés, nous passons à l'inférence LLM. L'attention se porte alors non plus sur les pics de trafic, mais sur le nombre de jetons par seconde, le temps d'obtention du premier jeton et la latence sous charge, ce qui nous permet de mieux comprendre le comportement du WS300 en tant que système serveur.
Commençons par la capacité principale du GB300 Superchip : gérer des modèles situés de part et d’autre de la limite de capacité de 252 Go de la mémoire HBM3e du B300. C’est là que son pool de mémoire cohérente de 748 Go prend toute son importance. Les cinq points de contrôle passent de deux modèles parfaitement compatibles avec la mémoire HBM, à un modèle qui y tient théoriquement mais dont la marge est insuffisante pour le cache d’exécution et le cache KV, et enfin à deux modèles qui doivent transférer une part importante de leur charge vers la mémoire Grace.
Remarque : Lorsque cela est mentionné, les modèles ont été exécutés avec un décodage spéculatif pour un débit de décodage plus élevé, le nombre de jetons d’acceptation forcés étant fixé au nombre de jetons de décodage spéculatif. Les résultats présentés correspondent donc à des performances optimales ; en conditions réelles, le débit est dynamique et dépend de la qualité des jetons décodés de manière spéculative.
Modèles entièrement compatibles avec la HBM
Flash DeepSeek v4 (0731)
Nous avons commencé par tester le très populaire DeepSeek v4 Flash (0731), qui utilise 14 + 6 Go de mémoire pour un point de contrôle FP8 natif. Ce modèle est réputé pour son efficacité et sa simplicité d'exécution, ce que nous avons pu constater sur la station DGX. Avec une charge de travail de 512/512, le débit de sortie a débuté à 149 jetons par seconde avec une concurrence de 1, grimpant rapidement jusqu'à 1 766 jetons par seconde avec une concurrence de 32. La charge de travail nécessitant un préremplissage important a vu son débit passer de 146 à 949 jetons par seconde.
Le débit total de jetons a évolué de manière synchrone, la charge de travail 512/512 passant de 298 à 3 532 jetons par seconde et la charge de travail nécessitant un préremplissage important passant de 1 311 à 8 537.
MiniMax M2.7 (NVFP4)
Vient ensuite le MiniMax M2.7, un de nos modèles préférés, testé avec le quant NVFP4 de NVIDIA, occupant 125 Go de VRAM. Lors d'une charge de travail 512/512, le débit de sortie a débuté à 193 jetons par seconde avec une concurrence de 1 et a rapidement atteint 4 801 jetons par seconde avec une concurrence de 128. La charge de travail nécessitant un préremplissage important est passée de 195 jetons par seconde avec une concurrence de 1 à 1 743 jetons par seconde avec une concurrence de 64. Le débit total de jetons a affiché la tendance inverse : la charge de travail nécessitant un préremplissage important est passée de 1 754 à 15 684 jetons par seconde avec une concurrence de 64, tandis que la charge de travail 512/512 est passée de 424 à 9 602 jetons par seconde avec une concurrence de 128.
Le débit total de jetons a montré la tendance inverse, la charge de travail avec préremplissage passant de 1 754 à 15 684 jetons par seconde à une concurrence de 64, tandis que la charge de travail 512/512 est passée de 424 à 9 602 jetons par seconde à une concurrence de 128.
Des modèles qui tiennent à peine dans la HBM
MiniMax M3 (NVFP4)
Le MiniMax M3 illustre ce que signifie concrètement une utilisation minimale de la mémoire. Son point de contrôle NVFP4 de 233 Go est plus petit que les 252 Go de HBM du B300, mais le modèle nécessite tout de même de l'espace pour l'environnement d'exécution et le cache KV. Il a finalement occupé 223 Go de HBM, dont 21 Go d'experts déportés vers Grace. Le décodage spéculatif EAGLE3-GQA a été utilisé avec une longueur d'acceptation synthétique de 3 jetons. Dans la charge de travail 512/512, le débit de sortie a débuté à 197 jetons par seconde à une concurrence de 1 et a progressé régulièrement jusqu'à 1 041 jetons par seconde à une concurrence de 32. La charge de travail nécessitant un préremplissage important est passée de 171 jetons par seconde à une concurrence de 1 à un pic de 278 à une concurrence de 2, avant de redescendre à 241 à une concurrence de 4.
Le débit total de jetons a suivi une tendance similaire, la charge de travail 512/512 passant de 395 à 2 082 jetons par seconde, tandis que la charge de travail nécessitant un préremplissage important a culminé à 2 506 jetons par seconde à la concurrence 2 avant de retomber à 2 169 à la concurrence 4.
Modèles incompatibles avec la HBM
GLM-5.2 (NVFP4)
GLM-5.2 a été testé avec le quantificateur NVFP4 de NVIDIA. Son point de contrôle de 433 Go a utilisé 218 Go de mémoire HBM, dont 216 Go de poids experts déchargés sur la mémoire Grace. Le décodage spéculatif MTP a été utilisé avec une longueur d'acceptation synthétique de 3 jetons. Le débit de sortie pour la charge de travail 512/512 est passé de 36 jetons par seconde à une concurrence de 1 à 139 jetons par seconde à une concurrence de 32. La charge de travail 8 192/1 024 a suivi une évolution similaire, passant de 35 à 118 jetons par seconde. La similarité des résultats entre les deux profils montre que la génération est restée principalement limitée par le déplacement des experts déchargés entre la mémoire Grace et le GPU. Le test s'est arrêté à une concurrence de 32, faute de mémoire HBM suffisante pour le contexte supplémentaire.
Le débit total de jetons a suivi le même schéma, la charge de travail 512/512 passant de 72 à 277 jetons par seconde et la charge de travail avec préremplissage important passant de 314 à 1 062 ; ici, les invites plus longues séparent finalement les deux profils, puisque les jetons de préremplissage eux-mêmes comptent dans le total.
Nemotron-3-Ultra 550B (NVFP4)
Nemotron-3-Ultra 550B est le plus grand modèle que nous avons testé et celui qui exploite le plus directement l'ensemble du pool cohérent. Il s'agit d'un modèle hybride Transformer-Mamba NVFP4 de 307 Go, bien trop volumineux pour la seule mémoire HBM, dont 114 Go de poids sont déportés vers la mémoire Grace. Le décodage spéculatif MTP a été utilisé avec une longueur d'acceptation synthétique de 5 jetons. Le débit de sortie pour la charge de travail 512/512 a débuté à 43 jetons par seconde à une concurrence de 1 et a atteint 168 à une concurrence de 32. La charge de travail avec préremplissage intensif a donné des résultats plus intéressants : le débit est passé de 44 jetons par seconde à une concurrence de 1 à un pic de 122 à une concurrence de 2, avant de retomber à 78 à une concurrence de 4, les longues invites saturant le cache KV limité. Comme pour GLM-5.2, les deux profils évoluent de manière très similaire, ce qui indique une fois de plus que la migration des experts entre Grace et le GPU constitue le facteur limitant, plutôt que la puissance de calcul. L'analyse s'est arrêtée à 32 processus concurrents pour la même raison : la mémoire HBM disponible était insuffisante pour traiter des données supplémentaires.
Le débit total de jetons a suivi, la charge de travail à forte composante de préremplissage atteignant un pic de 2 506 jetons par seconde à la concurrence 2 avant de diminuer à 2 169 à la concurrence 4, tandis que la charge de travail 512/512 est passée de 85 à 336 jetons par seconde.
WS300 contre Blackwell RTX PRO 6000 contre DGX Spark
Cette deuxième partie de nos tests d'inférence met le WS300 face aux deux autres moyens d'installer Blackwell sur ou près d'un bureau : le Blackwell RTX PRO 6000, la carte de station de travail 600 W de NVIDIA, hébergée dans la Dell Pro Max Tower T2 que nous avons testée précédemment, et le DGX Spark basé sur le GB10, représenté ici par l' Acer Veriton GN100 . Chaque système a exécuté les mêmes charges de travail d'inférence en direct vLLM dans deux scénarios : une charge de travail égale avec 512 jetons d'entrée et 512 jetons de sortie, et une charge de travail avec préremplissage important comprenant 8 192 jetons d'entrée et 1 024 jetons de sortie, à des niveaux de concurrence de 1 à 128. Nous avons représenté graphiquement la sortie agrégée et le débit total pour chaque modèle que les trois systèmes peuvent prendre en charge en commun : GPT-OSS-20B et GPT-OSS-120B dans leur architecture MXFP4 native, Llama 3.1 8B aux architectures BF16, FP8 et NVFP4, et Mistral Small 24B et Qwen3 Coder 30B aux architectures BF16 et FP8.
GPT-OSS-20B
GPT-OSS-20B est le test le plus accessible de la série, un point de contrôle qui s'adapte facilement aux trois systèmes. Avec une charge de travail identique, la WS300 a parfaitement géré 22 161 jetons de sortie par seconde avec 128 flux simultanés, soit environ 2.5 fois plus que la RTX PRO 6000 (9 000 jetons) et 15 fois plus que la DGX Spark (1 469 jetons). Les résultats obtenus avec un seul flux confirment cette tendance, à une échelle plus réduite : 530 jetons par seconde sur la Station, 244 sur la carte graphique et 50 sur la Spark.
Le scénario avec préremplissage intensif creuse encore davantage l'écart. Avec 8 192 invites de jetons, le WS300 a tout de même délivré 9 572 jetons par seconde en pic, ce qui représente plus de 86 000 jetons par seconde au total une fois le préremplissage pris en compte, tandis que le RTX PRO 6000 a plafonné à 2 892 et le Spark à 468.
GPT-OSS-120B
Avec le GPT-OSS-120B, les trois systèmes peuvent toujours charger le modèle, mais la hiérarchie de mémoire commence à avoir une incidence. Le WS300 a atteint un pic de 9 294 jetons de sortie par seconde sous une charge de travail identique, soit 2.7 fois plus que le RTX PRO 6000 (3 384) et près de 19 fois plus que le DGX Spark (500).
C'est lors des tests intensifs de préremplissage que les systèmes les moins performants atteignent leurs limites. La RTX PRO 6000 plafonne à 872 jetons de sortie par seconde avec 64 flux simultanés, et la Spark à 199, tandis que la WS300, malgré une charge de 128 flux, termine à 5,038 6, soit près de six fois plus que la carte. Les longues requêtes saturent le cache KV, et les systèmes disposant de moins de mémoire disponible atteignent leurs limites de traitement par lots bien avant la Station.
Lama 3.1 8B
Llama 3.1 8B est suffisamment compact pour que nous puissions l'exécuter en BF16, FP8 et NVFP4 sur chaque système, ce qui permet d'observer clairement l'apport de la quantification sur chaque machine. Avec 128 flux simultanés et une charge de travail identique, le WS300 est passé de 17 278 jetons de sortie par seconde en BF16 à 28 698 en NVFP4, soit un gain de 66 %. Le RTX PRO 6000 a quant à lui progressé de 114 %, passant de 5 720 à 12 269 jetons, et le DGX Spark de 143 %, passant de 828 à 2 009 jetons. Il est important de retenir cette tendance : plus la machine est petite, plus la quantification est avantageuse.
Les résultats avec préremplissage important compriment l'ensemble du champ, avec le test NVFP4 du WS300 atteignant un pic de 6 744 jetons de sortie par seconde contre 2 064 pour la carte et 317 pour le Spark.
Mistral Petit 24B
Le Mistral Small 24B a produit les écarts les plus importants du test. À FP8 et sous une charge de travail égale, le WS300 a atteint un pic de 11 157 jetons de sortie par seconde, soit trois fois plus que le RTX PRO 6000 (3 779) et 19 fois plus que le DGX Spark (585). En flux unique, les 169 jetons par seconde du Station offrent un confort d'utilisation bien supérieur aux 9 jetons par seconde du Spark.
Sous une charge de préremplissage importante, la RTX PRO 6000 a atteint un pic de seulement 32 flux simultanés et 560 jetons de sortie par seconde avant de retomber, tandis que la WS300 a continué jusqu'à 2 316 à 128 flux.
Codeur Qwen3 30B
Le test Qwen3 Coder 30B, un modèle de mélange d'experts avec un nombre réduit de paramètres actifs, est le seul où les systèmes les plus petits comblent l'écart en flux unique. Lors d'une requête simultanée avec une charge de travail identique, la RTX PRO 6000 a fourni 208 jetons de sortie par seconde, contre 310 pour la WS300. Ce résultat est le plus proche de celui de la Station dans cette comparaison, et même la Spark a atteint un débit exploitable de 55 jetons. Le traitement par lots rétablit l'ordre habituel : avec 128 flux, la Station atteint 12 425 jetons de sortie par seconde en FP8, soit 2.4 fois plus que la carte et près de 16 fois plus que la Spark.
Le préremplissage important a suivi le modèle établi, le WS300 atteignant 3 851 jetons de sortie par seconde tandis que la carte a culminé à 1 077 et le Spark à 146.
Sur les cinq modèles partagés, le WS300 a affiché un débit 2.3 à 3 fois supérieur à celui du Blackwell RTX PRO 6000 et 14 à 19 fois supérieur à celui du DGX Spark en pleine concurrence, l'écart atteignant près de 6 fois celui de la carte lorsque les requêtes longues sollicitent fortement le cache KV. Les trois machines utilisent la même pile CUDA et les mêmes chemins de quantification ; la Station offre en revanche une capacité mémoire et une bande passante supérieures, ce qui se traduit ici par une marge de concurrence accrue et une meilleure tolérance aux contextes longs. Un point tout aussi important est ce que ces graphiques ne peuvent pas montrer : aucun des modèles à l'échelle de pointe présentés dans les sections précédentes ne peut être exécuté sur les deux autres systèmes.
GDSIO
Les charges de travail d'IA modernes dépendent du transfert rapide des lots de données, des poids des modèles et des points de contrôle du stockage vers la mémoire GPU afin de maintenir l'accélérateur actif. NVIDIA GPUDirect Storage élimine le processus traditionnel en deux étapes, où les données sont d'abord lues depuis un SSD vers la mémoire système, puis copiées dans la mémoire GPU.
La station GB300 DGX implémente ce fonctionnement différemment d'un serveur GPU PCIe classique. Le Micron 4600 utilisé pour nos tests est connecté au commutateur PCIe intégré à ConnectX-8. ConnectX-8 se connecte en amont au processeur Grace, tandis que le GPU B300 se connecte à Grace via NVLink-C2C. Le SSD et le GPU ne sont pas situés sous le même commutateur PCIe. Le trafic de stockage transite par le commutateur ConnectX-8, entre dans le complexe racine PCIe de Grace, traverse le réseau de cohérence de Grace et emprunte NVLink-C2C pour atteindre la mémoire HBM3e du B300.
Avec GPUDirect Storage, cuFile enregistre un tampon alloué dans la mémoire HBM3e du B300 comme source ou destination pour les E/S de stockage. Lors d'une lecture, le contrôleur du Micron 4600 utilise le DMA pour placer les données dans la mémoire HBM3e ; lors d'une écriture, il récupère les données depuis cette même mémoire. Ces deux opérations suivent le chemin Grace et NVLink-C2C décrit précédemment, sans transiter par la mémoire LPDDR5X de Grace. Grace gère toujours le système de fichiers et le plan de contrôle NVMe, notamment la soumission des commandes et la traduction d'adresses, mais ne copie pas les données. GPUDirect Storage supprime ainsi l'étape de transit en mémoire système, même si le trafic transite toujours par Grace entre le SSD et la mémoire B300. Pour les charges de travail d'IA, les lectures séquentielles correspondent au streaming de jeux de données, au chargement de modèles et aux restaurations de points de contrôle, tandis que les écritures séquentielles correspondent aux sauvegardes de points de contrôle et aux autres transferts vers le stockage.
En ce qui concerne les performances de lecture séquentielle GDSIO, l'unité offre une montée en charge constante, quelle que soit la taille des blocs et le nombre de threads. À 16 Ko, le débit passe de 16 Mio/s avec 1 thread à 250 Mio/s avec 16 threads, pour atteindre 2.0 Gio/s avec 128 threads. Les blocs de plus grande taille gagnent en performance beaucoup plus rapidement : à 256 Ko, le débit atteint 11.8 Gio/s avec 64 threads et culmine à 12.9 Gio/s avec 128 threads. Les meilleurs résultats sont obtenus à 512 Ko et 1 Mo, où le débit maximal atteint 13.1 Gio/s. La charge de travail de 1 Mo atteint ce niveau avec seulement 32 threads et le maintient jusqu'à 128 threads.
En ce qui concerne les performances d'écriture séquentielle GDSIO, l'unité offre une montée en charge constante, quel que soit le nombre de threads ou la taille des blocs. À 16 Ko, le débit passe de 16 Mio/s avec 1 thread à 250 Mio/s avec 16 threads, pour atteindre 2.0 Gio/s avec 128 threads. Les blocs de plus grande taille gagnent en performance beaucoup plus rapidement : à 256 Ko, le débit atteint 7.5 Gio/s avec 32 threads et 12.0 Gio/s avec 64 threads. Le meilleur résultat est obtenu avec une charge de travail de 1 Mo, qui atteint le débit maximal de 12.0 Gio/s dès 16 threads et conserve cette performance jusqu'à 128 threads. 
À qui s'adresse la station de travail MSI XpertStation WS300 ?
Le WS300 est destiné aux organisations qui ont besoin d'un accès direct à Blackwell Ultra sans pour autant nécessiter une réservation de cluster ou une requête cloud pour chaque expérience. Les laboratoires d'IA, les développeurs de moteurs d'inférence, les équipes de développement de frameworks et de compilateurs, les groupes de robotique et les équipes d'IA d'entreprise peuvent l'utiliser comme nœud de développement local pour les flux de travail mentionnés ci-dessus. MIG permet aux développeurs de tester et de développer pour une configuration multi-GPU, et le BMC assure la gestion à distance du système.
C'est également une solution pertinente pour les développeurs IA expérimentés qui ont besoin d'un système opérationnel immédiatement. Sa valeur ne réside pas uniquement dans la carte mère B300, mais dans la plateforme complète qui l'entoure : 252 Go de mémoire HBM3e, Grace et 496 Go de LPDDR5X, ConnectX-8, stockage de démarrage en miroir, refroidissement liquide, gestion à distance et support technique MSI, le tout dans un seul boîtier. Ses limites pratiques sont l'architecture Arm, la nécessité d'un circuit dédié de 20 A et la consommation partagée de 1 600 W lorsqu'une carte graphique RTX PRO est installée.
Pour tirer pleinement parti du WS300, il est essentiel de choisir le bon logiciel. NVIDIA propose une vaste gamme de guides et de procédures de déploiement conçus pour aider les équipes à mettre le système en service et à exploiter rapidement ses ressources. Nous aborderons plusieurs de ces outils dans de prochains articles, notamment Brev, qui simplifie l'accès partagé au poste de travail et optimise son utilisation afin d'éviter que cette ressource coûteuse ne reste inutilisée.
Concernant le prix, MSI n'en a pas communiqué et les machines de cette catégorie affichent rarement un prix catalogue ; il s'agit d'un sujet qui nécessite une discussion approfondie avec un commercial, et non d'un simple bouton « Ajouter au panier ». La comparaison pertinente ne se fait pas avec d'autres stations de travail, mais avec les dépenses habituelles d'une équipe IA : temps de cluster réservé, engagement sur les GPU cloud et coûts liés à l'attente de matériel partagé.
Conclusion
La station de travail MSI XpertStation WS300 est la plus performante que nous ayons jamais testée, un produit rare qui révolutionne le champ des possibles pour un utilisateur individuel. Des points de contrôle d'envergure, habituellement réservés à un cluster, tels que GLM-5.2 (433 Go) et Nemotron-3-Ultra (550 milliards de paramètres), sont chargés et exécutés sur un boîtier à côté du bureau, de manière privée et toujours accessible. Voilà ce qui explique notre enthousiasme pour ce système.
La station DGX s'adresse aux développeurs : développeurs de noyau ciblant Blackwell Ultra, équipes de développement de moteurs d'inférence et de frameworks, groupes de robotique exécutant la boucle Isaac complète, et plus généralement utilisateurs confrontés à la complexité de la planification d'expériences autour de matériel partagé. En dehors de ce créneau, l'intérêt d'acquérir ces systèmes est assez limité. L'hôte Arm exclut certaines chaînes d'outils ; le circuit 20 A est une condition d'installation sur les circuits 120 V ; aucun affichage n'est possible sans carte d'extension ; et une station de travail RTX PRO 6000 coûte bien moins cher, permettant une utilisation monoposte sur des modèles compatibles avec ses 96 Go de mémoire.
L'aspect économique détermine également la taille optimale du déploiement. Un WS300 se justifie aisément par le temps de cluster réservé, et deux par équipe le restent. Au-delà d'un certain seuil, l'empilement devient superflu : lorsqu'une entreprise investit dans quatre tours GB300, par exemple, elle peut se procurer pour le même budget un serveur B300 à huit GPU offrant davantage de mémoire par GPU, un partitionnement MIG plus dense et une connectivité NVLink entre chaque GPU. L'idéal est d'en installer un sur un bureau, voire deux en laboratoire, en complément de l'investissement dans le datacenter.
NVIDIA fournit la carte mère, la différenciation entre les constructeurs se résume donc à la mise en œuvre, et celle de MSI est irréprochable. Un circuit de refroidissement liquide de 1 400 W refroidit la carte mère B300, le contrôleur Grace, le contrôleur SOCAMM et le connecteur ConnectX-8, et la plateforme est restée stable tout au long des tests. Nous analyserons plus en détail le comportement thermique de la GB300 dans un prochain article. L'alimentation de 1 600 W est répartie automatiquement entre les composants, et lors de nos tests du limiteur de puissance matériel avec une connexion défectueuse, le système a réduit sa fréquence au lieu de s'éteindre. Un câble d'alimentation 12VHPWR pré-câblé et un support anti-affaissement permettent l'extension de la carte graphique RTX PRO. Ayant testé la première station GB300 DGX reçue, nous pouvons affirmer que la XpertStation WS300 place la barre très haut pour cette plateforme.
La station de travail XpertStation WS300 occupe désormais la première place du classement des meilleurs systèmes GB300 dans notre tableau des meilleurs ordinateurs de bureau pour l'IA locale , et elle est au cœur de la discussion sur la mémoire dans notre guide sur la RAM, le GPU et le stockage pour l'IA agentique.
Amazon