Le serveur Lenovo ThinkSystem SR675 V3, optimisé par les nouveaux GPU L40S de NVIDIA, a été présenté au SIGGRAPH à Los Angeles, devenant un point central des plans de NVIDIA visant à faire progresser les déploiements mondiaux d'IA et à introduire des applications d'IA génératives telles que des chatbots intelligents, des outils de recherche et de synthèse pour utilisateurs dans diverses industries.
Le nouveau ThinkSystem a été présenté comme un serveur NVIDIA OVX et intégrera bientôt les GPU NVIDIA L40S récemment annoncés. Cette collaboration devrait contribuer à révolutionner les implémentations de l'IA, permettant une IA de nouvelle génération, des simulations métavers immersives et des décisions cognitives à grande échelle.
GPU NVIDIA L40S
Le GPU NVIDIA L40S récemment dévoilé se présente comme un puissant processeur de centre de données universel, spécialement conçu pour accélérer les applications gourmandes en ressources de calcul, y compris la formation et l'inférence de l'IA, les conceptions et la visualisation 3D, le traitement vidéo et la numérisation industrielle avec la plate-forme NVIDIA Omniverse. Il offre une accélération multi-charges de travail révolutionnaire pour l'inférence et le recyclage des grands modèles de langage (LLM), les applications graphiques et vidéo.
Le GPU L40S habilite la prochaine génération d'applications audio, vocales, 2D, vidéo et 3D compatibles avec l'IA et est un composant crucial pour les prochaines plates-formes NVIDIA Omniverse OVX 3.0, offrant des jumeaux numériques haute fidélité et précis.
Le GPU NVIDIA L40S sera un atout clé dans les systèmes NVIDIA OVX. Propulsé par l'architecture GPU NVIDIA Ada Lovelace et une généreuse mémoire de 48 Go, chaque serveur peut héberger jusqu'à huit GPU L40S. Il dispose également de cœurs Tensor de quatrième génération et d'un moteur de transformateur FP8, offrant une étonnante puissance de traitement de tenseur de 1.45 pétaflops.
Par rapport à son prédécesseur, le GPU NVIDIA A100 Tensor Core, le L40S affiche des performances d'inférence IA jusqu'à 1.2 fois plus génératives et des performances d'entraînement jusqu'à 1.7 fois plus rapides pour gérer des charges de travail d'IA complexes avec des milliards de paramètres et de multiples modalités de données.
Le GPU L40S est conçu pour répondre à un large éventail de flux de travail professionnels. Il comprend 142 cœurs RT de troisième génération, offrant 212 téraflops de performances de lancer de rayons, idéal pour les workflows de visualisation professionnelle haute fidélité tels que le rendu en temps réel, la conception de produits et la création de contenu 3D.
De plus, les 40 18,176 cœurs CUDA du L5S fournissent près de 32 fois les performances en virgule flottante simple précision (FP100) du GPU NVIDIA AXNUMX, garantissant ainsi une efficacité accrue des demandes de calcul pour l'ingénierie et les simulations scientifiques.
Configurations Think System SR675 V3
Lenovo est stratégiquement positionné pour prendre en charge le L40S avec sa nouvelle gamme de serveurs optimisés pour les nouveaux GPU. En combinant des jumeaux numériques entièrement simulés avec une intelligence artificielle générative, Lenovo vise à améliorer ses processus commerciaux et ses résultats de conception. La collaboration entre Lenovo et NVIDIA sur le système NVIDIA OVX facilite la construction et l'exploitation de mondes virtuels, étendant les capacités du système à l'IA générative et fournissant des performances énergétiques aux centres de données avec des charges de travail d'IA.
Le ThinkSystem SR675 V3 offre trois configurations de serveur en une, qui incluent la prise en charge des systèmes NVIDIA HGX A100 4-GPU avec NVLink et le refroidissement liquide hybride Lenovo Neptune. De plus, il est compatible avec les configurations à 4 ou 8 GPU qui incluent les serveurs NVIDIA L40S, NVIDIA H100 80 Go ou NVIDIA H100 NVL dans une empreinte 3U.
Lenovo considère ces développements comme une avancée significative dans la simplification du déploiement de l'IA, la rendant accessible aux organisations de toutes tailles et favorisant l'intelligence transformatrice dans tous les secteurs.
Configurations ThinkSystem SR675 V3 : modules de base, denses et HGX
Dans le domaine des configurations de serveur AI/HPC, comprendre les compromis et les avantages des différentes configurations est crucial pour l'optimisation et les exigences de charge de travail spécifiques. Le Lenovo ThinkSystem SR675 V3 offre une flexibilité avec ses configurations de modules Base, Dense et HGX, chacune conçue pour des besoins particuliers.
Module de base
La configuration du module de base s'adresse aux organisations à la recherche d'un mélange équilibré de prise en charge GPU et de capacité de stockage. Il peut accueillir jusqu'à 4 double largeur, pleine hauteur, pleine longueur ; GPU FHFL, utilisant des connexions PCIe Gen5 x16. Cela offre des capacités de traitement parallèle décentes pour les charges de travail d'IA et d'apprentissage en profondeur.
En termes de stockage, le module de base prend en charge jusqu'à 8 disques SAS/SATA/NVMe remplaçables à chaud de 2.5 pouces, offrant un équilibre entre le volume de stockage et la vitesse.
Module dense
Pour les organisations qui privilégient le traitement GPU parallèle, le Dense Module peut prendre en charge jusqu'à 8 GPU double largeur, pleine hauteur et pleine longueur. Chaque GPU utilise PCIe Gen5 x16 sur un commutateur PCIe, maximisant ainsi le nombre de GPU sur un seul serveur pour un traitement parallèle amélioré.
En matière de stockage, le Dense Module est polyvalent. Il prend en charge jusqu'à 6 SSD EDSFF E1.S NVMe ou jusqu'à 4 SSD EDSFF E3.S 1T NVMe HS. Cette configuration est idéale pour les scénarios où des tâches de traitement de données intenses nécessitent plus de GPU au prix d'une certaine flexibilité de stockage.
Module HGX
La configuration du module HGX est spécialisée, ciblant les besoins de haute performance avec des exigences GPU spécifiques. Il exploite NVIDIA HGX H100 avec 4 GPU SXM5 connectés à NVLink. Ces GPU SXM5 peuvent limiter le nombre total que vous pouvez installer dans le châssis, mais ils offrent des performances de puce supérieures, ce qui les rend idéaux pour les tâches exigeantes d'IA et d'apprentissage en profondeur.
En termes de stockage, le module HGX est optimisé pour la vitesse. Il peut héberger jusqu'à 4 SSD NVMe Hot Swap 2.5" ou jusqu'à 4 SSD EDSFF E3.S 1T NVMe HS.
Réflexions de clôture
Chaque configuration de module du ThinkSystem SR675 V3 a ses atouts uniques. Alors que les GPU SXM5 du module HGX offrent des performances inégalées, les organisations nécessitant un traitement plus parallèle peuvent opter pour le module Dense pour s'adapter à davantage de GPU PCIe. Cependant, cela se fait au prix d'une perte de TDP et d'une dégradation potentielle des performances. Le module de base fournit un terrain d'entente, offrant un équilibre entre la prise en charge du GPU et les options de stockage. Comme toujours, le meilleur choix dépend des exigences et des contraintes spécifiques de la tâche à accomplir, et nous n'exclurons jamais aucune de ces configurations de notre laboratoire.
Amazon