Accueil Entreprise Giga Computing dévoile des solutions avancées d'IA et de refroidissement

Giga Computing dévoile des solutions avancées d'IA et de refroidissement

by Harold Fritt

Giga Computing, une filiale de GIGABYTE, a récemment introduit des solutions pour gérer les charges de travail complexes d'IA et améliorer l'efficacité énergétique grâce à une infrastructure de refroidissement avancée. En tant que fournisseur de systèmes certifié NVIDIA, les serveurs GIGABYTE prennent désormais en charge les microservices d'inférence NVIDIA NIM, qui font partie de la plate-forme logicielle NVIDIA AI Enterprise.

Giga Computing, une filiale de GIGABYTE, a récemment introduit des solutions pour gérer les charges de travail complexes d'IA et améliorer l'efficacité énergétique grâce à une infrastructure de refroidissement avancée. En tant que fournisseur de systèmes certifié NVIDIA, les serveurs GIGABYTE prennent désormais en charge les microservices d'inférence NVIDIA NIM, qui font partie de la plate-forme logicielle NVIDIA AI Enterprise.

GIGABYTE a présenté ses dernières technologies de processeur et de calcul accéléré, notamment le GIGA POD, une solution d'IA à l'échelle du rack. La flexibilité du GIGA POD est démontrée avec les dernières solutions NVIDIA, telles que le HGX B100, le HGX H200, le GH200 Grace Hopper Superchip et d'autres systèmes GPU de base OAM. Cette solution clé en main prend en charge les accélérateurs de base à grande échelle, intégrant des commutateurs, des réseaux, des nœuds de calcul et bien plus encore, tout en tirant parti de NVIDIA Spectrum-X pour des capacités de mise en réseau robustes dans les infrastructures d'IA générative.

Le point culminant de la vitrine était le système NVIDIA GB200 NVL72. Ce système fournit une inférence LLM (Large Language Model) en temps réel 30 fois plus rapide, réduit le coût total de possession (TCO) de 25 fois et consomme 25 fois moins d'énergie. La solution à refroidissement liquide et à l'échelle du rack connecte 36 processeurs NVIDIA Grace et 72 GPU NVIDIA Blackwell à l'aide de NVIDIA NVLink, formant un GPU unique et massif avec une bande passante de 130 téraoctets par seconde (To/s).

Intégration de solutions de refroidissement avancées

Le portefeuille de GIGABYTE comprend des technologies de refroidissement liquide direct (DLC) et de refroidissement par immersion monophasé, qui sont essentielles pour l'informatique de nouvelle génération et exigent une meilleure dissipation thermique que le refroidissement par air traditionnel. Le rack GIGABYTE DLC comprend des serveurs pour les technologies AMD, Intel et NVIDIA, pris en charge par les partenaires CDU CoolIT Systems et Motivair.

Les principaux produits présentés comprennent :

  • G4L3-SD1: Un serveur DLC prenant en charge deux processeurs Intel Xeon et le NVIDIA HGX B200 8-GPU, utilisant des plaques froides pour un refroidissement efficace.
  • G593-ZX1: Un serveur équipé d'un refroidissement liquide pour les processeurs AMD EPYC 9004 et les modules OAM démontrant des solutions de refroidissement hautes performances.

Libérer les données du cloud vers la périphérie

GIGABYTE a présenté une variété de serveurs, depuis les plates-formes à usage général jusqu'aux plates-formes basées sur ARM et aux solutions OCP, destinées à la fois aux applications cloud et Edge. Les nouveaux systèmes exposés comprenaient des serveurs de stockage prenant en charge les disques E3.S ou E1.S et des serveurs préparés pour les processeurs AMD EPYC de nouvelle génération. Au total, plus de 25 serveurs ont été présentés.

Les cartes mères GIGABYTE pour processeurs tels que les séries AMD EPYC 4004, Intel Xeon W-3400 et Intel Xeon 6 sont dotées de fonctionnalités de niveau serveur, notamment RAS et une puce BMC. Ces cartes mères font partie d'une gamme qui comprend des serveurs d'entrée de gamme et des solutions basées sur Broadcom pour les cartes LAN HBA, RAID et OCP. Ce matériel est conçu pour être flexible, polyvalent et fiable, avec des capacités de gestion et de surveillance de serveurs à distance.

GIGABYTE s'attend à ce que les systèmes NVIDIA GB200 NVL72 soient disponibles au premier trimestre 1.

S'engager avec StorageReview

Newsletter |  YouTube | Podcast iTunes/Spotify | Instagram | Twitter | TikTok | Flux RSS