Fungible a annoncé Fungible GPU-Connect (FGC) pour résoudre les défis causés par la demande croissante d'IA/ML qui se traduit par des GPU bloqués et sous-utilisés, en particulier dans les centres de données Edge. Le produit FGC traite de la manière dont la puissance de traitement des données est accessible dans les infrastructures des entreprises et des fournisseurs de services.
Connexion GPU fongible
La solution Fungible GPU-Connect comprend le châssis d'extension GPU FX-108, la carte accélératrice FC200 et le logiciel Fungible Composer. Le châssis d'extension GPU FX-108 est un châssis 4-U à montage en rack, prenant en charge jusqu'à huit cartes PCIe 3.0/4.0 x16 double largeur/simple largeur. Prise en charge facultative de l'interconnexion GPU-GPU via NVIDIA NVLink Bridge. Les GPU actuellement validés incluent NVIDIA A2, A10, A16, A30, A40, A100-40G, A100-80G.
En exploitant le DPU Fungible, FGC compose dynamiquement les ressources GPU et CPU sur un réseau Ethernet pour offrir des avantages économiques et de l'agilité aux organisations qui provisionnent, allouent et gèrent ces ressources GPU coûteuses. Avec FGC, les organisations peuvent créer une infrastructure alimentée par GPU sans les limitations physiques de PCIe.
DPU fongible
Le DPU Fungible offre un traitement à 800 Gbit/s, mettant en œuvre l'intégralité de la pile de stockage, de mise en réseau, de sécurité et de virtualisation. Le DPU F1 facilite également l'échange de données hautement efficace entre les nœuds de serveur grâce à sa technologie TrueFabric. Cela permet la désagrégation et la mise en commun de toutes les ressources du centre de données à grande échelle.
TrueFabric est un protocole de structure IP sur Ethernet à grande échelle qui fournit une bande passante transversale complète avec une faible latence moyenne et finale, une qualité de service de bout en bout et une connectivité sans congestion. Le protocole TrueFabric est entièrement conforme aux normes et interopérable avec TCP/IP sur Ethernet. Cela garantit que le réseau spine-leaf du centre de données peut être construit avec des commutateurs Ethernet standard prêts à l'emploi.
DPU fongible FC200
Les organisations qui déploient FGC dans leurs centres de données peuvent centraliser les actifs GPU existants dans un seul pool de ressources à attacher à des serveurs à la demande au lieu de GPU dédiés inactifs. La solution désagrégée fournie par le produit FGC supprime les contraintes liées à la colocalisation physique des GPU et des CPU. Ces ressources peuvent être situées n'importe où dans le même centre de données.
Le DPU Fungible crée une connexion PCIe virtuelle sécurisée entre le GPU et le serveur qui est transparente pour le serveur et les applications ne nécessitant aucun logiciel ou pilote supplémentaire. Cette connexion est gérée matériellement par le DPU, assurant une connexion performante et à faible latence. La transparence signifie que FGC peut être facilement adapté aux environnements existants et peut évoluer avec la demande croissante, garantissant que les GPU sont toujours disponibles lorsqu'ils sont nécessaires.
Selon explique Toby Owen, vice-président des produits chez Fungible ;
« Fungible GPU-Connect permet aux fournisseurs de services de combiner tous leurs GPU dans un pool de ressources central au service de tous leurs clients. Les fournisseurs de services peuvent désormais intégrer rapidement de nouveaux clients intensifs en analyse de données sans ajouter de serveurs et de GPU coûteux. En tirant parti de FGC, les centres de données peuvent bénéficier de la puissance de calcul collective de tous leurs GPU et réduire considérablement leur TCO avec la réduction des ressources GPU, du refroidissement et de l'empreinte physique nécessaires.
Avantages FGC pour les fournisseurs de services
Les fournisseurs de services déployant FGC se différencient en créant de nouvelles opportunités de revenus nets offrant aux clients des plans plus flexibles et les performances spécialisées des serveurs GPU qui sont très demandés.
Eric Burgener, vice-président de la recherche, du groupe des systèmes d'infrastructure, des plateformes et des technologies, IDC, a déclaré :
"Les GPU sont nécessaires pour les fournisseurs de services qui se lancent de plus en plus dans le traitement AI/ML. L'infrastructure composable prend en charge l'agilité dont ils ont besoin pour monétiser avec succès ces ressources coûteuses. Des produits tels que Fungible GPU-Connect permettent aux fournisseurs de services de mettre des GPU à la disposition de leurs clients de manière rentable, en fournissant rapidement les ressources demandées pour répondre aux besoins des clients à la demande tout en partageant facilement ces ressources coûteuses entre plusieurs clients pour générer un retour sur investissement plus élevé.
Pour en savoir plus sur le nouveau Fungible GPU-Connect, consultez la fiche produit, lisez le blog ou contactez sales@fungible.com.
Amazon