Fungible ha anunciado Fungible GPU-Connect (FGC) para resolver los desafíos causados por la creciente demanda de AI/ML que resulta en GPU varadas e infrautilizadas, especialmente en los centros de datos perimetrales. El producto FGC aborda cómo se accede al poder de procesamiento de datos en las infraestructuras empresariales y de proveedores de servicios.
Conexión de GPU fungible
La solución Fungible GPU-Connect incluye el chasis de expansión de GPU FX-108, la tarjeta aceleradora FC200 y el software Fungible Composer. El chasis de expansión de GPU FX-108 es un chasis de montaje en rack de 4 U que admite hasta ocho tarjetas PCIe 3.0/4.0 x16 de ancho doble/ancho simple. Soporte de interconexión GPU-GPU opcional a través de NVIDIA NVLink Bridge. Las GPU validadas actuales incluyen NVIDIA A2, A10, A16, A30, A40, A100-40G, A100-80G.
Aprovechando la DPU fungible, FGC compone dinámicamente los recursos de GPU y CPU a través de una red Ethernet para brindar beneficios económicos y agilidad a las organizaciones que aprovisionan, asignan y administran esos costosos recursos de GPU. Con FGC, las organizaciones pueden crear una infraestructura impulsada por GPU libre de las limitaciones físicas de PCIe.
DPU fungibles
La DPU fungible ofrece un procesamiento de 800 Gbps e implementa toda la pila de almacenamiento, redes, seguridad y virtualización. La DPU F1 también facilita el intercambio de datos altamente eficiente entre los nodos del servidor a través de su tecnología TrueFabric. Esto permite la desagregación y agrupación de todos los recursos del centro de datos a escala.
TrueFabric es un protocolo de estructura de IP a través de Ethernet a gran escala que proporciona un ancho de banda transversal completo con una latencia promedio y de cola baja, QoS de extremo a extremo y conectividad sin congestión. El protocolo TrueFabric es totalmente compatible con los estándares e interoperable con TCP/IP a través de Ethernet. Esto garantiza que la red de hoja espinal del centro de datos se pueda construir con conmutadores Ethernet estándar listos para usar.
DPU fungible FC200
Las organizaciones que implementan FGC en sus centros de datos pueden centralizar los activos de GPU existentes en un solo grupo de recursos para conectarlos a servidores bajo demanda en lugar de GPU dedicadas inactivas. La solución desagregada proporcionada por el producto FGC elimina las limitaciones de tener GPU y CPU ubicadas físicamente en el mismo lugar. Estos recursos se pueden ubicar en cualquier lugar dentro del mismo centro de datos.
La DPU fungible crea una conexión PCIe virtual segura entre la GPU y el servidor que es transparente para el servidor y las aplicaciones que no requieren software ni controladores adicionales. Esta conexión es gestionada en hardware por la DPU, asegurando una conexión de alto rendimiento y baja latencia. La transparencia significa que FGC se puede adaptar fácilmente a los entornos existentes y se puede escalar con la creciente demanda, lo que garantiza que las GPU estén siempre disponibles cuando se necesiten.
Según explica Toby Owen, VP de Producto de Fungible;
“Fungible GPU-Connect permite a los proveedores de servicios combinar todas sus GPU en un grupo de recursos central que atiende a todos sus clientes. Los proveedores de servicios ahora pueden incorporar nuevos clientes intensivos en análisis de datos rápidamente sin agregar servidores y GPU costosos. Al aprovechar FGC, los centros de datos pueden beneficiarse de la potencia informática colectiva de todas sus GPU y reducir sustancialmente su TCO con la reducción de los recursos de GPU, la refrigeración y el espacio físico necesario”.
Beneficios de FGC para Proveedores de Servicios
Los proveedores de servicios que implementan FGC se diferencian al crear nuevas oportunidades de ingresos netos que ofrecen a los clientes planes más flexibles y el rendimiento especializado de los servidores GPU que tienen una gran demanda.
Eric Burgener, vicepresidente del Grupo de Investigación, Sistemas de Infraestructura, Plataformas y Tecnologías de IDC, dijo:
“Las GPU son necesarias para los proveedores de servicios que se están involucrando cada vez más en el procesamiento de IA/ML. La infraestructura componible respalda la agilidad que necesitan para monetizar con éxito estos costosos recursos. Los productos como Fungible GPU-Connect permiten a los proveedores de servicios poner las GPU a disposición de sus clientes de manera rentable, aprovisionando rápidamente los recursos solicitados para cumplir con los requisitos del cliente a pedido y compartiendo fácilmente estos costosos recursos entre múltiples clientes para generar un mayor retorno de la inversión”.
Para obtener más información sobre el nuevo Fungible GPU-Connect, consulte el folleto del producto, lea el blog o póngase en contacto con sales@fungible.com.
Amazon