A Fungible anunciou o Fungible GPU-Connect (FGC) para resolver os desafios causados pela crescente demanda por IA/ML que resulta em GPUs ociosas e subutilizadas, especialmente em Edge Data Centers. O produto FGC aborda como o poder de processamento de dados é acessado em infraestruturas de empresas e provedores de serviços.
Conexão GPU fungível
A solução Fungible GPU-Connect inclui o FX-108 GPU-Expansion Chassis, o FC200 Accelerator Card e o Fungible Composer Software. O chassi de expansão de GPU FX-108 é um chassi de montagem em rack 4-U, com suporte para até oito placas PCIe 3.0/4.0 x16 de largura dupla/largura única. Suporte de interconexão GPU-GPU opcional via NVIDIA NVLink Bridge. As GPUs validadas atuais incluem NVIDIA A2, A10, A16, A30, A40, A100-40G, A100-80G.
Aproveitando o Fungible DPU, o FGC compõe dinamicamente os recursos de GPU e CPU em uma rede Ethernet para fornecer benefícios econômicos e agilidade para organizações que provisionam, alocam e gerenciam esses caros recursos de GPU. Com o FGC, as organizações podem criar uma infraestrutura baseada em GPU livre das limitações físicas do PCIe.
DPU fungível
O Fungible DPU oferece processamento de 800 Gbps, implementando toda a pilha de armazenamento, rede, segurança e virtualização. O F1 DPU também facilita o intercâmbio de dados altamente eficiente entre os nós do servidor por meio de sua tecnologia TrueFabric. Isso permite a desagregação e o agrupamento de todos os recursos do data center em escala.
TrueFabric é um protocolo de malha IP-over-Ethernet em larga escala que fornece largura de banda transversal completa com baixa média e latência de cauda, QoS de ponta a ponta e conectividade sem congestionamento. O protocolo TrueFabric é totalmente compatível com os padrões e interoperável com TCP/IP sobre Ethernet. Isso garante que a rede de folha de centro de dados possa ser construída com switches Ethernet padrão disponíveis no mercado.
Fungível FC200 DPU
As organizações que implantam o FGC em seus data centers podem centralizar os ativos de GPU existentes em um único pool de recursos para serem conectados a servidores sob demanda, em vez de GPUs dedicadas inativas. A solução desagregada fornecida pelo produto FGC remove as restrições de ter GPUs e CPUs fisicamente co-localizadas. Esses recursos podem estar localizados em qualquer lugar dentro do mesmo datacenter.
O Fungible DPU cria uma conexão PCIe virtual segura entre a GPU e o servidor que é transparente para o servidor e aplicativos que não requerem software ou drivers adicionais. Essa conexão é gerenciada em hardware pela DPU, garantindo uma conexão de alto desempenho e baixa latência. A transparência significa que o FGC pode ser facilmente adaptado em ambientes existentes e pode ser dimensionado com a demanda crescente, garantindo que as GPUs estejam sempre disponíveis quando forem necessárias.
De acordo com explica Toby Owen, vice-presidente de produtos da Fungible;
“O Fungible GPU-Connect capacita os provedores de serviços a combinar todas as suas GPUs em um pool de recursos central que atende a todos os seus clientes. Os provedores de serviços agora podem integrar rapidamente novos clientes intensivos em análise de dados, sem adicionar servidores e GPUs caros. Ao aproveitar o FGC, os datacenters podem se beneficiar do poder de computação coletivo de todas as suas GPUs e reduzir substancialmente seu TCO com a redução dos recursos de GPU, resfriamento e espaço físico necessário.”
Benefícios FGC para Prestadores de Serviços
Os provedores de serviços que implantam o FGC se diferenciam criando novas oportunidades de receita líquida, oferecendo aos clientes planos mais flexíveis e desempenho especializado de servidores GPU que estão em alta demanda.
Eric Burgener, vice-presidente de pesquisa, sistemas de infraestrutura, plataformas e grupo de tecnologias da IDC, disse:
“As GPUs são necessárias para provedores de serviços que estão cada vez mais entrando no processamento de IA/ML. A infraestrutura composta suporta a agilidade necessária para monetizar com sucesso esses recursos caros. Produtos como o Fungible GPU-Connect permitem que os provedores de serviços disponibilizem GPUs de maneira econômica para seus clientes, provisionando rapidamente os recursos solicitados para atender aos requisitos do cliente sob demanda, compartilhando facilmente esses recursos caros entre vários clientes para gerar um maior retorno sobre o investimento.”
Para saber mais sobre o novo Fungible GPU-Connect, confira o resumo do produto, leia o blog ou entre em contato com sales@fungible.com.
Amazon