No evento SC25 em St. Louis, Brian reencontrou seu amigo de longa data, Mark Klarzynski, fundador e CTO interino da PEAK:AIO. Se você acompanha o StorageReview, provavelmente já viu nossa cobertura da PEAK:AIO, desde notícias regulares até... IA médica para conservação animal.
Como Mark explica, ele “passou a vida inteira trabalhando em depósitos e conhece Brian há muito, muito tempo”. Isso fica evidente na conversa franca e descontraída sobre hardware e software, e a evolução de ambos.
Neste podcast bem curtinho, Brian e Mark conversam sobre desenvolvimento de software, o PowerEdge da Dell e servidores com GPU. Mark está empolgado com... avanços no design de hardware, especialmente da Dell PowerEdge R7725xd, Equipado com CPUs AMD EPYC.
Este breve podcast abrange muitos assuntos e vale a pena ouvi-lo de uma só vez. No entanto, se você não tiver 20 minutos disponíveis, dividimos o conteúdo em seções de cinco minutos para que você possa ouvir trechos diferentes.
0: 00 - 5: 00
- PEAK: O software AIO libera todo o potencial de desempenho do Dell 7725XD.
- O hardware moderno (CPUs, NVMe, redes) finalmente está bom o suficiente para que o software possa "sair do caminho".
- PEAK: O AIO removeu décadas de recursos de armazenamento legados para se aproximar do hardware puro.
- Para surpresa deles, o computador da Dell apresentou um desempenho muito superior ao esperado; eles achavam que os testes estavam errados.
- Filosofia: Fazer coisas simples e estável É mais complicado do que simplesmente torná-los rápidos.
5: 00 - 10: 00
- A PEAK:AIO optou por permanecer independente em vez de se tornar um recurso dentro da linha de produtos de um fornecedor importante.
- Eles trabalham diretamente com equipes de pesquisa (por exemplo, modelos de câncer cerebral), o que é mais gratificante do que simplesmente acelerar bancos de dados.
- Foco inicial: compactar o que antes exigia de 4 a 10 nós de armazenamento em um único servidor poderoso.
- Os sistemas de arquivos paralelos tradicionais foram projetados para 10GbE + HDD; agora são necessários NVMe e largura de banda PCIe massiva.
- Com Los Alamos, eles estão construindo um NFS aberto e moderno tecido—sem trava proprietária.
10: 00 - 15: 00
- Lista de desejos de hardware: mais pistas PCIe e PCIe Gen 6 para liberar ainda mais largura de banda.
- Visão: Servidores com GPU que são um caixa de modelo, caixa de inferência e nó de armazenamento Tudo em um só lugar, mas parte de um espaço de nomes maior.
- Comece com um servidor de GPUs básico; quando o armazenamento acabar, adicione uma 7725XD e deixe o PEAK:AIO expandir e reequilibrar automaticamente.
- Os clientes só querem aumentar a capacidade de armazenamento quando os projetos de IA comprovarem seu valor, e não comprar um conjunto gigante de soluções de armazenamento de uma só vez.
- Questões econômicas são importantes: não é possível justificar um sistema de armazenamento de US$ 1 milhão atrás de um servidor com GPU de US$ 300 mil para hospitais e orçamentos semelhantes.
15: 00 - 20: 00
- Estratégia: Utilizar servidores de commodities Além disso, o software PEAK:AIO substitui os caros e especializados sistemas de armazenamento.
- Fabricantes de equipamentos originais (OEMs), como a Dell, lidam com problemas fundamentais de hardware; a PEAK:AIO concentra-se em software, estabilidade e desempenho.
- Monitoramento integrado e inteligência preditiva; anos de experiência em campo sem interrupções na plataforma.
- Resultados do projeto conjunto: aproximadamente 70 milhões de IOPS em um único nó e centenas de GB/s de taxa de transferência — números recordes para eles.
- Próximo passo: inserir modelos dentro O nó de armazenamento (com capacidade ociosa de CPU/GPU) permite que a inferência ocorra internamente, e não pela rede.
Amazon