Procurando uma plataforma para testar seus aplicativos AI/ML antes do lançamento, mas não tem acesso a esse ambiente redundante? Ter a capacidade de criar e testar novas cargas de trabalho de IA pode economizar tempo, dinheiro e dores de cabeça. A NVIDIA tem uma resposta que pode ser a solução para o seu problema de desenvolvimento. E é grátis! Bem-vindo NVIDIA LaunchPad.
Apresentando NVIDIA LaunchPad!
A NVIDIA anunciou recentemente o LaunchPad – um ambiente prático onde usuários corporativos podem usar servidores NVIDIA AI Enterprise em um ambiente vSphere 7 gratuitamente por 2 a 4 semanas. Embora as empresas sejam mais do que bem-vindas para usar este serviço com cargas de trabalho que estejam considerando implantar em um ambiente NVIDIA, elas também podem acessar os laboratórios criados pela NVIDIA para que os profissionais de TI se familiarizem com o uso de servidores habilitados para NVIDIA. Se preferir, também temos um podcast onde Brian Beeler conversa com Luke Wignall, da NVIDIA, sobre como o LaunchPad surgiu e o que acontece por dentro.
O NVIDIA AI LaunchPad está hospedado em uma instalação da Equinix . A plataforma permite que empresas acelerem o desenvolvimento de modelos complexos de IA usando DGX SuperPOD, NVIDIA Base Command, NVIDIA Fleet Command e modelos pré-treinados do NVIDIA NGC. Ela também oferece suporte à escalabilidade de IA convencional em servidores com certificação NVIDIA distribuídos pela rede. Esses servidores, que seguem os padrões da indústria, são ideais para executar o pacote de software NVIDIA AI Enterprise no VMware vSphere, permitindo a escalabilidade de cargas de trabalho de IA na nuvem híbrida moderna.
Acessando NVIDIA LaunchPad
Depois de preencher um formulário de perfil, o usuário é apresentado a uma tela de visão geral detalhada. O processo é direto, fornecendo instruções sobre como configurar o ambiente para acessar o software e a infraestrutura de IA. O objetivo do NVIDIA LaunchPad é acelerar o desenvolvimento e a implantação de aplicativos.
A NVIDIA sente que algumas empresas não estão usando mais IA é o medo infundado na complexidade de configurar um ambiente onde a IA possa ser executada. Com isso em mente, a NVIDIA criou laboratórios projetados para abordar esses medos com dois profissionais de IA diferentes em mente; Administradores e gerentes de TI que precisam se posicionar e oferecer suporte a ambientes de IA e profissionais de IA que precisam usá-los. A oferta desse serviço ajudará a criar confiança no suporte e no uso da IA antes de investir um orçamento de TI na criação de uma infraestrutura específica para executar esses aplicativos de IA. Além disso, a implantação de cargas de trabalho de IA neste ambiente, com ferramentas familiares, permite que os desenvolvedores percebam o valor de seu projeto de IA com uma GPU NVIDIA.
Fluxo de trabalho NVIDIA LaunchPad
Hub de software otimizado para GPU para AI, ML e computação de alto desempenho
O catálogo NGC é um hub de IA otimizada para GPU, computação de alto desempenho (HPC) e software de análise de dados que simplifica e acelera os fluxos de trabalho de ponta a ponta. Com contêineres de nível empresarial, modelos de IA pré-treinados e SDKs específicos do setor que podem ser implantados no local, na nuvem ou na borda, as empresas podem criar e fornecer soluções com rapidez e confiança.
Os sistemas podem estar equipados com uma GPU NVIDIA A30 ou T4 neste momento, embora isso possa mudar com o lançamento de novas placas. Independentemente do hardware, todos os sistemas utilizam o NVIDIA AI Enterprise, que a NVIDIA descreve como:
“ Um conjunto completo de software de IA e análise de dados nativo da nuvem, otimizado, certificado e com suporte da NVIDIA para execução no VMware vSphere com sistemas certificados pela NVIDIA. Inclui tecnologias essenciais da NVIDIA para implantação, gerenciamento e escalonamento rápidos de cargas de trabalho de IA na nuvem híbrida moderna .”
Os laboratórios têm o vSphere pré-instalado com acesso a um cliente vSphere a partir do URL fornecido pela NVIDIA.
Os administradores de TI têm laboratórios que os orientam nas etapas envolvidas na configuração de VMs para usar GPUs. Os profissionais de IA têm acesso a laboratórios criados no pacote NVIDIA AI Enterprise, que inclui aplicativos, estruturas e ferramentas que pesquisadores de IA, cientistas de dados e desenvolvedores usam para criar seus aplicativos de IA e aprendizado de máquina.
Uma das jornadas do NVIDIA AI Enterprise LaunchPad guia você por um notebook Jupyter Lab, usando o NVIDIA RAPIDS e o conjunto de dados de táxis da cidade de Nova York para prever tarifas de corridas em Manhattan. O conjunto de dados contém colunas como pontos de embarque, pontos de desembarque, valor da corrida e número de passageiros. Os dados neste laboratório são usados para treinar um modelo XGBoost em GPU. Os laboratórios fornecidos pela NVIDIA levam de 30 minutos a várias horas para serem concluídos. A NVIDIA fornecerá o ambiente apropriado para cada laboratório.
Separada do ambiente de laboratório da NVIDIA está a capacidade de estabelecer um modelo de IA funcional. Inscrever-se para o ambiente AI LaunchPad completo é semelhante a solicitar um laboratório.
Uma vez logado no NVIDIA LaunchPad, há instruções detalhadas para configurar a VM através da criação de uma VM Ubuntu, associando uma GPU NVIDIA a ela, adquirindo e adicionando um driver NVIDIA ao sistema operacional, adquirindo uma chave API NVIDIA e software e licenciando o VM para usar a GPU. Como o software de IA é baseado em contêiner, o laboratório inclui a instalação do Docker, o kit de ferramentas de contêiner da NVIDIA, o fluxo do Tensor e a execução de exemplos de IA. Este é um ambiente de trabalho total que permite criar e implantar seu próprio projeto de IA.
Abordagem passo a passo
A configuração da máquina virtual é bem documentada e as telas de entrada oferecem a ajuda necessária, se preciso. A NVIDIA, em parceria com a VMware, criou uma interface simples para implementar a configuração necessária e instalar as ferramentas apropriadas para colocar o ambiente de prova de conceito em funcionamento com o mínimo de esforço. É importante ressaltar também que essas máquinas são extremamente bem equipadas. Nosso ambiente contava com um Dell PowerEdge R750 , com uma placa de vídeo NVIDIA A30 e bastante memória RAM e núcleos.
Após a aprovação da solicitação de inscrição, a NVIDIA envia um URL contendo o nome de usuário e a senha temporária. Como mencionado, nosso ambiente era um sistema Dell com certificação NVIDIA e GPUs A30. No entanto, opções de configuração específicas estão disponíveis para personalizar a experiência e atender às necessidades do usuário.
Precisa fazer uma mudança? O NVIDIA LaunchPad foi projetado para permitir que o usuário volte atrás se forem necessárias alterações ao longo do caminho. O menu está sempre acessível com instruções detalhadas.
A VM é criada com base na entrada de requisitos de hardware e software durante o processo de configuração.
Após a instalação do contêiner do Docker e executando a configuração do Docker Utility Engine para NVIDIA GPU, a etapa final é instalar aplicativos e estruturas de IA e ciência de dados.
A movimentação entre a tela do vSphere e o console da VM também é fácil e acessada no menu principal. Alguns navegadores recomendados parecem funcionar melhor do que outros. O Safari pode causar azia, mas existem maneiras de contornar isso.
Por fim, a instalação do aplicativo AI e outras configurações de VM concluem o processo. A NVIDIA é muito responsiva se você tiver problemas. Na verdade, nos deparamos com alguns problemas autoinfligidos e pedimos ajuda. Voltamos à ação com muito pouco tempo de inatividade. Para ser justo, somos uma organização de mídia avaliando o LaunchPad, mas a NVIDIA está altamente motivada para garantir que todos que testam o LaunchPad tenham um tempo produtivo.
Considerações finais da análise do Fortune Dragon
O NVIDIA LaunchPad é uma ferramenta de prova de conceito robusta que é impressionantemente fácil de usar. No final, a colaboração entre NVIDIA, VMware e Equinix fornece um ambiente robusto para testar aplicativos reais de IA e ML em algumas das GPUs mais populares da NVIDIA.
Melhor ainda, a NVIDIA fez isso funcionar bem para duas pessoas importantes que precisam colaborar, o administrador de TI e o cientista de dados/praticante de IA. Muitas vezes, essas cargas de trabalho de IA modernas causam estresse na pilha de TI tradicional. As cargas de trabalho são complicadas, executadas em hardware caro e causam problemas de suporte para TI. Ao colocar o LaunchPad nos limites bem compreendidos do vSphere, muitas das preocupações típicas da TI desaparecem. Por outro lado, os profissionais de IA obtêm todas as ferramentas de que precisam, com uma GPU robusta e um ambiente de computação para inicializar. Quando concluídas, as VMs são facilmente transportáveis, caso uma organização deseje levar seu trabalho com elas.
Estamos entusiasmados com esta oferta gratuita da NVIDIA, pois ela nos lembra os laboratórios práticos da VMware e o VMware TestDrive, bem como o benefício adicional de permitir que você trabalhe com seu próprio projeto de IA nele. Em nosso tempo no NVIDIA LaunchPad, achamos a documentação bastante profunda e o suporte excelente quando erradicamos acidentalmente nosso ambiente ruim. Com até quatro semanas para jogar no LaunchPad, as organizações sérias sobre o crescimento de suas costeletas de IA definitivamente precisam verificar isso imediatamente.
Para obter mais informações sobre o NVIDIA AI Enterprise, clique aqui . Para obter mais informações sobre o NVIDIA LaunchPad, clique aqui . Converse com seu representante de vendas da NVIDIA para saber como começar a usar o NVIDIA LaunchPad.
Aprenda mais ouvindo nosso podcast NVIDIA LaunchPad.
Amazon