Procurando uma plataforma para testar seus aplicativos AI/ML antes do lançamento, mas não tem acesso a esse ambiente redundante? Ter a capacidade de criar e testar novas cargas de trabalho de IA pode economizar tempo, dinheiro e dores de cabeça. A NVIDIA tem uma resposta que pode ser a solução para o seu problema de desenvolvimento. E é grátis! Bem-vindo NVIDIA LaunchPad.
Procurando uma plataforma para testar seus aplicativos AI/ML antes do lançamento, mas não tem acesso a esse ambiente redundante? Ter a capacidade de criar e testar novas cargas de trabalho de IA pode economizar tempo, dinheiro e dores de cabeça. A NVIDIA tem uma resposta que pode ser a solução para o seu problema de desenvolvimento. E é grátis! Bem-vindo NVIDIA LaunchPad.
Apresentando NVIDIA LaunchPad!
A NVIDIA anunciou recentemente o LaunchPad – um ambiente prático onde os usuários corporativos podem usar os servidores NVIDIA AI Enterprise em um ambiente vSphere 7 gratuitamente por 2 a 4 semanas. Embora as empresas sejam mais do que bem-vindas para usar esse serviço com cargas de trabalho que estão considerando implantar em um ambiente NVIDIA, elas também podem passar pelos laboratórios criados pela NVIDIA que permitem que os profissionais de TI se sintam confortáveis com o uso de servidores habilitados para NVIDIA. Se preferir, nós também ter um podcast onde Brian Beeler tem uma conversa com Luke Wignall da NVIDIA sobre como o LaunchPad surgiu e o que acontece dentro dele.
O NVIDIA AI LaunchPad está hospedado em um instalação da Equinix. A plataforma permite que as empresas acelerem o desenvolvimento de modelos complexos de IA usando DGX SuperPOD, NVIDIA Base Command, Comando de frota NVIDIAe modelos pré-treinados da NVIDIA NGC. Ele também oferece suporte ao dimensionamento de IA convencional em servidores certificados pela NVIDIA distribuídos pela rede. Esses servidores padrão da indústria são ideais para executar o NVIDIA IA Empresarial pacote de software no VMware vSphere para dimensionar cargas de trabalho de IA na nuvem híbrida moderna.
Acessando NVIDIA LaunchPad
Depois de preencher um formulário de perfil, o usuário é apresentado a uma tela de visão geral detalhada. O processo é direto, fornecendo instruções sobre como configurar o ambiente para acessar o software e a infraestrutura de IA. O objetivo do NVIDIA LaunchPad é acelerar o desenvolvimento e a implantação de aplicativos.
A NVIDIA sente que algumas empresas não estão usando mais IA é o medo infundado na complexidade de configurar um ambiente onde a IA possa ser executada. Com isso em mente, a NVIDIA criou laboratórios projetados para abordar esses medos com dois profissionais de IA diferentes em mente; Administradores e gerentes de TI que precisam se posicionar e oferecer suporte a ambientes de IA e profissionais de IA que precisam usá-los. A oferta desse serviço ajudará a criar confiança no suporte e no uso da IA antes de investir um orçamento de TI na criação de uma infraestrutura específica para executar esses aplicativos de IA. Além disso, a implantação de cargas de trabalho de IA neste ambiente, com ferramentas familiares, permite que os desenvolvedores percebam o valor de seu projeto de IA com uma GPU NVIDIA.
Fluxo de trabalho NVIDIA LaunchPad
Hub de software otimizado para GPU para AI, ML e computação de alto desempenho
O catálogo NGC é um hub de IA otimizada para GPU, computação de alto desempenho (HPC) e software de análise de dados que simplifica e acelera os fluxos de trabalho de ponta a ponta. Com contêineres de nível empresarial, modelos de IA pré-treinados e SDKs específicos do setor que podem ser implantados no local, na nuvem ou na borda, as empresas podem criar e fornecer soluções com rapidez e confiança.
Os sistemas podem ser equipados com uma GPU NVIDIA A30 ou T4 neste momento, embora isso possa mudar à medida que novas placas forem lançadas. Independentemente do hardware, todos os sistemas usam NVIDIA IA Empresarial, que a NVIDIA descreve como:
"um conjunto de ponta a ponta, nativo da nuvem, de software de IA e análise de dados, otimizado, certificado e com suporte da NVIDIA para execução no VMware vSphere com sistemas certificados pela NVIDIA. Ele inclui as principais tecnologias de habilitação da NVIDIA para implantação, gerenciamento e dimensionamento rápidos de cargas de trabalho de IA na nuvem híbrida moderna. "
Os laboratórios têm o vSphere pré-instalado com acesso a um cliente vSphere a partir do URL fornecido pela NVIDIA.
Os administradores de TI têm laboratórios que os orientam nas etapas envolvidas na configuração de VMs para usar GPUs. Os profissionais de IA têm acesso a laboratórios criados no pacote NVIDIA AI Enterprise, que inclui aplicativos, estruturas e ferramentas que pesquisadores de IA, cientistas de dados e desenvolvedores usam para criar seus aplicativos de IA e aprendizado de máquina.
Uma das jornadas NVIDIA AI Enterprise LaunchPad orienta você por um notebook de laboratório Jupyter, usando RÁPIDAS NVIDIA e o conjunto de dados de táxi da cidade de Nova York para prever tarifas de corrida em Manhattan. O conjunto de dados contém colunas como pontos de coleta, pontos de desembarque, valor da tarifa e número de passageiros. Os dados deste laboratório são usados para treinar um modelo XGBoost na GPU. Os laboratórios fornecidos pela NVIDIA levam de 30 minutos a várias horas. A NVIDIA fornecerá o ambiente apropriado para cada laboratório.
Separada do ambiente de laboratório da NVIDIA está a capacidade de estabelecer um modelo de IA funcional. Inscrever-se para o ambiente AI LaunchPad completo é semelhante a solicitar um laboratório.
Uma vez logado no NVIDIA LaunchPad, há instruções detalhadas para configurar a VM através da criação de uma VM Ubuntu, associando uma GPU NVIDIA a ela, adquirindo e adicionando um driver NVIDIA ao sistema operacional, adquirindo uma chave API NVIDIA e software e licenciando o VM para usar a GPU. Como o software de IA é baseado em contêiner, o laboratório inclui a instalação do Docker, o kit de ferramentas de contêiner da NVIDIA, o fluxo do Tensor e a execução de exemplos de IA. Este é um ambiente de trabalho total que permite criar e implantar seu próprio projeto de IA.
Abordagem passo a passo
A configuração da VM está bem documentada e as telas de entrada têm a ajuda necessária, se necessário. A NVIDIA, trabalhando com a VMware, criou uma interface simples para implementar a configuração necessária e instalar as ferramentas apropriadas para colocar o ambiente de prova de conceito em funcionamento com o mínimo de estresse. Vamos ser claros neste ponto também. Estas são máquinas muito bem equipadas. Nosso ambiente tinha um Dell Power Edge R750, com uma NVIDIA A30 e bastante DRAM e núcleos.
Depois que a solicitação de inscrição for aprovada, a NVIDIA enviará uma URL, incluindo nome de usuário e senha temporária. Conforme observado, nosso ambiente era um Dell Sistema certificado pela NVIDIA com GPUs A30. No entanto, opções de configuração específicas estão disponíveis para personalizar a experiência para atender às necessidades do usuário.
Precisa fazer uma mudança? O NVIDIA LaunchPad foi projetado para permitir que o usuário volte atrás se forem necessárias alterações ao longo do caminho. O menu está sempre acessível com instruções detalhadas.
A VM é criada com base na entrada de requisitos de hardware e software durante o processo de configuração.
Após a instalação do contêiner do Docker e executando a configuração do Docker Utility Engine para NVIDIA GPU, a etapa final é instalar aplicativos e estruturas de IA e ciência de dados.
A movimentação entre a tela do vSphere e o console da VM também é fácil e acessada no menu principal. Alguns navegadores recomendados parecem funcionar melhor do que outros. O Safari pode causar azia, mas existem maneiras de contornar isso.
Por fim, a instalação do aplicativo AI e outras configurações de VM concluem o processo. A NVIDIA é muito responsiva se você tiver problemas. Na verdade, nos deparamos com alguns problemas autoinfligidos e pedimos ajuda. Voltamos à ação com muito pouco tempo de inatividade. Para ser justo, somos uma organização de mídia avaliando o LaunchPad, mas a NVIDIA está altamente motivada para garantir que todos que testam o LaunchPad tenham um tempo produtivo.
Considerações Finais
O NVIDIA LaunchPad é uma ferramenta de prova de conceito robusta que é impressionantemente fácil de usar. No final, a colaboração entre NVIDIA, VMware e Equinix fornece um ambiente robusto para testar aplicativos reais de IA e ML em algumas das GPUs mais populares da NVIDIA.
Melhor ainda, a NVIDIA fez isso funcionar bem para duas pessoas importantes que precisam colaborar, o administrador de TI e o cientista de dados/praticante de IA. Muitas vezes, essas cargas de trabalho de IA modernas causam estresse na pilha de TI tradicional. As cargas de trabalho são complicadas, executadas em hardware caro e causam problemas de suporte para TI. Ao colocar o LaunchPad nos limites bem compreendidos do vSphere, muitas das preocupações típicas da TI desaparecem. Por outro lado, os profissionais de IA obtêm todas as ferramentas de que precisam, com uma GPU robusta e um ambiente de computação para inicializar. Quando concluídas, as VMs são facilmente transportáveis, caso uma organização deseje levar seu trabalho com elas.
Estamos entusiasmados com esta oferta gratuita da NVIDIA, pois ela nos lembra os laboratórios práticos da VMware e o VMware TestDrive, bem como o benefício adicional de permitir que você trabalhe com seu próprio projeto de IA nele. Em nosso tempo no NVIDIA LaunchPad, achamos a documentação bastante profunda e o suporte excelente quando erradicamos acidentalmente nosso ambiente ruim. Com até quatro semanas para jogar no LaunchPad, as organizações sérias sobre o crescimento de suas costeletas de IA definitivamente precisam verificar isso imediatamente.
Para mais informações sobre NVIDIA AI Enterprise, clique aqui. Para mais informações sobre NVIDIA LaunchPad, clique aqui. Fale com seu representante de vendas da NVIDIA sobre como começar a usar o NVIDIA LaunchPad.
Aprenda mais ouvindo nosso NVIDIA Podcast do LaunchPad.
Envolva-se com a StorageReview
Newsletter | YouTube | Podcast iTunes/Spotify | Instagram | Twitter | Facebook | TikTok | RSS feed
