Vous recherchez une plate-forme pour tester vos applications AI/ML avant leur lancement, mais vous n'avez pas accès à cet environnement redondant ? Avoir la possibilité de créer et de tester de nouvelles charges de travail d'IA peut faire gagner du temps, de l'argent et des maux de tête. NVIDIA a une réponse qui pourrait être la solution à votre problème de développement. Et c'est gratuit ! Bienvenue NVIDIA LaunchPad.
Présentation de NVIDIA LaunchPad !
NVIDIA a récemment annoncé LaunchPad , un environnement de prise en main gratuit pendant 2 à 4 semaines permettant aux entreprises d'utiliser les serveurs NVIDIA AI Enterprise dans un environnement vSphere 7. Bien que les entreprises soient invitées à utiliser ce service pour les charges de travail qu'elles envisagent de déployer sur un environnement NVIDIA, elles peuvent également suivre les ateliers créés par NVIDIA pour permettre aux professionnels de l'informatique de se familiariser avec les serveurs NVIDIA. Si vous le souhaitez, nous proposons également un podcast où Brian Beeler s'entretient avec Luke Wignall de NVIDIA sur la genèse de LaunchPad et son fonctionnement.
La plateforme NVIDIA AI LaunchPad est hébergée dans un centre de données Equinix . Elle permet aux entreprises d'accélérer le développement de modèles d'IA complexes grâce à DGX SuperPOD, NVIDIA Base Command, NVIDIA Fleet Command et aux modèles pré-entraînés de NVIDIA NGC. Elle prend également en charge le déploiement à grande échelle d'applications d'IA courantes sur des serveurs certifiés NVIDIA répartis sur le réseau. Ces serveurs, conformes aux normes du secteur, sont parfaitement adaptés à l'exécution de la suite logicielle NVIDIA AI Enterprise sur VMware vSphere, permettant ainsi de faire évoluer les charges de travail d'IA dans un cloud hybride moderne.
Accéder à NVIDIA LaunchPad
Après avoir rempli un formulaire de profil, l'utilisateur se voit présenter un écran d'aperçu détaillé. Le processus est simple et fournit des instructions sur la configuration de l'environnement pour accéder aux logiciels et à l'infrastructure d'IA. L'objectif de NVIDIA LaunchPad est d'accélérer le développement et le déploiement d'applications.
NVIDIA estime que certaines entreprises n'utilisent pas davantage l'IA, c'est la crainte infondée de la complexité de la mise en place d'un environnement où l'IA peut fonctionner. Dans cet esprit, NVIDIA a créé des laboratoires conçus pour répondre à ces craintes avec deux professionnels de l'IA différents à l'esprit ; Les administrateurs et responsables informatiques qui doivent se lever et prendre en charge les environnements d'IA et les praticiens de l'IA qui doivent les utiliser. L'offre de ce service contribuera à renforcer la confiance dans la prise en charge et l'utilisation de l'IA avant d'investir un budget informatique dans la construction d'une infrastructure spécifique pour exécuter ces applications d'IA. De plus, le déploiement de charges de travail d'IA dans cet environnement, avec des outils familiers, permet aux développeurs de réaliser la valeur de leur projet d'IA avec un GPU NVIDIA.
Flux de travail NVIDIA LaunchPad
Hub logiciel optimisé par GPU pour l'IA, le ML et le calcul haute performance
Le catalogue NGC est un hub de logiciels d'IA optimisés pour le GPU, de calcul haute performance (HPC) et d'analyse de données qui simplifie et accélère les flux de travail de bout en bout. Avec des conteneurs de niveau entreprise, des modèles d'IA préformés et des SDK spécifiques à l'industrie qui peuvent être déployés sur site, dans le cloud ou à la périphérie, les entreprises peuvent créer et fournir des solutions rapidement et en toute confiance.
Les systèmes peuvent être équipés d'un GPU NVIDIA A30 ou T4 actuellement, mais cela pourrait changer avec la sortie de nouvelles cartes. Quel que soit le matériel, tous les systèmes utilisent NVIDIA AI Enterprise, que NVIDIA décrit comme suit :
« Une suite logicielle complète d'IA et d'analyse de données native du cloud, optimisée, certifiée et prise en charge par NVIDIA pour fonctionner sur VMware vSphere avec les systèmes certifiés NVIDIA. Elle inclut des technologies clés de NVIDIA pour un déploiement, une gestion et une mise à l'échelle rapides des charges de travail d'IA dans le cloud hybride moderne . »
Les laboratoires ont préinstallé vSphere avec accès à un client vSphere à partir de l'URL fournie par NVIDIA.
Les administrateurs informatiques disposent de laboratoires qui les guident à travers les étapes de configuration des machines virtuelles pour utiliser des GPU. Les praticiens de l'IA ont accès à des laboratoires construits sur la suite NVIDIA AI Enterprise qui comprend des applications, des cadres et des outils que les chercheurs en IA, les data scientists et les développeurs utilisent pour créer leurs applications d'IA et d'apprentissage automatique.
L'un des parcours d'apprentissage NVIDIA AI Enterprise LaunchPad vous guide pas à pas dans la création d'un notebook Jupyter, utilisant NVIDIA RAPIDS et le jeu de données des taxis de New York pour prédire le prix des courses à Manhattan. Ce jeu de données comprend des colonnes telles que les points de prise en charge, les points de dépose, le montant de la course et le nombre de passagers. Les données de cet atelier servent à entraîner un modèle XGBoost sur GPU. La durée des ateliers proposés par NVIDIA varie de 30 minutes à plusieurs heures. NVIDIA fournit l'environnement approprié pour chaque atelier.
Indépendamment de l'environnement de laboratoire NVIDIA, il est possible d'établir un modèle d'IA fonctionnel. La candidature à l'environnement AI LaunchPad complet est similaire à la demande d'un laboratoire.
Une fois connecté au NVIDIA LaunchPad, vous trouverez des instructions détaillées pour configurer la machine virtuelle en créant une machine virtuelle Ubuntu, en y associant un GPU NVIDIA, en acquérant et en ajoutant un pilote NVIDIA au système d'exploitation, en acquérant une clé et un logiciel API NVIDIA et en octroyant une licence au VM pour utiliser le GPU. Étant donné que le logiciel d'IA est basé sur des conteneurs, le laboratoire comprend l'installation de Docker, du kit d'outils de conteneur NVIDIA, du flux Tensor et de l'exécution d'exemples d'IA. Il s'agit d'un environnement de travail total vous permettant de construire et de déployer votre propre projet d'IA.
Approche étape par étape
La configuration de la machine virtuelle est bien documentée et les écrans de saisie offrent l'aide nécessaire en cas de besoin. NVIDIA, en collaboration avec VMware, a créé une interface simple permettant de mettre en œuvre la configuration requise et d'installer les outils nécessaires pour rendre l'environnement de démonstration opérationnel avec un minimum de difficultés. Précisons également que ces machines sont très performantes. Notre environnement comprenait un serveur Dell PowerEdge R750 , équipé d'une carte graphique NVIDIA A30 et doté d'une mémoire vive et d'un nombre de cœurs importants.
Une fois la demande d'inscription approuvée, NVIDIA envoie une URL contenant un nom d'utilisateur et un mot de passe temporaire. Comme indiqué, notre environnement était un système Dell certifié NVIDIA équipé de GPU A30. Toutefois, des options de configuration spécifiques permettent de personnaliser l'expérience selon les besoins de l'utilisateur.
Besoin de faire un changement? NVIDIA LaunchPad a été conçu pour permettre à l'utilisateur de prendre du recul si des modifications sont nécessaires en cours de route. Le menu est toujours accessible avec des instructions détaillées.
La machine virtuelle est créée en fonction des exigences matérielles et logicielles saisies lors du processus de configuration.
Après l'installation du conteneur Docker et l'exécution du Docker Utility Engine pour la configuration du GPU NVIDIA, la dernière étape consiste à installer les applications et les cadres d'intelligence artificielle et de science des données.
Le déplacement entre l'écran vSphere et la console VM est également transparent et accessible depuis le menu principal. Certains navigateurs recommandés semblent fonctionner mieux que d'autres. Safari peut vous donner des brûlures d'estomac, mais il existe des moyens de les contourner.
Enfin, l'installation de l'application AI et d'autres configurations de VM complète le processus. NVIDIA est très réactif si vous rencontrez des problèmes. En fait, nous avons rencontré des problèmes auto-infligés et nous avons eu besoin d'aide. Nous étions de retour en action avec très peu de temps d'arrêt. Pour être juste, nous sommes une organisation médiatique qui évalue LaunchPad, mais NVIDIA est très motivé pour s'assurer que tous ceux qui testent LaunchPad ont un temps productif.
Réflexions finales
Le NVIDIA LaunchPad est un outil de preuve de concept robuste qui est incroyablement facile à utiliser. Au final, la collaboration entre NVIDIA, VMware et Equinix fournit un environnement robuste pour tester de vraies applications d'IA et de ML par rapport à certains des GPU les plus populaires de NVIDIA.
Mieux encore, NVIDIA a fait en sorte que cela fonctionne bien pour deux personnes clés qui ont besoin de collaborer, l'administrateur informatique et le scientifique des données/praticien de l'IA. Très souvent, ces charges de travail d'IA modernes entraînent une pression sur la pile informatique traditionnelle. Les charges de travail sont compliquées, exécutées sur du matériel coûteux et causent des problèmes de support pour l'informatique. En plaçant LaunchPad dans les limites bien comprises de vSphere, de nombreuses préoccupations informatiques typiques disparaissent. D'autre part, les praticiens de l'IA obtiennent tous les outils dont ils ont besoin, avec un GPU robuste et un environnement de calcul pour démarrer. Une fois terminées, les machines virtuelles sont facilement portables, si une organisation souhaite emporter son travail avec elle.
Nous sommes ravis de cette offre gratuite de NVIDIA car elle nous rappelle VMware Hands-on-labs et VMware TestDrive ainsi que l'avantage supplémentaire de vous permettre de travailler avec votre propre projet d'IA dessus. À notre époque dans NVIDIA LaunchPad, nous avons trouvé la documentation assez approfondie et le support excellent lorsque nous avons accidentellement éradiqué notre environnement médiocre. Avec jusqu'à quatre semaines pour jouer sur LaunchPad, les organisations sérieuses au sujet de la croissance de leurs côtelettes d'IA doivent absolument vérifier cela immédiatement.
Pour en savoir plus sur NVIDIA AI Enterprise, cliquez ici . Pour en savoir plus sur NVIDIA LaunchPad, cliquez ici . Contactez votre représentant commercial NVIDIA pour découvrir comment démarrer avec NVIDIA LaunchPad.
Pour en savoir plus, écoutez notre podcast NVIDIA LaunchPad.
Amazon