¿Busca una plataforma para probar sus aplicaciones de IA/ML antes del lanzamiento, pero no tiene acceso a ese entorno redundante? Tener la capacidad de crear y probar nuevas cargas de trabajo de IA puede ahorrar tiempo, dinero y dolores de cabeza. NVIDIA tiene una respuesta que podría ser la solución a su problema de desarrollo. ¡Y es gratis! Bienvenido NVIDIA LaunchPad.
¡Presentamos NVIDIA LaunchPad!
NVIDIA anunció recientemente LaunchPad , un entorno práctico donde las empresas pueden usar los servidores NVIDIA AI Enterprise en un entorno vSphere 7 de forma gratuita durante 2 a 4 semanas. Si bien las empresas pueden usar este servicio con las cargas de trabajo que estén considerando implementar en un entorno NVIDIA, también pueden acceder a los laboratorios que NVIDIA ha creado para que los profesionales de TI se familiaricen con el uso de servidores NVIDIA. Si lo prefiere, también tenemos un podcast donde Brian Beeler conversa con Luke Wignall de NVIDIA sobre cómo surgió LaunchPad y su funcionamiento interno.
NVIDIA AI LaunchPad se encuentra alojado en un centro de Equinix . La plataforma permite a las empresas acelerar el desarrollo de modelos de IA complejos mediante DGX SuperPOD, NVIDIA Base Command, NVIDIA Fleet Command y modelos preentrenados de NVIDIA NGC. También admite el escalado de IA convencional en servidores certificados por NVIDIA distribuidos en la red. Estos servidores estándar de la industria son ideales para ejecutar el paquete de software NVIDIA AI Enterprise en VMware vSphere y escalar las cargas de trabajo de IA en la nube híbrida moderna.
Acceso a NVIDIA LaunchPad
Después de completar un formulario de perfil, al usuario se le presenta una pantalla de resumen detallada. El proceso es sencillo y proporciona instrucciones sobre cómo configurar el entorno para acceder al software y la infraestructura de IA. El objetivo de NVIDIA LaunchPad es acelerar el desarrollo y la implementación de aplicaciones.
NVIDIA siente que algunas empresas no están usando más IA debido al miedo infundado en la complejidad de configurar un entorno donde la IA pueda ejecutarse. Con esto en mente, NVIDIA creó laboratorios diseñados para abordar estos temores con dos profesionales de IA diferentes en mente; Administradores y gerentes de TI que necesitan respaldar entornos de IA y profesionales de IA que necesitan usarlos. Ofrecer este servicio ayudará a generar confianza en el soporte y el uso de IA antes de invertir un presupuesto de TI en la construcción de una infraestructura específica para ejecutar esas aplicaciones de IA. Además, implementar cargas de trabajo de IA en este entorno, con herramientas familiares, permite a los desarrolladores darse cuenta del valor de su proyecto de IA con una GPU NVIDIA.
Flujo de trabajo de NVIDIA LaunchPad
Centro de software optimizado para GPU para IA, ML y computación de alto rendimiento
El catálogo de NGC es un centro de inteligencia artificial optimizada para GPU, computación de alto rendimiento (HPC) y software de análisis de datos que simplifica y acelera los flujos de trabajo de extremo a extremo. Con contenedores de nivel empresarial, modelos de IA preentrenados y SDK específicos de la industria que se pueden implementar en las instalaciones, en la nube o en el perímetro, las empresas pueden crear y entregar soluciones de manera rápida y confiable.
Actualmente, los sistemas pueden estar equipados con una GPU NVIDIA A30 o T4, aunque esto podría cambiar a medida que se lancen nuevas tarjetas. Independientemente del hardware, todos los sistemas utilizan NVIDIA AI Enterprise, que NVIDIA describe como:
“ Una suite integral de software de IA y análisis de datos, nativa de la nube, optimizada, certificada y con soporte de NVIDIA para ejecutarse en VMware vSphere con sistemas certificados por NVIDIA. Incluye tecnologías clave de NVIDIA que permiten la rápida implementación, gestión y escalado de cargas de trabajo de IA en la nube híbrida moderna .”
Los laboratorios tienen vSphere preinstalado con acceso a un cliente de vSphere desde la URL proporcionada por NVIDIA.
Los administradores de TI tienen laboratorios que los guían a través de los pasos necesarios para configurar máquinas virtuales para usar GPU. Los profesionales de IA tienen acceso a laboratorios creados en la suite NVIDIA AI Enterprise que incluye aplicaciones, marcos y herramientas que los investigadores, científicos de datos y desarrolladores de IA utilizan para crear sus aplicaciones de IA y aprendizaje automático.
Una de las experiencias de NVIDIA AI Enterprise LaunchPad te guía a través de un cuaderno de Jupyter Lab, utilizando NVIDIA RAPIDS y el conjunto de datos de taxis de la ciudad de Nueva York para predecir las tarifas de los viajes en Manhattan. El conjunto de datos contiene columnas como puntos de recogida, puntos de destino, importe de la tarifa y número de pasajeros. Los datos de este laboratorio se utilizan para entrenar un modelo XGBoost en la GPU. Los laboratorios proporcionados por NVIDIA tienen una duración de entre 30 minutos y varias horas. NVIDIA proporcionará el entorno adecuado para cada laboratorio.
Aparte del entorno de laboratorio de NVIDIA está la capacidad de establecer un modelo de IA funcional. Solicitar el entorno completo de AI LaunchPad es similar a solicitar un laboratorio.
Una vez que haya iniciado sesión en NVIDIA LaunchPad, hay instrucciones detalladas para configurar la máquina virtual mediante la creación de una máquina virtual Ubuntu, la asociación de una GPU NVIDIA, la adquisición y adición de un controlador NVIDIA al sistema operativo, la adquisición de una clave y software de API de NVIDIA y la concesión de licencias para el VM para usar la GPU. Dado que el software de IA se basa en contenedores, el laboratorio incluye la instalación de Docker, el kit de herramientas de contenedores de NVIDIA, el flujo de Tensor y la ejecución de ejemplos de IA. Este es un entorno de trabajo total que le permite construir e implementar su propio proyecto de IA.
Enfoque paso a paso
La configuración de la máquina virtual está bien documentada y las pantallas de entrada incluyen la ayuda necesaria. NVIDIA, en colaboración con VMware, ha creado una interfaz sencilla para implementar la configuración requerida e instalar las herramientas adecuadas para poner en marcha el entorno de prueba de concepto con un mínimo de estrés. Aclarémoslo también: se trata de máquinas muy potentes. Nuestro entorno contaba con un Dell PowerEdge R750 , con una NVIDIA A30 y abundante memoria RAM y núcleos.
Una vez aprobada la solicitud de registro, NVIDIA envía una URL con el nombre de usuario y una contraseña temporal. Como se mencionó, nuestro entorno era un sistema Dell certificado por NVIDIA con GPU A30. Sin embargo, existen opciones de configuración específicas para personalizar la experiencia según las necesidades del usuario.
Necesitas hacer un cambio? NVIDIA LaunchPad ha sido diseñado para permitir que el usuario retroceda si se requieren cambios en el camino. El menú siempre está accesible con instrucciones detalladas.
La máquina virtual se crea en función de la entrada de requisitos de hardware y software durante el proceso de configuración.
Después de la instalación del contenedor Docker y la ejecución de Docker Utility Engine para la configuración de GPU NVIDIA, el paso final es instalar las aplicaciones y marcos de inteligencia artificial y ciencia de datos.
Moverse entre la pantalla de vSphere y la consola de VM también es sencillo y se accede desde el menú principal. Algunos navegadores recomendados parecen funcionar mejor que otros. Safari puede causarle acidez estomacal, pero hay formas de solucionarlo.
Finalmente, la instalación de la aplicación AI y otras configuraciones de VM completan el proceso. NVIDIA responde muy bien si tiene problemas. De hecho, nos encontramos con algunos problemas autoinfligidos y necesitamos ayuda. Volvimos a la acción con muy poco tiempo de inactividad. Para ser justos, somos una organización de medios que evalúa LaunchPad, pero NVIDIA está muy motivada para garantizar que todos los que prueban LaunchPad tengan un tiempo productivo.
Conclusión
NVIDIA LaunchPad es una sólida herramienta de prueba de concepto que es impresionantemente fácil de usar. Al final, la colaboración entre NVIDIA, VMware y Equinix proporciona un entorno sólido para probar aplicaciones reales de IA y ML con algunas de las GPU más populares de NVIDIA.
Mejor aún, NVIDIA ha hecho que esto funcione bien para dos personas clave que necesitan colaborar, el administrador de TI y el científico de datos/practicante de IA. Muy a menudo, estas cargas de trabajo de IA modernas causan estrés en la pila de TI tradicional. Las cargas de trabajo son complicadas, se ejecutan en hardware costoso y causan dolores de cabeza de soporte para TI. Al colocar LaunchPad en los confines bien entendidos de vSphere, muchas de las preocupaciones típicas de TI desaparecen. Por otro lado, los profesionales de IA obtienen todas las herramientas que necesitan, con una GPU robusta y un entorno informático para arrancar. Cuando están completas, las máquinas virtuales son fáciles de transportar, si una organización desea llevar su trabajo con ellas.
Estamos entusiasmados con esta oferta gratuita de NVIDIA, ya que nos recuerda a VMware Hands-on-labs y VMware TestDrive, así como el beneficio adicional de permitirle trabajar con su propio proyecto de IA. En nuestro tiempo en NVIDIA LaunchPad, encontramos que la documentación era bastante profunda y que el soporte era excelente cuando erradicamos accidentalmente nuestro entorno pobre. Con hasta cuatro semanas para jugar en LaunchPad, las organizaciones que se toman en serio el crecimiento de sus habilidades de IA definitivamente necesitan verificar esto de inmediato.
Para obtener más información sobre NVIDIA AI Enterprise, haga clic aquí . Para obtener más información sobre NVIDIA LaunchPad, haga clic aquí . Consulte con su representante de ventas de NVIDIA para saber cómo empezar a usar NVIDIA LaunchPad.
Obtén más información escuchando nuestro podcast NVIDIA LaunchPad.
Amazon