Broadcom anunció recientemente la disponibilidad general de VMware Private AI Foundation con NVIDIA, lo que marca una mejora significativa en las capacidades de VMware Cloud Foundation. Esta incorporación enriquece el conjunto de productos y permite a las empresas aprovechar la IA de manera más efectiva dentro de su infraestructura existente.
Broadcom anunció recientemente la disponibilidad general de VMware Private AI Foundation con NVIDIA, lo que marca una mejora significativa en las capacidades de VMware Cloud Foundation. Esta incorporación enriquece el conjunto de productos y permite a las empresas aprovechar la IA de manera más efectiva dentro de su infraestructura existente.
VMware Private AI Foundation con NVIDIA está diseñado como un complemento para VMware Cloud Foundation. Permite a las empresas importar modelos de IA previamente entrenados a sus centros de datos. Una vez integrados, estos modelos pueden ajustarse utilizando datos patentados o utilizarse en diseños avanzados de generación aumentada de recuperación para aplicaciones comerciales específicas. Esta combinación de flexibilidad y potencia es fundamental para las empresas que buscan mejorar la eficiencia operativa y la innovación.
Monitoreo de GPU más profundo e información operativa
Desde su lanzamiento inicial en marzo de 2024, VMware ha mejorado continuamente las capacidades de monitoreo de GPU del sistema. En su disponibilidad general, VMware presentó dos nuevos paneles que brindan vistas integrales del uso de GPU en los clústeres de servidores, cruciales para mantener el rendimiento y la eficiencia:
- Panel de resumen: este panel proporciona una descripción general rápida de los clústeres equipados con GPU y destaca métricas críticas como la memoria de la GPU, que es vital para escalar el rendimiento.
- Panel de métricas detalladas: este panel ofrece información sobre la temperatura de la GPU, el uso de la memoria y la utilización de la computación, lo que permite una gestión proactiva de los recursos y evita riesgos de sobrecalentamiento.
Profundice en el análisis de GPU
Los paneles recientemente lanzados permiten a los administradores profundizar en los detalles específicos del rendimiento de la GPU en diferentes clústeres y servidores. Cada panel está codificado por colores para resaltar los umbrales críticos de temperatura, uso de memoria y utilización de computación, lo que ayuda al personal de TI a identificar y abordar problemas potenciales rápidamente. Los usuarios pueden seleccionar mosaicos de GPU individuales para realizar un análisis más profundo que revele topología detallada y datos operativos, lo que garantiza una resolución de problemas y un mantenimiento precisos.
Automatización con scripts PowerCLI
Para agilizar la implementación y la integración de VMware Private AI Foundation con NVIDIA, el equipo de ingeniería de VMware ha desarrollado una serie de scripts PowerCLI. Estos scripts son herramientas esenciales para configurar la infraestructura necesaria para respaldar esta sofisticada plataforma de IA:
- Preparación de la infraestructura: los scripts ayudan a crear dominios de carga de trabajo VCF, configurar administradores de vGPU de NVIDIA y establecer clústeres de NSX Edge.
- Habilitación de cargas de trabajo de IA: esta sección incluye pasos para activar el clúster supervisor de Kubernetes dentro del dominio de carga de trabajo, que es crucial para administrar las operaciones e implementaciones de IA.
Un componente fundamental de VMware Private AI Foundation con NVIDIA es su compatibilidad con los contenedores y microservicios de NVIDIA AI Enterprise. Estos incluyen el microservicio de inferencia NVIDIA NIM y el microservicio NVIDIA NeMo Retriever, que son fundamentales para implementar grandes modelos de lenguaje y aplicaciones de recuperación de generación aumentada. Los scripts de PowerCLI facilitan la descarga e implementación automática de estos servicios en una máquina virtual de aprendizaje profundo durante la configuración inicial.
La disponibilidad general de VMware Private AI Foundation con NVIDIA presenta herramientas y capacidades sólidas para las empresas que buscan mejorar sus aplicaciones de ciencia de datos e inteligencia artificial. La combinación de monitoreo avanzado de GPU, información operativa detallada y potentes scripts de automatización simplifica la implementación de modelos complejos de IA, lo que garantiza que las empresas puedan integrar estas tecnologías de manera rápida y efectiva en su marco operativo. Este lanzamiento significa un avance sustancial en el compromiso de VMware de integrar tecnología de vanguardia en sus ofertas de nube, brindando a las empresas las herramientas que necesitan para tener éxito en el cambiante panorama digital.
Encuentra más información en este Resumen de la solución VMware Private AI Foundation con NVIDIA.
Interactuar con StorageReview
Boletín | YouTube | Podcast iTunes/Spotify | Instagram | Twitter | TikTok | RSS Feed
