StorageReview.com

Cloudian y NVIDIA se asocian para ofrecer un servidor de IA local con rendimiento a escala de la nube

AI  ◇  Empresa

Aproximadamente el 80% de los datos empresariales siguen siendo inaccesibles para los sistemas de IA, obstaculizados por restricciones de soberanía de datos y la complejidad de la infraestructura que obligan a las empresas a elegir entre la innovación y el control de sus activos más valiosos.

El problema principal radica en una discrepancia fundamental entre cómo las empresas almacenan los datos y cómo los sistemas de IA acceden a ellos. La mayoría de los datos empresariales se almacenan en formatos no estructurados, como correos electrónicos, documentos, imágenes médicas, datos de sensores, etc. Sin embargo, la infraestructura de IA tradicional requiere trasladar estos datos confidenciales a servicios en la nube o invertir en costosas y complejas plataformas de IA locales que exigen experiencia especializada, de la que carecen muchos equipos de TI.

En sectores regulados como la atención sanitaria, las finanzas y el gobierno, esto da como resultado una dolorosa disyuntiva: sacrificar la seguridad y el cumplimiento para acceder a las capacidades de IA o mantener los datos en las instalaciones y correr el riesgo de quedarse atrás de los competidores que utilizan IA para generar información más rápidamente.

Movimiento estratégico de Cloudian con NVIDIA

Cloudian se ha asociado con NVIDIA para abordar este desafío con el primer servidor de IA completamente local del sector, que ofrece un rendimiento a escala de la nube. La nueva Plataforma de Datos de IA Cloudian HyperScale, anunciada el 30 de septiembre, lleva la computación de IA directamente a los almacenes de datos empresariales, eliminando la necesidad de la transferencia de datos, que es arriesgada y costosa.

Basada en las GPU NVIDIA RTX PRO 6000 Blackwell Server Edition , la solución debuta con S3-over-RDMA (Acceso Directo a Memoria Remota), lo que proporciona un aumento de rendimiento ocho veces mayor. La plataforma alcanza 35 GB/s por nodo en lecturas, con una escalabilidad lineal a terabytes por segundo por rack, satisfaciendo así las exigencias de velocidad de las cargas de trabajo de IA generativa.

NVIDIA RTX PRO 6000

Innovación técnica clave

  • Bases de datos vectoriales integradas: A diferencia de los sistemas tradicionales que integran capas de IA independientes, la plataforma de Cloudian integra directamente la vectorización en la capa de almacenamiento. Los datos se clasifican y convierten automáticamente en vectores al escribir, lo que permite una preparación instantánea para la IA mediante las API estándar de S3.
  • Rutas de datos directas: Aprovechar el software NVIDIA AI Enterprise y Redes Ethernet Spectrum-XEl sistema conecta el almacenamiento, la memoria del sistema y la memoria de la GPU mediante canales de latencia ultrabaja. Esta arquitectura evita los cuellos de botella que suelen obstaculizar los proyectos de IA empresarial.
  • Soberanía local: La plataforma HyperScale AI mantiene todas las operaciones dentro del perímetro empresarial, lo que garantiza el cumplimiento, la seguridad y la gobernanza al tiempo que aprovecha las últimas tecnologías de IA.

Implicaciones

Para las empresas, este avance podría cambiar el equilibrio en el debate actual entre la innovación en IA y la gobernanza de datos. Al permitir que las organizaciones ejecuten IA a gran escala directamente sobre datos soberanos, sectores regulados como:

  • Sector Sanitario Puede analizar grandes cantidades de registros de pacientes y datos de imágenes sin riesgo de violaciones de HIPAA.
  • Finanzas Las empresas pueden mejorar la detección de fraude y el modelado de riesgos y, al mismo tiempo, seguir cumpliendo con las estrictas leyes de residencia de datos.
  • Agencias gubernamentales Puede desbloquear información de inteligencia a partir de datos históricos y en tiempo real de forma segura, sin que los datos salgan nunca de la infraestructura nacional.

Los analistas del sector consideran esto un paso significativo hacia un rendimiento de IA similar al de la nube, pero sin la nube. Se espera que los primeros usuarios utilicen la plataforma para búsqueda vectorial, recomendaciones en tiempo real, análisis predictivo e IA generativa multimodal, garantizando al mismo tiempo la plena residencia de los datos.

Este desarrollo también podría intensificar la competencia en el mercado de infraestructura de IA, donde hiperescaladores como AWS, Microsoft y Google han dominado la integración de la IA con el almacenamiento de datos en la nube. La iniciativa de Cloudian, en colaboración con NVIDIA, marca un nuevo camino para las empresas que exigen rendimiento y soberanía.

Cloudian

Aquí tenéis una breve demostración de HyperScale AIDP.

Interactuar con StorageReview

Boletín informativo | YouTube | Podcast iTunes / Spotify | Instagram | Twitter | TikTok | Canal RSS

harold fritts

He estado en la industria de la tecnología desde que IBM creó Selectric. Mi experiencia, sin embargo, es la escritura. Así que decidí dejar el negocio de preventa y volver a mis raíces, escribir un poco pero seguir involucrado en tecnología.