Aujourd'hui, lors de NetApp Insight, la société a annoncé qu'elle s'associait à la société d'infrastructure d'IA de virtualisation, Run:AI, pour permettre une expérimentation plus rapide de l'IA avec une utilisation complète du GPU. Les deux sociétés accéléreront l'IA en exécutant de nombreuses expériences en parallèle, avec un accès rapide aux données, en utilisant des ressources de calcul illimitées. L'objectif est le meilleur de tous les mondes : des expériences plus rapides tout en tirant parti de toutes les ressources.
La vitesse est devenue un aspect critique de la plupart des charges de travail modernes. Cependant, l'expérimentation de l'IA est un peu plus étroitement liée à la vitesse, car plus l'expérimentation est rapide, plus les résultats commerciaux réussis sont proches. Bien que ce ne soit pas un secret, les projets d'IA souffrent de processus qui les rendent moins efficaces, principalement la combinaison du temps de traitement des données et des solutions de stockage obsolètes. D'autres problèmes pouvant limiter le nombre d'expériences exécutées sont les problèmes d'orchestration de la charge de travail et l'allocation statique des ressources de calcul GPU.
NetApp AI et Run:AI s'associent pour résoudre les problèmes ci-dessus. Cela signifie une simplification de l'orchestration des charges de travail d'IA, rationalisant le processus des pipelines de données et de la planification des machines pour l'apprentissage en profondeur (DL). Grâce à l'architecture éprouvée de NetApp ONTAP AI, la société déclare que les clients peuvent mieux réaliser l'IA et la DL en simplifiant, accélérant et intégrant leur pipeline de données. Du côté de Run:AI, son orchestration des charges de travail d'IA ajoute une plate-forme propriétaire de planification et d'utilisation des ressources basée sur Kubernetes pour aider les chercheurs à gérer et à optimiser l'utilisation du GPU. La technologie combinée permettra à plusieurs expériences de s'exécuter en parallèle sur différents nœuds de calcul, avec un accès rapide à de nombreux ensembles de données sur un stockage centralisé.
Run:AI a construit ce qu'il appelle la première plate-forme d'orchestration et de virtualisation au monde pour l'infrastructure d'IA. Ils extraient la charge de travail du matériel et créent des pools partagés de ressources GPU qui peuvent être provisionnées dynamiquement. L'exécuter sur les systèmes de stockage de NetApp permet aux chercheurs de se concentrer sur leur travail sans se soucier des goulots d'étranglement.
Amazon