Aujourd'hui, Amazon Web Services, Inc. (AWS) a annoncé la disponibilité générale d'une nouvelle instance Amazon Elastic Compute Cloud (Amazon EC2) alimentée par GPU, l'instance G4. Cette nouvelle instance est conçue pour accélérer l'inférence d'apprentissage automatique (ML) tout en fournissant l'inférence ML la plus rentable du secteur pour les applications. La nouvelle instance est également idéale pour les charges de travail gourmandes en graphiques de manière rentable et serait idéale pour créer et exécuter des applications gourmandes en graphiques, telles que les postes de travail graphiques distants, le transcodage vidéo, la conception photoréaliste et le streaming de jeux dans le cloud. .
AWS déclare que le ML implique deux processus qui nécessitent un calcul : la formation et l'inférence. La formation implique l'utilisation de données étiquetées pour créer un modèle capable de faire des prédictions, une tâche gourmande en ressources de calcul qui nécessite des processeurs puissants et une mise en réseau à haut débit. L'inférence est le processus d'utilisation d'un modèle d'apprentissage automatique formé pour faire des prédictions, ce qui nécessite généralement de traiter simultanément un grand nombre de petites tâches de calcul. Ce travail est idéal pour les puissants GPU de NVIDIA. AWS n'est pas étranger aux instances pour ML, lançant pour la première fois l'instance P3 il y a deux ans. Bien qu'il s'agisse d'une étape importante, l'inférence représente la majorité des coûts opérationnels des charges de travail ML.
Pour résoudre ce problème, AWS a lancé les nouvelles instances G4 qui exploitent les GPU NVIDIA T4 de dernière génération, les processeurs personnalisés Intel Xeon Scalable (Cascade Lake) de 2e génération, jusqu'à 100 Gbit/s de débit réseau et jusqu'à 1.8 To de stockage NVMe local, pour fournir les instances GPU les plus rentables pour l'inférence d'apprentissage automatique. Les nouvelles instances G4 peuvent fournir jusqu'à 65 TFLOP de performances de précision mixte, idéales pour l'inférence. Les G4 peuvent également être utilisés de manière rentable pour les tâches de formation en apprentissage automatique à petite échelle et d'entrée de gamme qui sont moins sensibles au temps de formation. Pour les charges de travail gourmandes en ressources graphiques, les nouvelles instances offrent jusqu'à 1.8 fois plus de performances graphiques et jusqu'à 2 fois plus de capacités de transcodage vidéo par rapport aux instances G3 de la génération précédente.
Disponibilité
Les instances G4 peuvent être achetées en tant qu'instances à la demande, réservées ou ponctuelles.
Amazon