Dans l'arène à enjeux élevés de l'IA d'entreprise, les titans de la technologie sont dans une course acharnée pour dévoiler la prochaine innovation importante en matière de matériel. Dell Technologies a récemment présenté le Dell PowerEdge XE9680 pour l'IA générative et est le flexing dans un livre blanc récent. Le PowerEdge XE9680, explicitement conçu pour s'attaquer aux charges de travail de l'IA, n'est pas seulement un nouvel entrant dans la course, c'est un précurseur potentiel.
Dans l'arène à enjeux élevés de l'IA d'entreprise, les titans de la technologie sont dans une course acharnée pour dévoiler la prochaine innovation importante en matière de matériel. Dell Technologies a récemment présenté le Dell PowerEdge XE9680 pour l'IA générative et est le flexing dans un livre blanc récent. Le PowerEdge XE9680, explicitement conçu pour s'attaquer aux charges de travail de l'IA, n'est pas seulement un nouvel entrant dans la course, c'est un précurseur potentiel.
En parcourant le livre blanc, nous avons examiné comment cette centrale électrique redéfinit le paysage de l'IA et pourquoi elle pourrait bien être l'arme secrète de votre entreprise pour conquérir la frontière de l'IA.
Dell PowerEdge XE9680 pour l'IA générative
L' Dell PowerEdge XE9680 est un serveur rack dense en GPU conçu pour les applications hautes performances ciblant les domaines de l'intelligence artificielle. Il est équipé de deux processeurs Intel Xeon Scalable de 4e génération, chacun avec jusqu'à 56 cœurs, et peut être équipé de huit GPU NVIDIA HGX H100 ou de huit GPU NVIDIA HGX A100 ; le tout interconnecté avec la technologie NVIDIA NVLink.
Le PowerEdge XE9680 prend en charge une vitesse DIMM jusqu'à 4800 32 MT/s et dispose de 5 emplacements DIMM DDR4, avec une capacité de RAM maximale de 8 To. Il offre jusqu'à 2.5 disques SSD NVMe de 122.88 pouces pour le stockage, avec une capacité maximale de 9 To. Le serveur comprend également une gamme de fonctionnalités de sécurité, telles que le micrologiciel signé par chiffrement, le chiffrement des données au repos (DRE), le démarrage sécurisé, etc. Il est géré via le système iDRAC6 intégré et prend en charge une variété d'outils de gestion et d'intégrations. Le serveur est logé dans un format de rack 235.89U et pèse 107 livres. (XNUMX kg).
Spécifications Dell PowerEdge XE9680
Le PowerEdge XE9680 est conçu pour gérer les charges de travail d'IA avec des empreintes mémoire massives. Grâce à NVLink, les GPU ont accès à une grande quantité de mémoire à partir d'autres GPU du système, offrant un accès haut débit aux ressources partagées. Cette capacité de mémoire importante devrait conduire à des performances plus élevées, à des modèles plus complexes et à la capacité de travailler avec des ensembles de données plus volumineux et plus détaillés, améliorant ainsi la précision et l'utilité en exploitant des modèles de paramètres plus larges.
Modèle:
Capacités du processeur :
Propriétés physiques:
Prise en charge de la mémoire:
|
Capacités d'E/S :
Optimisation GPU:
Capacités d'intelligence artificielle :
Prise en charge du lecteur :
|
Modèles de génération d'images : la science de l'art
N'avez-vous jamais souhaité pouvoir peindre comme Van Gogh ou dessiner comme Da Vinci, mais vous retrouver avec des personnages en bâton qui n'impressionneraient même pas un enfant de la maternelle ? Entrez dans le monde des modèles de génération d'images (IGM), l'équivalent en apprentissage automatique d'un artiste prodigieux, moins les excentricités et les bérets.
Les IGM sont un sous-ensemble de modèles d'apprentissage automatique conçus pour s'attaquer à la création de nouvelles images. Les IGM relèvent du domaine plus large de la modélisation générative, qui consiste à comprendre et à reproduire des modèles de données. Pourtant, au lieu de générer des chiffres ou du texte, ces modèles s'occupent de créer des visuels. Au cours des derniers mois, les IGM ont fait l'actualité en générant tout, des nouvelles œuvres d'art aux visages humains étrangement réalistes.
Ces modèles ont trouvé leur place dans tout, de l'art et du divertissement à la publicité et à la recherche scientifique. Ils créent des images de cellules pour le diagnostic médical, simulent l'espace extra-atmosphérique et génèrent des selfies si réalistes que vous pouvez vous pêcher vous-même. Au fur et à mesure que ces modèles évoluent, les exigences pour les exécuter rapidement augmentent.
Dell PowerEdge XE9680 pour l'IA générative : alimenter la périphérie, d'une diffusion stable
Les méthodes de diffusion, lors de la génération de nouvelles images lors de l'inférence, dépendent généralement de clusters GPU massifs fonctionnant en synchronisation et nécessitent une exécution matérielle étendue. Cependant, le livre blanc de Dell révèle qu'avec le serveur Dell PowerEdge XE9680, ces opérations d'IA génératives peuvent être considérablement accélérées.
Cela permet de produire des dizaines à des centaines d'images raisonnablement résolues en quelques secondes seulement. Dell souligne qu'en tirant parti des capacités du Dell PowerEdge XE9680 pour l'IA générative, de grandes images haute résolution (Dell a utilisé 2,096 2,096 x XNUMX XNUMX) peuvent être produites à partir d'une seule invite de texte en quelques secondes.
XE9680 généré avec une invite de texte = "Portrait d'un chien heureux, gros plan"
L' whitepaper évalue la latence de génération d'image pour le modèle texte-image HuggingFace Diffusers sur le serveur PowerEdge XE9680, en tenant compte des variations de taille de lot et de résolution d'image. Le serveur XE9680 peut générer des images avec des résolutions allant jusqu'à 2,048 2,048 x XNUMX XNUMX.
À mesure que la taille des lots augmentait, les demandes de mémoire sur l'infrastructure augmentaient également. Par conséquent, des tailles de lot énormes étaient réalisables avec des images de résolution inférieure (telles que 256 x 256). Cependant, en raison des limitations de la mémoire, les images à très haute résolution (comme 2,048 2,048 x XNUMX XNUMX) ne pouvaient générer qu'une taille de lot d'un.
PowerEdge XE9680 Temps de génération d'images par lots
Se concentrer sur la génération d'images par lots d'images à des résolutions de 256 x 256 et 512 x 512 montre les puissantes capacités du Dell PowerEdge XE9680 pour l'IA générative générant plusieurs images en quelques secondes. Cette capacité accélère l'évaluation, le réglage rapide et l'évaluation supplémentaire requise pour les cycles de conception créative. Ces résultats montrent comment des lots de 32 images à une résolution de 512 x 512 peuvent être générés avec le package HuggingFace Diffusers sur le serveur Dell PowerEdge XE9680 en moins de 10 secondes. De plus, des lots de 64 images à une résolution de 256 x 256 peuvent être créés en moins de 5 secondes avec la même plate-forme, permettant un prototypage rapide et des cycles de conception créative pour les entreprises et les professionnels.
Benchmarks de génération d'images
Dans l'analyse du livre blanc, le serveur Dell PowerEdge XE9680 a été évalué par rapport aux références de latence de génération d'image définies par Lambda. Cette comparaison impliquait un seul GPU NVIDIA H100 avec 80 Go de RAM sur le serveur Dell PowerEdge XE9680 et le benchmark NVIDIA H100 GPU Stable Diffusion publié par l'équipe ML Labs de Lambda.
Latence de génération d'image Dell PowerEdge XE9680
L'étude a démontré que le XE9680 dépassait les références de Lambda, atteignant environ le double du débit. Les conclusions de Dell sont présentées dans le même format que celles de Lambda, en utilisant les données de leur étude sur le GPU NVIDIA H100 dans des conditions définies par logiciel identiques. La seule différence était le matériel : Lambda utilisait un GPU NVIDIA H100 au facteur de forme PCIe, tandis que le serveur Dell PowerEdge XE9680 utilisait un facteur de forme HGX, ce qui pourrait expliquer certaines différences de performances.
Impact commercial des modèles de génération d'images
La génération d'images via Stable Diffusion permet aux professionnels de la création de prototyper et d'affiner rapidement leur travail, notamment en améliorant l'efficacité des stratégies de marketing et de publicité et en réduisant le délai de mise sur le marché. Des professionnels dans des domaines tels que l'architecture, la publicité, le marketing, la créativité, le cinéma, les effets spéciaux, la photographie et l'art ont déjà adopté cette technologie.
Les technologies d'IA génératives, telles que Stable Diffusion, peuvent entraîner des changements transformateurs dans les opérations de l'entreprise, en particulier lorsque la vitesse est essentielle. Dans la conception et le développement de produits, ces modèles peuvent générer rapidement des prototypes visuels, permettant aux équipes de conception d'évaluer et d'affiner les concepts en temps réel. Cela accélère le processus de conception et réduit le temps de mise sur le marché.
L'un des concepts les plus intéressants vient du secteur de la vente au détail. L'IA pourrait générer rapidement des images réalistes de diverses configurations de produits ou d'options de couleur en fonction des préférences des clients, telles que "Montrez-moi cette chaise, mais en rouge" ou "A quoi ressemblerait ce canapé avec un imprimé léopard". Pour les entreprises de l'immobilier et de la construction, l'IA générative pourrait rapidement créer des visualisations de nouveaux bâtiments ou de projets de rénovation, facilitant ainsi la planification et les présentations de vente.
Dans le domaine de la formation et de l'éducation au sein d'une entreprise, les images générées par l'IA peuvent être utilisées pour créer des scénarios réalistes pour les programmes de formation des employés, améliorant ainsi les résultats d'apprentissage. La vitesse de génération d'images peut améliorer considérablement l'agilité des entreprises, leur permettant de répondre plus efficacement aux évolutions du marché, aux besoins des clients et aux exigences internes.
Réflexions de clôture
Le Dell PowerEdge XE9680 est un serveur hautes performances avec des capacités impressionnantes qui peuvent facilement gérer des charges de travail d'IA exigeantes (du moins pour l'instant). Alors que le XE9680 est destiné au marché de l'IA en vogue, il pourrait y avoir d'autres cas d'utilisation intrigants dans l'analyse et le traitement des données pour un boîtier aussi puissant. Il convient de noter que le XE9680 sous-tend Projet Helix de Dell, un service qui aide les organisations à mettre leurs projets d'IA en ligne plus rapidement.
S'engager avec StorageReview
Newsletter | YouTube | Podcast iTunes/Spotify | Instagram | Twitter | TikTok | Flux RSS
