Firma Dell Technologies ogłosiła dwie duże aktualizacje swojej platformy Dell AI we współpracy z AMD, skierowane do organizacji skalujących od pilotażowych wdrożeń AI do pełnych środowisk produkcyjnych. Ulepszenia koncentrują się na wydajnej infrastrukturze szkoleniowej oraz modułowej architekturze, która równoważy koszty, skalowalność i kontrolę operacyjną.
Pierwsza aktualizacja wprowadza konfigurację na dużą skalę, obejmującą węzły serwerowe Dell PowerEdge XE9785 wyposażone w karty graficzne AMD Instinct MI355X i procesory AMD EPYC. Została ona zaprojektowana z myślą o wymagających obciążeniach AI, w tym trenowaniu modeli, trenowaniu wstępnym i wnioskowaniu o wysokiej przepustowości. Platforma integruje sieć Dell PowerSwitch i pamięć masową PowerScale, zapewniając spójny stos infrastruktury we wszystkich wdrożeniach.
Zastosowanie procesorów graficznych AMD Instinct MI355X zwiększa pojemność pamięci na węzeł, umożliwiając obsługę większych modeli i bardziej efektywne skalowanie klastrów. Ta konfiguracja jest przeznaczona dla przedsiębiorstw i dostawców usług z ciągłymi obciążeniami AI, które wymagają przewidywalnej wydajności w dużej skali.
Drugie ulepszenie rozszerza modułową architekturę Dell AI Factory o obsługę procesorów graficznych AMD Instinct MI350P PCIe w połączeniu z procesorami AMD EPYC. Ta konfiguracja wykorzystuje serwery Dell PowerEdge XE7745 i R7725, sieć PowerSwitch oraz pamięć masową PowerScale i integruje się z platformą Dell AI Data Platform. Jest ona pozycjonowana jako opłacalna ścieżka dla organizacji przechodzących z etapu pilotażowego do produkcyjnego, umożliwiając stopniowe skalowanie zasobów obliczeniowych, pamięci, pamięci masowej i sieciowych w celu wyeliminowania konkretnych wąskich gardeł.
Obie konfiguracje oparte są na stosie oprogramowania AMD ROCm i obsługują otwarte frameworki, takie jak PyTorch i vLLM. Integracja z platformą Dell Automation Platform zapewnia funkcje wdrażania i zarządzania cyklem życia, które upraszczają aprowizację i skalowanie klastra.
Dell powołał się również na wyniki badania Omdia, porównującego wdrożenia lokalne z alternatywami w chmurze publicznej. Według raportu, konfiguracja obejmująca serwery PowerEdge XE9785 z procesorami graficznymi AMD Instinct MI355X może zapewnić nawet o 65% niższy całkowity koszt posiadania, dzięki wydajności infrastruktury i otwartym ekosystemom oprogramowania.
Modułowa konstrukcja ma na celu przewidywalną skalowalność sztucznej inteligencji
Dell pozycjonuje zaktualizowaną platformę w oparciu o modułową konstrukcję, która wspiera spójną ścieżkę od testów na małą skalę do produkcji korporacyjnej. Organizacje mogą zacząć od konfiguracji jednowęzłowej, wykorzystując zaledwie dwa procesory GPU, a następnie skalować ją, dodając węzły obliczeniowe, moc obliczeniową procesorów GPU, pamięć masową i przepustowość sieci w miarę wzrostu zapotrzebowania. Takie podejście umożliwia ponowne wykorzystanie początkowych inwestycji w infrastrukturę, jednocześnie skalując ją w kontrolowanych przyrostach.
Platforma została również zaprojektowana z myślą o elastyczności obciążeń. Standaryzacja w oparciu o korporacyjny stos oprogramowania AI i otwarte frameworki AMD obsługuje szereg zastosowań AI bez konieczności stosowania wyspecjalizowanej infrastruktury silosowej. Umożliwia to przenośność modeli i zmniejsza obciążenie operacyjne związane z zarządzaniem wieloma środowiskami.
Bezpieczeństwo i zarządzanie pozostają kluczowe dla projektu platformy. Priorytetem dla wdrożeń lokalnych jest ograniczenie narażenia na zagrożenia zewnętrzne i zachowanie kontroli nad lokalizacją danych. Rozwiązanie AMD Enterprise AI Resource Manager oferuje dodatkowe funkcje zarządzania, w tym kontrolę polityk i zarządzanie dostępem, pomagając organizacjom egzekwować wymogi dotyczące ochrony danych i zgodności.
Amazon