Firma IBM ogłosiła rozszerzenie współpracy z AMD w celu wprowadzenia akceleratorów AMD Instinct MI300X jako usługi w chmurze IBM Cloud. To rozwiązanie zwiększa wydajność i energooszczędność generatywnych modeli sztucznej inteligencji (GenAI) oraz aplikacji HPC (High Performance Computing), odpowiadając na rosnące zapotrzebowanie klientów korporacyjnych na skalowalne rozwiązania AI.
Partnerstwo rozszerza obsługę akceleratorów AMD Instinct MI300X w całym ekosystemie sztucznej inteligencji i danych IBM, w tym w platformie WatsonX AI i systemie Red Hat® Enterprise Linux® do wnioskowania AI. Jest to zgodne z istniejącym portfolio IBM Cloud, które obejmuje już akceleratory Intel Gaudi 3 i rozszerza instancje GPU NVIDIA H100 Tensor Core , dodatkowo zwiększając możliwości platformy w zakresie dostarczania wysokowydajnych obciążeń AI i HPC.
Zaawansowane możliwości akceleratorów AMD Instinct MI300X
Akceleratory AMD Instinct MI300X, wyposażone w 192 GB pamięci o wysokiej przepustowości (HBM3), zostały zaprojektowane z myślą o obsłudze wnioskowania na dużych modelach i precyzyjnego dostrajania w korporacyjnych aplikacjach AI. Ich duża pojemność pamięci umożliwia przedsiębiorstwom uruchamianie większych modeli AI z mniejszą liczbą procesorów GPU, co pozwala obniżyć koszty przy jednoczesnym zachowaniu wydajności i skalowalności. Niedawno testowaliśmy te akceleratory w naszej recenzji XE9680.
Oferując te akceleratory jako usługę na serwerach wirtualnych IBM Cloud dla VPC oraz za pośrednictwem rozwiązań kontenerowych, takich jak IBM Cloud Kubernetes Service i IBM Red Hat OpenShift, IBM dąży do zapewnienia klientom korporacyjnym bezpiecznego, wydajnego środowiska zoptymalizowanego pod kątem ich obciążeń AI. Ta elastyczność pozwala organizacjom na efektywne skalowanie wdrożeń AI przy jednoczesnym zachowaniu solidnego bezpieczeństwa i zgodności z przepisami – co jest szczególnie istotne dla klientów z branż o wysokim stopniu regulacji.
Integracja z platformami IBM WatsonX i Red Hat
Aby sprostać potrzebom generatywnych obciążeń wnioskowania AI, IBM planuje zintegrować akceleratory AMD Instinct MI300X ze swoją platformą AI Watsonx. Zapewni to klientom Watsonx dodatkowe zasoby infrastruktury AI, umożliwiając im płynne skalowanie obciążeń w hybrydowych środowiskach chmurowych. Akceleratory będą również obsługiwać platformy Red Hat Enterprise Linux AI i Red Hat OpenShift AI, umożliwiając przedsiębiorstwom wdrażanie dużych modeli językowych (LLM), takich jak rodzina Granite, z zaawansowanymi narzędziami do dopasowywania, takimi jak InstructLab.
Integracje te podkreślają zdolność akceleratorów do radzenia sobie z obciążeniami wymagającymi dużej mocy obliczeniowej z większą elastycznością, umożliwiając przedsiębiorstwom priorytetowe traktowanie wydajności, efektywności kosztowej i skalowalności podczas wdrażania sztucznej inteligencji.
Philip Guido, wiceprezes wykonawczy i dyrektor handlowy AMD, podkreślił znaczenie wydajności i elastyczności w przetwarzaniu obciążeń wymagających dużej mocy obliczeniowej, zwłaszcza w miarę wdrażania przez przedsiębiorstwa bardziej rozbudowanych modeli sztucznej inteligencji. Zauważył, że akceleratory AMD Instinct w połączeniu z oprogramowaniem AMD ROCm oferują rozbudowane wsparcie ekosystemu dla platform takich jak IBM WatsonX AI i Red Hat OpenShift AI, umożliwiając klientom uruchamianie i skalowanie wnioskowania GenAI bez obniżania wydajności i kosztów.
Alan Peacock, dyrektor generalny IBM Cloud, podzielił te opinie, podkreślając wspólną wizję AMD i IBM, polegającą na wprowadzaniu rozwiązań AI do przedsiębiorstw. Stwierdził, że wykorzystanie akceleratorów AMD w chmurze IBM Cloud zapewnia klientom korporacyjnym skalowalne i opłacalne rozwiązania, które pomogą im osiągnąć cele w zakresie AI, wsparte zaangażowaniem IBM w bezpieczeństwo, zgodność z przepisami i rozwiązania zorientowane na rezultaty.
Współpraca zapewnia zwiększone bezpieczeństwo i zgodność
Współpraca wykorzystuje renomowane możliwości IBM Cloud w zakresie bezpieczeństwa i zgodności, zapewniając przedsiębiorstwom, w tym tym z branż silnie regulowanych, możliwość bezpiecznego wdrażania infrastruktury AI opartej na akceleratorach AMD. To zaangażowanie w bezpieczeństwo jest integralną częścią strategii IBM i AMD, polegającej na wspieraniu wdrażania sztucznej inteligencji w przedsiębiorstwach na dużą skalę.
Dzięki tej współpracy IBM i AMD zapewniają przedsiębiorstwom najnowocześniejszą infrastrukturę AI, która łączy wydajność, skalowalność i efektywność. Dodanie akceleratorów AMD Instinct MI300X do IBM Cloud ma sprostać rosnącym wymaganiom w zakresie obciążeń AI w przedsiębiorstwach, umożliwiając organizacjom odkrywanie nowych możliwości w zakresie AI i aplikacji HPC.
Dostępność:
Usługi IBM Cloud wykorzystujące akceleratory AMD Instinct MI300X mają być powszechnie dostępne w pierwszej połowie 2025 r., co jeszcze bardziej poszerzy portfolio rozwiązań IBM w zakresie wysokowydajnej sztucznej inteligencji i obliczeń o wysokiej wydajności (HPC).
Amazon