Rackspace Technology i AMD podpisały memorandum o porozumieniu, które ustala ramy wieloletniego strategicznego partnerstwa skoncentrowanego na infrastrukturze AI przedsiębiorstw dla regulowanych organizacji i suwerennych obciążeń.
Umowa koncentruje się na proponowanej chmurze Enterprise AI Cloud, zaprojektowanej z myślą o wdrożeniach AI o znaczeniu krytycznym, w których bezpieczeństwo, zarządzanie, zgodność z przepisami i rozliczalność operacyjna stanowią kluczowe wymagania. Platforma połączyłaby karty graficzne AMD Instinct i procesory AMD EPYC z zarządzanym modelem operacyjnym Rackspace Technology, tworząc dedykowany stos infrastruktury AI dla organizacji, które nie mogą polegać na standardowych modelach wynajmu kart graficznych lub niezarządzanej infrastrukturze publicznej do obsługi obciążeń AI w środowisku produkcyjnym.
Rackspace Technology i AMD podkreśliły, że wiele przedsiębiorstw przenosi sztuczną inteligencję z etapu eksperymentalnego do produkcyjnego, ale stoi przed nimi szereg wyzwań operacyjnych, takich jak integracja infrastruktury, bezpieczeństwo, zarządzanie danymi, zarządzanie wydajnością i rozliczalność. Obecny model często wymaga od przedsiębiorstw wynajmu mocy obliczeniowej GPU na godziny, jednocześnie ponosząc znaczną część kosztów infrastruktury pomocniczej i odpowiedzialności operacyjnej.
Obie firmy proponują podejście zarządzane, w którym dedykowana moc obliczeniowa AMD jest osadzona w kontrolowanym modelu operacyjnym przedsiębiorstwa. W ramach tego modelu Rackspace będzie obsługiwać cały stos, od obliczeń krzemowych i akcelerowanych, po wnioskowanie, agentów i wsparcie produkcji.
Wraz z przenoszeniem sztucznej inteligencji (AI) do środowisk produkcyjnych przez przedsiębiorstwa, Rackspace Technology i AMD uważają, że zaufanie i rozliczalność stają się kluczowe. Zarządzanie w środowiskach regulowanych musi być wbudowane w infrastrukturę od samego początku, a nie dodawane później. Rola AMD będzie koncentrować się na dostarczaniu fundamentów obliczeniowych za pośrednictwem akceleratorów graficznych Instinct i procesorów EPYC, obsługujących obciążenia AI wymagające wydajności, efektywności i skalowalności w środowiskach prywatnych i regulowanych.
Cztery możliwości zaplanowane dla stosu
Współpraca ma na celu pomóc Rackspace w skompletowaniu starannie dobranego stosu rozwiązań AI dla przedsiębiorstw, zbudowanego wokół czterech zintegrowanych możliwości: Enterprise AI Cloud, Enterprise Inference Engine, Inference as a Service i Bare Metal AMD Instinct.
Proponowana chmura Enterprise AI Cloud to w pełni zarządzane, prywatne i hybrydowe środowisko AI zbudowane na kartach graficznych AMD Instinct, procesorach AMD EPYC oraz kontrolowanym modelu operacyjnym Rackspace. Rackspace będzie budować, integrować i obsługiwać stos dla przedsiębiorstw wymagających suwerenności, zgodności i rozliczalności operacyjnej.
Silnik wnioskowania przedsiębiorstwa (Enterprise Inference Engine) zapewniłby organizacjom środowisko wykonawcze uwzględniające kontekst, które mogłoby przenosić wiedzę domenową, historię sesji i kontekst specyficzny dla firmy na zapytania. Celem jest umożliwienie agentom AI i dużym modelom językowym dostarczania bardziej spójnych wyników w środowiskach produkcyjnych. Rackspace zarządzałby zobowiązaniami na poziomie usług, w tym dostępnością, skalowalnością i wydajnością, umożliwiając jednocześnie organizacjom korzystanie z własnych, zastrzeżonych danych z możliwością audytu i rozliczania kosztów.
Usługa wnioskowania jako usługa (Inference as a Service) oferowałaby dedykowaną, zarządzaną pojemność dla procesorów graficznych AMD Instinct, wraz z gotowymi do użycia przez deweloperów narzędziami do wnioskowania i precyzyjnego dostrajania. Klienci przywoziliby własne modele i zespoły inżynierów, a Rackspace zajmowałby się zapewnieniem pojemności procesorów AMD Instinct, wsparciem na poziomie sprzętowym, zarządzaniem operacyjnym i realizacją celów dotyczących wydajności.
Rozwiązanie Bare Metal AMD Instinct zapewni dedykowane, wydajne przetwarzanie klientom potrzebującym fizycznej izolacji, przewidywalnej wydajności i bezpośredniego dostępu do sprzętu w przypadku wymagających zadań szkoleniowych i wnioskowania.
Pojedynczy operator dla zarządzanej infrastruktury AI
Łącznie planowane możliwości zapewniają przedsiębiorstwom jednego, odpowiedzialnego operatora w całym cyklu życia infrastruktury AI. Rackspace zarządza całym stosem, od obliczeń fizycznych i narzędzi programistycznych, po środowisko wykonawcze wnioskowania i zarządzaną infrastrukturę chmurową.
Celem jest dopasowanie każdego obciążenia do odpowiedniego poziomu suwerenności, zgodności, wydajności i nadzoru. Porozumienie zapewnia Rackspace i AMD ramy do współpracy w zakresie zarządzanej infrastruktury AI dla przedsiębiorstw regulowanych, suwerennych obciążeń i środowisk produkcyjnych AI, które wymagają rozliczalności na każdym poziomie.
Amazon