Společnosti Rackspace Technology a AMD podepsaly memorandum o porozumění, které stanoví rámec pro víceleté strategické partnerství zaměřené na podnikovou infrastrukturu umělé inteligence pro regulované organizace a suverénní úlohy.
Dohoda se zaměřuje na navrhovaný podnikový cloud s umělou inteligencí (EPA) určený pro kriticky důležité nasazení umělé inteligence, v nichž jsou klíčovými požadavky zabezpečení, správa, dodržování předpisů a provozní odpovědnost. Platforma by kombinovala grafické procesory AMD Instinct a procesory AMD EPYC se spravovaným operačním modelem společnosti Rackspace Technology a vytvořila by tak specializovaný stack infrastruktury umělé inteligence pro organizace, které se nemohou spoléhat na generické modely pronájmu grafických procesorů nebo nespravovanou veřejnou infrastrukturu pro produkční úlohy umělé inteligence.
Společnosti Rackspace Technology a AMD zdůraznily, že mnoho podniků přesouvá umělou inteligenci z experimentálního prostředí do produkčního prostředí, ale čelí značným provozním nárokům, včetně integrace infrastruktury, zabezpečení, správy dat, řízení výkonu a odpovědnosti. Současný model často vyžaduje, aby si podniky pronajímaly kapacitu grafických karet na hodinu, přičemž velkou část podpůrné infrastruktury a provozní odpovědnosti nesou samy.
Obě společnosti navrhují řízený přístup, v němž jsou dedikované výpočetní prostředky AMD integrovány do řízeného podnikového operačního modelu. V rámci tohoto rámce by Rackspace provozoval kompletní stack, od křemíkových procesorů a akcelerovaných výpočetních systémů až po inferenci, agenty a produkční podporu.
Společnosti Rackspace Technology a AMD věří, že s tím, jak podniky přesouvají umělou inteligenci do produkčních prostředí, se důvěra a odpovědnost stávají ústředními prioritami. Řízení v regulovaných prostředích musí být od samého začátku zabudováno do infrastruktury, nikoli přidáváno později. Role společnosti AMD by se zaměřila na poskytování výpočetní základny prostřednictvím svých akcelerátorů GPU Instinct a procesorů EPYC, které by podporovaly úlohy umělé inteligence, jež vyžadují výkon, efektivitu a škálovatelnost v soukromých i řízených prostředích.
Čtyři plánované funkce pro Stack
Tato spolupráce má pomoci společnosti Rackspace dokončit spravovaný podnikový stack umělé inteligence postavený na čtyřech integrovaných funkcích: Enterprise AI Cloud, Enterprise Inference Engine, Inference as a Service a Bare Metal AMD Instinct.
Navrhovaný Enterprise AI Cloud by byl plně spravovaným privátním a hybridním prostředím umělé inteligence postaveným na grafických procesorech AMD Instinct, procesorech AMD EPYC a řízeném operačním modelu Rackspace. Rackspace by sestavoval, integroval a provozoval tento stack pro podniky vyžadující suverenitu, dodržování předpisů a provozní odpovědnost.
Enterprise Inference Engine by organizacím poskytoval kontextově orientované běhové prostředí, které by mohlo přenášet znalosti domény, historii relací a kontext specifický pro danou společnost napříč dotazy. Cílem je pomoci agentům umělé inteligence a rozsáhlým jazykovým modelům dosahovat konzistentnějších výsledků v produkčním prostředí. Rackspace by spravoval závazky na úrovni služeb, včetně dostupnosti, škálování a výkonu, a zároveň by organizacím umožňoval používat svá vlastní proprietární data s auditovatelností a nákladovou odpovědností.
Inference as a Service (Inference jako služba) by nabízela vyhrazenou, spravovanou kapacitu pro grafické procesory AMD Instinct spolu s nástroji připravenými pro vývojáře pro inferenci a jemné ladění. Zákazníci by si přinesli vlastní modely a inženýrské týmy, zatímco Rackspace by se staral o kapacitu holého počítače AMD Instinct, podporu na hardwarové úrovni, provozní správu a cíle výkonnostních služeb.
Bare Metal AMD Instinct by poskytoval dedikované, vysoce výkonné výpočetní prostředky zákazníkům, kteří potřebují fyzickou izolaci, předvídatelný výkon a přímý přístup k hardwaru pro náročné tréninkové a inferenční úlohy.
Jeden operátor pro řízenou infrastrukturu umělé inteligence
Plánované funkce dohromady poskytují podnikům jednoho odpovědného operátora v celém životním cyklu infrastruktury umělé inteligence. Rackspace spravuje celý stack, od výpočetních a vývojářských nástrojů na holém stroji až po inferenční běhové prostředí a řízenou cloudovou infrastrukturu.
Cílem je přizpůsobit každou pracovní zátěž odpovídající úrovni suverenity, dodržování předpisů, výkonu a dohledu. Memorandum o porozumění poskytuje společnostem Rackspace a AMD rámec pro spolupráci na spravované podnikové infrastruktuře umělé inteligence pro regulované podniky, suverénní pracovní zátěže a produkční prostředí umělé inteligence, která vyžadují odpovědnost na každé úrovni.
Amazon