Společnost IBM oznámila rozšířenou spolupráci se společností AMD na zavedení akcelerátorů AMD Instinct MI300X jako služby v cloudu IBM Cloud. Toto řešení zvyšuje výkon a energetickou účinnost modelů generativní umělé inteligence (GenAI) a aplikací vysoce výkonných výpočtů (HPC), čímž reaguje na rostoucí poptávku po škálovatelných řešeních umělé inteligence mezi podnikovými klienty.
Partnerství rozšiřuje podporu pro akcelerátory AMD Instinct MI300X v celém ekosystému umělé inteligence a dat společnosti IBM, včetně platformy watsonx AI a Red Hat® Enterprise Linux® pro inferenciaci umělé inteligence. To je v souladu se stávajícím portfoliem IBM Cloud, které již obsahuje akcelerátory Intel Gaudi 3 a rozšiřuje instance grafických procesorů NVIDIA H100 Tensor Core , čímž dále zvyšuje jeho schopnost poskytovat vysoce výkonné úlohy umělé inteligence a HPC.
Pokročilé možnosti akcelerátorů AMD Instinct MI300X
Akcelerátory AMD Instinct MI300X, vybavené 192 GB paměti s vysokou šířkou pásma (HBM3), jsou navrženy pro podporu inference velkých modelů a jemného ladění pro podnikové aplikace umělé inteligence. Jejich vysoká paměťová kapacita umožňuje podnikům provozovat větší modely umělé inteligence s menším počtem GPU, což snižuje náklady a zároveň zachovává výkon a škálovatelnost. Tyto akcelerátory jsme nedávno testovali v naší recenzi XE9680.
Nabídkou těchto akcelerátorů jako služby na virtuálních serverech IBM Cloud Virtual Servers pro VPC a prostřednictvím kontejnerizovaných řešení, jako je IBM Cloud Kubernetes Service a IBM Red Hat OpenShift, si IBM klade za cíl poskytnout podnikovým klientům bezpečné a vysoce výkonné prostředí optimalizované pro jejich úlohy s umělou inteligencí. Tato flexibilita umožňuje organizacím efektivně škálovat nasazení umělé inteligence a zároveň zachovat robustní zabezpečení a dodržování předpisů – což je obzvláště důležité pro klienty ve vysoce regulovaných odvětvích.
Integrace s platformami IBM Watsonx a Red Hat
Aby IBM řešila potřeby generativních úloh inferenčních s využitím umělé inteligence, plánuje integrovat akcelerátory AMD Instinct MI300X se svou platformou watsonx AI. To klientům watsonx poskytne další zdroje infrastruktury umělé inteligence, což jim umožní bezproblémově škálovat úlohy v hybridních cloudových prostředích. Akcelerátory budou také podporovat platformy Red Hat Enterprise Linux AI a Red Hat OpenShift AI, což podnikům umožní nasazovat rozsáhlé jazykové modely (LLM), jako je rodina Granite, s pokročilými nástroji pro zarovnání, jako je InstructLab.
Tyto integrace podtrhují schopnost akcelerátorů zvládat výpočetně náročné úlohy s větší flexibilitou, což umožňuje podnikům upřednostňovat výkon, nákladovou efektivitu a škálovatelnost při nasazení umělé inteligence.
Philip Guido, výkonný viceprezident a obchodní ředitel společnosti AMD, zdůraznil důležitost výkonu a flexibility při zpracování výpočetně náročných úloh, zejména v době, kdy podniky zavádějí větší modely umělé inteligence. Poznamenal, že akcelerátory AMD Instinct ve spojení se softwarem AMD ROCm nabízejí rozsáhlou podporu ekosystému pro platformy, jako jsou IBM Watsonx AI a Red Hat OpenShift AI, což klientům umožňuje provádět a škálovat inference GenAI bez kompromisů v efektivitě nebo nákladech.
Alan Peacock, generální ředitel IBM Cloud, se k těmto názorům připojil a zdůraznil společnou vizi společností AMD a IBM přinášet podnikům řešení v oblasti umělé inteligence. Uvedl, že využití akcelerátorů AMD v IBM Cloud poskytuje podnikovým klientům škálovatelné a cenově efektivní možnosti pro dosažení jejich cílů v oblasti umělé inteligence, a to na základě závazku IBM k zabezpečení, dodržování předpisů a řešením zaměřeným na výsledky.
Spolupráce přináší vylepšené zabezpečení a dodržování předpisů
Tato spolupráce využívá proslulé bezpečnostní a dodržovací funkce IBM Cloud a zajišťuje, že podniky, včetně těch v silně regulovaných odvětvích, mohou s jistotou zavést infrastrukturu umělé inteligence poháněnou akcelerátory AMD. Tento závazek k bezpečnosti je nedílnou součástí strategie společností IBM a AMD, která podporuje zavádění umělé inteligence v podnikech ve velkém měřítku.
Díky této spolupráci poskytují IBM a AMD podnikům špičkovou infrastrukturu umělé inteligence, která vyvažuje výkon, škálovatelnost a efektivitu. Přidání akcelerátorů AMD Instinct MI300X do IBM Cloud je připraveno uspokojit rostoucí požadavky na podnikové úlohy umělé inteligence a umožní organizacím odemknout nové možnosti v aplikacích umělé inteligence a HPC.
dostupnost
Očekává se, že cloudové služby IBM s akcelerátory AMD Instinct MI300X budou všeobecně dostupné v první polovině roku 2025, čímž se dále rozšíří portfolio vysoce výkonných řešení umělé inteligence a HPC společnosti IBM.
Amazon