Společnost Dell Technologies oznámila dvě významné aktualizace své platformy Dell AI Platform ve spolupráci s AMD, které se zaměřují na organizace, jež se chtějí škálovat od pilotních nasazení umělé inteligence až po plnohodnotná produkční prostředí. Vylepšení se zaměřují na vysoce výkonnou školicí infrastrukturu a modulární architekturu, která vyvažuje náklady, škálovatelnost a provozní kontrolu.
První aktualizace představuje rozsáhlou konfiguraci s uzly serverů Dell PowerEdge XE9785 vybavenými grafickými procesory AMD Instinct MI355X a procesory AMD EPYC. Je navržena pro náročné úlohy umělé inteligence, včetně trénování modelů, předtrénování a vysoce výkonné inference. Platforma integruje síťové rozhraní Dell PowerSwitch a úložiště PowerScale, což zajišťuje konzistentní infrastrukturu napříč nasazeními.
Použití grafických procesorů AMD Instinct MI355X zvyšuje paměťovou kapacitu na uzel, což umožňuje podporu větších modelů a efektivnější škálování napříč clustery. Tato konfigurace je určena pro podniky a poskytovatele služeb s nepřetržitým zatížením umělé inteligence, které vyžaduje předvídatelný výkon ve velkém měřítku.
Druhé vylepšení rozšiřuje modulární architekturu AI Factory od společnosti Dell o podporu grafických karet AMD Instinct MI350P PCIe spárovaných s procesory AMD EPYC. Tato konfigurace využívá servery Dell PowerEdge XE7745 a R7725, síťové rozhraní PowerSwitch a úložiště PowerScale a integruje se s platformou Dell AI Data Platform. Je navržena jako cenově efektivní cesta pro organizace přecházející z pilotního do produkčního prostředí, která umožňuje postupné škálování výpočetních, paměťových, úložných a síťových zdrojů s cílem řešit specifická úzká hrdla.
Obě konfigurace jsou postaveny na softwarovém stacku AMD ROCm a podporují otevřené frameworky, jako jsou PyTorch a vLLM. Integrace s platformou Dell Automation Platform poskytuje funkce pro nasazení a správu životního cyklu, které zjednodušují zřizování a škálování clusterů.
Společnost Dell také citovala zjištění ze studie společnosti Omdia, která porovnávala lokální nasazení s alternativami veřejného cloudu. Podle zprávy může konfigurace zahrnující servery PowerEdge XE9785 s grafickými procesory AMD Instinct MI355X přinést až o 65 % nižší celkové náklady na vlastnictví, a to díky efektivitě infrastruktury a otevřeným softwarovým ekosystémům.
Modulární design se zaměřuje na předvídatelné škálování umělé inteligence
Společnost Dell zakládá aktualizovanou platformu na modulárním designu, který podporuje konzistentní cestu od testování v malém měřítku až po podnikovou produkci. Organizace mohou začít s konfigurací s jedním uzlem a používat pouhé dvě grafické karty a poté škálovat přidáváním výpočetních uzlů, kapacity grafických karet, úložiště a šířky pásma sítě podle rostoucí poptávky. Tento přístup umožňuje opětovné využití počátečních investic do infrastruktury a zároveň škálování v kontrolovaných krocích.
Platforma je také navržena pro flexibilitu pracovní zátěže. Standardizace softwarového stacku AMD pro podnikovou umělou inteligenci a otevřených frameworků podporuje řadu případů použití umělé inteligence bez nutnosti specializovaných infrastrukturních silo. To umožňuje přenositelnost modelů a snižuje provozní režii správy více prostředí.
Bezpečnost a správa zůstávají ústředním bodem návrhu platformy. Upřednostněním nasazení v místních podmínkách společnost Dell snižuje vystavení externím rizikům a udržuje si kontrolu nad lokalitou dat. Správce podnikových zdrojů umělé inteligence od společnosti AMD poskytuje další funkce správy, včetně kontroly zásad a správy přístupu, které pomáhají organizacím prosazovat požadavky na ochranu dat a dodržování předpisů.
Amazon