Společnost Meta oznámila pokroky ve své infrastruktuře umělé inteligence představením akcelerátoru Meta Training and Inference Accelerator (MTIA) nové generace. Tento vývoj představuje významný krok v úsilí společnosti Meta o vylepšení produktů, služeb a výzkumu založených na umělé inteligenci a reaguje na rostoucí poptávku po sofistikovanějších modelech umělé inteligence.
Po představení akcelerátoru první generace projekt MTIA zdokonaluje výpočetní efektivitu, která je nezbytná pro specifické úlohy umělé inteligence společnosti Meta. To zahrnuje modely doporučení pro hluboké učení, které jsou nedílnou součástí zvyšování uživatelské zkušenosti napříč platformami společnosti Meta.
MTIA nové generace vs. první generace
První generace MTIA prošla oproti své generaci nové generace významným technologickým pokrokem, aby splnila rostoucí požadavky na úlohy umělé inteligence. První generace MTIA, původně vyrobená 7nm procesem společnosti TSMC, měla frekvenci 800 MHz, podporovala 1.12 miliardy bran a pro operace INT8 dosahovala výkonu až 102.4 teraflopů za sekundu (TFLOPS/s). Byla vybavena 128 MB paměti na čipu a 64 GB paměti LPDDR5 mimo čip s TDP 25 wattů. Toto nastavení bylo optimalizováno pro rovnováhu mezi výkonem a energetickou účinností s celkovou kapacitou šířky pásma paměti, která zahrnovala 400 GB/s na procesní prvek (PE) pro lokální paměť a 800 GB/s pro paměť na čipu.
Nová generace čipu MTIA přešla na pokročilejší 5nm proces od TSMC, což umožňuje akcelerátoru pracovat na vyšší frekvenci 1.35 GHz. Tato aktualizace zdvojnásobuje počet bran na 2.35 miliardy a zvyšuje FLOPS na 103 milionů, což naznačuje podstatné zvýšení výpočetních schopností čipu. Nová generace čipu MTIA představuje trojnásobné zvýšení lokálního PE úložiště a zdvojnásobuje paměť SRAM na čipu na 256 MB, přičemž externí paměť LPDDR5 se rozšiřuje na 128 GB. Toto zvýšení je doprovázeno vylepšenou šířkou pásma paměti, která dosahuje až 1 TB/s na PE pro lokální paměť a 2.7 TB/s pro paměť na čipu, což zajišťuje vyšší propustnost dat a efektivitu.
Kromě toho je TDP nyní 90 wattů, aby vyhovělo vyšším úrovním výkonu. Hostitelské připojení bylo také upgradováno na 8x PCIe Gen5, čímž se zdvojnásobila šířka pásma na 32 GB/s, což podporuje rychlejší přenosy dat mezi akcelerátorem a hostitelským systémem. Tato významná vylepšení poskytují silnější základ pro vývoj a nasazení aplikací a služeb řízených umělou inteligencí.
Funkce MTIA nové generace
MTIA ve svém jádru disponuje sofistikovanými PE s mřížkou 8×8, které výrazně zvyšují výkon hustých i řídkých výpočetních operací. Toto vylepšení je připisováno architektonickým pokrokům a podstatnému nárůstu lokálního úložiště PE, paměti SRAM na čipu a šířky pásma. Vylepšená architektura sítě na čipu (NoC) akcelerátoru navíc usnadňuje rychlou koordinaci mezi PE a zajišťuje zpracování dat s nízkou latencí, což je nezbytné pro složité úlohy umělé inteligence.
Přístup společnosti Meta přesahuje rámec inovací v oblasti křemíku. MTIA nové generace je podporována robustním rackovým systémem schopným pojmout až 72 akcelerátorů, což nabízí značný škálovatelný potenciál pro ambiciózní projekty umělé inteligence společnosti Meta. Konstrukce systému umožňuje vyšší provozní frekvence a efektivitu a snadno se přizpůsobuje různorodým složitostem modelů.
Integrace softwaru hraje také klíčovou roli v ekosystému MTIA, přičemž Meta využívá svou práci na PyTorch k zajištění bezproblémové kompatibility a produktivity vývojářů. Zahrnutí pokročilých programovacích a spouštěcích frameworků, jako je Triton-MTIA, usnadňuje efektivní převod modelů umělé inteligence do vysoce výkonných výpočetních instrukcí a zefektivňuje proces vývoje.
Počáteční výsledky výkonu MTIA nové generace
Společnost Meta uvádí, že předběžné metriky výkonu naznačují významné zlepšení oproti první generaci a demonstrují schopnost čipu efektivně zpracovávat jednoduché i složité algoritmy pro hodnocení a doporučování. Tento čip zvládá algoritmy, které se výrazně liší velikostí a výpočetní náročností, a díky integrovanému technologickému přístupu společnosti Meta překonává standardní komerční grafické procesory. Společnost se při nasazování těchto čipů ve svých systémech zaměřuje na zvyšování energetické účinnosti.
Počáteční testování ukázalo, že čip MTIA nové generace ztrojnásobuje výkon svého předchůdce u klíčových modelů. Díky vylepšenému systému, který zahrnuje dvojnásobný počet zařízení a vysoce výkonný dvoupaticový procesor, dosáhla společnost Meta šestinásobného zvýšení propustnosti zpracování modelů a 50% zlepšení energetické účinnosti oproti nastavení MTIA první generace. Tato vylepšení jsou výsledkem rozsáhlých optimalizací výpočetních komponent a architektury serveru. Optimalizace modelů se s postupným zráním vývojářského ekosystému zrychlila a zbývá dostatek prostoru pro další zvyšování efektivity.
Čip MTIA, který je nyní aktivní v datových centrech, vylepšuje zpracování pracovní zátěže s využitím umělé inteligence v systému Meta a ukazuje se jako strategický doplněk komerčních grafických procesorů. Vzhledem k několika probíhajícím iniciativám na rozšíření funkcí čipu MTIA představuje toto vydání další velký krok v souladu se závazkem společnosti rozvíjet technologii umělé inteligence a její aplikace.
Amazon