AMD har meddelat tillgängligheten av Pensando Pollara 400, branschens första helt programmerbara AI Network Interface Card (NIC). Designad för att accelerera AI-arbetsbelastningen, är denna innovativa lösning kompatibel med de utvecklande Ultra Ethernet Consortium-standarderna (UEC) och optimerad för att förbättra GPU-till-GPU-kommunikationen i datacenter. Pollara 400 AI NIC representerar ett betydande steg framåt när det gäller att konstruera skalbar, högpresterande infrastruktur för AI/ML-arbetsbelastningar, generativ AI och stora språkmodeller.
Allt eftersom AI utvecklas står organisationer inför utmaningen att utveckla liknande datorinfrastrukturer som ger optimal prestanda och ger flexibilitet att anpassa sig till framtida krav. En kritisk faktor i denna utveckling är att effektivt skala ut intra-nod GPU-kommunikationsnätverk. AMD:s engagemang för att bevara kundernas valmöjligheter och minska den totala ägandekostnaden (TCO) utan att offra prestanda är uppenbart i Pollara 400 AI NIC. Denna lösning ger organisationer möjlighet att skapa framtidsredo AI-infrastruktur samtidigt som kompatibiliteten med ett öppet ekosystem bibehålls.
Accelerera AI-arbetsbelastningar med avancerade nätverk
Maximering av AI-klusterprestanda är en högsta prioritet för molntjänstleverantörer, hyperskalare och företag. Men många organisationer ser nätverket som en flaskhals, vilket begränsar GPU-användningen. Även om dataöverföringshastigheten är viktig, är det bara fördelaktigt när nätverket är optimerat för att möta kraven från moderna AI-arbetsbelastningar.
| Specifikation | Detaljer |
|---|---|
| Max bandbredd | 400 Gbps |
| Formfaktor | Halvhöjd, halvlängd (HHHL) |
| Värdgränssnitt | PCIe Gen5.0 x16 |
| Ethernet-gränssnitt | QSFP112 (NRZ/PAM4 Serdes) |
| Ethernet-hastigheter | 25/50/100/200/400 Gbps |
| Ethernet-konfigurationer | Stöder upp till 4 portar: 1 x 400G 2 x 200G 4 x 100G 4 x 50G 4 x 25G |
| Verksamhetsledningen | MCTP över SMBus |
Pensando Pollara 400 AI NIC hanterar dessa utmaningar genom att leverera intelligent lastbalansering, överbelastningshantering, snabb failover och förluståterställning. Dessa funktioner säkerställer att nätverks- och beräkningsresurser utnyttjas fullt ut, vilket möjliggör högre drifttid, snabbare slutförande av jobb och förbättrad tillförlitlighet i stor skala. När AI-arbetsbelastningen ökar i komplexitet och storlek, tillhandahåller Pollara 400 AI NIC de verktyg som krävs för att eliminera flaskhalsar och låsa upp den fulla potentialen hos AI-infrastruktur.
En framtidsklar, programmerbar lösning
Pollara 400 AI NIC drivs av AMD:s P4-arkitektur, och erbjuder en helt programmerbar hårdvarupipeline som ger oöverträffad flexibilitet. Denna programmerbarhet gör det möjligt för kunder att anpassa sig till nya standarder, till exempel de som ställts upp av UEC, eller att skapa anpassade transportprotokoll utformade för deras specifika arbetsbelastning. Till skillnad från traditionell hårdvara, som kräver nya generationer för att stödja nya funktioner, gör Pollara 400 det möjligt för organisationer att uppgradera sin AI-infrastruktur utan att vänta på hårdvaruuppdateringar.
Nyckelfunktioner i Pollara 400 inkluderar stöd för flera transportprotokoll, såsom RoCEv2, UEC RDMA och andra Ethernet-protokoll, vilket säkerställer kompatibilitet med olika arbetsbelastningar. Avancerade funktioner som intelligent paketsprayning, pakethantering i oordning och selektiv omsändning optimerar bandbreddsutnyttjandet och minskar latensen, vilket är avgörande för utbildning och driftsättning av stora AI-modeller. Vägmedveten överbelastningskontroll och snabb feldetektering säkerställer prestanda nära trådhastighet och minimerar GPU:s vilotid, även under övergående överbelastning eller nätverksfel.
Fördelen med det öppna ekosystemet
AMD:s öppna ekosystemmetod säkerställer leverantörs-agnostisk kompatibilitet, vilket gör det möjligt för organisationer att etablera AI-infrastruktur som uppfyller nuvarande krav samtidigt som den är skalbar och programmerbar för framtida behov. Denna strategi minskar kapitalutgifterna (CapEx) genom att ta bort behovet av dyra, cellbaserade stora buffertväxlingstyger, samtidigt som hög prestanda säkerställs.
Pensando Pollara 400 AI NIC har redan validerats i några av världens största utskalade datacenter. Cloud Service Providers (CSP:er) har valt den här lösningen för dess unika kombination av programmerbarhet, hög bandbredd, låg latens och omfattande funktionsuppsättning. Genom att möjliggöra utbyggbar infrastruktur inom ett öppet ekosystem hjälper AMD organisationer att framtidssäkra sina AI-miljöer samtidigt som de levererar omedelbara prestandafördelar.
Amazon