Lenovo ThinkSystem SR685a V3 och SR680a V3 GPU-servrar är företagets senaste 8-vägs GPU-servrar, skräddarsydda för att möta olika företags AI-behov.
Lenovo ThinkSystem SR685a V3 och SR680a V3 GPU-servrar är företagets senaste 8-vägs GPU-servrar, skräddarsydda för att möta olika företags AI-behov. Trots att de har distinkta modellnamn delar de en modulär grund, vilket möjliggör utbytbara komponenter inom varje system.
I grund och botten har dessa servrar tre eller fyra kärnkomponenter, beroende på hur du räknar. Först utgör ett yttre hölje chassiskalet med inbyggda fläktar bak. Det finns interna skenor som håller en 2U modulär server upptill. Den nedre 6U-enheten innehåller GPU:er, switchar och PCIe-tyg. 2U-servrarna har I/O som varierar beroende på AMD- eller Intel-erbjudanden. Lenovo stöder NVIDIA- och AMD GPU-kort idag, med framtida Intel Guadi 3-stöd.
Lenovo SR685a V3 (litet a för AI) använder dubbla 4:e generationens AMD EPYC-processorer och är specifikt optimerad för GPU-till-GPU-kommunikation med hög bandbredd, vilket gör den idealisk för generativa AI-applikationer. Omvänt stöder SR680a V3, utrustad med 5:e generationens Intel Xeon Scalable-processorer, mångsidiga AI- och beräkningsapplikationer, som tillgodoser NVIDIA- och AMD-GPU:er för olika industribehov. Båda modellerna antar ett innovativt tillvägagångssätt för modularitet, vilket gör det möjligt för användare att anpassa och skala sina system för att passa exakt med specifika operativa krav.
Dessa servrar är mycket eftertraktade (även om de är väldigt svåra att få tag på för tillfället) och genererade betydande buzz på Lenovos konferens förra året i Austin. Det finns stor spänning kring dessa GPU-servrar och deras potential att förbättra AI-kapaciteten.
Konfigurerbara modeller och anpassning
Lenovo ThinkSystem SR685a V3 och SR680a V3-systemen erbjuds i olika konfigurera-till-order-modeller (CTO) som fungerar som ett ramverk för anpassning. Att ha möjligheten att anpassa konfigurationsmodeller sträcker sig till det detaljerade urvalet av GPU:er, där modellerna definieras baserat på de specifika GPU:er som valts. Till exempel tillåter basfunktionskoderna som listas i Lenovo-konfiguratorn val mellan AMD MI300X och NVIDIA H100/H200, var och en tillgodoser olika prestanda och beräkningsbehov. Plattformsdesignen ger Lenovo större flexibilitet när det gäller att integrera nya acceleratorer när de kommer ut på marknaden.
Lenovo ThinkSystem SR685a V3-specifikationer
Komponenter | Specifikation |
Formfaktor | 8U-rack |
Processorn | Två AMD EPYC 9004-seriens processorer (tidigare kodnamnet "Genua"). Stöder processorer upp till 64 kärnor, kärnhastigheter upp till 3.1 GHz och TDP-värden upp till 400W. Stöder PCIe 5.0 för högpresterande I/O. |
GPUs | Val av:
|
Minne | 24 DIMM-platser med två processorer (12 DIMM-platser per processor). Varje processor har 12 minneskanaler, med 1 DIMM per kanal (DPC). Lenovo TruDDR5 RDIMM stöds upp till 4800 MHz. |
Minnesmax | Upp till 1.5 TB med 24x 64 GB RDIMM Upp till 2.25 TB med 24x 96 GB RDIMM |
Minnesskydd | ECC, SDDC, Patrol/Demand Scrubbing, Bounded Fault, DRAM Address Command Parity with Replay, DRAM Uncorrected ECC Error Rery, On-die ECC, ECC Error Check and Scrub (ECS), Post Package Repair |
Diskenhetsfack | Upp till 16x 2.5-tums hot-swap-enhetsfack som stöder PCIe 5.0 NVMe-enheter. |
OS-startenheter | Stöd för en M.2-adapter med integrerad RAID-1; stöd för 2x NVMe M.2-enheter för OS-start- och datalagringsfunktioner |
Maximal intern lagring | 51.2 TB med 16x 3.2 TB 2.5-tums NVMe SSD:er |
Lagringskontroll | Onboard NVMe (icke-RAID) |
Nätverksgränssnitt | Den stöder 8x högpresterande nätverksadaptrar upp till 400 Gb/s-anslutning med GPU Direct-stöd. Den stöder en NVIDIA BlueField-3 2-portars 200 Gb-adapter för användar-/kontrollplanet och ett val av OCP-nätverksadapter för hantering. OCP 3.0-kortplatsen har ett PCIe 5.0 x16-värdgränssnitt, med en port som valfritt delas med XClarity Controller 2 (XCC2)-hanteringsprocessorn för Wake-on-LAN och NC-SI-stöd. |
PCI-expansionsplatser | 10x PCIe 5.0 x16-platser:
|
Hamnar | Fram: 1x USB 3.2 G1 (5 Gb/s)-port, 1x USB 2.0-port (även för XCC lokal hantering), 1x VGA-videoport. Bak: 3x USB 3.2 G1 (5 Gb/s)-portar, 1x VGA-videoport, 1x RJ-45 1GbE systemhanteringsport för XCC-fjärrhantering. |
Kylning | 5x frontmonterade fläktar med dubbla rotorer för CPU- och lagringsundersystemet, N+1 redundant. 10x bakmonterade fläktar med dubbla rotorer för GPU-delsystemet, N+1 redundant. En fläkt är integrerad i varje strömförsörjning. Luftflöde från fram till bak. |
Strömförsörjning | Åtta hot-swap redundanta nätaggregat med upp till N+N redundans. 80 PLUS Titanium certifiering. 2600 W AC-strömförsörjning som kräver 220 V AC-försörjning. |
Video | Inbäddad videografik med 16 MB minne och en 2D hårdvaruaccelerator är integrerad i XClarity Controller. Två videoportar (främre VGA och bakre VGA) kan inte användas samtidigt; Användning av den främre VGA-porten inaktiverar den bakre VGA-porten. Maximal upplösning är 1920×1200 32bpp vid 60Hz. |
Hot-swap delar | Drivsystem, nätaggregat och fläktar. |
Systemhantering | Integrerad diagnospanel med statuslysdioder och utdragbar LCD-display. XClarity Controller 2 (XCC2) inbäddad hantering baserad på ASPEED AST2600 baseboard management controller (BMC). Dedikerad bakre Ethernet-port för XCC2 fjärråtkomst för hantering. XClarity Administrator för centraliserad infrastrukturhantering, XClarity Integrator-plugins och XClarity Energy Manager centraliserad serverströmhantering. Tillvalet XCC Platinum kommer att aktivera fjärrkontrollfunktioner och andra funktioner. |
Säkerhetsfunktioner | Startlösenord, administratörslösenord, Root of Trust-modul som stöder TPM 2.0 och Platform Firmware Resiliency (PFR). |
Operativsystem stöds | Ubuntu Server. |
Begränsad garanti | Tre år eller ett år (modellberoende) enhet som kan bytas av kund och begränsad garanti på plats med 9×5 nästa arbetsdag (NBD). |
Service och support | Valfria serviceuppgraderingar är tillgängliga via Lenovo Services: 4-timmars eller 2-timmars svarstid, 6-timmars fixtid, 1- eller 2-års garantiförlängning, mjukvarustöd för Lenovo-hårdvara och vissa tredjepartsprogram. |
Mått | Bredd: 447 mm (17.6 tum), höjd: 351 mm (13.8 tum), djup: 924 mm (36.3 tum). |
Vikt | Max: 108.9 kg (240 lb) |
Lenovo ThinkSystem SR680a V3-specifikationer
Komponenter | Specifikation |
Formfaktor | 8U-rack |
Processorn | Två 5:e generationens Intel Xeon skalbara processorer (tidigare kodnamnet "Emerald Rapids"). Stöder en processor med 48 kärnor, kärnhastighet på 2.3 GHz och TDP-klassning på 350W. Stöder PCIe 5.0 för högpresterande I/O. |
chipset | Intel C741 "Emmitsburg" chipset, en del av plattformen med kodnamnet "Eagle Stream" |
GPUs | Val av:
|
Minne | 32 DIMM-platser med två processorer (16 DIMM-platser per processor). Varje processor har 8 minneskanaler, med 2 DIMM per kanal (DPC). Lenovo TruDDR5 RDIMM stöds. DIMM:er fungerar på upp till 5600 MHz vid 1 DPC och upp till 4400 MHz vid 2 DPC. |
Minnesmax | Upp till 2 TB med 32x 64 GB RDIMM |
Minnesskydd | ECC, SDDC (för x4-baserade minnes-DIMM-moduler), ADDDC (för x4-baserade minnes-DIMM-moduler exklusive 9×4 RDIMM, kräver Platinum- eller Gold-processorer) och minnesspegling. |
Diskenhetsfack | Upp till 16x 2.5-tums hot-swap-enhetsfack som stöder PCIe 5.0 NVMe-enheter. |
OS-startenheter | Stöd för två M.2-enheter med valfritt Intel VROC NVMe RAID-stöd för OS-start- och datalagringsfunktioner |
Maximal intern lagring | 51.2 TB med 16x 3.2 TB 2.5-tums NVMe SSD:er |
Lagringskontroll | Inbyggt NVMe (icke-RAID) |
Nätverksgränssnitt | Stöder 8x högpresterande nätverksadaptrar upp till 400 Gb/s-anslutning med GPU Direct-stöd. Stöder en NVIDIA BlueField-3 2-portars 200 Gb-adapter för användar-/kontrollplanet och en Mellanox ConnectX-6 Lx 2-ports 10/25GbE-adapter för hantering. |
PCI-expansionsplatser | 10x PCIe 5.0 x16-platser:
|
Hamnar | Framsida: 1x USB 3.2 G1 (5 Gb/s)-port, 1x USB 2.0-port (även för XCC lokal hantering), 1x Mini DisplayPort-videoport. Bak: 2x USB 3.2 G1 (5 Gb/s)-portar, 1x VGA-videoport, 1x RJ-45 1GbE systemhanteringsport för XCC-fjärrhantering. |
Kylning | 5x frontmonterade fläktar med dubbla rotorer för CPU- och lagringsundersystemet, N+1 redundant. 10x bakmonterade fläktar med dubbla rotorer för GPU-delsystemet, N+1 redundant. En fläkt är integrerad i varje strömförsörjning. Luftflöde från fram till bak. |
Strömförsörjning | Åtta hot-swap redundanta nätaggregat med upp till N+N redundans. 80 PLUS Titanium certifiering. 2600 W AC-strömförsörjning som kräver 220 V AC-försörjning. |
Video | Inbäddad grafik med 16 MB minne och en 2D-hårdvaruaccelerator är integrerad i XClarity Controller 2-styrenheten. Två videoportar (front Mini DisplayPort och bakre VGA); båda kan användas samtidigt om så önskas. Maximal upplösning för båda portarna är 1920×1200 vid 60Hz. |
Hot-swap delar | Drivsystem, nätaggregat och fläktar. |
Systemhantering | Integrerad diagnospanel med statuslysdioder och utdragbar LCD-display. XClarity Controller 2 (XCC2) inbäddad hantering baserad på ASPEED AST2600 baseboard management controller (BMC). Dedikerad bakre Ethernet-port för XCC2 fjärråtkomst för hantering. XClarity Administrator för centraliserad infrastrukturhantering, XClarity Integrator-plugins och XClarity Energy Manager centraliserad serverströmhantering. Tillvalet XCC Platinum möjliggör fjärrkontrollfunktioner och andra funktioner. |
Säkerhetsfunktioner | Startlösenord, administratörslösenord, Root of Trust-modul som stöder TPM 2.0 och Platform Firmware Resiliency (PFR). |
Operativsystem stöds | Ubuntu Server. |
Begränsad garanti | Tre år eller ett år (modellberoende) enhet som kan bytas av kund och begränsad garanti på plats med 9×5 nästa arbetsdag (NBD). |
Service och support | Valfria serviceuppgraderingar är tillgängliga via Lenovo Services: 4-timmars eller 2-timmars svarstid, 6-timmars fixtid, 1- eller 2-års garantiförlängning, mjukvarustöd för Lenovo-hårdvara och vissa tredjepartsprogram. |
Mått | Bredd: 447 mm (17.6 tum), höjd: 351 mm (13.8 tum), djup: 924 mm (36.3 tum). |
Vikt | Max: 108.7 kg (239.8 lb) |
Lenovo ThinkSystem SR685a V3 och SR680a V3 design och konstruktion
Framsidan av systemet stöder upp till 16 hot-swap PCIe Gen5 NVMe-enhetsfack – en ovanligt generös mängd för GPU-centrerade servrar, som vanligtvis erbjuder färre fack och banor för expansion. Under enhetsfacken finns de åtta framtill tillgängliga PCIe Gen5 FHHL (Full Height, Half Length) kortplatser och PCIe-växlingskomplex. Dessa kortplatser är utrustade med GPU Direct-teknik (åtta NDR 400Gb/s InfiniBand-adaptrar), vilket möjliggör höghastighetsnätverk och dataöverföringar för att minska latensen och öka databehandlingshastigheterna.
Systemet har fem hot-swappable fläktar på toppen av chassit, designade för att kyla servern, som tar de översta 2U, inklusive CPU, minne och bakre platser. Ytterligare tio fläktar är monterade på baksidan av chassit för att kyla enhetsfack, adaptrar och GPU:er.
Frontpanelen innehåller också viktiga anslutnings- och hanteringsportar, inklusive tre USB 3.2 Gen1-portar och en videoutgång, vilket underlättar direkt hantering och lokal konsolinteraktion.
Baksidan är lika välutrustad, inklusive 2U-serverexpansionsmöjligheterna. AMD-varianten erbjuder en PCIe Gen5 x16 FHHL-plats tillsammans med en OCP 3.0-plats utrustad med ett PCIe Gen5 x16-gränssnitt. Omvänt har Intel-modellen två PCIe Gen5 x16 FHHL-platser. En OCP 3.0-kortplats ger mångsidighet i nätverks- och accelerationsalternativ genom att rymma olika adapterkort som följer öppna standarder. NVIDIA BlueField-3 DPU-adaptrar kan installeras för att möjliggöra en mjukvarudefinierad, hårdvaruaccelererad IT-infrastruktur, som optimerar olika IT-operationer som nätverk och säkerhet.
Baksidan av GPU-enheten rymmer åtta 2,600 2 W strömförsörjningar, var och en länkad till ett centralt distributionskort. Den här installationen inkluderar kontakter på baksidan av kortet – kallad av Lenovo som den "blinda kompisen" – som underlättar sömlös anslutning till XNUMXU-beräkningsskytteln.
Dessutom, som nämnts ovan, avslöjar vyn bakifrån serverns omfattande kylsystem, inklusive tio hot-swap bakre fläktar designade för att upprätthålla optimala termiska förhållanden över GPU:er, switchar och PCIe-tyg. Detta kylsystem är avgörande för att bibehålla hårdvarans prestandastabilitet och livslängd, särskilt under kontinuerliga högbelastningsoperationer.
Ström, kablar och växling
AMD- och Intel-versionerna av denna serverfamilj delar en gemensam kraftlayout, vilket möjliggör större modularitet, vilket är den stora höjdpunkten i dessa system.
PCIe-signaleringen flyter genom bandkablar som ansluter datorsläden till PCIe-växlingssläden. På andra sidan av datorsläden finns en blindanslutning. Datorsläden passar ihop med dessa kontakter och skickar PCIe-signaleringen till resten av chassit. Fästet på baksidan av släden (märkt med dess avsedda PCIe-anslutning) gör att du kan växla mellan datorskyttlarna utan att ändra serverns botten.
PCIe-växelkortet innehåller fyra Broadcom-switchar omgivna av PCIe-slots, vilket gör att servern kan ansluta till ett höghastighetsnätverk. Dessutom finns det åtta MCIO-kabelkontakter som länkar till moderkortet. De mindre PCIe-kontakterna på toppen är avsedda för enhetens bakplan för de frontmonterade NVMe SSD:erna.
Minne och intern lagring
AMD-datorn stöder upp till 24 DDR5-minnes-DIMM, där varje processor har gränssnitt med 12 DIMM till 12 minneskanaler, vilket tillåter en DIMM per kanalkonfiguration. Dessa DIMM:er arbetar med en hastighet av 4800 MHz, vilket förbättrar den totala minneskapaciteten och effektiviteten. Beroende på konfigurationen kan servern stödja antingen 1.5 TB systemminne med 24x 64GB RDIMM eller 2.25TB med 24x 96GB RDIMM, vilket ger tillräcklig kapacitet för även de mest minneskrävande uppgifterna.
Intel Compute (SR680a V3) utnyttjar Lenovo TruDDR5-minne som fungerar i hastigheter upp till 5600 MHz. Den stöder också en högre kapacitet än AMD med upp till 32 DIMM:s över två processorer, som använder 8 minneskanaler för att stödja 2 DIMMs per kanal (DPC). Beroende på minneskonfigurationen kan servern stödja upp till 2TB systemminne med 32x 64GB RDIMM.
Driftshastigheterna för DIMM-modulerna varierar beroende på antalet DIMM-enheter per kanal: med 1 DIMM per kanal kan minnet nå hastigheter upp till 5600 MHz, medan konfigurationer med 2 DIMM-enheter per kanal kommer att fungera på upp till 4400 MHz. Denna flexibla hastighetsjustering hjälper till att optimera prestanda baserat på den specifika minnesbelastningen och konfigurationen.
Dessutom rymmer servern två M.2 NVMe-enheter på en M.2-adapter med integrerad RAID-funktion, vilket är idealiskt för operativsystemsstartprocesser och snabb dataåtkomst.
AMD och NVIDIA GPU-kort
NVIDIA H100/H200-kortet är tätt packat med åtta NVIDIA GPU:er och har ett infällbart handtag som gör det lättare att bära och installera kortet. När det väl har installerats läggs handtaget snyggt intill GPU:erna för att undvika hinder. Kontakterna mellan AMD- och NVIDIA-korten är identiska. Intel Gaudi 3-kortet kommer att ha en annan kontakt.
AMD MI300-kortet liknar NVIDIA-kortet men har ett standardhandtag som sticker ut rejält. Även om den fortfarande är användbar är den inte lika elegant som det infällbara handtaget på NVIDIA-kortet. Kunderna bryr sig inte på något sätt, så vi lade till fotnoten eftersom designskillnaden fångade vår uppmärksamhet.
Avslutande tankar
Lenovo ThinkSystem SR685a V3 och SR680a V3 GPU-servrar erbjuder imponerande modularitet och stöder kraftfulla NVIDIA H100/H200 och AMD MI300X GPU, såväl som både AMD EPYC 9004 och 5th Gen Xeon Intel-processorer. Denna flexibilitet och en luftkyld design gör dem lätta att integrera i befintliga ekosystem. Servrarna stöder också mer lagring än vanliga GPU-servrar (via 16 hot-swap PCIe Gen5 NVMe-enhetsfack), vilket förbättrar deras användbarhet för dataintensiva uppgifter. Dessutom säkerställer Lenovos XClarity för hantering strömlinjeformad drift och övervakning, vilket ytterligare förenklar hanteringen av komplexa infrastrukturer.
Trots att de inte har utfört prestandatester är designen av dessa servrar anmärkningsvärd. Den modulära arkitekturen gör att Lenovo enkelt kan erbjuda sina kunder AMD och NVIDIA GPU idag, med Intel eller AMD datorservrar. Med mer GPU-stöd, som Intel Guadi 3 och NVIDIA B200, kan Lenovo låta kunderna blanda och matcha dator- och GPU-komponenterna för att ställa in servrarna för specifika applikationer.
Sammantaget är dessa servrar mycket väl genomtänkta, och vi ser fram emot att logga praktisk tid med dem; Jordan har oroligt smekt sitt skägg av förväntan. Medan vi för närvarande arbetar med ett projekt med Lenovo SR675 v3 med fyra NVIDIA L40S GPU:er, är dessa 8-vägsservrar ett annat djur och har ett brett utbud av AI-användningsfall. Detta är dock en bra påminnelse om att Lenovo erbjuder en AI-plattform för alla.
Engagera dig med StorageReview
Nyhetsbrev | Youtube | Podcast iTunes/Spotify | Instagram | Twitter | TikTok | Rssflöde