Servery Lenovo ThinkSystem SR685a V3 a SR680a V3 GPU jsou nejnovějšími 8procesorovými GPU servery společnosti, které jsou přizpůsobeny tak, aby splňovaly rozmanité potřeby podniků v oblasti umělé inteligence. Navzdory odlišným názvům modelů sdílejí modulární základ, což umožňuje zaměnitelnost komponent v rámci každého systému.
V zásadě mají tyto servery tři nebo čtyři základní komponenty, v závislosti na tom, jak je počítáte. Za prvé, vnější kryt tvoří skelet šasi s vestavěnými ventilátory v zadní části. Nahoře jsou vnitřní kolejnice, které drží modulární server o výšce 2U. Spodní 6U obsahuje grafické karty, přepínače a PCIe fabric. 2U servery mají I/O, které se liší v závislosti na nabídce AMD nebo Intel. Lenovo již nyní podporuje základní desky s grafickými kartami NVIDIA a AMD a v budoucnu bude podporovat i Intel Guadi 3.
Lenovo SR685a V3 (malé a pro AI) využívá dva procesory AMD EPYC 4. generace a je speciálně optimalizován pro vysokorychlostní komunikaci mezi GPU, což ho činí ideálním pro generativní aplikace s umělou inteligencí. Naopak SR680a V3, vybavený škálovatelnými procesory Intel Xeon 5. generace, podporuje všestranné aplikace s umělou inteligencí a výpočetní technikou a umožňuje použití grafických karet NVIDIA a AMD pro různé potřeby v různých odvětvích. Oba modely využívají inovativní přístup k modularitě, který uživatelům umožňuje přizpůsobit a škálovat jejich systémy tak, aby přesně odpovídaly specifickým provozním požadavkům.
Tyto servery jsou velmi žádané (i když v současné době je velmi těžké je sehnat) a na loňské konferenci Lenovo v Austinu vyvolaly značný rozruch. Kolem těchto GPU serverů a jejich potenciálu pro rozvoj schopností umělé inteligence panuje velké nadšení.
Konfigurovatelné modely a přizpůsobení
Systémy Lenovo ThinkSystem SR685a V3 a SR680a V3 jsou nabízeny v různých modelech konfigurace na objednávku (CTO), které slouží jako rámec pro přizpůsobení. Možnost přizpůsobení konfiguračních modelů se rozšiřuje i na podrobný výběr grafických procesorů (GPU), kde jsou modely definovány na základě konkrétních vybraných GPU. Například základní kódy funkcí uvedené v konfigurátoru Lenovo umožňují výběr mezi AMD MI300X a NVIDIA H100/H200, přičemž každý z nich uspokojí jiné výkonové a výpočetní potřeby. Konstrukce platformy dává společnosti Lenovo větší flexibilitu při integraci nových akcelerátorů, jakmile se dostanou na trh.
Specifikace Lenovo ThinkSystem SR685a V3
| Komponenty | Specifikace |
| Formální faktor | 8U stojan |
| Procesor | Dva procesory AMD EPYC řady 9004 (dříve s kódovým označením „Genoa“). Podporuje procesory s až 64 jádry, rychlostí jádra až 3.1 GHz a TDP až 400 W. Podporuje PCIe 5.0 pro vysoce výkonné I/O operace. |
| GPU | Výběr z:
|
| Memory | 24 slotů DIMM se dvěma procesory (12 slotů DIMM na procesor). Každý procesor má 12 paměťových kanálů s 1 modulem DIMM na kanál (DPC). Moduly Lenovo TruDDR5 RDIMM jsou podporovány až do 4800 MHz. |
| Maximální paměť | Až 1.5 TB s 24x 64GB RDIMM Až 2.25 TB s 24x 96GB RDIMM |
| Ochrana paměti | ECC, SDDC, čištění hlídek/požadavek, ohraničená chyba, parita adresních příkazů DRAM s přehráním, opakování neopravené chyby ECC v DRAM, ECC na čipu, kontrola a čištění chyb ECC (ECS), oprava po konfiguraci balíčku |
| Pozice pro diskové jednotky | Až 16 2.5palcových pozic pro hot-swap disky s podporou disků PCIe 5.0 NVMe. |
| Bootovací disky operačního systému | Podpora adaptéru M.2 s integrovaným polem RAID-1; podpora 2 disků NVMe M.2 pro bootování operačního systému a funkce ukládání dat |
| Maximální interní úložiště | 51.2 TB s použitím 16x 3.2TB 2.5palcových NVMe SSD disků |
| Řadič úložiště | Integrovaný NVMe (bez RAID) |
| Síťová rozhraní | Podporuje 8 vysoce výkonných síťových adaptérů s konektivitou až 400 Gb/s s podporou GPU Direct. Podporuje 2portový 200Gb adaptér NVIDIA BlueField-3 pro uživatelskou/řídicí rovinu a volitelně síťový adaptér OCP pro správu. Slot OCP 3.0 má hostitelské rozhraní PCIe 5.0 x16, přičemž jeden port je volitelně sdílen s procesorem pro správu XClarity Controller 2 (XCC2) pro podporu Wake-on-LAN a NC-SI. |
| Rozšiřující sloty PCI | 10 slotů PCIe 5.0 x16:
|
| porty | Přední strana: 1x port USB 3.2 G1 (5 Gb/s), 1x port USB 2.0 (také pro lokální správu XCC), 1x video port VGA. Zadní strana: 3x porty USB 3.2 G1 (5 Gb/s), 1x video port VGA, 1x port RJ-45 1GbE pro správu systémů pro vzdálenou správu XCC. |
| Chlazení | 5x přední dvourotorové ventilátory pro CPU a úložný subsystém, redundantní N+1. 10x zadní dvourotorové ventilátory pro GPU subsystém, redundantní N+1. V každém napájecím zdroji je integrován jeden ventilátor. Proudění vzduchu zepředu dozadu. |
| napájení | Osm redundantních AC napájecích zdrojů s možností výměny za provozu a redundancí až N+N. Certifikace 80 PLUS Titanium. 2600W AC napájecí zdroje vyžadující napájení 220 V AC. |
| Video | V řadiči XClarity je integrována integrovaná grafická karta s 16 MB paměti a 2D hardwarový akcelerátor. Dva video porty (přední VGA a zadní VGA) nelze používat současně; použití předního portu VGA deaktivuje zadní port VGA. Maximální rozlišení je 1920×1200 32bpp při 60Hz. |
| Díly vyměnitelné za provozu | Pohony, napájecí zdroje a ventilátory. |
| Řízení systémů | Integrovaný diagnostický panel se stavovými LED diodami a výsuvným LCD displejem. Vestavěná správa XClarity Controller 2 (XCC2) založená na základní desce ASPEED AST2600 (BMC). Vyhrazený zadní ethernetový port pro vzdálený přístup XCC2 pro správu. XClarity Administrator pro centralizovanou správu infrastruktury, pluginy XClarity Integrator a centralizovaná správa napájení serveru XClarity Energy Manager. Volitelný XCC Platinum umožňuje funkce vzdáleného ovládání a další funkce. |
| Bezpečnostní prvky | Heslo pro zapnutí, heslo správce, modul Root of Trust s podporou TPM 2.0 a odolnost firmwaru platformy (PFR). |
| Podporované operační systémy | Server Ubuntu. |
| Omezená záruka | Tříletá nebo roční (v závislosti na modelu) záruka na jednotku vyměnitelnou zákazníkem a omezená záruka na místě s doručením do 9 hodin denně, 5 dní v týdnu (NBD). |
| Servis a podpora | Volitelné upgrady služeb jsou k dispozici prostřednictvím služeb Lenovo: doba odezvy 4 nebo 2 hodiny, doba opravy 6 hodin, prodloužení záruky o 1 nebo 2 roky, softwarová podpora pro hardware Lenovo a některé aplikace třetích stran. |
| Rozměry | Šířka: 447 mm (17.6 palce), výška: 351 mm (13.8 palce), hloubka: 924 mm (36.3 palce). |
| Hmotnost | Maximální: 108.9 kg (240 lb) |
Specifikace Lenovo ThinkSystem SR680a V3
| Komponenty | Specifikace |
| Formální faktor | 8U stojan |
| Procesor | Dva škálovatelné procesory Intel Xeon 5. generace (dříve s kódovým označením „Emerald Rapids“). Podporuje procesor se 48 jádry, frekvencí jádra 2.3 GHz a TDP 350 W. Podporuje PCIe 5.0 pro vysoce výkonné I/O operace. |
| chipset | Čipová sada Intel C741 „Emmitsburg“, součást platformy s kódovým označením „Eagle Stream“ |
| GPU | Výběr z:
|
| Memory | 32 slotů DIMM se dvěma procesory (16 slotů DIMM na procesor). Každý procesor má 8 paměťových kanálů, se 2 moduly DIMM na kanál (DPC). Jsou podporovány moduly Lenovo TruDDR5 RDIMM. Moduly DIMM pracují s frekvencí až 5600 MHz při 1 DPC a až 4400 MHz při 2 DPC. |
| Maximální paměť | Až 2 TB s 32x 64GB RDIMM |
| Ochrana paměti | ECC, SDDC (pro paměťové moduly DIMM založené na architektuře x4), ADDDC (pro paměťové moduly DIMM založené na architektuře x4 s výjimkou modulů 9×4 RDIMM, vyžaduje procesory Platinum nebo Gold) a zrcadlení paměti. |
| Pozice pro diskové jednotky | Až 16 2.5palcových pozic pro hot-swap disky s podporou disků PCIe 5.0 NVMe. |
| Bootovací disky operačního systému | Podpora dvou disků M.2 s volitelnou podporou Intel VROC NVMe RAID pro spouštění operačního systému a funkce ukládání dat |
| Maximální interní úložiště | 51.2 TB s použitím 16x 3.2TB 2.5palcových NVMe SSD disků |
| Řadič úložiště | Integrovaný NVMe (bez RAID) |
| Síťová rozhraní | Podporuje 8 vysoce výkonných síťových adaptérů s konektivitou až 400 Gb/s s podporou GPU Direct. Podporuje 2portový 200Gb adaptér NVIDIA BlueField-3 pro uživatelskou/řídicí rovinu a 2portový 10/25GbE adaptér Mellanox ConnectX-6 Lx pro správu. |
| Rozšiřující sloty PCI | 10 slotů PCIe 5.0 x16:
|
| porty | Přední strana: 1x port USB 3.2 G1 (5 Gb/s), 1x port USB 2.0 (také pro lokální správu XCC), 1x video port Mini DisplayPort. Zadní strana: 2x porty USB 3.2 G1 (5 Gb/s), 1x video port VGA, 1x port RJ-45 1GbE pro správu systémů pro vzdálenou správu XCC. |
| Chlazení | 5x přední dvourotorové ventilátory pro CPU a úložný subsystém, redundantní N+1. 10x zadní dvourotorové ventilátory pro GPU subsystém, redundantní N+1. V každém napájecím zdroji je integrován jeden ventilátor. Proudění vzduchu zepředu dozadu. |
| napájení | Osm redundantních AC napájecích zdrojů s možností výměny za provozu a redundancí až N+N. Certifikace 80 PLUS Titanium. 2600W AC napájecí zdroje vyžadující napájení 220 V AC. |
| Video | Do řídicí jednotky XClarity Controller 2 je integrována vestavěná grafika s 16 MB paměti a 2D hardwarový akcelerátor. Dva video porty (přední Mini DisplayPort a zadní VGA); oba lze v případě potřeby používat současně. Maximální rozlišení obou portů je 1920×1200 při 60 Hz. |
| Díly vyměnitelné za provozu | Pohony, napájecí zdroje a ventilátory. |
| Řízení systémů | Integrovaný diagnostický panel se stavovými LED diodami a výsuvným LCD displejem. Vestavěná správa XClarity Controller 2 (XCC2) založená na základní desce ASPEED AST2600 (BMC). Vyhrazený zadní ethernetový port pro vzdálený přístup XCC2 pro správu. XClarity Administrator pro centralizovanou správu infrastruktury, pluginy XClarity Integrator a centralizovaná správa napájení serveru XClarity Energy Manager. Volitelný XCC Platinum umožňuje funkce vzdáleného ovládání a další funkce. |
| Bezpečnostní prvky | Heslo pro zapnutí, heslo správce, modul Root of Trust s podporou TPM 2.0 a odolnost firmwaru platformy (PFR). |
| Podporované operační systémy | Server Ubuntu. |
| Omezená záruka | Tříletá nebo roční (v závislosti na modelu) záruka na jednotku vyměnitelnou zákazníkem a omezená záruka na místě s doručením do 9 hodin denně, 5 dní v týdnu (NBD). |
| Servis a podpora | Volitelné upgrady služeb jsou k dispozici prostřednictvím služeb Lenovo: doba odezvy 4 nebo 2 hodiny, doba opravy 6 hodin, prodloužení záruky o 1 nebo 2 roky, softwarová podpora pro hardware Lenovo a některé aplikace třetích stran. |
| Rozměry | Šířka: 447 mm (17.6 palce), výška: 351 mm (13.8 palce), hloubka: 924 mm (36.3 palce). |
| Hmotnost | Maximální: 108.7 kg (239.8 lb) |
Návrh a sestavení Lenovo ThinkSystem SR685a V3 a SR680a V3
Přední strana systému podporuje až 16 hot-swap pozic pro disky PCIe Gen5 NVMe – neobvykle velkorysý počet pro servery zaměřené na GPU, které obvykle nabízejí méně pozic a linek pro rozšíření. Pod pozicemi pro disky se nachází osm zepředu přístupných slotů PCIe Gen5 FHHL (Full Height, Half Length) a přepínací komplex PCIe. Tyto sloty jsou vybaveny technologií GPU Direct (osm adaptérů NDR 400Gb/s InfiniBand), což umožňuje vysokorychlostní síťové a datové přenosy pro snížení latence a zvýšení rychlosti zpracování dat.
Systém obsahuje v horní části šasi pět ventilátorů vyměnitelných za provozu, které jsou určeny k chlazení serveru, jenž zabírá horní 2U sloty, včetně CPU, paměti a zadních slotů. Dalších deset ventilátorů je namontováno v zadní části šasi a chladí pozice pro jednotky, adaptéry a grafické karty.
Přední panel také obsahuje základní porty pro připojení a správu, včetně tří portů USB 3.2 Gen1 a video výstupu, které usnadňují přímou správu a interakci s lokální konzolí.
Zadní strana je stejně dobře vybavena, včetně možností rozšíření serveru o 2U. Varianta s AMD nabízí jeden slot PCIe Gen5 x16 FHHL a slot OCP 3.0 vybavený rozhraním PCIe Gen5 x16. Naopak model s Intelem má dva sloty PCIe Gen5 x16 FHHL. Slot OCP 3.0 poskytuje všestranné možnosti síťového připojení a akcelerace díky možnosti osazení různými adaptéry splňujícími otevřené standardy. Lze instalovat adaptéry NVIDIA BlueField-3 DPU, které umožňují softwarově definovanou a hardwarově akcelerovanou IT infrastrukturu a optimalizují různé IT operace, jako jsou sítě a zabezpečení.
V zadní části grafické karty se nachází osm napájecích zdrojů o výkonu 2 600 W, z nichž každý je připojen k centrální rozvodné desce. Tato sestava zahrnuje konektory na zadní straně desky – Lenovo je označuje jako „slepý konektor“ – které usnadňují bezproblémové připojení k 2U výpočetnímu shuttleu.
Jak již bylo zmíněno výše, zadní pohled odhaluje rozsáhlý chladicí systém serveru, včetně deseti zadních ventilátorů s možností výměny za provozu, které jsou navrženy tak, aby udržovaly optimální tepelné podmínky napříč grafickými kartami, přepínači a PCIe fabric. Tento chladicí systém je klíčový pro udržení stability výkonu a dlouhé životnosti hardwaru, zejména při nepřetržitém provozu s vysokým zatížením.
Napájení, kabeláž a přepínání
Verze této serverové řady od AMD a Intel sdílejí společné rozložení napájení, což umožňuje větší modularitu, což je hlavní výhodou těchto systémů.
Signalizace PCIe protéká plochými kabely, které spojují výpočetní modul s přepínacím modulem PCIe. Na druhé straně výpočetního modulu je zaslepený konektor. Výpočetní modul se připojuje k těmto konektorům a předává signál PCIe zbytku šasi. Držák na zadní straně modulu (označený příslušným konektorem PCIe) umožňuje přepínat mezi výpočetními moduly bez nutnosti úpravy spodní části serveru.
Přepínací deska PCIe obsahuje čtyři přepínače Broadcom obklopené sloty PCIe, které umožňují serveru připojení k vysokorychlostní síťové síti. Kromě toho je zde osm konektorů kabelů MCIO propojujících základní desku. Menší konektory PCIe nahoře jsou určeny pro propojovací desky disků pro čelně montované SSD disky NVMe.
Paměť a interní úložiště
Výpočetní systém AMD podporuje až 24 paměťových modulů DDR5 DIMM, přičemž každý procesor je propojen s 12 moduly DIMM prostřednictvím 12 paměťových kanálů, což umožňuje konfiguraci s jedním modulem DIMM na kanál. Tyto moduly DIMM pracují s frekvencí 4800 MHz, což zvyšuje celkovou propustnost a efektivitu paměti. V závislosti na konfiguraci může server podporovat buď 1.5 TB systémové paměti s použitím 24 modulů RDIMM o kapacitě 64 GB, nebo 2.25 TB s použitím 24 modulů RDIMM o kapacitě 96 GB, což poskytuje dostatečnou kapacitu i pro ty nejnáročnější úlohy na paměť.
Výpočetní jednotka Intel (SR680a V3) využívá paměť Lenovo TruDDR5, která pracuje s rychlostí až 5600 MHz. Podporuje také vyšší kapacitu než procesory AMD, a to až 32 modulů DIMM napříč dvěma procesory, přičemž využívá 8 paměťových kanálů pro podporu 2 modulů DIMM na kanál (DPC). V závislosti na konfiguraci paměti může server podporovat až 2 TB systémové paměti s použitím 32x 64GB modulů RDIMM.
Provozní rychlosti modulů DIMM se liší v závislosti na počtu modulů DIMM na kanál: s 1 modulem DIMM na kanál může paměť dosáhnout rychlosti až 5600 MHz, zatímco konfigurace se 2 moduly DIMM na kanál budou pracovat až na 4400 MHz. Toto flexibilní nastavení rychlosti pomáhá optimalizovat výkon na základě konkrétního zatížení paměti a konfigurace.
Server navíc umožňuje instalaci dvou M.2 NVMe disků na adaptéru M.2 s integrovanou funkcí RAID, což je ideální pro spouštění operačního systému a rychlý přístup k datům.
Základní desky s grafickými kartami AMD a NVIDIA
Základní deska NVIDIA H100/H200 je pevně zabalená s osmi grafickými kartami NVIDIA a má zasouvací rukojeť, která usnadňuje přenášení a instalaci desky. Po instalaci se rukojeť úhledně zasune vedle grafických karet, aby se zabránilo překážkám. Konektory mezi deskami AMD a NVIDIA jsou identické. Deska Intel Gaudi 3 bude mít jiný konektor.
Základní deska AMD MI300 je podobná základní desce NVIDIA, ale má standardní rukojeť, která výrazně vyčnívá. I když je stále užitečná, není tak elegantní jako zasouvací rukojeť na základní desce NVIDIA. Zákazníkům to nebude vadit ani jedno, proto jsme přidali poznámku pod čarou, protože nás zaujal designový rozdíl.
Závěrečné myšlenky
Servery Lenovo ThinkSystem SR685a V3 a SR680a V3 s grafickými procesory (GPU) nabízejí působivou modularitu a podporují výkonné grafické procesory NVIDIA H100/H200 a AMD MI300X, stejně jako procesory AMD EPYC 9004 a 5. generace Xeon Intel. Tato flexibilita a vzduchem chlazený design usnadňují jejich integraci do stávajících ekosystémů. Servery také podporují více úložiště než typické servery s grafickými procesory (prostřednictvím 16 hot-swap pozic pro disky PCIe Gen5 NVMe), což zvyšuje jejich užitečnost pro úlohy náročné na data. Navíc integrace Lenovo XClarity pro správu zajišťuje efektivní provoz a monitorování, což dále zjednodušuje správu složitých infrastruktur.
Přestože nebyly provedeny výkonnostní testy, je design těchto serverů pozoruhodný. Modulární architektura umožňuje společnosti Lenovo snadno nabízet svým zákazníkům grafické karty AMD a NVIDIA s počítačovými servery Intel nebo AMD. Díky větší podpoře grafických karet, jako je Intel Guadi 3 a NVIDIA B200, může Lenovo umožnit zákazníkům kombinovat výpočetní a grafické komponenty pro ladění serverů pro specifické aplikace.
Celkově jsou tyto servery velmi dobře promyšlené a těšíme se, až si s nimi strávíme čas v praxi; Jordan si s napětím hladil vousy. Zatímco my momentálně pracujeme na projektu s Lenovo SR675 v3 se čtyřmi grafickými kartami NVIDIA L40S, tyto 8procesorové servery jsou jiná věc a mají širokou škálu využití umělé inteligence. To je ale dobrá připomínka toho, že Lenovo nabízí platformu umělé inteligence pro každého.
Amazon