Serwery GPU Lenovo ThinkSystem SR685a V3 i SR680a V3 to najnowsze serwery GPU firmy z 8 procesorami, dostosowane do zróżnicowanych potrzeb przedsiębiorstw w zakresie sztucznej inteligencji. Pomimo odrębnych nazw modeli, mają one wspólną modułową podstawę, umożliwiającą wymienność komponentów w ramach każdego systemu.
Zasadniczo serwery te składają się z trzech lub czterech rdzeni, w zależności od sposobu liczenia. Po pierwsze, zewnętrzna obudowa tworzy obudowę z wbudowanymi wentylatorami z tyłu. Wewnętrzne szyny na górze mieszczą modułowy serwer 2U. Dolna część 6U mieści procesory graficzne, przełączniki i magistralę PCIe. Serwery 2U mają różne wejścia/wyjścia w zależności od oferty procesorów AMD lub Intel. Lenovo obsługuje obecnie karty graficzne NVIDIA i AMD, a w przyszłości Intel Guadi 3.
Lenovo SR685a V3 (małe „a” jak AI) wykorzystuje dwa procesory AMD EPYC czwartej generacji i jest zoptymalizowany pod kątem komunikacji GPU-GPU o dużej przepustowości, co czyni go idealnym rozwiązaniem dla generatywnych aplikacji AI. Z kolei SR680a V3, wyposażony w procesory Intel Xeon Scalable piątej generacji, obsługuje wszechstronne aplikacje AI i obliczeniowe, obsługując procesory graficzne NVIDIA i AMD, spełniając zróżnicowane potrzeby branżowe. Oba modele charakteryzują się innowacyjnym podejściem do modułowości, umożliwiając użytkownikom dostosowywanie i skalowanie systemów w celu precyzyjnego dopasowania do konkretnych wymagań operacyjnych.
Te serwery cieszą się ogromnym zainteresowaniem (choć obecnie trudno je zdobyć) i wzbudziły spore zainteresowanie na zeszłorocznej konferencji Lenovo w Austin. Serwery GPU i ich potencjał w zakresie rozwoju sztucznej inteligencji budzą ogromne emocje.
Konfigurowalne modele i personalizacja
Systemy Lenovo ThinkSystem SR685a V3 i SR680a V3 są oferowane w różnych modelach konfigurowanych na zamówienie (CTO), które stanowią platformę do personalizacji. Możliwość personalizacji modeli konfiguracji obejmuje szczegółowy wybór procesorów graficznych, gdzie modele są definiowane na podstawie konkretnych wybranych procesorów graficznych. Na przykład, podstawowe kody funkcji wymienione w konfiguratorze Lenovo umożliwiają wybór pomiędzy procesorami AMD MI300X i NVIDIA H100/H200, z których każdy spełnia inne wymagania dotyczące wydajności i mocy obliczeniowej. Konstrukcja platformy zapewnia Lenovo większą elastyczność w integracji nowych akceleratorów w miarę ich pojawiania się na rynku.
Specyfikacja Lenovo ThinkSystem SR685a V3
| Komponenty | Specyfikacja |
| Budowa | Szafa 8U |
| Procesor | Dwa procesory AMD EPYC serii 9004 (dawniej o nazwie kodowej „Genoa”). Obsługuje procesory do 64 rdzeni, taktowanie rdzeni do 3.1 GHz i TDP do 400 W. Obsługuje PCIe 5.0 dla wysokiej wydajności wejścia/wyjścia. |
| GPU | Wybór:
|
| Pamięć | 24 gniazda DIMM z dwoma procesorami (12 gniazd DIMM na procesor). Każdy procesor ma 12 kanałów pamięci, z 1 modułem DIMM na kanał (DPC). Moduły Lenovo TruDDR5 RDIMM są obsługiwane do 4800 MHz. |
| Maksymalna ilość pamięci | Do 1.5 TB z 24 modułami RDIMM po 64 GB Do 2.25 TB z 24 modułami RDIMM po 96 GB |
| Ochrona pamięci | ECC, SDDC, czyszczenie pamięci patrolowej/na żądanie, błąd ograniczony, parzystość poleceń adresów DRAM z powtórzeniem, ponawianie próby naprawy nieskorygowanego błędu ECC w pamięci DRAM, ECC na układzie scalonym, sprawdzanie błędów ECC i czyszczenie (ECS), naprawa po pakiecie |
| Zatoki na dyski | Do 16 zatok na dyski 2.5-calowe z możliwością wymiany podczas pracy, obsługujących dyski PCIe 5.0 NVMe. |
| Dyski rozruchowe systemu operacyjnego | Obsługa adaptera M.2 ze zintegrowanym RAID-1; obsługa 2 dysków NVMe M.2 do uruchamiania systemu operacyjnego i przechowywania danych |
| Maksymalna pamięć wewnętrzna | 51.2 TB przy użyciu 16 dysków SSD NVMe o pojemności 3.2 TB i przekątnej 2.5 cala |
| Kontroler pamięci masowej | Wbudowana karta NVMe (bez RAID) |
| Interfejsy sieciowe | Obsługuje 8 wydajnych kart sieciowych o przepustowości do 400 Gb/s z obsługą GPU Direct. Obsługuje 2-portową kartę NVIDIA BlueField-3 200 Gb/s dla płaszczyzny użytkownika/kontroli oraz kartę sieciową OCP do zarządzania. Gniazdo OCP 3.0 posiada interfejs hosta PCIe 5.0 x16, a jeden port jest opcjonalnie współdzielony z procesorem zarządzającym XClarity Controller 2 (XCC2) w celu obsługi funkcji Wake-on-LAN i NC-SI. |
| Gniazda rozszerzeń PCI | 10 gniazd PCIe 5.0 x16:
|
| porty | Przód: 1x port USB 3.2 G1 (5 Gb/s), 1x port USB 2.0 (również do lokalnego zarządzania XCC), 1x port wideo VGA. Tył: 3 porty USB 3.2 G1 (5 Gb/s), 1 port wideo VGA, 1 port zarządzania systemem RJ-45 1GbE do zdalnego zarządzania XCC. |
| Chłodzenie | 5 wentylatorów z podwójnym wirnikiem montowanych z przodu dla podsystemu CPU i pamięci masowej, redundantnych w konfiguracji N+1. 10 wentylatorów z podwójnym wirnikiem montowanych z tyłu dla podsystemu GPU, redundantnych w konfiguracji N+1. Jeden wentylator zintegrowany z każdym zasilaczem. Przepływ powietrza od przodu do tyłu. |
| Zasilanie | Osiem wymienialnych na gorąco, redundantnych zasilaczy prądu przemiennego o redundancji do N+N. Certyfikat 80 PLUS Titanium. Zasilacze prądu przemiennego o mocy 2600 W wymagające zasilania prądem przemiennym 220 V. |
| Wideo | Wbudowana grafika wideo z 16 MB pamięci i sprzętowym akceleratorem 2D jest zintegrowana z kontrolerem XClarity. Dwa porty wideo (przedni VGA i tylny VGA) nie mogą być używane jednocześnie; korzystanie z przedniego portu VGA powoduje wyłączenie tylnego portu VGA. Maksymalna rozdzielczość to 1920×1200 32 bity na piksel przy 60 Hz. |
| Części zamienne na gorąco | Napędy, zasilacze i wentylatory. |
| Zarządzanie systemami | Zintegrowany panel diagnostyczny z diodami LED stanu i wysuwanym wyświetlaczem LCD. Wbudowany system zarządzania XClarity Controller 2 (XCC2) oparty na kontrolerze ASPEED AST2600 (BMC). Dedykowany tylny port Ethernet do zdalnego dostępu do XCC2. XClarity Administrator do scentralizowanego zarządzania infrastrukturą, wtyczki XClarity Integrator oraz scentralizowane zarządzanie energią serwera XClarity Energy Manager. Opcjonalny system XCC Platinum umożliwia zdalne sterowanie i inne funkcje. |
| Funkcjonalność związana z bezpieczeństwem | Hasło uruchomieniowe, hasło administratora, moduł Root of Trust obsługujący TPM 2.0 i odporność oprogramowania sprzętowego platformy (PFR). |
| Obsługiwane systemy operacyjne | Serwer Ubuntu. |
| Ograniczona gwarancja | Trzyletnia lub roczna (w zależności od modelu) gwarancja na jednostkę wymienianą przez klienta i naprawę na miejscu z dostawą następnego dnia roboczego (NBD) w godzinach 9×5. |
| Serwis i wsparcie | W ramach Lenovo Services dostępne są opcjonalne rozszerzenia usług: czas reakcji wynoszący 4 lub 2 godziny, czas naprawy wynoszący 6 godzin, przedłużenie gwarancji o 1 rok lub 2 lata, wsparcie oprogramowania dla sprzętu Lenovo oraz niektórych aplikacji innych firm. |
| Wymiary | Szerokość: 447 mm (17.6 cala), wysokość: 351 mm (13.8 cala), głębokość: 924 mm (36.3 cala). |
| Waga | Maksymalnie: 108.9 kg (240 funta) |
Specyfikacja Lenovo ThinkSystem SR680a V3
| Komponenty | Specyfikacja |
| Budowa | Szafa 8U |
| Procesor | Dwa procesory Intel Xeon Scalable piątej generacji (wcześniej o nazwie kodowej „Emerald Rapids”). Obsługuje procesor z 48 rdzeniami, taktowaniem rdzenia 2.3 GHz i TDP 350 W. Obsługuje PCIe 5.0 dla zapewnienia wysokiej wydajności wejścia/wyjścia. |
| chipset | Chipset Intel C741 „Emmitsburg”, część platformy o nazwie kodowej „Eagle Stream” |
| GPU | Wybór:
|
| Pamięć | 32 gniazda DIMM z dwoma procesorami (16 gniazd DIMM na procesor). Każdy procesor ma 8 kanałów pamięci, z 2 modułami DIMM na kanał (DPC). Obsługiwane są moduły Lenovo TruDDR5 RDIMM. Moduły DIMM działają z częstotliwością do 5600 MHz przy 1 DPC i do 4400 MHz przy 2 DPC. |
| Maksymalna ilość pamięci | Do 2 TB z 32 modułami RDIMM po 64 GB |
| Ochrona pamięci | ECC, SDDC (dla modułów pamięci DIMM opartych na architekturze x4), ADDDC (dla modułów pamięci DIMM opartych na architekturze x4, z wyłączeniem modułów 9×4 RDIMM, wymaga procesorów Platinum lub Gold) i lustrzane odbicie pamięci. |
| Zatoki na dyski | Do 16 zatok na dyski 2.5-calowe z możliwością wymiany podczas pracy, obsługujących dyski PCIe 5.0 NVMe. |
| Dyski rozruchowe systemu operacyjnego | Obsługa dwóch dysków M.2 z opcjonalną obsługą Intel VROC NVMe RAID do uruchamiania systemu operacyjnego i przechowywania danych |
| Maksymalna pamięć wewnętrzna | 51.2 TB przy użyciu 16 dysków SSD NVMe o pojemności 3.2 TB i przekątnej 2.5 cala |
| Kontroler pamięci masowej | Wbudowany NVMe (bez RAID) |
| Interfejsy sieciowe | Obsługuje 8 wydajnych kart sieciowych o przepustowości do 400 Gb/s z obsługą GPU Direct. Obsługuje 2-portową kartę NVIDIA BlueField-3 200 Gb/s dla płaszczyzny użytkownika/kontroli oraz 2-portową kartę Mellanox ConnectX-6 Lx 10/25 GbE do zarządzania. |
| Gniazda rozszerzeń PCI | 10 gniazd PCIe 5.0 x16:
|
| porty | Przód: 1x port USB 3.2 G1 (5 Gb/s), 1x port USB 2.0 (również do lokalnego zarządzania XCC), 1x port wideo Mini DisplayPort. Tył: 2 porty USB 3.2 G1 (5 Gb/s), 1 port wideo VGA, 1 port zarządzania systemem RJ-45 1GbE do zdalnego zarządzania XCC. |
| Chłodzenie | 5 wentylatorów z podwójnym wirnikiem montowanych z przodu dla podsystemu CPU i pamięci masowej, redundantnych w konfiguracji N+1. 10 wentylatorów z podwójnym wirnikiem montowanych z tyłu dla podsystemu GPU, redundantnych w konfiguracji N+1. Jeden wentylator zintegrowany z każdym zasilaczem. Przepływ powietrza od przodu do tyłu. |
| Zasilanie | Osiem wymienialnych na gorąco, redundantnych zasilaczy prądu przemiennego o redundancji do N+N. Certyfikat 80 PLUS Titanium. Zasilacze prądu przemiennego o mocy 2600 W wymagające zasilania prądem przemiennym 220 V. |
| Wideo | Wbudowana karta graficzna z pamięcią 16 MB i sprzętowym akceleratorem 2D są zintegrowane z kontrolerem zarządzającym XClarity Controller 2. Dwa porty wideo (Mini DisplayPort z przodu i VGA z tyłu); oba mogą być używane jednocześnie, jeśli jest to pożądane. Maksymalna rozdzielczość obu portów to 1920×1200 przy częstotliwości odświeżania 60 Hz. |
| Części zamienne na gorąco | Napędy, zasilacze i wentylatory. |
| Zarządzanie systemami | Zintegrowany panel diagnostyczny z diodami LED stanu i wysuwanym wyświetlaczem LCD. Wbudowany system zarządzania XClarity Controller 2 (XCC2) oparty na kontrolerze ASPEED AST2600 (BMC). Dedykowany tylny port Ethernet do zdalnego dostępu do XCC2. XClarity Administrator do scentralizowanego zarządzania infrastrukturą, wtyczki XClarity Integrator oraz scentralizowane zarządzanie energią serwera XClarity Energy Manager. Opcjonalny system XCC Platinum umożliwia zdalne sterowanie i inne funkcje. |
| Funkcjonalność związana z bezpieczeństwem | Hasło uruchomieniowe, hasło administratora, moduł Root of Trust obsługujący TPM 2.0 i odporność oprogramowania sprzętowego platformy (PFR). |
| Obsługiwane systemy operacyjne | Serwer Ubuntu. |
| Ograniczona gwarancja | Trzyletnia lub roczna (w zależności od modelu) gwarancja na jednostkę wymienianą przez klienta i naprawę na miejscu z dostawą następnego dnia roboczego (NBD) w godzinach 9×5. |
| Serwis i wsparcie | W ramach Lenovo Services dostępne są opcjonalne rozszerzenia usług: czas reakcji wynoszący 4 lub 2 godziny, czas naprawy wynoszący 6 godzin, przedłużenie gwarancji o 1 rok lub 2 lata, wsparcie oprogramowania dla sprzętu Lenovo oraz niektórych aplikacji innych firm. |
| Wymiary | Szerokość: 447 mm (17.6 cala), wysokość: 351 mm (13.8 cala), głębokość: 924 mm (36.3 cala). |
| Waga | Maksymalnie: 108.7 kg (239.8 funta) |
Projekt i budowa Lenovo ThinkSystem SR685a V3 i SR680a V3
Przód systemu obsługuje do 16 zatok na dyski PCIe Gen5 NVMe typu hot-swap – to niezwykle duża liczba w przypadku serwerów zorientowanych na GPU, które zazwyczaj oferują mniej zatok i linii do rozbudowy. Poniżej zatok na dyski znajduje się osiem dostępnych od przodu gniazd PCIe Gen5 FHHL (o pełnej wysokości i połowie długości) oraz przełącznik PCIe. Gniazda te są wyposażone w technologię GPU Direct (osiem adapterów NDR 400 Gb/s InfiniBand), umożliwiając szybką łączność sieciową i transfer danych, co redukuje opóźnienia i zwiększa prędkość przetwarzania danych.
System posiada pięć wymienialnych na gorąco wentylatorów w górnej części obudowy, zaprojektowanych do chłodzenia serwera, który zajmuje górną część 2U, w tym procesora, pamięci i tylnych gniazd. Dodatkowych dziesięć wentylatorów zamontowano z tyłu obudowy, aby chłodzić wnęki dysków, adaptery i karty graficzne.
Na panelu przednim znajdują się również podstawowe porty łączności i zarządzania, w tym trzy porty USB 3.2 Gen1 i wyjście wideo, ułatwiające bezpośrednie zarządzanie i interakcje z konsolą lokalną.
Tylna część obudowy jest równie dobrze wyposażona, w tym w funkcje rozbudowy serwera 2U. Wersja AMD oferuje jedno gniazdo PCIe Gen5 x16 FHHL oraz gniazdo OCP 3.0 z interfejsem PCIe Gen5 x16. Model Intel natomiast posiada dwa gniazda PCIe Gen5 x16 FHHL. Gniazdo OCP 3.0 zapewnia wszechstronność w zakresie obsługi sieci i akceleracji, obsługując różne karty sieciowe zgodne z otwartymi standardami. Adaptery NVIDIA BlueField-3 DPU umożliwiają stworzenie programowalnej, akcelerowanej sprzętowo infrastruktury IT, optymalizując różne operacje IT, takie jak obsługa sieci i bezpieczeństwo.
Z tyłu jednostki GPU znajduje się osiem zasilaczy o mocy 2,600 W, z których każdy jest podłączony do centralnej płytki rozdzielczej. Ta konfiguracja obejmuje złącza z tyłu płytki – nazywane przez Lenovo „ślepym łącznikiem” – które ułatwiają bezproblemowe podłączenie do modułu obliczeniowego 2U.
Dodatkowo, jak wspomniano powyżej, widok z tyłu ukazuje rozbudowany system chłodzenia serwera, w tym dziesięć tylnych wentylatorów hot-swap, zaprojektowanych w celu utrzymania optymalnych warunków termicznych w procesorach graficznych, przełącznikach i magistrali PCIe. Ten system chłodzenia ma kluczowe znaczenie dla utrzymania stabilności wydajności i trwałości sprzętu, zwłaszcza podczas ciągłej pracy pod dużym obciążeniem.
Zasilanie, okablowanie i przełączanie
Wersje serwerów AMD i Intel korzystają z tego samego układu zasilania, co pozwala na większą modułowość, co jest główną zaletą tych systemów.
Sygnał PCIe przepływa przez kable taśmowe łączące sanki obliczeniowe z przełącznikami PCIe. Po drugiej stronie sanek obliczeniowych znajduje się złącze ślepe. Sanki obliczeniowe łączą się z tymi złączami, przekazując sygnał PCIe do reszty obudowy. Uchwyt z tyłu sanek (oznaczony odpowiednim złączem PCIe) umożliwia przełączanie między modułami obliczeniowymi bez konieczności zmiany dolnej części serwera.
Płyta przełączająca PCIe zawiera cztery przełączniki Broadcom otoczone gniazdami PCIe, co umożliwia serwerowi podłączenie do szybkiej sieci szkieletowej. Dodatkowo, osiem złączy kablowych MCIO łączy się z płytą główną. Mniejsze złącza PCIe u góry przeznaczone są do montażu płyt tylnych dysków SSD NVMe montowanych z przodu.
Pamięć i pamięć wewnętrzna
Procesor AMD obsługuje do 24 modułów pamięci DIMM DDR5, przy czym każdy procesor komunikuje się z 12 modułami DIMM za pośrednictwem 12 kanałów pamięci, co pozwala na konfigurację z jednym modułem DIMM na kanał. Moduły DIMM pracują z częstotliwością 4800 MHz, zwiększając ogólną przepustowość i wydajność pamięci. W zależności od konfiguracji, serwer może obsługiwać 1.5 TB pamięci systemowej przy użyciu 24 modułów RDIMM o pojemności 64 GB lub 2.25 TB przy użyciu 24 modułów RDIMM o pojemności 96 GB, zapewniając wystarczającą pojemność nawet dla najbardziej wymagających zadań.
Serwer Intel Compute (SR680a V3) wykorzystuje pamięć Lenovo TruDDR5 o częstotliwości taktowania do 5600 MHz. Obsługuje również większą pojemność niż AMD, oferując do 32 modułów DIMM w dwóch procesorach, wykorzystując 8 kanałów pamięci do obsługi 2 modułów DIMM na kanał (DPC). W zależności od konfiguracji pamięci, serwer może obsługiwać do 2 TB pamięci systemowej przy użyciu 32 modułów RDIMM o pojemności 64 GB.
Prędkości operacyjne modułów DIMM różnią się w zależności od liczby modułów DIMM na kanał: przy 1 module DIMM na kanał pamięć może osiągnąć prędkość do 5600 MHz, natomiast konfiguracje z 2 modułami DIMM na kanał będą działać z prędkością do 4400 MHz. Ta elastyczna regulacja prędkości pozwala zoptymalizować wydajność w zależności od obciążenia i konfiguracji pamięci.
Ponadto serwer może pomieścić dwa dyski M.2 NVMe na adapterze M.2 ze zintegrowaną funkcjonalnością RAID, co jest idealne do procesów uruchamiania systemu operacyjnego i szybkiego dostępu do danych.
Płyty główne z procesorami graficznymi AMD i NVIDIA
Płyta główna NVIDIA H100/H200 jest wyposażona w osiem procesorów graficznych NVIDIA i posiada wysuwany uchwyt ułatwiający przenoszenie i instalację. Po zainstalowaniu uchwyt można schować obok procesorów graficznych, aby nie przeszkadzał. Złącza między płytami AMD i NVIDIA są identyczne. Płyta Intel Gaudi 3 będzie miała inne złącze.
Płyta główna AMD MI300 jest podobna do płyty głównej NVIDIA, ale ma standardowy uchwyt, który znacznie wystaje. Choć nadal jest użyteczny, nie jest tak elegancki jak chowany uchwyt w płycie głównej NVIDIA. Klienci i tak nie będą się tym przejmować, dlatego dodaliśmy przypis, ponieważ różnica w konstrukcji przykuła naszą uwagę.
Uwagi końcowe
Serwery GPU Lenovo ThinkSystem SR685a V3 i SR680a V3 oferują imponującą modułowość, obsługując wydajne procesory graficzne NVIDIA H100/H200 i AMD MI300X, a także procesory AMD EPYC 9004 i Intel Xeon 5. generacji . Ta elastyczność i chłodzona powietrzem konstrukcja ułatwiają integrację z istniejącymi ekosystemami. Serwery obsługują również większą pamięć masową niż typowe serwery GPU (dzięki 16 wnękom na dyski PCIe Gen5 NVMe z funkcją hot-swap), co zwiększa ich użyteczność w zadaniach wymagających dużej ilości danych. Dodatkowo, włączenie funkcji zarządzania Lenovo XClarity zapewnia usprawnione działanie i monitorowanie, dodatkowo upraszczając zarządzanie złożoną infrastrukturą.
Pomimo braku testów wydajności, konstrukcja tych serwerów jest imponująca. Modułowa architektura pozwala Lenovo z łatwością oferować klientom procesory graficzne AMD i NVIDIA już dziś, w połączeniu z serwerami komputerowymi Intel lub AMD. Dzięki szerszemu wsparciu dla procesorów graficznych, takim jak Intel Guadi 3 i NVIDIA B200, Lenovo może pozwolić klientom na łączenie i dopasowywanie komponentów obliczeniowych i graficznych, aby dostosować serwery do konkretnych aplikacji.
Ogólnie rzecz biorąc, te serwery są bardzo dobrze przemyślane i nie możemy się doczekać, aby spędzić z nimi trochę czasu; Jordan z niepokojem głaskał brodę z niecierpliwością. Chociaż obecnie pracujemy nad projektem z Lenovo SR675 v3 z czterema procesorami graficznymi NVIDIA L40S, te 8-kanałowe serwery to zupełnie inna bajka i mają szeroki zakres zastosowań w dziedzinie sztucznej inteligencji. To jednak dobry sygnał, że Lenovo oferuje platformę AI dla każdego.
Amazon