Serwer Lenovo ThinkSystem SR675 V3, wyposażony w nowe procesory graficzne L40S firmy NVIDIA, zaprezentowano na konferencji SIGGRAPH w Los Angeles. Stał się on centralnym punktem planów firmy NVIDIA, mających na celu przyspieszenie globalnych wdrożeń sztucznej inteligencji i zaprezentowanie użytkownikom z różnych branż generatywnych aplikacji AI, takich jak inteligentne chatboty, narzędzia do wyszukiwania i podsumowywania.
Nowy ThinkSystem został zaprezentowany jako serwer NVIDIA OVX i wkrótce zintegruje niedawno zapowiedziane procesory graficzne NVIDIA L40S. Oczekuje się, że ta współpraca zrewolucjonizuje implementację sztucznej inteligencji, umożliwiając jej wykorzystanie w nowej generacji sztucznej inteligencji, immersyjnych symulacji metaświata oraz podejmowanie decyzji poznawczych na dużą skalę.
Procesory graficzne NVIDIA L40S
Nowo zaprezentowany procesor graficzny NVIDIA L40S to wydajny, uniwersalny procesor dla centrów danych, zaprojektowany specjalnie do przyspieszenia aplikacji wymagających dużej mocy obliczeniowej, takich jak szkolenie i wnioskowanie w sztucznej inteligencji, projektowanie i wizualizacja 3D, przetwarzanie wideo oraz cyfryzacja przemysłowa dzięki platformie NVIDIA Omniverse. Oferuje on przełomową akcelerację wielozadaniową w aplikacjach wnioskowania i ponownego trenowania w oparciu o duże modele językowe (LLM), a także w aplikacjach graficznych i wideo.
Procesor graficzny L40S umożliwia obsługę nowej generacji aplikacji obsługujących sztuczną inteligencję, takich jak dźwięk, mowa, 2D, wideo i 3D. Jest on kluczowym komponentem nadchodzących platform NVIDIA Omniverse OVX 3.0, oferując wysoką wierność i dokładność cyfrowych bliźniaków.
Procesor graficzny NVIDIA L40S będzie kluczowym elementem systemów NVIDIA OVX. Dzięki architekturze procesora graficznego NVIDIA Ada Lovelace i 48 GB pamięci RAM, każdy serwer może pomieścić do ośmiu procesorów graficznych L40S. Wyposażony jest również w rdzenie Tensor czwartej generacji i procesor FP8 Transformer Engine, zapewniając imponującą moc obliczeniową Tensor na poziomie 1.45 petaflopsa.
W porównaniu ze swoim poprzednikiem, procesorem graficznym NVIDIA A100 Tensor Core, L40S charakteryzuje się nawet 1.2-krotnie większą wydajnością generatywnego wnioskowania AI i nawet 1.7-krotnie szybszą wydajnością szkolenia w obsłudze złożonych obciążeń AI obejmujących miliardy parametrów i wiele modalności danych.
Procesor graficzny L40S został zaprojektowany z myślą o szerokiej gamie profesjonalnych procesów roboczych. Zawiera 142 rdzenie RT trzeciej generacji, zapewniające wydajność 212 teraflopów ray tracingu, co idealnie sprawdza się w profesjonalnych procesach wizualizacji o wysokiej wierności, takich jak renderowanie w czasie rzeczywistym, projektowanie produktów i tworzenie treści 3D.
Ponadto 18 176 rdzeni CUDA komputera L40S zapewnia prawie 5-krotnie większą wydajność obliczeń zmiennoprzecinkowych pojedynczej precyzji (FP32) niż procesor graficzny NVIDIA A100, co gwarantuje, że wymagania obliczeniowe w zakresie symulacji inżynieryjnych i naukowych są spełniane z większą wydajnością.
Konfiguracje ThinkSystem SR675 V3
Lenovo zajmuje strategiczną pozycję, wspierając L40S dzięki nowej linii serwerów zoptymalizowanych pod kątem nowych procesorów graficznych. Łącząc w pełni symulowane cyfrowe bliźniaki z generatywną sztuczną inteligencją, Lenovo dąży do usprawnienia swoich procesów biznesowych i poprawy wyników projektowania. Współpraca Lenovo i NVIDIA w zakresie systemu NVIDIA OVX ułatwia tworzenie i obsługę wirtualnych światów, rozszerzając możliwości systemu o generatywną sztuczną inteligencję i zapewniając wydajność energetyczną w centrach danych z obciążeniami AI.
ThinkSystem SR675 V3 oferuje trzy konfiguracje serwera w jednym, w tym obsługę systemów NVIDIA HGX A100 z 4 GPU z NVLink i hybrydowym chłodzeniem cieczowym Lenovo Neptune. Dodatkowo jest kompatybilny z konfiguracjami z 4 lub 8 GPU, w tym serwerami NVIDIA L40S, NVIDIA H100 80GB lub NVIDIA H100 NVL w obudowie 3U.
Lenovo postrzega te zmiany jako znaczący krok naprzód w upraszczaniu wdrażania sztucznej inteligencji, udostępnianiu jej organizacjom każdej wielkości oraz wdrażaniu rewolucyjnej inteligencji we wszystkich branżach.
Konfiguracje ThinkSystem SR675 V3: moduły podstawowe, gęste i HGX
W kontekście konfiguracji serwerów AI/HPC, zrozumienie kompromisów i korzyści płynących z różnych konfiguracji ma kluczowe znaczenie dla optymalizacji i spełnienia specyficznych wymagań dotyczących obciążeń. Lenovo ThinkSystem SR675 V3 oferuje elastyczność dzięki konfiguracjom modułów Base, Dense i HGX, z których każda została zaprojektowana z myślą o konkretnych potrzebach.
Moduł podstawowy
Konfiguracja modułu bazowego jest przeznaczona dla organizacji poszukujących zrównoważonego połączenia obsługi GPU i pojemności pamięci masowej. Może pomieścić do 4 procesorów graficznych FHFL o podwójnej szerokości, pełnej wysokości i pełnej długości, wykorzystując złącza PCIe Gen5 x16. Zapewnia to przyzwoite możliwości przetwarzania równoległego dla obciążeń związanych ze sztuczną inteligencją i uczeniem głębokim.
Pod względem pamięci masowej moduł podstawowy obsługuje do 8 dysków 2.5” Hot Swap SAS/SATA/NVMe, zapewniając równowagę między pojemnością pamięci masowej a szybkością.
Gęsty moduł
Dla organizacji, które priorytetowo traktują przetwarzanie równoległe GPU, moduł Dense obsługuje do 8 procesorów graficznych o podwójnej szerokości, pełnej wysokości i pełnej długości. Każdy procesor graficzny korzysta z PCIe Gen5 x16 na przełączniku PCIe, maksymalizując w ten sposób liczbę procesorów graficznych na jednym serwerze, co przekłada się na ulepszone przetwarzanie równoległe.
Jeśli chodzi o pamięć masową, moduł Dense jest wszechstronny. Obsługuje do 6 dysków SSD EDSFF E1.S NVMe lub do 4 dysków SSD EDSFF E3.S 1T NVMe HS. Ta konfiguracja jest idealna w scenariuszach, w których intensywne przetwarzanie danych wymaga większej liczby procesorów graficznych kosztem pewnej elastyczności pamięci masowej.
Moduł HGX
Konfiguracja modułu HGX jest specjalistyczna i zaspokaja potrzeby wysokiej wydajności przy specyficznych wymaganiach GPU. Wykorzystuje on układ NVIDIA HGX H100 z czterema procesorami graficznymi SXM5 połączonymi przez NVLink. Te procesory graficzne SXM5 mogą ograniczać całkowitą liczbę układów, które można zmieścić w obudowie, ale oferują one doskonałą wydajność chipów, dzięki czemu idealnie nadają się do wymagających zadań z zakresu sztucznej inteligencji i głębokiego uczenia.
Moduł HGX został zoptymalizowany pod kątem szybkości przechowywania danych. Może pomieścić do 4 dysków SSD NVMe Hot Swap 2.5” lub do 4 dysków SSD EDSFF E3.S 1T NVMe HS.
Myśli końcowe
Każda konfiguracja modułowa ThinkSystem SR675 V3 ma swoje unikalne zalety. Podczas gdy procesory graficzne SXM5 w module HGX oferują niezrównaną wydajność, organizacje wymagające większej liczby operacji przetwarzania równoległego mogą zdecydować się na moduł Dense, aby pomieścić więcej procesorów graficznych PCIe. Wiąże się to jednak z utratą TDP i potencjalnym spadkiem wydajności. Moduł podstawowy stanowi rozwiązanie pośrednie, oferując równowagę między obsługą procesorów graficznych a opcjami pamięci masowej. Jak zawsze, najlepszy wybór zależy od konkretnych wymagań i ograniczeń danego zadania, a my nigdy nie wyrzucilibyśmy żadnej z tych konfiguracji z naszego laboratorium.
Amazon