Samsung rozpoczął masową produkcję dysku PM1763, swojego pierwszego korporacyjnego dysku SSD PCIe Gen6, łączącego pamięć V-NAND 9. generacji z nowo opracowanym kontrolerem 4 nm. Ten flagowy model o pojemności 15.36 TB oferuje prędkość odczytu sekwencyjnego do 28 400 MB/s i zapisu do 21 000 MB/s, a prędkość odczytu jest 1.96 razy większa niż 14 500 MB/s w przypadku zastępowanego przez niego dysku PM1753 Gen5. Samsung twierdzi, że dysk PM1763 przeszedł walidację pod kątem platform AI nowej generacji, a termin jego wprowadzenia na rynek zbiega się z pierwszą falą serwerów obsługujących Gen6, spodziewaną w nadchodzącym roku.
Dlaczego PCIe Gen6 ma znaczenie
PCIe Gen6 podwaja prędkość sygnalizacji na pasmo do 64 GT/s dzięki PAM4, co przekłada się na około 32 GB/s przepustowości w każdym kierunku na standardowym łączu SSD x4, w porównaniu z około 16 GB/s w Gen5. Dyski Gen5 od jakiegoś czasu oscylują wokół tego limitu, a najszybsze modele osiągają prędkość rzędu 14–14.5 GB/s, co jest wartością dopuszczalną przez interfejs.
Przepustowość 28.4 GB/s modułu PM1763 wykorzystuje większość nowego zapasu mocy obliczeniowej, a w przypadku infrastruktury AI praktycznym efektem jest mniejsza liczba dysków potrzebnych do nasycenia ścieżki pamięci serwera GPU, podczas gdy operacje w punktach kontrolnych i obciążenia modelu poświęcają mniej czasu na blokowanie akceleratorów. Samsung ujmuje to w kategoriach modelowych, twierdząc, że 40-gigabajtowy moduł LLM może przenieść dane z dysku do pamięci w około 1.4 sekundy, w porównaniu z około 2.7 sekundy w przypadku modułu PM1753. Wartość 1.4 sekundy to sekwencyjny odczyt dla pliku 40 GB, a nie zmierzony transfer, więc należy ją traktować jako najlepszą ilustrację matematyki interfejsu.
Wydajność losowa skaluje się wraz z kolejnymi liczbami. Materiały produktowe Samsunga podają do 6.8 miliona losowych operacji odczytu i 950 000 losowych operacji zapisu dla konfiguracji klasy 16 TB; zmierzona w raporcie SCADA wartość 6.92 miliona operacji odczytu i/lub zapisu na dysk (opisana poniżej) sugeruje, że wartość odczytu jest ostrożna.
Efektywność energetyczna wzrasta nawet 1.8-krotnie w porównaniu z poprzednią generacją, co ma równie duże znaczenie, jak prędkość w gęstych instalacjach, ponieważ kontrolery Gen6 mocno się nagrzewają, a każdy zaoszczędzony wat na dysk wielokrotnie zwiększa się w gęstej obudowie. W tym celu Samsung zoptymalizował PM1763 pod kątem serwerów chłodzonych cieczą z chłodzeniem bezpośrednim do układu scalonego (D2C), dążąc do utrzymania szczytowej wydajności przy zwiększonym obciążeniu, a nie do osiągania szczytowych wartości.
Specyfikacja PM1763
| Specyfikacja | Samsunga PM1763 |
|---|---|
| Omówienie platformy | |
| Interfejs | PCIe Gen6 x4, NVMe 2.1, OCP 2.6 |
| NAND | Samsung V-NAND 9. generacji |
| kontroler | Nowy kontroler Samsung 4nm |
| Możliwości | 4 TB, 8 TB, klasa 16 TB (format 15.36 TB) w momencie premiery Na stronie produktu wymieniono pojemności 30.72 TB i 61.44 TB |
| Formy czynników | E1.S E3.S U.2 (tylko PCIe Gen5) |
| Wydajność (16 TB) | |
| Sekwencyjny odczyt | Do 28,400 MB / s |
| Zapis sekwencyjny | Do 21,000 MB / s |
| Losowe czytanie | Do 6,800,000 XNUMX IOPS |
| Losowy zapis | Do 950,000 XNUMX IOPS |
| Zasilanie i chłodzenie | |
| Wydajność energetyczna | Do 1.8x lepsza niż PM1753 |
| Chłodzenie | Zoptymalizowany pod kątem serwerów chłodzonych cieczą, bezpośrednio do układu scalonego (D2C) |
| Ochrona | |
| Udogodnienia | Kryptografia postkwantowa (PQC) Protokół bezpieczeństwa interfejsu urządzenia TEE (TDISP) |
Operacje wejścia/wyjścia sterowane przez GPU: 281 milionów operacji wejścia/wyjścia na sekundę na 42 dyskach
Samsung opublikował również dokument techniczny łączący PM1763 ze SCADA (Scaled Accelerated Data Access), opracowanym przez firmę NVIDIA frameworkiem, który umożliwia wątkom GPU przesyłanie poleceń NVMe bezpośrednio do dysków, całkowicie omijając stos pamięci masowej procesora i jądra. Argumentem przemawiającym za inicjowaniem operacji wejścia/wyjścia przez GPU jest współbieżność: procesor CPU może utrzymać około 45 milionów operacji wejścia/wyjścia na sekundę w swojej puli wątków, podczas gdy procesor GPU, obsługujący około 100 000 wątków, przekroczył 95 milionów operacji wejścia/wyjścia na sekundę w testach Samsunga.
Dane pochodzą z obciążenia odczytem losowym 512 bajtów na serwerze H3 Falcon 6048 Gen6 z jednym przełącznikiem H100, dwoma przełącznikami H200 i 42 dyskami PM1763 E1.S o pojemności 15.36 TB, podłączonymi do trzech przełączników Broadcom PEX90144 Gen6. Pojedynczy przełącznik PM1763 przetworzył około 6.92 miliona operacji wejścia/wyjścia na sekundę (IOPS) wygenerowanych przez GPU, co stanowi wzrost o 86% w porównaniu z 3.72 milionami operacji wejścia/wyjścia na sekundę (IOPS) obsługiwanych przez przełącznik PM1753 Gen5 w tej samej konfiguracji. Przy 14 dyskach na GPU system osiągnął niemal liniową skalowalność na poziomie około 96 milionów operacji wejścia/wyjścia na sekundę (IOPS) na grupę GPU, a pełna konfiguracja z 42 dyskami osiągnęła 281 milionów operacji wejścia/wyjścia na sekundę (IOPS), przy czym wyniki na dysk mieściły się w granicach 5% szczytowych wartości dla pojedynczego dysku. Nie przeprowadziliśmy tych testów ani nie weryfikowaliśmy niezależnie wyników, ale zachowanie skalowania jest interesujące: spójność opóźnień na różnych dyskach, a nie szczytowa wartość IOPS, decydowała o tym, jak dobrze radziła sobie całość.
Co Gen6 robi dla serwerów o dużej gęstości pamięci masowej
Pytanie brzmi, co potrafi cała półka tych dysków w jednej obudowie. Niedawno przekroczyliśmy przepustowość lokalną serwera Dell PowerEdge R7725xd na poziomie 300 GB/s dzięki 24 dyskom SSD Gen5, z których każdy ma dedykowane linie x4 od procesora, i zapewniliśmy 160 GB/s w sieci dzięki oprogramowaniu PEAK:AIO, które utrzymuje kolejki w stanie nasycenia. System ten dorównuje wielowęzłowym klastrom pamięci masowej z jednej obudowy 2U. Po wymianie dysków Gen6 z prędkością znamionową PM1763, ta sama topologia 24 wnęk zapewnia teoretyczny pułap około 681 GB/s surowej przepustowości odczytu, chociaż budżety linii procesora i ruch wychodzący z sieci stają się wiążącymi ograniczeniami na długo przed dyskami.
Gęstość pojemności idzie w parze. Serwer danych AI PEAK:AIO 2U oferuje już 1.5 PB przy użyciu dysków QLC o pojemności 61.44 TB i zapewnia przepustowość 120 GB/s przez RDMA. Wraz z wprowadzeniem przez Samsunga 61.44 TB PM1763, system tej klasy zyskuje przepustowość Gen6 i gęstość przekraczającą petabajty w podobnej obudowie (serwery nowej generacji prawdopodobnie będą wyposażone w jednostkę rack do chłodzenia). Dla działów AI, które próbują zasilać klastry GPU bez budowania równoległego systemu plików na kilkunastu węzłach, argument o pamięci masowej na pojedynczym serwerze staje się coraz bardziej przekonujący.
Bezpieczeństwo i dostępność
Samsung rozszerzył również stos zabezpieczeń dysku dla środowisk AI obsługujących wielu użytkowników. PM1763 obsługuje algorytmy kryptografii postkwantowej, wyprzedzając przewidywane ataki kwantowe na klasyczne szyfrowanie, a także protokół TDISP (TEE Device Interface Security Protocol), który zabezpiecza ścieżkę danych między poufnymi maszynami wirtualnymi a urządzeniem we wdrożeniach zwirtualizowanych.
„Zbudowany w oparciu o wiodącą w branży wydajność, PM1763 pomyślnie przeszedł walidację dla platform AI nowej generacji i jest doskonale przygotowany do obsługi zmieniających się wymagań infrastruktury AI” – powiedział Jangseok Choi, wiceprezes i dyrektor ds. planowania produktów pamięciowych w Samsung Electronics. „W miarę jak modele AI będą rosły pod względem rozmiaru i złożoności, PM1763 stanie się kluczowym rozwiązaniem, które umożliwi klientom efektywne skalowanie pojemności pamięci i optymalizację operacji AI”.
Dysk PM1763 jest już produkowany masowo w wersjach o pojemności 4 TB, 8 TB i 16 TB. Samsung nie podał jeszcze dat dostaw modeli o większej pojemności.
Amazon