Przejście na pamięć masową PCIe Gen6 osiągnęło komercyjny kamień milowy : dysk SSD Micron 9650 NVMe trafił do masowej produkcji, stając się pierwszym dyskiem SSD dla centrów danych zbudowanym w oparciu o interfejs PCIe Gen6, który jest dostępny na szeroką skalę. Ten rozwój oznacza zmianę w architekturze pamięci masowej, ponieważ wyższa przepustowość danych i lepsza efektywność energetyczna stają się coraz ważniejsze dla ogólnej wydajności systemu w nowoczesnych centrach danych.
Przez lata urządzenia pamięci masowej projektowano przede wszystkim po to, aby nie stanowiły wąskich gardeł w środowiskach o dużym obciążeniu obliczeniowym. Wraz z rozwojem procesorów, akceleratorów i struktur sieciowych, wydajność pamięci masowej stopniowo rosła, aby dotrzymać im kroku. Ta równowaga ulega zmianie. W centrach danych opartych na sztucznej inteligencji, gdzie ogromne zbiory danych są nieustannie przesyłane między pamięcią masową a akceleratorami, wydajność wejścia/wyjścia stała się głównym ograniczeniem architektonicznym, a nie czynnikiem drugoplanowym.
PCIe Gen6 podwaja limit przepustowości
Standard PCIe Gen6 skutecznie podwaja dostępną przepustowość w porównaniu z PCIe Gen5, eliminując kluczowe ograniczenie w przepływie danych między zasobami pamięci masowej a zasobami obliczeniowymi. Micron 9650 wykorzystuje interfejs PCIe Gen6 x4 i protokół NVMe 2.0, aby zapewnić prędkość odczytu sekwencyjnego do 28 000 MB/s i zapisu sekwencyjnego do 14 000 MB/s.
W porównaniu ze standardowymi dyskami SSD PCIe Gen5 klasy enterprise, Micron 9650 charakteryzuje się:
- O 100% wyższa wydajność odczytu sekwencyjnego (14 000 MB/s w porównaniu do 10 000 MB/s)
- O 40% wyższa wydajność zapisu sekwencyjnego (14 000 MB/s w porównaniu do 10 000 MB/s)
- O 67% wyższa przepustowość losowego odczytu (do 5.5 miliona IOPS)
- O 22% wyższa wydajność zapisu losowego (do 900 000 IOPS)
Ten wzrost wydajności jest szczególnie istotny w przypadku obciążeń związanych z trenowaniem modeli sztucznej inteligencji i wnioskowaniem. Duże modele językowe i potoki generowania danych z rozszerzonym wyszukiwaniem wymagają stałego, wysokoprzepustowego dostępu do ogromnych zbiorów danych. Podczas wnioskowania, rozszerzone okna kontekstowe zwiększają zapotrzebowanie na dostęp do danych w czasie rzeczywistym, co sprawia, że opóźnienia pamięci masowej i przepustowość stają się kluczowymi czynnikami dla utrzymania responsywności.
Dysk został również zaprojektowany z myślą o obsłudze ewoluujących architektur, w których dane przesyłane są bezpośrednio między akceleratorami a urządzeniami pamięci masowej, co zmniejsza obciążenie procesora. Dodatkowa przepustowość zapewniana przez PCIe Gen6 umożliwia wydajniejszy transfer danych peer-to-peer w systemach AI nowej generacji.
Dwie wersje: PRO i MAX
Micron 9650 jest oferowany w dwóch konfiguracjach: PRO i MAX. Oba modele wykorzystują pamięć G9 TLC NAND i są dostępne w formatach E1.S i E3.S, co pozwala na obsługę nowoczesnych standardów wdrażania w centrach danych.
Micron 9650 PRO
- Pojemności: od 7.68 TB do 30.72 TB
- Sekwencyjny odczyt/zapis: 28 000 / 14 000 MB/s
- Losowy odczyt: 5.4–5.5 miliona operacji wejścia/wyjścia na sekundę (IOPS)
- Losowy zapis: 500 000–570 000 IOPS
- Wytrzymałość: 1 zapis na dysku dziennie (DWPD) przez pięć lat
Mikron 9650 MAX
- Pojemności: od 6.4 TB do 25.6 TB
- Sekwencyjny odczyt/zapis: 28 000 / 14 000 MB/s
- Losowy odczyt: 5.4–5.5 miliona operacji wejścia/wyjścia na sekundę (IOPS)
- Losowy zapis: do 900 000 IOPS
- Wytrzymałość: 3 DWPD przez pięć lat
Oba modele pracują z mocą maksymalną 25 watów, oferują średni czas do awarii (MTB) wynoszący 2.5 miliona godzin w temperaturze 50°C oraz obsługują zaawansowane funkcje bezpieczeństwa i zgodności. Dyski zostały również zaprojektowane z myślą o kompatybilności z technologiami GPU-Direct i środowiskami chłodzonymi cieczą.
Wzrost efektywności w obliczu ograniczeń energetycznych
Poprawa wydajności centrów danych jest coraz częściej analizowana pod kątem zużycia energii. Infrastruktura AI odpowiada już za rosnący udział w globalnym zużyciu energii elektrycznej, a dostępność zasilania staje się czynnikiem ograniczającym rozbudowę obiektów.
Przy tym samym poborze mocy 25 W, Micron 9650 zapewnia znacznie wyższą wydajność w przeliczeniu na wat niż dyski PCIe Gen5. Według specyfikacji firmy:
- Wydajność odczytu sekwencyjnego sięga 1,120 MB/s na wat, czyli jest mniej więcej dwa razy większa od wydajności odpowiedników Gen5.
- Efektywność zapisu sekwencyjnego poprawia się o około 1.4×.
- Wydajność odczytu losowego wzrasta o 1.7×.
- Efektywność zapisu losowego poprawia się o 1.2×.
Zapewniając wyższą przepustowość bez zwiększania zużycia energii, dysk pomaga operatorom uzyskać większą użyteczną wydajność w ramach ustalonych budżetów energetycznych. Szybsze wykonywanie zadań przy tym samym poziomie mocy może również zmniejszyć ogólne zużycie energii w przypadku obciążeń wymagających dużej ilości danych.
Zapotrzebowanie na ciepło napędza zmiany w chłodzeniu
Wraz ze wzrostem gęstości operacji wejścia/wyjścia, a także gęstości obliczeniowej, zarządzanie temperaturą staje się coraz większym wyzwaniem systemowym. Podczas gdy w wielu środowiskach o wysokiej wydajności układy GPU przeszły już na chłodzenie cieczą, urządzenia pamięci masowej zaczynają podążać tą samą drogą.
Micron 9650 obsługuje konfiguracje chłodzone powietrzem i cieczą, uwzględniając fakt, że wydajne dyski SSD PCIe Gen6 mogą działać w środowiskach, w których tradycyjny przepływ powietrza jest niewystarczający. Integracja pamięci masowej ze strategiami chłodzenia na poziomie platformy odzwierciedla rosnącą gęstość wydajności nowoczesnych serwerów AI.
Walidacja i wdrażanie ekosystemu
W ciągu ostatnich 18 miesięcy firma Micron przeprowadziła testy interoperacyjności w ekosystemie PCIe Gen6, aby przygotować dysk do szerszego wdrożenia. W związku z trwającą produkcją masową, dysk 9650 jest obecnie testowany przez partnerów OEM i operatorów centrów danych skoncentrowanych na sztucznej inteligencji.
Amazon