Dell zakwalifikował dyski SSD NVMe firmy KIOXIA o pojemności 245.76 TB do obsługi programowalnej platformy ObjectScale, co oznacza 9.83 PB surowej pamięci flash w jednym serwerze 2U. Ten kamień milowy w zakresie gęstości stanowi uzupełnienie prac nad ścieżką danych, które Dell szczegółowo opisał na początku tego roku w ObjectScale 4.2 i 4.3. Celem prac jest wysokoprzepustowe szkolenie sztucznej inteligencji, wydajność potoku małych obiektów oraz przyspieszenie wnioskowania poprzez natywną technologię S3 z obsługą RDMA, odciążenie pamięci podręcznej KV dla LLM , udoskonalony silnik magazynu fragmentów oraz bezpośrednią obsługę Apache Iceberg za pośrednictwem tabel S3.
Kamień milowy gęstości: 9.83 PB w obudowie 2U za pośrednictwem dysków SSD KIOXIA o pojemności 245 TB
Wraz z rozszerzaniem się korporacyjnych jezior danych AI na kolejne poziomy szkolenia modeli, dostrajania i zachowania zgodności, gęstość szaf, zarządzanie osłoną termiczną i ograniczenia powierzchni użytkowej stały się głównymi zmiennymi projektowymi. Aby sprostać surowej pojemności na jednostkę szafy, firma Dell zakwalifikowała dyski SSD NVMe KIOXIA o pojemności 245.76 TB do obsługi definiowanego programowo rozwiązania ObjectScale działającego na serwerach Dell PowerEdge R7725 .
Dzięki umieszczeniu 40 z 245.76 TB dysków w jednej obudowie 2U, ObjectScale osiąga 9.83 PB surowej pojemności all-flash; testowaliśmy platformę zeszłego lata. Ta gęstość jest skierowana bezpośrednio do korporacyjnych fabryk AI, wektorowych baz danych, dużych repozytoriów analitycznych i platform cyberodporności, które wymagają wielopetabajtowej, niestrukturyzowanej pamięci masowej, jednocześnie minimalizując zużycie energii, obciążenie chłodzenia i złożoność okablowania. Aby zapoznać się z wynikami pomiarów wpływu pamięci flash 245 TB na zasilanie i liczbę szaf w porównaniu z dyskami twardymi, zapoznaj się z naszym raportem Micron 6600 ION.
Wzrost przepustowości i architektura małych obiektów
We wdrożeniach definiowanych programowo na kwalifikowanych serwerach Dell PowerEdge, wewnętrzne testy firmy Dell wskazują na przepustowość odczytu na węzeł do 40 GB/s, co stanowi ośmiokrotny wzrost w porównaniu z platformami obiektowymi all-flash poprzedniej generacji. Dell wskazuje również na brytyjskiego klienta z branży handlu o wysokiej częstotliwości, który utrzymuje łączną przepustowość odczytu na poziomie około 280 GB/s w środowisku produkcyjnym. Dane te pokrywają się z wynikami naszych pomiarów samego sprzętu: podczas testów R7725xd w listopadzie ubiegłego roku platforma osiągnęła ponad 300 GB/s w wewnętrznej puli NVMe i 160 GB/s w sieci NVMe-oF RDMA. Badania te charakteryzowały serwer bezpośrednio, a nie poprzez uruchamianie na nim ObjectScale, ale określają one limit, z którym mierzy się oprogramowanie.
Aby wyeliminować wąskie gardła metadanych, powszechne w potokach przetwarzających miliony małych zestawów cech, fragmentów wektorowych i dzienników telemetrycznych, ObjectScale wykorzystuje zoptymalizowany mechanizm składowania fragmentów. Architektura agreguje małe ładunki w ujednolicone fragmenty o rozmiarze 128 MB przed zastosowaniem kodowania wymazywania w węzłach. W przypadku typowych plików o rozmiarze 10 KB, w jednym fragmencie mieści się ponad 10 000 obiektów, co znacznie zmniejsza obciążenie metadanych.
To podejście oparte na fragmentacji restrukturyzuje również odbudowę po awarii dysków, zmniejszając całkowitą liczbę fragmentów, które należy odtworzyć, z miliardów do milionów, skracając czas odzyskiwania danych z gęstych dysków NVMe z tygodni do godzin. Sumy kontrolne weryfikowane inline na poziomie pasków skracają cykle procesora hosta poświęcane na skanowanie integralności w tle. Co więcej, przeprojektowany magazyn wartości kluczowych (KV) w ObjectScale 4.2 zapewnia około 4-krotnie lepszą wydajność pamięci i zmniejsza ilość zajmowaną przez metadane na dysku o 30% do 60%.
S3 przez RDMA i przyspieszenie wnioskowania
ObjectScale 4.3 rozszerza funkcjonalność S3 przez RDMA w całym portfolio rozwiązań all-flash firmy Dell, w tym w systemach XF960 , EXF900 i programowalnych serwerach PowerEdge R7725xd. Wykorzystując sieć RoCEv2 i pakiet SDK S3-przez-RDMA firmy Dell, platforma omija narzut protokołu TCP jądra i przerwania procesora, aby ustanowić bezpośrednie ścieżki pamięci między procesorami graficznymi hosta a nośnikami NVMe zaplecza. Wewnętrzne testy pokazują, że zapewnia to nawet o 230% wyższą przepustowość, 80% redukcję opóźnień i nawet 98% redukcję wykorzystania procesora klienta w porównaniu ze standardową technologią S3 przez TCP.
W przypadku architektur wnioskowania, ObjectScale pełni funkcję zewnętrznej warstwy dla odciążenia pamięci podręcznej KV . Ponieważ wnioskowanie w długim kontekście szybko wyczerpuje pamięć HBM i VRAM procesora graficznego, integracja z vLLM, LMCache i biblioteką NIXL firmy NVIDIA umożliwia frameworkom wnioskowania przekazywanie stanów aktywnej uwagi bezpośrednio do ObjectScale za pośrednictwem akcelerowanego przez RDMA S3. Firma Dell raportuje nawet 19-krotną poprawę czasu do pierwszego tokena w porównaniu ze standardowym vLLM bez odciążenia pamięci podręcznej, a także nawet 5.3-krotnie wyższą przepustowość tokenów i prawie 3-krotnie wyższą przepustowość wieloobrotową. Odrębnie, firma Dell podaje czas TTFT wynoszący około 0.86 sekundy we własnych testach porównawczych z konkurencyjną platformą obiektową.
Natywne tabele S3 i wydajność skalowania poziomego
ObjectScale 4.3 oferuje również natywne tabele S3, które Dell określa jako wersję zapoznawczą, osadzając otwarte formaty tabel Apache Iceberg bezpośrednio w warstwie kontenerów pamięci masowej. Silniki zapytań, takie jak Trino, Starburst , Spark i Flink, mogą natywnie uruchamiać analizy w kontenerach S3, bez konieczności dedykowanego środowiska przejściowego lub przenoszenia danych ETL do oddzielnych magazynów. Dell informuje, że ta architektura zapewnia do 2 razy szybsze pobieranie i do 4.5 razy szybsze zapytania w porównaniu z tradycyjnymi konfiguracjami magazynów.
Podstawowa wydajność pamięci masowej obejmuje profile kodowania 24+2 i 24+4, które według Della redukują wzmocnienie zapisu nawet o 75%. Na platformach dysków twardych o dużej pojemności, takich jak EX500, firma deklaruje do 25% szybsze pobieranie dużych obiektów i do 2 razy wyższą wydajność zapisu obiektów średniej wielkości. Kompresja kontenerów specyficzna dla obciążenia obsługuje algorytmy Snappy, LZ4, ZSTD i Deflate z telemetrią do śledzenia kosztów FinOps. Provisioning i orkiestracja integrują się natywnie z narzędziami natywnymi dla chmury, w tym dostawcami Kubernetes Container Object Storage Interface (COSI) i Terraform.
Amazon