Společnost Dell kvalifikovala 245.76TB NVMe SSD disky od společnosti KIOXIA pro softwarově definovanou technologii ObjectScale, čímž do jednoho 2U serveru umístila 9.83 PB nezpracované flash paměti. Tento milník v oblasti hustoty dat přichází nad rámec práce na datových cestách, kterou společnost Dell podrobně popsala začátkem tohoto roku v rámci verzí ObjectScale 4.2 a 4.3, jež se zaměřuje na vysoce výkonné trénování umělé inteligence, efektivitu zpracování malých objektů a akceleraci inference prostřednictvím nativního S3 přes RDMA, odlehčení mezipaměti klíč-hodnota (KV) pro LLM , přepracovaného enginu pro ukládání chunků a přímé podpory Apache Iceberg prostřednictvím tabulek S3.
Milník v hustotě: 9.83 PB v 2U prostoru prostřednictvím 245 TB SSD disků KIOXIA
Vzhledem k tomu, že se podniková datová jezera umělé inteligence rozšiřují napříč úrovněmi trénování modelů, jemného ladění a uchovávání shody s předpisy, staly se primárními konstrukčními proměnnými hustota racků, správa tepelných obálek a omezení podlahové plochy. Aby se společnost Dell vypořádala s hrubou kapacitou na jednotku racku, kvalifikovala disky SSD NVMe od společnosti KIOXIA s kapacitou 245.76 TB pro softwarově definované objektové škálování spuštěné na serverech Dell PowerEdge R7725.
Osazením 40 disků s kapacitou 245.76 TB do jediného 2U šasi dosahuje ObjectScale hrubé kapacity 9.83 PB pro flash disky; tuto platformu jsme recenzovali loni v létě. Tato hustota je přímo zaměřena na podnikové továrny s umělou inteligencí, vektorové databáze, rozsáhlá analytická úložiště a platformy kybernetické odolnosti, které vyžadují nestrukturované úložné prostory o kapacitě několika petabajtů a zároveň minimalizují spotřebu energie, zatížení chlazení a složitost kabeláže. Naměřená čísla o tom, co 245TB flash disky dělají pro napájení a poměr racku v porovnání s pevnými disky, naleznete v naší zprávě o Micron 6600 ION.
Zvýšení propustnosti a architektura malých objektů
V softwarově definovaných nasazeních na kvalifikovaných serverech Dell PowerEdge interní testování společnosti Dell ukazuje propustnost čtení na uzel až 40 GB/s, což je 8násobný nárůst oproti předchozí generaci all-flash objektových platforem. Společnost Dell také poukazuje na britského zákazníka zabývajícího se vysokofrekvenčním obchodováním, který v produkčním prostředí dosahuje celkové propustnosti čtení zhruba 280 GB/s. Tato čísla se shodují s tím, co jsme naměřili na samotném hardwaru: v našem testování R7725xd v listopadu loňského roku platforma dosáhla více než 300 GB/s v rámci interního fondu NVMe a 160 GB/s přes NVMe-oF RDMA. Tato práce charakterizovala server přímo, nikoli na něm běžel ObjectScale, ale stanovuje strop, proti kterému software pracuje.
Aby se eliminovaly úzké hrdla metadat, které jsou běžné v kanálech pracujících s miliony malých sad funkcí, vektorových bloků a telemetrických protokolů, používá ObjectScale optimalizovaný engine pro ukládání bloků. Architektura agreguje malé datové části do sjednocených bloků o velikosti 128 MB a poté napříč uzly aplikuje kódování mazání. U typických souborů o velikosti 10 KB se do jednoho bloku vejde více než 10 000 objektů, což podstatně snižuje režii metadat.
Tento přístup k rozdělení do bloků také restrukturalizuje obnovu selhání disku snížením celkového počtu segmentů, které je nutné znovu vytvořit, z miliard na miliony, čímž se zkracuje doba obnovy u hustých NVMe disků z týdnů na hodiny. Vložené kontrolní součty ověřované na úrovni prokládání snižují počet cyklů hostitelského CPU strávených skenováním integrity na pozadí. Přepracované úložiště klíč-hodnota v ObjectScale 4.2 navíc poskytuje zhruba 4x lepší efektivitu paměti a snižuje zabíranou místo na disku s metadaty o 30 % až 60 %.
S3 přes RDMA a zrychlení inference
ObjectScale 4.3 rozšiřuje technologii S3 over RDMA napříč portfoliem all-flash serverů společnosti Dell, včetně nasazení XF960 , EXF900 a softwarově definovaných serverů PowerEdge R7725xd. Díky síťovému rozhraní RoCEv2 a sadě SDK Dell S3-over-RDMA platforma obchází režii TCP jádra a přerušení CPU a vytváří přímé paměťové cesty mezi hostitelskými GPU a backendovými NVMe médii. Interní testování ukazuje, že to ve srovnání se standardním řešením S3 over TCP přináší až o 230 % vyšší propustnost, o 80 % nižší latenci a až o 98 % nižší využití CPU klienta.
U inferenčních architektur funguje ObjectScale jako externí vrstva pro odlehčení mezipaměti KV . Protože inference s dlouhým kontextem rychle vyčerpává HBM a VRAM na GPU, integrace s vLLM, LMCache a knihovnou NVIDIA NIXL umožňuje inferenčním frameworkům přenášet stavy aktivní pozornosti přímo do ObjectScale přes S3 akcelerovaný RDMA. Společnost Dell hlásí až 19násobné zlepšení doby do prvního tokenu (TTL) oproti standardnímu vLLM bez odlehčení mezipaměti, spolu s až 5.3násobně vyšší propustností tokenů a téměř 3násobně vyšší propustností více otočení (multi-turn load). Samostatně společnost Dell uvádí TTFT zhruba 0.86 sekundy ve vlastním přímém testování s konkurenční objektovou platformou.
Nativní tabulky S3 a efektivita horizontálního horizontálního škálování
ObjectScale 4.3 také přináší nativní tabulky S3, které Dell uvádí jako technickou preview, a vkládá otevřené formáty tabulek Apache Iceberg přímo do vrstvy úložných systémů. Dotazovací enginy včetně Trino, Starburst , Spark a Flink mohou nativně spouštět analytiku na úložištích S3, aniž by vyžadovaly vyhrazené stagingové prostředí nebo přesun dat ETL do samostatných úložišť. Dell uvádí, že tato architektura nabízí až 2x rychlejší příjem dat a až 4.5x rychlejší dotazy ve srovnání s tradičními konfiguracemi úložišť.
Základní efektivita úložiště zahrnuje profily mazacího kódování 24+2 a 24+4, které podle společnosti Dell snižují zesílení zápisu až o 75 %. Na platformách s vysokou kapacitou pevných disků, jako je EX500, společnost hlásí až o 25 % rychlejší příjem velkých objektů a až 2x vyšší výkon zápisu středně velkých objektů. Komprese bucketů specifická pro pracovní zátěž podporuje algoritmy Snappy, LZ4, ZSTD a Deflate s telemetrií pro sledování nákladů FinOps. Zřizování a orchestrace se nativně integrují s cloudovými nástroji, včetně Kubernetes Container Object Storage Interface (COSI) a poskytovatelů Terraform.
Amazon