Smart IOPS och H3 Platform har tillkännagivit en AI-lagringsplattform som riktar sig mot upp till en miljard slumpmässigt lästa IOPS. Det föreslagna systemet kombinerar Smart IOPS Unobtanium T50 solid state-enheter med en luftkyld H3 Platform-enhet designad kring NVIDIAs accelererade databehandlings- och nätverksteknik.
Plattformen riktar sig mot dataintensiva AI-inferens- och analysarbetsbelastningar som kräver att GPU:er får åtkomst till stora datamängder genom mycket parallella, finkorniga I/O. Den är utformad för att stödja NVIDIAs Storage-Next-initiativ och SCADA-programmeringsmodellen, eller Scaled Accelerated Data Access . Dessa tekniker möjliggör GPU-initierad åtkomst till NVMe-lagring när applikationsarbetsmängder överskrider lokalt GPU-minne.
Genom att minska avståndet mellan GPU-beräkning och lagring är arkitekturen avsedd att minska CPU-kontrollvägsoverhead och hjälpa till att hålla acceleratorer försedda med data. Metoden riktar sig till arbetsbelastningar som grafiska neurala nätverk, vektorsökning, rekommendationssystem, hämtningsförstärkt generering, inbäddningslagring och andra glesa analystillämpningar som genererar stora volymer av små, slumpmässiga förfrågningar.
”AI-infrastruktur går in i en fas där lagring måste bete sig mindre som ett passivt arkiv och mer som en aktiv förlängning av beräkningsstrukturen”, säger Ashutosh Das, VD för Smart IOPS.
Smart IOPS Unobtanium T50
Unobtanium T50 är en PCIe Gen6 x4, NVMe 2.0-enhet i E3.S-formfaktorn. Smart IOPS specificerar upp till 50 miljoner slumpmässiga läs-IOPS och 10 miljoner slumpmässiga skriv-IOPS vid en blockstorlek på 512 byte. Sekventiell prestanda är klassad till upp till 28 GB/s för läsning och 24 GB/s för skrivning. Sekventiell dataflöde i det intervallet matchar PCIe Gen6-företags-SSD-diskar som redan går in i massproduktion ; siffran på 512 byte för slumpmässig läsning är den specifikation som sticker ut.
Fyra T50-enheter kan ge ett angivet sammanlagt mål på upp till 200 miljoner slumpmässigt lästa IOPS på enhetsnivå. Smart IOPS positionerar den funktionen som en matchning av I/O-kraven för nästa generations PCIe Gen6 x16 GPU:er, inklusive NVIDIA Rubin. Faktisk prestanda beror på arbetsbelastningsegenskaper, programvara, PCIe-topologi, systemkonfiguration och andra faktorer på systemnivå.
| Smart IOPS ACS Unobtanium T50 | |
| Preliminär specifikation | |
|---|---|
| Prestanda | |
| Slumpmässig läsning | Upp till 50 miljoner IOPS |
| Slumpmässig skrivning | Upp till 10 miljoner IOPS |
| Block storlek | 512 bitgrupper |
| Sekventiell läsning | Upp till 28 GB/s |
| Sekventiell skrivning | Upp till 24 GB/s |
| hårdvara | |
| Kapacitet | 9 TB, 18 TB och 36 TB |
| Media | TLC NAND drivs i pseudo-SLC-läge; stöd för specialiserade SLC NAND:er med låg latens |
| Formfaktor | E3.S 2T |
| Gränssnitt | PCIe Gen6 x4; NVMe 2.0 |
| Tillgänglighet | |
| Planerad tillgänglighet | Utvärderingsprover: Q1 2027; produktion: Q2 2027 |
| H3-plattformsapparat med hög IOPS | |
| Preliminär specifikation | |
|---|---|
| Dator och nätverk | |
| GPU | 4 × NVIDIA RTX PRO 6000 Blackwell Server Edition-grafikkort |
| nätverk | 4 × NVIDIA ConnectX-8 |
| lagring | |
| SSD-fack | 20 × E3.S 2T-platser för SSD-diskar med hög IOPS |
| Effekt per kortplats | Upp till 60 W per E3.S-kortplats |
| Systemkrav | |
| Kylning | Luftkyld |
| Tillgänglighet | |
| Planerad tillgänglighet | Utvärderingssystem: Q1 2027; produktion: Q2 2027 |
| Preliminära specifikationer; kan komma att ändras utan föregående meddelande. | |
T50 använder Smart IOPS TruRandom-styrenhetsarkitekturen med allmänt tillgänglig TLC NAND som drivs i pseudo-SLC-läge. Företaget säger att denna metod gör det möjligt för enheterna att använda flera kvalificerade NAND-leverantörer samtidigt som de behåller tillgången till tillverkningsskalan och leveranskedjekapaciteten hos den bredare flashindustrin. Styrenheten kan också stödja specialiserad låglatens-NAND där arbetsbelastningen eller driftsättningsekonomin motiverar det.
H3-plattformsapparat
H3 Platform utvecklar en luftkyld apparat med fyra NVIDIA RTX PRO 6000 Blackwell Server Edition GPU:er, fyra NVIDIA ConnectX-8 nätverkskort och 20 E3.S 2T lagringsplatser. Varje plats är utformad för att stödja upp till 60 watt, vilket ger den effekt och värmekapacitet som krävs av högpresterande lagringsenheter.
Med 20 platser befolkade av T50-enheter är systemet utformat för att nå ett mål på upp till en miljard slumpmässigt lästa IOPS. Konfigurationen är avsedd att balansera GPU-beräkning, nätverk och lagringsanslutning i en enda plattform för att utvärdera och driftsätta GPU-initierade lagringsarbetsbelastningar med små block.
”Nästa våg av AI-system måste utformas som en integrerad dataväg”, säger Brian Pan, grundare och VD för H3 Platform, ”inte som frånkopplade beräknings-, nätverks- och lagringskomponenter.” Designen placerar E3.S-lagring med hög IOPS tillsammans med GPU:er och höghastighetsnätverkskort samtidigt som en luftkyld formfaktor bibehålls.
Hög IOPS är relevant för dessa arbetsbelastningar eftersom bandbredd ensam inte beskriver hur effektivt ett lagringssystem hanterar oregelbundna, samtidiga åtkomster. Förfrågningar med små block som genereras av många GPU-trådar kan exponera kö- och synkroniseringsoverhead i CPU-orkestrerade lagringsarkitekturer. En enhet med högre IOPS och lägre latens kan hantera fler samtidiga förfrågningar och potentiellt minska den tid GPU:er spenderar på att vänta på data.
Smart IOPS och H3 Platform förväntar sig att utvärderingsexempel och system blir tillgängliga under första kvartalet 2027. Produktionstillgängligheten är planerad till andra kvartalet 2027. Specifikationer, konfigurationer och scheman är fortfarande preliminära och kan komma att ändras. Kundkvalificering, beredskap för programvaruekosystem och eventuell NVIDIA-validering eller godkännande är separata processer och antyds inte av tillkännagivandet.
Amazon