Smart IOPS Unobtanium T50: 50 milioni di IOPS per SSD Gen6, con un obiettivo di un miliardo di IOPS per appliance.

Smart IOPS e H3 Platform hanno annunciato una piattaforma di storage per il calcolo AI, progettata per raggiungere fino a un miliardo di IOPS in lettura casuale. Il sistema proposto combina i dispositivi a stato solido Unobtanium T50 di Smart IOPS con un'appliance H3 Platform raffreddata ad aria, progettata attorno alle tecnologie di calcolo e rete accelerate di NVIDIA.

La piattaforma è pensata per carichi di lavoro di inferenza e analisi AI ad alta intensità di dati, che richiedono alle GPU di accedere a grandi set di dati tramite I/O altamente parallelo e granulare. È progettata per supportare l'iniziativa Storage-Next di NVIDIA e il modello di programmazione SCADA (Scaled Accelerated Data Access ). Queste tecnologie consentono l'accesso allo storage NVMe avviato dalla GPU quando i set di lavoro delle applicazioni superano la memoria locale della GPU.

Riducendo la distanza tra il calcolo GPU e l'archiviazione, l'architettura mira a ridurre il sovraccarico del percorso di controllo della CPU e a garantire un flusso costante di dati agli acceleratori. Questo approccio è pensato per carichi di lavoro come reti neurali su grafi, ricerca vettoriale, sistemi di raccomandazione, generazione aumentata tramite recupero di informazioni, sistemi di embedding e altre applicazioni di analisi sparsa che generano grandi volumi di richieste piccole e casuali.

"L'infrastruttura AI sta entrando in una fase in cui lo storage deve comportarsi meno come un repository passivo e più come un'estensione attiva dell'infrastruttura di calcolo", ha affermato Ashutosh Das, CEO di Smart IOPS.

Smart IOPS Unobtanium T50

L'Unobtanium T50 è un dispositivo PCIe Gen6 x4, NVMe 2.0 in formato E3.S. Smart IOPS specifica fino a 50 milioni di IOPS in lettura casuale e 10 milioni di IOPS in scrittura casuale con una dimensione del blocco di 512 byte. Le prestazioni sequenziali sono valutate fino a 28 GB/s per la lettura e 24 GB/s per la scrittura. Il throughput sequenziale in questo intervallo è paragonabile a quello degli SSD PCIe Gen6 per aziende già in produzione di massa ; il dato relativo alla lettura casuale con blocchi da 512 byte è la specifica che lo distingue.

Quattro dispositivi T50 possono fornire un obiettivo aggregato dichiarato fino a 200 milioni di IOPS in lettura casuale a livello di dispositivo. Smart IOPS posiziona questa capacità come adatta ai requisiti di I/O delle GPU PCIe Gen6 x16 di nuova generazione, inclusa NVIDIA Rubin. Le prestazioni effettive dipenderanno dalle caratteristiche del carico di lavoro, dal software, dalla topologia PCIe, dalla configurazione del sistema e da altri fattori a livello di sistema.

Il T50 utilizza l'architettura del controller Smart IOPS TruRandom con memorie NAND TLC ampiamente disponibili, operanti in modalità pseudo-SLC. L'azienda afferma che questo approccio consente ai dispositivi di utilizzare più fornitori di memorie NAND qualificati, mantenendo al contempo l'accesso alla scala produttiva e alla capacità della catena di fornitura dell'intero settore delle memorie flash. Il controller può anche supportare memorie NAND specializzate a bassa latenza, laddove il carico di lavoro o i costi di implementazione lo giustifichino.

Apparecchio a piattaforma H3

H3 Platform sta sviluppando un dispositivo di raffreddamento ad aria con quattro GPU NVIDIA RTX PRO 6000 Blackwell Server Edition, quattro adattatori di rete NVIDIA ConnectX-8 e 20 slot di archiviazione E3.S 2T. Ogni slot è progettato per supportare fino a 60 watt, fornendo la potenza e la capacità termica richieste dai dispositivi di archiviazione ad alte prestazioni.

Con 20 slot occupati da dispositivi T50, il sistema è progettato per raggiungere un obiettivo fino a un miliardo di IOPS in lettura casuale. La configurazione è pensata per bilanciare il calcolo GPU, la rete e la connettività di archiviazione in un'unica piattaforma per la valutazione e l'implementazione di carichi di lavoro di archiviazione a blocchi di piccole dimensioni avviati dalla GPU.

"La prossima generazione di sistemi di intelligenza artificiale deve essere progettata come un percorso dati integrato", ha affermato Brian Pan, fondatore e CEO di H3 Platform, "non come componenti di calcolo, rete e archiviazione scollegati". Il design prevede l'integrazione di storage E3.S ad alte prestazioni (IOPS) con GPU e adattatori di rete ad alta velocità, mantenendo al contempo un fattore di forma con raffreddamento ad aria.

Un elevato numero di IOPS è rilevante per questi carichi di lavoro perché la sola larghezza di banda non descrive l'efficacia con cui un sistema di storage gestisce accessi irregolari e simultanei. Le richieste di piccoli blocchi generate da molti thread GPU possono evidenziare l'overhead di accodamento e sincronizzazione nelle architetture di storage orchestrate dalla CPU. Un dispositivo con un numero maggiore di IOPS e una latenza inferiore può gestire un maggior numero di richieste simultanee e potenzialmente ridurre il tempo di attesa delle GPU per i dati.

Smart IOPS e H3 Platform prevedono che i campioni e i sistemi di valutazione saranno disponibili nel primo trimestre del 2027. La disponibilità in produzione è prevista per il secondo trimestre del 2027. Le specifiche, le configurazioni e le tempistiche sono ancora preliminari e potrebbero subire modifiche. La qualificazione dei clienti, la predisposizione dell'ecosistema software e qualsiasi convalida o approvazione da parte di NVIDIA sono processi separati e non sono impliciti in questo annuncio.