Smart IOPS Unobtanium T50 : 50 millions d’IOPS par SSD Gen6, avec un objectif d’un milliard d’IOPS par appliance

Smart IOPS et H3 Platform ont annoncé une plateforme de stockage et de calcul basée sur l'IA, visant jusqu'à un milliard d'IOPS en lecture aléatoire. Le système proposé combine les dispositifs à semi-conducteurs Unobtanium T50 de Smart IOPS avec un boîtier H3 Platform refroidi par air, conçu autour des technologies de calcul et de réseau accélérées de NVIDIA.

Cette plateforme cible les charges de travail d'inférence et d'analyse IA gourmandes en données, qui nécessitent l'accès de GPU à de vastes ensembles de données via des E/S hautement parallèles et granulaires. Elle est conçue pour prendre en charge l'initiative Storage-Next de NVIDIA et le modèle de programmation SCADA (Scaled Accelerated Data Access ). Ces technologies permettent un accès initié par le GPU au stockage NVMe lorsque les ensembles de travail des applications dépassent la mémoire GPU locale.

En réduisant la distance entre le calcul et le stockage sur le GPU, cette architecture vise à diminuer la charge du chemin de contrôle du CPU et à assurer un approvisionnement constant en données des accélérateurs. Cette approche est conçue pour des charges de travail telles que les réseaux neuronaux graphiques, la recherche vectorielle, les systèmes de recommandation, la génération augmentée par la recherche, les bases de données d'embeddings et autres applications d'analyse de données éparses générant un grand nombre de petites requêtes aléatoires.

« L’infrastructure d’IA entre dans une phase où le stockage doit se comporter moins comme un dépôt passif et plus comme une extension active de l’infrastructure de calcul », a déclaré Ashutosh Das, PDG de Smart IOPS.

IOPS intelligents Unobtanium T50

L'Unobtanium T50 est un SSD PCIe Gen6 x4 NVMe 2.0 au format E3.S. Ses performances Smart IOPS atteignent jusqu'à 50 millions d'IOPS en lecture aléatoire et 10 millions d'IOPS en écriture aléatoire avec une taille de bloc de 512 octets. Les performances séquentielles sont de 28 Go/s en lecture et 24 Go/s en écriture. Le débit séquentiel dans cette gamme est comparable à celui des SSD d'entreprise PCIe Gen6 déjà disponibles en grande série ; la performance en lecture aléatoire avec une taille de bloc de 512 octets constitue la principale caractéristique distinctive.

Quatre dispositifs T50 peuvent atteindre une capacité d'E/S agrégée de 200 millions d'IOPS en lecture aléatoire. Grâce à la technologie Smart IOPS, cette capacité répond aux exigences d'E/S des GPU PCIe Gen6 x16 de nouvelle génération, notamment NVIDIA Rubin. Les performances réelles dépendent des caractéristiques de la charge de travail, du logiciel, de la topologie PCIe, de la configuration système et d'autres facteurs système.

Le T50 utilise l'architecture de contrôleur Smart IOPS TruRandom avec de la mémoire NAND TLC largement disponible, fonctionnant en mode pseudo-SLC. Selon l'entreprise, cette approche permet aux dispositifs d'utiliser plusieurs fournisseurs de mémoire NAND qualifiés tout en bénéficiant de l'échelle de production et de la capacité de la chaîne d'approvisionnement de l'industrie flash au sens large. Le contrôleur peut également prendre en charge des mémoires NAND spécialisées à faible latence lorsque la charge de travail ou les contraintes économiques du déploiement le justifient.

Plateforme H3

H3 Platform développe un serveur refroidi par air équipé de quatre cartes graphiques NVIDIA RTX PRO 6000 Blackwell Server Edition, de quatre adaptateurs réseau NVIDIA ConnectX-8 et de 20 emplacements de stockage E3.S 2T. Chaque emplacement est conçu pour supporter jusqu'à 60 watts, fournissant ainsi la puissance et la capacité thermique requises par les périphériques de stockage hautes performances.

Doté de 20 emplacements occupés par des dispositifs T50, le système est conçu pour atteindre un objectif d'un milliard d'IOPS en lecture aléatoire. Sa configuration vise à équilibrer la puissance de calcul GPU, la connectivité réseau et de stockage au sein d'une plateforme unique pour l'évaluation et le déploiement de charges de travail de stockage par petits blocs initiées par GPU.

« La prochaine génération de systèmes d'IA doit être conçue comme un chemin de données intégré », a déclaré Brian Pan, fondateur et PDG de H3 Platform, « et non comme des composants de calcul, de réseau et de stockage déconnectés. » Cette conception associe un stockage E3.S à haut débit d'IOPS à des GPU et des adaptateurs réseau haut débit, tout en conservant un format à refroidissement par air.

Un nombre élevé d'IOPS est pertinent pour ces charges de travail, car la bande passante seule ne suffit pas à décrire l'efficacité avec laquelle un système de stockage gère les accès concurrents irréguliers. Les requêtes par petits blocs générées par de nombreux threads GPU peuvent révéler une surcharge liée à la mise en file d'attente et à la synchronisation dans les architectures de stockage orchestrées par le CPU. Un périphérique offrant un nombre d'IOPS plus élevé et une latence plus faible peut traiter davantage de requêtes simultanées et potentiellement réduire le temps d'attente des GPU pour les données.

Les plateformes Smart IOPS et H3 devraient proposer des échantillons et des systèmes d'évaluation au premier trimestre 2027. La production est prévue pour le deuxième trimestre 2027. Les spécifications, les configurations et le calendrier restent provisoires et peuvent être modifiés. La qualification des clients, la disponibilité de l'écosystème logiciel et toute validation ou approbation par NVIDIA sont des processus distincts et ne sont pas couverts par cette annonce.