Smart IOPS Unobtanium T50: 50 miljoen IOPS per Gen6 SSD, met een beoogde appliance van één miljard IOPS.

Smart IOPS en H3 Platform hebben een AI-compute-opslagplatform aangekondigd dat tot één miljard willekeurige lees-IOPS beoogt. Het voorgestelde systeem combineert de Unobtanium T50 solid-state-chips van Smart IOPS met een luchtgekoelde H3 Platform-appliance die is ontworpen rondom NVIDIA-technologieën voor versnelde computing en netwerken.

Het platform is gericht op data-intensieve AI-inferentie- en analyseworkloads die GPU's vereisen voor toegang tot grote datasets via zeer parallelle, fijnmazige I/O. Het is ontworpen ter ondersteuning van NVIDIA's Storage-Next-initiatief en het SCADA-programmeermodel (Scaled Accelerated Data Access ). Deze technologieën maken GPU-geïnitieerde toegang tot NVMe-opslag mogelijk wanneer de werksets van een applicatie de lokale GPU-geheugenruimte overschrijden.

Door de afstand tussen GPU-berekening en -opslag te verkleinen, is de architectuur bedoeld om de overhead van het CPU-controlepad te verminderen en ervoor te zorgen dat accelerators continu van data worden voorzien. Deze aanpak is gericht op workloads zoals grafische neurale netwerken, vectorzoekopdrachten, aanbevelingssystemen, retrieval-augmented generation, embedding stores en andere toepassingen voor sparse analytics die grote hoeveelheden kleine, willekeurige verzoeken genereren.

"AI-infrastructuur komt in een fase terecht waarin opslag zich minder als een passieve opslagplaats en meer als een actieve uitbreiding van de computerinfrastructuur moet gedragen", aldus Ashutosh Das, CEO van Smart IOPS.

Smart IOPS Unobtanium T50

De Unobtanium T50 is een PCIe Gen6 x4 NVMe 2.0-apparaat in een E3.S-vormfactor. Smart IOPS specificeert tot 50 miljoen willekeurige lees-IOPS en 10 miljoen willekeurige schrijf-IOPS bij een blokgrootte van 512 bytes. De sequentiële prestaties worden geschat op maximaal 28 GB/s voor lezen en 24 GB/s voor schrijven. Sequentiële doorvoer in dit bereik komt overeen met PCIe Gen6 enterprise SSD's die al in massaproductie zijn ; de specificatie voor willekeurige leesprestaties bij een blokgrootte van 512 bytes onderscheidt deze specificatie echter.

Vier T50-apparaten kunnen een geclaimde gecombineerde prestatie leveren van maximaal 200 miljoen random-read IOPS op apparaatniveau. Smart IOPS positioneert deze capaciteit als een match voor de I/O-vereisten van de volgende generatie PCIe Gen6 x16 GPU's, waaronder NVIDIA Rubin. De werkelijke prestaties zijn afhankelijk van de kenmerken van de workload, de software, de PCIe-topologie, de systeemconfiguratie en andere systeemfactoren.

De T50 maakt gebruik van de Smart IOPS TruRandom-controllerarchitectuur met algemeen verkrijgbare TLC NAND-geheugens die in pseudo-SLC-modus werken. Volgens het bedrijf maakt deze aanpak het mogelijk om meerdere gekwalificeerde NAND-leveranciers te gebruiken, terwijl de toegang tot de schaalvoordelen en de toeleveringsketen van de bredere flash-industrie behouden blijft. De controller kan ook gespecialiseerde NAND-geheugens met lage latentie ondersteunen wanneer de werklast of de economische haalbaarheid dit rechtvaardigt.

H3-platformapparaat

H3 Platform ontwikkelt een luchtgekoeld apparaat met vier NVIDIA RTX PRO 6000 Blackwell Server Edition GPU's, vier NVIDIA ConnectX-8 netwerkadapters en 20 E3.S 2T-opslagslots. Elk slot is ontworpen om tot 60 watt te ondersteunen, wat de stroom en thermische capaciteit biedt die nodig zijn voor krachtige opslagapparaten.

Met 20 slots gevuld met T50-apparaten is het systeem ontworpen om een ​​doel van maximaal één miljard random-read IOPS te bereiken. De configuratie is bedoeld om GPU-rekenkracht, netwerkfunctionaliteit en opslagconnectiviteit in één platform in balans te brengen voor het evalueren en implementeren van GPU-gestuurde, kleinschalige opslagworkloads.

"De volgende generatie AI-systemen moet worden ontworpen als een geïntegreerd datapad," aldus Brian Pan, oprichter en CEO van H3 Platform, "en niet als losgekoppelde reken-, netwerk- en opslagcomponenten." Het ontwerp combineert E3.S-opslag met hoge IOPS-waarden met GPU's en snelle netwerkadapters, terwijl de luchtkoeling behouden blijft.

Een hoge IOPS is relevant voor deze workloads, omdat bandbreedte alleen niet beschrijft hoe effectief een opslagsysteem omgaat met onregelmatige, gelijktijdige toegang. Verzoeken met kleine blokken, gegenereerd door veel GPU-threads, kunnen de overhead van wachtrijen en synchronisatie in CPU-gestuurde opslagarchitecturen aan het licht brengen. Een apparaat met een hogere IOPS en lagere latentie kan meer gelijktijdige verzoeken verwerken en mogelijk de wachttijd van GPU's voor data verkorten.

Smart IOPS en H3 Platform verwachten dat evaluatiemonsters en -systemen in het eerste kwartaal van 2027 beschikbaar zullen komen. De productieversie zal naar verwachting in het tweede kwartaal van 2027 beschikbaar zijn. De specificaties, configuraties en planning zijn voorlopig en kunnen nog wijzigen. Klantkwalificatie, gereedheid van het software-ecosysteem en eventuele validatie of goedkeuring door NVIDIA zijn afzonderlijke processen en worden niet door deze aankondiging geïmpliceerd.