Samsung is begonnen met de massaproductie van de PM1763, de eerste PCIe Gen6 enterprise SSD van het bedrijf. Deze SSD combineert de 9e generatie V-NAND met een nieuw ontwikkelde 4nm-controller. Het vlaggenschip van 15.36 TB heeft een sequentiële leessnelheid tot 28,400 MB/s en een schrijfsnelheid tot 21,000 MB/s. De leessnelheid is daarmee 1.96 keer hoger dan de 14,500 MB/s van de Gen5 PM1753 die hij vervangt. Samsung geeft aan dat de PM1763 de validatie voor de volgende generatie AI-platformen heeft doorstaan en dat de timing samenvalt met de eerste golf Gen6-compatibele servers die volgend jaar worden verwacht.
Waarom PCIe Gen6 belangrijk is
PCIe Gen6 verdubbelt de signaalsnelheid per lane naar 64 GT/s met behulp van PAM4, wat neerkomt op ongeveer 32 GB/s bandbreedte in elke richting op de standaard x4 SSD-link, tegenover ongeveer 16 GB/s op Gen5. Gen5-schijven lopen al een tijdje tegen die limiet aan, waarbij de snelste modellen snelheden halen van 14-14.5 GB/s, de bandbreedte die de interface toelaat.
De PM1763 benut met zijn snelheid van 28.4 GB/s het grootste deel van de nieuwe capaciteit. Voor AI-infrastructuur betekent dit in de praktijk dat er minder schijven nodig zijn om de opslagcapaciteit van een GPU-server te benutten, terwijl checkpoint- en modellaadbewerkingen minder tijd in beslag nemen en de accelerators minder blokkeren. Samsung beschrijft dit in termen van modellen en beweert dat een 40GB LLM-bestand in ongeveer 1.4 seconden van schijf naar geheugen kan worden verplaatst, tegenover ongeveer 2.7 seconden op de PM1753. Die 1.4 seconden is de sequentiële leessnelheid voor een 40GB-bestand, geen gemeten overdrachtstijd, dus beschouw het als een ideaal voorbeeld van de optimale werking van de interface.
De willekeurige prestaties schalen mee met de sequentiële waarden. Volgens de productdocumentatie van Samsung zijn er tot 6.8 miljoen willekeurige lees-IOPS en 950,000 willekeurige schrijf-IOPS voor de 16TB-configuratie; de in het SCADA-whitepaper gemeten 6.92 miljoen IOPS per schijf (hieronder besproken) suggereert dat het leescijfer een conservatieve schatting is.
De energie-efficiëntie is tot wel 1.8 keer hoger dan die van de vorige generatie. Dit is net zo belangrijk als de pure snelheid in omgevingen met veel componenten, aangezien Gen6-controllers warm worden en elke bespaarde watt per schijf een enorm verschil maakt in een compacte behuizing. Daarom heeft Samsung de PM1763 geoptimaliseerd voor vloeistofgekoelde servers met directe koeling naar de chip (D2C), gericht op aanhoudende piekprestaties onder langdurige belasting in plaats van piekvermogen.
PM1763 Specificaties
| Specificaties | Samsung PM1763 |
|---|---|
| Platformoverzicht | |
| Interface | PCIe Gen6 x4, NVMe 2.1, OCP 2.6 |
| NAND | Samsung 9e generatie V-NAND |
| Controller | Nieuwe Samsung 4nm-controller |
| Capaciteiten | Bij de lancering verkrijgbaar in de categorieën 4TB, 8TB en 16TB (15.36TB geformatteerd). Op de productpagina staan varianten van 30.72 TB en 61.44 TB vermeld. |
| Vormfactoren | E1.S E3.S U.2 (alleen PCIe Gen5) |
| Prestaties (16TB) | |
| Sequentieel lezen | Tot 28,400 MB / s |
| Sequentiële schrijven | Tot 21,000 MB / s |
| Willekeurig lezen | Tot 6,800,000 IOPS |
| Willekeurig schrijven | Tot 950,000 IOPS |
| Stroom en koeling | |
| Stroomefficiëntie | Tot wel 1.8 keer beter dan PM1753 |
| Koelen | Geoptimaliseerd voor vloeistofgekoelde servers, direct-to-chip (D2C) |
| Security | |
| Kenmerken | Post-kwantumcryptografie (PQC) TEE Device Interface Security Protocol (TDISP) |
GPU-gestuurde I/O: 281 miljoen IOPS verdeeld over 42 schijven
Samsung heeft ook een whitepaper gepubliceerd waarin de PM1763 wordt gecombineerd met SCADA (Scaled Accelerated Data Access), het door NVIDIA ontwikkelde framework waarmee GPU-threads NVMe-opdrachten rechtstreeks naar de schijven kunnen sturen, waardoor de CPU en de kernel-opslagstack volledig worden omzeild. Het argument voor GPU-geïnitieerde I/O is gelijktijdigheid: een CPU kan ongeveer 45 miljoen IOPS tegelijkertijd verwerken via zijn threadpool, terwijl een GPU die ongeveer 100,000 threads aanstuurt, in de tests van Samsung meer dan 95 miljoen IOPS per GPU haalde.
De cijfers zijn afkomstig van een workload met willekeurige leesbewerkingen van 512 bytes op een H3 Falcon 6048 Gen6-server met één H100, twee H200's en 42 PM1763 E1.S 15.36TB-schijven achter drie Broadcom PEX90144 Gen6-switches. Een enkele PM1763 verwerkte ongeveer 6.92 miljoen GPU-uitgegeven IOPS, een winst van 86% ten opzichte van de 3.72 miljoen die de Gen5 PM1753 in dezelfde configuratie behaalde. Met 14 schijven per GPU schaalde het systeem vrijwel lineair met ongeveer 96 miljoen IOPS per GPU-groep, en de volledige configuratie met 42 schijven behaalde een totaal van 281 miljoen IOPS, waarbij de resultaten per schijf binnen 5% van de piek van één schijf bleven. We hebben deze test niet uitgevoerd, noch hebben we de resultaten onafhankelijk gecontroleerd, maar het schaalgedrag is interessant: de consistentie van de latentie over de schijven heen, en niet de piek-IOPS, bepaalde hoe goed het totaal presteerde.
Wat Gen6 doet voor servers met een hoge opslagdichtheid
De vraag is wat een reeks van deze schijven in één behuizing presteert. We hebben onlangs de Dell PowerEdge R7725xd tot meer dan 300 GB/s lokale doorvoer laten stijgen met 24 Gen5 SSD's, waarbij elke schijf gebruikmaakte van dedicated x4 lanes vanuit de CPU-complex, en leverden 160 GB/s via het netwerk met de software van PEAK:AIO die de wachtrijen constant verzadigd hield. Dat systeem kan zich meten met multi-node opslagclusters vanuit één enkele 2U-behuizing. Als je Gen6-schijven installeert met de nominale snelheden van de PM1763, bereikt dezelfde 24-bay topologie een theoretisch maximum van ongeveer 681 GB/s ruwe leesbandbreedte, hoewel de beschikbare CPU-lanes en netwerkuitgang de beperkende factoren worden ruim voordat de schijven dat doen.
Capaciteitsdichtheid ontwikkelt zich parallel. De 2U AI Data Server van PEAK:AIO biedt al 1.5 PB aan opslagruimte met 61.44 TB QLC-schijven en levert 120 GB/s via RDMA. Wanneer Samsung de 61.44 TB PM1763 op de markt brengt, krijgt dit type systeem de bandbreedte van de zesde generatie en een opslagdichtheid van meer dan een petabyte in een vergelijkbare behuizing (servers van de volgende generatie zullen waarschijnlijk een rackunit voor koeling toevoegen). Voor AI-bedrijven die GPU-clusters van stroom willen voorzien zonder een parallel bestandssysteem over een dozijn nodes te hoeven opzetten, wordt het argument voor opslag op één server steeds sterker.
Beveiliging en beschikbaarheid
Samsung heeft de beveiligingsstack van de schijf ook uitgebreid voor AI-omgevingen met meerdere tenants. De PM1763 ondersteunt post-kwantumcryptografie-algoritmen, die vooruitlopen op verwachte kwantumaanvallen op klassieke encryptie, en TDISP (TEE Device Interface Security Protocol), dat het datapad tussen vertrouwelijke virtuele machines en het apparaat beveiligt in gevirtualiseerde implementaties.
"De PM1763 is gebouwd op toonaangevende prestaties in de branche, heeft de validatie voor de volgende generatie AI-platformen met succes doorstaan en is uitstekend gepositioneerd om te voldoen aan de steeds veranderende eisen van AI-infrastructuur", aldus Jangseok Choi, Vice President en Hoofd Productplanning Geheugen bij Samsung Electronics. "Naarmate AI-modellen in omvang en complexiteit blijven groeien, zal de PM1763 een belangrijke oplossing zijn waarmee klanten de geheugencapaciteit efficiënt kunnen schalen en AI-processen kunnen optimaliseren."
De PM1763 is nu in massaproductie met capaciteiten van 4 TB, 8 TB en 16 TB. Samsung heeft nog geen leverdata voor de grotere capaciteiten bekendgemaakt.
Amazon