WEKA heeft twee verbonden producten gelanceerd: NeuralMesh 6, de belangrijkste software-release tot nu toe, en WEKApod 3, een nieuwe generatie opslagapparaten die door WEKA zijn ontworpen en ontwikkeld om deze software te draaien. NeuralMesh 6 kan nog steeds worden geïmplementeerd op door de klant gekozen hardware, terwijl WEKApod een kant-en-klare oplossing biedt, met de software vooraf geïnstalleerd. NeuralMesh 6 introduceert native multi-tenancy, een gecombineerde protocolstack voor bestanden en objecten, metadata-gestuurde datamobiliteit, continue datareductie met contractuele garanties, Kubernetes-native operations en geïntegreerde observability. WEKApod 3 is speciaal ontworpen hardware die is gebouwd om deze software te draaien met wat het bedrijf claimt de hoogste capaciteit en prestatiedichtheid te zijn die beschikbaar is in één rack, met drie configuraties, Nitro, Prime en Prime Max, gericht op respectievelijk maximale prestaties, gebalanceerde capaciteit en maximale dichtheid.
Beide aankondigingen plaatsen de release in het kader van een algemene verschuiving in de markt: naarmate AI-workloads verschuiven van training naar inferentie op basis van lange contexten, agenten en retrieval op productieschaal, bepalen opslag- en geheugeninfrastructuur, en niet alleen het aantal GPU's, steeds meer de kosten per token en de haalbare doorvoer.
NeuralMesh 6: Multi-tenancy, uniforme protocollen en datamobiliteit
NeuralMesh 6 combineert functies die volgens WEKA traditioneel door beheerders van AI-infrastructuur van verschillende leveranciers moesten worden samengesteld: multi-tenancy, een uniforme protocolstack voor bestanden en objecten, datamobiliteit tussen locaties, continue datareductie, Kubernetes-native beheer en geïntegreerde observability. Dit alles is geïntegreerd in één softwarestack in plaats van samengesteld uit afzonderlijke onderdelen.
Multi-tenancy is opgedeeld in twee lagen die gecombineerd kunnen worden. Composable Clusters bieden isolatie op hardwareniveau, met dedicated CPU, geheugen en opslagdrives per tenant, bedoeld voor ankertenants die gegarandeerde resources en voorspelbare prestaties nodig hebben. Virtual Multi-Tenancy voegt VPC-achtige netwerkisolatie toe via WEKA's Virtualized RDMA Data Fabric, met ondersteuning voor private VLAN's, overlappende IP-adresruimtes, per-tenant Quality of Service en encryptie met onafhankelijk sleutelbeheer, en onafhankelijke LDAP- of Active Directory-authenticatie per tenant. Virtual Multi-Tenancy schaalt naar meer dan 1,000 geïsoleerde logische tenants per cluster, waarbij nieuwe tenants binnen 30 minuten kunnen worden geconfigureerd. De twee lagen kunnen worden gecombineerd, zodat een enkel WEKA-hardwarecluster met 50 Composable Clusters tot 50,000 logisch geïsoleerde tenants op dezelfde fysieke infrastructuur kan ondersteunen, waardoor groei van tientallen naar tienduizenden mogelijk is zonder het systeem opnieuw te hoeven ontwerpen.
Wat het protocol betreft, implementeert NeuralMesh 6 een native S3-stack waarin dezelfde fysieke datablokken tegelijkertijd via S3 en POSIX adresseerbaar zijn, in plaats van via een gateway die de vertaling verzorgt. Een bestand dat via NFS of POSIX is geschreven, is direct leesbaar vanuit S3, en vice versa. Dit elimineert dubbele kopieën van de volledige dataset die zich doorgaans ophopen wanneer data tussen trainings-, finetuning- en inferentiefasen wordt verplaatst. WEKA heeft de S3-implementatie specifiek ontworpen voor AI-toegangspatronen en ondersteunt 2,000 tot 5,000 gelijktijdige S3-verbindingen per node, ongeveer vijf keer zoveel als conventionele S3-architecturen. S3 over RDMA maakt bovendien zero-copy-overdracht direct naar het GPU-geheugen mogelijk.
Datamobiliteit wordt beheerd via metadata-first replicatie, waardoor een bestemmingsomgeving direct doorzoekbaar is in plaats van dat een volledige datakopie nodig is voordat een workload kan starten. Data wordt on-demand gehydrateerd, waardoor WAN-verkeer wordt verminderd en organisaties workloads kunnen plaatsen waar GPU-capaciteit beschikbaar is, in plaats van waar de data oorspronkelijk is opgeslagen. Deze release voegt asynchrone replicatie en remote caching toe als eerste stap naar bredere federatie en een globale naamruimte over locaties en clouds.
Die replicatiemogelijkheid vormt al de basis voor daadwerkelijke implementaties: Sam Tabar, CEO van WhiteFiber, zei dat de intelligente replicatie van NeuralMesh het bedrijf in staat stelt datasets zichtbaar te maken over verschillende locaties en precies de data te halen die elke taak nodig heeft naar de volgende GPU-toewijzing. Dit is dezelfde architectuur die ten grondslag ligt aan Project Redwood , het 111.2 Tbps supercluster dat meerdere datacenters omvat en waarover we eerder deze maand berichtten.
Datareductie tot wel 6x capaciteitsbesparing
NeuralMesh 6 maakt ook datareductie mogelijk, inclusief fingerprinting, similarity hashing, deduplicatie en compressie, standaard bij elke implementatie, met een schrijfoverhead van minder dan 5%, tot wel 6x capaciteitsbesparing op AI-trainingsdata en een contractuele garantie die zowel de reductieverhouding als de prestatie-impact dekt. Een nieuwe Kubernetes Operator automatiseert de clusterimplementatie en het lifecyclemanagement voor organisaties die Kubernetes als standaard operationeel model gebruiken, waardoor de implementatietijd volgens WEKA wordt verkort van weken naar uren. NeuralMesh Observe, dat zonder extra kosten bij elke implementatie is inbegrepen, biedt SaaS-gebaseerde dashboards voor meerdere clusters, diagnostiek op clientniveau en waarschuwingen die worden doorgestuurd naar Slack, PagerDuty of e-mail.
WEKA meldt dat het zijn Augmented Memory Grid- functie in productie gebruikt. Deze functie breidt het GPU-geheugen uit door de toegang tot de persistente KV-cache naar door NeuralMesh beheerde NVMe-opslag op Oracle Cloud Infrastructure te versnellen. Benchmarks op de OCI H100-infrastructuur toonden een 10x hogere tokendoorvoer, 10x meer gelijktijdige gebruikers en 7x meer tokens per GPU aan. WEKA geeft aan dat dit is gemeten ten opzichte van alternatieven op basis van DRAM. Pablo Selem, senior director softwareontwikkeling bij OCI, omschreef de aanpak als het wegnemen van geheugenknelpunten, waardoor klanten een hogere doorvoer en meer gebruikers kunnen bereiken met dezelfde GPU-voetafdruk.
WEKApod 3: Hardware op maat, gebouwd rondom de software
WEKApod 3 is een eigen hardwareontwerp van WEKA en geen referentiearchitectuur gebaseerd op chassis van OEM-fabrikanten. Volgens het bedrijf levert één WEKApod-rack 1.1 exabyte aan effectieve capaciteit op een hardwarebasis van 441.5 PB aan ruwe capaciteit. Daarmee is het het eerste systeem met één rack dat een effectieve capaciteit van meer dan een exabyte bereikt. De doorvoer per rack bedraagt 10.2 TB/s met 210 miljoen IOPS. WEKA meldt een 267% hogere effectieve capaciteitsdichtheid en een 114% hogere doorvoerdichtheid per rackunit dan het op één na beste publiek beschikbare alternatief in elke categorie.
Het ontwerp is gebaseerd op een interne PCIe Gen 6-architectuur, een kabelgebaseerde schijfverbinding in plaats van een backplane, NVIDIA ConnectX SuperNIC- netwerken voor Spectrum-X Ethernet-connectiviteit en een softwarematig beheerde thermische architectuur die geschikt is voor een omgevingstemperatuur van 35 °C en die het NVMe-vermogen onder thermische belasting verlaagt in plaats van de computer uit te schakelen. WEKA heeft meerdere patenten aangevraagd voor het chassis, de schijfverbinding, het thermisch beheer en het ontwerp voor onderhoudbaarheid. Onderhoudsfuncties omvatten hot-pluggable opstartschijven met een door een grafische gebruikersinterface begeleid vervangingsproces dat volgens WEKA ongeveer 10 minuten duurt in plaats van een onderhoudsvenster van meerdere uren, evenals headless, cloudgestuurde rack-scale implementatie via NeuralMesh Home.
Drie configuraties voor verschillende werkbelastingprioriteiten
WEKApod Nitro is ontworpen voor workloads waarbij opslagbandbreedte cruciaal is, zodat GPU's optimaal benut blijven. Het beschikt over een chassis van twee rack-eenheden met vier nodes, vier onafhankelijke faaldomeinen en 56 TLC-schijven, ondersteund door dual-port NVIDIA ConnectX-netwerken die een doorvoer van 800 Gb/s leveren. WEKApod Prime legt de nadruk op een gebalanceerde capaciteit en prestaties met een AlloyFlash-mix van TLC- en QLC-schijven, gehuisvest in een vergelijkbaar chassis van vier nodes met twee rack-eenheden dat 56 schijven ondersteunt. WEKApod Prime Max maximaliseert de capaciteit in een compacte vorm: een chassis van twee rack-eenheden met twee nodes met 70 NVMe-schijven, gebruikmakend van Micron's 245.76 TB 6600 ION SSD 's, gecombineerd met NeuralMesh's objectopslag- en datareductietechnieken, om een effectieve capaciteit van 1.1 exabyte te bereiken in één enkel 56U-rack. Om een idee te krijgen van de impact van die schijf op de rackberekeningen: ons rapport over het stroomverbruik en de dichtheid van de 6600 ION laat zien dat een exabyte in zes racks past in plaats van 22.
AlloyFlash, de tiering-functie die de Prime- en Prime Max-configuraties mogelijk maakt, stuurt latencygevoelige bewerkingen automatisch naar TLC-flashgeheugen, terwijl data met een hoge capaciteit naar QLC-geheugen wordt geleid. QLC is namelijk ongeveer 30-40% goedkoper per terabyte, zonder dat de klant dit hoeft te configureren. Dit is het duidelijkste punt waarop de NeuralMesh 6-software en de WEKApod 3-hardware één product vormen: de tiering-logica van de software zorgt ervoor dat de hardwareconfiguraties met een hogere dichtheid bruikbaar zijn op productieniveau, in plaats van dat het slechts een groter capaciteitsgetal op een specificatieblad is.
WEKA baseert zijn hardwarekeuze op de huidige beperkingen in datacenters: de bouw van datacenters in de VS is in 2025 voor het eerst sinds 2020 gedaald, de wachttijden voor netaansluitingen in grote markten bedragen nu vier tot zeven jaar, en Morgan Stanley voorspelt een stroomtekort van 49 gigawatt in de VS tot en met 2028. Dit komt bovenop de aanhoudende problemen met de levering van NAND-geheugen en de langere levertijden van OEM's. WEKA stelt dat opslag die inefficiënt is qua rackruimte en stroomverbruik rechtstreeks concurreert met GPU's om de beperkte fysieke resources. Door de eigen hardwareleveringsketen te beheren in plaats van afhankelijk te zijn van OEM-kanalen, is het bedrijf ervan overtuigd dat het klanten die grootschalige infrastructuurprojecten plannen, voorspelbaardere prijzen en levertijden kan bieden.
Jason Hardy, VP Storage Technology bij NVIDIA, zei dat Spectrum-X Ethernet-netwerken de WEKApod 3 de benodigde hoge bandbreedte en lage latentie bieden om het datapad tussen opslag en GPU op grote schaal vrij te houden. Steve McDowell, hoofdanalist bij NAND Research, betoogde dat inferentie op productieschaal een ander infrastructuurprobleem is dan training, waarbij tokens per rack, tokens per watt en kosten per inferentie bij continue belasting de belangrijkste meetwaarden worden. Volgens hem zouden kopers elke leverancier aan de hand van deze criteria moeten beoordelen. Jeremy Werner, senior vice president en general manager van Micron's Core Data Center Business Unit, voegde eraan toe dat de nieuwe WEKApod-architectuur met Micron's 245TB SSD's 15.8 petabytes levert in een 2U-behuizing, waardoor energie en ruimte overblijven voor extra rekenkracht.
Beschikbaarheid
NeuralMesh 6 zal naar verwachting in de tweede helft van 2026 algemeen beschikbaar zijn. Bestaande WEKA-klanten kunnen kosteloos upgraden via de standaardkanalen. WEKApod Nitro, Prime en Prime Max zijn nu te bestellen via het distributie- en VAR-netwerk van WEKA, met leveringen vanaf najaar 2026 en voorgeïnstalleerde NeuralMesh 6. Daarnaast wordt WEKApod voor het eerst in deze generatie aangeboden in configureerbare SKU's, waardoor klanten het chassistype, het geheugen, de schijfcapaciteit en het aantal schijven kunnen kiezen, waardoor systemen van minder dan 1 PB tot 100 PB of meer in één configuratie mogelijk zijn.
Amazon