WhiteFiber har gjort WhiteFiber Continuum kommersiellt tillgängligt och förvandlat det tvåsidiga GPU-superklustret som först beskrevs som Project Redwood i juli till en produkt som företag kan driftsätta. WhiteFiber kallar Continuum för sin högpresterande nätverkslösning för flera datacenter och den första kommersiellt tillgängliga distribuerade GPU-superklusterarkitekturen. Den länkar geografiskt separerade datacenter till ett enda logiskt GPU-superkluster, och WhiteFiber säger att det tar bort bandbredd och dataflöde som begränsningar för hur och var AI-infrastruktur kan driftsättas.
Continuum löper över två HITRUST-certifierade QTS-anläggningar 83 kilometer från varandra, sammankopplade över 12 Zayo mörkfibersträngar, där DriveNets AI Fabric bär nätverket och WEKA NeuralMesh tillhandahåller datalagring och minnesinfrastruktur över klustret. WhiteFiber betygsätter arkitekturen till 136 Tbps aggregerad bandbredd, vilket enligt deras produktsida är uppdelat i 170 800G våglängdskanaler, med 0.9 millisekunder garanterad tur-retur-latens som de säger ligger inom 8% av den fysiska gränsen för ljus i fiber över det avståndet. FoU-resultatet från juli mätte 111.2 Tbps på en del av fiberspektrumet; WhiteFiber säger att designen når 136 Tbps efter att ytterligare våglängder har kommit online, och testning av hela fiberspektrumet pågår för att bekräfta de garanterade kommersiella specifikationerna. Företaget har lämnat in patentansökningar för den underliggande implementeringen.
”WhiteFiber Continuum är infrastrukturens svar på ett problem som branschen har levt med i åratal: geografiskt avstånd som gräns för vad ett kluster kan göra”, säger Sam Tabar, VD för WhiteFiber. ”Idag gör vi det kommersiellt tillgängligt för företag som behöver AI-beräkning för att prestera i stor skala, uppfylla efterlevnadskrav och inte gå sönder när en enskild webbplats har problem.”
DriveNets AI-struktur över den 83 km långa länken
DriveNets levererar den Ethernet-baserade AI-strukturen som kopplar samman båda platserna, samma roll som den spelade under FoU-arbetet i juli. ”DriveNets Ethernet-baserade AI-struktur levererar högsta prestanda även i de mest krävande miljöerna med hög bandbredd och låg latens, vilket säkerställer att skalbara superkluster flyttar data effektivt, maximerar GPU-utnyttjandet och optimerar energieffektiviteten”, säger Yossi Kikozashvili, VP Product and GTM för AI Infra på DriveNets. WhiteFibers produktsida säger att båda platserna har livetrafik samtidigt och att endast modellgradienter korsar länken mellan platserna, så ett enda jobb kan köras över hela klustret eller delas upp i oberoende arbetsbelastningar som sprider sig över platserna allt eftersom efterfrågan förändras.
WEKA NeuralMesh som det delade datalagret
WEKA tillhandahåller lagrings- och minnesnivån med NeuralMesh , vilket ger Continuum en enda lagrings- och minnesbas som spänner över båda anläggningarna. Liran Zvibel, medgrundare och VD på WEKA, sa att "ett superkluster är bara så enhetligt som dess data" och tillade att "WEKAs NeuralMesh ger Continuum en enda, högpresterande lagrings- och minnesbas över olika platser, så att GPU:er som sitter många kilometer ifrån varandra fungerar som om data vore lokala."
Kraftaggregation och gränskontroll för regleringsdata
Continuum låter telekom- och storstadsanläggningar med reservkraft och fiberkapacitet bidra till ett enda logiskt GPU-superkluster, vilket WhiteFiber föreslår som ett sätt att omvandla strandade telekom- och storstadstillgångar till kapacitet för inferens- och agentarbetsbelastningar på sista milen. Företag kan använda samma arkitektur för att poola GPU:er över flera platser och komma förbi kraft- och utrymmestaket för ett enda campus, genom att lägga till överskottsträning och inferenskapacitet utan att behöva en separat ny driftsättning. För reglerade branscher säger WhiteFiber att Continuum håller känsliga arbetsbelastningar inom deras ursprungliga jurisdiktion medan redundans- och poolad beräkning sker över flera platser, och eftersom ingen av platserna är en enda felpunkt är den utformad så att träningskörningarna fortsätter när en plats går ner.
WhiteFiber säger att ytterligare webbplatser kan ansluta sig till samma logiska kluster över tid med samma nätverksmetod, och de anordnar en teknisk genomgång av arkitekturen med DriveNets och WEKA den 14 oktober.
Amazon