StorageReview.com

HPE introducerar AI Grid för att koppla samman AI-fabriker och distribuerade inferenskluster med hjälp av NVIDIA-referensarkitektur

Företag  ◇  nätverk

HPE har presenterat HPE AI Grid, en omfattande infrastrukturlösning i linje med NVIDIA AI Grids referensarkitektur. Den är utformad för att säkert ansluta AI-fabriker och distribuerade inferenskluster över regionala och avlägsna edge-platser. HPE positionerar denna plattform för tjänsteleverantörer som behöver driftsätta och hantera tusentals distribuerade inferensplatser som ett enda, samordnat system.

HPE AI Grid-bild

HPE introducerar AI Grid som en lösning för AI-baserade applikationer som i allt högre grad kräver förutsägbar latens, deterministisk prestanda och distribuerad distribution. Företaget hävdar att lösningen levererar ultralåg latens i stor skala, med zero-touch provisioning, integrerad orkestrering och automatiserad säkerhet för att göra livscykelhanteringen enklare över stora, geografiskt spridda distributioner.

Rami Rahim, vice vd, VD och chef för nätverk på HPE, beskrev strategin som att den för intelligens närmare var data genereras och används, där nätverksinfrastruktur fungerar som en viktig möjliggörare för AI-tjänster i realtid. NVIDIAs Chris Penrose, global vice vd för telekom, betonade vikten av ett AI-nätverk för att koppla samman geografiskt spridda kluster och dynamiskt tilldela arbetsbelastningar baserat på prestanda, kostnad och latens, där HPE tillhandahåller multimolnrouting och edge-infrastruktur och NVIDIA levererar accelererade beräknings- och nätverkskomponenter.

Fullstack-hårdvara och nätverksgrund

HPE uppger att HPE AI Grid erbjuder en enhetlig hårdvaru- och mjukvaruplattform utformad för att stödja tjänsteleverantörers operativa modeller, inklusive multitenancy och molnbaserad säkerhet. Arkitekturen är centrerad kring HPE Junipers kapacitet för nätverk i telekomklass, inklusive multimolnrouting och koherent optik för långdistans- och storstadsanslutning. HPE lyfter också fram integrerade brandväggar, WAN-automation och orkestrering för att möjliggöra zero-touch-distribution och kontinuerlig livscykelhantering.

HPE ProLiant Compute DL380a Gen12

På beräkningssidan kombinerar HPE edge- och rackservrar med NVIDIAs accelererade databehandling och en högpresterande nätverks- och I/O-stack. HPE listar stöd för NVIDIA RTX PRO 6000 Blackwell Server Edition GPU:er, såväl som NVIDIA BlueField DPU:er, Spectrum-X Ethernet-switchar och ConnectX SuperNIC:er. Stacken innehåller även NVIDIA AI-ritningar för att accelerera distributionen av inferenstjänster över distribuerade platser.

Fokus på tjänsteleverantör

HPE positionerar AI Grid för applikationer som behöver förutsägbar latens och tillförlitlig anslutning, inklusive personalisering av detaljhandeln, prediktivt underhåll, edge-hälsovård och AI-tjänster i operatörsklass. Företaget uppger att plattformen kan hjälpa operatörer att omvandla platser med befintlig strömförsörjning och anslutning till RAN-klara AI-nätnoder, vilket effektivt breddar var inferens kan ske utan att behandla varje plats som en separat implementering.

Fältförsök och partnerekosystem

Som en del av den bredare AI Grid-kommunikationen tillkännagav Comcast nya AI-fälttester på sitt distribuerade nätverk med fokus på realtids-edgeinferens. HPE uppgav att tidiga tester inkluderade HPE ProLiant-servrar som körde små språkmodeller från Personal AI (en del av HPE:s Unleash AI-partnerprogram) på NVIDIA GPU:er för AI-drivna "receptionstjänster" riktade till småföretag.

Engagera dig med StorageReview

Nyhetsbrev | YouTube | Podcast iTunes / Spotify | Instagram | Twitter | TikTok | RSS-flöde

Harold Fritts

Jag har varit i teknikbranschen sedan IBM skapade Selectric. Min bakgrund är dock att skriva. Så jag bestämde mig för att lämna pre-sales-branschen och återvända till mina rötter, skriva lite men fortfarande vara involverad i teknik.