Dell Technologies ha annunciato due importanti aggiornamenti alla sua piattaforma Dell AI con AMD, pensati per le organizzazioni che passano da implementazioni pilota di intelligenza artificiale ad ambienti di produzione completi. I miglioramenti si concentrano su un'infrastruttura di training ad alte prestazioni e su un'architettura modulare che bilancia costi, scalabilità e controllo operativo.
Il primo aggiornamento introduce una configurazione su larga scala con nodi server Dell PowerEdge XE9785 dotati di GPU AMD Instinct MI355X e CPU AMD EPYC. È progettata per carichi di lavoro di intelligenza artificiale impegnativi, tra cui l'addestramento di modelli, il pre-addestramento e l'inferenza ad alto throughput. La piattaforma integra la rete Dell PowerSwitch e lo storage PowerScale, garantendo uno stack infrastrutturale coerente tra le diverse implementazioni.
L'utilizzo delle GPU AMD Instinct MI355X aumenta la capacità di memoria per nodo, consentendo il supporto di modelli più grandi e una scalabilità più efficiente tra i cluster. Questa configurazione è pensata per aziende e fornitori di servizi con carichi di lavoro di intelligenza artificiale continui che richiedono prestazioni prevedibili su larga scala.
Il secondo miglioramento estende l'architettura modulare AI Factory di Dell per supportare le GPU AMD Instinct MI350P PCIe abbinate alle CPU AMD EPYC. Questa configurazione utilizza i server Dell PowerEdge XE7745 e R7725, la rete PowerSwitch e lo storage PowerScale, e si integra con la piattaforma dati AI di Dell. Si propone come una soluzione economicamente vantaggiosa per le organizzazioni che passano dalla fase pilota alla produzione, consentendo un dimensionamento incrementale delle risorse di calcolo, memoria, storage e rete per risolvere specifici colli di bottiglia.
Entrambe le configurazioni si basano sullo stack software AMD ROCm e supportano framework open source come PyTorch e vLLM. L'integrazione con la Dell Automation Platform offre funzionalità di implementazione e gestione del ciclo di vita che semplificano il provisioning e la scalabilità del cluster.
Dell ha inoltre citato i risultati di uno studio di Omdia che confronta le implementazioni on-premise con le alternative di cloud pubblico. Secondo il report, una configurazione con server PowerEdge XE9785 dotati di GPU AMD Instinct MI355X può offrire un costo totale di proprietà inferiore fino al 65%, grazie all'efficienza dell'infrastruttura e agli ecosistemi software aperti.
La progettazione modulare mira a una scalabilità prevedibile dell'IA.
Dell basa la piattaforma aggiornata su un design modulare che supporta un percorso coerente dai test su piccola scala alla produzione aziendale. Le organizzazioni possono iniziare con una configurazione a nodo singolo utilizzando anche solo due GPU, per poi scalare aggiungendo nodi di calcolo, capacità GPU, storage e larghezza di banda di rete man mano che la domanda cresce. Questo approccio consente il riutilizzo degli investimenti iniziali nell'infrastruttura, scalando al contempo in modo controllato.
La piattaforma è inoltre progettata per garantire flessibilità nei carichi di lavoro. La standardizzazione sulla suite software AI enterprise di AMD e sui framework aperti supporta una vasta gamma di casi d'uso di IA senza la necessità di infrastrutture specializzate isolate. Ciò consente la portabilità dei modelli e riduce i costi operativi derivanti dalla gestione di ambienti multipli.
La sicurezza e la governance rimangono elementi centrali nella progettazione della piattaforma. Privilegiando l'implementazione on-premise, Dell riduce l'esposizione ai rischi esterni e mantiene il controllo sulla localizzazione dei dati. AMD Enterprise AI Resource Manager offre ulteriori funzionalità di governance, tra cui controlli delle policy e gestione degli accessi, per aiutare le organizzazioni a garantire la protezione dei dati e i requisiti di conformità.
Amazon