StorageReview.com

Blackwell raffreddato a liquido e 15,000 case riscaldate: Verda crea un cloud AI sostenibile su Supermicro

AI  ◇  Impresa

Verda, fornitore europeo di servizi cloud per l'intelligenza artificiale, ha scelto i sistemi rack-scale di Supermicro con raffreddamento a liquido e accelerazione NVIDIA Blackwell per alimentare un cloud AI verticalmente integrato, progettato per sviluppatori di modelli di frontiera, scaleup native dell'IA e imprese soggette a normative specifiche. L'infrastruttura viene implementata in tutta Europa e serve clienti in Europa, negli Stati Uniti e in Asia.

Al centro dell'implementazione si trova l'infrastruttura rack di Supermicro, basata sulle architetture GPU NVIDIA Blackwell e Blackwell Ultra. Questi sistemi sono progettati per soddisfare la crescente domanda di training e inferenza di intelligenza artificiale su larga scala, soprattutto da parte di organizzazioni che sviluppano modelli all'avanguardia e implementano servizi di IA di livello produttivo. La piattaforma di Verda si rivolge a un mix di startup native per l'IA, organizzazioni di ricerca e aziende che operano in ambienti regolamentati in cui la sovranità dei dati e le prestazioni sono fondamentali.

Infrastruttura AI su scala rack progettata per i carichi di lavoro moderni.

L'infrastruttura di Verda comprende una gamma di sistemi Supermicro ottimizzati per diversi livelli di carichi di lavoro di intelligenza artificiale. L'infrastruttura include sistemi rack NVIDIA GB300 NVL72 , progettati per cluster GPU ad alta densità e addestramento di modelli di grandi dimensioni, insieme alle piattaforme NVIDIA HGX B300 e HGX B200 che offrono una scalabilità flessibile per l'addestramento e l'inferenza. Ulteriore capacità è fornita dalle GPU RTX PRO 6000 Blackwell Server Edition , adatte ad applicazioni di intelligenza artificiale aziendali, visualizzazione e carichi di lavoro edge-adjacent.

Supermicro Sys-422GL-NR Blackwell Server Edition

Questa combinazione di sistemi consente a Verda di supportare un'ampia gamma di casi d'uso di intelligenza artificiale, tra cui l'addestramento di modelli linguistici su larga scala, pipeline di IA multimodali, sviluppo di robotica e carichi di lavoro di inferenza aziendale. Combinando diverse architetture GPU su una piattaforma unificata, Verda può allineare le risorse infrastrutturali ai requisiti dei carichi di lavoro, mantenendo al contempo un elevato tasso di utilizzo.

Cloud AI completo con modelli di consumo flessibili

Verda posiziona la sua piattaforma come un cloud AI completo, integrando infrastruttura, orchestrazione e fornitura di servizi in un'unica offerta. L'ambiente fornisce accesso alle risorse GPU attraverso molteplici modelli di consumo, tra cui istanze e cluster self-service, ambienti container serverless ed endpoint di inferenza gestiti.

Supermicro GB300 NVL72 Rack

Questo approccio riflette un cambiamento più ampio nel mercato delle infrastrutture per l'IA, orientato verso l'accesso on-demand a risorse di calcolo ad alte prestazioni. Le organizzazioni necessitano sempre più della capacità di scalare dinamicamente le risorse GPU senza dover gestire l'hardware sottostante. La piattaforma di Verda semplifica questa complessità, preservando al contempo l'accesso diretto alle infrastrutture NVIDIA ad alte prestazioni.

Implementazione accelerata tramite sistemi pre-validati

Il ruolo di Supermicro nell'implementazione va oltre la semplice fornitura di hardware. Il suo framework Data Center Building Block Solutions (DCBBS) offre un'infrastruttura modulare pre-validata che semplifica l'integrazione a livello di rack e di data center. Ciò include combinazioni validate di componenti di elaborazione, archiviazione, rete e software.

Sfruttando queste configurazioni pre-testate, Verda ha ridotto i tempi di implementazione e mitigato i rischi di integrazione. L'integrazione a livello di rack migliora anche le prestazioni a livello di sistema ottimizzando l'erogazione di energia, la gestione termica e la topologia di interconnessione. Ciò è particolarmente rilevante per i sistemi basati su Blackwell, dove la densità di potenza e l'efficienza di raffreddamento sono considerazioni progettuali fondamentali.

Efficienza e sostenibilità come priorità di progettazione

L'efficienza energetica è fondamentale per l'implementazione. I sistemi basati su Blackwell sono progettati per offrire prestazioni per watt superiori rispetto alle precedenti generazioni di GPU, con un impatto diretto sui costi operativi e sulla scalabilità. Le ottimizzazioni a livello di sistema di Supermicro riducono ulteriormente il costo totale di proprietà, migliorando l'utilizzo e diminuendo i costi generali dell'infrastruttura.

Verda integra queste efficienze con un modello operativo incentrato sulla sostenibilità. L'azienda dichiara che i suoi data center sono alimentati al 100% da energia rinnovabile. Sta inoltre collaborando con le aziende di servizi pubblici regionali per riutilizzare il calore di scarto delle proprie strutture e fornire riscaldamento a circa 15,000 abitazioni. Questo tipo di riutilizzo del calore è sempre più diffuso nelle implementazioni di intelligenza artificiale ad alta densità, dove la produzione di calore può essere significativa.

Allineare le infrastrutture alle esigenze del mercato dell'IA

Questa collaborazione mette in luce una tendenza più ampia nel mercato delle infrastrutture per l'IA, verso soluzioni integrate verticalmente e scalabili a livello di rack. Con la crescita delle dimensioni dei modelli e la crescente complessità dei carichi di lavoro, le implementazioni tradizionali basate su server vengono sostituite da sistemi strettamente integrati che ottimizzano le prestazioni in termini di elaborazione, rete e alimentazione.

L'approccio DCBBS di Supermicro riflette questo cambiamento, consentendo alle organizzazioni di implementare un'infrastruttura modulare scalabile, dai singoli server fino a data center completi. Per provider come Verda, questa flessibilità favorisce una rapida espansione, mantenendo al contempo la coerenza tra le diverse regioni.

Poiché la domanda di infrastrutture accelerate da GPU continua a superare l'offerta, le partnership tra fornitori di sistemi e provider di servizi cloud stanno diventando cruciali. L'implementazione di Verda dimostra come le piattaforme pre-integrate basate su Blackwell possano fornire servizi di intelligenza artificiale ad alte prestazioni su larga scala, soddisfacendo al contempo i requisiti di efficienza operativa e sostenibilità.

Interagisci con StorageReview

Newsletter | YouTube | Podcast iTunes / Spotify | Instagram | Twitter | TikTok | Feed RSS

Harold Fritt

Lavoro nel settore tecnologico da quando IBM ha creato Selectric. Il mio background, però, è la scrittura. Così ho deciso di uscire dal business delle prevendite e tornare alle mie radici, scrivendo un po’ ma rimanendo comunque coinvolto nella tecnologia.