Dell Technologies heeft twee belangrijke updates aangekondigd voor zijn Dell AI-platform met AMD, gericht op organisaties die opschalen van AI-pilotprojecten naar volledige productieomgevingen. De verbeteringen richten zich op een krachtige trainingsinfrastructuur en een modulaire architectuur die een balans biedt tussen kosten, schaalbaarheid en operationele controle.
De eerste update introduceert een grootschalige configuratie met Dell PowerEdge XE9785-servernodes uitgerust met AMD Instinct MI355X GPU 's en AMD EPYC-CPU's. Deze configuratie is ontworpen voor veeleisende AI-workloads, waaronder modeltraining, pre-training en high-throughput inferentie. Het platform integreert Dell PowerSwitch-netwerken en PowerScale-opslag, wat zorgt voor een consistente infrastructuurstack bij alle implementaties.
Het gebruik van AMD Instinct MI355X GPU's vergroot de geheugencapaciteit per node, waardoor grotere modellen ondersteund kunnen worden en efficiënter geschaald kan worden over clusters. Deze configuratie is gericht op bedrijven en serviceproviders met continue AI-workloads die voorspelbare prestaties op grote schaal vereisen.
De tweede verbetering breidt de modulaire AI Factory-architectuur van Dell uit met ondersteuning voor AMD Instinct MI350P PCIe GPU's in combinatie met AMD EPYC CPU's. Deze configuratie maakt gebruik van Dell PowerEdge XE7745- en R7725-servers, PowerSwitch-netwerken en PowerScale-opslag, en integreert met het Dell AI Data Platform. Het is gepositioneerd als een kosteneffectieve oplossing voor organisaties die van een pilotfase naar een productieomgeving overstappen, waardoor stapsgewijze schaalvergroting van rekenkracht, geheugen, opslag en netwerkbronnen mogelijk is om specifieke knelpunten aan te pakken.
Beide configuraties zijn gebouwd op de AMD ROCm-softwarestack en ondersteunen open frameworks zoals PyTorch en vLLM. Integratie met het Dell Automation Platform biedt mogelijkheden voor implementatie en lifecyclemanagement die het inrichten en schalen van clusters vereenvoudigen.
Dell verwees ook naar bevindingen uit een Omdia-studie waarin on-premises implementaties werden vergeleken met alternatieven in de publieke cloud. Volgens het rapport kan een configuratie met PowerEdge XE9785-servers met AMD Instinct MI355X GPU's tot 65% lagere totale eigendomskosten opleveren, dankzij infrastructuurefficiëntie en open software-ecosystemen.
Modulair ontwerp gericht op voorspelbare AI-schaalbaarheid
Dell baseert het vernieuwde platform op een modulair ontwerp dat een consistent traject ondersteunt van kleinschalige tests tot productie op bedrijfsniveau. Organisaties kunnen beginnen met een configuratie met één node en slechts twee GPU's, en vervolgens schalen door rekenknooppunten, GPU-capaciteit, opslag en netwerkbandbreedte toe te voegen naarmate de vraag toeneemt. Deze aanpak maakt hergebruik van initiële infrastructuurinvesteringen mogelijk, terwijl gecontroleerd wordt opgeschaald.
Het platform is tevens ontworpen voor flexibele werkbelasting. Door te standaardiseren op AMD's enterprise AI-softwarestack en open frameworks worden diverse AI-toepassingen ondersteund zonder dat er gespecialiseerde infrastructuur nodig is. Dit maakt modelportabiliteit mogelijk en vermindert de operationele overhead van het beheren van meerdere omgevingen.
Beveiliging en governance blijven centraal staan in het ontwerp van het platform. Door prioriteit te geven aan implementatie op locatie, vermindert Dell de blootstelling aan externe risico's en behoudt het de controle over de locatie van de gegevens. AMD's enterprise AI Resource Manager biedt aanvullende governance-mogelijkheden, waaronder beleidscontroles en toegangsbeheer, om organisaties te helpen bij het afdwingen van gegevensbescherming en nalevingsvereisten.
Amazon