델 테크놀로지스는 AMD와 협력하여 개발한 델 AI 플랫폼에 두 가지 주요 업데이트를 발표했습니다. 이번 업데이트는 파일럿 AI 구축부터 본격적인 프로덕션 환경 구축까지 규모를 확장하는 기업들을 대상으로 합니다. 개선 사항은 고성능 학습 인프라와 비용, 확장성, 운영 제어의 균형을 맞춘 모듈형 아키텍처에 중점을 두고 있습니다.
첫 번째 업데이트에서는 AMD Instinct MI355X GPU 와 AMD EPYC CPU를 탑재한 Dell PowerEdge XE9785 서버 노드를 활용한 대규모 구성이 소개됩니다 . 이 구성은 모델 학습, 사전 학습, 고처리량 추론 등 까다로운 AI 워크로드에 최적화되어 있습니다. Dell PowerSwitch 네트워킹과 PowerScale 스토리지를 통합하여 배포 환경 전반에 걸쳐 일관된 인프라 스택을 보장합니다.
AMD Instinct MI355X GPU를 사용하면 노드당 메모리 용량이 증가하여 더 큰 모델을 지원하고 클러스터 전체에서 더욱 효율적인 확장이 가능해집니다. 이 구성은 대규모 환경에서 예측 가능한 성능을 요구하는 지속적인 AI 워크로드를 처리하는 기업 및 서비스 제공업체를 대상으로 합니다.
두 번째 개선 사항은 델의 모듈형 AI 팩토리 아키텍처를 확장하여 AMD Instinct MI350P PCIe GPU 와 AMD EPYC CPU를 함께 지원하는 것입니다. 이 구성은 델 PowerEdge XE7745 및 R7725 서버, PowerSwitch 네트워킹, PowerScale 스토리지를 사용하며 델 AI 데이터 플랫폼과 통합됩니다. 이는 기업이 파일럿 단계에서 프로덕션 단계로 전환할 때 비용 효율적인 솔루션을 제공하며, 컴퓨팅, 메모리, 스토리지 및 네트워크 리소스를 단계적으로 확장하여 특정 병목 현상을 해결할 수 있도록 지원합니다.
두 구성 모두 AMD ROCm 소프트웨어 스택을 기반으로 구축되었으며 PyTorch 및 vLLM과 같은 오픈 프레임워크를 지원합니다. Dell Automation Platform과의 통합을 통해 클러스터 프로비저닝 및 확장을 간소화하는 배포 및 수명 주기 관리 기능을 제공합니다.
델은 또한 온프레미스 배포와 퍼블릭 클라우드 대안을 비교한 Omdia 연구 결과를 인용했습니다 . 보고서에 따르면 AMD Instinct MI355X GPU가 탑재된 PowerEdge XE9785 서버 구성은 인프라 효율성과 개방형 소프트웨어 생태계 덕분에 총 소유 비용을 최대 65%까지 절감할 수 있다고 합니다.
모듈형 설계는 예측 가능한 AI 확장을 목표로 합니다.
델은 소규모 테스트부터 엔터프라이즈급 프로덕션까지 일관된 확장 경로를 지원하는 모듈식 설계를 기반으로 업데이트된 플랫폼을 제공합니다. 기업은 최소 2개의 GPU를 사용하는 단일 노드 구성으로 시작한 후, 수요 증가에 따라 컴퓨팅 노드, GPU 용량, 스토리지 및 네트워크 대역폭을 추가하여 확장할 수 있습니다. 이러한 접근 방식을 통해 초기 인프라 투자를 재사용하면서 단계적으로 규모를 확장할 수 있습니다.
이 플랫폼은 워크로드 유연성을 고려하여 설계되었습니다. AMD의 엔터프라이즈 AI 소프트웨어 스택과 오픈 프레임워크를 표준화함으로써, 특수 인프라 사일로 없이도 다양한 AI 사용 사례를 지원합니다. 이를 통해 모델의 이식성을 높이고 여러 환경을 관리하는 데 드는 운영 오버헤드를 줄일 수 있습니다.
보안 및 거버넌스는 플랫폼 설계의 핵심 요소입니다. Dell은 온프레미스 배포를 우선시함으로써 외부 위험 노출을 줄이고 데이터 위치에 대한 통제권을 유지합니다. AMD의 엔터프라이즈 AI 리소스 관리자는 정책 제어 및 액세스 관리 등 추가적인 거버넌스 기능을 제공하여 조직이 데이터 보호 및 규정 준수 요구 사항을 시행할 수 있도록 지원합니다.
아마존