랙스페이스 테크놀로지와 AMD는 규제 대상 조직 및 국가 워크로드를 위한 엔터프라이즈 AI 인프라에 초점을 맞춘 다년간의 전략적 파트너십 프레임워크를 구축하는 양해각서를 체결했습니다.
이번 계약은 보안, 거버넌스, 규정 준수 및 운영 책임이 핵심 요구 사항인 미션 크리티컬 AI 배포를 위해 설계된 엔터프라이즈 AI 클라우드 구축을 중심으로 합니다. 이 플랫폼은 AMD Instinct GPU 와 AMD EPYC CPU를 랙스페이스 테크놀로지의 관리형 운영 모델과 결합하여 일반적인 GPU 임대 모델이나 관리되지 않는 공용 인프라를 프로덕션 AI 워크로드에 사용할 수 없는 기업을 위한 전용 AI 인프라 스택을 구축합니다.
랙스페이스 테크놀로지와 AMD는 많은 기업들이 AI를 실험 단계에서 실제 운영 단계로 옮기고 있지만, 인프라 통합, 보안, 데이터 거버넌스, 성능 관리 및 책임성 확보 등 상당한 운영상의 어려움에 직면하고 있다고 강조했습니다. 현재 모델에서는 기업들이 GPU 용량을 시간 단위로 임대하는 동시에 지원 인프라 및 운영 책임의 상당 부분을 자체적으로 부담해야 하는 경우가 많습니다.
두 회사는 관리형 접근 방식을 제안하고 있는데, 이는 AMD 전용 컴퓨팅 리소스를 기업 운영 모델에 통합하는 방식입니다. 이 프레임워크 하에서 랙스페이스는 실리콘 및 가속 컴퓨팅부터 추론, 에이전트 및 프로덕션 지원에 이르기까지 전체 스택을 운영하게 됩니다.
기업들이 AI를 실제 운영 환경에 도입함에 따라, 랙스페이스 테크놀로지와 AMD는 신뢰와 책임성이 핵심 과제가 된다고 생각합니다. 규제 환경에서의 거버넌스는 나중에 추가하는 것이 아니라, 처음부터 인프라에 내장되어야 합니다. AMD는 인스팅트 GPU 가속기와 EPYC 프로세서를 통해 컴퓨팅 기반을 제공하고, 사설 및 규제 환경에서 성능, 효율성, 확장성을 요구하는 AI 워크로드를 지원하는 데 집중할 것입니다.
스택에 계획된 네 가지 기능
이번 협력은 랙스페이스가 엔터프라이즈 AI 클라우드, 엔터프라이즈 추론 엔진, 서비스형 추론, 베어메탈 AMD 인스팅트라는 네 가지 통합 기능을 기반으로 구축된 맞춤형 엔터프라이즈 AI 스택을 완성하는 데 도움을 주기 위한 것입니다.
제안된 엔터프라이즈 AI 클라우드는 AMD Instinct GPU, AMD EPYC CPU 및 Rackspace의 관리형 운영 모델을 기반으로 구축된 완전 관리형 프라이빗 하이브리드 AI 환경입니다. Rackspace는 주권, 규정 준수 및 운영 책임이 필요한 기업을 위해 스택을 구성, 통합 및 운영합니다.
엔터프라이즈 추론 엔진은 조직에 도메인 지식, 세션 기록 및 회사별 컨텍스트를 쿼리 전반에 걸쳐 전달할 수 있는 컨텍스트 인식 런타임을 제공합니다. 목표는 AI 에이전트와 대규모 언어 모델이 프로덕션 환경에서 더욱 일관된 결과를 제공하도록 지원하는 것입니다. 랙스페이스는 가용성, 확장성 및 성능을 포함한 서비스 수준 약속을 관리하는 동시에 조직이 자체 데이터를 감사 가능성 및 비용 책임성을 확보하면서 사용할 수 있도록 지원합니다.
서비스형 추론(Inference as a Service)은 AMD Instinct GPU를 위한 전용 관리 용량과 추론 및 미세 조정을 위한 개발자용 도구를 제공합니다. 고객은 자체 모델과 엔지니어링 팀을 제공하고, Rackspace는 AMD Instinct 베어메탈 용량, 하드웨어 수준 지원, 운영 관리 및 성능 서비스 목표를 담당합니다.
베어메탈 AMD Instinct는 까다로운 학습 및 추론 워크로드에 필요한 물리적 격리, 예측 가능한 성능 및 하드웨어 직접 액세스를 위해 전용 고성능 컴퓨팅을 제공합니다.
관리형 AI 인프라를 위한 단일 운영자
계획된 기능들을 종합하면 기업은 AI 인프라 수명주기 전반에 걸쳐 책임 있는 단일 운영자를 확보할 수 있습니다. 랙스페이스는 베어메탈 컴퓨팅 및 개발자 도구부터 추론 런타임 및 관리형 클라우드 인프라에 이르기까지 스택 전체를 관리합니다.
목표는 각 워크로드에 적합한 수준의 주권, 규정 준수, 성능 및 감독을 제공하는 것입니다. 본 양해각서는 랙스페이스와 AMD가 규제 대상 기업, 주권 워크로드, 그리고 모든 계층에서 책임성이 요구되는 프로덕션 AI 환경을 위한 관리형 엔터프라이즈 AI 인프라에 대해 협력할 수 있는 프레임워크를 제공합니다.
아마존