기업들은 Generative AI 모델을 구현할 때 보다 인간 중심적인 방법론을 채택하여 혁신과 효율성의 한계를 뛰어넘고 있습니다. 이러한 모델은 챗봇, 코드 개발, 가상 비서와 같은 다양한 애플리케이션에서 유용성을 찾습니다. 그러나 퍼블릭 클라우드 솔루션은 편리하기는 하지만 문자열이 첨부된 경우가 많습니다. 여기에는 데이터 주권, 예측할 수 없는 비용, 규정 준수 문제와 관련된 보안 위험이 포함됩니다.
오픈소스 대규모 언어 모델 (LLM), 특히 Llama 2를 사용하는 온프레미스 솔루션을 선택하면 더욱 예측 가능하고 안전한 대안을 제공합니다. 이 모델은 장기적으로 지속 가능한 비용 구조를 제공하고 민감한 데이터에 대한 통제력을 강화합니다. 결과적으로 데이터 보안 침해 및 지적 재산권 유출과 관련된 위험을 크게 줄여 규정 준수를 더욱 용이하게 합니다.
Dell의 검증된 설계 GenAI 솔루션
Dell Technologies는 Dell 검증 설계를 통해 강조된 이러한 전환을 간소화하기 위해 Generative AI 솔루션을 갖춘 턴키 솔루션을 만들었습니다. 이 통합 패키지는 사전 테스트된 하드웨어 및 소프트웨어와 Generative AI 프로젝트를 위해 명시적으로 구축된 강력한 기반을 제공합니다. Meta와의 협력을 통해 이 생태계가 확장되어 기업은 Meta의 Llama 2 AI 모델을 Dell의 기존 인프라에 쉽게 통합할 수 있습니다.
이러한 모델을 구동하는 하드웨어 또한 결코 뒤처지지 않습니다. 예를 들어, 조던이 선호하는 Dell PowerEdge XE9680 서버는 8개의 NVIDIA H100 GPU를 탑재하여 Llama 2와 같은 대규모 언어 모델을 미세 조정하고 배포하는 데 이상적인 성능을 제공합니다. Dell은 사전 검증된 온프레미스 솔루션을 제공함으로써 기업이 중단 없이 운영할 수 있도록 지원하고 지적 재산권을 더욱 효과적으로 보호합니다.
맞춤화를 위한 새로운 길을 열다
특히 지도형 미세 조정, LoRA 및 p-튜닝과 같은 모델 사용자 정의 기술에 대한 연구에 대한 Dell의 투자는 엔터프라이즈 수준 사용자 정의를 위한 새로운 길을 열었습니다. 그들은 2B에서 7B까지 다양한 Llama 70 모델에서 이러한 기술의 효율성을 입증했으며, 이를 통해 기업은 이러한 강력한 AI 도구를 특정 요구 사항에 맞게 조정할 수 있는 유연성을 제공합니다.
본질적으로 Dell과 Meta의 Llama 2 협력은 다양한 규모의 조직을 위한 새롭고도 풍부한 옵션 환경을 제공합니다. 이러한 통합 접근 방식을 사용하면 데스크톱, 핵심 데이터 센터, 엣지 위치 등 여러 배포 영역에 걸쳐 Generative AI 솔루션을 원활하게 구현할 수 있으며 퍼블릭 클라우드 인프라까지 확장할 수도 있습니다. 따라서 기업은 Generative AI를 더욱 발전시킬 때 활용할 수 있는 포괄적이면서도 유연한 툴킷을 보유하고 있습니다.
아마존