AI가 처음 대규모로 도입되었을 때는 웹 기반 애플리케이션을 통해 접근하는 제너레이티브 AI(Generative AI)로 나타났습니다. 이제 Generative AI 모델이 비즈니스에 진출하고 있습니다. Google Gemma, Llama 3.1 405B, Microsoft Phi, Mixtral 및 Nemotron과 같은 AI 모델은 성장을 지원하고 생산성을 높이기 위해 비즈니스별 AI 애플리케이션을 개발합니다.
지난 6월에 처음 출시된 NVIDIA NIM은 애플리케이션에 생성형 AI를 통합하는 표준화된 방법을 제공합니다. NVIDIA NIM은 기업 개발자가 클라우드, 데이터 센터, 워크스테이션, PC 등 어디에서든 NVIDIA GPU를 사용하여 자체 생성형 AI 애플리케이션을 구축하고 배포하는 과정을 간소화하도록 설계된 맞춤형 AI 워크플로 모음입니다. 하지만 AI 애플리케이션 개발은 여전히 어려운 과제입니다. 이러한 이유로 NVIDIA는 NIM 에이전트 블루프린트를 출시했습니다. NVIDIA NIM 에이전트 블루프린트는 고객 서비스, 데이터 추출, 의약품 개발과 같은 특정 사용 사례에 맞춘 사전 학습된 모델과 참조 코드를 제공합니다.
AI 마이크로서비스와 플라이휠, 이런!
개발자는 NIM의 AI 도구와 마이크로서비스를 사용하여 애플리케이션을 만들고 성공적으로 실행할 수 있습니다. 청사진을 통해 개발자는 정보 검색 및 에이전트 기반 워크플로를 사용하여 워크플로를 조정하고 향상하여 복잡한 작업을 수행할 수 있습니다. 게다가 AI 애플리케이션은 계속해서 스스로를 훈련하고 개선합니다.
어디서든 생성 AI를 개발하기 위한 엔드투엔드 플랫폼인 NVIDIA NeMo는 훈련을 위해 모델을 데이터에 연결하는 것을 용이하게 합니다. 모델의 지속적인 학습 주기는 사용자 데이터를 활용하여 더 나은 AI를 만드는 자체 강화 주기인 생성적 AI 플라이휠을 생성합니다. NIM 에이전트 블루프린트는 기업이 NIM 마이크로서비스인 NVIDIA NeMo Retriever를 사용하여 AI 플라이휠을 생성하도록 지원합니다.
플라이휠 실행을 위한 엔터프라이즈 데이터와 도메인별 지식을 갖춘 맞춤형 생성 AI 모델을 구축하기 위한 플랫폼이자 서비스인 NVIDIA AI Foundry를 통해 NVIDIA는 기업이 검색 증강 생성(RAG) 및 에이전트 기반 아키텍처.
엔비디아 창립자이자 CEO인 젠슨 황(Jensen Huang)은 “제너레이티브 AI(Generative AI)는 빛의 속도로 발전하고 있습니다.”라고 말했습니다. 그는 “프론티어 모델 기능은 새로운 애플리케이션이 지속적으로 등장하면서 기하급수적으로 성장하고 있습니다. 엔터프라이즈 AI 물결이 여기에 있습니다. NeMo, NIM 마이크로서비스 및 최신 NIM 에이전트 블루프린트를 포함한 NVIDIA AI 엔터프라이즈 툴킷을 통해 NVIDIA의 광범위한 파트너 에코시스템은 기업이 오픈 소스 모델을 맞춤화하고 맞춤형 AI 애플리케이션을 구축하여 모든 클라우드, 온프레미스 또는 클라우드에서 원활하게 배포할 수 있도록 지원합니다. 가장자리.”
파트너십
NVIDIA와 파트너의 전체 "생태계"가 NIM 에이전트 블루프린트에 기여했습니다. Accenture, Deloitte, SoftServe, Quantiphi 및 World Wide Technology(WWT)와 같은 시스템 통합업체 및 서비스 제공 파트너는 전 세계 기업에 NIM Agent Blueprint를 출시하기 위해 노력하고 있습니다. 파트너는 고객 상호 작용 데이터를 활용하여 다양한 측면을 최적화하는 도구를 만듭니다.
NIM Agent Blueprints는 Cohesity, Datastax, Dropbox, NetApp 및 VAST Data와 같은 파트너의 데이터 및 스토리지 플랫폼과 통합할 수 있습니다. Dataiku 및 DataRobot과 같은 파트너는 모델 미세 조정, 거버넌스 및 모니터링을 위해 청사진을 사용합니다. Deepset, LlamaIndex 및 Langchain은 이를 사용하여 워크플로를 구축합니다. 가중치 및 편향은 생성적 AI 애플리케이션 평가를 위한 청사진을 활용합니다. CrowdStrike, Fiddler AI, New Relic 및 Trend Micro를 보호에 사용할 수 있습니다.
맺음말
사용 가능한 처음 세 가지 NIM Agemt Blueprint는 고객 서비스를 위한 디지털 휴먼 워크플로, 가속화된 약물 발견을 위한 생성적 가상 스크리닝 워크플로, 기업 RAG를 위한 다중 모드 PDF 데이터 추출 워크플로입니다. NVIDIA는 고객 서비스, 콘텐츠 생성, 소프트웨어 엔지니어링, 소매 쇼핑 자문, R&D와 같은 새로운 NIM 에이전트 블루프린트를 매월 출시할 것이라고 밝혔습니다.
이제 NVIDIA 플랫폼의 개발자는 회사 및 고객 데이터를 안전하고 효과적으로 처리하는 모델을 만들 수 있으며 이는 AI 통합에 있어 큰 이점이 됩니다. 또한 Flywheel의 자체 학습 측면은 개발자의 시간을 확보할 수 있습니다. NIM 에이전트 블루프린트를 사용하면 기업이 AI를 모든 것에 통합하는 데 거의 방해가 되지 않습니다. Jensen Huang은 "기업용 AI 물결이 여기에 있습니다"라고 말했습니다.
아마존