När AI först introducerades i massskala visades det som Generativ AI som nås via webbaserade applikationer. Nu är Generativa AI-modeller på väg till företag. AI-modeller som Google Gemma, Llama 3.1 405B, Microsoft Phi, Mixtral och Nemotron utvecklar affärsspecifika AI-applikationer för att stödja tillväxt och öka produktiviteten.
NVIDIA NIM, som ursprungligen lanserades i juni, erbjuder en standardiserad metod för att integrera generativ AI i applikationer. Det är en samling anpassningsbara AI-arbetsflöden utformade för att effektivisera företagsutvecklare som bygger och distribuerar sina egna generativa AI-applikationer på NVIDIA GPU:er – var som helst: i molnet, datacenter, arbetsstationer och datorer. Att utveckla AI-applikationer är dock fortfarande utmanande. Det är därför NVIDIA lanserade NIM Agent Blueprints. NVIDIA NIM Agent Blueprints erbjuder förtränade modeller och referenskoder för specifika användningsfall som kundtjänst, datautvinning eller läkemedelsutveckling.
AI Microservices och svänghjul, oh my!
Utvecklare kan skapa applikationer med hjälp av NIM:s AI-verktyg och mikrotjänster och komma igång. Ritningarna tillåter utvecklare att justera och förbättra arbetsflöden med hjälp av informationshämtning och agentbaserat arbetsflöde för att utföra komplexa uppgifter. Dessutom fortsätter en AI-applikation att träna och förfina sig själv.
NVIDIA NeMo, en end-to-end-plattform för att utveckla generativ AI var som helst, underlättar att koppla modeller till deras data för träning. Modellens kontinuerliga inlärningscykel skapar ett generativt AI-svänghjul, en självförstärkt cykel som skapar bättre AI genom att använda användardata. NIM Agent Blueprints hjälper företag att skapa AI-svänghjul med NVIDIA NeMo Retriever, en NIM-mikrotjänst.
Med NVIDIA AI Foundry, en plattform och tjänst för att bygga anpassade generativa AI-modeller med företagsdata och domänspecifik kunskap för att köra svänghjulet, tror NVIDIA att företag kan skapa AI-assistenter skräddarsydda för specifika jobb och uppgifter med hjälp av retrieval-augmented generation (RAG) och agentbaserade arkitekturer.
NVIDIAs grundare och vd Jensen Huang sa: "Generativ AI går framåt med ljushastighet." Han sa: "Frontiermodellens kapacitet växer exponentiellt med en kontinuerlig ström av nya applikationer. Enterprise AI-vågen är här. Med NVIDIA AI Enterprise-verktygssatsen – inklusive NeMo, NIM-mikrotjänster och de senaste NIM Agent Blueprints – är vårt expansiva partnerekosystem redo att hjälpa företag att anpassa modeller med öppen källkod, bygga skräddarsydda AI-applikationer och distribuera dem sömlöst över alla moln, i lokaler eller på kanten."
partnerskap
NVIDIA och ett helt "ekosystem" av partners har bidragit till NIM Agent Blueprints. Systemintegratörer och serviceleveranspartners som Accenture, Deloitte, SoftServe, Quantiphi och World Wide Technology (WWT) arbetar med att lansera NIM Agent Blueprints till företag globalt. Partners skapar verktyg som utnyttjar kundinteraktionsdata för att optimera en mängd aspekter.
NIM Agent Blueprints kan integreras med data- och lagringsplattformar från partners, som Cohesity, Datastax, Dropbox, NetApp och VAST Data. Partners som Dataiku och DataRobot använder ritningar för modellfinjustering, styrning och övervakning. Medan Deepset, LlamaIndex och Langchain använder dem för att bygga arbetsflöden. Vikter och fördomar utnyttjar ritningar för generativa AI-applikationsutvärderingar. CrowdStrike, Fiddler AI, New Relic och Trend Micro kan användas för att skydda.
Slutsats
De första tre tillgängliga NIM Agemt-ritningarna är digitala mänskliga arbetsflöden för kundtjänst, ett generativt virtuellt screening-arbetsflöde för accelererad läkemedelsupptäckt och ett multimodalt arbetsflöde för PDF-dataextraktion för RAG för företag. NVIDIA säger att de kommer att ha månatliga utgåvor av nya NIM Agent Blueprints, som kundservice, innehållsgenerering, mjukvaruutveckling, rådgivare för detaljhandel och FoU.
Utvecklare på NVIDIA-plattformar kan nu skapa modeller som säkert och effektivt hanterar företags- och kunddata, vilket är en vinst för AI-integration. Plus, de självlärande aspekterna av svänghjulet kan frigöra utvecklarnas tid. Med NIM Agent Blueprints är det inte mycket som hindrar företag från att integrera AI i någonting. Jensen Huang sa: "Företagsvågen av AI är här."
Amazon