NVIDIA oznámila NeMo Retriever pro generativní umělou inteligenci v podnicích

NVIDIA na veletrhu AWS re:Invent upoutala pozornost představením NVIDIA NeMo Retriever, nové generativní mikroslužby umělé inteligence, která slibuje zlepšení prostředí podnikové umělé inteligence tím, že umožní integraci vlastních modelů velkých jazyků (LLM) s podnikovými daty. Cílem je, aby NeMo Retriever poskytoval bezprecedentně přesné odezvy pro aplikace umělé inteligence v podnicích.

NVIDIA NeMo Retriever je nejnovějším přírůstkem do rodiny NeMo, známé svými pokročilými frameworky a nástroji určenými k vytváření, přizpůsobování a nasazování špičkových generativních modelů umělé inteligence. Tato podniková mikroslužba pro sémantické vyhledávání je navržena tak, aby vylepšila aplikace generativní umělé inteligence o robustní funkce pro generování s rozšířeným vyhledáváním (RAG).

NeMo Retriever se odlišuje schopností poskytovat přesnější odpovědi prostřednictvím algoritmů optimalizovaných pro NVIDIA. Tato mikroslužba umožňuje vývojářům bezproblémově propojit své aplikace s umělou inteligencí s rozmanitými obchodními daty, bez ohledu na umístění – v cloudech nebo v datových centrech. Jako součást softwarové platformy NVIDIA AI Enterprise je snadno dostupná na AWS Marketplace.

NVIDIA NeMo Retriever se již používá

Dopad této technologie je již patrný u lídrů v oboru, jako jsou Cadence, Dropbox, SAP a ServiceNow, kteří spolupracují se společností NVIDIA. Integrují tuto technologii do svých vlastních generativních aplikací a služeb umělé inteligence a posouvají tak hranice možností v oblasti business intelligence.

„Generativní umělá inteligence zavádí inovativní přístupy k řešení potřeb zákazníků, jako jsou nástroje pro odhalování potenciálních nedostatků v rané fázi procesu návrhu,“ řekl Anirudh Devgan, prezident a generální ředitel společnosti Cadence.

Cadence, světový lídr v oblasti návrhu elektronických systémů, využívá NeMo Retriever k vývoji funkcí generativní umělé inteligence (RAG) pro aplikace umělé inteligence v návrhu průmyslové elektroniky. Anirudh Devgan, generální ředitel společnosti Cadence, zdůraznil potenciál generativní umělé inteligence v odhalování konstrukčních vad v rané fázi, a tím urychlil vývoj vysoce kvalitních produktů.

Na rozdíl od open-source RAG toolkitů přichází NeMo Retriever na trh připravený k produkčnímu prostředí a nabízí komerčně životaschopné modely, stabilitu API, bezpečnostní záplaty a podnikovou podporu. Jeho optimalizované modely pro vkládání představují významný technologický pokrok, zachycují složité vztahy mezi slovy a vylepšují možnosti zpracování a analýzy LLM.

Proč je NVIDIA NeMo Retriever důležitý

Schopnost NeMo Retrieveru propojit LLM s více zdroji dat a znalostními bázemi je pozoruhodná. Umožňuje uživatelům interagovat s daty prostřednictvím jednoduchých konverzačních pokynů a získávat přesné a aktuální odpovědi. Tato funkcionalita se rozšiřuje na různé datové modality, včetně textu, PDF, obrázků a videí, a zajišťuje tak komplexní a bezpečný přístup k informacím.

Nejzajímavější je, že NVIDIA NeMo Retriever slibuje přesnější výsledky s menším počtem tréninku, což zkracuje dobu uvedení na trh a podporuje energetickou účinnost ve vývojovém postupu generativních aplikací s umělou inteligencí.

A právě zde NeMo Retriever skutečně vyniká. Integrací RAG s LLM překonává NeMo Retriever omezení tradičních modelů. RAG kombinuje sílu vyhledávání informací s LLM, zejména pro aplikace zaměřené na odpovídání na otázky v otevřené doméně, a tím výrazně zlepšuje přístup LLM k rozsáhlým a aktualizovatelným znalostním bázím.

Pohled do potrubí RAG

NeMo Retriever optimalizuje RAG procesy, počínaje kódováním znalostní báze v offline fázi. V této fázi jsou dokumenty v různých formátech rozděleny do bloků a vkládány pomocí modelu hlubokého učení za účelem vytvoření hustých vektorových reprezentací. Ty jsou poté uloženy ve vektorové databázi, což je klíčové pro pozdější sémantické vyhledávání. Proces vkládání je klíčový, protože zachycuje vztahy mezi slovy, což umožňuje LLM zpracovávat a analyzovat textová data se zvýšenou přesností.

Pod kapotou, v produkčním prostředí a při zodpovídání otázek, jsou schopnosti NeMo Retrieveru skutečně zářit. Zahrnují dvě klíčové fáze: vyhledávání z vektorové databáze a generování odpovědí. Když uživatel zadá dotaz, NeMo Retriever nejprve vloží tento dotaz jako hustý vektor a použije ho k prohledání vektorové databáze. Tato databáze poté načte nejrelevantnější části dokumentu související s dotazem. V závěrečné fázi jsou tyto části zkombinovány a vytvářejí kontext, který je spolu s dotazem uživatele zadán do LLM. Tento proces zajišťuje, že generované odpovědi jsou přesné a vysoce relevantní pro dotaz uživatele.

Překonávání podnikových výzev s NVIDIA NeMo

Vytvoření RAG pipeline pro podnikové aplikace je významnou výzvou. Od složitosti reálných dotazů až po požadavky na vícenásobné konverzace, podniky vyžadují řešení, které je technologicky vyspělé, kompatibilní s předpisy a komerčně životaschopné. NeMo Retriever si klade za cíl tento úkol splnit tím, že poskytuje komponenty připravené k produkčnímu prostředí, optimalizované pro nízkou latenci a vysokou propustnost, a slibuje, že podniky mohou tyto funkce nasadit ve svých aplikacích umělé inteligence.

Závazek společnosti NVIDIA k této technologii se rozšiřuje i na neustálé zlepšování jejích modelů a služeb, jako je tomu u modelu vkládání otázek a odpovědí NVIDIA Q&A. NVIDIA uvádí, že jako transformační kodér byl vyladěn tak, aby poskytoval co nejpřesnější vkládání pro textové odpovídání na otázky s využitím soukromých i veřejných datových sad.

Posílení podniků pomocí nejmodernější umělé inteligence

Praktické využití NeMo Retrieveru je rozsáhlé a rozmanité. Od asistentů IT a HR až po asistenty výzkumu a vývoje, schopnost NeMo Retrieveru propojit LLM s více zdroji dat a znalostními bázemi umožňuje podnikům interagovat s daty konverzačním a intuitivnějším způsobem. NeMo Retriever je připraven vylepšit uživatelskou zkušenost a zvýšit efektivitu a produktivitu napříč různými obchodními funkcemi napříč podniky.

Vývojáři, kteří chtějí využít tuto revoluční technologii, se mohou zaregistrovat a získat tak předběžný přístup k NVIDIA NeMo Retriever.

Nadšení kolem tohoto vydání je hmatatelné, protože vylepšuje současné možnosti umělé inteligence a otevírá řadu možností pro zavedení LLM v podnikovém sektoru. Pojem „převratný“ se v nedávných zprávách o umělé inteligenci objevuje stále častěji. NeMo Retriever je však klíčovým nástrojem pro propojení generativní umělé inteligence a akční business intelligence a poskytuje hmatatelné spojení mezi pokročilými možnostmi umělé inteligence a reálnými podnikovými aplikacemi.