Generativní aplikace umělé inteligence vytvářejí působivé textové odpovědi, které jsou někdy přesné a jindy zcela mimo téma. Tyto chytré aplikace jsou poháněny velkými jazykovými modely (LLM), které jsou schopny odpovídat na složité dotazy a vytvářet umělecká díla, literaturu a další. Je zásadní zajistit, aby tyto chytré aplikace generovaly textové odpovědi, které jsou přesné, vhodné, k tématu, bezpečné a aktuální.
Společnost NVIDIA vydala open-source software, který vývojářům pomůže udržet generativní aplikace s umělou inteligencí na správné cestě. NeMo Guardrails pomůže zajistit, aby aplikace s umělou inteligencí reagovaly vhodně, přesně a bezpečně. Software NeMo Guardrails obsahuje veškerý kód, příklady a dokumentaci, které firmy potřebují k tomu, aby se cítily jistě při nasazování aplikací s umělou inteligencí, které generují text.
Důsledky pro podniky
Podniky váhají s implementací velkých jazykových modelů (LLM) kvůli obavám ohledně bezpečnosti, ochrany a potenciálu LLM generovat nevhodný nebo zaujatý obsah. Zavedení NeMo Guardrails nabízí slibné řešení těchto výzev, pomáhá zmírnit rizika spojená s přijetím LLM a pomáhá podnikům překonat jejich váhání. Poskytováním sady nástrojů pro budování bezpečných a důvěryhodných konverzačních systémů LLM umožňuje NeMo Guardrails vývojářům snadno stanovit programovatelná pravidla, která diktují interakce uživatelů, a zajišťuje, že aplikace založené na LLM dodržují podnikové standardy a zásady.
Tematické, bezpečnostní a zabezpečovací zábrany podporované technologií NeMo Guardrails řeší některé z hlavních obav, které jsme od podniků slyšeli, od udržení tematické zaměření až po prevenci dezinformací nebo nevhodných či škodlivých reakcí. Nabízí robustní bezpečnostní model a zmírňuje rizika spojená s aplikacemi založenými na LLM, což vzbuzuje v podnicích větší důvěru v přijetí této výkonné technologie.
Doufejme, že vydání NeMo Guardrails může sloužit jako katalyzátor pro širší přijetí LLM v podnicích a překlenout propast mezi možnostmi technologie umělé inteligence a bezpečnostními požadavky obchodního světa.
Bezpečné, k tématu, spolehlivé
Mnoho odvětví zavádí LLM (Managementy životního cyklu) s tím, jak zavádějí aplikace umělé inteligence, které v konečném důsledku odpovídají na otázky zákazníků, poskytují shrnutí dlouhých dokumentů, píší software a urychlují návrh léčiv. Vzhledem k tomuto rozmanitému publiku je bezpečnost v generativní umělé inteligenci významným problémem a řešení NVIDIA NeMo Guardrails bylo navrženo tak, aby fungovalo se všemi LLM, včetně ChatGPT od OpenAI, a pomohlo tak zajistit bezpečnost uživatelů.
Vývojáři mohou pomocí zábradlí NeMo Guardrails nastavit tři druhy hranic:
- Lokální ochranné zábrany: Zabraňuje aplikacím odbočit z kurzu do nežádoucích oblastí, například tím, že brání asistentům zákaznického servisu v odpovídání na otázky o počasí.
- Bezpečnostní zábradlí: Zajišťuje, aby aplikace reagovaly přesnými a vhodnými informacemi, filtrovaly nežádoucí jazyk a vynucovaly odkazy pouze na důvěryhodné zdroje.
- Bezpečnostní zábradlí: Omezuje aplikace na navazování připojení pouze k externím aplikacím třetích stran, o kterých je známo, že jsou bezpečné.
NeMo Guardrails nevyžaduje, aby byli vývojáři softwaru experty na strojové učení nebo datoví vědci. Nová pravidla lze rychle vytvořit jen pomocí několika řádků kódu.
Open Source a dostupné na GitHubu
NVIDIA přidává do frameworku NVIDIA NeMo technologii NeMo Guardrails, která uživatelům poskytuje vše potřebné k trénování a ladění jazykových modelů. Velká část frameworku NeMo je již k dispozici na GitHubu a podniky mohou získat kompletní a podporovaný balíček, protože je součástí softwarové platformy NVIDIA AI Enterprise.
NeMo je také součástí NVIDIA AI Foundations, rodiny cloudových služeb pro firmy, které chtějí vytvářet a provozovat vlastní generativní modely umělé inteligence založené na vlastních datových sadách a znalostech oboru.
Postaveno na Colangu
NeMo Guardrails je postaven na CoLangu, modelovacím jazyce a souvisejícím běhovém prostředí pro konverzační umělou inteligenci. Colang poskytuje čitelné a rozšiřitelné rozhraní, které uživatelům umožňuje definovat nebo ovládat chování konverzačních botů pomocí přirozeného jazyka.
Ochranné zábradlí se vytvářejí definováním toků v souboru Colang pomocí kanonických formulářů, zpráv a toků. Toho se dosahuje pomocí přirozeného jazyka, což usnadňuje konstrukci a udržování bota v kondici. Několik příkladů na GitHubu se zabývá běžnými vzory pro implementaci ochranných zábradlí.
Amazon