Generatieve AI-toepassingen creëren indrukwekkende tekstreacties die soms accuraat zijn en soms volledig off-topic. Deze slimme applicaties worden aangedreven door grote taalmodellen (LLM's) die in staat zijn om complexe vragen te beantwoorden en kunstwerken, literatuur en meer te creëren. Het is van cruciaal belang om ervoor te zorgen dat deze slimme toepassingen tekstreacties genereren die nauwkeurig, gepast, on-topic, veilig en actueel zijn.
Generatieve AI-toepassingen creëren indrukwekkende tekstreacties die soms accuraat zijn en soms volledig off-topic. Deze slimme applicaties worden aangedreven door grote taalmodellen (LLM's) die in staat zijn om complexe vragen te beantwoorden en kunstwerken, literatuur en meer te creëren. Het is van cruciaal belang om ervoor te zorgen dat deze slimme toepassingen tekstreacties genereren die nauwkeurig, gepast, on-topic, veilig en actueel zijn.
NVIDIA heeft open-source software uitgebracht om ontwikkelaars te helpen die generatieve AI-applicaties op schema te houden. NeMo Guardrails helpt ervoor te zorgen dat AI-apps adequaat, nauwkeurig en veilig reageren. NeMo Guardrails-software bevat alle code, voorbeelden en documentatie die bedrijven nodig hebben om met vertrouwen AI-apps te implementeren die tekst genereren.
Implicaties voor ondernemingen
Bedrijven hebben aarzeling getoond om grote taalmodellen (LLM's) te implementeren vanwege bezorgdheid over veiligheid, beveiliging en het potentieel voor LLM's om ongepaste of bevooroordeelde inhoud te genereren. De introductie van NeMo Guardrails biedt een veelbelovende oplossing voor deze uitdagingen, waardoor de risico's die gepaard gaan met LLM-acceptatie worden beperkt en ondernemingen worden geholpen hun aarzelingen te overwinnen. Door een toolkit te bieden voor het bouwen van veilige en betrouwbare LLM-conversatiesystemen, stelt NeMo Guardrails ontwikkelaars in staat om eenvoudig programmeerbare regels vast te stellen die gebruikersinteracties dicteren, zodat op LLM gebaseerde applicaties voldoen aan bedrijfsnormen en -beleid.
De vangrails op het gebied van actualiteit, veiligheid en beveiliging die door NeMo Guardrails worden ondersteund, pakken enkele van de belangrijkste zorgen aan die we van ondernemingen hebben gehoord, van het behouden van de focus op het onderwerp tot het voorkomen van verkeerde informatie of ongepaste of kwaadwillige reacties. Door een robuust beveiligingsmodel aan te bieden en de risico's van LLM-gebaseerde applicaties te beperken, wekt NeMo Guardrails meer vertrouwen bij ondernemingen om deze krachtige technologie te gebruiken.
Met de release van NeMo Guardrails kan het hopelijk dienen als katalysator voor een bredere acceptatie van LLM's door ondernemingen, waardoor de kloof wordt overbrugd tussen de mogelijkheden van AI-technologie en de veiligheids- en beveiligingsvereisten van de zakenwereld.
Veilig, on-topic, veilig
Veel industrieën nemen LLM's over terwijl ze AI-applicaties uitrollen die uiteindelijk vragen van klanten beantwoorden, samenvattingen van lange documenten geven, software schrijven en het ontwerp van geneesmiddelen versnellen. Met dit diverse publiek is veiligheid in generatieve AI een belangrijk punt van zorg, en NVIDIA NeMo Guardrails is ontworpen om te werken met alle LLM's, inclusief OpenAI's ChatGPT, om gebruikers veilig te houden.
Ontwikkelaars kunnen NeMo Guardrails gebruiken om drie soorten grenzen in te stellen:
- Actuele vangrails: Voorkomt dat apps van koers raken naar een ongewenst gebied, zoals voorkomen dat medewerkers van de klantenservice vragen over het weer beantwoorden.
- Veiligheidsleuningen: Zorgt ervoor dat apps reageren met nauwkeurige, geschikte informatie, filtert ongewenste taal uit en dwingt af dat alleen naar geloofwaardige bronnen wordt verwezen.
- Beveiliging vangrails: beperkt apps tot het maken van alleen verbindingen met externe applicaties van derden waarvan bekend is dat ze veilig zijn.
NeMo Guardrails vereist niet dat softwareontwikkelaars experts zijn in machine learning of datawetenschappers worden. Nieuwe regels kunnen snel worden gemaakt met slechts een paar regels code.
Open source en beschikbaar op GitHub
NVIDIA voegt NeMo Guardrails toe aan het NVIDIA NeMo-framework en biedt alles wat gebruikers nodig hebben om taalmodellen te trainen en af te stemmen. Een groot deel van het NeMo-framework is al beschikbaar op GitHub en ondernemingen kunnen een compleet en ondersteund pakket krijgen omdat het deel uitmaakt van het NVIDIA AI Enterprise-softwareplatform.
NeMo maakt ook deel uit van NVIDIA AI Foundations, een familie van cloudservices voor bedrijven die op maat gemaakte generatieve AI-modellen willen maken en uitvoeren op basis van hun eigen datasets en domeinkennis.
Gebouwd op Colang
NeMo Guardrails is gebouwd op CoLang, een modelleringstaal en bijbehorende runtime voor conversatie-AI. Colang biedt een leesbare en uitbreidbare interface voor gebruikers om het gedrag van gespreksbots met natuurlijke taal te definiëren of te controleren.
Vangrails worden gemaakt door stromen in een Colang-bestand te definiëren met behulp van canonieke formulieren, berichten en stromen. Dit wordt bereikt met behulp van natuurlijke taal, waardoor het eenvoudig is om de bot op te bouwen en aan het werk te houden. Meerdere GitHub-voorbeelden pakken gemeenschappelijke patronen aan voor het implementeren van vangrails.
Neem contact op met StorageReview
Nieuwsbrief | YouTube | Podcast iTunes/Spotify | Instagram | Twitter | TikTok | RSS Feed
