生成 AI アプリケーションは、時には正確な場合もあれば、完全に的外れな印象的なテキスト応答を作成します。これらのスマート アプリケーションは、複雑なクエリに答えて芸術作品や文学などを作成できる大規模言語モデル (LLM) を利用しています。これらのスマート アプリケーションが、正確、適切、主題に合った、安全で最新のテキスト応答を生成することが重要です。
生成 AI アプリケーションは、時には正確な場合もあれば、完全に的外れな印象的なテキスト応答を作成します。これらのスマート アプリケーションは、複雑なクエリに答えて芸術作品や文学などを作成できる大規模言語モデル (LLM) を利用しています。これらのスマート アプリケーションが、正確、適切、主題に合った、安全で最新のテキスト応答を生成することが重要です。
NVIDIA は、開発者がこれらの生成 AI アプリケーションを軌道に乗せられるように支援するオープンソース ソフトウェアをリリースしました。 NeMo ガードレールは、AI アプリが適切、正確、安全に応答することを保証するのに役立ちます。 NeMo Guardrails ソフトウェアには、企業がテキストを生成する AI アプリを安心して導入するために必要なすべてのコード、サンプル、ドキュメントが含まれています。
企業への影響
企業は、安全性、セキュリティ、および LLM が不適切または偏ったコンテンツを生成する可能性に関する懸念のため、大規模言語モデル (LLM) の実装に躊躇しています。 NeMo Guardrails の導入は、これらの課題に対する有望な解決策を提供し、LLM 導入に伴うリスクを軽減し、企業がためらいを克服するのに役立ちます。 NeMo Guardrails は、安全で信頼できる LLM 会話システムを構築するためのツールキットを提供することにより、開発者がユーザーの対話を指示するプログラム可能なルールを簡単に確立できるようにし、LLM ベースのアプリケーションが企業の標準とポリシーに準拠していることを保証します。
NeMo ガードレールがサポートする話題、安全、およびセキュリティのガードレールは、話題の焦点の維持から、誤った情報や不適切または悪意のある対応の防止まで、企業から寄せられた主な懸念事項のいくつかに対処します。 NeMo Guardrails は、堅牢なセキュリティ モデルを提供し、LLM ベースのアプリケーションに関連するリスクを軽減することにより、企業がこの強力なテクノロジーを導入するという大きな自信を与えます。
NeMo Guardrails のリリースにより、企業による LLM の幅広い導入の促進剤として機能し、AI テクノロジーの機能とビジネス世界の安全性およびセキュリティ要件との間のギャップを埋めることができれば幸いです。
安全、話題に沿った、安全な
多くの業界では、最終的に顧客の質問に答え、長い文書の要約を提供し、ソフトウェアを作成し、医薬品設計を加速する AI アプリケーションを展開する際に LLM を採用しています。このように多様なユーザーが存在するため、生成 AI の安全性は重大な懸念事項であり、NVIDIA NeMo Guardrails は、OpenAI の ChatGPT を含むすべての LLM と連携してユーザーの安全を確保できるように設計されています。
開発者は NeMo ガードレールを使用して、次の 3 種類の境界を設定できます。
- 局所的なガードレール: カスタマー サービス アシスタントが天気に関する質問に答えられないようにするなど、アプリがコースから外れて望ましくない領域に入るのを防ぎます。
- 安全ガードレール: アプリが正確かつ適切な情報で応答するようにし、不要な言語を除外し、信頼できる情報源のみを参照するように強制します。
- セキュリティガードレール: アプリが安全であることが知られている外部サードパーティ アプリケーションのみに接続するように制限します。
NeMo Guardrails では、ソフトウェア開発者が機械学習の専門家であることや、データ サイエンティストになることは必要ありません。新しいルールは、わずか数行のコードですぐに作成できます。
オープンソースで GitHub で入手可能
NVIDIA は、ユーザーが言語モデルのトレーニングと調整に必要なものをすべて提供する NVIDIA NeMo フレームワークに NeMo ガードレールを追加しています。 NeMo フレームワークの多くはすでに GitHub で利用可能であり、NVIDIA AI Enterprise ソフトウェア プラットフォームの一部であるため、企業は完全なサポート対象パッケージを入手できます。
NeMo は、独自のデータセットとドメイン知識に基づいてカスタム生成 AI モデルを作成および実行しようとしている企業向けのクラウド サービス ファミリである NVIDIA AI Foundations の一部でもあります。
コラン上に構築
NeMo Guardrails は、会話型 AI のモデリング言語および関連ランタイムである CoLang に基づいて構築されています。 Colang は、ユーザーが自然言語を使用して会話型ボットの動作を定義または制御するための、読みやすく拡張可能なインターフェイスを提供します。
ガードレールは、正規の形式、メッセージ、フローを使用して Colang ファイル内でフローを定義することによって作成されます。これは自然言語を使用して実現されるため、ボットの構築とタスクの継続が簡単になります。いくつかの GitHub の例 ガードレールを実装するための一般的なパターンに対処します。
StorageReview と連携する
ニュースレター | YouTube |ポッドキャスト iTunes/Spotifyは | Instagram | Twitter | TikTok | RSSフィード
