最新發布的開源軟體可以協助開發人員引導生成式 AI 應用程式創建令人印象深刻的文字回應，並使其保持在正軌上。
NeMo Guardrails 將有助於確保由大型語言模型（LLMs）所驅動的智慧應用程式能夠準確、適當、切題且安全。該軟體包括企業需要的所有代碼、範例和文檔，為企業用於產生文字的AI應用程式增加安全性。
現今很多產業都在採用大型語言模型（ LLMs），它是這些 AI 應用程式背後的強大引擎。 他們回答客戶的問題，總結冗長的文件，甚至編寫軟體和加速藥物設計。
NeMo Guardrails 旨在協助使用者保護這個新類型人工智慧應用程式的安全。
強大的模型，堅固的護欄
生成式人工智慧的安全是整個產業關注的重點，NVIDIA 設計了 NeMo Guardrails 可適用於所有大型語言模型（ LLMs）一起使用，像是 Open AI 的 ChatGPT。該軟體可讓開發人員校準以大型語言模型驅動的應用程式，使其安全並維持在一個公司專業領域範圍內。
NeMo Guardrails 可以讓開發人員建立三種限制：
- 主題安全護欄可以避免應用程式偏離到不想要的領域。例如，它們可以防止客戶服務助理回答關於天氣的問題。
- 安全護欄確保應用程式回覆準確、適當的資訊。它們可以過濾不必要的語言，並強制要求只引用可信的來源。
- 保全護欄限制應用程式僅與已知為安全的外部連結建立連接。
即使不是機器學習專家或資料科學家，幾乎每個軟體開發人員都可以使用 NeMo Guardrails，以幾行程式碼快速建立新規則。
駕馭熟悉的工具
由於 NeMo Guardrails 是開放原始碼的，因此它可以與企業應用程式開發人員使用的所有工具配合使用。例如，它可以在 LangChain 上運行，LangChain 是一個開放原始碼工具包，開發人員正在快速採用它，將第三方應用程式與大型語言模型的強大功能整合。
「使用者可以輕鬆地將 NeMo Guardrails 加入 LangChain 工作流程，快速為他們的 AI 應用程式建立安全限制。」LangChain 工具包創造者 Harrison Chase 說道，他也以此命名其新創公司。
此外，NeMo Guardrails 是設計能夠廣泛的與以大型語言模型驅動的應用程式協作，像是 Zapier。Zapier 這個自動化平台已有超過 220 萬家企業使用，可直接展現用戶如何將人工智慧融入到他們的工作中。
Zapier AI 首席產品經理 Reid Robinson 表示：「安全、保障和信任是負責任 AI 開發的基石，我們對 NVIDIA 將這些護欄嵌入 AI 系統的積極方法感到興奮。我們期待未來將人工智慧作為可靠且值得信賴的一部分所帶來的好處。」
NVIDIA 以開放原始碼的形式提供
NVIDIA 正在將 NeMo Guardrails 整合至 NVIDIA NeMo 框架中，該框架包括使用者使用公司專有資料集進行語言模型訓練和調整所需的一切。
NeMo Framework 已經在 GitHub 上以開源形式提供。 企業也可以透過 NVIDIA AI Enterprise 取得完整的企業支援服務。
NeMo 也是以服務的方式提供，它是 NVIDIA AI Foundations 的一部分，它是一系列供企業使用的雲端服務，他們可以基於自己的數據集和領域知識來創建和運行定制的生成式人工智慧模型。
透過使用 NeMo，韓國領先的行動網路營運商打造了一個智慧助理，該助理已與其客戶進行了 800 萬次對話。瑞典一個研究團隊使用 NeMo 創建了可以協助該國醫院、政府和企業辦公室自動化文本功能的大型語言模型。
與社群一同持續努力
為生成式 AI 建立良好的護欄是一個艱難的問題，隨著 AI 的演化，需要大量持續不斷的研究。
NVIDIA 經過多年研究發展出 NeMo Guardrails，並將其開源，對開發者社群的開發能量和在 AI 安全方面的工作做出貢獻。
我們在建立生成式 AI 護欄上的共同努力將能協助公司將其智慧服務符合安全、隱私和保障要求的一致要求，從而使這些創新引擎保持在正軌上。
更多 NeMo Guardrails 詳細資訊請參考我們的技術部落格。