隨著 ChatGPT 為首引領生成式 AI 的浪潮，原本艱深的生成式 AI 與自然語言互動聊天成為一般人得以一親芳澤的新生活技術，不過與此同時也有許多人擔憂生成式 AI 蓬勃發展的背後缺乏一道最後的道德防線；作為在這波生成式 AI 的硬體技術領導廠商的 NVIDIA 宣布推出開源軟體 NeMo Guardrails ，旨在協助企業使用基於大型語言模型( LLM )為基礎的生成式 AI 時，能夠作為一道護欄，確保應用能符合其安全要求。
NeMo Guardrails 將透過 GitHub 以開源形式提供，或企業亦可透過 NVIDIA AI Enterprise 取得完整的企業支援服務。 NVIDIA 亦著手將 NeMo Guardrails 整合製 NVIDIA NeMo 框架。
NeMo Guardrails 旨在確保以 LLM 驅動的各式智慧應用程式在精確、適當的同時也能切題且安全，並提供企業所需的所有代碼、範例與文檔； NeMo Guardrails 可使開發者透過三大限制校準以 LLM 驅動的應用程式，使其安全並維持在公司專業領域範圍：包括主題安全護欄、安全護欄與保全護欄。
▲ NVIDIA 作為生成式 AI 硬體的技術領導者，也同時積極提供各式軟體加速產業導入 AI 技術
主題安全護欄可作為避免應用程式偏離道不想要的領域，而安全護欄則可確保應用程式回覆準確、適當的資訊並過濾不需要的語言與引述可信的來源，保全護欄則可限制應用程式與已知的安全外部連結建立連結；透過這三大項的護欄限制，縱使不是機器學習專家與資料學家，軟體開發者皆可透過 NeMo Guardrails 以幾行程式碼建立新規則。
同時藉由開放原始碼， NeMo Guardrails 能與企業應用程式配合，例如可搭配同樣為開源的 LangChain 工具包使用並在開發的應用程式加入限制；同時也強調可廣泛與以 LLM 驅動的應用程式協作，如結合人工智慧並被 220 萬家企業採用的 Zapier 自動化平台。
NVIDIA 強調 NeMo Guardrails 是歷經多年的研究，為生成式 AI 建立良好的護欄，透過開源能使開發者社群的開發能量與 AI 安全等工作做出貢獻，希望透過 AI 護欄能將公司的智慧服務符合安全、隱私與保障安全的一致要求。
