NVIDIA推出開源軟體NeMo Guardrails，為AI應用建立安全防線 !
隨著人工智慧（AI）技術的進步，開發適當的護欄以保護生成式AI應用程序已成為一個迫切的問題。為應對這一挑戰，NVIDIA發布了一款名為NeMo Guardrails的開源軟件，專注於在幫助開發人員確保使用大型語言模型（LLMs）的AI應用程序的安全性、準確性和適當性。
NeMo Guardrails的功能
NeMo Guardrails 是一款針對大型自然語言模型的開源軟體，旨在提高企業 AI 應用程式的安全性。它提供了三種安全監管措施，包括主題監管措施、安全監管措施和連接監管措施，以確保應用程式在所需領域內運作，過濾不必要的語言並限制對安全的第三方應用程式的連接。該軟體可與多種工具搭配使用，包括 LangChain 和 Zapier，並支持多種專業技能水平的軟體開發者使用。
此外，NeMo Guardrails的目標是優先考慮 AI 開發中的安全性、安全性和信任，以使 AI 成為未來可靠和值得信賴的一部分。
NeMo Guardrails將會是生成式AI的後盾防線
NVIDIA將NeMo Guardrails定位為一款開源軟體，可以透過GitHub下載，或者透過NVIDIA AI Enterprise管道獲得完整技術支援。而且，NVIDIA還計畫將NeMo Guardrails整合到現有的NeMo框架中，讓人工智慧技術應用有一個保護「防線」，避免人工智慧跑出預期範圍。
據NVIDIA表示，NeMo Guardrails可以讓基於大型自然語言模型的自動生成式人工智慧在安全合理範圍內運作，並且通過不同的護欄方式（如主題安全護欄、安全護欄、保全護欄校準等）維持可控性。 NeMo Guardrails的設計主要是為了避免人工智慧技術跑到錯誤的領域，確保回覆內容的正確性，同時過濾非必要的錯誤內容，並引用可信來源內容。此外，它還確保人工智慧建立安全連結，讓企業和開發者可以避免人工智慧出錯。
通過開源NeMo Guardrails，企業或開發者只需要幾行簡單的程式碼，就可以將它與現有應用程式整合。NVIDIA強調，NeMo Guardrails是基於多年的研究成果所建立的，並希望通過開源讓更多的開發者和企業使用，以便讓人工智慧技術應用變得更加可靠和安心，同時消除市場對於人工智慧技術應用發展的擔憂。
Responses