NVIDIA NeMo Guardrails 包含全新 NVIDIA NIM 微服務(wù)，能夠?yàn)楦餍袠I(yè)構(gòu)建 AI 的企業(yè)提高 AI 的準(zhǔn)確性、安全性和可控性。

AI 智能體有望成為能夠完成各種任務(wù)的“知識(shí)機(jī)器人”，提升全球數(shù)十億知識(shí)工作者的生產(chǎn)力。為了開發(fā) AI 智能體，企業(yè)需要解決信任、物理安全、網(wǎng)絡(luò)安全以及合規(guī)性等關(guān)鍵問題。

全新NVIDIA NIM AI Guardrail微服務(wù)是NVIDIA NeMo Guardrails軟件工具系列的一部分。這些可移植且經(jīng)過優(yōu)化的推理微服務(wù)可幫助企業(yè)提高生成式 AI 應(yīng)用的安全性、精準(zhǔn)性和可擴(kuò)展性。

這些微服務(wù)圍繞 NeMo Guardrails 為核心編排。NeMo Guardrails 是NVIDIA NeMo平臺(tái)的一部分，該平臺(tái)用于 AI 的管理、定制和防護(hù)。NeMo Guardrails 可幫助開發(fā)者在大語言模型 (LLM) 應(yīng)用中集成和管理 AI 護(hù)欄。行業(yè)領(lǐng)導(dǎo)企業(yè) Amdocs、Cerence AI 以及勞氏公司 (Lowe’s) 等都在使用 NeMo Guardrails 保護(hù) AI 應(yīng)用的安全。

開發(fā)者可以使用 NIM 微服務(wù)構(gòu)建更加安全、可信的 AI 智能體。這些智能體會(huì)參考特定語境準(zhǔn)則做出安全、適當(dāng)?shù)幕卮?，并且加?qiáng)了對(duì)越獄企圖的抵御力度。它們可被部署在汽車、金融、醫(yī)療、制造、零售等行業(yè)的客戶服務(wù)中，提高客戶的滿意度和信任度。

在這些全新微服務(wù)中，有一項(xiàng)專為審核內(nèi)容安全而構(gòu)建，并使用 Aegis 內(nèi)容安全數(shù)據(jù)集 (Aegis Content Safety Dataset) 進(jìn)行訓(xùn)練，后者是同類中質(zhì)量較高的人工注釋數(shù)據(jù)源之一。該數(shù)據(jù)集由 NVIDIA 整理并擁有，已在 Hugging Face 網(wǎng)站上公開發(fā)布。該數(shù)據(jù)集包含超過 35000 個(gè)經(jīng)過人工標(biāo)記的數(shù)據(jù)樣本，這些樣本針對(duì) AI 安全和繞過系統(tǒng)限制的越獄企圖進(jìn)行標(biāo)記。

NVIDIA NeMo Guardrails

使 AI 智能體處于正軌

AI 正在迅速提高各種業(yè)務(wù)流程的生產(chǎn)力。在改變客戶服務(wù)方面，它可使解決客戶問題的速度加快至高 40%。然而，為了擴(kuò)展用于客戶服務(wù)的 AI 和其他 AI 智能體，需要有安全的模型防止有害或不當(dāng)?shù)妮敵鼋Y(jié)果，并確保 AI 應(yīng)用在規(guī)定的參數(shù)范圍內(nèi)運(yùn)行。

NVIDIA 為 NeMo Guardrails 引入了三項(xiàng)全新的 NIM 微服務(wù)，可幫助 AI 智能體在大規(guī)模運(yùn)行的同時(shí)保持受控行為：

內(nèi)容安全 NIM 微服務(wù)：防止 AI 生成有偏見或有害的輸出結(jié)果，確?；卮鸱系赖聵?biāo)準(zhǔn)。

話題控制 NIM 微服務(wù)：將對(duì)話聚焦在經(jīng)過審核的話題上，避免離題或不當(dāng)內(nèi)容。

越獄檢測(cè) NIM 微服務(wù)：增加對(duì)越獄企圖的防護(hù)，幫助在對(duì)抗性場(chǎng)景中保持 AI 的完整性。

由于“一刀切”的方法無法有效保護(hù)和控制復(fù)雜的代理式 AI 工作流，通過應(yīng)用多個(gè)輕量級(jí)專業(yè)模型作為護(hù)欄，開發(fā)者可以彌補(bǔ)在只采取較為通用的全局策略和保護(hù)措施時(shí)可能出現(xiàn)的漏洞。

小語言模型(例如 NeMo Guardrails 系列中的模型)的延遲較低，即使在資源有限或分布式環(huán)境中也能高效運(yùn)行，因此是擴(kuò)展 AI 應(yīng)用的理想選擇，用于醫(yī)療、汽車、制造等行業(yè)，以及醫(yī)院或倉庫等場(chǎng)所。

行業(yè)領(lǐng)導(dǎo)者與合作伙伴使用

NeMo Guardrails 保障 AI 安全

NeMo Guardrails 現(xiàn)已向開源社區(qū)開放，幫助開發(fā)者通過編排多項(xiàng) AI 軟件策略(稱為 rail)提高 LLM 應(yīng)用的安全性和可控性。它與NVIDIA NIM微服務(wù)一同組成了一個(gè)強(qiáng)大的 AI 系統(tǒng)構(gòu)建框架，可在不影響安全和性能的情況下進(jìn)行大規(guī)模部署。

全球領(lǐng)先的傳媒企業(yè)軟件與服務(wù)提供商 Amdocs 正在使用 NeMo Guardrails 實(shí)現(xiàn)更加安全、準(zhǔn)確、符合語境的回答，增強(qiáng) AI 驅(qū)動(dòng)的客戶交互。

Amdocs 技術(shù)集團(tuán)總裁兼戰(zhàn)略主管 Anthony Goonetilleke 表示：“像 NeMo Guardrails 這樣的技術(shù)對(duì)于保障生成式 AI 應(yīng)用的安全至關(guān)重要，能夠幫助 AI 安全、道德地運(yùn)行。我們正在通過將 NVIDIA NeMo Guardrails 集成到我們的 amAIz 平臺(tái)，增強(qiáng)該平臺(tái)的‘可信 AI’功能，保障代理式體驗(yàn)的安全性、可靠性和可擴(kuò)展性。這使服務(wù)提供商能夠安全、放心地部署 AI 解決方案，為 AI 的創(chuàng)新和卓越運(yùn)營樹立了新標(biāo)準(zhǔn)。”

Cerence AI 是一家專為汽車行業(yè)提供 AI 解決方案的公司。該公司正在使用 NVIDIA NeMo Guardrails 來幫助其車載助手在其 CaLLM 系列大語言和小語言模型的支持下提供符合語境的安全交互。

Cerence AI 產(chǎn)品和技術(shù)執(zhí)行副總裁 Nils Schanz 表示：“Cerence AI 依靠 NVIDIA 安全、高性能的解決方案為我們的車載助手技術(shù)提供助力。使用 NeMo Guardrails 可以幫助我們?yōu)槠囍圃焐炭蛻籼峁┛尚诺那榫掣兄鉀Q方案，并作出明智、嚴(yán)謹(jǐn)且無幻覺的回答。此外，NeMo Guardrails 還可以針對(duì)我們汽車制造商客戶的需求定制，幫助我們過濾有害或不友善的請(qǐng)求，防止我們的 CaLLM 系列語言模型向終端用戶提供意外或不當(dāng)?shù)膬?nèi)容?！?/p>

領(lǐng)先的家居裝飾零售商勞氏公司 (Lowe’s) 正在利用生成式 AI 來鞏固其店員的專業(yè)知識(shí)。通過提供更全面的產(chǎn)品知識(shí)，這些工具使店員能夠回答客戶的問題，幫助他們找到合適的產(chǎn)品來完成項(xiàng)目，并為零售創(chuàng)新和客戶滿意度樹立新的標(biāo)準(zhǔn)。

勞氏公司數(shù)據(jù)、AI 和創(chuàng)新高級(jí)副總裁 Chandhu Nair 表示：“我們一直在尋找方法幫助員工為客戶提供超出預(yù)期的服務(wù)。通過最近部署的 NVIDIA NeMo Guardrails，我們能夠保證 AI 生成回答的安全性與可靠性，將對(duì)話強(qiáng)行限制在相關(guān)和適當(dāng)?shù)膬?nèi)容范圍內(nèi)。”

為進(jìn)一步加速零售業(yè) AI 應(yīng)用開發(fā)和部署中 AI 安全保障措施的采用，NVIDIA 最近在 NRF (National Retail Federation) 展會(huì)上宣布，適用于零售購物助手的NVIDIA AI Blueprint整合了 NeMo Guardrails 微服務(wù)，為數(shù)字購物創(chuàng)造更加可靠、可控的客戶交互。

咨詢行業(yè)的領(lǐng)導(dǎo)者 Taskus、Tech Mahindra 和 Wipro 也正在將 NeMo Guardrails 集成到其解決方案中，以便為企業(yè)客戶提供更加安全、可靠、可控的生成式 AI 應(yīng)用。

憑借自身的開放性和可擴(kuò)展性，NeMo Guardrails 可集成由領(lǐng)先的 AI 安全模型和防護(hù)提供商組成的強(qiáng)大生態(tài)系統(tǒng)，以及 AI 可觀察性和開發(fā)工具。它支持與 ActiveFence 的 ActiveScore 集成，以防止對(duì)話式 AI 應(yīng)用中出現(xiàn)有害或不當(dāng)?shù)膬?nèi)容，并提供可視化、分析和監(jiān)控功能。

Hive 以 NIM 微服務(wù)的形式提供適用于圖像、視頻和音頻內(nèi)容的 AI 生成內(nèi)容檢測(cè)模型。通過使用 NeMo Guardrails，該公司可輕松地將其模型集成到 AI 應(yīng)用中并進(jìn)行編排。

AI 可觀測(cè)性平臺(tái) Fiddler 可輕松與 NeMo Guardrails 集成，增強(qiáng) AI Guardrails 的監(jiān)控功能。端到端 AI 開發(fā)者平臺(tái) Weights & Biases 正在現(xiàn)有 NIM 集成組合的基礎(chǔ)上，通過增加與 NeMo Guardrails 微服務(wù)的集成來擴(kuò)展 W&B Weave 的功能，以此提升生產(chǎn)中的 AI 推理能力。

NeMo Guardrails 提供

用于 AI 安全測(cè)試的開源工具

NVIDIA Garak是一款由 NVIDIA Research 團(tuán)隊(duì)開發(fā)的用于 LLM 和應(yīng)用漏洞掃描的開源套件。開發(fā)者可以使用它測(cè)試安全保障模型和其他 rail 的使用效果。

借助 Garak，開發(fā)者通過評(píng)估數(shù)據(jù)泄露、提示注入、代碼幻覺、越獄場(chǎng)景等問題，發(fā)現(xiàn)使用 LLM 的系統(tǒng)中所存在的漏洞。通過生成包含不當(dāng)或不正確輸出結(jié)果的測(cè)試用例，Garak 可幫助開發(fā)者發(fā)現(xiàn)并解決 AI 模型中的潛在弱點(diǎn)，提高模型的穩(wěn)健性與安全性。

可用性

NVIDIA NeMo Guardrails 微服務(wù)以及用于編排 rail 的 NeMo Guardrails 和 NVIDIA Garak 套件現(xiàn)已向開發(fā)者和企業(yè)開放。開發(fā)者可以按照此教程，開始使用 NeMo Guardrails 為 AI 客服智能體構(gòu)建 AI 護(hù)欄：