NVIDIA AI 安全棧為先進的代理式系統(tǒng)提供信任、控制和管理支持。

代理式 AI 正在重塑網(wǎng)絡(luò)安全格局，它帶來了全新機遇，需要我們重新審視如何保障 AI 安全，同時為應對挑戰(zhàn)提供關(guān)鍵路徑。

與傳統(tǒng)的 AI 系統(tǒng)不同，AI 智能體可以采取自主行動，與工具、運行環(huán)境、其他智能體和敏感數(shù)據(jù)進行交互。這為防御者創(chuàng)造新機會的同時，也帶來了新的風險。當前企業(yè)需要采取雙重策略：既要借助代理式 AI 構(gòu)建防御體系，又要建立針對代理式 AI 的防護機制。

基于代理式 AI 建立網(wǎng)絡(luò)安全防御體系

由于人才短缺和警報數(shù)量不斷增加，網(wǎng)絡(luò)安全團隊的負擔越來越重。代理式 AI 為強化威脅檢測、響應機制和 AI 的安全防護提供了新的途徑，這就需要網(wǎng)絡(luò)安全生態(tài)系統(tǒng)實現(xiàn)基礎(chǔ)架構(gòu)的革新性改變。

代理式 AI 系統(tǒng)具備自主感知、邏輯推理和執(zhí)行能力，可以獨立解決復雜的問題。它們還可以作為網(wǎng)絡(luò)專家的智能協(xié)作者，保護數(shù)字資產(chǎn)，降低企業(yè)環(huán)境中的風險并提高安全運營中心的效率。這可以釋放網(wǎng)絡(luò)安全團隊的潛能，讓他們專注于高影響力的決策，擴展專業(yè)知識，同時有效緩解安全團隊員工的倦怠感。

以漏洞響應為例，AI 智能體可以在數(shù)秒內(nèi)偵察到新的常見漏洞或暴露的風險，從而縮短應對軟件安全漏洞所需的時間。AI 智能體可以搜索外部資源、評估環(huán)境并對相應結(jié)果進行總結(jié)和排序，以便人類分析師能夠迅速采取明智的行動。

德勤等領(lǐng)先企業(yè)正在采用NVIDIA AI Blueprint進行漏洞分析，并通過NVIDIA NIM和NVIDIA Morpheus來幫助他們的客戶加速軟件補丁部署和漏洞管理。亞馬遜云科技還與 NVIDIA 協(xié)作，使用 NVIDIA AI Blueprint 構(gòu)建開源參考架構(gòu)，在亞馬遜云科技的云環(huán)境中進行軟件安全修補。

AI 智能體還可以改進安全警報分流。大多數(shù)安全運營中心每天都要面對大量的警報，而從噪音中分揀關(guān)鍵信號的過程緩慢、重復，并且依賴于機構(gòu)知識和經(jīng)驗。

包括 CrowdStrike 和 Trend Micro 在內(nèi)的領(lǐng)先安全提供商正在使用 NVIDIA AI 軟件來推進網(wǎng)絡(luò)安全領(lǐng)域的代理式 AI。CrowdStrike 的 Charlotte AI Detection Triage 可將檢測分類速度翻倍，而計算量減少 50%，降低了警報疲勞并且優(yōu)化了安全運營中心的效率。

代理系統(tǒng)可幫助實時加快整個工作流，分析警報、從工具中收集上下文、對根本原因進行邏輯推理，并根據(jù)洞察采取行動。

它們甚至可以從經(jīng)驗豐富的分析師那里獲取專業(yè)知識，并將其轉(zhuǎn)化為行動，從而幫助新晉分析師上崗。

企業(yè)可以使用AI-Q NVIDIA Blueprint（用于將 AI 智能體連接到企業(yè)數(shù)據(jù)）和NVIDIA Agent Intelligence 工具包（一個可加速 AI 智能體開發(fā)并優(yōu)化工作流的開源庫）來構(gòu)建警報分流智能體。

保護代理式 AI 應用

代理式 AI 系統(tǒng)不僅能分析信息，還能對其進行邏輯推理并采取行動。這就帶來了新的安全挑戰(zhàn)：智能體可能會訪問工具、生成觸發(fā)下游效應的輸出或?qū)崟r與敏感數(shù)據(jù)交互。為了確保它們的行為安全且可預測，企業(yè)需要部署前測試和運行時控制。

紅色團隊 (Red teaming) 和測試有助于在投產(chǎn)前發(fā)現(xiàn)智能體在理解提示、使用工具或處理意外輸入方面的弱點。這還包括探查智能體在遵循約束、從故障中恢復，以及防御操縱性或?qū)剐怨舴矫娴哪芰Α?/p>

大語言模型漏洞掃描器 Garak 可通過模擬對抗行為（如提示注入、工具濫用和邏輯推理錯誤）對基于大語言模型的智能體進行自動測試。

運行時護欄提供了一種執(zhí)行策略邊界、限制不安全行為，以及使智能體輸出與企業(yè)目標迅速保持一致的方法。NVIDIA NeMo Guardrails可幫助開發(fā)人員輕松定義、部署和快速更新規(guī)則，管理 AI 智能體的言行。這種低成本、低投入的適應性可確保在檢測到問題時做出快速有效的響應，保持智能體行為的一致性以及在生產(chǎn)中的安全性。

Amdocs、Cerence AI 、Palo Alto Networks 等領(lǐng)先企業(yè)正在使用 NVIDIA NeMo Guardrails 為其客戶提供可信任的代理式體驗。

運行時保護 (Runtime protections) 有助于在執(zhí)行過程中保護敏感數(shù)據(jù)和智能體行為，確保操作的安全性和可信度。NVIDIA 機密計算 (NVIDIA Confidential Computing)可以在運行時保護正在處理的數(shù)據(jù)，也稱為保護“使用中的數(shù)據(jù)”，這降低了各種規(guī)模的 AI 模型在訓練和推理過程中數(shù)據(jù)暴露的風險。

NVIDIA 機密計算由全球主要服務(wù)提供商提供，包括谷歌云和微軟 Azure，其他云服務(wù)提供商也將陸續(xù)提供。

任何代理式 AI 應用的基礎(chǔ)都是一套用于構(gòu)建推理堆棧的軟件工具、庫和服務(wù)。NVIDIA AI Enterprise軟件平臺采用軟件生命周期流程，在保持應用編程接口 (API) 穩(wěn)定性的同時，還能在軟件的整個生命周期內(nèi)解決漏洞問題，包括定期進行代碼掃描以及及時發(fā)布安全補丁或緩解措施。

供應鏈中 AI 組件的真實性和完整性對于擴展代理式 AI 系統(tǒng)的信任度至關(guān)重要。NVIDIA AI Enterprise 軟件棧包含容器簽名、模型簽名和軟件物料清單，以便對這些組件進行驗證。

這些技術(shù)中的每一項都提供了多層級的安全性防護，以保護從本地部署到云端等多種部署環(huán)境中的關(guān)鍵數(shù)據(jù)和寶貴模型。

保障代理基礎(chǔ)設(shè)施安全

隨著代理式 AI 系統(tǒng)自主化程度逐漸提升并深度融入企業(yè)工作流，其底層基礎(chǔ)設(shè)施成為安全問題的核心要素。無論是部署在數(shù)據(jù)中心、邊緣還是生產(chǎn)車間，代理式 AI 都需要設(shè)計支持隔離機制、可視化和控制能力的基礎(chǔ)設(shè)施。

從設(shè)計層面看，代理式系統(tǒng)的運行具有高度自主性，能夠執(zhí)行具有重大影響力的操作，這些操作既可能帶來益處，也可能引發(fā)潛在風險。這種自主性要求保護運行時工作負載、實施操作監(jiān)控并嚴格執(zhí)行零信任原則，以此有效保障這些系統(tǒng)的安全。

NVIDIA BlueField DPU與NVIDIA DOCA Argus相結(jié)合，提供了一個可以使應用全面、實時地了解智能體工作負載行為的框架，并通過高級內(nèi)存取證技術(shù)精準識別威脅。將安全控制直接部署到 BlueField DPU 而非服務(wù)器 CPU 上，可進一步隔離基礎(chǔ)設(shè)施層面的威脅，大幅縮小潛在攻擊的波及范圍，增強全面的、無處不在的安全架構(gòu)。

集成商還使用 NVIDIA 機密計算來加強代理式基礎(chǔ)設(shè)施的安全基礎(chǔ)。例如，EQTYLab 開發(fā)了一種新的加密證書系統(tǒng)，該系統(tǒng)提供了首個芯片級治理功能，可確保 AI 智能體在運行時合規(guī)。EQTYLab將作為 RSA 創(chuàng)新沙盒 (RSA Innovation Sandbox) 大賽十大入圍者之一在 RSA 大會上亮相。

NVIDIA Hopper和NVIDIA Blackwell GPU支持 NVIDIA 機密計算，因此當用戶從單 GPU 轉(zhuǎn)向多 GPU 時，隔離技術(shù)可以擴展到機密虛擬機。

安全 AI 由 Protected PCIe (PPCIe) 提供，以 NVIDIA 機密計算為基礎(chǔ)，允許客戶將工作負載從單個 GPU 擴展到 8 個 GPU，這使企業(yè)能夠在滿足其代理式 AI 需求的同時，以更高效的方式提供安全保護。

這些基礎(chǔ)設(shè)施組件支持本地和遠程驗證，使客戶能夠在部署敏感工作負載之前驗證平臺的完整性。

這些安全功能在像 AI 工廠一樣的環(huán)境中尤為重要。在這些環(huán)境中，代理式系統(tǒng)開始為自動化、監(jiān)測和實際決策提供支持。Cisco 通過集成 NVIDIA BlueField DPU，開創(chuàng)了安全的 AI 基礎(chǔ)設(shè)施，在 NVIDIA 的助力下構(gòu)建了“Cisco 安全 AI 工廠”，旨在為企業(yè)提供可擴展、安全和高效的 AI 部署。

將代理式 AI 擴展到網(wǎng)絡(luò)物理系統(tǒng)會增加風險，因為安全漏洞會直接影響正常運行時間、安全性和物理操作的完整性。Armis、Check Point、CrowdStrike、德勤、Forescout、Nozomi Networks 和 World Wide Technology 等領(lǐng)先的合作伙伴正在整合 NVIDIA 的全棧網(wǎng)絡(luò)安全 AI 技術(shù)，幫助能源、公共事業(yè)、制造設(shè)施等多個行業(yè)的客戶加強關(guān)鍵基礎(chǔ)設(shè)施，抵御網(wǎng)絡(luò)威脅。

構(gòu)建可信的 AI 行動

如今，每個企業(yè)都需要確保其網(wǎng)絡(luò)安全投資與 AI 相結(jié)合，以保護未來的工作流安全。每個工作負載都需要全面加速，最終使防御者獲得與 AI 節(jié)奏同步的工具。

NVIDIA 正在將 AI 和安全能力融合至技術(shù)基座，為生態(tài)系統(tǒng)合作伙伴提供由 AI 驅(qū)動的網(wǎng)絡(luò)安全解決方案。這個全新的生態(tài)系統(tǒng)將幫助企業(yè)構(gòu)建安全、可擴展的代理式 AI 系統(tǒng)。