生成式 AI 為 Windows 應用和游戲帶來了各種新功能。它為無腳本、動態(tài)的 NPC 提供動力，助力創(chuàng)作者生成新穎的藝術作品，并幫助游戲玩家將幀率提升高達 4 倍。但這些不過是冰山一角。

隨著生成式 AI 的功能和使用場景不斷增加，相關計算需求也水漲船高。

混合式 AI 將 NVIDIA RTX 的端側(cè) AI 加速與云端的可擴展 GPU 相結(jié)合，可有效且高效地滿足 AI 工作負載的需求。

混合式 AI，魚與熊掌兼得

隨著 AI 的普及，應用開發(fā)者正在尋找各種可行的部署方式：在 RTX GPU 上本地運行的 AI 兼具高性能和低延遲，即使在離線情況下也可隨時使用。另一方面，在云端運行的 AI 能夠運行規(guī)模更大的模型并且可以跨多個 GPU 進行擴展，還可以同時為多個用戶提供服務。在許多情況下，一個應用程序會同時使用這兩種方式部署的服務。

混合式 AI 組合與協(xié)調(diào)本地 PC 和工作站的算力與云的擴展能力。它可以根據(jù)特定使用場景、成本和性能要求靈活優(yōu)化 AI 工作負載，幫助開發(fā)者確保 AI 任務在其特定應用場景下最合適的設備上運行。

無論 AI 是在本地還是在云端運行，它都可以通過 NVIDIA GPU 和 NVIDIA 的 AI 技術棧（包括 TensorRT 和 TensorRT-LLM）進行加速。這意味著我們可以減少無謂的等待時間，并可為用戶提供更多的先進 AI 功能。

這一系列 NVIDIA 工具和技術可為創(chuàng)作者、游戲玩家和開發(fā)者的混合式 AI 工作流提供支持。

理想的云端應用由 RTX 實現(xiàn)

生成式 AI 已經(jīng)證明它能夠為藝術家的創(chuàng)作提供靈感，加速設計，啟發(fā)構(gòu)思。此類解決方案包括 iStock 推出的云端生成式 AI，這是一項由 NVIDIA Edify 驅(qū)動的生成式攝影圖片服務，專為藝術家打造。另一方面，藝術家也為該生成式 AI 的模型訓練貢獻了各種授權(quán)內(nèi)容，而做出貢獻的藝術家也會因此獲得報酬。

iStock 的生成式 AI 不僅可以用于圖像生成，還可以為藝術家提供豐富的工具，以便他們探索各種風格和變化，修改圖像的某個部分或擴展畫布。借助這些工具，藝術家可以快速完成多次概念設計，并將創(chuàng)意轉(zhuǎn)變?yōu)楝F(xiàn)實方案。

創(chuàng)意概念準備完成后，藝術家就可以將其轉(zhuǎn)移到本地設備上。RTX 助力的 PC 和工作站可在超過 125 款熱門創(chuàng)意應用中為藝術家提供 AI 加速，幫助他們最大化實現(xiàn)自己的創(chuàng)意愿景：無論是使用本地 AI 工具在 Photoshop 中創(chuàng)建令人驚嘆的藝術作品，在 DaVinci Resolve 中使用視差效果為圖像制作動畫，還是使用光線追蹤加速在 Blender 中借助參考圖像構(gòu)建 3D 場景，亦或是使用 Optix 進行 AI 降噪。

云端 ACE 讓 NPC 栩栩如生

混合式 AI 還通過 NVIDIA ACE 實現(xiàn)了交互式 PC 游戲的新高度，讓游戲開發(fā)者和數(shù)字創(chuàng)作者能夠?qū)⑾冗M的生成式 AI 模型集成到 RTX AI PC 上的數(shù)字虛擬形象中。

NVIDIA ACE NIM 由 AI 神經(jīng)網(wǎng)絡提供支持，讓開發(fā)人員和設計師創(chuàng)建能夠理解并響應人類玩家文本和語音的非玩家角色（NPC）。NVIDIA ACE NIM 可利用 AI 模型（包括語音轉(zhuǎn)文本模型）來處理人類語音輸入，以便 NPC 實時生成回應。

在這些新技術的加持下，NPC 的回應將不再受限于預定義的腳本。ACE NIM 既可以在 RTX GPU 設備上本地運行，也可以部署在云端，基于各種計算選項實現(xiàn)動態(tài)、逼真的交互。

可靈活部署的混合式開發(fā)者工具

混合式 AI 還可以幫助開發(fā)者構(gòu)建和調(diào)整新的 AI 模型。NVIDIA AI Workbench 可幫助開發(fā)者在 RTX GPU 上快速創(chuàng)建、測試和定制預訓練生成式 AI 模型和 LLM。數(shù)據(jù)科學家和開發(fā)者可通過 NVIDIA AI Workbench 簡化對 Hugging Face、GitHub 和 NVIDIA NGC 等熱門倉庫的訪問，并且能夠通過簡化的用戶界面輕松地復現(xiàn)、協(xié)作和遷移項目。

當有額外的性能需求時，項目還可輕松擴展至數(shù)據(jù)中心（無論是公有云還是 NVIDIA DGX Cloud），之后部署到 PC 或工作站上的本地 RTX 系統(tǒng)進行推理和輕量定制。數(shù)據(jù)科學家和開發(fā)者可以利用預先構(gòu)建的 Workbench 項目，使用檢索增強生成（RAG）與文檔交互，使用微調(diào)功能自定義 LLM，通過流暢的 CPU 到 GPU 轉(zhuǎn)換加速數(shù)據(jù)科學工作負載等等。

混合式 RAG Workbench 項目提供可自定義的 RAG 應用，以便開發(fā)者自主運行和調(diào)整。他們可以在本地對文檔進行向量化，并在本地 RTX 系統(tǒng)或托管在 NVIDIA API Catalog 上的接入點運行推理，或使用 NVIDIA NIM 微服務。開發(fā)者可以調(diào)整混合式 RAG Workbench 項目，以便使用各種模型、接入點和容器。他們還可以通過該項目量化要在所選 GPU 上運行的模型。

NVIDIA GPU 可在 NVIDIA GeForce RTX PC 和 RTX 工作站本地以及云端為各種出色的 AI 解決方案提供支持。借助不斷發(fā)展的混合式 AI 工作流，創(chuàng)作者、游戲玩家和開發(fā)者可以充分發(fā)揮本地和云端的強大能力。