在 Microsoft Ignite 2025 大會(huì)上，隨著Microsoft SQL Server 2025 的發(fā)布，AI 就緒型企業(yè)數(shù)據(jù)庫愿景成為現(xiàn)實(shí)，為開發(fā)者提供強(qiáng)大的新工具，例如內(nèi)置向量搜索和調(diào)用外部 AI 模型的 SQL 原生 API。NVIDIA 與微軟共同將SQL Server 2025與NVIDIA Nemotron RAG開放模型集合無縫連接，這使您能夠在云端或本地環(huán)境中基于自己的數(shù)據(jù)構(gòu)建高性能、安全的 AI 應(yīng)用。

檢索增強(qiáng)生成 (RAG)是企業(yè)利用數(shù)據(jù)的最有效方法。RAG 使 AI 能夠基于實(shí)時(shí)的、專有的數(shù)據(jù)進(jìn)行工作，無需從零開始重新訓(xùn)練模型，從而避免了巨大的成本和復(fù)雜性。然而，RAG 的有效性依賴于計(jì)算密集型的步驟，其中之一是向量嵌入生成。這在傳統(tǒng)的 CPU 基礎(chǔ)設(shè)施上造成了巨大的性能瓶頸。

大規(guī)模部署的復(fù)雜性和對(duì)模型靈活性的需求加劇了這一挑戰(zhàn)。企業(yè)需要一系列嵌入式模型來平衡不同任務(wù)的準(zhǔn)確性、速度和成本。

本篇詳細(xì)介紹了為解決這個(gè)問題的 NVIDIA 新參考架構(gòu)。該架構(gòu)建立在 SQL Server 2025 和Llama Nemotron Embed 1B v2上，后者屬于 Nemotron RAG 系列。文中解釋了這種集成如何允許您直接從 SQL Server 數(shù)據(jù)庫調(diào)用 Nemotron RAG 模型，并將其轉(zhuǎn)變?yōu)楦咝阅艿?AI 應(yīng)用引擎。實(shí)施方案基于 Azure Cloud 和 Azure Local，涵蓋了 SQL Server 在云端或本地的主要使用場(chǎng)景。

使用 Nemotron RAG 和 SQL Server 2025 解決企業(yè) AI RAG 挑戰(zhàn)

通過 Nemotron RAG 將 SQL Server 2025 連接到靈活、加速的 NVIDIA AI 引擎，解決了企業(yè) AI RAG 的核心挑戰(zhàn)：性能、部署以及靈活性和安全性。

提升 RAG 性能瓶頸

該架構(gòu)通過使用 Llama Nemotron Embed 1B v2，將嵌入生成任務(wù)從 CPU 卸載到 NVIDIA GPU，解決了 RAG 核心的性能瓶頸。Llama Nemotron Embed 1B v2 是一款先進(jìn)的開放模型，能夠生成準(zhǔn)確度高的專為檢索任務(wù)優(yōu)化的嵌入。它支持多語言及跨語言的文本問答檢索，具備長(zhǎng)上下文支持能力并優(yōu)化數(shù)據(jù)存儲(chǔ)。

Llama Nemotron Embed 1B v2 屬于 Nemotron RAG 系列，它包含提取、嵌入、重新排序模型，并通過 Nemotron RAG 數(shù)據(jù)集和腳本進(jìn)行微調(diào)，以實(shí)現(xiàn)最佳準(zhǔn)確性。

在數(shù)據(jù)庫方面，SQL Server 2025 在本機(jī)矢量距離函數(shù)的支持下，通過矢量搜索提供無縫、高性能的數(shù)據(jù)檢索。當(dāng)嵌入式模型本地托管時(shí)，能夠消除網(wǎng)絡(luò)開銷、降低延遲，這兩大因素顯著提升了整體性能。

將 AI 模型部署為簡(jiǎn)易的容器化端點(diǎn)

部署環(huán)節(jié)是NVIDIA NIM的用武之地。NIM 是預(yù)構(gòu)建的、生產(chǎn)就緒的容器，旨在簡(jiǎn)化最新優(yōu)化的 AI 模型 (如 NVIDIA Nemotron RAG) 在任何 NVIDIA 加速基礎(chǔ)設(shè)施上的部署，無論是在云端還是本地。借助 NIM，您可以將 AI 模型部署為簡(jiǎn)易的容器化端點(diǎn)，無需管理復(fù)雜的庫或環(huán)境。

此外，通過使用由 NIM 支持的本地托管模型，可以有效滿足數(shù)據(jù)駐留與合規(guī)性要求。易于使用是另一個(gè)關(guān)鍵優(yōu)勢(shì)。NIM 的預(yù)構(gòu)建性質(zhì)與原生 SQL REST API 相結(jié)合，顯著縮短了學(xué)習(xí)曲線，使企業(yè)能夠更輕松地讓 AI 貼近其客戶已有的數(shù)據(jù)。

保持安全性和靈活性

該架構(gòu)提供了一系列先進(jìn)的 Nemotron RAG 模型，同時(shí)確保專有數(shù)據(jù)在 SQL Server 數(shù)據(jù)庫中的安全。NIM 專為企業(yè)級(jí)安全性而設(shè)計(jì)，并由 NVIDIA 企業(yè)支持提供保障。NIM 和 SQL Server 之間的所有通信均通過端到端 HTTPS 加密得到進(jìn)一步保護(hù)。

Nemotron RAG 和 Microsoft SQL Server 2025 參考架構(gòu)

Nemotron RAG 和 SQL Server 2025 參考架構(gòu)詳細(xì)描述了使用 Llama Nemotron Embed 1B v2 嵌入模型（作為 NIM 提供）以實(shí)現(xiàn)解決方案的過程。該方案支持直接基于 Azure Cloud 或 Azure Local 部署的 SQL Server 實(shí)現(xiàn)企業(yè)級(jí)、安全、GPU 加速的 RAG 工作流。

有關(guān)此解決方案的完整代碼、部署腳本和詳細(xì)操作指南，請(qǐng)參閱NVIDIA NIM with SQL Server 2025 AI on Azure Cloud and Azure Local。

核心架構(gòu)組件

圖 1 展示了三個(gè)核心架構(gòu)組件和流程基礎(chǔ)，下面也將對(duì)其進(jìn)行詳解。

圖1. 該架構(gòu)由三個(gè)協(xié)同工作的核心組件組成

SQL Server 2025：AI 就緒數(shù)據(jù)庫

該解決方案基于 SQL Server 2025 引入的兩項(xiàng)變革性功能，充當(dāng)數(shù)據(jù)庫內(nèi) AI 的引擎：

原生矢量數(shù)據(jù)類型：此功能使您能夠直接將矢量嵌入安全地與結(jié)構(gòu)化數(shù)據(jù)存儲(chǔ)在一起，免除了對(duì)單獨(dú)矢量數(shù)據(jù)庫的需求，簡(jiǎn)化了架構(gòu)，減少了數(shù)據(jù)移動(dòng)，并支持混合搜索，例如查找既是“跑鞋”（矢量搜索）又是“庫存中”（結(jié)構(gòu)化過濾器）的產(chǎn)品。

矢量距離搜索：您現(xiàn)在可以使用內(nèi)置函數(shù)直接在 SQL Server 2025 中執(zhí)行相似性搜索。您可以根據(jù)嵌入空間的緊密程度對(duì)結(jié)果進(jìn)行排名，支持語義搜索、推薦系統(tǒng)和個(gè)性化等用例，所有這些都無需離開數(shù)據(jù)庫。

創(chuàng)建外部模型：在 SQL Server 2025 中將外部 AI 模型（例如 NIM）注冊(cè)和管理為一流實(shí)體。這提供了一種無縫的方式來編排推理工作流，同時(shí)保持集中化治理和安全性。

生成嵌入：使用AI_GENERATE_EMBEDDINGS函數(shù)直接從 T-SQL 創(chuàng)建文本或其他數(shù)據(jù)的嵌入。該函數(shù)在底層利用外部 REST API 調(diào)用，無需復(fù)雜的集成步驟即可實(shí)現(xiàn)實(shí)時(shí)嵌入生成。

NVIDIA NIM：加速的 AI 引擎

Nemotron RAG系列開放模型，包括本參考架構(gòu)中使用的 Llama Nemotron Embed 1B v2 模型，作為生產(chǎn)就緒型NVIDIA NIM提供，可在標(biāo)準(zhǔn) Docker 容器中運(yùn)行。

這種方法簡(jiǎn)化了部署，并確保云和本地 Windows 或 Linux 環(huán)境與 NVIDIA GPU 的兼容性。這些模型可以部署在 Azure Container App 上或使用 Azure Local 進(jìn)行本地部署。這種容器化交付支持自動(dòng)和手動(dòng)擴(kuò)縮容的策略，并為 SQL Server 2025 提供了理想的“本地到云端”的靈活性。

云規(guī)模：您可以使用無服務(wù)器 NVIDIA GPU將 NIM 部署到 ACA。這種方法屏蔽了所有的基礎(chǔ)設(shè)施管理工作。您將獲得支持自動(dòng)縮容至零、按秒計(jì)費(fèi)的按需 GPU 加速推理服務(wù)，在優(yōu)化成本的同時(shí)簡(jiǎn)化運(yùn)維。

本地部署：為了實(shí)現(xiàn)更強(qiáng)的數(shù)據(jù)主權(quán)和低延遲，您可以使用帶有 NVIDIA GPU 的 Azure Local 在本地運(yùn)行相同的 NIM 容器。Azure Local 將 Azure 的管理平面擴(kuò)展到您自己的硬件，能夠直接在本地?cái)?shù)據(jù)上運(yùn)行 AI，同時(shí)滿足嚴(yán)格的合規(guī)性或性能需求。

SQL Server和NIM 之間的鏈接

SQL Server 和 NIM 之間的通信橋梁簡(jiǎn)單而穩(wěn)固，基于標(biāo)準(zhǔn)、安全的 Web 協(xié)議構(gòu)建。

兼容 OpenAI 的 API：NVIDIA NIM 提供兼容 OpenAI 的 API 端點(diǎn)。SQL Server 2025 可以使用其原生函數(shù)來調(diào)用 NIM 服務(wù)，就像調(diào)用 OpenAI 服務(wù)一樣，從而確保無縫、開箱即用的集成。

標(biāo)準(zhǔn) POST 請(qǐng)求：SQL Server 2025 通過標(biāo)準(zhǔn)的 HTTPS POST 請(qǐng)求來檢索諸如嵌入等結(jié)果。

安全且靈活的通信：該設(shè)計(jì)使用 TLS 證書進(jìn)行端到端加密，建立雙向信任并確保所有響應(yīng)對(duì)于云和本地部署都是安全、高性能且符合標(biāo)準(zhǔn)的。這相比僅限遠(yuǎn)程模型具有顯著優(yōu)勢(shì)，因?yàn)槟Ｓ型耆刂?，并且專有?shù)據(jù)永遠(yuǎn)不會(huì)離開安全環(huán)境。

此參考架構(gòu)采用先進(jìn)的 Nemotron RAG 模型，它也可以進(jìn)行擴(kuò)展，使 SQL Server 2025 能夠調(diào)用任何 NIM 以支持廣泛的 AI 應(yīng)用程序，例如文本摘要、內(nèi)容分類或預(yù)測(cè)分析，所有這些都可以直接在 SQL Server 2025 中的數(shù)據(jù)上執(zhí)行。

兩種部署方式

本文介紹此解決方案的兩種主要部署模式：本地部署 (使用 Azure Local) 和云部署 (使用 Azure Container App)。這兩種模式都基于相同的核心機(jī)制：SQL Server 2025 使用標(biāo)準(zhǔn)的 OpenAI 兼容協(xié)議調(diào)用 NVIDIA NIM 端點(diǎn)。

使用 Azure Local 進(jìn)行本地部署

本地部署方案可提供更強(qiáng)的靈活性，支持在搭載 NVIDIA GPU 的服務(wù)器上運(yùn)行多種 Windows 和 Linux 的系統(tǒng)組合，例如：

同時(shí)運(yùn)行 SQL Server 和 NVIDIA NIM 的 Windows/Ubuntu Server 或 Windows/Ubuntu 本地虛擬機(jī)

運(yùn)行 SQL Server 的 Windows 系統(tǒng)和運(yùn)行 NVIDIA NIM 的 Ubuntu 系統(tǒng)，反之亦可

如進(jìn)行部署，使用微軟新推出的 Azure Local 方案，可將 Azure Cloud 平臺(tái)直接擴(kuò)展到本地環(huán)境。有關(guān)建立安全通信的完整安裝說明（包括 NIM 部署的詳細(xì)信息），請(qǐng)?jiān)L問 GitHub 上的NVIDIA/GenerativeAIExamples。注意此解決方案已通過 SQL Server 2025 (RC 17.0.950.3) 驗(yàn)證。

云部署

云部署方案采用托管在 Azure Container App (ACA) 上的 NVIDIALlama Nemotron Embedding NIM。ACA 是微軟 Azure 提供的全托管無服務(wù)器容器平臺(tái)，不僅全面支持該架構(gòu)，還進(jìn)一步放大了架構(gòu)優(yōu)勢(shì)。如需了解更多信息，請(qǐng)參閱 NVIDIA/GenerativeAIExamples GitHub 存儲(chǔ)庫中的NVIDIA NIM with Microsoft SQL Server 2025 AI on Azure Cloud and Azure Local。

這種無服務(wù)器的方式為部署基于 SQL Server 2025 數(shù)據(jù)的 AI 應(yīng)用程序提供了若干關(guān)鍵優(yōu)勢(shì)。

為加速 NIM 副本啟動(dòng)，建議使用由 Azure File Share 或臨時(shí)存儲(chǔ)支持的 ACA 卷，以保留本地 NIM 緩存。副本數(shù)量通過 ACA HTTP 擴(kuò)展功能自動(dòng)管理，可支持縮容至零。

ACA 應(yīng)用程序能夠并行托管多個(gè)版本和類型的 NIM，每個(gè) NIM 都可通過在 SQL Server 中配置的獨(dú)立 URL 進(jìn)行訪問。

解決方案演示

要獲取運(yùn)行完整端到端工作流的全套說明，可查閱SQL Server 2025 AI functionality with NVIDIA Retrieval QA using E5 Embedding v5。

該演示 SQL 腳本將引導(dǎo)您完成以下步驟：

創(chuàng)建 AdventureWorks 示例數(shù)據(jù)庫

創(chuàng)建 ProductDescriptionEmbeddings 演示表

執(zhí)行演示腳本，通過 NVIDIA NIM 集成填充嵌入

使用 Select_Embeddings.sql 驗(yàn)證并可視化存儲(chǔ)的嵌入

此工作流演示了 SQL Server 2025 AI 的新功能，其中運(yùn)用了內(nèi)置的 T-SQL AI 功能，包括：VECTOR_DISTANC、AI_GENERATE_EMBEDDINGS和CREATE EXTERNAL MODEL，這些功能共同構(gòu)成了 SQL Server 2025 中新 AI 集成的基礎(chǔ)。

開始使用 SQL Serve 2025 和 NVIDIA Nemotron RAG

Microsoft SQL Server 2025與以生產(chǎn)級(jí) NVIDIA NIM 形式交付的 NVIDIA Nemotron RAG 相集成，為構(gòu)建高性能 AI 應(yīng)用提供了一條無縫的“本地到云端”實(shí)現(xiàn)路徑。通過結(jié)合 SQL Server 2025 內(nèi)置的 AI 功能與 NVIDIA GPU 優(yōu)化推理堆棧，能夠有效解決 RAG 核心性能瓶頸，將 AI 安全、高效地引入到數(shù)據(jù)中，并且無需額外管理復(fù)雜的數(shù)據(jù)管道。

此聯(lián)合參考架構(gòu)演示了如何在 SQL Server 2025 中構(gòu)建 RAG 應(yīng)用，使其能夠直接生成嵌入、執(zhí)行語義搜索并調(diào)用推理服務(wù)。這種方法可以在保留完整的數(shù)據(jù)主權(quán)的情況下，靈活地在數(shù)據(jù)所在的任何位置（如 Azure Cloud 或使用 Azure Local 進(jìn)行本地部署）部署 NVIDIA Nemotron 等先進(jìn)模型。

準(zhǔn)備好開始了嗎？通過 NVIDIA/GenerativeAIExamples GitHub 存儲(chǔ)庫中的NVIDIA NIM with Microsoft SQL Server 2025 AI on Azure Cloud and Azure Local查閱所有部署腳本、代碼示例和云端及本地部署的詳細(xì)操作步驟。