在生成式 AI 領(lǐng)域，構(gòu)建企業(yè)級大語言模型（LLM）需要具備采集高質(zhì)量數(shù)據(jù)、設(shè)置加速基礎(chǔ)設(shè)施和優(yōu)化模型方面的專業(yè)知識。

開發(fā)者可以從預(yù)訓(xùn)練模型開始，根據(jù)自己的用例對模型進(jìn)行微調(diào)，從而節(jié)省時間并使其解決方案更快地投入市場。開發(fā)者需要一種簡單的方法來試用模型，并通過 API 集成這些模型來評估其能力。這有助于他們確定哪種模型最適合其應(yīng)用。

NVIDIA AI Foundation Models

NVIDIA AI Foundation Models是由精心挑選的社區(qū)模型和 NVIDIA 構(gòu)建的模型組成，并針對峰值性能進(jìn)行了優(yōu)化。開發(fā)者可以通過 API 或圖形用戶界面直接在瀏覽器中快速使用這些模型，無需進(jìn)行任何設(shè)置。這些模型通過NVIDIA TensorRT-LLM和激活感知權(quán)重量化（AWQ）技術(shù)進(jìn)行優(yōu)化，以便確定最高吞吐量和最低延遲的配置，并且在 NVIDIA 加速計算堆棧上大規(guī)模運(yùn)行。

NVIDIA Nemotron-3 8B 系列 LLM 介紹

NVIDIA Nemotron-3 8B系列模型為想要構(gòu)建生產(chǎn)就緒生成式 AI 應(yīng)用的客戶提供了基礎(chǔ)。這些模型是基于可靠的數(shù)據(jù)集構(gòu)建，其運(yùn)行性能可媲美規(guī)模遠(yuǎn)超它們的模型，因此非常適合企業(yè)部署。

NVIDIA Nemotron-3 8B 系列模型的一大關(guān)鍵優(yōu)勢在于其具有多語言功能，這使其成為全球企業(yè)的理想選擇。這些模型精通 53 種語言，包括英語、德語、俄語、西班牙語、法語、日語、中文、意大利語和荷蘭語。

該系列模型還采用了一系列對齊技術(shù)，包括監(jiān)督微調(diào)（SFT）、人類反饋強(qiáng)化學(xué)習(xí)（RLHF）以及全新的NVIDIA SteerLM定制化技術(shù)，使客戶可以在推理時調(diào)整模型。無論是自定義模型還是從頭開始運(yùn)行模型，這些變體為支持各種不同的用例打下了基礎(chǔ)。

Nemotron-3 8B 系列模型包含：

• Nemotron-3-8B-Chat-SteerLM：一個基于 NV-Nemotron-3-8B 基本模型的生成式語言模型，專為在推理過程中使用戶能夠采用 SteerLM 技術(shù)控制模型輸出而定制。

• Nemotron-3-8B-QA：一個基于 NV-Nemotron-3-8B 基礎(chǔ)模型的生成式語言模型，可針對問題回答指令進(jìn)行進(jìn)一步微調(diào)。

經(jīng)過 NVIDIA 優(yōu)化的社區(qū)模型

此外，NVIDIA 還提供領(lǐng)先的社區(qū)模型，這些模型均經(jīng)過 NVIDIA TensorRT-LLM 的優(yōu)化，具有最高的性價比，企業(yè)機(jī)構(gòu)可根據(jù)企業(yè)應(yīng)用對它們進(jìn)行自定義。這些模型包括：

• Llama 2：最流行的 LLM 之一，能夠根據(jù)提示生成文本。

• Stable Diffusion XL：一種熱門的生成式 AI 模型，可使用文本創(chuàng)建富有表現(xiàn)力的圖像。

• Code Llama：Llama 2 模型的微調(diào)版本，可使用 Java、C++、Python 等多種流行語言生成代碼。

• Mistral 7B：一種能遵循指令、完成請求并生成有創(chuàng)意的文本格式的 LLM。

• Contrastive Language-Image Pre-Training (CLIP)：一種流行的開源模型，能同時理解圖像和文本，從而完成圖像分類、物體檢測等任務(wù)。

當(dāng)開發(fā)者確定了合適的基礎(chǔ)模型后，就可以輕松地對這些模型進(jìn)行微調(diào)和部署，無論是在自己的基礎(chǔ)設(shè)施上，還是通過NVIDIA DGX Cloud在 NVIDIA 維護(hù)的基礎(chǔ)設(shè)施上。

下面讓我們一起體驗(yàn)、定制和部署微調(diào)后的 Llama 2 模型。

體驗(yàn) Llama 2

NVIDIA 提供了一個易于使用的界面，使開發(fā)者能夠直接在瀏覽器上與 Llama 2 模型進(jìn)行交互。只需在提示字段中輸入文本并點(diǎn)擊生成，模型就會立即開始生成信息回復(fù)。

在圖 1 中，用戶要求模型進(jìn)行 SQL 查詢，檢索 2021 年第一季度至少消費(fèi) 50,000 美元的客戶名單。模型不但正確理解了用戶的查詢，并提供了答案和詳細(xì)解釋。

圖 1. Llama 2 模型對 SQL 查詢“獲取 2021 年第一季度

至少消費(fèi) 50,000 美元的客戶名單”所做出的響應(yīng)

而開發(fā)者通常對代碼更感興趣。因此，NVIDIA 也直接在瀏覽器中提供了一個 API 小工具，讓用戶可以通過 API 無縫體驗(yàn)這些模型。

如要試用這個瀏覽器內(nèi)置的 API，請單擊 API 模式，然后從下拉菜單中選擇您傾向的語言。圖 2 顯示了通過 cURL 調(diào)用該 API 的 API 指令。

圖 2. 用于體驗(yàn) Llama 2 模型的

瀏覽器內(nèi)置 API 小工具（cURL 語言）

自定義模型

通常情況下，一般模型無法滿足開發(fā)者的需求，必須使用專有數(shù)據(jù)進(jìn)行微調(diào)。因此，NVIDIA 提供了多種自定義可用模型的途徑。

NVIDIA NeMo是一個端到端企業(yè)級云原生框架，開發(fā)者可用它來構(gòu)建、定制和部署具有數(shù)十億參數(shù)的生成式 AI 模型。此外，NeMo 還提供用于微調(diào) LLM（如 Llama）的 API。

為了快速上手，我們也提供了一個 NVIDIA LaunchPad 實(shí)驗(yàn)室。這個通用的試驗(yàn)場可對最新的 NVIDIA 企業(yè)級軟硬件進(jìn)行全方位測試。

該 LaunchPad 實(shí)驗(yàn)室體驗(yàn)中的以下示例使用自定義數(shù)據(jù)集對 Llama 2 7B 文本-文本模型進(jìn)行了微調(diào)，以更好地執(zhí)行問答任務(wù)。

1. 如要開始使用，請單擊“Llama 2 微調(diào)實(shí)驗(yàn)室”(https://www.nvidia.com/en-us/launchpad/ai/customize-llama-2-with-enterprise-data/)并申請?jiān)L問。在 Launchpad 上工作時，Llama 2 模型文件會以 .nemo 檢查點(diǎn)的形式預(yù)先下載，從而實(shí)現(xiàn)與 NVIDIA NeMo Framework 的微調(diào)兼容性。

2. 模型準(zhǔn)備就緒后，我們從 Hugging Face 加載 Dolly 數(shù)據(jù)集(https://huggingface.co/datasets/databricks/databricks-dolly-15k)并對其進(jìn)行預(yù)處理，刪除不必要的字段、重命名某些字段，以更好地適應(yīng)提示調(diào)整任務(wù)，并將數(shù)據(jù)集分割成訓(xùn)練文件和測試文件。

   dataset=load_dataset("aisquared/databricks-dolly-15k")

   上面所示的是一個數(shù)據(jù)樣本。為了適應(yīng)特定的用例，數(shù)據(jù)集可以互換。

   {
   "question": "When did Virgin Australia start operating?", 
   "context": "Virgin Australia, the trading name of Virgin Australia Airlines Pty Ltd, is an Australian-based airline. It is the largest airline by fleet size to use the Virgin brand. It commenced services on 31 August 2000 as Virgin Blue, with two aircraft on a single route.[3] It suddenly found itself as a major airline in Australia's domestic market after the collapse of Ansett Australia in September 2001. The airline has since grown to directly serve 32 cities in Australia, from hubs in Brisbane, Melbourne and Sydney.[4]", 
   "answer": "Virgin Australia commenced services on 31 August 2000 as Virgin Blue, with two aircraft on a single route.", 
   "taskname": "genqa"
   }

3. 然后，通過更新默認(rèn) NeMo 配置文件的某些字段來設(shè)置微調(diào)作業(yè)，以適應(yīng)當(dāng)前的訓(xùn)練任務(wù)。接著，使用 NeMo 訓(xùn)練腳本啟動作業(yè)，運(yùn)行微調(diào)并在過程中生成模型檢查點(diǎn)。

4. 微調(diào)任務(wù)完成后，我們就可以運(yùn)行筆記本內(nèi)推理，生成一些示例輸出，并評估微調(diào)后模型的性能。

5. 接著讓我們來看看這樣一個示例輸出。我們在上下文中提供了兩種產(chǎn)品的描述：割草機(jī)和廚房機(jī)器人，并詢問模型割草機(jī)是否由太陽能供電。

   該模型準(zhǔn)確地把握了上下文，并給出了“是”的回答。在對該模型進(jìn)行微調(diào)后，它就能夠根據(jù)所提供的上下文準(zhǔn)確回答我們的問題了。

   {
   "input": "Context: The Auto Chef Master is a personal kitchen robot that effortlessly turns raw ingredients into gourmet meals with the precision of a Michelin-star chef. The Eco Lawn Mower is a solar powered high-tech lawn mower that provides an eco-friendly and efficient way to maintain your lawn. Question: Is the lawn mower product solar powered? 
   Answer:", 
   "pred": "Yes", 
   "label": "Yes, the Eco Lawn Mower is solar powered.", 
   "taskname": "genqa"
   }

部署模型

NVIDIA AI FoundationEndpoints提供完全無服務(wù)器和可擴(kuò)展的 API，這些 API 可部署在您自己的云或NVIDIA DGX Cloud上。填寫此表(https://developer.nvidia.com/login)即可開始使用 AI Foundation Endpoints。

您還可以使用NVIDIA AI Enterprise在自己的云或數(shù)據(jù)中心基礎(chǔ)設(shè)施上進(jìn)行部署。這一端到端的云原生軟件平臺憑借其企業(yè)級的安全性、穩(wěn)定性、可管理性和支持，能夠加速生產(chǎn)級生成式 AI 的開發(fā)和部署。當(dāng)您準(zhǔn)備從實(shí)驗(yàn)轉(zhuǎn)向生產(chǎn)階段時，就可以使用 NVIDIA AI Enterprise 的企業(yè)級運(yùn)行時來微調(diào)和部署這些模型。

更多信息

通過這篇文章，我們了解了 NVIDIA AI Foundation 模型是如何通過提供易于使用的模型體驗(yàn)界面，以及簡化的模型微調(diào)和部署路徑，從而幫助企業(yè)開發(fā)者找到適合各種用例的模型。

歡迎探索NVIDIA NGC 目錄中提供的不同AI Foundation 模型(https://catalog.ngc.nvidia.com/ai-foundation-models)，找到適合您的模型。

GTC 2024 將于 2024 年 3 月 18 至 21 日在美國加州圣何塞會議中心舉行，線上大會也將同期開放。點(diǎn)擊“閱讀原文”或掃描下方海報二維碼，立即注冊 GTC 大會。