全名為 NVIDIA GPU Cloud 的 NGC 中心，是近年來(lái) NVIDIA 用來(lái)統(tǒng)籌應(yīng)用資源的云中心，本身并不具備任何計(jì)算功能，主要就是“應(yīng)用資源分類整理”用途，將 NVIDIA 絕大部分與 GPU 開(kāi)發(fā)相關(guān)的工具包、開(kāi)發(fā)包、機(jī)器學(xué)習(xí)預(yù)訓(xùn)練模型等等，全部集中在這上面，方便開(kāi)發(fā)人員集中使用與下載開(kāi)發(fā)資源。

登錄 http://ngc.nvidia.com 就能進(jìn)入 NGC 中心，不過(guò)這個(gè)入口的更新頻率很高，首頁(yè)所看到的內(nèi)容可能跳轉(zhuǎn)至其他地方。網(wǎng)頁(yè)最左邊的 “Explore Catalog” 與右上角的“用戶名(未登錄之前為 Guest)”，大致是固定的。

目前 NGC 將所有資源區(qū)分為以下五大類：

Collections(集合)：

這里存放著“以應(yīng)用為單位”的綜合信息內(nèi)容，因?yàn)槊總€(gè)應(yīng)用都需要用到一個(gè)以上的容器、預(yù)訓(xùn)練模型、Helm 管理模塊或資源，在 NGC 里存放數(shù)百個(gè)這些元件，如果讓開(kāi)發(fā)者自行搜索的話，的確是一件相當(dāng)費(fèi)勁的工作。

NVIDIA 將個(gè)別應(yīng)用所需要的相關(guān)信息，先整理好并存放在這個(gè)分類里，讓使用者可以非常輕松地掌握每個(gè)應(yīng)用所需要的資源列表，目前已經(jīng)整理好 50+個(gè)應(yīng)用，包括 TAO 對(duì)話 AI、ASR 自動(dòng)語(yǔ)音識(shí)別、NLP 自然語(yǔ)言處理等等，還在陸續(xù)增加當(dāng)中。

下面截屏是在 “Query” 欄輸入 “tao” 后，會(huì)出現(xiàn) 10 個(gè)已經(jīng)整理好的應(yīng)用：

當(dāng)點(diǎn)擊 “TAO Toolkit-Conversational AI” 之后，就會(huì)進(jìn)入下面 “Overview” 截圖的內(nèi)容，顯示在 NGC 中心里，目前有 1 個(gè)容器、10 個(gè)預(yù)訓(xùn)練模型與 8 項(xiàng)資源與這個(gè)應(yīng)用是有關(guān)的，當(dāng)然這些數(shù)字未來(lái)是有可能改變的。

點(diǎn)擊 “Entities” 就能看到如下圖，列出每個(gè)元件的名稱以及進(jìn)入該元件說(shuō)明的鏈接：

這樣就能很輕松地掌握每個(gè)應(yīng)用完整的資源信息。

Containers(容器)：

Docker 是非常好的用于封裝應(yīng)用軟件的容器技術(shù)，封裝的鏡像能提供完全獨(dú)立的執(zhí)行環(huán)境，這樣能有效地解決多種應(yīng)用的同時(shí)運(yùn)作。

由于 NVIDIA 的各種開(kāi)發(fā)套件之間，仍有可能存在 CUDA/cuDNN/TensorRT 這些底層庫(kù)的版本兼容問(wèn)題，另外包括 Python 各種數(shù)學(xué)庫(kù)之間的版本依賴，經(jīng)常造成軟件安裝的困難度。

NVIDIA 將大部分開(kāi)發(fā)套件與工具包，以不同應(yīng)用場(chǎng)景或功能組合的形式，用 Docker 技術(shù)進(jìn)行封裝，例如 TAO 開(kāi)發(fā)工具就有 for Conv AI、for CV 與 for Lanuage Model 三種鏡像，而 DeepStream 有 6 種以上的鏡像。

使用鏡像技術(shù)，開(kāi)發(fā)者只需要在工作平臺(tái)上安裝最基礎(chǔ)的 GPU 驅(qū)動(dòng)、docker 管理器與 nv-docker 解析器，就能非常輕松地使用這些應(yīng)用。目前 NGC 上已經(jīng)有將近 200 個(gè)容器鏡像，可以免費(fèi)使用。

Helm Charts

這是一組針對(duì) Kubernetes 集群的管理與運(yùn)維的工具，配合 docker 技術(shù)執(zhí)行應(yīng)用軟件的部署與管理，與 GPU 計(jì)算沒(méi)有直接關(guān)聯(lián)，通常使用在數(shù)據(jù)中心、云平臺(tái)上，對(duì)各種部署的 GPU 應(yīng)用進(jìn)行管理與監(jiān)控，其中 NVIDIA Network Operator Helm Chart 是最重要的基礎(chǔ)元件，對(duì)這方面有需求的讀者可以從這個(gè)元件開(kāi)始上手。

Models(模型)：

這里提供 300+個(gè)預(yù)訓(xùn)練好的人工智能模型，包括圖像分類、對(duì)象檢測(cè)、語(yǔ)言翻譯、文本到語(yǔ)音、推薦引擎、情感分析等等，主要配合遷移學(xué)習(xí)(transfer learning) 的用途，或者直接拿來(lái)作為體驗(yàn)演示用途。

這里的所有模型都是經(jīng)由最專業(yè)的技術(shù)人員，根據(jù)不同數(shù)據(jù)精度在 NVIDIA 最高端設(shè)備進(jìn)行訓(xùn)練，在精確度與性能上都經(jīng)過(guò)優(yōu)化處理，包括 NVIDIA Tensor Core GPU，這樣的預(yù)訓(xùn)練模型能為開(kāi)發(fā)人員節(jié)省非常大量的模型訓(xùn)練時(shí)間。

Resources

這里存放的內(nèi)容，就是為創(chuàng)建深度學(xué)習(xí)模型的分步說(shuō)明和腳本，例如用于 Jupyter環(huán)境的 .ipynb 腳本，還有一些使用相關(guān)的指導(dǎo)文件或范例代碼。

以上簡(jiǎn)單介紹了 NGC 的內(nèi)容，NVIDIA 為開(kāi)發(fā)人員提供非常豐富與優(yōu)異的資源，若能好好善用 NGC 的功能，就能在人工智能的應(yīng)用開(kāi)發(fā)上得到事半功倍的效果。

要使用這些資源的第一件事情，就是要申請(qǐng) NGC 賬號(hào)，這個(gè)賬號(hào)與 NVIDIA 開(kāi)發(fā)者申請(qǐng)的賬號(hào)是互相獨(dú)立的，因此需要單獨(dú)申請(qǐng)。本文最后就是帶著大家去申請(qǐng)一個(gè)賬號(hào)，并且申請(qǐng)一組密鑰，這樣就能輕松使用 NGC 的內(nèi)容。

1. 創(chuàng)建NGC賬號(hào)：

(1)登錄 https://ngc.nvidia.com 會(huì)直接出現(xiàn) CATALOG 畫面。

(2)請(qǐng)點(diǎn)擊下圖右上角 “Welcome Guest”，然后點(diǎn)選下方 “Sing in/Sing Up”。

(3)進(jìn)入后點(diǎn)選 “NVIDIA Account” 旁邊的 “Continue”，就會(huì)進(jìn)入下圖右的“登陸”或“創(chuàng)建一個(gè)賬戶”的畫面。

(4)剩下的步驟與一般申請(qǐng)賬號(hào)的過(guò)程是一樣的，使用一個(gè)正規(guī)的郵箱進(jìn)行申請(qǐng)，不過(guò) NGC 為了便利國(guó)內(nèi)用戶，也允許使用 QQ 或微信賬號(hào)登錄。在下面截屏下方點(diǎn)擊 “Show more”，就會(huì)出現(xiàn) “Login with QQ” 與 “Login with WeChat” 選項(xiàng)，點(diǎn)入之后掃描二維碼就能進(jìn)行賬號(hào)創(chuàng)建。

后面仍需要完成進(jìn)一步的賬號(hào)確認(rèn)工作，回復(fù) NGC 所發(fā)送的確認(rèn)郵件，才能完成完成整個(gè)賬號(hào)創(chuàng)建工作。

2. 獲取NGC密鑰：

(1)登陸 NGC 之后，會(huì)看到右上角出現(xiàn)您的登錄名，以及一組哈希數(shù)列。點(diǎn)選用戶名所出現(xiàn)的下拉菜單中，選擇 “setup” 選項(xiàng)。

(2)進(jìn)入 Setup 選項(xiàng)后會(huì)出現(xiàn)下面兩個(gè)設(shè)定，點(diǎn)擊左邊的 “Get API Key”：

(3)點(diǎn)擊下圖右上角 “Generate API KEY” 會(huì)跳出“確認(rèn)”，點(diǎn)擊 “confirm” 即可

(4)在最下面會(huì)出現(xiàn)一組長(zhǎng)度 85 的字符串：

由于密鑰只有在創(chuàng)建時(shí)候能看到內(nèi)容，日后無(wú)法在 NGC 獨(dú)立查詢，請(qǐng)自行復(fù)制做好記錄。這組密鑰在整個(gè)訓(xùn)練過(guò)程以及最后推理時(shí)都需要用到，非常關(guān)鍵，如果遺忘的話就得重新再創(chuàng)建一組，而前面所訓(xùn)練的模型，可能就得重新再做一次。

本文只是將 NGC 的內(nèi)容做個(gè)簡(jiǎn)單的介紹，以及講解創(chuàng)建賬號(hào)、生成密鑰的過(guò)程，更多關(guān)于 NGC 的詳細(xì)使用說(shuō)明。

原文標(biāo)題：NVIDIA Jetson Nano 2GB 系列文章(54)：NGC的內(nèi)容簡(jiǎn)介與注冊(cè)密鑰

文章出處：【微信公眾號(hào)：NVIDIA英偉達(dá)企業(yè)解決方案】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

審核編輯：湯梓紅