NVIDIA Fleet Command是一種云服務(wù)，可跨分布式邊緣基礎(chǔ)設(shè)施安全部署、管理和擴(kuò)展 AI 應(yīng)用程序。自 7 月艦隊(duì)司令部啟動(dòng)以來(lái)，已經(jīng)實(shí)現(xiàn)了幾個(gè)重要里程碑，并在 NVIDIA GTC 上展示。

Fleet 命令增加了遠(yuǎn)程控制臺(tái) 2.0 、 MIG 支持、加密文件存儲(chǔ)等功能

艦隊(duì)司令部不斷增加新功能。除了使平臺(tái)更加健壯和安全外，還結(jié)合了來(lái)自客戶(hù)和合作伙伴的反饋，使組織更容易在邊緣開(kāi)始使用人工智能。

今天提供的新功能包括：

多實(shí)例 GPU （ MIG ）支持：允許將 GPU 安全地劃分為單獨(dú)的 GPU 實(shí)例。

遠(yuǎn)程控制臺(tái) 2.0 ：無(wú)需額外端口，啟動(dòng)速度更快，以提供及時(shí)安全的遠(yuǎn)程訪(fǎng)問(wèn)。

安全 NFS 支持：允許使用現(xiàn)有的加密存儲(chǔ)解決方案。

高級(jí)網(wǎng)絡(luò)：支持代理、無(wú) DHCP 的網(wǎng)絡(luò)對(duì) IP 地址更改的彈性以及云端的相應(yīng)可觀察性。

有了 NVIDIA LaunchPad ，用戶(hù)完全可以免費(fèi)體驗(yàn) Fleet Command

在今年的 GTC 會(huì)議上，我們宣布了 NVIDIA LaunchPad 在全球范圍內(nèi)的可用性。

NVIDIA LaunchPad是一個(gè)讓企業(yè)和組織能夠立即、短期訪(fǎng)問(wèn)運(yùn)行在加速計(jì)算上的 NVIDIA AI 的計(jì)劃，以加速現(xiàn)代數(shù)據(jù)驅(qū)動(dòng)應(yīng)用程序的開(kāi)發(fā)和部署。它允許您在可以購(gòu)買(mǎi)和部署的同一個(gè)完整堆棧上快速測(cè)試和原型化整個(gè)人工智能工作流。

組織可以使用 LaunchPad 獲得對(duì)艦隊(duì)司令部的完全訪(fǎng)問(wèn)權(quán)，以體驗(yàn)免費(fèi)部署和擴(kuò)展 AI 。用戶(hù)可以訪(fǎng)問(wèn)優(yōu)化模型和應(yīng)用程序的目錄，以探索 AI 如何為他們的組織帶來(lái)好處。他們還可以了解一種交鑰匙云服務(wù)，用于在真實(shí)服務(wù)器上部署和監(jiān)控真實(shí)應(yīng)用程序，以及用于無(wú)縫調(diào)配和運(yùn)行應(yīng)用程序的加速邊緣計(jì)算基礎(chǔ)設(shè)施。

圖 1 。 NVIDIA LaunchPad 允許用戶(hù)試用 AI 開(kāi)發(fā)的每個(gè)階段，從數(shù)據(jù)準(zhǔn)備到部署。

有興趣開(kāi)始使用 NVIDIA LaunchPad 上的 Fleet Command 嗎？申請(qǐng)立即訪(fǎng)問(wèn)。

Mavenir 基于 NVIDIA AI-On-5G 平臺(tái)發(fā)布 MaveEdge AI

英偉達(dá) AI ON 5G 平臺(tái)可用于構(gòu)建連接智能和工業(yè) 4 解決方案。該平臺(tái)基于 NVIDIA Aeror 5G ，由艦隊(duì)司令部管理，通過(guò)使企業(yè)能夠在同一計(jì)算基礎(chǔ)設(shè)施上部署 AI 和 5G ，在邊緣提供互聯(lián)智能。這種方法提供了靈活、高效、可靠和安全的智能邊緣網(wǎng)絡(luò)，重新定義了業(yè)務(wù)流程，并在邊緣為 AI 提供了新的用例。

MavEdEi 是基于英偉達(dá) AI ON 5G 平臺(tái)的第一個(gè) AI-ON 5G 解決方案。該解決方案通過(guò) 5G 無(wú)線(xiàn)電將 5G 連接到 AI-on-5G 硬件和軟件，為制造業(yè)、采礦業(yè)、零售業(yè)和醫(yī)療保健行業(yè)的用例提供視頻分析。

MAVedge AI 為 NVIDIA 的 AI-on-5G 平臺(tái)增加了不斷增長(zhǎng)的生態(tài)系統(tǒng)。 NVIDIA 還與戴爾、富士康和軟銀等合作伙伴合作，加快在本地或云中構(gòu)建 AI-on-5G 。

引入英偉達(dá) A2 張量核 GPU 用于邊緣推理

今年在 GTC 上發(fā)布的還有NVIDIA A2，用于入門(mén)級(jí)和邊緣服務(wù)器。

NVIDIA A2 張量核心 GPU 是優(yōu)化入門(mén)級(jí)推理，智能視頻分析，和英偉達(dá) AI 部署。這對(duì)于受空間和散熱要求限制的邊緣服務(wù)器尤其有用，例如 5G 邊緣和工業(yè)環(huán)境。 A2 提供了在低功耗外殼中運(yùn)行的輕巧外形，從 60W 到 40W 的 TDP ，非常適合任何邊緣服務(wù)器。

A2的多功能性、緊湊的尺寸和低功耗超過(guò)了大規(guī)模邊緣部署的要求，可立即升級(jí)現(xiàn)有入門(mén)級(jí) CPU 服務(wù)器以處理推理。與 CPU 相比，A2 GPU 加速的服務(wù)器提供了高達(dá)37倍的推理性能，并且比以前的 CPU 部署效率高1.3倍 GPU 各代產(chǎn)品均以入門(mén)級(jí)價(jià)位銷(xiāo)售。

A2 在領(lǐng)先的 OEM NVIDIA 認(rèn)證系統(tǒng)中可用?， 它跨邊緣、數(shù)據(jù)中心和云提供突破性的推理性能，確保啟用 AI 的應(yīng)用程序部署時(shí)使用更少的服務(wù)器、更少的電源和更低的成本。作為我們 NVIDIA 認(rèn)證計(jì)劃的一部分，基于 NVIDIA A2 GPU 的系統(tǒng)與 Fleet Command 兼容。

NVIDIA 認(rèn)證系統(tǒng)的兩個(gè)新類(lèi)別

NVIDIA 認(rèn)證系統(tǒng)現(xiàn)在包括邊緣系統(tǒng)類(lèi)別。這些系統(tǒng)經(jīng)過(guò)認(rèn)證，可提供在傳統(tǒng)數(shù)據(jù)中心之外運(yùn)行加速應(yīng)用程序的能力，包括：

推理的優(yōu)良性能：已經(jīng)顯示了英偉達(dá) A30 系統(tǒng)在一系列推理工作量上提供領(lǐng)先的性能，正如 2021 年 9 月 MLPRF 基準(zhǔn)測(cè)試結(jié)果所證明的。 A30 多實(shí)例 GPU （ MIG ）支持還允許最多四個(gè)工作負(fù)載同時(shí)運(yùn)行，并保證其自身的服務(wù)質(zhì)量，從而最大限度地提高計(jì)算利用率和效率。

低功耗：新的 A2 GPU 將很快納入 NVIDIA 認(rèn)證系統(tǒng)計(jì)劃。它提供入門(mén)級(jí)、低功耗、緊湊型加速，用于邊緣 AI 和推理，并提供英偉達(dá)企業(yè) GPU 組合的最小足跡。

安全性：對(duì) Trusted Platform Module 功能的驗(yàn)證可實(shí)現(xiàn)安全引導(dǎo)、磁盤(pán)加密和數(shù)字簽名應(yīng)用程序的使用。

這是兩類(lèi)經(jīng)認(rèn)證的邊緣系統(tǒng)。企業(yè)邊緣系統(tǒng)旨在部署在受控環(huán)境中，如零售店。 Industrial edge 系統(tǒng)專(zhuān)為堅(jiān)固的部署而設(shè)計(jì)，如高溫環(huán)境。

Fleet Command 與所有經(jīng) NVIDIA 認(rèn)證的系統(tǒng)兼容，包括 Enterprise Edge 和 Industrial Edge 系統(tǒng)。了解有關(guān)NVIDIA-Certified Systems的更多信息。

新的合作伙伴意味著艦隊(duì)司令部有了新的應(yīng)用程序

數(shù)十個(gè)新合作伙伴已添加到我們的生態(tài)系統(tǒng)中，為企業(yè)提供數(shù)百種應(yīng)用程序選擇，以便使用 Fleet Command 在邊緣部署。通過(guò)將我們的應(yīng)用程序合作伙伴與構(gòu)建邊緣解決方案的客戶(hù)聯(lián)系起來(lái)，我們加快了人工智能的時(shí)間，并簡(jiǎn)化了可能需要數(shù)周或數(shù)月時(shí)間的流程。

一些合作伙伴包括Data Monsters，該公司正在使用計(jì)算機(jī)視覺(jué)進(jìn)行工業(yè)檢查和制造。Ironyun正在利用 AI 支持的視頻分析進(jìn)行安全、訪(fǎng)問(wèn)控制以及安全和搜索。Kinetic Vision正在為消費(fèi)品包裝企業(yè)的 AI 支持的計(jì)算機(jī)視覺(jué)構(gòu)建端到端解決方案。

艦隊(duì)司令部繼續(xù)與客戶(hù)和合作伙伴保持密切聯(lián)系。要保持最新?tīng)顟B(tài)，請(qǐng)務(wù)必檢查與艦隊(duì)指揮和邊緣計(jì)算相關(guān)的所有 GTC 會(huì)話(huà)。

關(guān)于作者

Troy Estes 是 NVIDIA Edge 和企業(yè)計(jì)算解決方案的產(chǎn)品營(yíng)銷(xiāo)經(jīng)理。在加入 Edge & Enterprise 業(yè)務(wù)部門(mén)之前，特洛伊曾在自主汽車(chē)業(yè)務(wù)部門(mén)和 NVIDIA 電網(wǎng)產(chǎn)品集團(tuán)從事?tīng)I(yíng)銷(xiāo)活動(dòng)和支持產(chǎn)品 GTM 。

審核編輯：郭婷