經(jīng)NVIDIA優(yōu)化、認(rèn)證并支持用于VMware vSphere的NVIDIA AI Enterprise套件，為混合云帶來AI和數(shù)據(jù)科學(xué)應(yīng)用的擴(kuò)展性能和兼容性

由于企業(yè)紛紛通過對(duì)數(shù)據(jù)中心進(jìn)行現(xiàn)代化升級(jí)來為AI應(yīng)用和數(shù)據(jù)科學(xué)提供支持，NVIDIA和VMware大幅簡(jiǎn)化了現(xiàn)代混合云中各種不同AI工作負(fù)載的開發(fā)和部署。

兩家公司聯(lián)合使用NVIDIA AI Enterprise軟件套件對(duì)剛剛發(fā)布的vSphere更新——VMware vSphere 7 Update 2進(jìn)行了AI應(yīng)用優(yōu)化（見下圖1）。對(duì)于數(shù)十萬(wàn)家使用vSphere實(shí)現(xiàn)計(jì)算虛擬化的企業(yè)而言，這一組合為他們的大量加速CUDA應(yīng)用、AI框架、模型和SDK實(shí)現(xiàn)了擴(kuò)展性、多節(jié)點(diǎn)性能和兼容性。

通過此次業(yè)內(nèi)首創(chuàng)的合作，AI研究人員、數(shù)據(jù)科學(xué)家和開發(fā)者獲得了成功交付AI項(xiàng)目所需的軟件，而IT專業(yè)人員能夠使用他們最熟悉的大規(guī)模數(shù)據(jù)中心管理工具為AI提供不折不扣的支持。

圖1：用于VMware vSphere的NVIDIA AI Enterprise在NVIDIA認(rèn)證系統(tǒng)上運(yùn)行，使IT部門能夠輕松地大規(guī)模部署虛擬化AI。

完整齊全的企業(yè)級(jí)AI套件

NVIDIA AI Enterprise是一套完整齊全的企業(yè)級(jí)AI工具和框架，它能夠幫助制造、物流、金融服務(wù)、零售和醫(yī)療健康等眾多關(guān)鍵行業(yè)優(yōu)化業(yè)務(wù)流程、提升效率。憑借NVIDIA AI Enterprise，科學(xué)家和AI研究人員可以輕松訪問NVIDIA領(lǐng)先的AI工具，推動(dòng)高級(jí)診斷、智能工廠、欺詐檢測(cè)等項(xiàng)目的AI發(fā)展。

該解決方案解決了部署單個(gè)AI應(yīng)用的復(fù)雜性問題，以及由于必須手動(dòng)配置和管理各種不兼容的應(yīng)用和基礎(chǔ)設(shè)施軟件而可能導(dǎo)致的潛在故障。

憑借在vSphere上運(yùn)行的NVIDIA AI Enterprise，客戶可以避免難以管理和不安全的AI專用系統(tǒng)孤島。同時(shí)，還可以降低部署shadow AI（即數(shù)據(jù)科學(xué)家和機(jī)器學(xué)習(xí)工程師在IT生態(tài)系統(tǒng)之外采購(gòu)資源）的風(fēng)險(xiǎn)。

在獲得NVIDIA許可證后，AI Enterprise for vSphere可在NVIDIA認(rèn)證系統(tǒng)上得到支持。獲得NVIDIA認(rèn)證系統(tǒng)認(rèn)證的服務(wù)器包括戴爾科技、新華三、慧與、浪潮、聯(lián)想和超微等高容量服務(wù)器。即便是最先進(jìn)、要求最嚴(yán)苛的AI應(yīng)用，也能像傳統(tǒng)企業(yè)工作負(fù)載一樣，在通用基礎(chǔ)設(shè)施上通過VMware vCenter等數(shù)據(jù)中心管理工具輕松獲得支持。

IT部門可以管理可用性、優(yōu)化資源分配，并在本地和混合云中運(yùn)行的AI工作負(fù)載保障其寶貴的IP和客戶數(shù)據(jù)的安全。

可擴(kuò)展多節(jié)點(diǎn)虛擬化AI性能

NVIDIA AI Enterprise使虛擬工作負(fù)載能夠在vSphere上以接近裸金屬的性能運(yùn)行，并通過NVIDIA A100 GPU在AI和數(shù)據(jù)科學(xué)領(lǐng)域獲得突破性性能（見下表1）。現(xiàn)在，AI工作負(fù)載可以擴(kuò)展到多個(gè)節(jié)點(diǎn)，即便是具有完整GPU虛擬化的最大規(guī)模的深度學(xué)習(xí)訓(xùn)練模型也可以在VMware Cloud Foundation上運(yùn)行。

表1：用于 vSphere的NVIDIA AI Enterprise使分布式深度學(xué)習(xí)訓(xùn)練可線性擴(kuò)展至多個(gè)節(jié)點(diǎn)，并提供與裸機(jī)完全相同的性能。

AI工作負(fù)載規(guī)模不一，對(duì)數(shù)據(jù)的要求也不盡相同。有些需要處理圖像，例如實(shí)時(shí)流量報(bào)告系統(tǒng)或網(wǎng)上購(gòu)物推薦系統(tǒng)等；另一些則基于文本，比如由對(duì)話式AI驅(qū)動(dòng)的客戶服務(wù)支持系統(tǒng)等。

訓(xùn)練一個(gè)AI模型需要使用的數(shù)據(jù)量可能令人難以置信，而且需要在多個(gè)節(jié)點(diǎn)的多個(gè)GPU上擴(kuò)展性能。在部署中的模型上運(yùn)行推理所需的計(jì)算資源一般較少，并且可能不需要用到整個(gè)GPU的性能。

NVIDIA與VMware一起將vSphere打造成唯一一款通過NVIDIA多實(shí)例 GPU（MIG）技術(shù)為實(shí)時(shí)遷移提供虛擬機(jī)監(jiān)視器支持的計(jì)算虛擬化軟件。憑借MIG技術(shù)，每個(gè)A100 GPU可以在硬件層面被分割成多至7個(gè)實(shí)例，從而最大限度地提高各種規(guī)模工作負(fù)載的效率。

豐富的AI應(yīng)用和基礎(chǔ)設(shè)施資源

NVIDIA AI Enterprise包含了NVIDIA的關(guān)鍵技術(shù)和軟件。通過它們，可以在VMware Cloud Foundation上運(yùn)行的虛擬化數(shù)據(jù)中心中快速部署、管理和擴(kuò)展AI工作負(fù)載。

NVIDIA AI Enterprise是一款經(jīng)過認(rèn)證的端到端套件，包含了NVIDIA的關(guān)鍵AI技術(shù)、應(yīng)用及企業(yè)支持服務(wù)。

預(yù)計(jì)在升級(jí)到vSphere 7 U2時(shí)采用NVIDIA AI Enterprise的客戶，可以聯(lián)系NVIDIA和VMware提出需求。