將HPC的超高算力搬到云上，什么技術(shù)路子這么強(qiáng)？

沒(méi)有云計(jì)算廠商，會(huì)輕易放過(guò)大降成本的機(jī)會(huì)。

云是未來(lái)，這在全球各大科技巨頭的最新財(cái)報(bào)中已經(jīng)得到明確的驗(yàn)證。最新財(cái)季，AWS凈銷售額同比增長(zhǎng)27%，微軟智能云收入同比增長(zhǎng)20%，谷歌云收入同比增長(zhǎng)37%，阿里云營(yíng)收同比增長(zhǎng)4%，百度智能云營(yíng)收同比增長(zhǎng)24%……

承載著“讓算力資源大眾化”使命的云計(jì)算，形成了撐起科技巨頭未來(lái)的新型支柱業(yè)務(wù)。而要持續(xù)拉高算力峰值、提高客戶上云服務(wù)體驗(yàn)，推進(jìn)架構(gòu)層的變革已是箭在弦上。

技術(shù)迭代的洪流滾滾向前，被冠以數(shù)據(jù)中心“第三顆主力芯片”的DPU，正成為傳統(tǒng)云計(jì)算架構(gòu)向云原生超級(jí)計(jì)算升級(jí)的“底牌”。

01.

數(shù)據(jù)中心下一站：云原生超級(jí)計(jì)算

云是未來(lái)，已是無(wú)可爭(zhēng)議。但如何通過(guò)云服務(wù)向暴漲的用戶同時(shí)提供更大規(guī)模的算力支持，是擺在每個(gè)云大廠面前的核心議題。

▲當(dāng)前云和數(shù)據(jù)中心面臨平衡性能與能耗的挑戰(zhàn)（圖源：NVIDIA）

云服務(wù)的優(yōu)勢(shì)是隨用隨取、按需分配算力，高性能計(jì)算則擁有強(qiáng)大算力。一種“優(yōu)勢(shì)互補(bǔ)”的思路開(kāi)始走向落地：如果將兩者的技術(shù)路線結(jié)合，是不是就能在云上提供媲美超級(jí)計(jì)算機(jī)的性能？

乍一想可行，但落到實(shí)處，需解決很多的技術(shù)挑戰(zhàn)。在傳統(tǒng)云原生的算力基礎(chǔ)設(shè)施中，CPU是事無(wú)巨細(xì)的芯片“大總管”，既要處理計(jì)算任務(wù)，又要監(jiān)管通信和存儲(chǔ)，忙著這頭，就顧不上那頭，中間造成大量的排隊(duì)等待時(shí)間和算力資源浪費(fèi)。

這就好比餐廳，規(guī)模小、顧客少時(shí)，一位大廚還能忙得過(guò)來(lái)。此時(shí)這位大廚包攬了后廚的所有工作，除了忙著炒菜外，還操心采買、倉(cāng)儲(chǔ)、切配、端菜等等。然而等顧客越來(lái)越多，如果還靠他一手包辦，那么炒菜效率就低了，每個(gè)顧客的等菜時(shí)間都長(zhǎng)，體驗(yàn)都不好。

為解決這些痛點(diǎn)而生的云原生超級(jí)計(jì)算架構(gòu)，正在云計(jì)算數(shù)據(jù)中心流行開(kāi)來(lái)。

▲云原生超級(jí)計(jì)算架構(gòu)（圖源：NVIDIA）

云原生超級(jí)計(jì)算的核心思路是“分而治之”，相當(dāng)于給廚師配上幫廚、服務(wù)員等專業(yè)幫手，這樣一來(lái)，廚師能夠?qū)Ｐ陌巡顺吹糜挚煊趾谩?/p>

如今，越來(lái)越多的商業(yè)云開(kāi)始提供高性能計(jì)算（HPC）云服務(wù)，大型算力中心也產(chǎn)生更多的上云需求。主要承擔(dān)HPC和大型人工智能（AI）訓(xùn)練任務(wù)的算力中心，本身算力資源池非常大，存在算力資源閑置問(wèn)題。

而引入云原生超級(jí)計(jì)算技術(shù)，可以將算力資源切分供給多用戶多業(yè)務(wù)，通過(guò)編排調(diào)度，讓每個(gè)業(yè)務(wù)都能享有堪比獨(dú)占所有資源時(shí)的高性能。

無(wú)論是從提升性能、優(yōu)化設(shè)計(jì)，亦或是從節(jié)能減排的角度，云原生超級(jí)計(jì)算對(duì)于商業(yè)云和大型算力中心的架構(gòu)優(yōu)化思路都很有借鑒價(jià)值。

02.

給高性能業(yè)務(wù)上云開(kāi)路！

解讀云原生超級(jí)計(jì)算的靈魂

云原生超級(jí)計(jì)算請(qǐng)的專業(yè)幫手，就是DPU。

作為替CPU分?jǐn)偣ぷ鞯妮o助“大腦”，DPU接手了通信、存儲(chǔ)、安全等任務(wù)，讓CPU能專心處理用戶業(yè)務(wù)，這樣各種計(jì)算和通信任務(wù)就可以同步進(jìn)行，不再像以往那樣出現(xiàn)擁堵問(wèn)題。

▲典型的DPU/DOCA卸載及加速通信流程示意圖（圖源：NVIDIA）

經(jīng)過(guò)兩年發(fā)展，這個(gè)被AI計(jì)算巨頭NVIDIA（英偉達(dá)）帶火的芯片新秀，已經(jīng)開(kāi)始廣泛落地于云計(jì)算和高性能計(jì)算的算力基礎(chǔ)設(shè)施建設(shè)大潮中。

具體而言，NVIDIA BlueField DPU對(duì)數(shù)據(jù)中心的最大價(jià)值，就是實(shí)現(xiàn)性能和能效的顯著提升。

首先是性能，提升數(shù)據(jù)中心整體性能的一大關(guān)鍵阻力是網(wǎng)絡(luò)。原本計(jì)算能力有十成，多個(gè)任務(wù)同時(shí)處理后，CPU處理這個(gè)計(jì)算任務(wù)或者管理調(diào)配通信、存儲(chǔ)等資源時(shí)，另一個(gè)計(jì)算任務(wù)就只能浪費(fèi)時(shí)間等待。此外，如果兩個(gè)任務(wù)在通信過(guò)程中狹路相逢，造成網(wǎng)絡(luò)阻塞，那么就會(huì)造成延時(shí)。在金融銀行等對(duì)延時(shí)高度敏感的應(yīng)用場(chǎng)景中，這可能給客戶交易造成損失。

而在 NVIDIA BlueField DPU主管網(wǎng)絡(luò)、存儲(chǔ)等基礎(chǔ)架構(gòu)功能后，不僅CPU可以將更多計(jì)算資源用在云服務(wù)客戶的業(yè)務(wù)上，整體網(wǎng)絡(luò)阻塞問(wèn)題得到明顯改善，而且BlueField DPU本身攜帶的計(jì)算資源也可以輔助加速計(jì)算。

▲典型的DPU/DOCA卸載及加速通信流程示意圖（圖源：NVIDIA）

再?gòu)哪苄?lái)看，隨著數(shù)據(jù)中心規(guī)模越來(lái)越大，改善耗電量、降低基礎(chǔ)設(shè)施采購(gòu)和降低電力成本，已經(jīng)是優(yōu)化現(xiàn)代數(shù)據(jù)中心和主要目標(biāo)。

引入NVIDIA BlueField DPU，已是較大數(shù)據(jù)中心提升系統(tǒng)能效的有效途徑之一。在運(yùn)行基礎(chǔ)設(shè)施任務(wù)時(shí)，內(nèi)置專用硬件引擎的NVIDIA BlueField DPU，效率要比CPU高得多。此外，NVIDIA BlueField DPU上的CPU核心采用Arm架構(gòu)，天然比多數(shù)x86服務(wù)器CPU更加節(jié)能，并且可以直接訪問(wèn)網(wǎng)絡(luò)管線。

換個(gè)角度來(lái)看，同樣的CPU數(shù)量，將計(jì)算資源更集中的供給云服務(wù)業(yè)務(wù)后，能夠提供更高性能。反過(guò)來(lái)，實(shí)現(xiàn)相同的性能，其實(shí)要比以前消耗更少的CPU，這相當(dāng)于減少了硬件采購(gòu)成本，進(jìn)而有助于大幅降低總體擁有成本（TCO）。

根據(jù)《NVIDIA BlueField DPU能效白皮書》，通過(guò)用NVIDIA BlueField DPU卸載，在3年期間將1萬(wàn)臺(tái)服務(wù)器的每臺(tái)服務(wù)器耗電量降低200W，可在中國(guó)地區(qū)節(jié)省的成本估算值接近400萬(wàn)美元（近2800萬(wàn)人民幣）。

▲根據(jù)2020/2021年電價(jià)，在不同國(guó)家/地區(qū)，通過(guò)使用DPU卸載在3年期間將1萬(wàn)臺(tái)服務(wù)器的每臺(tái)服務(wù)器耗電量降低200瓦，可節(jié)省的成本估算值（圖源：NVIDIA DPU能效白皮書）

如果為擁有1萬(wàn)臺(tái)服務(wù)器的大型數(shù)據(jù)中心計(jì)算，將IPsec加密/解密卸載到NVIDIA DPU，那么大型數(shù)據(jù)中心的3年TCO有望節(jié)省約2630萬(wàn)美元（折合約1.8億人民幣）。

▲為擁有1萬(wàn)臺(tái)服務(wù)器的大型數(shù)據(jù)中心計(jì)算將IPSec加密/解密卸載到BlueField DPU的TCO（圖源：NVIDIA DPU能效白皮書）

如此顯著的成本優(yōu)化，得益于英偉達(dá)極有遠(yuǎn)見(jiàn)的前瞻性布局：將硬件做到業(yè)界性能標(biāo)桿，用軟件培養(yǎng)開(kāi)發(fā)者習(xí)慣，從而構(gòu)建一個(gè)普適的高性能生態(tài)環(huán)境。

03.

開(kāi)業(yè)界先例

實(shí)現(xiàn)公有云上的業(yè)務(wù)性能隔離

與GPU如出一轍，提及DPU，英偉達(dá)絕對(duì)是被最先想起的公司，足見(jiàn)英偉達(dá)在業(yè)界的影響力。

而軟硬“雙劍合璧”，加上在生態(tài)合作和口碑方面的優(yōu)勢(shì)滾雪球般越滾越大，長(zhǎng)期是英偉達(dá)能夠站在潮頭、難以復(fù)制的殺手锏。

硬件上，NVIDIA BlueField DPU在本地Host Memory和遠(yuǎn)端Host Memory之間建立了一條直接的通信通道，整個(gè)過(guò)程不需要CPU分神參與任何通信操作，并通過(guò)提供Pre-Active擁塞控制技術(shù)實(shí)現(xiàn)性能隔離。

▲DPU硬件與DOCA軟件協(xié)作（圖源：NVIDIA）

而硬件性能的充分發(fā)揮，離不開(kāi)大量的軟件工作。針對(duì)BlueField DPU，英偉達(dá)打造了NVIDIA DOCA來(lái)提供各種加速庫(kù)及標(biāo)準(zhǔn)編程接口，為其客戶不斷降低相應(yīng)應(yīng)用的DPU開(kāi)發(fā)門檻。

再加上與英偉達(dá)其他先進(jìn)網(wǎng)絡(luò)技術(shù)的協(xié)同配合，數(shù)據(jù)中心的網(wǎng)絡(luò)頑疾得以有效優(yōu)化，能夠更充分地發(fā)揮硬件資源的性能。

這些優(yōu)勢(shì)的疊加，推動(dòng)云原生超級(jí)計(jì)算技術(shù)走向落地。最新典例便是在HPC云服務(wù)方面一馬當(dāng)先的云巨頭微軟智能云Azure，在英偉達(dá)BlueField DPU相關(guān)產(chǎn)品及技術(shù)的支持下，它在業(yè)界率先實(shí)現(xiàn)了公有云上的業(yè)務(wù)性能隔離。

也就是說(shuō)，讓業(yè)務(wù)在云上擁有像獨(dú)享資源時(shí)一樣的高性能水平，已經(jīng)從設(shè)想轉(zhuǎn)變?yōu)楝F(xiàn)實(shí)。

▲借助云原生超級(jí)計(jì)算技術(shù)，Azure在業(yè)界率先實(shí)現(xiàn)公有云上的業(yè)務(wù)性能隔離（圖源：NVIDIA）

NVIDIA網(wǎng)絡(luò)亞太區(qū)高級(jí)總監(jiān)宋慶春告訴芯東西，如果現(xiàn)有公有云想將計(jì)算平臺(tái)升級(jí)向云原生超級(jí)計(jì)算，可以先從英偉達(dá)BlueField DPU或標(biāo)準(zhǔn)網(wǎng)卡著手，在體驗(yàn)到相應(yīng)的技術(shù)優(yōu)勢(shì)后，在逐步演進(jìn)至更多網(wǎng)絡(luò)計(jì)算技術(shù)的替換，最終改造成基于云原生超級(jí)計(jì)算的最優(yōu)計(jì)算平臺(tái)。

目前云原生超級(jí)計(jì)算主要應(yīng)用于面向高性能業(yè)務(wù)的上云，包括傳統(tǒng)高性能計(jì)算業(yè)務(wù)（如氣象預(yù)測(cè)、石油勘探、生命科學(xué)等應(yīng)用）、大規(guī)模AI訓(xùn)練任務(wù)、推薦任務(wù)等，并通過(guò)多項(xiàng)測(cè)試，驗(yàn)證了NVIDIA BlueField DPU在提升數(shù)據(jù)中心性能和能效的真本事。

例如，VMware和英偉達(dá)在服務(wù)器上測(cè)試Redis鍵值存儲(chǔ)的測(cè)試表明，在25Gb/s網(wǎng)絡(luò)上運(yùn)行Redis工作負(fù)載的VMware vSphere分布式服務(wù)引擎時(shí)，將網(wǎng)絡(luò)功能卸載到NVIDIA BlueField DPU上，可釋放12個(gè)CPU核心，同時(shí)提高Redis的性能。

相比不使用DPU，使用NVIDIA BlueField DPU卸載，可為近萬(wàn)臺(tái)服務(wù)器3年節(jié)省約5650萬(wàn)美元（近4億人民幣）的總體擁有成本。

▲將VMware ESX網(wǎng)絡(luò)功能卸載到DPU后的TCO計(jì)算結(jié)果，其中Redis工作負(fù)載最初運(yùn)行在1萬(wàn)臺(tái)服務(wù)器上，并支持每臺(tái)服務(wù)器每秒處理1400萬(wàn)個(gè)Redis事務(wù)（圖源：NVIDIA DPU能效白皮書）

面向大型科研項(xiàng)目，通過(guò)DPU加速通信，分子動(dòng)力學(xué)模型性能可提升20%，數(shù)據(jù)建模應(yīng)用實(shí)現(xiàn)26%的性能提升，天氣預(yù)告模型實(shí)現(xiàn)約24%的性能提升。即將走向市場(chǎng)的NVIDIA BlueField-3 DPU將支持400G帶寬，內(nèi)存平衡較上一代提升4倍。

▲DPU卸載和加速帶來(lái)的高性能計(jì)算性能優(yōu)勢(shì)（圖源：NVIDIA）

內(nèi)置NVIDIA BlueField DPU的NVIDIA Quantum InfiniBand網(wǎng)絡(luò)平臺(tái)，也已經(jīng)在超級(jí)計(jì)算領(lǐng)域功勛赫赫，并在全球超算榜單中展現(xiàn)出越來(lái)越高的存在感。以最新全球IO500高性能存儲(chǔ)網(wǎng)絡(luò)方案榜單為例，10節(jié)點(diǎn)測(cè)試中，前4名系統(tǒng)均采用NVIDIA Quantum InfiniBand網(wǎng)絡(luò)。

▲2022年11月全球IO500高性能存儲(chǔ)網(wǎng)絡(luò)方案榜單（圖源：NVIDIA）

04.

結(jié)語(yǔ)：釋放云的力量

奔赴新型數(shù)據(jù)中心未來(lái)

2020年秋季，當(dāng)“芯片圈知名帶貨王”NVIDIA首席執(zhí)行官黃仁勛在GTC大會(huì)上亮出DPU時(shí)，DPU對(duì)于不少云計(jì)算及超級(jí)計(jì)算從業(yè)者來(lái)說(shuō)還是一個(gè)新鮮但不確定有多大價(jià)值的新概念。

今天，再談起DPU，你也許會(huì)想起AWS Nitro，也許會(huì)想起阿里云CIPU，會(huì)想起英特爾IPU，抑或是這兩年突然涌起的DPU創(chuàng)業(yè)與投資熱潮。而引爆DPU概念的NVIDIA，已經(jīng)低調(diào)地將重心轉(zhuǎn)向部署，讓“第三顆主力芯片”真槍實(shí)彈地進(jìn)入一線數(shù)據(jù)中心客戶的真實(shí)業(yè)務(wù)戰(zhàn)場(chǎng)，作為云原生超級(jí)計(jì)算的靈魂，為數(shù)據(jù)中心展現(xiàn)新的架構(gòu)可能。

如今，DPU正呈“神仙打架”之勢(shì)，通過(guò)推動(dòng)網(wǎng)絡(luò)和計(jì)算架構(gòu)的創(chuàng)新，它將幫助大型數(shù)據(jù)中心的建設(shè)者們穿越周期，奔赴一個(gè)高計(jì)算密度、智能集約、綠色低碳、安全可靠的數(shù)據(jù)中心未來(lái)。

審核編輯 ：李倩