主流應(yīng)用在運行微服務(wù)、分析、模擬等工作時的能耗相比 X86 減少了 2 倍。

各項結(jié)果都表明，一個節(jié)能計算的新時代正在到來。

在真實工作負載測試中，NVIDIA Grace CPU 超級芯片在相同的功率范圍內(nèi)運行主流數(shù)據(jù)中心 CPU 應(yīng)用的性能比 X86 處理器提高了 2 倍，這將帶來許多新的可能性。

這意味著數(shù)據(jù)中心可以處理兩倍的峰值流量并減少多達一半的電費。它們還可以在空間有限的網(wǎng)絡(luò)邊緣實現(xiàn)更大的性能，甚至可以同時實現(xiàn)上述優(yōu)勢。

節(jié)能已成為數(shù)據(jù)中心的優(yōu)先事項

數(shù)據(jù)中心經(jīng)理需要依靠這些方案在當今這個節(jié)能時代中快速發(fā)展。

摩爾定律實際上已經(jīng)過時。物理學不再允許工程師在保持空間和功耗不變的情況下加入更多的晶體管。

這就是為什么新一代 X86 CPU 的性能提升相比前一代產(chǎn)品還不到 30%”，這也是為什么越來越多的數(shù)據(jù)中心設(shè)置了功率上限。

再加上全球氣候變暖的威脅，數(shù)據(jù)中心電力供應(yīng)已經(jīng)沒有增容的余地，但它們?nèi)匀恍枰獫M足不斷增長的算力需求。

在保持功耗不變的情況下提高性能

麥肯錫的一項研究顯示，美國的計算需求每年增長 10%，并將在 2022 至 2030 年的八年內(nèi)翻倍。

麥肯錫表示：“因此，確保數(shù)據(jù)中心可持續(xù)性的壓力很大，一些監(jiān)管機構(gòu)和政府正在對新建的數(shù)據(jù)中心推行可持續(xù)性標準?！?/p>

根據(jù)麥肯錫所引用的一項調(diào)查，隨著摩爾定律的終結(jié)，數(shù)據(jù)中心在計算效率上的進展已停滯不前（見下圖）。

在當今的環(huán)境下，NVIDIA Grace 所實現(xiàn)的 2 倍提升等于實現(xiàn)了驚人的多代飛躍，符合當今數(shù)據(jù)中心高管的需求。

全球服務(wù)商 Equinix 管理著 240 多座數(shù)據(jù)中心。該公司的邊緣基礎(chǔ)設(shè)施負責人 Zac Smith 在一篇關(guān)于節(jié)能計算的文章中描述了這些需求。

“我們需要在減少碳排放的前提下提高性能。”Zac 表示：“我們有 1 萬家客戶指望我們在這個過程中提供幫助。他們需要更多的數(shù)據(jù)和更高的智能化水平，而且往往要求使用 AI。另外，他們希望以可持續(xù)的方式來實現(xiàn)這一目標?！?/p>

三項 CPU 創(chuàng)新

得益于三項創(chuàng)新，Grace CPU 提供了高效性能。

它在一塊對分帶寬（一項吞吐量指標）為 3.2 TB/s 的裸芯片中使用一種超快的結(jié)構(gòu)將 72 個 Arm Neoverse V2 核心連接在一起，然后使用 NVIDIA NVLink-C2C 互連技術(shù)在一個超級芯片封裝中連接其中的兩塊裸片，實現(xiàn) 900GB/s 的帶寬。

最后，它是第一個使用服務(wù)器級 LPDDR5X 內(nèi)存的數(shù)據(jù)中心 CPU。這幫助它在成本相仿的情況下增加了高達 50%的內(nèi)存帶寬，且功耗只有常規(guī)服務(wù)器內(nèi)存的八分之一。緊湊的尺寸使其密度比典型的卡式內(nèi)存設(shè)計增加了 2 倍。

與現(xiàn)有的 x86 CPU 相比，NVIDIA Grace 的設(shè)計更加簡單，提供更高的帶寬，而且能耗更低。

首批結(jié)果揭曉

現(xiàn)今，NVIDIA 工程師在 Grace 上運行了真實的數(shù)據(jù)中心工作負載。

他們發(fā)現(xiàn)，在相同的功率下，相比數(shù)據(jù)中心現(xiàn)有的 x86 CPU，Grace 更具優(yōu)勢：

• 運行微服務(wù)的速度快 2.3 倍

• 內(nèi)存密集型數(shù)據(jù)處理性能快 2 倍

• 在多個技術(shù)計算應(yīng)用上運行流體力學計算工作時，速度快 1.9 倍

如下圖所示，數(shù)據(jù)中心通常需要等到兩代或兩代以上的 CPU 才能獲得以上優(yōu)勢。

凈提升（淺綠色）來自于服務(wù)器間的性能提升（深綠色）以及附加的 Grace 服務(wù)器。憑借節(jié)能性，Grace 服務(wù)器適用于這一 x86 功率范圍（中間條）。

甚至在這些 CPU 工作結(jié)果出爐之前，用戶就對 Grace 的創(chuàng)新做出了反應(yīng)。

美國洛斯阿拉莫斯國家實驗室在 5 月宣布將在 Venado 中使用 Grace。這臺 10 EXAFLOP AI 超級計算機將推動該實驗室在材料科學和可再生能源等領(lǐng)域的工作。同時，歐洲和亞洲的數(shù)據(jù)中心正在評估 Grace 的工作負載。

NVIDIA Grace 目前正在提供樣品，將在下半年投入生產(chǎn)。華碩、Atos、技嘉、慧與、高通、超微、緯創(chuàng)和 ZT Systems 正在建造使用該產(chǎn)品的服務(wù)器。

深入了解可持續(xù)計算

想要深入了解細節(jié)，掃描二維碼閱讀關(guān)于 Grace 架構(gòu)的白皮書。

? ? ?

3 月 24 日 下午 14：00-16：00，繼續(xù)鎖定 GTC23，加入在線觀看（Watch Party） 派對，從黃仁勛與 OpenAI 創(chuàng)始人兼首席科學家高能對話中，看 AI 的現(xiàn)狀和未來！

Watch Party 觀看指南

會議開始前 15 分鐘，

點擊下方出現(xiàn)的“JOIN WATCH PARTY NOW"

進入 Teams 會議室觀看

3 月 24 日 熱門觀看派對推薦： 【爐邊談話：看 AI 的現(xiàn)狀和未來】 會議時間：14：00 - 16：00 會議代碼：【W(wǎng)P52092】點擊下方鏈接了解會議詳情： GTC23 | 黃仁勛與 Ilya Sutskever 的爐邊談話重磅來襲！— 看 AI 的現(xiàn)狀和未來 【通過 AI 職業(yè)生涯改變世界】 會議時間：19:30 - 21:30 會議代碼：【W(wǎng)P52162】 點擊下方鏈接了解會議詳情 ： GTC23 | 科學計算精選論壇中文解讀誠邀您的到來！