在過去十年中，云計算每年增長20%，成為了價值1萬億美元的巨大行業(yè)大約3000萬臺CPU服務(wù)器完成大部分處理工作，另外，減少碳排放這任務(wù)從根本上與增加數(shù)據(jù)中心的需求相悖，未經(jīng)過加速的工作負(fù)載都將會在CPU上進(jìn)行處理在AI和云服務(wù)中。

在GTC 2023開發(fā)者大會上，英偉達(dá)向我們介紹了關(guān)于他在云計算領(lǐng)域的三個大動作。

首先，英偉達(dá)與微軟Azure、Google GCP和Oracle OCI三家云廠商合作推出了NVIDIA DGX Cloud。NVIDIA DGX Cloud是一項(xiàng)人工智能超級計算服務(wù)，它可以讓企業(yè)快速訪問為生成式人工智能和其他開創(chuàng)性應(yīng)用訓(xùn)練高級模型所需的基礎(chǔ)設(shè)施和軟件。通過一個瀏覽器，客戶就可以將英偉達(dá)DGX AI超級計算機(jī)實(shí)時接入公司。

其次，面向具有構(gòu)建、優(yōu)化和運(yùn)營定制大語言模型和生成式AI需求的客戶，英偉達(dá)推出云服務(wù)NVIDIA AI Foundations，提供語言、數(shù)據(jù)和生物學(xué)模型的定制服務(wù)。

同時，針對ChatGPT等大語言模型的推理訓(xùn)練，英偉達(dá)推出了新的GPU H100。H100配備有94GB HBM3的顯存，可以支持參數(shù)規(guī)模達(dá)到1750億的GPT-3，并將大語言模型的處理成本降低一個數(shù)量級。

NVIDIA DGX Cloud將透過多個云端服務(wù)供應(yīng)商提供，微軟Azure預(yù)計于下一季起托管DGX Cloud服務(wù)，包括Google Cloud等業(yè)者也將陸續(xù)開始供應(yīng)服務(wù)，DGX Cloud執(zhí)行個體價格為每個執(zhí)行個體每月36，999美金起。

每個DGX Cloud執(zhí)行個體皆有8個NVIDIA H100或NVIDIA A100 80GB Tensor GPU，單一節(jié)點(diǎn)具備640GB 的GPU記憶體，并透過NVIDIA Networking技術(shù)提供高效能、低延遲網(wǎng)路，使多個執(zhí)行個體等同一個超大型GPU。

文章綜合和訊 、格隆匯APP、CNMO手機(jī)中國