NVIDIA 近日宣布,三家頭部系統(tǒng)制造商將率先在其服務(wù)器產(chǎn)品陣容中集成專為 AI 量身定制的 NVIDIA Spectrum-X 以太網(wǎng)絡(luò)技術(shù),幫助企業(yè)客戶加速生成式 AI 業(yè)務(wù)。
Spectrum-X 專為生成式 AI 量身定制,為企業(yè)提供了一種全新的以太網(wǎng)絡(luò),相較傳統(tǒng)以太網(wǎng)方案,其 AI 通信網(wǎng)絡(luò)性能提高了 1.6 倍。
這三家頭部系統(tǒng)制造商的新系統(tǒng),整合了 Spectrum-X 與 NVIDIA Tensor Core GPU、NVIDIA AI Enterprise 軟件和 NVIDIA AI Workbench 軟件,為企業(yè)通過生成式 AI 來實(shí)現(xiàn)業(yè)務(wù)轉(zhuǎn)型奠定了基礎(chǔ)。
NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛表示:“生成式 AI 和加速計(jì)算正在推動新一代的業(yè)務(wù)轉(zhuǎn)型,企業(yè)需要升級其數(shù)據(jù)中心來滿足新型業(yè)務(wù)的需求。加速網(wǎng)絡(luò)就是 NVIDIA 的頭部服務(wù)器制造商合作伙伴推出新一代系統(tǒng)的催化劑,加快他們邁向生成式 AI 新時(shí)代?!?/p>
專門用于加速 AI 的網(wǎng)絡(luò)
為實(shí)現(xiàn) AI 業(yè)務(wù)的出色效率,Spectrum-X 集性能優(yōu)異的 Spectrum-4 以太網(wǎng)交換機(jī)、NVIDIA BlueField-3 SuperNIC(一款可以大幅提升超大規(guī)模 AI 業(yè)務(wù)性能的新型網(wǎng)絡(luò)加速器)以及多種加速軟件于一體。領(lǐng)先的基礎(chǔ)設(shè)施計(jì)算平臺 —— NVIDIA BlueField-3 DPU 就屬于 Spectrum-X 的一部分。
Spectrum-4 是專門面向 AI 的 51Tb/sec 以太網(wǎng)交換機(jī),可在大規(guī)模、滿負(fù)荷的場景下提供較高的數(shù)據(jù)吞吐量,同時(shí)在 AI 云業(yè)務(wù)的多租戶場景下將網(wǎng)絡(luò)擁塞降低,其智能的、基于微調(diào)的路由技術(shù)可以保障網(wǎng)絡(luò)基礎(chǔ)設(shè)施的利用率。
BlueField-3 SuperNIC 專為網(wǎng)絡(luò)密集型的大規(guī)模并行計(jì)算而設(shè)計(jì),可在 GPU 服務(wù)器之間提供高達(dá) 400Gb/s 的 RDMA(RoCE - RDMA over Converged Ethernet)網(wǎng)絡(luò)連接,大幅提升了集群內(nèi)部基于東西網(wǎng)絡(luò)流量的 AI 訓(xùn)練和推理性能,還能實(shí)現(xiàn)多租戶數(shù)據(jù)中心環(huán)境的安全隔離,確保租戶業(yè)務(wù)的可預(yù)測性和性能隔離。BlueField-3 SuperNIC 基于低功耗、半高半長的 PCIe 規(guī)格設(shè)計(jì),是企業(yè)級服務(wù)器的理想選擇。
NVIDIA 加速軟件包括 Cumulus Linux、SONiC 和 NetQ 三者組成的性能優(yōu)異的 Spectrum-X 軟件開發(fā)套件,以及作為 BlueField 核心的 NVIDIA DOCA 軟件框架。
NVIDIA AI Enterprise 為安全、穩(wěn)定和已經(jīng)支持的生產(chǎn)級 AI 業(yè)務(wù)提供了框架、預(yù)訓(xùn)練模型和開發(fā)工具。NVIDIA AI Workbench 使開發(fā)者能夠在 PC 或工作站上快速創(chuàng)建、測試和自定義預(yù)訓(xùn)練生成式 AI 模型,然后將其擴(kuò)展至幾乎任何數(shù)據(jù)中心或云。
搭載 Spectrum-X 的 NVIDIA 超級計(jì)算機(jī)
NVIDIA 自己的一臺超級計(jì)算機(jī)就在使用 Spectrum-X,這也是新一代 AI 系統(tǒng)的參考架構(gòu)。該超級計(jì)算機(jī)由 NVIDIA 與戴爾科技聯(lián)合開發(fā),使用了基于 8 卡 NVIDIA Hopper GPU 的 HGX 平臺和 BlueField-3 DPU 及 SuperNIC 的 Dell PowerEdge XE9680 服務(wù)器,并通過 Spectrum-4 交換機(jī)組成了集群系統(tǒng)。
審核編輯:劉清
-
以太網(wǎng)
+關(guān)注
關(guān)注
41文章
5929瀏覽量
179600 -
NVIDIA
+關(guān)注
關(guān)注
14文章
5498瀏覽量
109119 -
gpu
+關(guān)注
關(guān)注
28文章
5102瀏覽量
134487 -
交換機(jī)
+關(guān)注
關(guān)注
23文章
2874瀏覽量
103959 -
RDMA
+關(guān)注
關(guān)注
0文章
86瀏覽量
9561
原文標(biāo)題:NVIDIA 全新 AI 以太網(wǎng)絡(luò)平臺大幅提升 AI 云性能
文章出處:【微信號:Leadtek,微信公眾號:麗臺科技】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
NVIDIA擴(kuò)大與微軟合作推動AI超級工廠建設(shè)
NVIDIA Spectrum-X 以太網(wǎng)交換機(jī)助力 Meta 和 Oracle 加速網(wǎng)絡(luò)性能
NVIDIA推出Spectrum-XGS以太網(wǎng)技術(shù)
睿海光電以高效交付與廣泛兼容助力AI數(shù)據(jù)中心800G光模塊升級
信而泰×DeepSeek:AI推理引擎驅(qū)動網(wǎng)絡(luò)智能診斷邁向 “自愈”時(shí)代
AI網(wǎng)絡(luò)管理新范式:精要解讀超以太網(wǎng)聯(lián)盟(UEC)1.0 規(guī)范(2025Q2)
全球各大品牌利用NVIDIA AI技術(shù)提升運(yùn)營效率
NVIDIA計(jì)劃打造全球首個(gè)工業(yè)AI云平臺
首創(chuàng)開源架構(gòu),天璣AI開發(fā)套件讓端側(cè)AI模型接入得心應(yīng)手
適用于數(shù)據(jù)中心和AI時(shí)代的800G網(wǎng)絡(luò)
英特爾以太網(wǎng)新品:高性能與能效并重,帶來多樣化選擇
英特爾推出具備高性能和能效的以太網(wǎng)解決方案

NVIDIA全新AI以太網(wǎng)絡(luò)平臺大幅提升AI云性能
評論