加速網(wǎng)絡(luò)將 CPU、GPU、DPU（數(shù)據(jù)處理器）或 SuperNIC 組合到專為設(shè)計(jì)用于優(yōu)化網(wǎng)絡(luò)工作負(fù)載的加速計(jì)算網(wǎng)絡(luò)架構(gòu)。它使用專用硬件來(lái)卸載要求嚴(yán)苛的任務(wù)，以增強(qiáng)服務(wù)器功能。隨著 AI 和其他新工作負(fù)載的復(fù)雜性和規(guī)模不斷增加，對(duì)加速網(wǎng)絡(luò)的需求變得至關(guān)重要。

數(shù)據(jù)中心作為新的計(jì)算單元，隨著網(wǎng)絡(luò)服務(wù)對(duì) CPU 壓力的增加，現(xiàn)代工作負(fù)載對(duì)網(wǎng)絡(luò)基礎(chǔ)設(shè)施提出了新的挑戰(zhàn)。網(wǎng)絡(luò)基礎(chǔ)設(shè)施需要具備敏捷性、自動(dòng)化和可編程性的框架，并配備加速器和卸載功能，這些是充分發(fā)揮人工智能技術(shù)潛力和推動(dòng)創(chuàng)新的關(guān)鍵。

本文將探討加速網(wǎng)絡(luò)技術(shù)在數(shù)據(jù)中心中的優(yōu)勢(shì)和實(shí)施策略，并重點(diǎn)介紹其在提升性能、可擴(kuò)展性和效率方面的作用。

加速您的網(wǎng)絡(luò)

網(wǎng)絡(luò)加速需要優(yōu)化網(wǎng)絡(luò)的各個(gè)方面，包括處理器、網(wǎng)卡（NIC）、交換機(jī)、線纜、光纖通信和網(wǎng)絡(luò)加速軟件。利用無(wú)損網(wǎng)絡(luò)、遠(yuǎn)程直接內(nèi)存訪問(wèn)（RDMA）、動(dòng)態(tài)路由、擁塞控制、性能隔離和網(wǎng)絡(luò)計(jì)算，將幫助企業(yè)充分發(fā)揮現(xiàn)代應(yīng)用程序（包括 AI）的潛力。

通過(guò)合理控制數(shù)據(jù)注入速率，可以顯著提高共享網(wǎng)絡(luò)的效率。在處理大規(guī)模數(shù)據(jù)流時(shí)，實(shí)施動(dòng)態(tài)路由算法的以太網(wǎng)交換機(jī)能夠動(dòng)態(tài)負(fù)載均衡整個(gè)網(wǎng)絡(luò)中的數(shù)據(jù)，避免擁塞并降低延遲。交換機(jī)的多路徑和數(shù)據(jù)包分發(fā)技術(shù)可以進(jìn)一步提升網(wǎng)絡(luò)效率，確保數(shù)據(jù)及時(shí)到達(dá)，并最大程度減少瓶頸。這些技術(shù)有助于防止交換機(jī)與 NIC 或 DPU 之間的數(shù)據(jù)沖突，而流量隔離技術(shù)通過(guò)防止一個(gè)數(shù)據(jù)流對(duì)其他數(shù)據(jù)流產(chǎn)生負(fù)面影響，從而確保數(shù)據(jù)的及時(shí)交付。

另一種優(yōu)化技術(shù)是部署 SuperNIC 和 DPU。SuperNIC 是一種適用于 AI 云數(shù)據(jù)中心的網(wǎng)絡(luò)加速器，可在 GPU 服務(wù)器之間提供可靠、無(wú)縫的連接。DPU 是一種新興的處理器類別，可實(shí)現(xiàn)增強(qiáng)、加速的網(wǎng)絡(luò)。在 SuperNIC 和 DPU 的幫助下，可以從主機(jī)處理器中卸載工作負(fù)載，以加速通信，從而使數(shù)據(jù)中心能夠應(yīng)對(duì)不斷增長(zhǎng)的數(shù)據(jù)移動(dòng)需求。

要實(shí)現(xiàn)加速網(wǎng)絡(luò)，請(qǐng)考慮以下技術(shù)。

加速服務(wù)

工作負(fù)載經(jīng)歷了重大的范式轉(zhuǎn)變，過(guò)渡到去中心化，通過(guò)容器和微分段分割工作負(fù)載。這導(dǎo)致服務(wù)器之間的網(wǎng)絡(luò)帶寬（東西向流量)大幅增加。

AI 工作負(fù)載是一個(gè)分布式計(jì)算問(wèn)題，需要使用多個(gè)互連的服務(wù)器或節(jié)點(diǎn)。這會(huì)給網(wǎng)絡(luò)和 CPU 帶來(lái)巨大壓力。工作負(fù)載的去中心化需要重新檢查網(wǎng)絡(luò)基礎(chǔ)設(shè)施，從而通過(guò)添加加速器使 CPU 和 GPU 擺脫處理網(wǎng)絡(luò)、存儲(chǔ)和安全服務(wù)的負(fù)擔(dān)。這使得 CPU 能夠?qū)Ｗ⒂趹?yīng)用程序工作負(fù)載。加速可確保這些節(jié)點(diǎn)之間的高速、低時(shí)延數(shù)據(jù)傳輸，并實(shí)現(xiàn)高效的工作負(fù)載分配和更快的模型訓(xùn)練。

網(wǎng)絡(luò)抽象

向高度虛擬化數(shù)據(jù)中心和云模型的轉(zhuǎn)變正在給傳統(tǒng)網(wǎng)絡(luò)帶來(lái)壓力。傳統(tǒng)數(shù)據(jù)中心網(wǎng)絡(luò)的設(shè)計(jì)并不是為了支持當(dāng)今虛擬化工作負(fù)載的動(dòng)態(tài)特性。網(wǎng)絡(luò)抽象（包括網(wǎng)絡(luò)疊加）可以在物理網(wǎng)絡(luò)之上運(yùn)行多個(gè)獨(dú)立的、分離的虛擬化網(wǎng)絡(luò)層。這些對(duì)于提供靈活性、擴(kuò)展性和加速至關(guān)重要。但是，如果實(shí)施不當(dāng)，它們可能會(huì)阻礙網(wǎng)絡(luò)流量。

網(wǎng)絡(luò)優(yōu)化

收集和處理的大量數(shù)據(jù)已將工作負(fù)載推向以數(shù)據(jù)為中心的時(shí)代。大型數(shù)據(jù)集的可用性與機(jī)器學(xué)習(xí)和生成式 AI 等技術(shù)進(jìn)步相結(jié)合，增加了對(duì)更多數(shù)據(jù)的需求，以滿足學(xué)習(xí)算法的需求。這種數(shù)據(jù)爆炸式增長(zhǎng)的后果是需要移動(dòng)、處理、檢索和存儲(chǔ)大型數(shù)據(jù)集。

無(wú)損網(wǎng)絡(luò)可以保證準(zhǔn)確的數(shù)據(jù)傳輸，而不會(huì)造成任何丟失或損壞，對(duì)于移動(dòng)、處理、檢索和存儲(chǔ)這些大型數(shù)據(jù)集至關(guān)重要。RDMA 技術(shù)通過(guò)在不涉及 CPU 的情況下實(shí)現(xiàn)內(nèi)存位置之間的直接數(shù)據(jù)傳輸來(lái)提高網(wǎng)絡(luò)性能。無(wú)損網(wǎng)絡(luò)和 RDMA 的結(jié)合可以優(yōu)化數(shù)據(jù)傳輸效率，減少 CPU 和 GPU 空閑時(shí)間，從而實(shí)現(xiàn)高效的數(shù)據(jù)移動(dòng)，以滿足現(xiàn)代應(yīng)用程序的需求。

端到端堆棧優(yōu)化

現(xiàn)代工作負(fù)載具有獨(dú)特的網(wǎng)絡(luò)流量模式。傳統(tǒng)工作負(fù)載生成的流量模式具有多流、小數(shù)據(jù)包和低方差?，F(xiàn)代應(yīng)用程序的流量涉及大數(shù)據(jù)包、少量流和高方差，包括大象流和流量模式的頻繁變化。

動(dòng)態(tài)路由算法用于動(dòng)態(tài)負(fù)載均衡在整個(gè)網(wǎng)絡(luò)中的數(shù)據(jù)，從而防止這些新流量模式的擁塞和高時(shí)延。顯式擁塞通知（ECN）等擁塞控制機(jī)制還可確保高效的數(shù)據(jù)流并最大限度地減少性能下降。為此，必須使用優(yōu)化的端到端堆棧來(lái)構(gòu)建網(wǎng)絡(luò)，以加速新的流量模式。

網(wǎng)絡(luò)計(jì)算

現(xiàn)代工作負(fù)載的大型數(shù)據(jù)集需要對(duì)高度并行化的算法進(jìn)行超快速處理，這使其更加復(fù)雜。隨著計(jì)算需求的增加，網(wǎng)絡(luò)計(jì)算通過(guò)提供基于硬件的集合通信操作加速，有效地將集合操作從 CPU 卸載到網(wǎng)絡(luò)。這一功能顯著提高了分布式 AI 模型訓(xùn)練的性能，減少了通信開(kāi)銷，并加速了模型收斂。從而消除了在端點(diǎn)之間多次發(fā)送數(shù)據(jù)的需求，并加速了網(wǎng)絡(luò)性能。

網(wǎng)絡(luò)加速可降低 CPU 利用率，為 CPU 處理應(yīng)用程序工作負(fù)載留出更多容量。它還可以減少抖動(dòng)以改善數(shù)據(jù)流，并提供更高的整體吞吐量，從而更快地處理更多數(shù)據(jù)。

總 結(jié)

網(wǎng)絡(luò)加速技術(shù)不斷發(fā)展，并變得更加專業(yè)。最新的演進(jìn)將解決 AI 工作負(fù)載問(wèn)題，這些工作負(fù)載需要一致、可預(yù)測(cè)的性能以及能夠運(yùn)行多租戶環(huán)境的計(jì)算和能效。

審核編輯：黃飛