Scale-up網(wǎng)絡是以推理的大顯存并行計算流量和訓練的張量并行(TP)以及專家并行(MoE)流量為主，來滿足在網(wǎng)計算的加速需求。據(jù)相關大模型廠商介紹，對Scale-up網(wǎng)絡規(guī)模的需求預計在未來2-3年還要擴大2到3倍以上。在MoE模型的驅動下，Scale-up的部署趨勢將超出單個服務器機架的范圍。

面對其對互聯(lián)性能的極致追求，目前業(yè)內主要采用專門設計的協(xié)議比如NVIDIA的NVlink及NVSwitch技術。然而，這些基于私有協(xié)議的技術不僅成本高昂，且不對外開放。為了打破這一局面，AI網(wǎng)絡產(chǎn)業(yè)鏈在近期共同發(fā)起了UALink 加速器互聯(lián)協(xié)議聯(lián)盟，旨在推動AI網(wǎng)絡Scale-up互聯(lián)的創(chuàng)新技術發(fā)展。

奇異摩爾榮幸宣布加入UALink(Ultra Accelerator Link ) 加速器間互聯(lián)協(xié)議聯(lián)盟，憑借其在互聯(lián)領域的豐富積累，為GPU卡間的高效互聯(lián)貢獻技術力量，攜手生態(tài)開啟AI網(wǎng)絡的新篇章。

關于UALink聯(lián)盟

Ultra Accelerator Link (UALink) 是一種高速、縱向擴展的加速器互聯(lián)技術，可提升下一代 AI 網(wǎng)絡的性能。UALink 1.0 規(guī)范將為 AI Pod 中多達 1024 個加速器的每通道擴展連接實現(xiàn)高達 200Gbps 的擴展連接。該規(guī)范于今年向 Contributor 成員開放，并在 2025 年第一季度供一般審查。

UALink主要特點

1通過行業(yè)標準協(xié)議在加速卡之間實現(xiàn)高效通信

2更靈活地擴大Pod中加速卡的數(shù)量

3優(yōu)化當前和未來計算密集型工作負載所需的性能

4與Scale-out 相關標準兼容如UEC

UALink的開源性質鼓勵了AI網(wǎng)絡產(chǎn)業(yè)鏈的協(xié)同開發(fā)模式，摒棄專有系統(tǒng)不僅催生了創(chuàng)新，還加速了技術的廣泛采納與持續(xù)優(yōu)化。 UALink的核心價值不止于作為NVLink的替代選項，它更在于為各類企業(yè)，無論是巨頭，還是中小型企業(yè)，如奇異摩爾般的Chiplet&互聯(lián)企業(yè)可以憑借在互聯(lián)領域的專長，為聯(lián)盟的互聯(lián)技術進步貢獻力量，并在這一開放體系中實現(xiàn)技術成果的最大化。

UALink如何在中國市場落地

作為國際互聯(lián)系統(tǒng)開發(fā)標準，UALink在落地過程中需要覆蓋多個產(chǎn)業(yè)環(huán)節(jié)，因此成員涵蓋了芯片制造商、交換機提供商、服務器提供商等整個產(chǎn)業(yè)鏈的關鍵角色。然而，由于AI大模型產(chǎn)業(yè)在國內具備本土特色，因此UALink如何在中國市順利落地，也面臨著挑戰(zhàn)。

為了打造一個原生支持AI場景的Scale-up開放生態(tài)系統(tǒng)，阿里云在今年9月倡議并牽頭成立了ALS(ALink System，加速器互連系統(tǒng))開放生態(tài)系統(tǒng)，依托于ODCC(開放數(shù)據(jù)中心委員會)，解決Scale-up互連系統(tǒng)的行業(yè)發(fā)展規(guī)范問題。ALS系統(tǒng)生態(tài)也是首個兼容UALink的國內生態(tài)標準體系。

奇異摩爾作為ALS系統(tǒng)的核心成員之一通過加入ALS與UALink互聯(lián)系統(tǒng)聯(lián)盟，有效融合國際標準與國內AI產(chǎn)業(yè)鏈生態(tài)，進一步推動產(chǎn)品應用的本土化實施與落地。

UEC與UALink并駕齊驅

AI網(wǎng)絡生態(tài)的建立正在逐步完善中;UEC超以太聯(lián)盟即將在2025年第一季度推出1.0標準版本，這與UALink的首個標準版本發(fā)布時間相近。這兩個聯(lián)盟雖然各自獨立，但成員之間存在著較高的重疊，這為行業(yè)內的技術融合和創(chuàng)新提供了良好的基礎。

這還意味著生態(tài)成員們在Scale-out互聯(lián)層面可以利用UEC標準成就北向網(wǎng)絡更大規(guī)模集群的擴展，在Scale-up互聯(lián)層面可以利用UALink來實現(xiàn)南向網(wǎng)絡更高效的GPU加速卡間通信。不謀而合的是，這些生態(tài)標準的基礎正是以太網(wǎng)。以太網(wǎng)擁有最成熟的生態(tài)無論是國際還是國內。

復用以太網(wǎng)生態(tài)，與產(chǎn)業(yè)鏈的上下游兼容適配是奇異摩爾正在踐行的。正如特斯拉使用了私有的TTPoE協(xié)議 ，在保持與標準以太網(wǎng)基礎設施兼容的同時實現(xiàn)了片內/片間/網(wǎng)間的統(tǒng)一互聯(lián)。 AI網(wǎng)絡的終點是三網(wǎng)融合，這一愿景的實現(xiàn)，依賴于行業(yè)內每一個參與者的共同努力。隨著技術標準的逐步成熟，AI網(wǎng)絡的新篇章正在緩緩揭開序幕。

關于我們

AI網(wǎng)絡全棧式互聯(lián)架構產(chǎn)品及解決方案提供商

奇異摩爾，成立于2021年初，是一家行業(yè)領先的AI網(wǎng)絡全棧式互聯(lián)產(chǎn)品及解決方案提供商。公司依托于先進的高性能RDMA 和Chiplet技術，創(chuàng)新性地構建了統(tǒng)一互聯(lián)架構——Kiwi Fabric，專為超大規(guī)模AI計算平臺量身打造，以滿足其對高性能互聯(lián)的嚴苛需求。

我們的產(chǎn)品線豐富而全面，涵蓋了面向不同層次互聯(lián)需求的關鍵產(chǎn)品，如面向北向Scale out網(wǎng)絡的AI原生智能網(wǎng)卡、面向南向Scale up網(wǎng)絡的GPU片間互聯(lián)芯粒、以及面向芯片內算力擴展的2.5D/3D IO Die和UCIe Die2Die IP等。這些產(chǎn)品共同構成了全鏈路互聯(lián)解決方案，為AI計算提供了堅實的支撐。

奇異摩爾的核心團隊匯聚了來自全球半導體行業(yè)巨頭如NXP、Intel、Broadcom等公司的精英，他們憑借豐富的AI互聯(lián)產(chǎn)品研發(fā)和管理經(jīng)驗，致力于推動技術創(chuàng)新和業(yè)務發(fā)展。團隊擁有超過50個高性能網(wǎng)絡及Chiplet量產(chǎn)項目的經(jīng)驗，為公司的產(chǎn)品和服務提供了強有力的技術保障。我們的使命是支持一個更具創(chuàng)造力的芯世界，愿景是讓計算變得簡單。奇異摩爾以創(chuàng)新為驅動力，技術探索新場景，生態(tài)構建新的半導體格局，為高性能AI計算奠定穩(wěn)固的基石。