中國打造全球最棒的開源模型

AI大模型的軍備賽每天都在上演，近期Kimi發(fā)布的K2模型再次引發(fā)全球關(guān)注。相關(guān)專業(yè)機(jī)構(gòu)評價(jià)K2是至今最好的開源權(quán)重模型。DeepSeek年初的開源對整個(gè)AI產(chǎn)業(yè)來說是一個(gè)歷史轉(zhuǎn)折點(diǎn)，開源模型不僅是一種策略，更是推動(dòng)行業(yè)持續(xù)迭代，快速創(chuàng)新的一種打法。另外，MoE架構(gòu)今年成為模型設(shè)計(jì)的主流，隨著對大規(guī)模部署和低延遲需求的增長，人們會(huì)越來越關(guān)心推理效率和模型的推理能力。

離開硬件的算法研究已成為過去

脫離硬件的純粹算法研究，正逐漸失去關(guān)注度，尤其是在LLM領(lǐng)域。如果一項(xiàng)技術(shù)無法規(guī)模化，或者不能被高效地部署，那它就很難形成勢能落地。一個(gè)算法不僅要在理論上站得住腳，還必須在硬件上——尤其是在GPU這類加速器上高效運(yùn)行。如今的算法研究者們需要熟悉基本的硬件原理，比如并行計(jì)算（parallelism）、共享內(nèi)存（shared memory）等一系列原理。MoE混合架構(gòu)目前的瓶頸在于基礎(chǔ)設(shè)施。混合模型的有效性在今年都已經(jīng)得到了很好的驗(yàn)證，當(dāng)前算法層面趨于穩(wěn)定的情況下，行業(yè)正專注于為這些新機(jī)制構(gòu)建好的AI基礎(chǔ)設(shè)施。

以算力為中心演進(jìn)到以互聯(lián)為中心

AI網(wǎng)絡(luò)正從算力為中心演變?yōu)橐曰ヂ?lián)為中心。英偉達(dá)率先洞察到僅靠強(qiáng)大的GPU算力遠(yuǎn)遠(yuǎn)不夠支持AI發(fā)展的未來。未來的前沿AI模型訓(xùn)練將高度依賴GPU之間的高效互連，網(wǎng)絡(luò)躍升成為與處理器同等重要的關(guān)鍵環(huán)節(jié)，而優(yōu)化這一網(wǎng)絡(luò)需要英偉達(dá)在AI訓(xùn)練領(lǐng)域賴以稱霸的“全棧整合”能力。 2020年英偉達(dá)收購了一家以色列網(wǎng)絡(luò)互聯(lián)企業(yè)Mellanox，全面獲取AI網(wǎng)絡(luò)的互聯(lián)能力，包括交換機(jī)，光模塊等一系列網(wǎng)絡(luò)互聯(lián)硬件。2023年，英偉達(dá)在計(jì)算上實(shí)現(xiàn)了創(chuàng)新突破，GH200通過一種NVLINK C2C把GPU和CPU在PCBA板上互聯(lián)，加速推進(jìn)CPU和GPU異構(gòu)計(jì)算技術(shù)。2024年，英偉達(dá)第一次使用Chiplet芯粒技術(shù)推出了B200芯片并通過與Grace CPU結(jié)合，形成GB200超級芯片（Superchip），進(jìn)一步擴(kuò)展計(jì)算能力。如今，英偉達(dá)已經(jīng)徹底從一家GPU芯片公司轉(zhuǎn)變?yōu)榇蛟霢I工廠的巨頭。

Scale Out

Scale Out網(wǎng)絡(luò)已經(jīng)從封閉走向開放，從去年的IB和以太網(wǎng)RDMA之爭走向以以太網(wǎng)為相對主流的智算網(wǎng)絡(luò)生態(tài)。傳統(tǒng)以太網(wǎng)在大規(guī)模網(wǎng)絡(luò)的負(fù)載均衡機(jī)制以及流控機(jī)制與AI集合通信流量形態(tài)不匹配，應(yīng)用效果不佳。由此引發(fā)的延遲、丟包、網(wǎng)絡(luò)擁塞等有損網(wǎng)絡(luò)問題頻發(fā)。如今，經(jīng)過產(chǎn)業(yè)界的共同努力，隨著UEC，中國移動(dòng)GSE等國內(nèi)外標(biāo)準(zhǔn)的推出，Scale Out網(wǎng)絡(luò)的技術(shù)路線逐步明確，通過優(yōu)化端網(wǎng)協(xié)同，自適應(yīng)路由等一系列創(chuàng)新網(wǎng)絡(luò)控制技術(shù)得以支持萬卡至十萬卡以上的大規(guī)模集群高速互聯(lián)。

Scale Up

Scale Up網(wǎng)絡(luò)技術(shù)路線從去年的百花齊放到逐步形成部分共識(shí)，以UALink、博通Sue協(xié)議、中國移動(dòng)OISA等為代表的開放生態(tài)方案正在加速落地，共同推動(dòng)超節(jié)點(diǎn)架構(gòu)從概念走向?qū)嵺`。一個(gè)高效的Scale Up智算網(wǎng)絡(luò)需要具備高性能、超低延時(shí)、多語義支持、在網(wǎng)計(jì)算以及基于統(tǒng)一協(xié)議開源生態(tài)等核心特征。

與此同時(shí)，業(yè)界如DeepSeek的領(lǐng)先AI企業(yè)也在期盼Scale Out和Scale Up網(wǎng)絡(luò)的進(jìn)一步深度融合，構(gòu)建具備大規(guī)模拓展能力又具備單節(jié)點(diǎn)極致性能的強(qiáng)大算力底座。

Scale Inside

單芯片的算力擴(kuò)展仍然是云端訓(xùn)推集群效能的基礎(chǔ)算力。當(dāng)前國內(nèi)制造工藝受限，芯片性能增長遭遇瓶頸。芯粒技術(shù)依舊是擴(kuò)展單個(gè)芯片能力的主要關(guān)鍵路徑。未來AI算力領(lǐng)域?qū)⑹荊PU與非GPU架構(gòu)并存的市場格局；無論是ASIC、GPGPU又或是基于TPU等架構(gòu)的高性能芯片需要基于統(tǒng)一協(xié)議來建立Die-to-Die的高效互聯(lián)。強(qiáng)大的市場需求正為此提供強(qiáng)勁動(dòng)力。據(jù)相關(guān)機(jī)構(gòu)預(yù)測，到2030年，中國AI芯片市場規(guī)模將突破1.3萬億元。如此巨大的市場潛力，要求國內(nèi)產(chǎn)業(yè)鏈構(gòu)建自主可控的國產(chǎn)芯粒生態(tài)閉環(huán)并成為產(chǎn)業(yè)戰(zhàn)略的必然選擇。

奇異摩爾邀您相聚

2025 AI 網(wǎng)絡(luò)技術(shù)應(yīng)用創(chuàng)新大會(huì)

8月9日，由中國通信學(xué)會(huì)開源技術(shù)專業(yè)委員會(huì)、中國通信學(xué)會(huì)信息通信網(wǎng)絡(luò)技術(shù)專業(yè)委員會(huì)指導(dǎo)，江蘇省未來網(wǎng)絡(luò)創(chuàng)新研究院主辦的AI網(wǎng)絡(luò)技術(shù)創(chuàng)新大會(huì)即將在北京舉行。大會(huì)以智聯(lián)萬物，網(wǎng)聚未來為主題，將聚焦AI算網(wǎng)技術(shù)、智能應(yīng)用場景、開源生態(tài)協(xié)同、網(wǎng)絡(luò)大模型等主題開展產(chǎn)學(xué)研用全鏈條對話。此外，大會(huì)還依托主辦方在未來網(wǎng)絡(luò)和網(wǎng)絡(luò)開源技術(shù)生態(tài)領(lǐng)域的深厚積淀，特別設(shè)立AI網(wǎng)絡(luò)技術(shù)白皮書發(fā)布、產(chǎn)業(yè)技術(shù)驗(yàn)證實(shí)驗(yàn)平臺(tái)合作等專項(xiàng)計(jì)劃。作為AI網(wǎng)絡(luò)全棧式互聯(lián)產(chǎn)品及解決方案提供商，奇異摩爾受邀出席本次大會(huì)，并將發(fā)表主題演講。

作為構(gòu)建AI算力基礎(chǔ)設(shè)施的一環(huán)，為滿足AI原生時(shí)代的AI網(wǎng)絡(luò)互聯(lián)需求，奇異摩爾將攜專為AI網(wǎng)絡(luò)設(shè)計(jì)的AI原生超級網(wǎng)卡Kiwi SNIC、專為超節(jié)點(diǎn)網(wǎng)絡(luò)設(shè)計(jì)的超節(jié)點(diǎn)互聯(lián)芯粒Kiwi G2G IOD等核心產(chǎn)品及解決方案亮相AI 網(wǎng)絡(luò)技術(shù)創(chuàng)新大會(huì)。屆時(shí)，奇異摩爾聯(lián)合創(chuàng)始人兼產(chǎn)品與解決方案副總裁?？|將聚焦《AI原生時(shí)代：基于開放生態(tài)的統(tǒng)一互聯(lián)架構(gòu)構(gòu)筑高效的智算網(wǎng)絡(luò)》這一主題帶來AI網(wǎng)絡(luò)互聯(lián)領(lǐng)域的最新洞察和趨勢分享。

鎖定奇異摩爾B06展位，現(xiàn)場還有驚喜抽獎(jiǎng)互動(dòng)，期待與您相聚北京，攜手探索 AI 網(wǎng)絡(luò)互聯(lián)的無限可能。

關(guān)于我們

AI網(wǎng)絡(luò)全棧式互聯(lián)架構(gòu)產(chǎn)品及解決方案提供商

奇異摩爾，成立于2021年初，是一家行業(yè)領(lǐng)先的AI網(wǎng)絡(luò)全棧式互聯(lián)產(chǎn)品及解決方案提供商。公司依托于先進(jìn)的高性能RDMA 和Chiplet技術(shù)，創(chuàng)新性地構(gòu)建了統(tǒng)一互聯(lián)架構(gòu)——Kiwi Fabric，專為超大規(guī)模AI計(jì)算平臺(tái)量身打造，以滿足其對高性能互聯(lián)的嚴(yán)苛需求。我們的產(chǎn)品線豐富而全面，涵蓋了面向不同層次互聯(lián)需求的關(guān)鍵產(chǎn)品，如面向北向Scale-out網(wǎng)絡(luò)的AI原生超級網(wǎng)卡、面向南向Scale-up網(wǎng)絡(luò)的GPU片間互聯(lián)芯粒、以及面向芯片內(nèi)算力擴(kuò)展的2.5D/3D IO Die和UCIe Die2Die IP等。這些產(chǎn)品共同構(gòu)成了全鏈路互聯(lián)解決方案，為AI計(jì)算提供了堅(jiān)實(shí)的支撐。