近日，上海人工智能實(shí)驗(yàn)室推出DeepLink多元算力混合推理加速方案（以下簡稱“DeepLink混推方案”），首次實(shí)現(xiàn)對(duì)壁仞科技等四家國產(chǎn)算力廠商多款芯片的混合調(diào)度與協(xié)同推理。

DeepLink混推方案的發(fā)布，既為全國智能算力互聯(lián)互通、高效盤活分散算力資源探索出新路徑，也為“人工智能+”行動(dòng)落地提供穩(wěn)定、靈活、高效、低成本的算力支撐。

在傳統(tǒng)大模型推理架構(gòu)中，在單一芯片集群的PD分離推理策略，已成為業(yè)界主流推理優(yōu)化應(yīng)用方向。然而，面向國產(chǎn)異構(gòu)芯片的協(xié)同推理，仍是當(dāng)前行業(yè)亟待攻克的關(guān)鍵難題。本次，上海人工智能實(shí)驗(yàn)室推出的方案，為激活多元國產(chǎn)算力生態(tài)提供了新模式。

基于統(tǒng)一推理中間件、低時(shí)延通信、智能流量路由、策略求解器等原創(chuàng)技術(shù)，DeepLink混推方案具有精準(zhǔn)匹配算力密集型、訪存密集型硬件的能力，并同時(shí)兼顧推理時(shí)延與吞吐性能。另外，該方案還具備良好的可擴(kuò)展性，能有效地應(yīng)用于Attention-FFN（AF）分離等其他場(chǎng)景。

在此基礎(chǔ)上，DeepLink 混推方案首次實(shí)現(xiàn)包括壁仞科技等四家廠商在內(nèi)的多款國產(chǎn)芯片的深度混合調(diào)度與協(xié)同推理，并完成國產(chǎn)異構(gòu)芯片“1+1>2”的效能躍升。

壁仞科技秉持 “技術(shù)開放、產(chǎn)業(yè)協(xié)同、標(biāo)準(zhǔn)共建” 理念，在異構(gòu)混訓(xùn)、異構(gòu)混推等異構(gòu)算力關(guān)鍵技術(shù)領(lǐng)域深入探索，推動(dòng)多元算力高效融通。2024年底，壁仞科技在業(yè)界首次實(shí)現(xiàn)四種異構(gòu)芯片混合訓(xùn)練，隨后在人工智能產(chǎn)業(yè)工委會(huì)的推動(dòng)下，牽頭成立智算集群異構(gòu)混訓(xùn)工作組，并在全國信標(biāo)委主導(dǎo)下制定異構(gòu)混訓(xùn)國家標(biāo)準(zhǔn)，深度參與DeepLink跨域混訓(xùn)合作；2025年世界人工智能大會(huì)期間，壁仞科技再度取得突破，首次實(shí)現(xiàn)基于壁仞科技、英偉達(dá)等多款芯片異構(gòu)算力混推，與中國電信聯(lián)合發(fā)布異構(gòu)算力協(xié)同白皮書。今年，壁仞科技與上海人工智能實(shí)驗(yàn)室合作進(jìn)一步深化，推出全新的DeepLink混推方案。

值得關(guān)注的是，壁仞科技與上海人工智能實(shí)驗(yàn)室聯(lián)合發(fā)起并牽頭推進(jìn)異構(gòu)混推標(biāo)準(zhǔn)制定工作，打造技術(shù)攻關(guān)、應(yīng)用落地、標(biāo)準(zhǔn)引領(lǐng)閉環(huán)，以實(shí)際行動(dòng)響應(yīng)落實(shí)2026年初工信部等八部門聯(lián)合印發(fā)《“人工智能+制造“專項(xiàng)行動(dòng)實(shí)施意見》中提出的加快突破異構(gòu)算力等關(guān)鍵技術(shù)的工作，共建異構(gòu)算力開放生態(tài)，支持多元算力高效落地，為人工智能產(chǎn)業(yè)筑牢堅(jiān)實(shí)算力底座。