2025年，隨著DeepSeek等AI大模型的火爆，DAU增長速度不斷刷新行業(yè)記錄。然而，另一方面，海量并發(fā)用戶請求訪問激增，服務器資源被迅速耗盡，多次出現(xiàn)網(wǎng)頁和API無法訪問的情況。同時，AI大模型的火爆也吸引攻擊者使用多種技術和手段持續(xù)攻擊。上述問題暴露了AI大模型規(guī)模應用面臨的三大挑戰(zhàn)：AI推理基礎設施能力不足、AI推理網(wǎng)絡架構及技術待完善、AI服務網(wǎng)絡安全防護能力待提升。

近日，在中國云網(wǎng)智聯(lián)大會期間，中國移動研究院攜手華為及產(chǎn)業(yè)合作伙伴，重磅發(fā)布了《分布式推理網(wǎng)絡（Distributed Inference Network，DIN）技術白皮書》，聚焦AI發(fā)展面臨的挑戰(zhàn)，定義了分布式推理網(wǎng)絡的目標架構，結合分布式計算、邊緣智能和動態(tài)調度技術，加速普惠AI發(fā)展進入“推理時刻”。

白皮書從AI模型發(fā)展趨勢、推理服務網(wǎng)絡需求、分布式推理架構及關鍵技術等方面進行了闡述，重點闡述了分布式推理網(wǎng)絡采用可擴展分布架構，綜合運用多種關鍵技術實現(xiàn)端、邊、網(wǎng)、算的有效協(xié)同，提供差異化、高安全、高并發(fā)、高頻次的網(wǎng)絡連接服務保障。

關鍵技術一： 節(jié)點間互聯(lián)質量保障技術

為滿足推理業(yè)務的低時延、高可靠、大帶寬等需求，邊緣推理設備如新一代AI路由器及智能單板等，基于AI進行應用精準識別，根據(jù)AI推理呈現(xiàn)應用級QoE，按照業(yè)務需要實現(xiàn)路徑調優(yōu)或精準擴容，實現(xiàn)應用級差異化、確定性的體驗保障。同時，分布式推理業(yè)務催生了海量數(shù)據(jù)高效傳輸需求，這對廣域網(wǎng)絡提出了“零丟包”和“極低抖動”的雙重挑戰(zhàn)，彈性無損、流級流控等關鍵技術實時感知網(wǎng)絡擁塞狀況，基于精準流控反壓、層次化細粒度切片實現(xiàn)網(wǎng)絡無損和微秒級抖動等極致性能。

關鍵技術二： 推理服務的調度技術

模型調度是DIN的主要功能之一，旨在根據(jù)用戶需求、設備性能、網(wǎng)絡狀態(tài)等多重因素，按需動態(tài)生成業(yè)務調度策略，將業(yè)務沿最佳路徑調度到目的推理服務節(jié)點。通過高效的模型調度，DIN能夠在復雜多變的環(huán)境中實現(xiàn)資源的智能分配，為用戶提供低延遲、高可用的AI服務，同時降低運營成本。

關鍵技術三： 模型推理安全防護技術

DIN利用嵌入AI技術，具備入侵檢測和防御能力，與安全平臺協(xié)同，做到惡意流量快速感知、自動阻斷；通過以太網(wǎng)相干PHYSec技術對模型分發(fā)、KV Cache等數(shù)據(jù)實現(xiàn)低時延、零開銷的物理層比特流安全加密，防止百公里鏈路傳遞過程中被中間節(jié)點竊取或篡改。

展望未來，華為積極配合中國移動實現(xiàn)分布式推理網(wǎng)絡的演進和部署，通過華為AI WAN解決方案優(yōu)勢，助力中國移動構建融合端、邊、網(wǎng)、算的DIN技術體系和標準體系，解決大模型在個人、家庭及企業(yè)應用中的成本、效率與場景適配難題，加速AI普惠化發(fā)展，引領邁向全面智能社會。