近日，在OpenAI發(fā)布GPT-5模型14天后，深度求索的新模型版本DeepSeek-V3.1正式發(fā)布。

深度求索正式發(fā)布DeepSeek-V3.1后，稱其為“邁向Agent時代的第一步”。 DeepSeek-V3.1具有更智能的工具調用能力，可以支持多種Code Agent框架，開發(fā)者可以自己搭建智能體。

2025年開啟了AI Agent新紀元。各大模型公司紛紛在AI Agent戰(zhàn)場發(fā)力: 今年7月，月之暗面發(fā)布的Kimi K2邁出了智能體化的一步，可幫助用戶直接制定旅行計劃并預訂機票和酒店;智譜AI在7月28日發(fā)布的GLM-4.5系列，也定位為 "Agent原生基礎模型"，并于8月20日發(fā)布了全球首個手機Agent AutoGLM2.0，可幫助用戶Agent代理操作，具備推理、代碼與多模態(tài)的全能能力，例如可一鍵訂票、訂咖啡等。

從行業(yè)應用角度，AI Agent在電商、醫(yī)療和安全等多個領域已經有深度落地案例;在企業(yè)內部，AI Agent能夠促進研發(fā)、營銷、銷售和客戶服務等多部門和工種的效率提升。根據(jù)Grand View Reasearch數(shù)據(jù)，全球AI Agent市場于2023年規(guī)模已達38.6億美元，預計從2024~2030年將以CAGR 45.1%快速增長，2030年市場規(guī)模有望突破503億美元。

根據(jù)Open AI和Deepseek等廠商的大模型版本推出節(jié)奏，未來國產大模型的競爭或將圍繞AI Agent等場景落地而展開。

AI Agent：基于大模型的人工智能代理

在AI演進的道路上，目前正處于向Agents進化的階段。

2024年OpenAI開發(fā)者日(Dev Day)上， Sam Altman提出了一個關于通用人工智能(AGI)的五層框架理論，將AGI的發(fā)展分為五個階段，逐一代表更高級的能力水平，分別為：

L1聊天機器人(Chatbots)，具有對話能力的AI;

L2推理者(Reasoners)，能夠在人類層面解決問題的AI;

L3智能體(Agents)，能思考并可以采取行動的AI系統(tǒng);

L4創(chuàng)新者 (Innovators)，能夠協(xié)助發(fā)明創(chuàng)造的AI;

L5組織者(Organizations)，可以完成組織工作的AI。

目前，AI正從L2(推理者)向L3(智能體) 發(fā)展，根據(jù)Open AI前研究員預測，五級AGI最快將在27年實現(xiàn)。

(圖源：Kore.ai, COBUS GREYLING)

AI Agent在當下有著非常廣闊的市場空間，并在全球范圍內高速增長，重塑了各行業(yè)的運營模式和客戶交互體驗。

與遵循基本“請求和響應”框架的傳統(tǒng)生成式AI不同，AI Agent是智能體，能感知環(huán)境、決策并行動，而非單純響應刺激。大模型依賴用戶prompt的清晰度，而AI Agent能獨立思考、調用工具完成任務，還能編排資源，與其他Agents協(xié)作，并使用各種工具，如LLM、RAG、向量數(shù)據(jù)庫、API以及Python等高級編程語言。

從傳統(tǒng)AI，進一步到AI Agent，再到系統(tǒng)化的Agentic AI，這是一場范式轉移，核心是自主性(Autonomy) 和通用性(Generality) 的階梯式提升，也佐證了我們在通往AGI的路上始終在不斷深挖探索。但這樣的演進路線絕非單一技術的線性發(fā)展，而需要架構、算法、硬件和應用場景的協(xié)同進化。

AI Agent的技術特性

驅動Scale Up需求升級

隨著AI的飛速發(fā)展，DeepSeek等開源模型不斷涌現(xiàn)，大大降低了技術應用門檻，也推動了“AI平權”進程。但與之同時，大模型參數(shù)量已突破萬億級別，這一規(guī)模的急劇擴張帶來了前所未有的算力挑戰(zhàn)。

大模型向更大規(guī)模和更長上下文演進的發(fā)展趨勢，導致推理時KV Cache需求急劇增長，已遠超當前單顆AI芯片乃至主流多卡服務器的承載極限。

同時，Agentic AI具備自主決策、連續(xù)任務執(zhí)行、多模態(tài)交互等核心能力，多Agent系統(tǒng)的推理過程需要生成比傳統(tǒng)模型多100倍的Token。此外，AI Agent中的大模型輸出往往是下一步的輸入，要求推理速度越快越好，當前主流大模型API普遍擁有50-100 Tokens/s的推理速度，這對顯存帶寬提出了更高的要求。

面對單點算力、顯存的天花板，構建大規(guī)模Scale Up系統(tǒng)，通過并行計算技術(如專家并行EP、張量并行TP)將模型權重與KV Cache拆分到多個AI芯片上協(xié)同工作，已成為支持萬億參數(shù)模型推理挑戰(zhàn)的關鍵路徑。

此外，AI Agent的自主決策、多輪交互、環(huán)境感知等核心能力發(fā)展，也隨之對目前的算力架構提出新挑戰(zhàn)：

1實時決策鏈式依賴

Agent的“感知-規(guī)劃-執(zhí)行”閉環(huán)需毫秒級響應，但長任務序列導致KV Cache指數(shù)級增長(如100輪對話的Cache達GB級)，遠超單卡顯存容量。Scale Up通過超節(jié)點構建統(tǒng)一顯存池承載大規(guī)模狀態(tài)數(shù)據(jù)。

2記憶與狀態(tài)同步需求

Agent的長期記憶(LTM)需跨會話持久化，而工作記憶(WM)需在邊-云間同步。Scale Up架構的內存語義互聯(lián)(如華為UB總線延遲200ns)比傳統(tǒng)TCP/IP(ms級)更適合高頻狀態(tài)更新。

3多智能體協(xié)作瓶頸

多Agent協(xié)作(如游戲NPC集群)需實時交換策略參數(shù)。NVLink 5.0的超節(jié)點內1.8TB/s帶寬支持千級Agent參數(shù)同步，而傳統(tǒng)Scale Out易因網絡抖動導致策略失準。

可以說，AI Agent，尤其是多智能體系統(tǒng)Agentic AI的持續(xù)運行和復雜推理，對底層算力基礎設施(如集群的性能、網絡互聯(lián)、大容量低延遲存儲)提出了極高要求。算力成本和能源消耗依然是規(guī)?；渴鹦杩紤]的因素，推動著芯片架構、模型壓縮和推理優(yōu)化等技術的創(chuàng)新。

AI Agent正在扛起云端協(xié)同大旗

云邊端協(xié)同重構互聯(lián)范式

AI Agent不僅將在云端基礎大模型中扮演重要角色，也是AI端側落地的重要一環(huán)。

2024年12月，智譜的GLM-4V模型和騰訊的混元大模型均與高通展開深度合作，基于芯片優(yōu)化的角度將端側多模態(tài)交互能力和終端側部署能力進行提升。不難發(fā)現(xiàn)，一些硬件廠商紛紛集體加入大模型賽道，探索AI Agent能賦予用戶的更多可能。

預計端側應用在未來很長一段時間都將是端側+云端搭配使用，考慮到AI Agent需要規(guī)劃+多次調用大模型，端側AI還會帶來大量的云端推理算力增量從而推動云端推理集群的建設。

這一趨勢對數(shù)據(jù)通路提出了前所未有的苛刻要求：極高的吞吐以應對海量交互數(shù)據(jù)，極低的延時以確保Agent決策鏈路的實時性與流暢性。因此，現(xiàn)有高性能、低延時組網方案的選型與優(yōu)化，不再僅是基礎設施的配套，而已成為決定AI Agent體驗成敗與規(guī)?；尚行缘暮诵钠款i。

對于AI發(fā)展和目前AI Agent應用的熱潮，國內外各家廠商也針對性地端出了不同的高性能低時延組網方案。

在超節(jié)點組網技術的演進中，無論是致力于單節(jié)點內超高密度集成的架構方案，還是依托光互連技術以實現(xiàn)能效優(yōu)化與延遲收斂的組網策略;無論是采用專用硬件與私有協(xié)議構建閉環(huán)生態(tài)，還是積極融入開放標準并引入光互連等新興技術——盡管在具體實現(xiàn)路徑上存在差異，但其演進脈絡均清晰指向同一方向：超節(jié)點組網技術正朝著高性能、低延遲、可擴展的目標加速迭代與發(fā)展。

英偉達：DGX SuperPOD - GB200

NVL72(NVLink+ RDMA)

作為Nvidia DGX SuperPOD的代表案例，GB200 NVL72 SuperNode將36個 Grace CPU和72個Blackwell GPU集成到一個液冷機柜中，采用“GPU-GPU NVLink ScaleUp + Node-Node RDMA ScaleOut”的互聯(lián)方式。

其中Scale Up網絡方面，NVL72內部采用NVLink 5和NVSwitch構建，提供極高的帶寬(每個Compute Tray含2個GB200，通過NVLink/NVSwitch具備7.2TB/s的Scale Up連接帶寬，整機柜Compute Tray提供帶寬高達129.6TB/s)和超低時延(銅電纜連接節(jié)省了光模塊引入的時延)。NVL72整機柜具有超大內存空間，支持高達13.5TB的HBM和17TB的LPDDR5X內存容量。NVL72利用NVLink和NVLink C2C，所有GPU都可以訪問整個超節(jié)點其他GPU的HBM和Grace CPU的DDR，實現(xiàn)基于內存語義的統(tǒng)一內存空間。

未來，英偉達的Rubin架構將升級到NVLink 6.0和7.0，進一步提升帶寬密度、降低延遲，并優(yōu)化互連拓撲的靈活性。

Google：基于私有ICI協(xié)議 3D Torus拓撲

Google的Scale UP組網采用私有ICI協(xié)議，機柜內部采用DAC，機柜之間運用OCS光交換技術。ICI協(xié)議被設計為可編程的，以便軟件能夠應對具有可重構性和彈性的運行復雜性。

以Google TPU v4 pod為例，一個TPU v4 pod就是一個ICI域，在該域中，任意一對TPU都能相互進行RDMA。TPU v4的拓撲結構為一個3D Torus環(huán)面，由4×4×4的TPU v4芯片互連而成，形成類似立方體的結構。一個機架中容納64顆TPU v4芯片及16臺CPU主機，機柜內的兩個TPU v4托盤通過DAC連接。隨后，用OCS光交換機將64個這樣的立方體結構連接起來，組成一個包含4096個TPU的V4超級計算機。

(圖源：Google)

谷歌已將超100,000個TPU v6 Trillium連接到一個網絡結構中，構建了世界上最強大的AI超級計算機之一。該系統(tǒng)將超過100,000個TPU v6 Trillium與每秒13 PB帶寬的Jupiter網絡結構相結合，使單個分布式訓練作業(yè)能夠擴展到數(shù)十萬個加速器上。這種大規(guī)模芯片集群可以提供強大的計算能力，實現(xiàn)高效的并行計算，從而加速大模型的訓練過程，提高AI系統(tǒng)的性能和效率。目前Google最新的第七代TPU Ironwood已于今年4月正式推出，這是為支持新一代人工智能模型的需求，Google專門為推理(inference)任務設計的TPU。(更多閱讀：Kiwi Talks | 軟硬協(xié)同，全棧制勝——谷歌如何成為AI領先綜合玩家)

阿里云：HPN7.0 新型智算網絡

阿里云HPN7.0面向AI大模型訓練場景設計，通過創(chuàng)新的拓撲設計、多路徑冗余和自研通信技術，解決萬卡級GPU集群的高性能、高穩(wěn)定性及可擴展性挑戰(zhàn)。

架構方面，HPN7.0采用“雙上聯(lián)+多軌+雙平面”設計，以確保網絡在超高負載下仍保持高效、穩(wěn)定運行，滿足AI大模型對計算資源的高需求。技術方面，HPN7.0采用基于RDMA的Solar-RDMA協(xié)議，能夠實現(xiàn)數(shù)據(jù)的快速傳輸和高效處理，提供高精度擁塞控制算法，結合網絡負載的動態(tài)感知，能夠實現(xiàn)對數(shù)據(jù)流級別的精細控制;使用專門面向AI計算場景設計的ACCL通信庫，能顯著提升計算的效率和穩(wěn)定性，為大模型提供穩(wěn)定可靠的網絡通信支持。

(圖源：阿里云)

阿里云HPN7.0高性能網絡集群于2023年9月大規(guī)模部署，通義千問2.5版本基于該集群訓練而成。目前阿里云已推出了采用全自研軟硬件系統(tǒng)的下一代訓推一體網絡融合架構HPN8.0。

華為：Cloud Matrix 384系統(tǒng)

華為Cloud Matrix 384系統(tǒng)創(chuàng)新性地提出了對等計算架構，將總線從服務器內部擴展到整機柜甚至跨機柜。該系統(tǒng)將總計384顆昇騰910C芯片分布在16個機架上，其中12個計算機架各部署32顆昇騰910C，通過全連接拓撲結構互聯(lián)，另外4個機架用于安裝Scale up交換機。Cloud Matrix 384通過超高速低延遲的統(tǒng)一總線(UB)網絡實現(xiàn)互連，能夠對計算、內存和網絡資源進行動態(tài)池化與統(tǒng)一訪問。

為了構建超大規(guī)模算力集群，華為采用跨多機架的Scale Up方案，因而選擇光互連方式來實現(xiàn)橫向擴展。每個Cloud Matrix 384 Pod共配置6912個400G光模塊/收發(fā)器，其中5,376個用于Scale Up網絡，1,536個用于Scale Out網絡。Cloud Matrix 384的Scale Up帶寬高達269TB/s，因物理距離限制，采用400G低功耗光模塊(LPO)，省略了傳統(tǒng)DSP芯片以降低功耗和時延。

(圖源：華為)

從以上國內外廠家不同的組網方式可以看到，AI Agent是“大腦”，決定了任務的復雜度;端云算力是“肌肉”，負責執(zhí)行任務;而高性能網絡則是“神經系統(tǒng)”，負責在“大腦”和“肌肉”之間進行高速、精準的信號傳導。不同廠家針對自身的產品組合以及技術優(yōu)勢，對自身的Scale Up超節(jié)點系統(tǒng)做出了高性能定制化的設計。

奇異摩爾構筑了基于高性能RDMA、網絡控制和芯粒的全?；ヂ?lián)產品解決方案。Scale Out側的高性能AI原生超級網卡Kiwi SNIC，實現(xiàn)超高RDMA性能、復雜網絡控制;Scale Up側的Kiwi G2G IOD互聯(lián)芯粒方案，是國內少有的開源&通用化超節(jié)點互聯(lián)方案，支持內存語義/消息語義，實現(xiàn)G2G芯粒和xPU間互聯(lián)互通。

展望未來，AI Agent的演進正在倒逼網絡技術朝“確定性地高性能”方向演進，基于高速通信、超大帶寬、RDMA無損網絡等強勁性能指標不再是針對超大規(guī)模企業(yè)的可選奢侈方案，而是蛻變?yōu)橥ㄓ肁I的基座級剛需。

云側模型憑借其高算力密度持續(xù)保持領先，而端側AI則憑借獨立性與即時性形成了差異化的競爭優(yōu)勢。展望下一階段，云端協(xié)同模型將通過高質量數(shù)據(jù)訓練飛輪與隱私計算框架的深度融合，推動用戶體驗邁向新的高峰。然而在當下，AI Agent的落地應用仍高度依賴于國內外AI網絡產業(yè)全?！ㄔ茝S商、運營商、AI芯片、交換機及服務器等企業(yè)——在Scale Up方向上持續(xù)突破極限、不斷加壓發(fā)力。

關于我們

AI網絡全棧式互聯(lián)架構產品及解決方案提供商

奇異摩爾，成立于2021年初，是一家行業(yè)領先的AI網絡全棧式互聯(lián)產品及解決方案提供商。公司依托于先進的高性能RDMA 和Chiplet技術，創(chuàng)新性地構建了統(tǒng)一互聯(lián)架構——Kiwi Fabric，專為超大規(guī)模AI計算平臺量身打造，以滿足其對高性能互聯(lián)的嚴苛需求。我們的產品線豐富而全面，涵蓋了面向不同層次互聯(lián)需求的關鍵產品，如面向北向Scale-out網絡的AI原生超級網卡、面向南向Scale-up網絡的GPU片間互聯(lián)芯粒、以及面向芯片內算力擴展的2.5D/3D IO Die和UCIe Die2Die IP等。這些產品共同構成了全鏈路互聯(lián)解決方案，為AI計算提供了堅實的支撐。