作者：Arm 云 AI 事業(yè)部軟件生態(tài)系統(tǒng)總監(jiān) Yan Fisher

Google Cloud 正通過多項升級舉措，穩(wěn)步推進代理式人工智能 (Agentic AI) 的規(guī)?；涞?。此次更新包含全新 TPU 8t 和 TPU 8i 系統(tǒng)，同時在 Google Kubernetes Engine (GKE) 上線 Agent Sandbox。作為定制化部署框架，它能夠高效、安全地運行復雜的多步驟 AI 系統(tǒng)。這套全新的代理式基礎設施，搭載Google 基于 Arm Neoverse 平臺打造的 Axion 處理器，充分體現出行業(yè)核心趨勢：新一代 AI 工作負載正加速轉向定制化 CPU 架構。

隨著代理式 AI 從技術試驗邁向商用部署，基礎設施的需求正在迭代變革。傳統(tǒng)推理僅依賴單次模型調用，而智能體系統(tǒng)需要持續(xù)編排調度邏輯推理鏈、工具調用和實時數據讀取。這大幅拉高了并發(fā)壓力、時延敏感度與整體算力消耗，讓 CPU 成為承載業(yè)務穩(wěn)定運行的核心關鍵。

這正是 Arm 架構基礎設施的核心優(yōu)勢所在。Arm Neoverse 平臺專為高吞吐、高能效計算場景打造，Google Axion 便是典型代表，已然成為規(guī)?；渴鸫硎?AI 的堅實底座。

規(guī)?；硎?AI：Axion 走在前沿

Google Cloud 正式發(fā)布第八代 TPU 系統(tǒng)，延續(xù)了其長期深耕定制芯片設計的技術積淀。本次新品針對訓練與推理應用做出差異化劃分，推出 TPU 8t 與 TPU 8i 兩款型號；同時首次搭載 Google Axion CPU 作為計算頭節(jié)點 (header)。該設計有效降低數據預處理時延，保障 TPU 算力引擎滿載運行、杜絕算力閑置卡頓。

當然，TPU 并非全部布局。Google Cloud 正全力推進“AI Hypercomputer”協(xié)同設計愿景，另一項關鍵發(fā)布是 GKE Agent Sandbox。它提供可擴展、低時延的基礎設施，使智能體能夠在不犧牲性能的前提下，安全地執(zhí)行不受信任的代碼和工具調用。借助 Google Axion，用戶可以在領先的基礎設施之上構建智能體，同時兼顧成本效益與技術選擇的靈活性。

運行在 Google Axion 處理器之上、基于 gVisor 打造，且支持 Kata Containers 的 GKE Agent Sandbox，可實現以下性能指標：

每個集群每秒支持 300 個沙箱

首指令執(zhí)行時延低于 1 秒

要維持如此高的沙箱吞吐能力和低時延執(zhí)行表現，底層基礎設施始終承受著持續(xù)壓力。隨著代理式 AI 逐步成為主流部署范式，其所依賴的基礎設施必須在吞吐能力、響應速度與能效方面同步提升，才能在大規(guī)模場景下可靠運行智能體工作負載。Axion 正是為滿足這一需求而設計。

隨著智能體系統(tǒng)不斷擴張，推理效率的重要性愈發(fā)凸顯。低效的推理能力會直接導致智能體無法正常運轉；而缺少智能體編排，推理算力也將長期處于閑置狀態(tài)。將兩大核心任務部署到基于 CPU 的基礎設施之上，企業(yè)即可在嚴控成本的前提下，實現高性能智能體系的規(guī)模化擴展。

Axion 賦能 AI 推理：以極致性能重構成本效益

C4A 虛擬機搭載基于 Arm Neoverse V2 平臺的 Axion CPU，經過深度優(yōu)化，可與專用加速器形成能力互補。依托通用計算底座高效承載高并行、時延敏感型工作負載，實現高吞吐 AI 推理。

該優(yōu)勢已在實際部署環(huán)境中得到充分驗證。歐洲在線旅游平臺 loveholidays 需在 PB 級數據之上，穩(wěn)定運行大規(guī)模向量嵌入與推理工作負載；規(guī)?；渴饒鼍跋?，純加速器方案成本高昂，落地門檻極高。

loveholidays 工程負責人 Dimitri Lerko 表示：“業(yè)務高速發(fā)展下，我們的詞元 (token) 處理需求增速已遠超預算擴容節(jié)奏。面對現有海量數據規(guī)模，依靠 GPU 承載大規(guī)模向量嵌入與推理負載成本難以為繼，因此提升 CPU 能效成為核心訴求。依托 Axion 系列的 C4A 和 N4A 虛擬機，我們獲得了充足的性價比優(yōu)勢，得以基于 CPU 構建實時 AI 決策管線，運行定制化模型與開源模型推理。這一落地模式在以往完全不具備可行性?！?/p>

實測數據顯示，在多種 AI 推理工作負載中，C4A 始終優(yōu)于當前一代的 x86 實例：

Axion 產品組合擴展

針對需要更高控制能力的工作負載，Axion 系列新增 C4A Metal 原生裸金屬實例（預覽版），將一致的 Arm 架構從云端延伸至邊緣側。該實例支持跨環(huán)境統(tǒng)一開發(fā)、驗證與部署，可直接訪問硬件資源，消除虛擬化層 (hypervisor) 性能損耗，提供穩(wěn)定可預期的運行表現。十分適用于需求嚴苛的用例，包括汽車 vHIL、原生安卓 CI/CD，以及對控制能力、性能表現與架構一致性有嚴苛要求的專用企業(yè)基礎設施。

松下汽車系統(tǒng)北美公司首席技術官 Andrew Poliak 表示：“松下正跨云端與車端，打造新一代車載體驗。在 C4A Metal 實例預覽階段，我們采用與邊緣側架構完全一致的 Arm 裸金屬環(huán)境，研發(fā)團隊可依托統(tǒng)一平臺，完成車載應用的全流程開發(fā)、測試與驗證。依托比特級一致性能力，我們可實現云端至車端的無縫遷移，在兩端運行完全相同的二進制程序，無需因架構不同而為遷移部署耗費資源。”

與此同時，作為 Axion 系列最新成員的 N4A，為 Web 服務、API 調用以及數據處理管線等橫向擴展型工作負載提供了高性價比的計算基礎。

C4A、C4A Metal 與 N4A 共同構成了一個統(tǒng)一、面向不同工作負載優(yōu)化的產品組合，既覆蓋 AI 推理，也支持橫向擴展型應用，并貫穿云端到邊緣環(huán)境，幫助團隊在 Arm 計算平臺上同時實現性能與成本的優(yōu)化。

Arm 優(yōu)先部署，構筑領先生態(tài)

Arm 已支撐起業(yè)內規(guī)模龐大、增速領先的軟件生態(tài)系統(tǒng)，持續(xù)推動云端與邊緣側向以 Arm 架構優(yōu)先的計算轉型。Google 已在 Axion 處理器上運行包括 BigQuery、Spanner、Bigtable、Google Earth Engine、Google Compute Engine、GKE Dataflow、Cloud Batch 等多項生產級服務，并在其部署環(huán)境中完成超 30,000 款內部應用的架構遷移。

對于剛剛啟動遷移的企業(yè)，Arm 的云遷移資源中心 (Arm Cloud Migration Resource Hub)[1]提供了 100 多條 Learning Path[2]，覆蓋 Google Axion 上的常見工作負載模式。在整個 Neoverse 生態(tài)中，Arm Software Ecosystem Dashboard[3]可用于追蹤已驗證的軟件及其推薦版本；同時，遵循 SystemReady VE 標準，可確保軟件從部署第一天起即可實現無縫互操作。Elastic、MongoDB、Palo Alto Networks、Redis Labs 以及 Couchbase 等領先的獨立軟件開發(fā)商 (ISV) 均已在基于 Axion 的基礎設施上完成全面驗證。

開始使用 Google Axion

無論是通過 GKE Agent Sandbox 部署智能體工作負載，在 C4A 上優(yōu)化推理性能，還是借助 N4A 擴展通用計算能力，Axion 都為現代 AI 基礎設施提供了一個一致、基于 Arm 計算平臺的堅實基礎。