電子發(fā)燒友網(wǎng)報道（文/莫婷婷））2025年，AI正加速向終端大規(guī)模落地。據(jù)Gartner等行業(yè)機構(gòu)數(shù)據(jù)顯示，2025年，搭載端側(cè)大模型的AI終端設備出貨量同比增長超過165%。這一爆發(fā)式增長標志著AI從“云中心”向“端智能”的戰(zhàn)略轉(zhuǎn)移已成行業(yè)共識。

億道研究院伍俊龍博士在“億道科技日”活動中指出，在行業(yè)應用層面，純云端大模型雖具備高度靈活性，卻面臨成本高、延遲大、隱私風險突出等瓶頸。相比之下，端側(cè)AI展現(xiàn)出獨特優(yōu)勢：更低的響應延遲、可靠的離線運行能力，以及最關(guān)鍵的——數(shù)據(jù)不出設備的隱私保障機制。

從智能手機、AI眼鏡到智能家居、工業(yè)工控設備，端側(cè)AI正在重塑人機交互邊界，例如智能手機結(jié)合AI與分布式計算，智能調(diào)用最適合的終端執(zhí)行特定任務，市場調(diào)研機構(gòu)IDC預測明年國內(nèi)新一代AI手機出貨量將達到1.47億臺，同比增長31.6%，占據(jù)整體市場的53%。又比如AI智能眼鏡在AI的賦能下，成為具備理解、交互與決策能力的個人智能終端，可以通過端云協(xié)同架構(gòu)，在端側(cè)完成簡單的手勢識別等任務，還能進一步通過調(diào)用云端大模型完成跨語言會議記錄等任務。

億道信息認為，Edge AI不僅是云端能力的補充，更是AI計算架構(gòu)中的核心節(jié)點。而億道信息致力于成為AI應用生態(tài)的服務商。

然而，端側(cè)AI的現(xiàn)實挑戰(zhàn)不容忽視。伍俊龍表示，當前端側(cè)算力資源受限，難以承載超大規(guī)模模型；同時，跨終端數(shù)據(jù)分散、標準不一，導致單一端側(cè)智能難以構(gòu)建完整體驗閉環(huán)?！啊嗽茀f(xié)同’是當前技術(shù)水平限制下智能分工的最優(yōu)解”，他指出。

端云協(xié)同指的是云端負責高智力水平的模型訓練與復雜推理，端側(cè)則聚焦實時交互、隱私保護與離線可用性。二者分工協(xié)作，形成“云讓端更聰明，端讓云更真實”的智能新范式。

2024年科技日，億道信息正式發(fā)布AI戰(zhàn)略并成立AI研究院。過去一年，研究院聚焦七大核心技術(shù)方向，系統(tǒng)推進端側(cè)大模型落地：端側(cè)推理輕量化、端側(cè)模型訓練、交互歷史與記憶、云端能力構(gòu)建與優(yōu)化、Agent智能體、多模態(tài)數(shù)據(jù)管理、隱私與邊緣計算。



但將大模型真正部署到端側(cè)遠非易事。億道信息指出，端側(cè)智能絕非簡單“把云模型搬下來”，而需攻克四大系統(tǒng)性難題，包括模型結(jié)構(gòu)差異、計算與//0瓶頸、硬件異構(gòu)與功耗、系統(tǒng)環(huán)境復雜等。

伍俊龍指出模型結(jié)構(gòu)到芯片知識能力之間的強差異性，會導致在端側(cè)推理適配的過程中有巨大的成本，這也使得跨模型跨硬件的統(tǒng)一執(zhí)行變得極具挑戰(zhàn)。在系統(tǒng)環(huán)境方面，每一種系統(tǒng)在模型的部署方式，推理庫的加載以及設備交互的方面都存在巨大的差異。這決定了端側(cè)AI的框架必須具備高度的跨系統(tǒng)兼容性以及動態(tài)適配能力。

為此，億道信息基于AESOF框架，形成跨芯片、跨系統(tǒng)、跨形態(tài)的大模型的部署能力，由此構(gòu)建一個可以復用的高效的推理框架，實現(xiàn)“一套邏輯打通所有AI設備”。該框架已成功支撐AI PC、AI NAS、工控終端、可穿戴產(chǎn)品等多形態(tài)終端的大模型部署。

目前，億道信息圍繞個人、家庭、企業(yè)、工業(yè)、可穿戴、機器人六大核心場景，推動端側(cè)AI落地。在AI智能眼鏡的布局上，億道信息通過旗下子公司億境虛擬加速推進。就在11月，億境虛擬與恩智浦達成合作，宣布將在其新一代 AI 眼鏡解決方案SW3021中采用恩智浦i.MX RT685跨界MCU，滿足端側(cè)多模態(tài)交互、即時響應、持續(xù)感知等需求對低功耗的需求。在AI PC的布局上，億道數(shù)碼提出以“端側(cè)優(yōu)先，云端增強”為核心的L0-L4智商等級進化路徑，公司還宣布將與芯片、存儲企業(yè)展開合作，例如優(yōu)化NPU性能等。