10 月 15 日，OPPO ColorOS 16 發(fā)布會(huì)暨 OPPO 開發(fā)者大會(huì)在深圳隆重召開，大會(huì)現(xiàn)場除發(fā)布 OPPO 最新技術(shù)外，還舉辦了多場論壇，與業(yè)界領(lǐng)袖共同探討科技創(chuàng)新與人工智能 (AI) 新生態(tài)構(gòu)建。在大會(huì)上，Arm 受邀發(fā)表了主題演講，分享端側(cè) AI 的演進(jìn)趨勢及Arm 最新的 Lumex AI 計(jì)算平臺(tái)如何助力技術(shù)突破、應(yīng)用創(chuàng)新及生態(tài)合作。

端側(cè) AI 實(shí)現(xiàn)“從可選到必需”的躍遷 個(gè)性化成核心方向

Arm 終端事業(yè)部智能手機(jī)市場高級總監(jiān) Steve Raphael 在演講中指出：“僅一年時(shí)間，端側(cè) AI 就已從“可選功能”變?yōu)橛脩簟盎A(chǔ)期待”。2024 年行業(yè)還在探討端側(cè) AI 的落地可能性，2025 年實(shí)時(shí)智能就已成為移動(dòng)設(shè)備的“必需品”。AI 不僅能力更強(qiáng)，也變得更具“個(gè)性化”，能為每個(gè)人提供專屬服務(wù)?！?/p>

這種轉(zhuǎn)變的核心在于快速演進(jìn)的用戶“個(gè)性化”需求與 AI“主動(dòng)協(xié)作”能力。依托大語言模型 (LLM) 與智能體 AI (Agentic AI) 的發(fā)展，當(dāng)前端側(cè) AI 已經(jīng)可以自主完成推理、規(guī)劃與任務(wù)執(zhí)行：從梳理工作流、實(shí)時(shí)翻譯，到預(yù)判用戶潛在需求，甚至主動(dòng)生成旅行方案、會(huì)議紀(jì)要，整個(gè)過程絲滑流暢。這種更懂用戶的“無感化智能交互”，正是端側(cè) AI 的終極目標(biāo)。

SME2 + KleidiAI 技術(shù)；加速端側(cè) AI 性能優(yōu)化

如今，智能手機(jī)已成為端側(cè) AI 的核心入口，深度承載著用戶生活、工作中的海量任務(wù)。與此同時(shí)，智能系統(tǒng)對“即時(shí)響應(yīng)、隨時(shí)可用、隱私安全、低功耗”的需求日益迫切，傳統(tǒng)計(jì)算模型在應(yīng)對這類實(shí)時(shí)化、個(gè)性化的智能訴求時(shí)，已逐漸顯現(xiàn)出適配短板。為助力合作伙伴突破行業(yè)挑戰(zhàn)、匹配產(chǎn)業(yè)發(fā)展核心需求，Arm 最新推出“AI 優(yōu)先”的 Lumex 計(jì)算平臺(tái)。該平臺(tái)通過硬件、軟件及工具等層面的協(xié)同創(chuàng)新，幫助開發(fā)者更高效地實(shí)現(xiàn)端側(cè) AI 功能突破，最終為智能手機(jī)用戶帶來更優(yōu)質(zhì)的體驗(yàn)升級。

硬件層面，作為智能手機(jī)的智慧中樞，CPU 在端側(cè) AI 中發(fā)揮著關(guān)鍵作用，得益于其強(qiáng)大的“通用計(jì)算”特性，開發(fā)者更傾向于將工作負(fù)載保留在 CPU 上，僅將真正需要的部分遷移到其他硬件。Arm Lumex 計(jì)算平臺(tái)搭載了 Arm 最新 C1 系列 CPU——也是首批基于 Armv9.3 架構(gòu)的 CPU 系列產(chǎn)品。作為 Lumex 平臺(tái)最亮眼的技術(shù)之一，SME2 技術(shù)為 C1 CPU 帶來顛覆性提升：處理 AI 工作負(fù)載的速度較前代提升五倍，能效提升三倍，在耗時(shí)低于 100 毫秒的輕量任務(wù)中，其性能甚至超越了傳統(tǒng) GPU。值得關(guān)注的是，SME2 技術(shù)在實(shí)現(xiàn)性能突破的同時(shí)，并未增加開發(fā)者的技術(shù)適配門檻，反而有效降低了端側(cè) AI 功能的開發(fā)與落地成本。

軟件層面，Arm 于 2024 年推出了 KleidiAI 輕量級軟件，這是一款面向 AI 框架開發(fā)者的輕量級內(nèi)核庫，能夠在無可比擬的規(guī)模下，為廣泛的技術(shù)市場以及各類基于 Arm 架構(gòu)的設(shè)備——從早期搭載 Neon 技術(shù)的設(shè)備到最新 Lumex 平臺(tái)——提供 AI 模型和工作負(fù)載的無縫性能優(yōu)化。目前，KleidiAI 已集成至所有主流移動(dòng)操作系統(tǒng)及 AI 框架中，包括 PyTorch ExecuTorch、谷歌 LiteRT、阿里巴巴 MNN 及微軟 ONNX Runtime，并已在 Android 與 iOS 系統(tǒng)中廣泛應(yīng)用。借助 KleidiAI，開發(fā)者無需修改任何代碼，即可自動(dòng)取得 SME2 的加速能力，為 Arm 生態(tài)中 2,200 萬開發(fā)者提供高效便捷的端側(cè) AI 開發(fā)支持，并顯著降低技術(shù)應(yīng)用門檻與開發(fā)成本。

此外，Arm Lumex 平臺(tái)通過“自頂向下”的方法和工具，幫助開發(fā)者快速定位不同 CPU 的性能問題，實(shí)現(xiàn)跨平臺(tái)的一致體驗(yàn)優(yōu)化。

支付寶、淘寶等應(yīng)用率先落地 解決端側(cè) AI 真實(shí)用戶痛點(diǎn)

對開發(fā)者而言，技術(shù)最終要落地到實(shí)際應(yīng)用場景。演講中，Steve Raphael 分享了 SME2 技術(shù)在國內(nèi)應(yīng)用場景的落地案例，印證了端側(cè) AI“從技術(shù)到價(jià)值”的轉(zhuǎn)化路徑。在支付寶應(yīng)用中，SME2 為“回憶視頻”功能提供強(qiáng)大的支持，可自動(dòng)將用戶相冊照片生成為動(dòng)態(tài)視頻集錦；在淘寶應(yīng)用場景下，SME2 助力實(shí)現(xiàn)“端側(cè)實(shí)時(shí)電商重排序”，通過 LLM 精準(zhǔn)匹配用戶偏好，同時(shí)支撐“拍照購物”功能——用戶拍下商品圖片后，可即時(shí)檢索同款，大幅縮短購物鏈路。

此外，Arm 與谷歌合作優(yōu)化 Android AICore 組件（賦能 Gemini Nano 模型），將智能回復(fù)等功能的安全模型延遲降低 20%；與 Stability AI 聯(lián)合開發(fā)的 Stable Audio Open 音頻生成模型，通過 CPU 混合浮點(diǎn)與整數(shù)數(shù)據(jù)處理的優(yōu)勢，在手機(jī)端實(shí)現(xiàn)“文本生成音頻”，且功耗遠(yuǎn)低于 GPU 方案。

與生態(tài)伙伴協(xié)同創(chuàng)新端側(cè) AI 進(jìn)入“共生時(shí)代”

端側(cè) AI 的下一個(gè)階段，已不是性能參數(shù)的比拼，而是生態(tài)協(xié)同的較量。Arm 的技術(shù)探索始終以“開放協(xié)作”為核心，與硬件、軟件和應(yīng)用領(lǐng)域的生態(tài)伙伴緊密協(xié)作，充分釋放端側(cè) AI 在實(shí)際場景中的應(yīng)用潛力，其中與 OPPO 的合作便是業(yè)界典范。目前，Arm 已與 OPPO 深度合作，將 SME2 技術(shù)集成至 OPPO 的 AI 框架中，在顯著提升 AI 性能優(yōu)化和開發(fā)效率的同時(shí)，有效降低了 OPPO 生態(tài)開發(fā)者的技術(shù)門檻。

SME2 已在端側(cè) AI 領(lǐng)域產(chǎn)生了實(shí)際影響——無論是性能還是準(zhǔn)確率，都實(shí)現(xiàn)了顯著提升。目前，Arm 正積極將 SME2 技術(shù)擴(kuò)展至每一個(gè) CPU 平臺(tái)。預(yù)計(jì)到 2030 年，SME 與 SME2 技術(shù)將為超過 30 億臺(tái)設(shè)備新增超 100 億 TOPS 的計(jì)算能力，持續(xù)降低端側(cè) AI 的部署成本與隱私風(fēng)險(xiǎn)。

回應(yīng) OPPO 開發(fā)者大會(huì)“共建 AI 新生態(tài)”的理念，Steve Raphael 表示，Arm 將持續(xù)以 SME2、KleidiAI 等技術(shù)為支點(diǎn)，與生態(tài)伙伴攜手，推動(dòng)端側(cè) AI 從“單點(diǎn)創(chuàng)新”走向“生態(tài)共生”，最終讓端側(cè) AI 體驗(yàn)惠及每一位用戶。