作者：Arm 邊緣 AI 事業(yè)部智能手機市場高級總監(jiān) Steve Raphael

Arm 始終堅信，人工智能 (AI) 及其所帶來的價值，理應(yīng)惠及更廣泛的人群。這一理念正引領(lǐng) AI 邁入全新發(fā)展階段 —— 更具個性化、即時可用，并越來越多地在端側(cè)運行。

Arm 技術(shù)已應(yīng)用于全球 99% 的智能手機中，在這場持續(xù)的“AI 普惠”進程中扮演著至關(guān)重要的角色。通過平衡性能、功耗和面積，Arm 技術(shù)為各類移動平臺賦能，使先進的智能技術(shù)能夠在任何設(shè)備上高效運行，不僅覆蓋當(dāng)今高性能的旗艦手機，更惠及高性價比的中高端機型。

當(dāng)端側(cè) AI 普及到這種規(guī)模后，全球數(shù)十億用戶將能在日常使用的移動應(yīng)用中感受到切實的體驗提升，涵蓋實時圖像和視頻增強、語音識別、多模態(tài)助手、翻譯、智能摘要、圖像搜索等一系列場景。

TECNO 與 Arm 攜手推動移動端實時生成式 AI

Arm 近期與 TECNO 的合作，正是 AI 普惠的一個清晰例證。TECNO 是一家專注于為新興市場用戶提供先進技術(shù)和互聯(lián)生態(tài)的 AI 智能全生態(tài)創(chuàng)新科技品牌。雙方攜手合作，將端側(cè)生成式 AI 技術(shù)引入 TECNO 的中高端機型中，從而為用戶帶來風(fēng)格遷移預(yù)覽 (Style Transfer Preview)、沉浸式風(fēng)格化等前沿創(chuàng)意體驗。

過去，生成式 AI 因算力需求高、延遲長、依賴云端連接，在移動端一直面臨發(fā)展瓶頸。而 Arm 與 TECNO 的合作破解了這一困局，通過在 Armv9 CPU 上運行生成式 AI，并借助 Arm KleidiAI 進行優(yōu)化，大幅提升了 TECNO 端側(cè) AIGC 預(yù)覽概念技術(shù)的 AI 性能，減少了分屏取景時的屏幕閃爍與抖動問題。通過該集成，用戶可直接在取景框中，以 30 幀/秒的速率實現(xiàn)風(fēng)格遷移預(yù)覽下的實時 AI 藝術(shù)特效。

整數(shù) 8 位矩陣乘法 (i8MM) 正是實現(xiàn)上述提升的核心，該硬件指令擴展嵌入在 Arm CPU 中，可加速通用矩陣乘法 (GEMM)，而 GEMM 正是多數(shù) AI 工作負載的核心計算。這對于中端和入門機型尤其有利，這類設(shè)備通常以 CPU 作為主要 AI 引擎。通過 KleidiAI 利用 i8MM 指令，Arm 與 TECNO 的合作可加速通用框架與應(yīng)用中的核心機器學(xué)習(xí) (ML) 工作負載，使 AI 計算速度提升 30%，且效率更高，為實時照片特效、物體檢測、增強現(xiàn)實 (AR) 等場景帶來響應(yīng)更流暢的創(chuàng)意體驗。

Arm 與 TECNO 的合作已促成多項關(guān)鍵工程創(chuàng)新，其中包括：

智能異構(gòu)調(diào)度，可將工作負載分配到各個 CPU 上，顯著提高性能和能效。

模型壓縮與修復(fù)技術(shù)，使得生成式模型能夠在 Arm CPU 上高效運行，同時保持所生成內(nèi)容的出色藝術(shù)品質(zhì)。

通過 CPU 管線保障實時流暢性，將 AI 推理遷移到 Arm CPU，實現(xiàn)創(chuàng)意風(fēng)格遷移的視頻級預(yù)覽，大幅降低延遲，帶來流暢、即時的取景體驗。

得益于此，用戶能在構(gòu)圖時即時預(yù)覽創(chuàng)意想法，并體驗沉浸式風(fēng)格化效果。

Armv9 CPU：將先進 AI 引入主流智能手機

Armv9 CPU 的日益普及是推動中高端智能手機擁有強大 AI 功能的關(guān)鍵因素。由此帶來了出色的 AI 性能、能效與成熟生態(tài)，為全價位段智能手機（從旗艦到入門級機型）普及 AI 功能奠定了基礎(chǔ)。

在搭載 Armv9 CPU 的設(shè)備上，具體優(yōu)勢體現(xiàn)在以下幾個方面：

開發(fā)者能夠通過 KleidiAI 無縫獲取更快速、高效的 AI 性能；

相機和計算機視覺 (CV) 后處理管線中的圖像處理能力提升；

應(yīng)用啟動更快，響應(yīng)更迅速。

Armv9 CPU 已集成到廣泛采用的基于 Arm 架構(gòu)的 MediaTek 天璣平臺中，為全球數(shù)百萬中端及主流設(shè)備提供支持。最新的天璣 8500 系列將先進的 AI 技術(shù)進一步推向中高端智能手機領(lǐng)域，支持端側(cè)生成式 AI 工作負載，例如風(fēng)格遷移效果、本地語言模型和創(chuàng)意 AI 等以往僅旗艦機型才具備的功能。

Arm KleidiAI：讓移動端開發(fā)者輕松實現(xiàn) AI 優(yōu)化

然而，僅靠硬件不足以實現(xiàn) AI 普惠，還必須讓開發(fā)者能夠輕松獲取和使用強大的 AI 性能。KleidiAI 在這方面發(fā)揮了關(guān)鍵作用。

KleidiAI 是一套經(jīng)過優(yōu)化的 AI 庫和工具，旨在幫助開發(fā)者無需修改任何代碼或具備深厚的硬件專業(yè)知識，即可充分利用 Arm CPU 的性能潛力。KleidiAI 已集成到主流的 AI 框架中，為手機廠商和廣大開發(fā)者群體提供了成熟可靠的生態(tài)系統(tǒng)，有效銜接 Arm 第二代可伸縮矩陣擴展 (SME2)、i8MM 和第二代可伸縮向量擴展 (SVE2) 等前沿 CPU 特性與實際應(yīng)用場景，快速獲得性能優(yōu)勢。許多全球主流的社交媒體、購物、支付、相機、AR 和多模態(tài)應(yīng)用已廣泛受益于 Armv9 CPU 的 AI 能力。

讓智能無處不在

AI 普惠并非局限于特定的功能或設(shè)備，而是要構(gòu)建一個計算基礎(chǔ)，使智能技術(shù)以負責(zé)任、高效且普遍的方式實現(xiàn)擴展。由此一來，用戶最關(guān)心的 AI 體驗，如相機管線、語音功能，乃至新興的 AIGC 工作流，都能從高端設(shè)備高效普及到中端及更廣泛的機型上。

依托先進的架構(gòu)特性、軟件優(yōu)化、與 MediaTek 和 TECNO 等合作伙伴的深度生態(tài)協(xié)作，以及數(shù)十年工程創(chuàng)新的積淀，Arm 讓數(shù)十億部智能手機都能配備先進的 AI 功能，助力開創(chuàng)普惠共享、而非專屬獨享的 AI 新時代。

智能無處不在，Arm 賦能未來！