2025全球AI芯片峰會（GACS 2025）近日在上海召開，愛芯元智聯(lián)合創(chuàng)始人、副總裁劉建偉出席活動，并于“大模型AI芯片專題論壇”發(fā)表主題演講，分享了公司如何憑借高智價(jià)比AI芯片重塑“云-邊-端”算力格局，推動AI規(guī)模化落地與產(chǎn)業(yè)智能化轉(zhuǎn)型。

當(dāng)前，AI規(guī)?；涞孛媾R三大挑戰(zhàn)：可靠性、易用性、經(jīng)濟(jì)性。具體而言，數(shù)據(jù)隱私要求計(jì)算本地化處理，實(shí)時(shí)響應(yīng)需求推動近端算力部署，而成本約束則限制了通用芯片在邊緣側(cè)的大規(guī)模使用。過去，端側(cè)AI芯片主要跑傳統(tǒng)CNN模型，場景明確，而大模型的興起則提升了AI上限，大模型正加速從云端向邊緣和終端遷移——在智慧醫(yī)療、智能家居、智慧康養(yǎng)等場景中，對算力、能效和內(nèi)存訪問的空前需求，驅(qū)動著AI芯片架構(gòu)的革新，邊緣AI算力已從單點(diǎn)突破到全面落地。

在劉建偉看來，當(dāng)AI應(yīng)用規(guī)模足夠大時(shí)，現(xiàn)有運(yùn)行架構(gòu)不是最高效的，值得重新設(shè)計(jì)更適合運(yùn)行AI程序的原生處理器。為此，愛芯元智選擇從端側(cè)和邊緣側(cè)入手做AI基建，推出了搭載自研“愛芯通元AI處理器”的AI芯片。該芯片從設(shè)計(jì)之初就為AI垂直場景量身定制，旨在高效處理AI負(fù)載，采用“算子指令集+數(shù)據(jù)流DSA微架構(gòu)”雙核心邏輯，顯著提升智價(jià)比，為邊緣端側(cè)復(fù)雜AI模型的部署提供更加經(jīng)濟(jì)、高效和環(huán)保的解決方案：

算子指令集：支持包括Conv、Transformer、LSTM等在內(nèi)的超百種AI算子，覆蓋圖像、視頻、文本處理及多模態(tài)融合任務(wù)，并原生適配DeepSeek、Qwen、Llama等主流大模型架構(gòu)，為邊緣側(cè)大模型落地奠定堅(jiān)實(shí)基礎(chǔ)。

異構(gòu)多核架構(gòu)：集成高效張量核、靈活向量核及高帶寬數(shù)據(jù)引擎，支持4bit/8bit/16bit/32bit等混合精度計(jì)算，同時(shí)實(shí)現(xiàn)高性能、低功耗、智價(jià)比。高性能硬件多核調(diào)度器，可優(yōu)化數(shù)據(jù)依賴關(guān)系，顯著提升算力利用效率。

成熟工具鏈生態(tài)：提供從模型量化、編譯優(yōu)化到部署上線的全流程工具鏈，兼容PyTorch、TensorFlow、ONNX等主流框架，大幅提升模型適配效率與開發(fā)體驗(yàn)。

大模型的快速發(fā)展，驅(qū)動著“云-邊-端”融合加速演進(jìn)，成為AI落地的新范式。在云端進(jìn)行模型推理，成本、功耗日益攀升，影響AI應(yīng)用的落地及規(guī)模化擴(kuò)展。愛芯元智推出的原生AI處理器以極致Token/$效益，能效上的顯著優(yōu)勢，全面支持智能任務(wù)的高效運(yùn)行，為客戶提供符合經(jīng)濟(jì)原則的算力基建。目前，這一AI處理器已完成高、中、低的完整算力布局，并已在多個(gè)領(lǐng)域?qū)崿F(xiàn)規(guī)模化量產(chǎn)。其能效比較傳統(tǒng)GPGPU提升了一個(gè)數(shù)量級，在以文搜圖、通用檢測、以圖生文、AI Agent等應(yīng)用中，幫助開發(fā)者以更具智價(jià)比實(shí)現(xiàn)高效創(chuàng)新。

AI計(jì)算在未來將趨于專用化加速，從云上的超大規(guī)模推理，到邊緣側(cè)的實(shí)時(shí)推理，再到終端設(shè)備上的即時(shí)響應(yīng)；從刷臉支付到輔助駕駛，從工業(yè)質(zhì)檢到農(nóng)業(yè)分選，從智慧家庭再到數(shù)據(jù)中心，AI正逐步在千行百業(yè)中成為提升行業(yè)效率的“專家”。愛芯元智已打造了從工具鏈到芯片的完整軟硬件體系，攜手合作伙伴共同構(gòu)建邊緣智能共同體，推動邊緣智能生態(tài)繁榮發(fā)展。

展望未來，愛芯元智將繼續(xù)秉持“普惠AI，造就美好生活”的使命，把算力做到更具智價(jià)比，持續(xù)降低應(yīng)用落地門檻，讓AI觸手可及，最終實(shí)現(xiàn)“萬物智能”。