(電子發(fā)燒友原創(chuàng) 章鷹)2025年，在快速復(fù)蘇的半導(dǎo)體市場里，邊緣人工智能市場是一個重要的分支領(lǐng)域。Markets and Markets報告顯示，全球邊緣計算市場規(guī)模將從2023年的600億美元增長至2029年的1106億美元，復(fù)合年增長率達(dá)到13%。
作為邊緣實現(xiàn)人工智能的專業(yè)廠商，Ceva擁有廣泛的NPU IP組合，涵蓋將人工智能嵌入MCU等微型處理器所需的IP，一直擴(kuò)展到能夠在筆記本電腦和智能手機(jī)中實現(xiàn)生成式人工智能的NPU IP，和運行ADAS自動駕駛汽車的IP。

7月4日，在上海張江舉辦的端側(cè)AI技術(shù)峰會上，來自Ceva中國技術(shù)支持總監(jiān)徐明帶來對于端側(cè)AI市場的最新趨勢分析和新品NPU IP的介紹。Ceva IP出貨量達(dá)190億，四大需求推動了端側(cè)AI高速增長“據(jù)我們統(tǒng)計，全球每秒鐘有60個包含Ceva IP的芯片在出貨，我們歷年來包含Ceva IP的芯片出貨量達(dá)到190顆以上，覆蓋了無人機(jī)、移動設(shè)備、AI、車載、多媒體等設(shè)備?！?Ceva中國技術(shù)支持總監(jiān)徐明表示。

什么驅(qū)動了邊緣AI高速發(fā)展？一、實時性要求，比如ADAS和輔助駕駛要求AI部署在本地；二、隱私保護(hù)，數(shù)據(jù)私密性需求日益上升，如果數(shù)據(jù)保留在本地，將大幅度降低數(shù)據(jù)被侵犯的可能性；三、端側(cè)推理可以減少功耗，從使用者成本考慮，一旦端側(cè)AI平臺部署完成后，使用者的成本接近為零，除了一些電費外，不需要租用云端服務(wù)器；四、更多的算法公司和軟件公司推出性能優(yōu)異的網(wǎng)絡(luò)，有利于AI在端側(cè)的部署。

國際大公司比如英偉達(dá)、谷歌、高通和ARM都看好AI在端側(cè)增長的趨勢，先后推出了新芯片和新IP，在IOT和汽車端進(jìn)行部署。高通正在從定制解決方案轉(zhuǎn)向可擴(kuò)展的人工智能邊緣平臺，包括對Edge Impulse的收購和Dragonwing AI soc的開發(fā)使邊緣人工智能更容易被開發(fā)人員使用。英偉達(dá)邊緣人工智能平臺旨在直接在機(jī)器人(17.050, 0.32, 1.91%)和邊緣設(shè)備上訓(xùn)練、模擬和部署人工智能模型，為工業(yè)、物流和自治系統(tǒng)的實時決策提供支持。

端側(cè)AI興起的三大要素，包括AI網(wǎng)絡(luò)的支持，尺寸更加精簡；硬件能力的提升來支持AI網(wǎng)絡(luò)的部署和落地，Ceva作為IP供應(yīng)商，我們和AI芯片公司合作，一起來打造這些硬件平臺；將優(yōu)秀的硬件和平臺協(xié)同起來，加速AI設(shè)備的落地。
在云端，GPU被廣泛應(yīng)用，在端側(cè)應(yīng)用中，我們認(rèn)為NPU將會大展拳腳，支持百億數(shù)量級的端側(cè)設(shè)備。Ceva中國技術(shù)支持總監(jiān)徐明分享他的觀點。

端側(cè)部署面臨挑戰(zhàn)，Ceva NPU IP帶來哪些助力？

“端側(cè)設(shè)備眾多，肯定具備重大挑戰(zhàn)。它需要我們具備端到端的解決方案。NPU要有一定的剪裁性，現(xiàn)在的應(yīng)用算力不同，未來新需求還會冒出來，架構(gòu)要具備可持續(xù)發(fā)展，需要配套成熟的軟件SDK，用于參考/優(yōu)化AI模型的Model zoo框架，可互補解決方案的生態(tài)系統(tǒng)，以及面向未來的人工智能架構(gòu)?！?徐明分析說。

Ceva推出了可以剪裁的NPU IP，加上成熟的SDK，來服務(wù)于整個端側(cè)AI的應(yīng)用。徐明強(qiáng)調(diào)，Ceva針對性地提出了相關(guān)人工智能戰(zhàn)略，即通過可擴(kuò)展的NPU+SDK助力智能邊緣，在可擴(kuò)展的NPU系列方面，包括支持從數(shù)據(jù)中心到邊緣設(shè)備的AI推理，以及優(yōu)化超低功耗和實時性能。在全棧集成方面，硬件工具主要有NeuPro NPUs+ SensPro DSP，軟件工具主要包括NeuPro-Studio SDK、圖形編譯器。

徐明強(qiáng)調(diào)，Ceva的NeuPro NPU具備重要的優(yōu)勢和差異化特征，即可擴(kuò)展性、極致能效比和高度集成性。CEVA針對transformer網(wǎng)絡(luò)做了原生的支持和優(yōu)化，特別適合生成式AI?？梢詫崿F(xiàn)高吞吐量的人工智能應(yīng)用，且只消耗最小的功耗——針對Llama 2 和Llama3.2的一些網(wǎng)絡(luò)可達(dá)3500Tokens每秒/瓦的性能。

其次，在NPU架構(gòu)可擴(kuò)展性方面，單核算力可橫跨MCU到高端SoC（10 GOPS - 400 TOPS），以支持音頻、視覺、故障檢測、智能手機(jī)、ADAS等應(yīng)用。另外，CEVA融合了DSP與NPU，具有傳感器數(shù)據(jù)前處理、AI推理、后處理的統(tǒng)一平臺。

從應(yīng)用上來講，正是Ceva具備可以剪裁的NPU IP， 我們可以支持從低算力應(yīng)用到高算力應(yīng)用，比如從可穿戴的低功耗設(shè)備，到目標(biāo)檢測、目標(biāo)識別和智能安防監(jiān)控等設(shè)備。大算力應(yīng)用包括ADAS、智能駕駛、生成式AI應(yīng)用都可以覆蓋。
據(jù)悉，Ceva的NeuPro-M和NeuPro-Nano兩大產(chǎn)品解決方案，是適用于各種工作負(fù)載的全套NPU IP，同時統(tǒng)一的AI SDK易于采用，可廣泛應(yīng)用于預(yù)測與維護(hù)、健康及健身、物體識別、監(jiān)控、ADAS和Co-Pilot等應(yīng)用場景。整體上，根據(jù)10GOPS-1TOPS、1-10 TOPS、10-400 TOPS三個不同算力等級劃分，Ceva針對性布局了Edge AI – 32-512 MACs、1K-4K MACs和8K-128K產(chǎn)品，使得NeuPro NPU系列支持任何邊緣人工智能部署。

本文由電子發(fā)燒友原創(chuàng)，轉(zhuǎn)載請注明以上來源。微信號zy1052625525。需入群交流，請?zhí)砑游⑿舉lecfans999，投稿爆料采訪需求，請發(fā)郵箱zhangying@huaqiu.com。