電子發(fā)燒友網(wǎng)報道（文/李彎彎）隨著物聯(lián)網(wǎng)設(shè)備爆發(fā)式增長，海量數(shù)據(jù)將在邊緣側(cè)積累，邊緣AI進(jìn)入蓬勃發(fā)展期。Gartner預(yù)測，到2023年，將有50%以上的大型企業(yè)將至少部署6個用于物聯(lián)網(wǎng)或沉浸式體驗的邊緣計算應(yīng)用，并且到2025年，75%的數(shù)據(jù)將產(chǎn)生在邊緣。

AI芯片作為實現(xiàn)邊緣AI的核心，是承載AI的硬件基礎(chǔ)。近年來，全球領(lǐng)先的高性能模擬技術(shù)公司ADI一直致力于將人工智能推向邊緣端，為ML/DL真正融入邊緣智能而努力。在產(chǎn)品方面，ADI推出了集成神經(jīng)網(wǎng)絡(luò)加速器的低功耗微控制器——MAX78000，成為高能效AI處理與超低功耗微控制器相結(jié)合的AI MCU重要典范。

MAX78000的性能優(yōu)勢和應(yīng)用

MAX78000是一款超低功耗神經(jīng)網(wǎng)絡(luò)微控制器，內(nèi)置硬件CNN加速器、雙微核、存儲器、SIMO和多通信接口，ADI公司資深業(yè)務(wù)經(jīng)理李勇在接受電子發(fā)燒友采訪的時候表示，該款產(chǎn)品在算力、功耗、延遲和集成度等方面實現(xiàn)了關(guān)鍵性能的平衡。

具體來看，MAX78000擁有專門的CNN加速器（搭載64個CNN處理器），支持最多64的卷積層數(shù)和1024通道數(shù)，權(quán)重存儲空間為442KB（最大可支持350萬個權(quán)重位）。支持AI網(wǎng)絡(luò)實時更新，支持PyTorch和TensorFlow常規(guī)工具集訓(xùn)練。

MAX78000搭載了Arm Cortex-M4F和32位RISC-V兩個MCU核心用于系統(tǒng)控制。其中Arm Cortex-M4F處理器以100MHz運行，客戶可編寫任何系統(tǒng)管理代碼；RISC-V處理器的獨特功能是支持以低功耗將數(shù)據(jù)快速加載到神經(jīng)網(wǎng)絡(luò)加速器，用戶可使用任何一種微控制器內(nèi)核將數(shù)據(jù)輸入到卷積神經(jīng)網(wǎng)絡(luò)的引擎中。

MAX78000還具有低功耗、低延遲、低成本、高集成度優(yōu)勢。在低功耗方面，將硬件CNN加速器與超低功耗雙微控制器相結(jié)合，相較于MCU+DSP解決方案，邊緣AI定制的硬件加速器可將功耗降低99%以上。與運行在低功耗微控制器上的軟件解決方案相比，在配置并加載了數(shù)據(jù)后，MAX78000運行AI推理的速度快了100倍，功耗卻不到其1%。

在低延遲方面，相較于純MCU方案，邊緣AI定制的硬件加速器具備更高數(shù)據(jù)吞吐量，可將速度提高100倍以上。在成本方面，MAX78000遠(yuǎn)低于FPGA等方案，略高于常規(guī)MCU，但可以處理更復(fù)雜的細(xì)節(jié)。在高度集成方面，集成的神經(jīng)網(wǎng)絡(luò)加速器與低功耗微控制器使得在電池供電的IoT設(shè)備中實現(xiàn)復(fù)雜、實時的AI功能成為可能。

據(jù)李勇介紹，MAX78000的應(yīng)用領(lǐng)域主要聚焦在視覺識別、聲音識別、監(jiān)測識別等三方面。視覺識別主要包括VGA圖像分析、物體偵測、面部識別；聲音識別主要包括語音喚醒、語音身份驗證、聲音降噪；監(jiān)測識別主要包括心率監(jiān)測、腦電波監(jiān)測、工業(yè)預(yù)防。

他進(jìn)一步解釋，AI技術(shù)是一種強(qiáng)大的模式識別技術(shù)，需要進(jìn)行大量的矩陣運算，以及大量的存儲空間和系統(tǒng)功耗。邊緣AI作為在設(shè)備本地執(zhí)行的AI，通常需要使用電池進(jìn)行供電，因此要在系統(tǒng)功耗、計算速度和設(shè)備成本之間取得平衡。

ADI的MAX78000 AI MCU通過獨特的架構(gòu)設(shè)計實現(xiàn)了上述要求，能夠為機(jī)器視覺、面部識別、目標(biāo)檢測和分類、時序數(shù)據(jù)處理和音頻處理等應(yīng)用提供理想選擇。目前，MAX78000已在森林防火監(jiān)測、地質(zhì)災(zāi)害監(jiān)測以及智能家居等領(lǐng)域獲得廣泛應(yīng)用。

在李勇看來，未來，諸如MAX78000這類AI MCU的應(yīng)用，還將會向新興的AIoT、運動健康、遠(yuǎn)程醫(yī)療、自動駕駛、機(jī)器人與自動化、工業(yè)制造、智慧樓宇/園區(qū)/城市，以及各行業(yè)的安全監(jiān)測等場景拓展，如各類圖像識別，頭盔攝像頭、助聽器的語音控制，以及風(fēng)力發(fā)電設(shè)備安全監(jiān)測的預(yù)測性維護(hù)等。

MAX78000如何解決邊緣AI的落地難題

從芯片層面來看，邊緣AI的落地難題，主要與算力、算法、功耗、延遲、集成度和成本等因素有較大關(guān)系。具體來看，在算力方面，相較于云端服務(wù)器，邊緣節(jié)點的AI算力資源配置往往有限，無法滿足邊緣側(cè)AI的應(yīng)用。李勇表示，ADI的MAX78000 AI MCU配備了專門的神經(jīng)網(wǎng)絡(luò)加速器，從硬件層面可以大幅提升邊緣算力。

在算法方面，由于軟硬件異構(gòu)、接口限制等因素，算法適配往往很難。MAX78000針對語音與人臉識別等應(yīng)用從產(chǎn)品方案、接口配置到工具優(yōu)化，以及生態(tài)上均提供了豐富支持，比如，智能識別數(shù)據(jù)的收集和數(shù)學(xué)模型的建立跟訓(xùn)練很重要，為此ADI提供了聲音識別和face ID識別demo程序供客戶下載和學(xué)習(xí)，客戶僅需在其基礎(chǔ)上進(jìn)行修改。此外，ADI擁有非常有經(jīng)驗的第三方生態(tài)伙伴，能夠提供數(shù)學(xué)模型的訓(xùn)練與數(shù)據(jù)的收集。

在功耗方面，大量邊緣AI應(yīng)用常常導(dǎo)致設(shè)備功耗高企。而MAX78000基于CNN加速器和雙核處理器架構(gòu)，數(shù)據(jù)無需消耗高功耗上傳，即可完成智能決策，同時還支持高效的片內(nèi)電源管理，集成單電感多輸出（SIMO）開關(guān)模式電源，能夠有效降低器件功耗，延長電池供電IoT設(shè)備的續(xù)航時間。

在延遲方面，邊緣端設(shè)備監(jiān)測的各種數(shù)據(jù)通過網(wǎng)絡(luò)傳輸?shù)皆贫耍坏捠芟?，就可能出現(xiàn)無法容忍的延遲問題。但與常規(guī)軟件解決方案相比，MAX78000在配置并加載了數(shù)據(jù)后，運行AI推理的速度能夠提升100倍。

在集成度方面，邊緣AI應(yīng)用如可穿戴設(shè)備需要產(chǎn)品集成度高、體積小，但基于MCU或GPU或FPGA的方案往往較大，不符合應(yīng)用的尺寸需要。另外，這些方案通常要配備片外存儲器、PMIC，方案無論成本、尺寸還是功耗都具有很大挑戰(zhàn)性。MAX78000則能兼顧小而全和小而優(yōu)。

在成本方面，基于云計算的邊緣智能可能只適合一些大企業(yè)的應(yīng)用，例如幾萬個、幾十萬個客戶來支持一個服務(wù)器，這樣才能夠支撐云端的成本。但很顯然，這對于邊緣AI設(shè)備來說不現(xiàn)實，而MAX78000卻能實現(xiàn)很多基本的控制應(yīng)用，讓邊緣端的自主智能更具成本效應(yīng)。

具體來看幾個案例，比如，森林火災(zāi)，公路、鐵路或大壩塌方等災(zāi)害現(xiàn)場往往地處偏僻，通信網(wǎng)絡(luò)帶寬受限，但快速決策和預(yù)警非常關(guān)鍵，因此必須進(jìn)行邊緣端快速判定。對于此類應(yīng)用時間敏感性非常高，傳統(tǒng)的云端監(jiān)測，可能需要發(fā)送一組圖片到云端，對網(wǎng)絡(luò)流量要求比較高。而更靠近數(shù)據(jù)源的邊緣計算不僅能提供低時延、高可靠服務(wù)，還能夠保障數(shù)據(jù)處理的實時性。

MAX78000因為擁有雙核處理器架構(gòu)，并搭載獨立的CNN加速器，大幅提升邊緣AI算力。通過監(jiān)測端自主智能識別，一旦有突發(fā)情況出現(xiàn)，MAX78000能夠快速分析決策并告警，避免更嚴(yán)重的災(zāi)害損失發(fā)生。

再比如，當(dāng)前市場通用的MCU或FPGA的智能解決方案，在電池供電的低功耗邊緣端智能應(yīng)用中仍面臨巨大挑戰(zhàn)，比如任何一次更換電池的運維成本可能比設(shè)備本身更貴。由此，低功耗正成為目前眾多邊緣智能應(yīng)用場景的關(guān)鍵要求。

市場急需像MAX78000這樣的具超低功耗特性的新一代邊緣AI解決方案：首先，MAX78000的邊緣智能決策能力，避免了頻繁的數(shù)據(jù)傳輸、數(shù)據(jù)采集導(dǎo)致的高功耗；其次，MAX78000提供高效的片內(nèi)電源管理，集成單電感多輸出（SIMO）開關(guān)模式電源，可最大限度地延長電池供電物聯(lián)網(wǎng)設(shè)備的續(xù)航時間和降低成本。

邊緣AI芯片的未來趨勢

從目前的情況來看，邊緣AI正在快速崛起，2022年或?qū)⒊蔀槠浔l(fā)元年。知名市場研究公司Forrester預(yù)測，在2022年，智能基礎(chǔ)設(shè)施的投資將增加40% 。

在ADI看來，終端設(shè)備爆發(fā)疊加產(chǎn)業(yè)數(shù)智化轉(zhuǎn)型契機(jī)，越來越多的邊緣設(shè)備將需要具備一定的“學(xué)習(xí)”能力，能夠根據(jù)收集到的新數(shù)據(jù)在本地分析、訓(xùn)練、優(yōu)化和更新模型。當(dāng)然，這也會對邊緣設(shè)備以及整個AI實現(xiàn)系統(tǒng)提出一系列新要求。一方面，邊緣AI芯片作為人工智能的底層硬件支撐，需要與其他元器件一起協(xié)同工作，才能將AI效率推向極致；另一方面，除了硬件，軟件也是實現(xiàn)AI的核心。因此，未來AI芯片必須具備一個重要特性，那就是能夠?qū)崟r動態(tài)改變功能，滿足軟件不斷變化的計算需求，即“軟件定義芯片”。