電子發(fā)燒友網(wǎng)報(bào)道（文/李彎彎）隨著物聯(lián)網(wǎng)設(shè)備爆發(fā)式增長(zhǎng)，海量數(shù)據(jù)將在邊緣側(cè)積累，邊緣AI進(jìn)入蓬勃發(fā)展期。Gartner預(yù)測(cè)，到2023年，將有50%以上的大型企業(yè)將至少部署6個(gè)用于物聯(lián)網(wǎng)或沉浸式體驗(yàn)的邊緣計(jì)算應(yīng)用，并且到2025年，75%的數(shù)據(jù)將產(chǎn)生在邊緣。

AI芯片作為實(shí)現(xiàn)邊緣AI的核心，是承載AI的硬件基礎(chǔ)。近年來(lái)，全球領(lǐng)先的高性能模擬技術(shù)公司ADI一直致力于將人工智能推向邊緣端，為ML/DL真正融入邊緣智能而努力。在產(chǎn)品方面，ADI推出了集成神經(jīng)網(wǎng)絡(luò)加速器的低功耗微控制器——MAX78000，成為高能效AI處理與超低功耗微控制器相結(jié)合的AI MCU重要典范。

MAX78000的性能優(yōu)勢(shì)和應(yīng)用

MAX78000是一款超低功耗神經(jīng)網(wǎng)絡(luò)微控制器，內(nèi)置硬件CNN加速器、雙微核、存儲(chǔ)器、SIMO和多通信接口，ADI公司資深業(yè)務(wù)經(jīng)理李勇在接受電子發(fā)燒友采訪的時(shí)候表示，該款產(chǎn)品在算力、功耗、延遲和集成度等方面實(shí)現(xiàn)了關(guān)鍵性能的平衡。

具體來(lái)看，MAX78000擁有專門的CNN加速器（搭載64個(gè)CNN處理器），支持最多64的卷積層數(shù)和1024通道數(shù)，權(quán)重存儲(chǔ)空間為442KB（最大可支持350萬(wàn)個(gè)權(quán)重位）。支持AI網(wǎng)絡(luò)實(shí)時(shí)更新，支持PyTorch和TensorFlow常規(guī)工具集訓(xùn)練。

MAX78000搭載了Arm Cortex-M4F和32位RISC-V兩個(gè)MCU核心用于系統(tǒng)控制。其中Arm Cortex-M4F處理器以100MHz運(yùn)行，客戶可編寫任何系統(tǒng)管理代碼；RISC-V處理器的獨(dú)特功能是支持以低功耗將數(shù)據(jù)快速加載到神經(jīng)網(wǎng)絡(luò)加速器，用戶可使用任何一種微控制器內(nèi)核將數(shù)據(jù)輸入到卷積神經(jīng)網(wǎng)絡(luò)的引擎中。

MAX78000還具有低功耗、低延遲、低成本、高集成度優(yōu)勢(shì)。在低功耗方面，將硬件CNN加速器與超低功耗雙微控制器相結(jié)合，相較于MCU+DSP解決方案，邊緣AI定制的硬件加速器可將功耗降低99%以上。與運(yùn)行在低功耗微控制器上的軟件解決方案相比，在配置并加載了數(shù)據(jù)后，MAX78000運(yùn)行AI推理的速度快了100倍，功耗卻不到其1%。

在低延遲方面，相較于純MCU方案，邊緣AI定制的硬件加速器具備更高數(shù)據(jù)吞吐量，可將速度提高100倍以上。在成本方面，MAX78000遠(yuǎn)低于FPGA等方案，略高于常規(guī)MCU，但可以處理更復(fù)雜的細(xì)節(jié)。在高度集成方面，集成的神經(jīng)網(wǎng)絡(luò)加速器與低功耗微控制器使得在電池供電的IoT設(shè)備中實(shí)現(xiàn)復(fù)雜、實(shí)時(shí)的AI功能成為可能。

據(jù)李勇介紹，MAX78000的應(yīng)用領(lǐng)域主要聚焦在視覺識(shí)別、聲音識(shí)別、監(jiān)測(cè)識(shí)別等三方面。視覺識(shí)別主要包括VGA圖像分析、物體偵測(cè)、面部識(shí)別；聲音識(shí)別主要包括語(yǔ)音喚醒、語(yǔ)音身份驗(yàn)證、聲音降噪；監(jiān)測(cè)識(shí)別主要包括心率監(jiān)測(cè)、腦電波監(jiān)測(cè)、工業(yè)預(yù)防。

他進(jìn)一步解釋，AI技術(shù)是一種強(qiáng)大的模式識(shí)別技術(shù)，需要進(jìn)行大量的矩陣運(yùn)算，以及大量的存儲(chǔ)空間和系統(tǒng)功耗。邊緣AI作為在設(shè)備本地執(zhí)行的AI，通常需要使用電池進(jìn)行供電，因此要在系統(tǒng)功耗、計(jì)算速度和設(shè)備成本之間取得平衡。

ADI的MAX78000 AI MCU通過(guò)獨(dú)特的架構(gòu)設(shè)計(jì)實(shí)現(xiàn)了上述要求，能夠?yàn)?a href="http://www.brongaenegriffin.com/tags/機(jī)器視覺/" target="_blank">機(jī)器視覺、面部識(shí)別、目標(biāo)檢測(cè)和分類、時(shí)序數(shù)據(jù)處理和音頻處理等應(yīng)用提供理想選擇。目前，MAX78000已在森林防火監(jiān)測(cè)、地質(zhì)災(zāi)害監(jiān)測(cè)以及智能家居等領(lǐng)域獲得廣泛應(yīng)用。

在李勇看來(lái)，未來(lái)，諸如MAX78000這類AI MCU的應(yīng)用，還將會(huì)向新興的AIoT、運(yùn)動(dòng)健康、遠(yuǎn)程醫(yī)療、自動(dòng)駕駛、機(jī)器人與自動(dòng)化、工業(yè)制造、智慧樓宇/園區(qū)/城市，以及各行業(yè)的安全監(jiān)測(cè)等場(chǎng)景拓展，如各類圖像識(shí)別，頭盔攝像頭、助聽器的語(yǔ)音控制，以及風(fēng)力發(fā)電設(shè)備安全監(jiān)測(cè)的預(yù)測(cè)性維護(hù)等。

MAX78000如何解決邊緣AI的落地難題

從芯片層面來(lái)看，邊緣AI的落地難題，主要與算力、算法、功耗、延遲、集成度和成本等因素有較大關(guān)系。具體來(lái)看，在算力方面，相較于云端服務(wù)器，邊緣節(jié)點(diǎn)的AI算力資源配置往往有限，無(wú)法滿足邊緣側(cè)AI的應(yīng)用。李勇表示，ADI的MAX78000 AI MCU配備了專門的神經(jīng)網(wǎng)絡(luò)加速器，從硬件層面可以大幅提升邊緣算力。

在算法方面，由于軟硬件異構(gòu)、接口限制等因素，算法適配往往很難。MAX78000針對(duì)語(yǔ)音與人臉識(shí)別等應(yīng)用從產(chǎn)品方案、接口配置到工具優(yōu)化，以及生態(tài)上均提供了豐富支持，比如，智能識(shí)別數(shù)據(jù)的收集和數(shù)學(xué)模型的建立跟訓(xùn)練很重要，為此ADI提供了聲音識(shí)別和face ID識(shí)別demo程序供客戶下載和學(xué)習(xí)，客戶僅需在其基礎(chǔ)上進(jìn)行修改。此外，ADI擁有非常有經(jīng)驗(yàn)的第三方生態(tài)伙伴，能夠提供數(shù)學(xué)模型的訓(xùn)練與數(shù)據(jù)的收集。

在功耗方面，大量邊緣AI應(yīng)用常常導(dǎo)致設(shè)備功耗高企。而MAX78000基于CNN加速器和雙核處理器架構(gòu)，數(shù)據(jù)無(wú)需消耗高功耗上傳，即可完成智能決策，同時(shí)還支持高效的片內(nèi)電源管理，集成單電感多輸出（SIMO）開關(guān)模式電源，能夠有效降低器件功耗，延長(zhǎng)電池供電IoT設(shè)備的續(xù)航時(shí)間。

在延遲方面，邊緣端設(shè)備監(jiān)測(cè)的各種數(shù)據(jù)通過(guò)網(wǎng)絡(luò)傳輸?shù)皆贫耍坏捠芟?，就可能出現(xiàn)無(wú)法容忍的延遲問(wèn)題。但與常規(guī)軟件解決方案相比，MAX78000在配置并加載了數(shù)據(jù)后，運(yùn)行AI推理的速度能夠提升100倍。

在集成度方面，邊緣AI應(yīng)用如可穿戴設(shè)備需要產(chǎn)品集成度高、體積小，但基于MCU或GPU或FPGA的方案往往較大，不符合應(yīng)用的尺寸需要。另外，這些方案通常要配備片外存儲(chǔ)器、PMIC，方案無(wú)論成本、尺寸還是功耗都具有很大挑戰(zhàn)性。MAX78000則能兼顧小而全和小而優(yōu)。

在成本方面，基于云計(jì)算的邊緣智能可能只適合一些大企業(yè)的應(yīng)用，例如幾萬(wàn)個(gè)、幾十萬(wàn)個(gè)客戶來(lái)支持一個(gè)服務(wù)器，這樣才能夠支撐云端的成本。但很顯然，這對(duì)于邊緣AI設(shè)備來(lái)說(shuō)不現(xiàn)實(shí)，而MAX78000卻能實(shí)現(xiàn)很多基本的控制應(yīng)用，讓邊緣端的自主智能更具成本效應(yīng)。

具體來(lái)看幾個(gè)案例，比如，森林火災(zāi)，公路、鐵路或大壩塌方等災(zāi)害現(xiàn)場(chǎng)往往地處偏僻，通信網(wǎng)絡(luò)帶寬受限，但快速?zèng)Q策和預(yù)警非常關(guān)鍵，因此必須進(jìn)行邊緣端快速判定。對(duì)于此類應(yīng)用時(shí)間敏感性非常高，傳統(tǒng)的云端監(jiān)測(cè)，可能需要發(fā)送一組圖片到云端，對(duì)網(wǎng)絡(luò)流量要求比較高。而更靠近數(shù)據(jù)源的邊緣計(jì)算不僅能提供低時(shí)延、高可靠服務(wù)，還能夠保障數(shù)據(jù)處理的實(shí)時(shí)性。

MAX78000因?yàn)閾碛须p核處理器架構(gòu)，并搭載獨(dú)立的CNN加速器，大幅提升邊緣AI算力。通過(guò)監(jiān)測(cè)端自主智能識(shí)別，一旦有突發(fā)情況出現(xiàn)，MAX78000能夠快速分析決策并告警，避免更嚴(yán)重的災(zāi)害損失發(fā)生。

再比如，當(dāng)前市場(chǎng)通用的MCU或FPGA的智能解決方案，在電池供電的低功耗邊緣端智能應(yīng)用中仍面臨巨大挑戰(zhàn)，比如任何一次更換電池的運(yùn)維成本可能比設(shè)備本身更貴。由此，低功耗正成為目前眾多邊緣智能應(yīng)用場(chǎng)景的關(guān)鍵要求。

市場(chǎng)急需像MAX78000這樣的具超低功耗特性的新一代邊緣AI解決方案：首先，MAX78000的邊緣智能決策能力，避免了頻繁的數(shù)據(jù)傳輸、數(shù)據(jù)采集導(dǎo)致的高功耗；其次，MAX78000提供高效的片內(nèi)電源管理，集成單電感多輸出（SIMO）開關(guān)模式電源，可最大限度地延長(zhǎng)電池供電物聯(lián)網(wǎng)設(shè)備的續(xù)航時(shí)間和降低成本。

邊緣AI芯片的未來(lái)趨勢(shì)

從目前的情況來(lái)看，邊緣AI正在快速崛起，2022年或?qū)⒊蔀槠浔l(fā)元年。知名市場(chǎng)研究公司Forrester預(yù)測(cè)，在2022年，智能基礎(chǔ)設(shè)施的投資將增加40% 。

在ADI看來(lái)，終端設(shè)備爆發(fā)疊加產(chǎn)業(yè)數(shù)智化轉(zhuǎn)型契機(jī)，越來(lái)越多的邊緣設(shè)備將需要具備一定的“學(xué)習(xí)”能力，能夠根據(jù)收集到的新數(shù)據(jù)在本地分析、訓(xùn)練、優(yōu)化和更新模型。當(dāng)然，這也會(huì)對(duì)邊緣設(shè)備以及整個(gè)AI實(shí)現(xiàn)系統(tǒng)提出一系列新要求。一方面，邊緣AI芯片作為人工智能的底層硬件支撐，需要與其他元器件一起協(xié)同工作，才能將AI效率推向極致；另一方面，除了硬件，軟件也是實(shí)現(xiàn)AI的核心。因此，未來(lái)AI芯片必須具備一個(gè)重要特性，那就是能夠?qū)崟r(shí)動(dòng)態(tài)改變功能，滿足軟件不斷變化的計(jì)算需求，即“軟件定義芯片”。