今天，人工智能 (AI) 正在以超乎想象的速度迅猛發(fā)展，在這一大背景下，有兩大趨勢(shì)特別值得關(guān)注：一個(gè)趨勢(shì)是近兩年基于大模型的生成式AI的狂飆突進(jìn)，向我們展示著AI的無限可能；另一趨勢(shì)則是AI技術(shù)不斷“下沉”，轉(zhuǎn)向網(wǎng)絡(luò)的“邊緣”，邊緣AI的興起正在將AI帶入更多的應(yīng)用場(chǎng)景，讓AI變得觸手可及。

所謂邊緣AI，顧名思義就是基于邊緣計(jì)算的AI技術(shù)。眾所周知，在AI發(fā)展早期，由于需要大量的算力支撐，因此使用云端集中式的數(shù)據(jù)處理能力進(jìn)行AI數(shù)據(jù)的訓(xùn)練和推理，是很自然的選擇。不過，隨著技術(shù)和市場(chǎng)的發(fā)展，這種云計(jì)算型AI的局限性也逐漸顯現(xiàn)出來。

首先，云計(jì)算型AI對(duì)網(wǎng)絡(luò)的依賴性太強(qiáng)，大量原始數(shù)據(jù)需要上傳至云端處理，這不僅需要占有更多的帶寬資源，在斷網(wǎng)時(shí)還會(huì)直接導(dǎo)致AI應(yīng)用停擺；其次，云計(jì)算型AI的延遲較高，這使其難于勝任需要實(shí)時(shí)響應(yīng)的應(yīng)用；再有，在數(shù)據(jù)傳輸?shù)倪^程中，還會(huì)存在信息安全和隱私泄露的風(fēng)險(xiǎn)。這些弱點(diǎn)在普通的消費(fèi)級(jí)應(yīng)用中也許并不明顯，但在工業(yè)、自動(dòng)駕駛、醫(yī)療等對(duì)實(shí)時(shí)處理、數(shù)據(jù)安全和低延遲特性更為敏感的領(lǐng)域，則是致命的短板。

而這種短板，恰恰為邊緣AI的發(fā)展帶來了契機(jī)——邊緣AI無需依賴云端服務(wù)器或網(wǎng)絡(luò)，即可在獨(dú)立的邊緣設(shè)備上執(zhí)行實(shí)時(shí)訓(xùn)練和推理任務(wù)，將大大擴(kuò)展AI的應(yīng)用領(lǐng)域；同時(shí)，由于AI的生成和部署、數(shù)據(jù)處理都在網(wǎng)絡(luò)邊緣端的本地設(shè)備上進(jìn)行，可以極大地降低延遲，并從源頭上保障數(shù)據(jù)的隱私安全。

正是由于具有這樣獨(dú)特的優(yōu)勢(shì)，如今邊緣AI已成為一個(gè)極具潛力的市場(chǎng)。國(guó)際數(shù)據(jù)公司 (IDC) 的研究顯示，2025年全球邊緣計(jì)算解決方案支出將接近2,610億美元，預(yù)計(jì)未來將以13.8%的年復(fù)合增長(zhǎng)率快速增長(zhǎng)，到2028年達(dá)到3,800億美元，其中邊緣AI的發(fā)展將是核心的推動(dòng)力。

創(chuàng)新的端點(diǎn)AI技術(shù)

在開發(fā)者的心目中，一個(gè)理想的邊緣AI解決方案，應(yīng)該具備以下幾個(gè)特點(diǎn)：

1無需網(wǎng)絡(luò)連接即可獨(dú)立工作，在本地設(shè)備上完成推理，更大限度地縮短通信延遲。

2能夠進(jìn)行現(xiàn)場(chǎng)訓(xùn)練，可基于設(shè)備的安裝環(huán)境和運(yùn)行狀況（如噪音、振動(dòng)和溫濕度）等信息進(jìn)行高速現(xiàn)場(chǎng)學(xué)習(xí)，生成定制化的模型。

3可同時(shí)執(zhí)行Al以外計(jì)算處理任務(wù)，以完成其他設(shè)備控制工作。

不過，理想雖然豐滿，現(xiàn)實(shí)卻很骨感：在海量的邊緣計(jì)算場(chǎng)景中，開發(fā)者面對(duì)的是算力有限的設(shè)備，它們大都采用嵌入式MPU或MCU作為主控芯片，想要在這些器件上面跑AI，并不容易，需要從軟件到硬件、從芯片到系統(tǒng)進(jìn)行全面地優(yōu)化，這樣才能為邊緣AI的落地提供一片技術(shù)沃土。

為此，ROHM Semiconductor(以下簡(jiǎn)稱ROHM) 推出了一個(gè)創(chuàng)新的端點(diǎn)AI技術(shù)——Solist-AI，專為邊緣計(jì)算領(lǐng)域提供端側(cè)AI解決方案。

Solist-AI的名稱源自音樂術(shù)語(yǔ)“獨(dú)奏者”，這意味著其無需依賴云端服務(wù)器，即可在獨(dú)立的邊緣設(shè)備上執(zhí)行實(shí)時(shí)訓(xùn)練和推理處理，且具有體積小、功耗低等特點(diǎn)，與云計(jì)算型AI和傳統(tǒng)的基于邊緣AI計(jì)算機(jī)的方案相比，優(yōu)勢(shì)十分明顯。

圖1：Solist-AI端點(diǎn)AI技術(shù)優(yōu)勢(shì)（圖源：ROHM Semiconductor）

上述這些特點(diǎn)，使得Solist-AI技術(shù)非常適合于兩類典型應(yīng)用：

預(yù)測(cè)性維護(hù)：基于正常數(shù)據(jù)進(jìn)行訓(xùn)練以構(gòu)建AI模型，并基于該AI模型檢測(cè)出設(shè)備或系統(tǒng)運(yùn)行異常的征兆，及時(shí)進(jìn)行維護(hù)。

劣化預(yù)測(cè)：通過對(duì)預(yù)先訓(xùn)練好的AI模型進(jìn)行增量訓(xùn)練，將其升級(jí)為與現(xiàn)場(chǎng)適配的“定制”AI模型，并基于該定制模型對(duì)設(shè)備壽命或工作完成時(shí)間進(jìn)行預(yù)測(cè)。

由此不難看出，在電機(jī)軸承損傷檢測(cè)、電池老化和剩余電量預(yù)測(cè)、服務(wù)器異常發(fā)熱檢測(cè)、缺陷產(chǎn)品篩選、基礎(chǔ)設(shè)施的維護(hù)，以及獨(dú)居老人和臥床患者的看護(hù)等領(lǐng)域，Solist-AI技術(shù)都可大展身手！

獨(dú)特的Solist-AI微控制器

如果你覺得以上的介紹還有點(diǎn)抽象，下面我們就來詳細(xì)解析“創(chuàng)新的端點(diǎn)AI技術(shù)，Solist-AI是如何做到的”。

圖2：Solist-AI系統(tǒng)示意圖（圖源：ROHM Semiconductor）

從上圖可以看出，基于Solist-AI的端點(diǎn)AI系統(tǒng)的核心，是一款“Solist-AI微控制器”(如ML63Q25x-NNNx系列微控制器)，它具有軟、硬件兩大“法寶”，使其能夠在設(shè)備端絲滑地實(shí)現(xiàn)AI訓(xùn)練和推理功能。

硬件層面，Solist-AI微控制器除了常規(guī)的嵌入式處理功能（包括Arm Cortex-M0+處理器、外設(shè)功能、片上存儲(chǔ)等），還特別集成了一個(gè)AI硬件加速器AxlCORE-ODL，它能夠高速實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)處理及FFT等數(shù)據(jù)的預(yù)處理，與基于軟件的傳統(tǒng)MCU相比，AI處理速度提高約1,000倍（12MHz運(yùn)行時(shí)的理論值），從而大幅減輕AI處理時(shí)MCU的負(fù)載，使得MCU有“余力”去完成AI之外的計(jì)算處理任務(wù)。

圖3：Solist-AI微控制器中集成了AxlCORE-ODL AI硬件加速器（圖源：ROHM Semiconductor）

軟件方面，Solist-AI微處理器采用了一種基于三層神經(jīng)網(wǎng)絡(luò)的極限學(xué)習(xí)機(jī)（Extreme learning machine, ELM）的優(yōu)化AI算法，該算法特別適合于基于硬件的運(yùn)算架構(gòu)，并能有效減少AI處理時(shí)的內(nèi)存消耗，其與AxlCORE-ODL硬件加速器相配合，提供了一種高能效的邊緣計(jì)算解決方案。

圖4：Solist-AI技術(shù)采用三層神經(jīng)網(wǎng)絡(luò)算法（圖源：ROHM Semiconductor）

總之，在AxlCORE-ODL硬件加速器和專門優(yōu)化的神經(jīng)網(wǎng)絡(luò)算法的加持下，Solist-AI微控制器具有獨(dú)立AI工作、設(shè)備端學(xué)習(xí)和增量訓(xùn)練，以及同時(shí)執(zhí)行AI以外處理任務(wù)等特點(diǎn)，與傳統(tǒng)的基于軟件的邊緣AI解決方案相比，優(yōu)勢(shì)盡顯。

圖5：Solist-AI技術(shù)與軟件解決方案比較（圖源：ROHM Semiconductor）

以ML63Q25x-NNNx MCU為例，該Solist-AI微控制器支持基于AI的實(shí)時(shí)運(yùn)行狀態(tài)監(jiān)控，在AI處理期間功耗低至40mW，同時(shí)可避免網(wǎng)絡(luò)延遲問題和安全風(fēng)險(xiǎn)，是工業(yè)應(yīng)用中異常檢測(cè)和預(yù)測(cè)性維護(hù)的理想選擇。

全面的開發(fā)生態(tài)支持

值得一提的是，Solist-AI微控制器是Solist-AI技術(shù)的核心，但并非是其全部。ROHM正在努力打造一個(gè)完整的Solist-AI技術(shù)生態(tài)，為邊緣AI應(yīng)用的開發(fā)提供全方位的支撐。

圖6：Solist-AI微控制器開發(fā)支持系統(tǒng)（圖源：ROHM Semiconductor）

在這個(gè)生態(tài)系統(tǒng)中，為了創(chuàng)建更高精度的AI模型，整合了一些開發(fā)利器，比如：

Solist-AISim

一款可在PC端驗(yàn)證Solist-AI功能的仿真工具，可以輕松確認(rèn)AI訓(xùn)練和推理結(jié)果，在短時(shí)間內(nèi)驗(yàn)證AI的應(yīng)用效果，單次仿真僅需數(shù)秒。目前，ROHM已公開發(fā)布用于異常檢測(cè)（無監(jiān)督訓(xùn)練）和預(yù)測(cè)或參數(shù)推測(cè)（監(jiān)督訓(xùn)練）的仿真工具。

Solist-AIScope

一款用于確認(rèn)實(shí)機(jī)工作情況的實(shí)用工具，能夠?qū)olist-AI微控制器內(nèi)部處理的數(shù)據(jù)以波形形式進(jìn)行顯示，便于實(shí)時(shí)查看輸入到AI的傳感器數(shù)據(jù)和從AI輸出的異常程度指標(biāo)，從而輕松驗(yàn)證AI是否按預(yù)期工作。

圖7：利用Solist-AISim和Solist-AIScope創(chuàng)建高精度的AI模型（圖源：ROHM Semiconductor）

此外，ROHM還提供與Solist-AI微控制器配套的參考板和評(píng)估板，以及用于嵌入式開發(fā)的LEXIDE-Ω集成開發(fā)環(huán)境，加上第三方Flash編程器等開發(fā)工具，營(yíng)造起了一個(gè)完整的開發(fā)生態(tài)。這些舉措的核心目的都是一個(gè)——幫助開發(fā)者在MCU上玩轉(zhuǎn)AI，讓邊緣AI能夠擴(kuò)展到越來越多的應(yīng)用場(chǎng)景。

本文小結(jié)

邊緣AI正在快速發(fā)展，目前正在從最初的“云端訓(xùn)練、邊緣推理”的模式，向更少云端資源依賴，模型訓(xùn)練、迭代、部署全流程邊緣化的“邊緣訓(xùn)練”模式升級(jí)，同時(shí)也在向更高層次的具備自主感知、自適應(yīng)調(diào)整學(xué)習(xí)能力的“自主機(jī)器學(xué)習(xí)”模式邁進(jìn)。

ROHM的Solist-AI技術(shù)，及其衍生出的新一代的邊緣AI微處理器和軟件開發(fā)工具，正是這樣的趨勢(shì)之選，助力工程師在邊緣AI的世界自由馳騁！

說明：文中“Solist-AI”是ROHM Co.，Ltd.的商標(biāo)或注冊(cè)商標(biāo)。