TinyML是深度學(xué)習(xí)和人工智能領(lǐng)域的最新技術(shù)。它帶來了在隨處可見的微控制器（幾乎是最小的電子芯片）中運(yùn)行機(jī)器學(xué)習(xí)模型的能力。

微控制器是我們每天使用的許多設(shè)備的大腦。從電視遙控器到電梯再到智能揚(yáng)聲器，它們無處不在?？梢园l(fā)射遙測數(shù)據(jù)的多個(gè)傳感器連接到微控制器。執(zhí)行器，例如開關(guān)和電動機(jī)，也連接到同一微控制器。它帶有嵌入式代碼，可以從傳感器獲取數(shù)據(jù)并控制執(zhí)行器。

TinyML的興起標(biāo)志著終端用戶消費(fèi)人工智能方式的重大轉(zhuǎn)變。來自硬件和軟件行業(yè)的供應(yīng)商正在合作將人工智能模型引入微控制器。

在電子設(shè)備中運(yùn)行復(fù)雜的深度學(xué)習(xí)模型的能力開辟了許多途徑。TinyML不需要邊緣、云或互聯(lián)網(wǎng)連接。它在同一個(gè)微控制器上本地運(yùn)行，該微控制器具有管理連接的傳感器和執(zhí)行器的邏輯。

TinyML的演變

第1階段-云中的AI

在AI的早期，機(jī)器學(xué)習(xí)模型是在云中訓(xùn)練和托管的。運(yùn)行AI所需的強(qiáng)大計(jì)算能力使云成為理想的選擇。開發(fā)人員和數(shù)據(jù)科學(xué)家利用高端CPU和GPU訓(xùn)練模型，然后托管它們以進(jìn)行推理。每個(gè)消耗AI的應(yīng)用程序都與云對話。該應(yīng)用程序?qū)⑴c微控制器通信以管理傳感器和執(zhí)行器。

第二階段-邊緣人工智能

雖然云仍然是人工智能的邏輯家園，但它確實(shí)在消耗深度學(xué)習(xí)模型的同時(shí)引入了延遲。想象一下，每次與智能揚(yáng)聲器通話時(shí)，請求都會被云處理。往返行程中的延誤扼殺了體驗(yàn)。其他場景，如工業(yè)自動化、智能醫(yī)療、聯(lián)網(wǎng)車輛等，都要求人工智能模型在本地運(yùn)行。

邊緣計(jì)算（云和本地物聯(lián)網(wǎng)設(shè)備之間的管道）已成為在本地托管AI模型的理想選擇。在邊緣運(yùn)行的AI不會遭受在云中運(yùn)行相同AI所帶來的延遲。

但是，鑒于邊緣資源有限，培訓(xùn)和再培訓(xùn)模型仍然需要云。可以在邊緣托管經(jīng)過訓(xùn)練的模型，以進(jìn)行推理（使用機(jī)器學(xué)習(xí)模型的過程），而不用于訓(xùn)練。因此，在云中訓(xùn)練模型并將其部署在邊緣變得很普遍。這種方法提供了兩全其美的優(yōu)勢-用于訓(xùn)練的強(qiáng)大計(jì)算環(huán)境（云）和用于推理的低延遲托管環(huán)境（邊緣）。

在邊緣使用AI時(shí)，微控制器從連接的傳感器獲取遙測，然后將遙測發(fā)送到本地部署的模型以通過應(yīng)用程序進(jìn)行推理。然后，模型返回輸入數(shù)據(jù)的預(yù)測或分類，用于確定后續(xù)步驟。

階段3-微控制器中的AI

雖然在許多情況下在邊緣運(yùn)行AI是一個(gè)完美的解決方案，但是在某些情況下，部署邊緣計(jì)算層是不切實(shí)際的。例如，將諸如智能揚(yáng)聲器和遙控器之類的消費(fèi)類設(shè)備連接到邊緣是過大的選擇。這增加了設(shè)備的總擁有成本和供應(yīng)商的支持成本。但是這些消費(fèi)類設(shè)備是注入AI功能的溫床。

在工業(yè)場景中，預(yù)測性維護(hù)已成為設(shè)備的重要組成部分。昂貴的機(jī)械設(shè)備需要嵌入能夠?qū)崟r(shí)檢測異常的機(jī)器學(xué)習(xí)模型，以提供預(yù)測性維護(hù)。通過主動檢測故障，客戶可以節(jié)省數(shù)百萬美元的維護(hù)成本。

直接在微控制器中嵌入AI成為消費(fèi)和工業(yè)物聯(lián)網(wǎng)場景的關(guān)鍵。這種方法不依賴于外部應(yīng)用程序，邊緣計(jì)算層或云。AI模型與嵌入到微控制器的嵌入式代碼一起運(yùn)行。它成為提供無與倫比的速度的整體邏輯的組成部分。

傳統(tǒng)上，機(jī)器學(xué)習(xí)模型始終部署在資源豐富的環(huán)境中。由于TinyML模型可以嵌入微控制器中，因此它們不會占用大量資源。這種方法是將AI注入物聯(lián)網(wǎng)設(shè)備的最有效，最具成本效益的方法。

TinyML不斷發(fā)展的生態(tài)系統(tǒng)

盡管TinyML尚處于起步階段，但正在形成一個(gè)充滿活力的生態(tài)系統(tǒng)。電子芯片和物聯(lián)網(wǎng)套件制造商（例如Adafruit，聯(lián)發(fā)科技，Arduino和STM）正在其設(shè)備中支持TinyML。微軟的Azure Sphere（安全微控制器）也可以運(yùn)行TinyML模型。TensorFlow Lite是流行的開源深度學(xué)習(xí)框架的變體，可以移植到支持的設(shè)備上。另一個(gè)開源機(jī)器學(xué)習(xí)編譯器和運(yùn)行時(shí)Apache TVM也可以用于將模型轉(zhuǎn)換為TinyML。

Always AI、Cartesiam、EdgeImpulse、OctoML和Queexo等新興的AutoML和TinyML平臺正在構(gòu)建工具和開發(fā)環(huán)境，以簡化針對微控制器的訓(xùn)練和優(yōu)化模型的過程。

TinyML使AI無處不在，并可供消費(fèi)者使用。它將為我們每天使用的數(shù)百萬種設(shè)備帶來智能。
責(zé)任編輯：YYX