智能邊緣設備的大量涌現(xiàn)已從根本上改變了人與機器間的交互。智能設備可豐富用戶體驗，自動化日常工作，增強流程和工作流程，提高企業(yè)生產(chǎn)力，促進商業(yè)生產(chǎn)力和業(yè)務增長，并提高人類社會的整體幸福感。促成這些變化的一項基本技術(shù)是邊緣機器學習（ML）。通過將推理工作負載置于邊緣，可針對處理和電源資源有限的環(huán)境簡化并優(yōu)化機器學習實現(xiàn)。邊緣機器學習使智能更貼近終端設備，從而實現(xiàn)更快速更可靠的決策制定，同時維護數(shù)據(jù)安全與隱私。

ABI Research預測，2021年至2026年，具有邊緣機器學習功能的設備出貨量將以24.5%的平均復合增長率（CAGR）增長。開發(fā)人員深知該市場潛力，都希望能夠利用該技術(shù)，但在開發(fā)模型和產(chǎn)品時卻面臨著各種挑戰(zhàn)。值得慶幸的是，他們可以從不同邊緣機器學習解決方案提供商那里選擇適合自己的組件。

本白皮書概述了開發(fā)人員在為其邊緣機器學習項目選擇最佳處理解決方案時需要考慮的關鍵因素，即定制的處理性能、更高的能源效率、易于使用的開發(fā)環(huán)境、增強安全和廣泛的生態(tài)系統(tǒng)。關注這五個因素將有助于開發(fā)人員進行邊緣機器學習設計、開發(fā)和部署，并使其能夠抓住邊緣機器學習市場的增長機會。

邊緣機器學習和智能邊緣的興起

基于云的人工智能（AI）的普及已經(jīng)徹底改變了許多企業(yè)的決策制定過程。通過利用物聯(lián)網(wǎng)（IoT）的進步，企業(yè)實現(xiàn)了資產(chǎn)、工具和設備與云端數(shù)據(jù)采集平臺互連。利用這些平臺，企業(yè)可收集實時數(shù)據(jù)進行分析，以更好地了解其運營，同時發(fā)現(xiàn)實現(xiàn)進一步優(yōu)化、安全和自動化的機會。因此，基于云的人工智能已成為實現(xiàn)工作流程自動化和提高運營效率的關鍵工具。

多年來，互聯(lián)設備的使用呈爆炸式增長，全球物聯(lián)網(wǎng)連接總量從2014年的10億增長至2021年的86億，達到35.4%。

圖表1 ：全球物聯(lián)網(wǎng)連接以及數(shù)據(jù)和分析服務收入：2014至2021

邊緣互聯(lián)時代使人們對從這些設備提取數(shù)據(jù)并實時理解這些數(shù)據(jù)產(chǎn)生了強烈需求。企業(yè)開始采用基于云的人工智能服務和物聯(lián)網(wǎng)管理平臺，如實時數(shù)據(jù)流、采集和存儲、基于人工智能的數(shù)據(jù)分析以及描述性和預測性維護。

一般而言，人工智能主要有兩種類型，即基于規(guī)則的人工智能和基于機器學習的人工智能。

基于規(guī)則的人工智能模型為自動化決策制定系統(tǒng)，基于人類專家知識構(gòu)建而成。雖然這些人工智能系統(tǒng)可提供確定性輸出，但它們受限于人類知識水平。隨著企業(yè)開始采集更多數(shù)據(jù)，它們希望能夠了解所收集數(shù)據(jù)的含義，確定其環(huán)境并得出見解。然而，基于規(guī)則的人工智能模型并不是交付數(shù)據(jù)驅(qū)動型見解的理想選擇。

另一方面，基于機器學習的人工智能模型可實現(xiàn)這一功能。機器學習模型可基于其分析的數(shù)據(jù)得出見解。同時，此類模型還可以在數(shù)據(jù)分析過程中自動學習并提高自己的準確性。近幾年，一種基于深度神經(jīng)網(wǎng)絡（DNN）的機器學習技術(shù)越來越受歡迎，即深度學習（DL）。深度學習模型的目標是通過特征工程對大量數(shù)據(jù)進行多層處理，以識別其模式，優(yōu)化決策制定并獲得更準確的預測。

在機器學習開發(fā)的早期階段，機器學習開發(fā)人員將所有模型（包括訓練和推理工作負載）托管在云中，以便利用云計算的可擴展性、靈活性和成本效益。當時的機器學習模型規(guī)模龐大，不適合部署在邊緣設備上。盡管基于云的人工智能可提供數(shù)據(jù)驅(qū)動型見解，但該技術(shù)也面臨幾個根本的局限性 ：

連接

云人工智能需要持續(xù)的連接。云連接的丟失成為基于云的人工智能的單一故障點。企業(yè)需要在電信基礎設施方面投入更多資源，以保持邊緣設備的云連接。

用戶體驗

云端處理需要一系列操作，首先將數(shù)據(jù)發(fā)送到云，對數(shù)據(jù)進行修剪和處理，然后生成響應。這一系列操作會引起延遲，因為完成整個流程需要時間，從而導致糟糕的用戶體驗。

數(shù)據(jù)安全和隱私

基于云的人工智能要求在云中發(fā)送和處理所有數(shù)據(jù)。因此，基于云的人工智能成為許多用戶的關鍵和敏感信息存儲庫，從而成為黑客的攻擊目標。此外，與單個邊緣設備攻擊相比，惡意分子只要投入足夠的時間和精力，就可以訪問并操控云中的更多數(shù)據(jù)。

在了解基于云的人工智能面臨的挑戰(zhàn)后，機器學習開發(fā)人員社區(qū)開始采用新方法。他們通過智能邊緣讓智能更貼近終端設備。

智能邊緣可將數(shù)據(jù)處理和機器學習推理工作負載轉(zhuǎn)移到整套傳感器和邊緣設備中。利用設備端推理功能，設備可以收集實時數(shù)據(jù)點，處理數(shù)據(jù)，并生成數(shù)據(jù)驅(qū)動型輸出，同時盡可能減少延遲。其目標是利用關鍵任務數(shù)據(jù)進行實時預測，包括機器視覺、語音識別、生物識別和異常檢測。

此外，在邊緣對原始數(shù)據(jù)進行預處理意味著設備無需依賴持續(xù)的云連接。如今，以移動為中心的設備（如自動移動機器人、無人機、機器人出租車和自動消費車）具備設備端機器學習功能，且無需以太網(wǎng)連接或無處不在的無線連接。此外，由于邊緣設備可處理原始數(shù)據(jù)，這些潛在的隱私關鍵型敏感數(shù)據(jù)不會再被發(fā)送到云端。這樣一來，企業(yè)就可以將網(wǎng)絡安全風險降至最低，并遵守消費者數(shù)據(jù)隱私要求。

盡管機器學習具有一定優(yōu)勢，但智能邊緣的機器學習仍取決于設備和用例。為提供更全面的無縫用戶體驗，邊緣設備需要具備環(huán)境感知功能。環(huán)境感知邊緣設備允許同一環(huán)境下的設備進行通信和交互，并根據(jù)這些交互做出決策和預測。通過在這些設備中使用復雜的機器學習模型，未來的用例（如本地環(huán)境個性化、熄燈工廠以及遠程患者診斷和護理）將開始逐一實現(xiàn)。

盡管如此，在環(huán)境感知邊緣成為主流之前，行業(yè)仍需克服幾大障礙。

環(huán)境感知邊緣設備需要設備間無縫通信網(wǎng)絡和實時信息交換。

這些設備需要運行高級模型，即多模態(tài)學習模型。這些模型通常需要密集型計算能力，以處理和協(xié)調(diào)來自多個傳感器的輸入，包括圖像、音頻、溫度、壓力和振動數(shù)據(jù)。

許多開發(fā)人員尚未在其產(chǎn)品中實現(xiàn)邊緣機器學習。

因此，業(yè)界迫切需要穩(wěn)定且易于使用的工具，以幫助機器學習開發(fā)人員更加熟悉環(huán)境感知邊緣，并推動創(chuàng)建高度創(chuàng)新型開發(fā)人員社區(qū)。盡管邊緣機器學習行業(yè)距離環(huán)境感知邊緣仍有很長的一段路要走，但隨著邊緣機器學習的快速普及，實現(xiàn)環(huán)境感知邊緣將指日可待。

邊緣機器學習成功的關鍵因素

邊緣機器學習時代已真正到來。ABI Research預測，2021年至2026年，具有邊緣機器學習功能的設備出貨量將以24.5%的CAGR增長。越來越多的技術(shù)供應商和公司開始投入大量資源來開發(fā)邊緣機器學習解決方案和用例。與具有標準化服務器和處理器的云環(huán)境不同，邊緣機器學習是一個多樣化市場，涵蓋了廣泛的垂直領域、設備外形、處理能力和用例。

圖表2表明，消費電子設備（智能手機、游戲機、可穿戴設備和智能家居設備）是最大的邊緣機器學習市場，占整個市場份額的85%。然而，雖然消費電子應用仍對邊緣機器學習的開發(fā)和創(chuàng)新具有高度影響，但越來越多的供應商開始尋求該垂直領域之外的發(fā)展機會。越來越多的供應商開始針對汽車、農(nóng)業(yè)、健康保健、工業(yè)和制造業(yè)、零售、機器人、智能樓宇、智慧城市、交通、物流和公用事業(yè)等特定垂直領域提供相應解決方案。從2022年起，這些垂直領域?qū)吘墮C器學習的需求預計將呈指數(shù)級增長。

通過具體了解幾個主要垂直領域，我們發(fā)現(xiàn)邊緣機器學習的重要性十分明顯 ：

汽車

汽車應用一直都是邊緣機器學習開發(fā)的主要驅(qū)動因素。技術(shù)供應商競相推出針對高級駕駛輔助（ADAS）和自動駕駛的硬件、軟件和服務。關鍵用例包括自適應巡航控制、同步定位與建圖（SLAM）、駕駛員監(jiān)測、橫向和縱向輔助、夜視、個性化原始設備制造商（OEM）嵌入式信息娛樂系統(tǒng)以及無人出租車。

雖然目前市面上的大部分車輛都處于ADAS L0和L1水平，但預計汽車市場將經(jīng)歷快速變化。目前奧迪、福特、通用和特斯拉等新車普遍采用L2自動駕駛技術(shù)。開發(fā)人員正在努力實現(xiàn)L3和L4，早期的L5車輛將在2025年測試和發(fā)布。ABI Research預測，2021年至2026年，具有邊緣機器學習功能的汽車出貨量將增加4.5倍。

商用

邊緣機器學習普及的最明顯跡象就是邊緣機器學習設備在商業(yè)領域的涌現(xiàn)。ABI Research預測，未來五年，零售、智能樓宇以及交通物流領域的邊緣機器學習設備出貨量將分別增長2倍、4倍和1.7倍。

零售商開始逐漸部署面向智能付款臺、庫存監(jiān)控和倉庫執(zhí)行的自動解決方案。如今，商業(yè)樓宇配備了各種樓宇自動化系統(tǒng)，這些系統(tǒng)利用智能傳感器和攝像頭進行占位檢測、溫度調(diào)節(jié)以及確保安全。交通物流公司開始在重型機械和基礎設施中部署智能傳感系統(tǒng)。例如 ：卡車和鐵路運輸服務提供商可執(zhí)行設備管理和預測性維護，而倉儲服務提供商則可以在其存儲設施中實施簡單的貨盤計數(shù)和環(huán)境控制。

健康保健

與其他垂直行業(yè)相比，健康保健機構(gòu)在采用人工智能方面的進展比較緩慢。進展緩慢的主要原因包括嚴格的法規(guī)、屬于風險規(guī)避領域，以及優(yōu)先確保高準確性和高精度的要求。因此，在可預測的未來，健康保健并不是邊緣機器學習市場的重要組成部分。

盡管如此，由于其基數(shù)較低，具有邊緣機器學習能力的健康保健設備出貨量預計在未來五年將實現(xiàn)6倍增長。COVID-19疫情進一步表明，健康保健是最迫切需要采用邊緣機器學習解決方案的領域之一。隨著智能醫(yī)院的出現(xiàn)，具有邊緣機器學習能力的醫(yī)療設備可以安全可靠地實現(xiàn)一些關鍵工作負載，包括患者監(jiān)護和篩查、臨床診斷、個性化治療、用藥處方、遠程醫(yī)療等。醫(yī)院現(xiàn)在可以通過智能設備的操作洞察力來增強醫(yī)務人員的知識，從而有效地管理其資源、人員和能力。

工業(yè)

農(nóng)業(yè)、石油和天然氣以及制造業(yè)的工業(yè)企業(yè)都使用邊緣機器學習來實現(xiàn)整體效率的提升、缺陷檢查、預測性維護、工作場所安全管理和自動物料處理。近期的工廠資產(chǎn)數(shù)字化也側(cè)重于流程自動化、遠程工廠車間操作以及靈活的基礎設施維護和升級。自動移動機器人和叉車中也部署了基于機器學習的機器視覺，以實現(xiàn)定位和導航、物品分揀、分類和分割。

鑒于這些數(shù)據(jù)對生產(chǎn)和工作流程的敏感性和關鍵性，工業(yè)和制造業(yè)公司對公布的數(shù)據(jù)非常謹慎。因此促進了他們在工作場所廣泛采用邊緣機器學習設備和服務器。由于起始基數(shù)小，具有邊緣機器學習能力的工業(yè)設備出貨量預計在未來五年將實現(xiàn)20倍增長。

公共基礎設施

公共基礎設施是指部署在智慧城市中的邊緣機器學習設備。數(shù)十年來，城市一直面臨著擁堵、污染和安全等挑戰(zhàn)。因此，許多城市都在積極探索邊緣機器學習能力。例如 ：智能交通管理、自動駕駛車輛、行人流量監(jiān)測和管理、物理和周邊安全以及預防性威脅檢測等應用都部署了具有深度學習模型的智能攝像頭，以實現(xiàn)決策制定的自動化和增強。

與此同時，智能傳感器已被嵌入各種公共資產(chǎn)和基礎設施中，以收集信息，并提供公共場所的洞見，從而創(chuàng)建可持續(xù)的彈性城市。因此，預計2021年至2026年的出貨量將翻倍。

為有效地應對上述邊緣設備和用例的多樣性，機器學習開發(fā)人員需要擁有數(shù)據(jù)操作、機器學習工程、嵌入式系統(tǒng)設計以及邊緣機器學習硬件和軟件方面的大量專業(yè)知識。然而，并非所有開發(fā)人員都具備成功實施邊緣機器學習項目所需的知識。同時，邊緣機器學習應用必須得到最優(yōu)機器學習硬件的支持，以實現(xiàn)成本、性能和能效之間的適當平衡。最后，如果沒有來自邊緣機器學習處理器供應商的重要貢獻，邊緣機器學習的市場滲透將是有限的。

芯片供應商應組合必要的工具，以幫助整個開發(fā)人員生態(tài)系統(tǒng)克服這些限制，特別是針對機器學習開發(fā)人 員。近年來邊緣機器學習處理器供應商針對推動邊緣機器普及的五個關鍵因素推出了一些創(chuàng)新解決方案： 處理性能、能效、開發(fā)環(huán)境、增強安全以及供應商生態(tài)系統(tǒng)。

閱讀完整研究報告

在本研究報告接下來的章節(jié)中，將詳細分析推動邊緣機器學習普及的五個關鍵因素，并對未來的前景進行展望，主要的內(nèi)容包括：

定制的處理能力

更高的能源效率

易于使用的開發(fā)環(huán)境

增強安全

大型生態(tài)系統(tǒng)

邊緣機器學習的普及

原文標題：邊緣機器學習的大眾時代：讀懂AI，這份研究報告值得反復研讀（內(nèi)附下載鏈接）

文章出處：【微信公眾號：NXP客棧】歡迎添加關注！文章轉(zhuǎn)載請注明出處。