什么是邊緣人工智能?
Edge AI 在硬件上本地處理和實施機器學習算法。這種形式的本地計算減少了數(shù)據(jù)傳輸?shù)木W(wǎng)絡(luò)延遲,并解決了一切都發(fā)生在設(shè)備本身上的安全挑戰(zhàn)。
邊緣人工智能的流程
Edge AI 的本地處理并不意味著機器學習模型的訓練應(yīng)該在本地進行。通常,訓練在具有更大計算能力的平臺上進行,以處理更大的數(shù)據(jù)集。最后,這個經(jīng)過訓練的模型可以部署在系統(tǒng)的處理器或硬件上。該系統(tǒng)具有人工智能加速功能以及用于實時數(shù)據(jù)處理應(yīng)用程序的部署模型。
隨著對 GPU、NPU、TPU 和 AI 加速器的需求增加,Edge AI 技術(shù)經(jīng)歷了巨大的增長。隨著機器學習和人工智能已成為當前情況下的趨勢技術(shù),這種需求是顯而易見的。因此,由于當前應(yīng)用程序的需求,Edge AI 在硬件中找到了自己的位置。硬件中對本地高級處理和計算能力的需求解釋了 Edge AI 的重要性。
云 AI 能比邊緣 AI 活得更久嗎?
Cloud AI 通過在云端遠程提供計算能力來支持硬件處理。由于處理是遠程進行的,因此系統(tǒng)在性能和處理方面更加強大。此外,云計算增加了有關(guān)架構(gòu)和設(shè)計的選項。由于高級處理發(fā)生在云上,它降低了系統(tǒng)硬件功耗的復雜性。然而,正如引言中所討論的,這些好處是以延遲和安全問題為代價的。
云AI的流程
當計算需求非常密集并且需要大量數(shù)據(jù)處理時,云人工智能可以比邊緣人工智能更長壽。如果應(yīng)用程序可以在延遲和安全性方面做出妥協(xié),那么 Cloud AI 是比 Edge AI 更好的選擇。Cloud AI 還可以解決功耗問題。但是,它不能被視為選擇 Cloud AI 而不是 Edge AI 的決定因素。
邊緣人工智能與云人工智能
在 Edge AI 和 Cloud AI 之間進行選擇的不確定性主要發(fā)生在機器學習或深度學習用例中。由于深度學習算法需要密集處理,因此硬件的性能成為一個重要因素。Cloud AI 絕對可以為系統(tǒng)提供更好的性能,但大多數(shù)深度學習應(yīng)用程序無法在數(shù)據(jù)傳輸延遲和網(wǎng)絡(luò)安全威脅方面妥協(xié)。因此,對于人工智能應(yīng)用,Edge AI 比 Cloud AI 壽命更長。
如前所述,功耗因素總是會影響邊緣 AI 處理器。這是可以理解的,因為繁重的計算需要更高的電源。但是當前的 Edge AI 處理器具有 AI 加速器,可提供更高的性能和更低的功耗。然而,GPU 和 TPU 仍然需要更高的功率,但設(shè)計和電路架構(gòu)的改進將克服這個問題。
由于單獨的云并不是人工智能應(yīng)用程序的絕佳選擇,邊緣和云人工智能的混合可以提供更好的性能??赡軙绊懷舆t的部分處理可以在云上完成,其余部分則在硬件本身上完成。
示例:由于訓練后的模型需要根據(jù)實時數(shù)據(jù)進行更新,因此可以在云端完成更新后的訓練。但實時數(shù)據(jù)通過 Edge AI 在硬件上進行處理以生成輸出。
因此,處理的劃分帶來了兩種技術(shù)的最佳效果。因此,它可能是 AI 應(yīng)用程序的更好選擇。但是,大多數(shù)應(yīng)用程序都需要更快的實時更新訓練,因此 Edge AI 比 Cloud AI 技術(shù)壽命更長。因此,Edge AI 在深度學習應(yīng)用方面正在超越 Cloud AI。
審核編輯:郭婷
-
gpu
+關(guān)注
關(guān)注
28文章
5036瀏覽量
133746 -
AI
+關(guān)注
關(guān)注
88文章
37050瀏覽量
290132 -
深度學習
+關(guān)注
關(guān)注
73文章
5586瀏覽量
123645
發(fā)布評論請先 登錄
【「AI芯片:科技探索與AGI愿景」閱讀體驗】+第二章 實現(xiàn)深度學習AI芯片的創(chuàng)新方法與架構(gòu)
面向AI與機器學習應(yīng)用的開發(fā)平臺 AMD/Xilinx Versal? AI Edge VEK280

研華科技全棧式Edge AI產(chǎn)品助力工業(yè)智能化升級
ST EDGE AI云服務(wù)最后一步無法下載工程是怎么回事?
《AI Agent 應(yīng)用與項目實戰(zhàn)》----- 學習如何開發(fā)視頻應(yīng)用
當我問DeepSeek AI爆發(fā)時代的FPGA是否重要?答案是......
人工智能和機器學習以及Edge AI的概念與應(yīng)用

AI自動化生產(chǎn):深度學習在質(zhì)量控制中的應(yīng)用

評論