作者：Eleanor Hecks，《Designerly Magazine》主編

人工智能正在推動對更快速、更智能、更高效計算的需求。然而，隨著每秒產(chǎn)生海量數(shù)據(jù)，將所有數(shù)據(jù)發(fā)送至云端處理已變得不切實際。這正是邊緣計算中AI加速器變得不可或缺的原因。

這種專用硬件能夠直接在邊緣設(shè)備上提升AI應(yīng)用的性能。在邊緣計算中，有多種類型的AI加速器，各自具有不同的優(yōu)勢、局限性和適用場景。

AI加速器在邊緣計算中的作用

人工智能正在各行各業(yè)加速普及，但為了滿足實時決策和數(shù)據(jù)隱私的需求，需要更快的本地化數(shù)據(jù)處理。云計算在這方面面臨諸多限制：

首先，設(shè)備與云端之間傳輸海量數(shù)據(jù)需要時間。即使在高速網(wǎng)絡(luò)下，這種往返傳輸也會引入延遲，可能造成關(guān)鍵時刻的反應(yīng)滯后。

其次，帶寬有限且成本較高，尤其是在越來越多智能設(shè)備連接的情況下，將大量數(shù)據(jù)流傳輸?shù)皆贫诉M行處理，往往既不現(xiàn)實又代價高昂。在網(wǎng)絡(luò)基礎(chǔ)設(shè)施薄弱或偏遠地區(qū)，連通性差的問題尤為突出。

最后，安全和隱私問題也使得通過網(wǎng)絡(luò)傳輸敏感信息存在風(fēng)險。國防、醫(yī)療和金融等行業(yè)要求數(shù)據(jù)盡可能靠近源頭處理，以最小化泄露風(fēng)險并滿足合規(guī)要求。

AI加速器正是為了解決上述問題而生。它們將AI計算能力直接部署在邊緣，讓設(shè)備在毫秒級別完成數(shù)據(jù)處理，無需依賴云端。這使得AI應(yīng)用能夠即時響應(yīng)，具備更大規(guī)模的本地智能處理能力。

5種邊緣計算常用的AI加速器

AI加速器因應(yīng)用場景、行業(yè)需求與性能要求不同而差異顯著。有些是高性能處理器，可支持復(fù)雜的機器學(xué)習(xí)模型；有些則是超低功耗芯片，用于執(zhí)行簡單AI任務(wù)。以下是推動邊緣創(chuàng)新的五類主流AI加速器：

1. 神經(jīng)網(wǎng)絡(luò)處理單元（NPU）

NPU專為神經(jīng)網(wǎng)絡(luò)計算設(shè)計，尤其適合處理機器學(xué)習(xí)推理任務(wù)。深度學(xué)習(xí)模型需要強大的并行處理能力，NPU能將神經(jīng)網(wǎng)絡(luò)的不同部分分配到多個核心中進行并行計算，其架構(gòu)天然適配人工神經(jīng)網(wǎng)絡(luò)的運算方式。

NPU集成了激活函數(shù)、池化、特征提取等常見AI運算電路，大幅減少處理時間與功耗。其內(nèi)置的內(nèi)存緩沖區(qū)可確保數(shù)據(jù)在內(nèi)存與計算單元之間高效流動。

典型應(yīng)用場景：

• 安防系統(tǒng)中的人臉識別
• 智能助手中的語音和語言處理
• 自動駕駛車輛中的物體與行人檢測

2. 圖形處理單元（GPU）

GPU最初用于圖像和視頻的圖形渲染，如今已成為并行處理任務(wù)的主力硬件，可高效運行各種AI負載。

GPU架構(gòu)包含數(shù)百到上千個小型處理核心。例如，Nvidia RTX 3090擁有10,496個CUDA核心，采用單指令多線程（SIMT）模型，可大幅提高吞吐量。GPU雖然性能強大，但功耗較高，對于輕量AI任務(wù)效率較低。

典型應(yīng)用場景：

• 工業(yè)自動化中的實時質(zhì)量檢測
• 無人機與機器人中的導(dǎo)航
• 智慧城市基礎(chǔ)設(shè)施中的邊緣分析

3. 數(shù)字信號處理器（DSP）

DSP是一種專用于音頻、視頻與信號處理的微處理器，特別適用于通信與多媒體設(shè)備的持續(xù)數(shù)據(jù)流處理。其硬件在執(zhí)行快速傅里葉變換、濾波、矩陣運算等重復(fù)性數(shù)學(xué)操作方面表現(xiàn)出色，具備低延遲與低功耗優(yōu)勢，適合對響應(yīng)速度要求極高的應(yīng)用。

例如，遠程辦公需保障視頻會議流暢和協(xié)作實時，DSP可以在本地高效完成音視頻處理。隨著報告顯示90%的HR領(lǐng)導(dǎo)支持遠程辦公，DSP能滿足數(shù)字員工對邊緣計算的需求。

典型應(yīng)用場景：

• 智能設(shè)備中的語音識別與降噪
• 視頻流服務(wù)中的實時音視頻處理
• 邊緣端的通信與多媒體傳輸

4. 可編程門陣列（FPGA）

FPGA是一種可重構(gòu)的集成電路，開發(fā)者可將其編程為執(zhí)行特定計算任務(wù)。它由可配置的邏輯單元、互連結(jié)構(gòu)和存儲模塊組成，能夠靈活地以低延遲執(zhí)行特定算法。

工程師常在需要實時性和確定性響應(yīng)的場景中使用FPGA。它適合處理大規(guī)模數(shù)據(jù)流且功耗低，特別適合時間敏感的任務(wù)，如機器視覺。

典型應(yīng)用場景：

• 航空航天與國防系統(tǒng)中的實時傳感數(shù)據(jù)處理
• 工業(yè)機器人中的自適應(yīng)AI控制
• 高速安全防護中的硬件級威脅檢測與響應(yīng)

5. AI微控制器（AI-enabled Microcontrollers）

AI微控制器是一種超低功耗計算單元，適用于資源受限設(shè)備的輕量AI任務(wù)。這類控制器具備基本的硬件支持，可運行簡單的機器學(xué)習(xí)模型，在本地進行數(shù)據(jù)推理。相比通過蜂窩網(wǎng)絡(luò)將數(shù)據(jù)上傳至云端所需的800毫瓦，AI微控制器僅需約5毫瓦，顯著節(jié)能，特別適用于電池供電設(shè)備。

AI微控制器適合對計算要求較低、對功耗與體積有嚴格限制的邊緣環(huán)境。例如，穿戴式健康監(jiān)測設(shè)備利用它們來處理傳感器數(shù)據(jù)，實時反饋且延長電池壽命。盡管無法處理復(fù)雜模型或高流量數(shù)據(jù)，但在智能設(shè)備中越來越不可或缺。

典型應(yīng)用場景：

• 可穿戴健康與健身設(shè)備
• 智能家居系統(tǒng)
• 環(huán)境物聯(lián)網(wǎng)傳感器（如溫度、濕度、空氣質(zhì)量監(jiān)測）

引領(lǐng)邊緣AI的未來

AI加速器正在成為推動更快、更高效處理的關(guān)鍵。但不同類型的加速器各有所長，適配不同的任務(wù)和行業(yè)應(yīng)用，因此選擇合適的加速器至關(guān)重要?？偟膩碚f，AI加速器正在重塑邊緣計算格局，并將在未來的智能應(yīng)用中扮演越來越重要的角色。

作者簡介：
Eleanor Hecks 擁有超過8年技術(shù)寫作經(jīng)驗，曾為 freeCodeCamp、Smashing Magazine 和 Fast Company 等知名媒體撰稿?，F(xiàn)任《Designerly Magazine》主編，可通過 LinkedIn 關(guān)注她的動態(tài)。

本文翻譯自：Embedded