如今，邊緣采集的數(shù)據(jù)量十分龐大。據(jù) Gartner 預測，到 2025 年，將有多達 75% 的企業(yè)數(shù)據(jù)會在傳統(tǒng)數(shù)據(jù)中心以外生成[1]。

隨著企業(yè)運營的節(jié)奏日益加快，人們對快速響應的期望日益提升，決策逐漸從數(shù)據(jù)中心轉(zhuǎn)向網(wǎng)絡邊緣。將采用人工智能 (AI) 和機器學習 (ML) 算法的計算能力及具有 AI 功能的設備安排在邊緣，可以在提升數(shù)據(jù)處理量的同時生成更多數(shù)據(jù)，從而實現(xiàn)更復雜的 AI 用例，進而獲得更多可行洞察。

企業(yè)實施 AI 需要滿足哪些要求?

在整個企業(yè)內(nèi)廣泛實施 AI 時，務必要確保邊緣設備、邊緣基礎設施和云三大基礎設施要素均具備處理 AI 工作負載的足夠性能。實施 AI 的具體要求包括：

- 高性能：AI 工作負載往往計算密集度較高，在進行 AI 訓練或推理的地方，必須具備強大的計算性能;

- 低時延：將 AI 工作負載轉(zhuǎn)移到邊緣位置(即使只是將部分 AI 工作負載轉(zhuǎn)移到邊緣)，有助于降低決策時延;

- 高容量：AI 依賴大量數(shù)據(jù)，運行 AI 的基礎設施必須確保計算、存儲和內(nèi)存容量能夠勝任任務，從而避免瓶頸;

- 可靠的安全性：AI 工作負載涉及大量敏感數(shù)據(jù)，無論是何種 AI 工作負載，運行它們的設備和軟件都必須更加安全可靠。

為什么 FPGA 是 AI 實施的理想選擇?

人的大腦中有近 1,000 億個神經(jīng)元。盡管這已經(jīng)是個天文數(shù)字，但將這些神經(jīng)元組織成為網(wǎng)絡的神經(jīng)連接數(shù)量更是達到了百萬億級，而神經(jīng)連接的數(shù)量顯著影響著大腦的能力。

FPGA 內(nèi)的互連性就類似于人腦中的神經(jīng)連接。FPGA 內(nèi)的可編程邏輯結(jié)構(gòu)也以類似的方式相互連接，這就是為什么 Altera FPGA 是神經(jīng)網(wǎng)絡和其他 AI 工作負載實施的理想選擇。

在邏輯和線路互連的層面上，F(xiàn)PGA 的比特級動態(tài)可編程性就好比靈活的大腦，可以調(diào)整注意力，專注于當前的特定任務。此外，一直以來，F(xiàn)PGA 的外部 I/O 也具備其他硬件架構(gòu)所不具備的出色靈活性，可以連接到雷達、音頻、振動和視覺等各種來源的傳感器。這些特性能夠讓信號實時進出 FPGA，達到可媲美人腦的高級智能水平。

Altera FPGA 早先的一些產(chǎn)品比如 Cyclone 10 GX FPGA、Arria 10 GX FPGA 和 Stratix 10 GX FPGA 等，具備 I/O 靈活性、低功耗和低時延，本就可在 AI 推理上帶來優(yōu)勢。

這些優(yōu)勢在三個全新的 Altera FPGA 和片上系統(tǒng) (SoC) 家族的產(chǎn)品中又得到了補充，使得 AI 推理性能進一步獲得了顯著提升。這三個家族分別是 Stratix 10 NX FPGA 以及 Agilex FPGA 家族的新成員：Agilex 5 FPGA D 系列和 Agilex 5 FPGA E 系列。這些 Altera FPGA 和 SoC 家族包含專門面向張量數(shù)學運算優(yōu)化的專用 DSP 模塊，為加速 AI 計算奠定了基礎。

AI 和 DSP 計算密度的數(shù)量級提升*限 Agilex 5 FPGA D 系列和 Agilex 5 FPGA E 系列提供。

面向 Altera FPGA 和 SoC 的邊緣就緒型 AI 工具套件

分布式 AI/機器學習邊緣解決方案往往十分復雜，開發(fā)難度非常高。Altera 提供的開發(fā)工具和軟件致力于推動開放標準并支持容器化和云原生開發(fā)，從而幫助開發(fā)人員簡化工作流程并加速分布式邊緣解決方案的部署。對于使用 Altera FPGA 和 SoC 進行 AI/機器學習應用開發(fā)的人員，可以使用以下開發(fā)工具。

您可通過以下四種方式利用上述開發(fā)工具，將 Altera FPGA 和 AI/機器學習集成至您的系統(tǒng)：

1- 采用基于 FPGA 的 AI/機器學習加速器，實現(xiàn) CPU 任務卸載。

2- 采用 Altera FPGA 實施 AI 加速器和額外邏輯，實現(xiàn)多功能 CPU 任務卸載。

3- 提取/內(nèi)聯(lián)處理 + AI。

4- Altera SoC FPGA 利用集成的 CPU(ARM 或 Nios 處理器內(nèi)核)充當 AI/機器學習加速器，直接提取并處理數(shù)據(jù)，實施 AI/機器學習推理，然后通過以太網(wǎng)網(wǎng)絡將處理過的數(shù)據(jù)和推理傳輸至云端。

邊緣 AI 用例

許多數(shù)據(jù)中心以外的終端市場都很適合采用 FPGA 來實現(xiàn)應用和 AI 計算功能所需的邏輯，從而支持在本地處理數(shù)據(jù)。這些終端市場包括：

醫(yī)療和生命科學

包括醫(yī)療監(jiān)護儀、具有圖像識別和物體檢測功能的 2D 診斷設備等。

航空航天

包括無人飛行載具( UAV )、目標檢測、雷達偵測和分類等。

工業(yè)應用

可用于在邊緣增加基于 AI 的檢測和實時控制。

專業(yè)影音系統(tǒng)

包括可實現(xiàn)鏡頭自動平移/縮放和背景消除的視頻會議攝像頭等。

廣播視頻

包括從 SDR 到 HDR 的轉(zhuǎn)換、不同視頻分辨率的智能轉(zhuǎn)換等。

消費級應用

包括具備人眼檢測等功能，可實現(xiàn)立體成像的 3D 顯示器等。