機(jī)器學(xué)習(xí)（ML）和人工智能（AI）不再局限于高端服務(wù)器或云平臺。得益于集成電路（IC）和軟件技術(shù)的新發(fā)展，在微型控制器和微型計算機(jī)上實現(xiàn)機(jī)器學(xué)習(xí)算法和深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)成為可能。這些安裝在邊緣的嵌入式設(shè)備不必再依賴遠(yuǎn)程服務(wù)器或云來洞察傳感器數(shù)據(jù)或用戶輸入。

像 TinyML這樣的軟件框架正在發(fā)展成為微控制器專用的機(jī)器學(xué)習(xí)解決方案，而傳統(tǒng)的深度學(xué)習(xí)框架也可以在功能強(qiáng)大的微型計算機(jī)上實現(xiàn)。這提供了幾個優(yōu)勢：

首先，這些設(shè)備不依賴于網(wǎng)絡(luò)連接或云服務(wù)的可用性來為系統(tǒng)添加人工智能。其次，微控制器和微型計算機(jī)比基于網(wǎng)絡(luò)的人工智能服務(wù)服務(wù)器更省電。

現(xiàn)在，微控制器還可以在紐扣電池上運行時執(zhí)行特定的人工智能任務(wù)。與通常需要數(shù)千美元的高端工作站相比，具備機(jī)器學(xué)習(xí)功能的微控制器成本不到幾百美元。在邊緣設(shè)備上實施人工智能的另一個好處是保護(hù)用戶數(shù)據(jù)隱私，減少網(wǎng)絡(luò)攻擊和黑客入侵的機(jī)會。微控制器無處不在，可以大規(guī)模部署用于機(jī)器學(xué)習(xí)任務(wù)。

目前有多種單板微控制器和微型計算機(jī)可用于開發(fā)人工智能嵌入式應(yīng)用。讓我們來了解一下這些頂級平臺。

英偉達(dá)?（NVIDIA?）Jetson Nano開發(fā)者套件

英偉達(dá)?（NVIDIA?）Jetson Nano開發(fā)者套件是可用于在邊緣部署人工智能軟件的最靈活的自主機(jī)器之一。這款微型計算機(jī)可以并行運行多個神經(jīng)網(wǎng)絡(luò)。

Jetson Nano基于四核ARM A57處理器和128核英偉達(dá)?（NVIDIA?）Maxwell GPU，可提供472 GFLOPS的計算機(jī)性能。它還內(nèi)置4GB 64位LPDDR4內(nèi)存（1600 MHz）。它有兩種供電模式，5W/10W，5V直流輸入，板卡售價僅為99美元。

只需插入一張包含系統(tǒng)映像的 MicroSD卡，即可輕松上手。使用英偉達(dá)?（NVIDIA?）JetPack SDK對電路板進(jìn)行人工智能應(yīng)用編程。最新的SDK提供了基于Ubuntu 18.04的完整Linux環(huán)境。該SDK還提供支持英偉達(dá)?（NVIDIA?）CUDA工具包10.0的加速圖形以及Tensor RT5和cuDNN 7.3等GPU加速庫。

支持的機(jī)器學(xué)習(xí)框架包括 PyTorch、Keras、TensorFlow、Caffe/Caffee2、MXNet等。SDK還支持用于計算機(jī)視覺的OpenCV和用于機(jī)器人應(yīng)用的ROS。

此外，該開發(fā)人員工具包還包括一個 DeepStream SDK，可為基于人工智能的視頻和圖像處理提供完整的流分析工具包。英偉達(dá)?（NVIDIA?）可實時處理多達(dá)8個高清全動態(tài)視頻流。Jetson Nano是為圖像分類、分割、物體檢測和定位、視頻增強(qiáng)、姿態(tài)估計和語音處理等應(yīng)用部署基于人工智能的推理工作負(fù)載的絕佳平臺。

該電路板具有千兆以太網(wǎng)、HDMI 2.0、Display Port 1.3、MIPI CSI-2攝像頭接口、四個USB 3.0端口、一個MicroSD卡插槽和一個40引腳GPIO針座。電路板可通過5V直流桶形插孔適配器或微型USB端口供電。功耗可設(shè)置為5瓦。攝像頭接口兼容800萬像素IMX219和Raspberry Pi的攝像頭模塊V2。

Jetson Nano能夠通過實時計算機(jī)視覺推斷多個深度神經(jīng)網(wǎng)絡(luò)（DNN）模型。甚至可以通過遷移學(xué)習(xí)在本地保留神經(jīng)網(wǎng)絡(luò)。該電路板是各種應(yīng)用的絕佳選擇，包括具有智能邊緣分析功能的物聯(lián)網(wǎng)、多傳感器自主機(jī)器人、視頻分析、圖像識別和手勢識別。

Google Coral

Google Coral開發(fā)板是目前用于邊緣機(jī)器學(xué)習(xí)推斷的最節(jié)能的開發(fā)板。Coral Dev基于恩智浦i.MX 8M SoC（包括四核Cortex A53和Cortex-M4F），集成了GC7000 Lite圖形處理器和Google Edge TPU，可提供4 TOPS的計算性能。此外，每TOPS的功耗僅為0.5瓦。內(nèi)存為1或4 GB LPDDR。

該開發(fā)板需要 5V直流電源供電，其GPIO兼容3V3。板載8GB eMMC內(nèi)存和一個MicroSD卡插槽。開發(fā)板售價149.99美元。

Coral Dev的一個優(yōu)勢是它將機(jī)器學(xué)習(xí)與無線連接結(jié)合在一起。除了千兆以太網(wǎng)，Coral Dev還包括WiFi（802.11b/g/n/ac 2.4/5GHz）和藍(lán)牙4.2。另一個優(yōu)點是其可拆卸的系統(tǒng)模塊（SoM）可在原型設(shè)計和生產(chǎn)之間有效擴(kuò)展。最大的缺點是它只支持TensorFlow Lite，不支持其他深度學(xué)習(xí)框架。不過，這塊電路板運行的是Debian Linux的衍生版本，支持多種流行的Linux工具，這一點非常有用。

如果您計劃使用 TensorFlow Lite部署ML推斷，那么Coral Dev是您的理想之選，而且上市時間最短。該板卡的計算性能令人印象深刻，能以400 FPS的速度執(zhí)行MobileNet v2的最新移動視覺模型。用戶幾乎可以在Coral Dev上完成TensorFlow Lite框架范圍內(nèi)的任何工作。

Orange Pi 5 Plus

Orange Pi 5 Plus是香橙派頂級系列的開發(fā)板，它配備了強(qiáng)大的處理器和足夠的內(nèi)存，可以處理高級計算和任務(wù)，如訓(xùn)練機(jī)器學(xué)習(xí)模型。它采用了瑞芯微RK3588八核64位處理器，具體為四核A76+四核A55，采用了8nm工藝設(shè)計，主頻最高可達(dá)2.4GHz，集成ARM Mali-G610,內(nèi)置3D GPU，兼容OpenGL ES1.1/2.0/3.2、OpenCL 2.2和Vulkan 1.2；內(nèi)嵌的NPU支持INT4/INT8/INT16/FP16混合運算，算力高達(dá)6TOPS，可以滿足絕大多數(shù)終端設(shè)備的邊緣計算需求；它配備了4GB、8GB、16GB、32GBLPDDR4/LPDDR4X內(nèi)存和一個eMMC閃存插座，可以外接16GB/32GB/64GB/128GB/256GB eMMC模塊，用戶就可以根據(jù)自己的需要定制存儲容量。

Orange Pi 5 Plus提供多種接口，可連接不同的設(shè)備和外設(shè)，確保了連接選擇的多樣性。它具有2個HDMl輸出端口,1個輸入HDMl端口，最高可解碼8K@60P視頻，兩個PCIe擴(kuò)展的2.5G以太網(wǎng)接口，配備一個支持安裝NVMe固態(tài)硬盤的M.2 M-Key插槽，一個支持Wi-Fi6/BT模塊的M.2 E-Key插槽。此外，Orange Pi 5 Plus有2個USB 3.0、2個USB 2.0、2個Type-C（其中一個為電源接口）。

Orange Pi 5 Plus的一個突出特點是它的聯(lián)網(wǎng)能力。它有兩個2.5 Gbps以太網(wǎng)端口，支持Wi-Fi 6/BT模塊，為與各種傳感器和設(shè)備進(jìn)行無縫通信提供了充足的帶寬。

Orange Pi 5 Plus支持Orange Pi官方研發(fā)的操作系統(tǒng)Orange Pi OS，同時，支持Android12、Debian11、Ubuntu22.04等操作系統(tǒng)。

總之，Orange Pi 5 Plus為各種項目和應(yīng)用提供了一個功能強(qiáng)大、用途廣泛的解決方案。憑借其處理能力、聯(lián)網(wǎng)能力和GPIO功能，它為各種應(yīng)用和項目奠定了堅實的基礎(chǔ)。它的性能、可擴(kuò)展性和具有競爭力的價格使其成為那些希望探索單板計算機(jī)功能的用戶的一個極具吸引力的選擇。