機器學習（ML）和人工智能（AI）不再局限于高端服務器或云平臺。得益于集成電路（IC）和軟件技術(shù)的新發(fā)展，在微型控制器和微型計算機上實現(xiàn)機器學習算法和深度學習神經(jīng)網(wǎng)絡成為可能。這些安裝在邊緣的嵌入式設備不必再依賴遠程服務器或云來洞察傳感器數(shù)據(jù)或用戶輸入。

像 TinyML這樣的軟件框架正在發(fā)展成為微控制器專用的機器學習解決方案，而傳統(tǒng)的深度學習框架也可以在功能強大的微型計算機上實現(xiàn)。這提供了幾個優(yōu)勢：

首先，這些設備不依賴于網(wǎng)絡連接或云服務的可用性來為系統(tǒng)添加人工智能。其次，微控制器和微型計算機比基于網(wǎng)絡的人工智能服務服務器更省電。

現(xiàn)在，微控制器還可以在紐扣電池上運行時執(zhí)行特定的人工智能任務。與通常需要數(shù)千美元的高端工作站相比，具備機器學習功能的微控制器成本不到幾百美元。在邊緣設備上實施人工智能的另一個好處是保護用戶數(shù)據(jù)隱私，減少網(wǎng)絡攻擊和黑客入侵的機會。微控制器無處不在，可以大規(guī)模部署用于機器學習任務。

目前有多種單板微控制器和微型計算機可用于開發(fā)人工智能嵌入式應用。讓我們來了解一下這些頂級平臺。

英偉達?（NVIDIA?）Jetson Nano開發(fā)者套件

英偉達?（NVIDIA?）Jetson Nano開發(fā)者套件是可用于在邊緣部署人工智能軟件的最靈活的自主機器之一。這款微型計算機可以并行運行多個神經(jīng)網(wǎng)絡。

Jetson Nano基于四核ARM A57處理器和128核英偉達?（NVIDIA?）Maxwell GPU，可提供472 GFLOPS的計算機性能。它還內(nèi)置4GB 64位LPDDR4內(nèi)存（1600 MHz）。它有兩種供電模式，5W/10W，5V直流輸入，板卡售價僅為99美元。

只需插入一張包含系統(tǒng)映像的 MicroSD卡，即可輕松上手。使用英偉達?（NVIDIA?）JetPack SDK對電路板進行人工智能應用編程。最新的SDK提供了基于Ubuntu 18.04的完整Linux環(huán)境。該SDK還提供支持英偉達?（NVIDIA?）CUDA工具包10.0的加速圖形以及Tensor RT5和cuDNN 7.3等GPU加速庫。

支持的機器學習框架包括 PyTorch、Keras、TensorFlow、Caffe/Caffee2、MXNet等。SDK還支持用于計算機視覺的OpenCV和用于機器人應用的ROS。

此外，該開發(fā)人員工具包還包括一個 DeepStream SDK，可為基于人工智能的視頻和圖像處理提供完整的流分析工具包。英偉達?（NVIDIA?）可實時處理多達8個高清全動態(tài)視頻流。Jetson Nano是為圖像分類、分割、物體檢測和定位、視頻增強、姿態(tài)估計和語音處理等應用部署基于人工智能的推理工作負載的絕佳平臺。

該電路板具有千兆以太網(wǎng)、HDMI 2.0、Display Port 1.3、MIPI CSI-2攝像頭接口、四個USB 3.0端口、一個MicroSD卡插槽和一個40引腳GPIO針座。電路板可通過5V直流桶形插孔適配器或微型USB端口供電。功耗可設置為5瓦。攝像頭接口兼容800萬像素IMX219和Raspberry Pi的攝像頭模塊V2。

Jetson Nano能夠通過實時計算機視覺推斷多個深度神經(jīng)網(wǎng)絡（DNN）模型。甚至可以通過遷移學習在本地保留神經(jīng)網(wǎng)絡。該電路板是各種應用的絕佳選擇，包括具有智能邊緣分析功能的物聯(lián)網(wǎng)、多傳感器自主機器人、視頻分析、圖像識別和手勢識別。

Google Coral

Google Coral開發(fā)板是目前用于邊緣機器學習推斷的最節(jié)能的開發(fā)板。Coral Dev基于恩智浦i.MX 8M SoC（包括四核Cortex A53和Cortex-M4F），集成了GC7000 Lite圖形處理器和Google Edge TPU，可提供4 TOPS的計算性能。此外，每TOPS的功耗僅為0.5瓦。內(nèi)存為1或4 GB LPDDR。

該開發(fā)板需要 5V直流電源供電，其GPIO兼容3V3。板載8GB eMMC內(nèi)存和一個MicroSD卡插槽。開發(fā)板售價149.99美元。

Coral Dev的一個優(yōu)勢是它將機器學習與無線連接結(jié)合在一起。除了千兆以太網(wǎng)，Coral Dev還包括WiFi（802.11b/g/n/ac 2.4/5GHz）和藍牙4.2。另一個優(yōu)點是其可拆卸的系統(tǒng)模塊（SoM）可在原型設計和生產(chǎn)之間有效擴展。最大的缺點是它只支持TensorFlow Lite，不支持其他深度學習框架。不過，這塊電路板運行的是Debian Linux的衍生版本，支持多種流行的Linux工具，這一點非常有用。

如果您計劃使用 TensorFlow Lite部署ML推斷，那么Coral Dev是您的理想之選，而且上市時間最短。該板卡的計算性能令人印象深刻，能以400 FPS的速度執(zhí)行MobileNet v2的最新移動視覺模型。用戶幾乎可以在Coral Dev上完成TensorFlow Lite框架范圍內(nèi)的任何工作。

Orange Pi 5 Plus

Orange Pi 5 Plus是香橙派頂級系列的開發(fā)板，它配備了強大的處理器和足夠的內(nèi)存，可以處理高級計算和任務，如訓練機器學習模型。它采用了瑞芯微RK3588八核64位處理器，具體為四核A76+四核A55，采用了8nm工藝設計，主頻最高可達2.4GHz，集成ARM Mali-G610,內(nèi)置3D GPU，兼容OpenGL ES1.1/2.0/3.2、OpenCL 2.2和Vulkan 1.2；內(nèi)嵌的NPU支持INT4/INT8/INT16/FP16混合運算，算力高達6TOPS，可以滿足絕大多數(shù)終端設備的邊緣計算需求；它配備了4GB、8GB、16GB、32GBLPDDR4/LPDDR4X內(nèi)存和一個eMMC閃存插座，可以外接16GB/32GB/64GB/128GB/256GB eMMC模塊，用戶就可以根據(jù)自己的需要定制存儲容量。

Orange Pi 5 Plus提供多種接口，可連接不同的設備和外設，確保了連接選擇的多樣性。它具有2個HDMl輸出端口,1個輸入HDMl端口，最高可解碼8K@60P視頻，兩個PCIe擴展的2.5G以太網(wǎng)接口，配備一個支持安裝NVMe固態(tài)硬盤的M.2 M-Key插槽，一個支持Wi-Fi6/BT模塊的M.2 E-Key插槽。此外，Orange Pi 5 Plus有2個USB 3.0、2個USB 2.0、2個Type-C（其中一個為電源接口）。

Orange Pi 5 Plus的一個突出特點是它的聯(lián)網(wǎng)能力。它有兩個2.5 Gbps以太網(wǎng)端口，支持Wi-Fi 6/BT模塊，為與各種傳感器和設備進行無縫通信提供了充足的帶寬。

Orange Pi 5 Plus支持Orange Pi官方研發(fā)的操作系統(tǒng)Orange Pi OS，同時，支持Android12、Debian11、Ubuntu22.04等操作系統(tǒng)。

總之，Orange Pi 5 Plus為各種項目和應用提供了一個功能強大、用途廣泛的解決方案。憑借其處理能力、聯(lián)網(wǎng)能力和GPIO功能，它為各種應用和項目奠定了堅實的基礎。它的性能、可擴展性和具有競爭力的價格使其成為那些希望探索單板計算機功能的用戶的一個極具吸引力的選擇。