隨著物聯(lián)網(wǎng)開發(fā)人員解決在邊緣部署設(shè)備所面臨的連接性、可管理性和安全性挑戰(zhàn)，現(xiàn)在的需求轉(zhuǎn)向使這些系統(tǒng)更智能。工程師現(xiàn)在的任務(wù)是將人工智能 （AI） 集成到網(wǎng)絡(luò)遠(yuǎn)端的嵌入式系統(tǒng)中，這必須最大限度地減少功耗、通信延遲和成本，同時(shí)還要變得更加智能。

不幸的是，許多可用于嵌入式 AI 的處理解決方案太耗電，太難編程，或者對于邊緣應(yīng)用來說太昂貴。

為了在更高的性能、功耗、成本和易用性之間取得平衡，無晶圓廠 SoC 供應(yīng)商 Eta Compute 的 Tensai 芯片在 55 nm ULP 中結(jié)合了異步 Arm Cortex-M3 CPU、NXP CoolFlux DSP16 內(nèi)核和低功耗模擬模塊過程（圖 1）。Tensai 解決方案還包含一個(gè)神經(jīng)網(wǎng)絡(luò)軟件堆棧，用于實(shí)現(xiàn)在 DSP 的雙 16x16 MAC 上本地執(zhí)行的卷積神經(jīng)網(wǎng)絡(luò) （CNN） 和尖峰神經(jīng)網(wǎng)絡(luò) （SNN）。

圖 1. Tensai 架構(gòu)提供超低功耗和確定性以及 AI 邊緣計(jì)算所需的性能。

《 2mW 的邊緣 AI

Tensai 架構(gòu)采用多個(gè)穩(wěn)壓器來支持以小于 2 mW 的超低功耗、始終在線的處理，適用于紐扣電池或太陽能電池供電的 AI 系統(tǒng)。其中包括一個(gè)用于芯片實(shí)時(shí)時(shí)鐘和復(fù)位電路的專用穩(wěn)壓器，另一個(gè)用于存儲塊，第三個(gè)用于 MCU 和 DSP 內(nèi)核。

該設(shè)備僅消耗 600 納安電流，只需開啟常開模塊即可。在內(nèi)存塊通電的睡眠模式下，這個(gè)數(shù)字增加到 10 微安。

然而，Tensai 的超低功耗配置并沒有限制 SoC 在 AI 工作負(fù)載中的應(yīng)用。CoolFlux DSP16 內(nèi)核的運(yùn)行頻率高達(dá) 100 MHz，每秒可提供 2 億個(gè) 16 位 MAC 的性能。Tensai 對來自 CIFAR-10 數(shù)據(jù)集的 32x32 像素圖像進(jìn)行推理，每秒可以處理 5 張圖像，每張圖像消耗 0.4 毫焦耳。

對于非 DSP 工程師，Tensai 的神經(jīng)網(wǎng)絡(luò)軟件堆棧允許開發(fā)人員通過 Cortex-M3 上的解釋器傳遞量化的 TensorFlow Lite 模型，從而抽象出硬件編程的復(fù)雜性。然后 Cortex-M3 生成代碼，這些代碼被翻譯成可以在 DSP 上執(zhí)行的功能。

四通道 DMA 引擎在 I/O 和 32 KB PRAM 以及為 DSP 保留的 64 KB 聯(lián)合 XRAM 和 YRAM 之間傳輸數(shù)據(jù)。除了 16 位分辨率外，CoolFlux 內(nèi)核還可以處理兩個(gè) 8x8 MAC。

在人工智能的邊緣

超低功耗和易于編程將有助于將人工智能帶入普通嵌入式和物聯(lián)網(wǎng)工程師，因?yàn)樗麄儗⒅悄芴砑拥竭吘?。嵌入式和物?lián)網(wǎng)開發(fā)人員熟悉的 Tensai 芯片的其他高級特性包括：

512 KB 閃存（足夠約 450，000 個(gè)神經(jīng)網(wǎng)絡(luò)權(quán)重）

Cortex-M3 和 DSP 共享 128 KB SRAM

4 個(gè) ADC 通道（12 位 ADC 在 200，000 個(gè)樣本/秒時(shí)消耗 uW）

4x PWM 通道

I2S、I2C、SPI、UART、GPIO

審核編輯：郭婷