AI無(wú)處不在。你在部署AI，你的競(jìng)爭(zhēng)對(duì)手也在部署AI，幾乎所有人都在做AI。然而，AI并不簡(jiǎn)單，不僅在生成有效模型上復(fù)雜，在部署上同樣充滿挑戰(zhàn)。

即使你已經(jīng)有了現(xiàn)成的模型，要把它部署到新的邊緣硬件上，往往需要投入大量精力將模型轉(zhuǎn)換成可運(yùn)行的形式，更不用說讓它高效運(yùn)行。

現(xiàn)在，有了RUHMI，這一切將變得簡(jiǎn)單。

什么是RUHMI？

Robust Unified Heterogenous Model Integration（RUHMI）是瑞薩電子推出的AI部署工具，旨在簡(jiǎn)化嵌入式設(shè)備中深度神經(jīng)網(wǎng)絡(luò)模型的部署。該部署工具集成了EdgeCortixMera2.0編譯器，支持TensorFlow Lite和ONNX模型導(dǎo)入，可自動(dòng)生成優(yōu)化后的C源代碼、頭文件，以及二進(jìn)制運(yùn)行文件，讓用戶可以輕松編譯并部署到Renesas開發(fā)板上。

此外，RUHMI同時(shí)提供圖形化界面（GUI）和命令行接口（CLI）兩種方式，滿足不同用戶的使用需求。

圖形化界面（GUI）：通過集成在E2Studio中的圖形化界面，用戶可以直觀地完成模型轉(zhuǎn)換、生成相關(guān)代碼，并方便進(jìn)行二次開發(fā)。

命令行接口（CLI）：命令行接口支持Windows和Ubuntu上使用，開發(fā)者還可以結(jié)合Python等腳本，實(shí)現(xiàn)自動(dòng)化測(cè)試和批量化設(shè)計(jì)驗(yàn)證。

RUHMI演示

下面，通過E2Studio的AI Navigator來(lái)演示一個(gè)完整的部署過程。

01

打開AI Navigator

打開E2Studio，在頂部的菜單欄中選擇“Renesas AI”，在下拉項(xiàng)中選擇“AI Navi”。如圖1所示。

圖1 打開AI Navigator

界面會(huì)跳轉(zhuǎn)到AI Navi首頁(yè)。選擇“Select Sample AI Application”。如果是自己的模型，選擇“Use Your Project & AI Model”。如圖2所示。

圖2 選擇“Select Sample AI Application”

02

選擇示例項(xiàng)目

在“Smart City”中，選擇“Image Classification”。如圖3所示。

圖3 選擇“Image Classification”

點(diǎn)擊窗口上方的“Import”，等待片刻，E2Studio會(huì)自動(dòng)導(dǎo)入示例項(xiàng)目。如圖4所示。

圖4 導(dǎo)入示例項(xiàng)目

03

編輯并編譯項(xiàng)目

等待示例構(gòu)建后，窗口會(huì)呈現(xiàn)示例項(xiàng)目。點(diǎn)擊右側(cè)的“Edit and build”，編譯此項(xiàng)目。如圖5所示。

圖5 編譯示例項(xiàng)目

在窗口左側(cè)新出現(xiàn)的兩個(gè)菜單欄“Convert AI Model”和“Edit Application”中，選擇“Convert AI Model”。如圖6所示。

圖6 選擇“Convert AI Model”

點(diǎn)擊右側(cè)的“Convert”，進(jìn)入“Conversion Tool”界面。如圖7所示。

圖7 進(jìn)入“Conversion Tool”界面

04

配置轉(zhuǎn)換選項(xiàng)

在“Conversion Tool”界面中，選擇項(xiàng)目名稱和設(shè)備類型。在下拉框中選擇“RUHMI AI Compiler”，并選擇合適的AI框架。最后選擇模型并指定轉(zhuǎn)換輸出的目錄。點(diǎn)擊“Next”進(jìn)入下一步。如圖8所示。

圖8 配置轉(zhuǎn)換選項(xiàng)

05

模型優(yōu)化與轉(zhuǎn)換

項(xiàng)目構(gòu)建后，如果模型未量化，可以在“Optimization”中量化模型。如圖9所示。

圖9 優(yōu)化模型（可選）

進(jìn)入“Conversion”界面，可以選擇“Optimize Mode”、“Memory Mode”和“Weight Location”分別對(duì)優(yōu)化效果、模型存放在內(nèi)存的位置和權(quán)重存放位置進(jìn)行調(diào)整，點(diǎn)擊“Start conversion”開始轉(zhuǎn)換模型。如圖10所示。

圖10 進(jìn)入“Conversion”界面，并開始轉(zhuǎn)換模型

等待片刻，模型轉(zhuǎn)換完成。此時(shí)可在輸出目錄中查看生成的文件。如圖11所示。

圖11 查看生成的文件

06

集成轉(zhuǎn)換結(jié)果并編譯

將輸出目錄中的所有文件拖入E2Studio項(xiàng)目中。此時(shí)會(huì)彈出“File Operation”，選擇“Copy files”并點(diǎn)擊“OK”。如圖12所示。

圖12 選擇“Copy files”

選擇“Overwrite All”覆蓋全部文件。如圖13所示。

圖13 選擇覆蓋全部文件

右鍵點(diǎn)擊項(xiàng)目頂層文件夾，選擇“Build Project”編譯項(xiàng)目。編譯完成后，示例項(xiàng)目就可以運(yùn)行了。如圖14所示。

圖14 構(gòu)建項(xiàng)目

RUHMI硬件支持的開發(fā)板

RUHMI主要支持Renesas RA8P1開發(fā)版，包括Cortex M85和ETHOS-U55。開發(fā)板如圖15所示。

圖15 RA8P1開發(fā)板

RA8P1開發(fā)板具備如下優(yōu)勢(shì)：

具有MIPI DSI 和MIPI CSI接口，適配HMI應(yīng)用。

豐富的內(nèi)存連接能力。

集成ETHOS-U55 AI加速器。

圖16 RA8P1的特性

如圖16所示，這些特性為模型提供了強(qiáng)大的性能支持，能夠讓用戶充分發(fā)揮現(xiàn)有AI模型的性能。

總結(jié)

RUHMI大大簡(jiǎn)化了AI模型在Renesas硬件平臺(tái)的部署流程。本文完整地呈現(xiàn)了從模型導(dǎo)入、格式轉(zhuǎn)換、性能優(yōu)化到最終代碼生成的全流程部署過程。通過RUHMI工具，用戶僅需幾步即可實(shí)現(xiàn)模型的快速移植，大幅降低了嵌入式AI開發(fā)的技術(shù)難度。RUHMI通過自動(dòng)化處理機(jī)制，將傳統(tǒng)繁瑣的部署流程轉(zhuǎn)化為高度標(biāo)準(zhǔn)化的操作，讓開發(fā)者能夠更加專注模型的調(diào)優(yōu)和應(yīng)用創(chuàng)新。