千芯科技推出了針對芯來RISC-V平臺的AI部署工具包（tinyAI SDK），使用戶可以基于該先進技術快速部署基于芯來RISC-V內(nèi)核的AIoT應用。在芯來UX600上，實測的AI應用實現(xiàn)11.01倍（相較原生AI算法）的顯著推斷性能提升。千芯科技的tinyAI SDK成為首個支持芯來UX600圖像AI計算部署與加速的工具包。

千芯科技tinyAI SDK

一直以來，端側RISC-V以其靈活可裁剪高性價比的優(yōu)勢，不斷擴展其在各個領域的應用。隨著各類型科技巨頭逐漸入局RISC-V應用產(chǎn)品，RISC-V的AIoT應用成為業(yè)界關注的重點。以往基于端側RISC-V開發(fā)AI應用，要面對缺少開發(fā)包、部署復雜、AI性能不理想等痛點問題。這使得端側RISC-V在AIoT上的部署一度面臨困境。

千芯科技本次推出的tinyAI SDK，基于芯來科技的UX600開發(fā)板，成功搭載了基于端側RISC-V內(nèi)核進行人臉檢測與人臉識別的AI應用，證明了端側RISC-V芯片在AIoT領域廣闊的應用前景。

演示中使用的人臉檢測算法基于UX600實現(xiàn)的人臉檢測，輸入兩張包含人臉的圖片，檢測并輸出人臉區(qū)域：

tinyAI SDK在芯來UX600上運行人臉檢測并輸出人臉區(qū)域

部署了tinyAI SDK的UX600，能夠高效的進行AI計算/人臉識別。在人臉檢測后，進行了人臉識別，并輸出人臉特征值的相似度。

tinyAI SDK在芯來UX600上運行人臉識別/比對的輸出結果如圖所示：

tinyAI SDK 在芯來UX600上運行人臉識別/比對的輸出結果

相較原生算法，tinyAI使得端側人臉識別的性能提到11.01倍。

千芯科技的tinyAI SDK將AI模型剪枝、量化等先進技術整合入工具包，并針對RISC-V內(nèi)核的存儲、架構特點進行了針對性的特定優(yōu)化。千芯科技的tinyAI，不僅方便了AI算法在端側RISC-V平臺的部署，更大大加速了AI算法的性能，使得端側AI應用實用化。

本次Demo實測使用的硬件平臺是芯來科技提供的加載UX600內(nèi)核的 FPGA 板卡：

芯來UX600平臺

千芯科技與芯來科技的本次合作為RISC-V生態(tài)的發(fā)展注入了新的活力，為端側RISC-V生態(tài)拓展出更加廣闊的AI空間。

責任編輯：xj

原文標題：千芯科技助力芯來RISC-V平臺AIoT應用

文章出處：【微信公眾號：芯來科技】歡迎添加關注！文章轉載請注明出處。