Deep Vision 是一家致力于為邊緣計(jì)算解決方案打造人工智能推理芯片、成立至今已有六年的初創(chuàng)企業(yè)。該公司宣布推出了全新的 ARA-1 處理器，有望在低延遲、高效能、以及計(jì)算性能之間找到合適的平衡。Deep Vision 表示，該芯片可在相機(jī)傳感器、到成熟的邊緣計(jì)算服務(wù)器等領(lǐng)域發(fā)揮重要的作用。

采用 M.2 接口封裝的 Deep Vision AI 處理器產(chǎn)品

得益于在實(shí)時(shí)視頻分析方面的實(shí)力，該芯片主要面向智能零售領(lǐng)域的解決方案，比如無(wú)人收銀的商店、智能城市、工業(yè) 4.0 / 機(jī)器人等領(lǐng)域。

此外該公司海域汽車行業(yè)的供應(yīng)商合作，主要圍繞自動(dòng)駕駛之外的車內(nèi)監(jiān)測(cè)，以避免駕駛員分心或疲勞駕駛。

據(jù)悉，Deep Vision 由首席技術(shù)官 Rehan Hameed 和首席架構(gòu)師 Wajahat Qadeer 攜手創(chuàng)立，后又招募了曾在英特爾和閃迪工作過(guò)的 Ravi Annavajjhala 作為公司的首席執(zhí)行官。

在斯坦福大學(xué)的博士學(xué)位論文中，Hameed 和 Qadeer 介紹了他們開(kāi)發(fā)的 Deep Vision 體系架構(gòu)。

采用 U.2 接口封裝的 Deep Vision AI 處理器產(chǎn)品

該架構(gòu)致力于最大程度地減少芯片內(nèi)的數(shù)據(jù)移動(dòng)，因而在 AI 工作負(fù)載上具有出色的每瓦特、每美元的性能和效率表現(xiàn)。

不過(guò)在推出可用硬件之前，Deep Vision 很早就將精力集中到了構(gòu)建自家的編譯器上，以確保該公司的解決方案可真正滿足客戶需求，然后才完成最終的芯片設(shè)計(jì)。

Rehan Hameed 表示，Deep Vision 特別強(qiáng)調(diào)減少 AI 計(jì)算的延遲，而市面上許多解決方案更樂(lè)于宣傳有多高的數(shù)據(jù)吞吐量。

但是該團(tuán)隊(duì)認(rèn)為，在邊緣解決方案中，低延遲是一項(xiàng)更重要的性能指標(biāo)。相比之下，吞吐量只有在數(shù)據(jù)中心等領(lǐng)域才顯得有意義。

Deep Vision 首席技術(shù)官 Rehan Hameed 解釋稱，那些追求數(shù)據(jù)吞吐量的架構(gòu)，要求加速器同時(shí)來(lái)處理大量的數(shù)據(jù)流（無(wú)論是通過(guò)批處理、還是管道執(zhí)行），以充分發(fā)揮硬件的性能。

然而這也是競(jìng)爭(zhēng)方案獲得高吞吐量的唯一途徑，且這么做會(huì)導(dǎo)致單個(gè)任務(wù)的延遲相當(dāng)高，使之難以在更側(cè)重于實(shí)時(shí)性能的邊緣用例中發(fā)揮作用。

值得一提的是，Deep Vision 宣稱其 AI 處理器的延遲要遠(yuǎn)低于谷歌 Edge TPU 和 Movidius 的 MyriadX 方案。

除了通過(guò)硬件架構(gòu)優(yōu)化來(lái)將芯片上的數(shù)據(jù)移動(dòng)降至最低，還利用軟件層面的工作負(fù)載優(yōu)化，來(lái)改善架構(gòu)內(nèi)的整體數(shù)據(jù)流動(dòng)。

責(zé)任編輯：haq