據(jù)麥姆斯咨詢介紹，神經(jīng)形態(tài)視覺傳感是一種受生物啟發(fā)的相機，可以捕捉場景中的活動，降低數(shù)據(jù)冗余和延遲。這些基于事件的傳感器使機械的自主性更加接近現(xiàn)實，并在工業(yè)自動化、消費電子和自動駕駛車輛等領域基于視覺的高速應用中找到用武之地。

“為什么說基于事件的視覺傳感器是神經(jīng)形態(tài)的？因為每個像素都是一個神經(jīng)元，把人工智能引入像素邊緣完全有意義?！盰ole首席分析師Pierre Cambou稱。

最近幾個月，沉寂多年的神經(jīng)形態(tài)視覺傳感產(chǎn)業(yè)似乎又重新回到了人們的視野。去年11月，三星為其移動和平板電腦應用的動態(tài)視覺傳感器（Dynamic Vision Sensor， DVS）技術(shù)提交了商標申請。Pierre Cambou說，“這算是一個驚喜！因為三星最初市場化的動態(tài)視覺傳感器主要用于汽車高級駕駛輔助系統(tǒng)（ADAS）。”

2019年12月，索尼悄悄收購了總部位于蘇黎世的Insightness公司，該公司的視覺傳感器即使在運動中也可以在幾毫秒內(nèi)實現(xiàn)運動檢測。2020年2月，總部位于巴黎的Prophesee公司在完成2800萬美元額外融資后不久，和索尼一起在美國舊金山舉行的國際固態(tài)電路會議（International Solid-State Circuits Conference）上聯(lián)合宣布，他們已經(jīng)開發(fā)出一種基于事件的堆疊式圖像傳感器。

Prophesee基于事件的圖像傳感器的成像圖片

神經(jīng)形態(tài)傳感起源于1991年蘇黎世聯(lián)邦理工學院（ETH Zurich）神經(jīng)信息學研究所Misha Mahowald開發(fā)的“硅視網(wǎng)膜”技術(shù)。Mahowald解釋稱，“模仿人類視網(wǎng)膜，這種‘硅視網(wǎng)膜’通過從圖像中減去平均強度水平，只報告空間和時間變化，從而減少了帶寬。”這種靈感推動了動態(tài)視覺傳感器背后的概念，使蘇黎世聯(lián)邦理工學院成為該技術(shù)的創(chuàng)新中心，并孕育了像Prophesee、Insightness等無數(shù)初創(chuàng)企業(yè)。瑞士創(chuàng)新公司iniVation也是其中之一。

iniVation開發(fā)的DAVIS346

這家總部位于蘇黎世的初創(chuàng)公司由基于事件的視覺先驅(qū)們于2015年創(chuàng)建，他們開發(fā)了一種動態(tài)視覺平臺，結(jié)合硬件和軟件用于高性能機器視覺系統(tǒng)。iniVation的神經(jīng)形態(tài)動態(tài)視覺傳感器芯片DAVIS346模仿了人類視網(wǎng)膜的特性。只有在發(fā)生局部像素級的變化時才會進行傳輸，以微秒級的分辨率生成事件流，與傳統(tǒng)的視覺傳感器相當，但數(shù)據(jù)量卻少得多。該公司聲稱，由于采用本地化處理，其功耗（最多減少90%）、數(shù)據(jù)存儲和計算要求顯著降低，同時還提高了傳感器的動態(tài)范圍（高于120 dB）。

iniVation通過300個客戶的網(wǎng)絡，與賓夕法尼亞大學（University of Pennsylvania）、蘇黎世大學（University of Zurich）和美國國防高級研究計劃局（DARPA）的研究人員合作開發(fā)了IBM的TrueNorth仿人腦芯片。這項研究的重點是無人駕駛飛機的自主飛行。

暢想智能制造

現(xiàn)代制造業(yè)正在發(fā)生一場無聲的革命。機器自主和自動化相輔相成，大量制造自動化的發(fā)展背后是機器視覺。與簡單的傳感器不同，機器視覺傳感器會產(chǎn)生大量的數(shù)據(jù)以識別有缺陷的系統(tǒng)，了解它們的缺陷并進行快速干預。其結(jié)果是節(jié)約的成本和提高的生產(chǎn)率。

iniVation稱，其動態(tài)視覺平臺適用于工業(yè)視覺，可實現(xiàn)基礎設施的高速3D掃描，用于預測性維護、高速生產(chǎn)檢測、顆粒、熒光成像顯微鏡以及人體運動分析。換句話說，它能夠以高速度、高精度和高一致性執(zhí)行普通或復雜的重復任務。

“我們花了一段時間才找到一個好的策略?！眎niVation首席執(zhí)行官Kynan Eng說，“很多公司可以提供高速計數(shù)，由于傳統(tǒng)相機可以實現(xiàn)每秒1000幀甚至更高，所以高速計數(shù)并不是根本。如果應用不需要即時響應，那么，使用我們的傳感器就沒有什么意義?！?/p>

對于iniVation傳感器應用，關(guān)鍵的是延遲而不是數(shù)據(jù)吞吐量，iniVation的傳感器具有快速響應時間，例如一個不斷移動執(zhí)行任務的機器人，它需要實時調(diào)整它的路徑。如果調(diào)整得越快，它就能移動得越快，同時檢測自己錯誤的速度也越快。

“在我看來，工業(yè)視覺是一個相對低風險，但市場規(guī)模也低的市場?！盓ng說。因此，風險投資基金很少有興趣。著眼于有機增長，iniVation正在考慮規(guī)模經(jīng)濟。通過2019年與三星（Samsung）的合作，iniVation從制造和芯片銷售轉(zhuǎn)向?qū)C器視覺行業(yè)銷售相機?！澳憧梢再u100美元的芯片，也可以把它裝在相機里，賣1000美元的相機?！盰ole分析師Cambou指出。

通過轉(zhuǎn)向系統(tǒng)級產(chǎn)品，iniVation正在往高價值鏈上拓展。

“我們認識到，只成為一家芯片公司沒有意義。”Eng說，“我們可以融資10億美元，但這仍不足以自己制造芯片。客戶一直問我們，為什么我們的相機價格昂貴，如何才能讓它們便宜。與三星合作，就是問題的答案。”

對產(chǎn)品質(zhì)量的高要求，推動了食品、包裝、消費電子、航空航天以及汽車行業(yè)的機器視覺。Eng說，iniVation的目標是進入更大的市場。

移動領域空間巨大

基于事件的相機只傳輸強度的變化。它們不會受到運動模糊的影響，延遲時間約為微秒級。加上很高的動態(tài)范圍和很低的功耗，使基于事件的相機非常適合虛擬現(xiàn)實和增強現(xiàn)實應用（VR/AR）?！斑@是一個巨大的潛在市場，不過，現(xiàn)在還不知道什么時候會真正起量?，F(xiàn)在，它是一個利基市場?！盓ng說。

基于事件的相機也可以應用于移動設備?！爸攸c在于說服手機制造商在手機背面再增加一顆傳感器?！盓ng說。最初，iniVation和其它基于事件相機的廠商只生產(chǎn)使用DVS像素的相機。Eng補充說：“這些特性有利于應對高速變化，但在很多情況下，人們只是想自拍或者給美食拍照。幾年前，我們開始開發(fā)一種兼具基于事件像素和正常像素的傳感器。用戶可以拍攝普通照片，進行普通處理，但對于特定的用例，用戶會用到我們基于事件的像素?！?/p>

因此，手機制造商不必做出非此即彼的決定，并能維持同樣水平的價格。

Cambou說：“手機市場或?qū)⒃?021年~2022年前后開啟?，F(xiàn)在，我們已經(jīng)在華為手機的背面看到了5顆攝像頭。除了‘永久在線’的神經(jīng)形態(tài)相機，我想不出再下一顆攝像頭還有誰。有人會說‘多光譜相機’，但我認為更多的可能是讓智能手機始終保持‘意識’。基于事件的相機可以實現(xiàn)無接觸的交互，如鎖定和解鎖手機?！?/p>

與Prophesee和索尼的合作一樣，和三星的合作為iniVation在智能手機市場上提供了一條新的發(fā)展道路。Cambou說，一如既往，這是一個如何落地的問題?！坝谰迷诰€意識已經(jīng)提出好多年了，但現(xiàn)在的問題是如何實現(xiàn)它。這取決于應用，以及在客戶體驗方面可以提供哪些改善。”

為汽車提供智慧雙眼

基于事件的相機很節(jié)能，因為像素活動微不足道；對于“靜默時”的像素幾乎不需要能量。這是一個賣點，因為自動駕駛汽車正從內(nèi)燃機向電動引擎過渡。對于汽車公司來說，功耗比最初認為的要重要得多。Eng說，“在目前的電動汽車設計中，如果一輛汽車以恒定速度使用4 kW的總功率預算，那么其中一半會用于推動汽車，另一半則要用于計算。計算環(huán)節(jié)省下來的每一瓦特電能，都可以延長汽車的續(xù)航里程，或者使用更小的電池。”

iniVation的動態(tài)視覺傳感器平臺能夠在惡劣的照明條件下實現(xiàn)車輛量距、高速即時定位和地圖繪制（SLAM）以及自動駕駛輔助?！半S著處理技術(shù)的發(fā)展，自動駕駛汽車的前景將會越來越明朗?！盓ng說，“我們將提供一種混合傳感器，它將同時具備幀速和基于事件的傳感能力，這樣汽車制造商就可以繼續(xù)使用它們已經(jīng)投入數(shù)十億美元開發(fā)的產(chǎn)品?！?/p>

傳感器是解鎖自動駕駛的關(guān)鍵。Cambou表示，這些傳感器會產(chǎn)生大量的數(shù)據(jù)，系統(tǒng)將嚴重受限于處理能力。更多的攝像頭和隨之而來的更多數(shù)據(jù)意味著“計算爆炸”。一個解決方案是提高數(shù)據(jù)質(zhì)量。Cambou 補充說，“真的要解決自動駕駛問題，就需要更多類型的傳感數(shù)據(jù)，例如激光雷達、熱像儀和高光譜相機等。我認為汽車廠商也應該考慮基于事件的相機。”

神經(jīng)形態(tài)工程的潛力仍有待開發(fā)。Yole稱，到2029年，神經(jīng)形態(tài)半導體、傳感和計算將成長為71億美元規(guī)模的市場。如果在未來4~5年內(nèi)可以解決所有技術(shù)問題，神經(jīng)形態(tài)計算市場將從2024年的6900萬美元增長到2029年的50億美元，以及2034年的213億美元。神經(jīng)形態(tài)傳感市場將從2024年的3400萬美元增長到2029年的20億美元，以及2034年的47億美元。