作者：蘇勇Andrew

作為一家國(guó)際知名半導(dǎo)體公司的人工智能技術(shù)專(zhuān)家，我在向客戶(hù)介紹瑞薩的AI硬件和AI工具時(shí)，總會(huì)收到我關(guān)于機(jī)器學(xué)習(xí)算法的詢(xún)問(wèn)，例如：卷積神經(jīng)網(wǎng)絡(luò)、K均值算法或其他什么算法。但事實(shí)是，在構(gòu)建人工智能解決方案的過(guò)程中，算法并不是最重要的因素（雖然是必要的），尤其是對(duì)于端側(cè)應(yīng)用。數(shù)據(jù)才是關(guān)鍵，一旦有了數(shù)據(jù)，真正起決定作用的，其實(shí)是隱藏在其中的“特征”（Feature）。

在機(jī)器學(xué)習(xí)的術(shù)語(yǔ)中，特征是作為算法輸入的特定變量。特征可以是直接來(lái)自于輸入數(shù)據(jù)中的原始值，也可以是對(duì)這些數(shù)據(jù)進(jìn)行處理（預(yù)處理）后間接得到的值。有了合適的特征，幾乎任何機(jī)器學(xué)習(xí)算法都能找到你要找的東西。如果沒(méi)有好的特征，任何算法都無(wú)濟(jì)于事。對(duì)于現(xiàn)實(shí)世界中的問(wèn)題來(lái)說(shuō)尤其如此，因?yàn)楝F(xiàn)實(shí)世界中的數(shù)據(jù)往往帶有大量的固有噪聲和差異，干擾和迷惑我們，妨礙我們直接通過(guò)數(shù)據(jù)看到真相。

我的同事Jeff（瑞薩AI COE部門(mén)的技術(shù)總監(jiān)，前Reality AI獨(dú)立公司的聯(lián)合創(chuàng)始人）喜歡用這樣一個(gè)例子跟同事們解釋機(jī)器學(xué)習(xí)中關(guān)于特征的概念：

“假設(shè)我試圖用人工智能模型檢測(cè)我妻子何時(shí)回家，我會(huì)準(zhǔn)備一組傳感器，將其對(duì)準(zhǔn)門(mén)口并收集數(shù)據(jù)。為了將這些數(shù)據(jù)應(yīng)用于機(jī)器學(xué)習(xí)，我需要確定一組特征，這些特征能幫助模型將妻子與傳感器可能檢測(cè)到的其他任何事物區(qū)分開(kāi)來(lái)。那么，最好用的特征會(huì)是什么呢？是能表明“她在那兒！”的那個(gè)特征。那將是完美的——一個(gè)具有完全預(yù)測(cè)能力的特征。這樣一來(lái)，機(jī)器學(xué)習(xí)的任務(wù)就變得輕而易舉了?！?/p>

誠(chéng)然，如果能預(yù)知直接從底層數(shù)據(jù)中計(jì)算出完美特征的算法就最好了，實(shí)際上，深度學(xué)習(xí)通過(guò)多層卷積神經(jīng)網(wǎng)絡(luò)踐行了這個(gè)思路，但這會(huì)帶來(lái)大量的計(jì)算開(kāi)銷(xiāo)，并且需要大量的數(shù)據(jù)樣本做支撐。正如在前文《深度學(xué)習(xí)的困局》中所闡述的那樣。不過(guò)，還有其他方法，比如，使用Reality AI提供的工具集。

瑞薩的Reality AI工具基于連續(xù)采樣的信號(hào)輸入（如加速度、振動(dòng)、聲音、電信號(hào)等等）來(lái)創(chuàng)建分類(lèi)器和探測(cè)器，而這些輸入通常帶有大量噪聲和固有的信號(hào)波動(dòng)。我們的價(jià)值在于，能夠探索到那些以最低計(jì)算開(kāi)銷(xiāo)實(shí)現(xiàn)最強(qiáng)推測(cè)能力（關(guān)聯(lián)度最高）的特征。Reality AI工具會(huì)遵循一套數(shù)學(xué)流程，先從數(shù)據(jù)中發(fā)現(xiàn)經(jīng)過(guò)優(yōu)化的特征，然后才會(huì)考慮使用這些特征來(lái)做出決策的算法（SVM或者NN）細(xì)節(jié)。Reality AI工具探索到越接近完美的特征，最終得到的推測(cè)結(jié)果就越好，需要參與訓(xùn)練和推理過(guò)程的數(shù)據(jù)更少，訓(xùn)練時(shí)間更少，結(jié)果更準(zhǔn)確，并且所需的處理能力也更低。經(jīng)過(guò)驗(yàn)證，行之有效。

這里舉個(gè)例子說(shuō)明有效的特征對(duì)后續(xù)判決起到顯著作用。當(dāng)以比較高的采樣率（50 Hz及以上）對(duì)客觀上世界的信號(hào)數(shù)據(jù)進(jìn)行分析，比如，從振動(dòng)或聲音轉(zhuǎn)化成的電信號(hào)進(jìn)行采樣得到的數(shù)據(jù)中發(fā)現(xiàn)某些規(guī)律或模式。在信號(hào)處理領(lǐng)域，工程師們通常采用頻率分析方法提取信號(hào)特征。對(duì)于這類(lèi)數(shù)據(jù)，機(jī)器學(xué)習(xí)的常見(jiàn)做法是，也是對(duì)輸入數(shù)據(jù)流進(jìn)行快速傅里葉變換（FFT），然后將這些頻率系數(shù)中的峰值作為神經(jīng)網(wǎng)絡(luò)或其他某種算法的輸入。

為什么采用這種方法呢？

一方面，是因?yàn)樗芊奖悖吘箶?shù)據(jù)工程師使用的所有數(shù)據(jù)處理工具都支持FFT，例如：MATLAB、Numpy、Scipy。

另一方面，也是因?yàn)樗麄兝斫膺@種方法，因?yàn)樵趯W(xué)校里，每個(gè)人都會(huì)學(xué)習(xí)FFT。

同時(shí)，也是因?yàn)檫@種方法易于解釋?zhuān)驗(yàn)槠浣Y(jié)果很容易與底層物理原理聯(lián)系起來(lái)。

但是，F(xiàn)FT并不是總會(huì)提供最優(yōu)的特征，它常會(huì)模糊掉重要的時(shí)間信息，而這些時(shí)間信息對(duì)于底層時(shí)序信號(hào)的分類(lèi)或檢測(cè)可能極為有用。

例如

在一項(xiàng)測(cè)試中，將Reality AI優(yōu)化后的特征與FFT在一組中等復(fù)雜程度且?guī)в性肼暤男盘?hào)上進(jìn)行了比較。在圖1中，展示了針對(duì)這一特定信號(hào)輸入進(jìn)行FFT處理后的時(shí)頻圖（或稱(chēng)為頻譜圖）?？v軸是頻率，橫軸是時(shí)間，在流信號(hào)上的滑動(dòng)窗口中每次計(jì)算FFT。圖中的顏色是熱圖，顏色越暖表示在該特定頻率范圍內(nèi)的能量越高。

圖1 測(cè)試信號(hào)的頻譜圖

把現(xiàn)在看到的這張圖，同另一張圖做個(gè)對(duì)比，見(jiàn)圖2。圖2是對(duì)當(dāng)前這個(gè)分類(lèi)問(wèn)題，用Reality AI探索到的方法做出來(lái)的，它展示的是經(jīng)過(guò)優(yōu)化的特征。在圖2中，細(xì)節(jié)展現(xiàn)得更豐富，之前模糊的地方現(xiàn)在都能分辨出來(lái)，而且降低了描述的復(fù)雜度（不需要使用不同的顏色在第三個(gè)維度上表達(dá)能量的分布情況）。如此，理解圖中的內(nèi)容也容易多了。

圖2 測(cè)試信號(hào)在Reality AI探索到特征空間中的分布

仔細(xì)看這個(gè)圖，就可以試著解釋這段信號(hào)的模式：

最基礎(chǔ)的信號(hào)其實(shí)是一種低沉的（初始頻率分布在較低的頻段）、帶著好幾種音調(diào)（能量分布在多個(gè)頻點(diǎn)）的嗡嗡聲

同時(shí)還伴隨著一陣一陣逐漸變響的啁啾聲（有效頻率分布的范圍隨著時(shí)間的推移在逐步升高）

另外還有一些突然出現(xiàn)又消失的其他信號(hào)（隨著時(shí)間的推移，在某些頻點(diǎn)出現(xiàn)能量后又消失）。

哈哈，你可能猜到了，這是一種獨(dú)特的鳥(niǎo)在傳遞某種信息時(shí)發(fā)出的鳴叫聲。

因?yàn)橛昧薘eality AI探索出的方法，圖中的信息不再模糊不清，那些干擾的噪聲也被去掉了。所以，即使不是專(zhuān)業(yè)搞信號(hào)處理的人，也能一下子能看明白?，F(xiàn)在，無(wú)論使用什么分類(lèi)方法，要檢測(cè)這些信號(hào)可比以前簡(jiǎn)單太多了。

一開(kāi)始就對(duì)特征進(jìn)行優(yōu)化還有另一個(gè)關(guān)鍵的好處，可以提升最終分類(lèi)器的計(jì)算效率。對(duì)于嵌入式解決方案而言，內(nèi)存空間和計(jì)算負(fù)載都是最寶貴的資源，如果沒(méi)有選對(duì)合適的特征，可能會(huì)導(dǎo)致最終可用模型的尺寸和計(jì)算復(fù)雜度急劇攀升，從而導(dǎo)致選型的芯片成本增加。

如前文《深度學(xué)習(xí)的困局》所述，深度學(xué)習(xí)也能夠發(fā)現(xiàn)特征，不過(guò)效率不高。盡管如此，深度學(xué)習(xí)方法在處理某些使用信號(hào)數(shù)據(jù)的問(wèn)題時(shí)非常成功，包括圖像中的物體識(shí)別以及聲音中的語(yǔ)音識(shí)別。對(duì)于廣泛的各類(lèi)問(wèn)題，它都是一種可行的方法，但深度學(xué)習(xí)需要大量的訓(xùn)練數(shù)據(jù)，計(jì)算效率不是很高，而且對(duì)于非專(zhuān)業(yè)人士來(lái)說(shuō)使用起來(lái)可能有難度。分類(lèi)器的準(zhǔn)確性往往對(duì)大量的配置參數(shù)有著敏感的依賴(lài)，這使得許多使用深度學(xué)習(xí)的開(kāi)發(fā)者把大量精力放在調(diào)整預(yù)訓(xùn)練的模型上，而不是專(zhuān)注于為每個(gè)新問(wèn)題找到最佳特征。

我的同事Jeff（同時(shí)作為數(shù)學(xué)家的他）也解釋說(shuō)，深度學(xué)習(xí)的本質(zhì)上是“一種廣義的非線性函數(shù)映射 ——數(shù)學(xué)原理很精妙，但與幾乎任何其他方法相比，其收斂速度慢得離譜”。而Reality AI的方法則是針對(duì)信號(hào)進(jìn)行了優(yōu)化調(diào)整，通過(guò)探索和提取有效特征的方法，能夠在使用較少數(shù)據(jù)的情況下實(shí)現(xiàn)更快的收斂。對(duì)于資源有限的端側(cè)AI的應(yīng)用場(chǎng)景，這種方法的效率將比深度學(xué)習(xí)高出好幾個(gè)數(shù)量級(jí)。

雖然，深度學(xué)習(xí)在目前主流的AI產(chǎn)品中取得了顯著的成功，這使得相關(guān)領(lǐng)域的人們將更多的關(guān)注放到了算法方面。在深度學(xué)習(xí)及其周邊領(lǐng)域，機(jī)器學(xué)習(xí)算法已經(jīng)有了大量令人興奮的創(chuàng)新成果。但是，不要忘記一些基本的要義：

歸根結(jié)底，一切都來(lái)自于數(shù)據(jù)，與特征有關(guān)。