構(gòu)造機(jī)器學(xué)習(xí)算法之前：觀察數(shù)據(jù)，總結(jié)規(guī)律

隨著大數(shù)據(jù)和深度學(xué)習(xí)的發(fā)展，互聯(lián)網(wǎng)中已具有開源機(jī)器學(xué)習(xí)算法模型。如果通過收集大量數(shù)據(jù)，并將數(shù)據(jù)輸入至某種機(jī)器學(xué)習(xí)的開源算法中訓(xùn)練，則大概率無法得到較好的結(jié)果。開發(fā)人員如果沒有對數(shù)據(jù)感性的認(rèn)識，難以設(shè)計出性能較好的算法，同時，開發(fā)人員也難以估計算法的性能極限。

因此，開發(fā)人員在構(gòu)造機(jī)器學(xué)習(xí)算法之前需觀察數(shù)據(jù)，總結(jié)規(guī)律。 ?

第一步、特征提?。‵eature Extraction）

特征提取是指通過樣本獲得對機(jī)器學(xué)習(xí)任務(wù)有幫助的多維度特征數(shù)據(jù)。特征提取對于機(jī)器學(xué)習(xí)系統(tǒng)的構(gòu)件是重要的，實踐表明，如果開發(fā)人員提取了特征較好，那么即使采用較差的機(jī)器學(xué)習(xí)算法，也可獲得較好的性能，但如果開發(fā)人員提取的特征較差，無法反應(yīng)樣本的內(nèi)在規(guī)律，那么即使采用較好的機(jī)器學(xué)習(xí)算法，也無法獲得較好的性能。 ? 不同任務(wù)提取特征的方式不同。圖像、語音、三維點云（根據(jù)百度百科：三維點云是按照規(guī)則格網(wǎng)排列的三維坐標(biāo)點的數(shù)據(jù)集）等媒質(zhì)的物理屬性各不相同，各種媒質(zhì)對應(yīng)機(jī)器學(xué)習(xí)的任務(wù)也不同，因此，機(jī)器學(xué)習(xí)算法的特征提取的方式較多，開發(fā)人員欲想將各種機(jī)器算法特征提取最優(yōu)方式完全掌握需要較長時間。 ? ?

第二步、特征選擇（Feature Selection）

? 特征選擇需要選擇區(qū)分度高的特征。如圖一所示，圖一中上方兩張圖的紅線與藍(lán)線重合較少，可被視為區(qū)分度高的特征，圖一下方兩張圖的紅線與藍(lán)線重合較高，相比于圖一上方兩張圖的區(qū)分度較低。因此，經(jīng)過特征選擇步驟，圖一中上方兩張圖將被選擇。 ?

圖一，圖片來源：根據(jù)中國慕課大學(xué)《機(jī)器學(xué)習(xí)概論》資料制作 ?

? 第三步，選擇機(jī)器學(xué)習(xí)算法

開發(fā)人員選擇適合其選擇特征的算法。機(jī)器學(xué)習(xí)算法包括：支持向量機(jī)（Support Vector Machine）、人工神經(jīng)網(wǎng)絡(luò) （Neural Networks）、深度神經(jīng)網(wǎng)絡(luò)（Deep Neural Networks），每種機(jī)器學(xué)習(xí)算法中包含多種內(nèi)核（可將多種內(nèi)核理解為多個機(jī)器學(xué)習(xí)算法）。 ?
? 第四步，得到特征空間（Feature Space），完成機(jī)器學(xué)習(xí)

如圖二所示，圖二中的三張二維平面圖均為特征空間圖形，三張?zhí)卣骺臻g圖形內(nèi)的直線或曲線（紅色橢圓框內(nèi)）是計算機(jī)完成不同機(jī)器學(xué)習(xí)后得出的不同分類依據(jù)，計算機(jī)可依照其所得到的分類依據(jù)對新數(shù)據(jù)進(jìn)行分類。 ?

圖二，圖片來源：根據(jù)中國慕課大學(xué)《機(jī)器學(xué)習(xí)概論》資料制作 ? 在更復(fù)雜的機(jī)器學(xué)習(xí)中，特征空間的維度處于幾百至幾萬數(shù)量級的維度，深度學(xué)習(xí)的特征空間維度可處于幾十萬量級的維度，機(jī)器學(xué)習(xí)適合在高維度特征空間中的預(yù)測。

? 同時，不同機(jī)器學(xué)習(xí)所得出的分類標(biāo)準(zhǔn)不同（即三張?zhí)卣骺臻g圖形內(nèi)的直線或曲線的形狀不同）。因此，針對某一數(shù)據(jù)，不同機(jī)器學(xué)習(xí)算法將得出不同的預(yù)測結(jié)果。但因為開發(fā)人員難以窮盡所有數(shù)據(jù)，所以無法簡單確定哪種機(jī)器學(xué)習(xí)算法更優(yōu)。 ? ?

編輯：黃飛

?