1、什么是池化？

我們之所以使用卷積后的特征，是因?yàn)閳D像具有“靜態(tài)型”的屬性，也就意味著在一個(gè)圖像區(qū)域的特征極有可能在另一個(gè)區(qū)域同樣適用。所以，當(dāng)我們描述一個(gè)大的圖像的時(shí)候就可以對(duì)不同位置的特征進(jìn)行聚合統(tǒng)計(jì)（例如：可以計(jì)算圖像一個(gè)區(qū)域上的某個(gè)特定特征的平均值 or 最大值）這種統(tǒng)計(jì)方式不僅可以降低緯度，還不容易過(guò)擬合。這種聚合統(tǒng)計(jì)的操作就稱之為池化，或平均池化、最大池化。

2、池化的作用？

（1）保留主要特征的同時(shí)減少參數(shù)（降低緯度，類似PCA）和計(jì)算量，防止過(guò)擬合

在通過(guò)卷積獲得了特征 (features) 之后，下一步用這些特征去做分類。我們可以用所有提取到的特征去訓(xùn)練分類器，但是這樣計(jì)算成本比較高。例如softmax分類器，例如：對(duì)于一個(gè) 96X96 像素的圖像，假設(shè)我們已經(jīng)學(xué)習(xí)得到了400個(gè)定義在8X8輸入上的特征，每一個(gè)特征和圖像卷積都會(huì)得到一個(gè)(96 ? 8 + 1) * (96 ? 8 + 1) = 7921維的卷積特征，由于有 400 個(gè)特征，所以每個(gè)樣例 (example) 都會(huì)得到一個(gè)892* 400 = 3,168,400維的卷積特征向量。學(xué)習(xí)一個(gè)擁有超過(guò) 3 百萬(wàn)特征輸入的分類器十分不便，并且容易出現(xiàn)過(guò)擬合 (over-fitting)。

（2）invariance(不變性)，這種不變性包括translation(平移)，rotation(旋轉(zhuǎn))，scale(尺度)

a、 translation invariance：

這里舉一個(gè)直觀的例子(數(shù)字識(shí)別)，假設(shè)有一個(gè)16x16的圖片，里面有個(gè)數(shù)字1，我們需要識(shí)別出來(lái)，這個(gè)數(shù)字1可能寫(xiě)的偏左一點(diǎn)(圖1)，這個(gè)數(shù)字1可能偏右一點(diǎn)(圖2)，圖1到圖2相當(dāng)于向右平移了一個(gè)單位，但是圖1和圖2經(jīng)過(guò)max pooling之后它們都變成了相同的8x8特征矩陣，主要的特征我們捕獲到了，同時(shí)又將問(wèn)題的規(guī)模從16x16降到了8x8，而且具有平移不變性的特點(diǎn)。圖中的a（或b）表示，在原始圖片中的這些a（或b）位置，最終都會(huì)映射到相同的位置。

b、rotation invariance：

下圖表示漢字“一”的識(shí)別，第一張相對(duì)于x軸有傾斜角，第二張是平行于x軸，兩張圖片相當(dāng)于做了旋轉(zhuǎn)，經(jīng)過(guò)多次max pooling后具有相同的特征

c、 scale invariance：

下圖表示數(shù)字“0”的識(shí)別，第一張的“0”比較大，第二張的“0”進(jìn)行了較小，相當(dāng)于作了縮放，同樣地，經(jīng)過(guò)多次max pooling后具有相同的特征