池化層 pool

池化層，可以降低數據體的空間尺寸，這樣的話就能減少網絡中參數的數量，使得計算資源耗費變少，也能有效控制過擬合。

最常見的形式是池化層使用尺寸 $2\times 2$ 的濾波器，以步長為 $2$ 來對每個深度切片進行降采樣，將其中 $75\%$ 的激活信息都丟掉。

平均池化歷史上比較常用，但是現在已經很少使用了，因為實踐證明，最大池化（MAX操作）的效果比平均池化要好：

$2\times 2$ 的最大池化：

反向傳播

池化層中，$max(x,y)$ 函數的反向傳播可以簡單理解為將梯度只沿最大的數回傳。因此，在向前傳播經過池化層的時候，通常會把池中最大元素的索引記錄下來（有時這個也叫作道岔（switches）），這樣在反向傳播的時候梯度的路由就很高效。

總結

以上是生活随笔為你收集整理的池化层 pool的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。