Capsule是深度學習之父hinton在2017年提出來的一個較為轟動的網絡結構。capsule這個結構主要的特點是：Vector in Vector out——向量進，向量出，而普通的神經元(Neuron)是Vector in Scalar out——向量進，標量出。capsule輸出的向量比Neuron輸出的標量表達出更豐富的特征。
下圖臺灣大學的李宏毅老師對capsule解讀的slide。

• Neuron的輸出標量只能表示到是否存在鳥嘴。
• capsule的輸出的向量不僅能表示鳥嘴是否存在，而且還能表示出鳥嘴的方向(如圖中向量第一維)，鳥嘴的顏色等，鳥嘴的其他特征。

現在是不是開始感受到vector out 的威力了。

 

李宏毅老師capsule講解的slide

Capsule算法簡介

了解到capsule的強大之后，接下來筆者對Capsule算法實現做一個簡單的介紹，感受一下為什么Capsule這么強大。Capsule結構有兩個比較重要的創新，如下圖所示：

• Squash壓縮激活函數
• Dynamic Routing

總結

以上是生活随笔為你收集整理的胶囊网络（Capsule）实战——keras算法练习的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。