因為自建的網絡很深導致網絡不能很好的訓練，于是尋找解決方法，
（１）好的初始參數
tanh的初始化用Xavier initialization
ReLU初始化用He initialization
（２）batch normalization

博文還沒有完善，等我有空
https://www.leiphone.com/news/201703/3qMp45aQtbxTdzmK.html
http://www.imooc.com/article/details/id/20307
http://m.blog.csdn.net/hongbin_xu/article/details/78708388
http://blog.csdn.net/u011324454/article/details/78648096

總結

以上是生活随笔為你收集整理的network中的weight initialization的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。