1.神經(jīng)元模型

2.感知機(jī)與多層網(wǎng)絡(luò)

3.誤差逆?zhèn)鞑ニ惴?/p>

(A)BP算法：最小化訓(xùn)練集D上的累積誤差

標(biāo)準(zhǔn)BP算法：更新規(guī)則基于單個Ek推導(dǎo)而得

兩種策略防止過擬合：（1）早停（通過驗(yàn)證集來判斷，訓(xùn)練集誤差降低，驗(yàn)證集誤差升高）（2） 正則化：在誤差目標(biāo)函數(shù)中引入描述網(wǎng)絡(luò)復(fù)雜度的部分

4.全局最小與局部最小

跳出局部最小的方法：（1）不多參數(shù)初始化多個神經(jīng)網(wǎng)絡(luò)。去誤差最小的解做為最終參數(shù)（2）模擬退火（3）遺傳算法

5.其他神經(jīng)網(wǎng)絡(luò)

Boltzmann機(jī) RBM受限玻爾茲曼機(jī)

自己學(xué)習(xí)時寫了一些代碼，有的還有一些問題，可以留言討論，習(xí)題以后補(bǔ)上

https://github.com/makang101/machinelearning/tree/master/chapter5neuralNetwork

總結(jié)

以上是生活随笔為你收集整理的《机器学习》 周志华学习笔记第五章 神经网络（课后习题） python实现的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。