版權(quán)聲明：本文為博主原創(chuàng)文章，歡迎轉(zhuǎn)載，并請注明出處。聯(lián)系方式：460356155@qq.com

在前兩篇文章MINIST深度學習識別：python全連接神經(jīng)網(wǎng)絡(luò)和pytorch LeNet CNN網(wǎng)絡(luò)訓(xùn)練實現(xiàn)及比較（一）、MINIST深度學習識別：python全連接神經(jīng)網(wǎng)絡(luò)和pytorch LeNet CNN網(wǎng)絡(luò)訓(xùn)練實現(xiàn)及比較（二）中，采用全連接神經(jīng)網(wǎng)絡(luò)（784-300-10），分別用非深度學習框架和基于pytorch實現(xiàn)，訓(xùn)練結(jié)果相當。

這里采用卷積神經(jīng)網(wǎng)絡(luò)（CNN）中著名的LeNet-5網(wǎng)絡(luò)來訓(xùn)練，除了網(wǎng)絡(luò)定義部分外，其他代碼基本和MINIST深度學習識別：python全連接神經(jīng)網(wǎng)絡(luò)和pytorch LeNet CNN網(wǎng)絡(luò)訓(xùn)練實現(xiàn)及比較（二）相同。

網(wǎng)絡(luò)定義代碼：

1 #定義網(wǎng)絡(luò)模型 2 class LeNet(nn.Module): 3 def __init__(self): 4 super(LeNet, self).__init__() 5 6 self.cnn = nn.Sequential( 7 #卷積層1，單通道輸入，6個卷積核，核大小5*5 8 #經(jīng)過該層圖像大小變?yōu)?8-5+1，24*24 9 #經(jīng)2*2最大池化，圖像變?yōu)?2*12 10 nn.Conv2d(1, 6, 5), 11 nn.ReLU(), 12 nn.MaxPool2d(2), 13 14 #卷積層2，6通道，16個卷積核，核大小5*5 15 #經(jīng)過該層圖像變?yōu)?2-5+1，8*8 16 # 經(jīng)2*2最大池化，圖像變?yōu)?*4 17 nn.Conv2d(6, 16, 5), 18 nn.ReLU(), 19 nn.MaxPool2d(2) 20 ) 21 22 self.fc = nn.Sequential( 23 # 16個feature，每個feature4*4 24 nn.Linear(16 * 4 * 4, 120), 25 nn.ReLU(), 26 nn.Linear(120, 84), 27 nn.ReLU(), 28 nn.Linear(84, 10) 29 ) 30 31 def forward(self, x): 32 x = self.cnn(x) 33 x = x.view(x.size()[0], -1) 34 x = self.fc(x) 35 return x

網(wǎng)絡(luò)訓(xùn)練結(jié)果準確率約在99%，LeNet-5比前面的全連接神經(jīng)網(wǎng)絡(luò)高1.x%。運行結(jié)果如下：

train data num: 60000 , test data num: 10000
epoch:0 i:999 loss:0.11399480700492859
epoch:0 i:1999 loss:0.1237913966178894
epoch:0 i:2999 loss:0.12948277592658997
EPOCH:0, ACC:97.5

epoch:1 i:999 loss:0.006639003753662109
epoch:1 i:1999 loss:0.0011253952980041504
epoch:1 i:2999 loss:0.03325369954109192
EPOCH:1, ACC:98.35

epoch:2 i:999 loss:0.0021111369132995605
epoch:2 i:1999 loss:0.2714851200580597
epoch:2 i:2999 loss:0.0016380250453948975
EPOCH:2, ACC:98.64

epoch:3 i:999 loss:0.00033468008041381836
epoch:3 i:1999 loss:0.05128034949302673
epoch:3 i:2999 loss:0.1222798228263855
EPOCH:3, ACC:98.65

epoch:4 i:999 loss:0.0006810426712036133
epoch:4 i:1999 loss:0.002728283405303955
epoch:4 i:2999 loss:0.000545889139175415
EPOCH:4, ACC:98.89

epoch:5 i:999 loss:0.006086885929107666
epoch:5 i:1999 loss:0.07402010262012482
epoch:5 i:2999 loss:0.03638958930969238
EPOCH:5, ACC:98.93

epoch:6 i:999 loss:0.0002015829086303711
epoch:6 i:1999 loss:0.0004933476448059082
epoch:6 i:2999 loss:0.03196592628955841
EPOCH:6, ACC:99.02

epoch:7 i:999 loss:0.01734447479248047
epoch:7 i:1999 loss:2.9087066650390625e-05
epoch:7 i:2999 loss:0.018512487411499023
EPOCH:7, ACC:98.73

epoch:8 i:999 loss:4.70280647277832e-05
epoch:8 i:1999 loss:0.008362054824829102
epoch:8 i:2999 loss:2.9206275939941406e-06
EPOCH:8, ACC:98.84

epoch:9 i:999 loss:0.00012737512588500977
epoch:9 i:1999 loss:0.00020432472229003906
epoch:9 i:2999 loss:0.00022774934768676758
EPOCH:9, ACC:99.1

MINIST pytorch LeNet-5 Train: EPOCH:10, BATCH_SZ:16, LR:0.05
train spend time:? 0:01:05.897404

損失函數(shù)值變化曲線為：

轉(zhuǎn)載于:https://www.cnblogs.com/zhengbiqing/p/10408358.html

總結(jié)

以上是生活随笔為你收集整理的MINIST深度学习识别：python全连接神经网络和pytorch LeNet CNN网络训练实现及比较（三）...的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。