【AI-1000问】为什么LeNet5倒数第二个全连接层维度为84?
文章首發(fā)于微信公眾號(hào)《有三AI》
【AI-1000問】為什么LeNet5倒數(shù)第二個(gè)全連接層維度為84?
為什么LeNet5倒數(shù)第二個(gè)全連接層維度為84?
相信大家也都知道LeNet5這個(gè)經(jīng)典的卷積神經(jīng)網(wǎng)絡(luò),它有3個(gè)全連接層,輸出維度分別是120,84,10,不知道大家知不知道為什么倒數(shù)第2個(gè)全連接層的維度是84呢?
作者/編輯 言有三
?
LeNet5的網(wǎng)絡(luò)結(jié)構(gòu)如下。
作為一個(gè)用于手寫數(shù)字識(shí)別的網(wǎng)絡(luò),它的最后輸出是1*10的向量,而倒數(shù)第2層卻不是我們熟悉的4096,1024,512這樣的2的指數(shù)次冪的維度,而是84,那這是為什么呢。
解答:因?yàn)樵谟?jì)算機(jī)中字符的編碼是ASCII編碼,這些圖是用7*12大小的位圖表示的,也就是高寬比為7:12,如下圖,選擇這個(gè)大小可以用于對每一個(gè)像素點(diǎn)的值進(jìn)行估計(jì)。
就這么簡單,不過既然來了就多說兩句吧。
上圖顯示了ASCII中的96個(gè)可打印字符,其中32是空格,不可見。
另外0~31以及127是控制字符/通信字符,控制字符如:LF(換行)、CR(回車)、DEL(刪除)等;通信字符如:SOH(文頭)、EOT(文尾)、ACK(確認(rèn))等,這兩類字符是不可打印的。
?
思考
是不是很粗暴的設(shè)定,居然跟位圖的大小有關(guān)。通常我們現(xiàn)在設(shè)定全連接層的維度都會(huì)是2的指數(shù)次冪或者最終分類數(shù),不知道你有沒有見過一些其他的設(shè)定?不妨留言交流。
轉(zhuǎn)載文章請后臺(tái)聯(lián)系
侵權(quán)必究
感謝各位看官的耐心閱讀,不足之處希望多多指教。后續(xù)內(nèi)容將會(huì)不定期奉上,歡迎大家關(guān)注有三公眾號(hào) 有三AI!
總結(jié)
以上是生活随笔為你收集整理的【AI-1000问】为什么LeNet5倒数第二个全连接层维度为84?的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 【AI-1000问】为什么深度学习图像分
- 下一篇: 【完结】总结12大CNN主流模型架构设计