ACNet论文阅读笔记
目錄
論文信息
摘要
ACB模塊結(jié)構(gòu)
實驗結(jié)果
論文信息
論文鏈接:《ACNet: Strengthening the Kernel Skeletons for Powerful CNN via Asymmetric Convolution Blocks》
發(fā)表時間:2019年
來源:ICCV2019
作者:Xiaohan Ding
摘要
本文提出非對稱卷積塊(ACB),這是一種與結(jié)構(gòu)無關(guān)的結(jié)構(gòu),作為CNN構(gòu)造塊,它使用一維非對稱卷積來增強平方卷積核。對于現(xiàn)成的體系結(jié)構(gòu),我們用ACB取代標準的方形內(nèi)核卷積層,以構(gòu)建非對稱卷積網(wǎng)絡(luò)(ACNet),可以對其進行訓(xùn)練以達到更高的準確性。經(jīng)過培訓(xùn)后,我們等效地將ACNet轉(zhuǎn)換為相同的原始體系結(jié)構(gòu),因此不再需要額外的計算。
ACB模塊結(jié)構(gòu)
如上圖所示,在訓(xùn)練過程中,分別用3x3,1x3,3x1的卷積核對圖像進行卷積運算,然后將三個輸出進行相加得到輸出,利用這樣的卷積核來替代單一的卷積核進行運算,作者認為在進行卷積運算時位于卷積核十字位置的像素包含更多的信息,尤其在卷積核的中心位置包含最多的信息,利用非對稱卷積增大對信息熵較大位置的信息提取,增強了網(wǎng)絡(luò)的表達能力。
然而在模型部署中,利用三個卷積代替一個卷積進行計算必然會增加網(wǎng)絡(luò)的計算量,作者利用等價替換對訓(xùn)練好的三個卷積參數(shù)進行融合,并對bn層進行融合,具體如下圖所示。
實驗結(jié)果
總結(jié)
以上是生活随笔為你收集整理的ACNet论文阅读笔记的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: ShuffleNet论文阅读笔记
- 下一篇: 机器学习——决策树的三种学习方法