训练集样本不平衡问题对CNN的影响
轉載自??訓練集樣本不平衡問題對CNN的影響
訓練集樣本不平衡問題對CNN的影響
本文首發(fā)于知乎專欄“ai insight”！
卷積神經(jīng)網(wǎng)絡（CNN）可以說是目前處理圖像最有力的工具了。
而在機器學習分類問題中，樣本不平衡又是一個經(jīng)常遇到的問題。最近在使用CNN進行圖片分類時，發(fā)現(xiàn)CNN對訓練集樣本不平衡問題很敏感。
在網(wǎng)上搜索了一下，發(fā)現(xiàn)http://www.diva-portal.org/smash/get/diva2:811111/FULLTEXT01.pdf這篇文章對這個問題已經(jīng)做了比較細致的探索。于是就把它簡單整理了一下，相關的記錄如下。
?
1、實驗數(shù)據(jù)與使用的網(wǎng)絡
所謂樣本不平衡，就是指在分類問題中，每一類對應的樣本的個數(shù)不同，而且差別較大。
這樣的不平衡的樣本往往使機器學習算法的表現(xiàn)變得比較差。那么在CNN中又有什么樣的影響呢？作者選用了CIFAR-10作為數(shù)據(jù)源來生成不平衡的樣本數(shù)據(jù)。
CIFAR-10是一個簡單的圖像分類數(shù)據(jù)集。共有10類（airplane，automobile，bird，cat，deer，dog， frog，horse，ship，truck），每一類含有5000張訓練圖片，1000張測試圖片。
CIFAR-10樣例如圖：
訓練時，選擇的網(wǎng)絡是這里的CIFAR-10訓練網(wǎng)絡和參數(shù)（來自Alex Krizhevsky）。這個網(wǎng)絡含有3個卷積層，還有10個輸出結點。
之所以不選用效果更好的CNN網(wǎng)絡，是因為我們的目的是在實驗時訓練很多次進行比較，而不是獲得多么好的性能。
而這個CNN網(wǎng)絡因為比較淺，訓練速度比較快，比較符合我們的要求。
?
2、類別不平衡數(shù)據(jù)的生成
直接從原始CIFAR-10采樣，通過控制每一類采樣的個數(shù)，就可以產(chǎn)生類別不平衡的訓練數(shù)據(jù)。如下表所示：
這里的每一行就表示“一份”訓練數(shù)據(jù)。而每個數(shù)字就表示這個類別占這“一份”訓練數(shù)據(jù)的百分比。
Dist. 1：類別平衡，每一類都占用10%的數(shù)據(jù)。
Dist. 2、Dist. 3：一部分類別的數(shù)據(jù)比另一部分多。
Dist. 4、Dist 5：只有一類數(shù)據(jù)比較多。
Dist. 6、Dist 7：只有一類數(shù)據(jù)比較少。
Dist. 8： 數(shù)據(jù)個數(shù)呈線性分布。
Dist. 9：數(shù)據(jù)個數(shù)呈指數(shù)級分布。
Dist. 10、Dist. 11：交通工具對應的類別中的樣本數(shù)都比動物的多
對每一份訓練數(shù)據(jù)都進行訓練，測試時用的測試集還是每類1000個的原始測試集，保持不變。
?
3、類別不平衡數(shù)據(jù)的訓練結果
以上數(shù)據(jù)經(jīng)過訓練后，每一類對應的預測正確率如下：
第一列Total表示總的正確率，下面是每一類分別的正確率。
從實驗結果中可以看出：
類別完全平衡時，結果最好。
類別“越不平衡”，效果越差。比如Dist. 3就比Dist. 2更不平衡，效果就更差。同樣的對比還有Dist. 4和Dist. 5，Dist. 8和Dist. 9。其中Dist. 5和Dist. 9更是完全訓練失敗了。
?
4、過采樣訓練的結果
作者還實驗了“過采樣”（oversampling）這種平衡數(shù)據(jù)集的方法。
這里的過采樣方法是：對每一份數(shù)據(jù)集中比較少的類，直接復制其中的圖片增大樣本數(shù)量直至所有類別平衡。
再次訓練，進行測試，結果為：
可以發(fā)現(xiàn)過采樣的效果非常好，基本與平衡時候的表現(xiàn)一樣了。
過采樣前后效果對比，可以發(fā)現(xiàn)過采樣效果非常好：
?
5、總結
CNN確實對訓練樣本中類別不平衡的問題很敏感。
平衡的類別往往能獲得最佳的表現(xiàn)，而不平衡的類別往往使模型的效果下降。如果訓練樣本不平衡，可以使用過采樣平衡樣本之后再訓練。
這確實是一個“經(jīng)驗主義”的結論，但多少給我們平常訓練CNN模型帶來一些啟發(fā)和幫助。
總結
以上是生活随笔為你收集整理的训练集样本不平衡问题对CNN的影响的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。
- 上一篇： 中国第一个自然保护区是 是哪个
- 下一篇： 自然语言处理中的Attention Mo