論文：Asymmetric Loss For Multi-Label Classification

GitHub：https://github.com/Alibaba-MIIL/ASL

https://github.com/Alibaba-MIIL/TResNet

?

阿里巴巴

?

論文基于focal loss解決正負(fù)樣本不平衡問(wèn)題，提出了focal loss的改進(jìn)版，一種非對(duì)稱(chēng)的loss，即Asymmetric Loss。

主要貢獻(xiàn)：

設(shè)計(jì)了一個(gè)新穎的loss，解決了多標(biāo)簽分類(lèi)任務(wù)中，正負(fù)樣本不平衡問(wèn)題，標(biāo)簽錯(cuò)誤問(wèn)題。

通過(guò)梯度分析，對(duì)該loss進(jìn)行了分析。

提出了自適應(yīng)的方法來(lái)控制非對(duì)稱(chēng)的級(jí)別，簡(jiǎn)化了超參數(shù)選擇過(guò)程。

使用ASL?loss，在主流的數(shù)據(jù)集上取得了?state-of-the-art的效果。其中，?MS-COCO 達(dá)到86.6%map，超過(guò)之前最好的結(jié)果2.8%。

該方法，高效，容易使用。相比于最近的其他方法，該方法基于主流的網(wǎng)絡(luò)結(jié)構(gòu)，并且不需要其他的信息。

?

?

非對(duì)稱(chēng)loss-ASL:

Binary Cross-Entropy:

focal loss:

Asymmetric Loss:

為了方便，可以設(shè)置?γ+ = 0，這樣L+就是正常的交叉熵?fù)p失。而L-可以通過(guò)閾值m減少容易負(fù)樣本的loss貢獻(xiàn)。其中，?γ? > γ+。

最終，ASL?loss不僅具備focal?loss進(jìn)行正負(fù)樣本平衡的作用，還具備減少容易負(fù)樣本loss貢獻(xiàn)的效果。

?

網(wǎng)絡(luò)結(jié)構(gòu)：

網(wǎng)絡(luò)結(jié)構(gòu)這里采用了TResNet，也是阿里內(nèi)部發(fā)明的網(wǎng)絡(luò)結(jié)構(gòu)。在相同推理速度，訓(xùn)練速度的條件下，具有比EfficientNet更高的精度。

TResNet系列一共有三種型號(hào)：TResNet-M，TResNet-L和TResNet-XL，它們的區(qū)別僅在深度和通道數(shù)量不同。

?

實(shí)驗(yàn)結(jié)果：

?

總結(jié)：

ASL loss，一種基于focal loss改進(jìn)的非對(duì)稱(chēng)loss，不僅具備focal?loss進(jìn)行正負(fù)樣本平衡的作用，還具備減少容易負(fù)樣本loss貢獻(xiàn)的效果。

本文驗(yàn)證ASL?loss的落腳點(diǎn)是多標(biāo)簽分類(lèi)，但是，ASL loss不僅可以應(yīng)用于多標(biāo)簽分類(lèi)，還可以應(yīng)用于單標(biāo)簽分類(lèi)任務(wù)，物體檢測(cè)任務(wù)。對(duì)緩解長(zhǎng)尾（long-tail）數(shù)據(jù)分布具有很好的效果。

?

?

總結(jié)

以上是生活随笔為你收集整理的多标签分类之非对称损失-Asymmetric Loss的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。