一、Smooth L1 Loss

??? 1.公式：

??? ?

??? 2.原因：

??? L1損失使權值稀疏但是導數不連續，L2損失導數連續可以防止過擬合但對噪聲不夠魯棒，分段結合兩者優勢。

二、Focal Loss

?? 1.公式：

???

?? 2.作用：

????????? 使得正負樣本平衡的同時，難分和易分樣本的比重不同，更易分。?

三、交叉熵損失

?????1.公式：

?????

???? 2.平衡交叉熵損失

????????

四、Dice Loss

?????1.公式：（類似于交并比）

???? ?

五、平方損失

?? 1.適用

??? 用于線性回歸中。

六、hinge損失（鉸鏈損失）

??? 1.公式：

????

???? 2.適用：

???? 主要用于SVM中。SVM損失是hinge損失和L2正則損失的和。

七、指數損失

? 1.適用

?? 用于adaboost中。

八、0/1損失

對應方法：

?

?? 1.Faster RCNN:cls+loc=交叉熵損失+smooth L1損失

?? 2.YOLO:平方損失

?? 3.SSD:cls+loc=交叉熵損失+smooth L1損失

?? 4.EAST:cls+角度+loc=平衡交叉熵損失+cos損失+log交并比損失

分類：

?? 交叉熵損失、focal loss、指數損失、hinge損失

回歸：

?? 平方損失、smooth L1損失、交并比損失、Dice 損失

?

???

?

轉載于:https://www.cnblogs.com/EstherLjy/p/9346249.html

總結

以上是生活随笔為你收集整理的【常用损失函数】的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。