目标函数、损失函数、代价函数
生活随笔
收集整理的這篇文章主要介紹了
目标函数、损失函数、代价函数
小編覺得挺不錯(cuò)的,現(xiàn)在分享給大家,幫大家做個(gè)參考.
-
損失函數(shù) (Loss function) ,是單個(gè)樣例 iii 的損失/誤差:
∣hθ(xi)?yi∣| h_{θ}(x^i) - y^i |∣hθ?(xi)?yi∣
-
代價(jià)函數(shù) (Cost function) ,是對(duì)數(shù)據(jù)集整體的誤差描述,也就是損失函數(shù)的總和的平均,有沒有這個(gè)平均其實(shí)不會(huì)影響最后的參數(shù)的求解結(jié)果:
12m∑i=1m(hθ(x(i))?y(i))2\frac{1}{2m} \sum_{i=1}^{m} (h_{θ}(x^{(i)}) - y^{(i)})^{2}2m1?i=1∑m?(hθ?(x(i))?y(i))2
-
目標(biāo)函數(shù)(Object Function),為了避免過擬合或者進(jìn)行一些特殊目的約束(Constraint),一般會(huì)在代價(jià)函數(shù)的后面加上正則化項(xiàng):
12m∑i=1m(hθ(x(i))?y(i))2+正則化項(xiàng)\frac{1}{2m} \sum_{i=1}^{m} (h_{θ}(x^{(i)}) - y^{(i)})^{2} + 正則化項(xiàng)2m1?i=1∑m?(hθ?(x(i))?y(i))2+正則化項(xiàng)
總結(jié)
以上是生活随笔為你收集整理的目标函数、损失函数、代价函数的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: Light-Head R-CNN
- 下一篇: 学习速率 learning rate