關(guān)于最大似然估計(jì)法的基本原理請參考《概率論與數(shù)理統(tǒng)計(jì)》P152或參考《深度學(xué)習(xí)》chpt 5.5

文章目錄

• • 1、最大似然估計(jì)的一般理論
  • 2、最大似然估計(jì)的性質(zhì)
  • 3、最大似然估計(jì)推導(dǎo)邏輯回歸的損失函數(shù)
  • 4、線性回歸的損失函數(shù)
  • 5、小結(jié)

1、最大似然估計(jì)的一般理論

我們希望可以有些準(zhǔn)則可以讓我們從不同的模型中得到特定函數(shù)作為好的估計(jì)。
最常用的準(zhǔn)則是最大似然估計(jì)。

我們考慮一組含有m個(gè)樣本的數(shù)據(jù)集$X=\{x^{(1)},...,x^{(m)}\}$，獨(dú)立的由真正但未知的數(shù)據(jù)生成分布$p_{data}(x)$生成。

令$p_{model}(x;\theta )$ 是一族由$\theta$確定在相同空間上的概率分布。換言之，$pmodel(x;\theta )$$
將任意輸入x 映射到實(shí)數(shù)來估計(jì)真實(shí)概率$p_{data}(x)$。

對$\theta$ 的最大似然估計(jì)被定義為：
$$\begin{array}{rl}{\theta }_{ML}& =\arg \underset{\theta }{\max }{p}_{model}(X;\theta )\\ & =\arg \underset{\theta }{\max }{\Pi }_{i=1}^m{p}_{model}(x^{(i)};\theta )\end{array}$$
多個(gè)概率的乘積會因很多原因不便于計(jì)算。例如，計(jì)算中很可能會出現(xiàn)數(shù)值
下溢。為了得到一個(gè)便于計(jì)算的等價(jià)優(yōu)化問題，我們觀察到似然對數(shù)不會改變其
$\arg \max$ 但是將乘積轉(zhuǎn)化成了便于計(jì)算的求和形式：

$${\theta }_{ML}=\arg \underset{\theta }{\max }\sum _{i=1}^m\log p_{model}(x^{(i)};\theta )$$

因?yàn)楫?dāng)我們重新縮放代價(jià)函數(shù)時(shí)$\arg \max$ 不會改變，我們可以除以m 得到和訓(xùn)練數(shù)
據(jù)經(jīng)驗(yàn)分布$p{?}_{data}$ 相關(guān)的期望作為準(zhǔn)則：
$${\theta }_{ML}=\arg \underset{\theta }{\max }{E}_{x?p{?}_{data}}\log p_{model}(x;\theta ):$$

注意，雖然期望值的形式是根據(jù)各個(gè)值出現(xiàn)的概率加權(quán)平均，但事實(shí)上就等于將所有樣本都直接求平均的效果是一樣的。

也就是說，最大似然估計(jì)的最后推導(dǎo)結(jié)果可以用期望值表示。所以很多時(shí)候我們說某個(gè)算法的損失函數(shù)是其條件概率分布的期望值，也就是等價(jià)與其最大似然估計(jì)。

另一種解釋最大似然估計(jì)的觀點(diǎn)是將它看作最小化訓(xùn)練集上的經(jīng)驗(yàn)分布$p{?}_{data}$ 和模型分布之間的差異，兩者之間的差異程度可以通過KL 散度度量。KL 散度被定義為
$$D_{KL}(p{?}_{data}||p_{model})=E_{x?p{?}_{data}}[\log p{?}_{data}(x)?\log p_{model}(x)]$$
左邊一項(xiàng)僅涉及到數(shù)據(jù)生成過程，和模型無關(guān)。這意味著當(dāng)我們訓(xùn)練模型最小化KL
散度時(shí)，我們只需要最小化
$$?E_{x?p{?}_{data}}[\log p_{model}(x)]$$

當(dāng)然，這和上面的最大化是相同的，而這就是交叉熵的定義。

因此，我們經(jīng)常說的損失函數(shù)，可以說是交叉熵，也可以說是最大似然估計(jì)，其結(jié)果還可以表示成期望值，它們都是等價(jià)的。也就是說損失函數(shù)為：
$$\theta =?\arg \underset{\theta }{\min }{E}_{x?p{?}_{data}}[\log p_{model}(x;\theta )]=?\arg \underset{\theta }{\min }\sum _{i=1}^m\log p_{model}(x^{(i)};\theta )$$
注意這里的x指的是完整的一個(gè)訓(xùn)練樣本，也就是有l(wèi)abel值的，所以可以寫成：
$$\theta =?\arg \underset{\theta }{\min }{E}_{x?p{?}_{data}}[\log p_{model}(y|x;\theta )]=?\arg \underset{\theta }{\min }\sum _{i=1}^m\log p_{model}(y{|}^{(i)}{x}^{(i)};\theta )$$
這里把x和y分開了。

注意，正如上面所說，雖然期望值的形式是根據(jù)各個(gè)值出現(xiàn)的概率加權(quán)平均，但事實(shí)上就等于將所有樣本都直接求平均的效果是一樣的。所有樣本的相加，其結(jié)果就包含了概率分布的含義在內(nèi)。極端條件下（其實(shí)很普遍），所有的樣本都是不相同的，那每個(gè)$p_{model}(y{|}^{(i)}{x}^{(i)}$出現(xiàn)的概率都是1/m，也就是一個(gè)常量。

$p_{model}(y|x;\theta )$可以這樣理解：在當(dāng)前$\theta$（即當(dāng)前模型），當(dāng)x出現(xiàn)的前提下，各個(gè)y出現(xiàn)的概率是多少。注意是各個(gè)y出現(xiàn)的概率，不是某一個(gè)y（這個(gè)在sigmoid函數(shù)特別容易引起誤會，sigmoid函數(shù)值只是結(jié)果=1的概率，沒有0的概率。）。因此,$p_{model}(y|x;\theta )$必然與$x,y,\theta$都要關(guān)系。

得到損失函數(shù)后，我們就可以推導(dǎo)損失函數(shù)對$\theta$的梯度函數(shù)，這也是$x,y,\theta$的函數(shù)。

而對于某個(gè)模型（即當(dāng)前$\theta$），以及某個(gè)具體的樣本（即$x,y$),$x,y,\theta$都是已知的，這就可以計(jì)算出loss函數(shù)對$\theta$的梯度值，然后使用梯度下降更新$\theta$。

2、最大似然估計(jì)的性質(zhì)

最大似然估計(jì)最吸引人的地方在于，它被證明當(dāng)樣本數(shù)目$m\to \inf$時(shí)，就收斂率而言是最好的漸進(jìn)估計(jì)。

為什么使用最大似然估計(jì)呢？另一種常用的損失函數(shù)是均方誤差，但它在x的絕對值很大時(shí)，趨于飽和，梯度變得非常的小，很難訓(xùn)練。

3、最大似然估計(jì)推導(dǎo)邏輯回歸的損失函數(shù)

這里只解釋了最大似然估計(jì)在推導(dǎo)邏輯回歸損失函數(shù)時(shí)的應(yīng)用。

基本原理是：我們從樣本空間中隨機(jī)取N個(gè)樣本$X1,X2...XN$，其對應(yīng)的值為$y1,y2...yn$，既然我們已經(jīng)取得這N個(gè)樣本，則我們認(rèn)為特征值$X1,X2...XN$時(shí)，其對應(yīng)的值為$y1,y2...yn$的概率會比較大。

最大似然估計(jì)認(rèn)為，我們?nèi)『线m的w，使得特征值$X1,X2...XN$時(shí)，其對應(yīng)的值為y1,y2…yn的概率會最大。

極大似然估計(jì)MLE與損失函數(shù)
在機(jī)器學(xué)習(xí)理論中，損失函數(shù)（loss function） 是用來估量你模型的預(yù)測值f(x)與真實(shí)值Y的不一致程度，它是一個(gè)非負(fù)實(shí)值函數(shù)，通常使用L(Y,f(x))來表示，損失函數(shù)越小，模型的魯棒性就越好。損失函數(shù)是經(jīng)驗(yàn)風(fēng)險(xiǎn)函數(shù)的核心部分，也是結(jié)構(gòu)風(fēng)險(xiǎn)函數(shù)重要組成部分。模型的結(jié)構(gòu)風(fēng)險(xiǎn)函數(shù)包括了經(jīng)驗(yàn)風(fēng)險(xiǎn)項(xiàng)和正則項(xiàng)，通常可以表示成如下式子：

$${\theta }^{?}=\arg \underset{\theta }{\min }\frac{1}{N}\sum _{i=1}^{N}L(yi,f(xi;\theta ))+\lambda \Phi (\theta )$$

對于邏輯回歸，其loss function是log損失，可以通過極大似然估計(jì)進(jìn)行推導(dǎo)得到。首先，給定一個(gè)樣本$x$$
，可以使用一個(gè)線性函數(shù)對自變量進(jìn)行線性組合，
$${\theta }_0+{\theta }_1{x}_1+{\theta }_2{x}_2+?+{\theta }_n{x}_n={\theta }^{T}x$$
根據(jù)sigmoid函數(shù)，我們可以得出預(yù)測函數(shù)的表達(dá)式：
$$h_{\theta }(x)=g({\theta }^{T}x)=\frac{1}{1+e^{?{\theta }^{T}x}}$$
式(4)表示y=1時(shí)預(yù)測函數(shù)為$h_{\theta }(x)$。在這里，假設(shè)因變量y服從伯努利分布，取值為
0和1，那么可以得到下列兩個(gè)式子：
$$\begin{array}{rl}p(y=1|x)& =h_{\theta }(x)\\ p(y=0|x)& =1?h_{\theta }(x)\end{array}$$
而對于上面的兩個(gè)表達(dá)式，通過觀察，我們發(fā)現(xiàn)，可以將其合并為表達(dá)式：
$$p(y|x)=h_{\theta }(x{)}^y(1?h_{\theta }(x){)}^{1?y}$$
根據(jù)上面的式子，給定一定的樣本之后，我們可以構(gòu)造出似然函數(shù)，然后可以使用極大似然估計(jì)MLE的思想來求解參數(shù)。但是，為了滿足最小化風(fēng)險(xiǎn)理論，我們可以將MLE的思想轉(zhuǎn)化為最小化風(fēng)險(xiǎn)化理論，最大化似然函數(shù)其實(shí)就等價(jià)于最小化負(fù)的似然函數(shù)。對于MLE， 就是利用已知的樣本分布，找到最有可能（即最大概率）導(dǎo)致這種分布的參數(shù)值；或者說是什么樣的參數(shù)才能使我們觀測到目前這組數(shù)據(jù)的概率最大。 使用MLE推導(dǎo)LR的loss function的過程如下。
首先，根據(jù)上面的假設(shè)，寫出相應(yīng)的極大似然函數(shù)（假定有m個(gè)樣本）：
$$\begin{array}{rl}L(\theta )& =\prod _{i=1}^{m}p(y^{(i)}|x^{(i)};\theta )\\ & =\prod _{i=1}^m{h}_{\theta }(x^{(i)}{)}^{y^{(i)}}(1?h_{\theta }(x^{(i)}){)}^{1?y^{(i)}}\end{array}$$
直接對上面的式子求導(dǎo)會不方便，因此，為了便于計(jì)算，我們可以對似然函數(shù)取對數(shù)，經(jīng)過化簡可以得到下式的推導(dǎo)結(jié)果：
$$\begin{array}{rl}logL(\theta )& =\sum _{i=1}^{m}log[(h_{\theta }(x_i{)}^{y^{(i)}}(1?h_{\theta }(x^{(i)}){)}^{1?y^{(i)}})]\\ & =\sum _{i=1}^m[y^{(i)}log{h}_{\theta }(x^{(i)})+(1?y^{(i)})log(1?h_{\theta }(x^{(i)}))]\end{array}$$
因此，損失函數(shù)可以通過最小化負(fù)的似然函數(shù)得到，即下式：
$$\begin{array}{r}J(\theta )=?\frac{1}{m}\sum _{i=1}^m[y^{(i)}log{h}_{\theta }(x^{(i)})+(1?y^{(i)})log(1?h_{\theta }(x^{(i)}))]\end{array}$$
在有的資料上，還有另一種損失函數(shù)的表達(dá)形式，但本質(zhì)是一樣的，如下：
$$J(\theta )=\frac{1}{m}\sum _{i=1}^{m}log(1+e^{?y^{(i)}{\theta }^{T}x})$$
對于初學(xué)者而言，可能會認(rèn)為邏輯回歸的隨時(shí)函數(shù)是平方損失，這里解釋一下：之所以有人認(rèn)為邏輯回歸是平方損失，是因?yàn)樵谑褂锰荻认陆祦砬笞顑?yōu)解的時(shí)候，它的迭代式子與平方損失求導(dǎo)后的式子非常相似，從而給人一種直觀上的錯覺。

另一種理解：

注意：sigmoid函數(shù)只是定義了在$x$的條件下，$y=1$出現(xiàn)的概率，而不是完整的概率分布。
$$p(y|x)=h_{\theta }(x{)}^y(1?h_{\theta }(x){)}^{1?y}$$
才是y=0/1的完整分布。因此，我們可以定義LR的損失函數(shù)為：
$$?E_{x?p{?}_{data}}[\log p_{model}(y|x)]$$
根據(jù)第一節(jié)的推導(dǎo)，可以由這個(gè)定義得到最大似然估計(jì)同樣的表達(dá)式。

**事實(shí)上，這里的損失函數(shù)不僅僅適用于邏輯回歸，而應(yīng)該是適用于所有結(jié)果為Bernoulli分布的算法。**此時(shí)，由于預(yù)測結(jié)果不再是通過sigmoid函數(shù)計(jì)算出來的，損失函數(shù)為：
$$J(\theta )=?\frac{1}{m}\sum _{i=1}^m[y^{(i)}\log {\tilde{y}}^{(i)}+(1?y^{(i)})log(1?{\tilde{y}}^{(i)})]$$
其中${\tilde{y}}^{(i)}$表示模型的計(jì)算結(jié)果。也就是說深度學(xué)習(xí)的輸出如果是二分類問題的話，我們可以根據(jù)訓(xùn)練數(shù)據(jù)的真實(shí)值以及我們的預(yù)測值，計(jì)算出損失。

4、線性回歸的損失函數(shù)

對于線性回歸模型,當(dāng)因變量服從正態(tài)分布,誤差項(xiàng)滿足高斯–馬爾科夫條件（零均值、等方差、不相關(guān)）時(shí),回歸參數(shù)的最小二乘估計(jì)是一致最小方差無偏估計(jì)。
簡單的說，對于線性回歸，要求其因變量的殘差滿足正態(tài)分布。因此：
$$p_{model}(y|x)=N(y;f(x,\theta );I)$$
意思是在x的條件下，y出現(xiàn)的概率是以f(x)為中心的正態(tài)分布。

因此，我們對上式求對數(shù)，很容易得到其損失函數(shù)就是均方誤差。

5、小結(jié)

（1）我們經(jīng)常使用最大似然估計(jì)（或者交叉熵，二者等價(jià)）作為損失函數(shù)：
$$\begin{array}{rl}\theta & =?\arg \underset{\theta }{\min }{E}_{x?p{?}_{data}}[\log p_{model}(y|x;\theta )]\\ & =?\arg \underset{\theta }{\min }\sum _{i=1}^m\log p_{model}(y{|}^{(i)}{x}^{(i)};\theta )\end{array}$$

因此，我們定義損失函數(shù)最重要的就是找出$p_{model}(y|x;\theta )$。

$p_{model}(y|x;\theta )$可以這樣理解：在當(dāng)前$\theta$（即當(dāng)前模型），當(dāng)x出現(xiàn)的前提下，各個(gè)y出現(xiàn)的概率是多少。注意是各個(gè)y出現(xiàn)的概率，不是某一個(gè)y（這個(gè)在sigmoid函數(shù)特別容易引起誤會，sigmoid函數(shù)值只是結(jié)果=1的概率，沒有0的概率。）。因此,$p_{model}(y|x;\theta )$必然與$x,y,\theta$都要關(guān)系。

得到損失函數(shù)后，我們就可以推導(dǎo)損失函數(shù)對$\theta$的梯度函數(shù)，這也是$x,y,\theta$的函數(shù)。

而對于某個(gè)模型（即當(dāng)前$\theta$），以及某個(gè)具體的樣本（即$x,y$),$x,y,\theta$都是已知的，這就可以計(jì)算出loss函數(shù)對$\theta$的梯度值，然后使用梯度下降更新$\theta$。

（2）簡單總結(jié)一下相關(guān)知識：

• 很多模型使用交叉熵（也可理解為最大似然估計(jì)）作為損失函數(shù)。
• 交叉熵可以表示為期望值的形式。
• 期望值可以簡單理解為一個(gè)分布的加權(quán)平均。
• 線性回歸、邏輯回歸都可以使用這個(gè)方法推導(dǎo)出它的損失函數(shù)。

總結(jié)

以上是生活随笔為你收集整理的最大似然估计与损失函数的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。