2021.09.21 主要參考小崔老師：https://www.bilibili.com/video/BV1Hb4y1m7rE

《概率論》：最大似然估計(jì) 和 求法

視頻地址：https://www.bilibili.com/video/BV1KL4y187jV/

1. 最大似然估計(jì)思路

從樣本情況推測(cè)自然界概率模型，到底自然界真實(shí)情況是不是這樣？不好說(shuō)，不一定。

2. 方法

• 第一步：自然界模型中，我們假設(shè)，抽中1的概率$\theta$,抽2的概率$(1?\theta )$,但$\theta$到底多少不知道。
• 第二步：那么我從大數(shù)據(jù)中抽了五個(gè)球，因?yàn)閿?shù)據(jù)樣本非常大，所以不考慮排列，如圖①①②①②概率是 $L(\theta )={\theta }^3(1?\theta {)}^2$

【楊哥講解】

其實(shí)自然界 到底什么樣的$\theta$都是有可能的，$\theta =0.1$，有可能抽出這樣的樣本；$\theta =0.5$也能抽出這樣的樣本，無(wú)非抽出的概率不同。

最大似然估計(jì)法，就是認(rèn)為，我們抽出來(lái)這樣的樣本，那么我就認(rèn)為這種情況是最經(jīng)常發(fā)生的。也就是讓$L(\theta )={\theta }^3(1?\theta {)}^2$取最大，我們認(rèn)為這時(shí)候的$\theta$就是自然界的$\theta$。

• 第三步：求 $L(\theta )$最大值，一般轉(zhuǎn)換成求 -ln$L(\theta )$最小值

【楊哥講解】

• 取對(duì)數(shù)不改變函數(shù)單調(diào)性，又能很好地?fù)Q減運(yùn)算：① 將指數(shù)換成系數(shù)；②將聯(lián)乘變成了連加

這里我認(rèn)為講的有點(diǎn)小問(wèn)題，要加負(fù)號(hào)最小，所以一階導(dǎo)=0，雖然不影響結(jié)果，但這樣邏輯上才合適

• 第四步：我們認(rèn)為的大數(shù)據(jù)最終概率分布是這樣的

但，大數(shù)據(jù)里真的是這樣么？

3.思考

我們用李宏毅《機(jī)器學(xué)習(xí)》里面的一個(gè)例子，來(lái)看一個(gè)有趣的現(xiàn)象。

我們真實(shí)情況下有1類(lèi)一個(gè)，2,3,4類(lèi) 各4個(gè)，現(xiàn)在通過(guò)這種抽樣的思路來(lái)對(duì)測(cè)試數(shù)據(jù)進(jìn)行分類(lèi)（c1是class 1,C2 不是class2），看看它在屬于1類(lèi)的的概率。

計(jì)算的情況是 訓(xùn)練數(shù)據(jù) 是C1類(lèi)的概率<0.5

但人眼一眼就看出，它就是Class1

所以最大似然估計(jì)，是通過(guò) 統(tǒng)計(jì)學(xué)來(lái)假設(shè)樣本存在概率的 ，和真實(shí)情況有可能非常接近，有可能有一定差距。換句話說(shuō)就是 ，此算法有時(shí)候具有優(yōu)勢(shì)，有時(shí)候并不特別準(zhǔn)確。

總結(jié)

以上是生活随笔為你收集整理的《概率论》：最大似然估计 和 求法的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。