http://www.nature.com/nbt/journal/v26/n8/full/nbt1406.html

對于最大似然概率的推導(dǎo)可以參考本系列中的文章

也就是說要求的是拋硬幣A是正面的概率p(A), 和拋硬幣B是正面的概率p(B)

一共做了五組實驗，其中三組是拋10次A，正面的次數(shù)。

對于這三組的現(xiàn)象的概率是 p(data|A)=p(h|A)*(1-p(h|a))...p(h|A)

兩邊去對數(shù)，讓其導(dǎo)數(shù)為0， 就可以計算出p(h|A)

為什么要讓概率最大？這是因為這三組實驗的結(jié)果就是在p(h|A)的概率分布下最有可能出現(xiàn)的現(xiàn)象。

對于EM：

也是同樣做了5組拋硬幣的實驗，但是對于每組實驗不知道是用A或者B做的實驗，目的還是求p(A), p(B)

1. 設(shè)初始概率為p(A)=0.6, p(B) = 0.5

2. E步，當(dāng)?shù)谝唤M是用A實驗，可以求出第一組現(xiàn)象出現(xiàn)的概率，再求出用B做實驗，第一組現(xiàn)象出現(xiàn)的概率，然后就可以計算出第一組數(shù)據(jù)用A或者B做實驗的概率，0.6^5*（1-0.6）^5/0.5^10 = 0.445/0.55

然后可以算出A和B出現(xiàn)正面的期望Exception

3. M步，根據(jù)E步算出的Exception計算出p(A),p(B), 根據(jù)的是最大(Maximization)期望對數(shù)似然

總結(jié)

以上是生活随笔為你收集整理的What is the expectation maximization algorithm?的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。