最小错误率贝叶斯决策
生活随笔
收集整理的這篇文章主要介紹了
最小错误率贝叶斯决策
小編覺得挺不錯(cuò)的,現(xiàn)在分享給大家,幫大家做個(gè)參考.
原文鏈接:http://blog.csdn.net/angel_yuaner/article/details/47042817?
在一般的模式識(shí)別問題中,人們的目標(biāo)往往是盡量減少分類的錯(cuò)誤,追求最小的錯(cuò)誤率。根據(jù)之前的文章,即求解一種決策規(guī)則,使得:
minP(e)=∫P(e|x)p(x)dx這就是 最小錯(cuò)誤率貝葉斯決策 。
在上式中,P(e|x)≥0,p(x)≥0對(duì)于所有的x均成立,故minP(e)等同于對(duì)所有的x最小化P(e|x),即:使后驗(yàn)概率P(wi|x)最大化。根據(jù)貝葉斯公式:?
在上式中,對(duì)于所有類別,分母都是相同的,所以決策的時(shí)候?qū)嶋H上只需要比較分子,即:?
先驗(yàn)概率 P(wi) 和類條件概率密度 p(x|wi) 是已知的。概率密度 p(x|wi) 反應(yīng)了在 wi 類中觀察到特征值x的相對(duì)可能性( likelihood )。
舉個(gè)簡(jiǎn)單的例子還說(shuō)明最小錯(cuò)誤貝葉斯決策。?
假設(shè)某地區(qū)檢測(cè)到細(xì)胞為正常細(xì)胞的概率w1和癌細(xì)胞的概率w2分別為:?
現(xiàn)在對(duì)于一個(gè)待決策的細(xì)胞,其特征的觀察之為 x ,且從類條件概率密度曲線上分別查得:?
p(x|w1)=0.2,p(x|w2)=0.4
現(xiàn)在需要對(duì)該細(xì)胞進(jìn)行決策,判斷是正常細(xì)胞還是癌細(xì)胞。根據(jù)貝葉斯公式,分別計(jì)算出 w1 和 w2 的后驗(yàn)概率:?
P(w1|x)=p(x|w1)P(w1)∑2j=1p(x|wj)P(wj)=0.2×0.90.2×0.9+0.4×0.1=0.818
P(w2|x)=1?P(w1|x)=0.182
因?yàn)?#xff1a; P(w1|x)=0.818>0.182=P(w2|x) ,所以更合理的決策是將 x 歸類為 w1 ,即正常細(xì)胞。
說(shuō)白了,貝葉斯決策就是將待分類物x歸類于最大后驗(yàn)概率的那一類,即:?
等價(jià)于: 若p(x|wi)P(wi)=maxkj=1P(wj|x)P(wi),則x∈wi ?
貝葉斯公式是用來(lái)計(jì)算后驗(yàn)概率的工具。
對(duì)于多類別決策,錯(cuò)誤率的計(jì)算量較大,可以轉(zhuǎn)化為計(jì)算平均正確率P(c)來(lái)計(jì)算錯(cuò)誤率:?
總結(jié)
以上是生活随笔為你收集整理的最小错误率贝叶斯决策的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 解决VS2010复制代码中文乱码的问题
- 下一篇: 《机器学习导论》和《统计机器学习》学习资