7.5 贝叶斯网
7.5 貝葉斯網
- 貝葉斯網又叫做信念網,它借助無環(huán)圖來刻畫屬性之間的也來關系,并且使用條件概率表來描述屬性的聯(lián)合概率分布
具體來說,一個貝葉斯網B由結構G和參數(shù)誰他兩部分構成,即B={G,誰他},網絡結構G是一個有向無環(huán)圖,其每個節(jié)點對應于一個屬性,若兩個屬性有直接以來關系,則他們由一條邊連接起來;參數(shù)誰他定量描述了這種依賴關系,假設屬性Xi 在G中的父節(jié)點集是 Πi,則誰他包含了每個屬性的條件概率 誰他xi | Π i =Pb(x i |Π i)
作為一個例子,圖7.2給出了西瓜問題的一種貝葉斯網結構和屬性“根蒂”的條件概率表,從圖中網絡結構可以看出來:“色澤”直接依賴于“好瓜”和“甜度”,而“根蒂”直接依賴于甜度,進一步哦操你個條件概率表中可以得到“根蒂”對“甜度”的量化依賴關系,如 P( 硬挺 | 高) =0.1 等
7.5.1 結構
-
貝葉斯結構有效的表達了屬性間的條件獨立性,給定父結點集,貝葉斯網假設每個屬性與它的非后裔屬性獨立,于是 B={G,誰他},將屬性x1,x2,x3,xd的聯(lián)合概率分布定義為
Pb(x1,x2……x5) =P(x1)P(x2)P(x3 |x1) P(x4 |x1,x2)P(x5|x2)
顯然, x3和x4在給定x1的取值時獨立,x4和x5在給定x2取值的時候獨立,分別簡單的記作 x3和 x4獨立在x1給定的時候,x4 和x5 在x2給定的額時候獨立、
同父結構 V型結構 順序結構
在同父結果后中,給定父節(jié)點x1的取值,則x3和x4相互獨立,在“順序”結構中,給定x的取值,則y和z條件獨立,V型結構中,也叫做沖撞結構,給定子節(jié)點x4的取值,x1和x2必定不獨立。奇妙的是,如果x4的取值完全未知,則V型情況下,x1和x2確實相互獨立的,我們可以做一個簡單的驗證。
? P(x1,x2)= 求和 P(x1,x2,x4)
? = 求和 P(x4 | x1,x2) * P(x1) * P(x2)
? = P(x1) *P(x2)
- 這樣的獨立性稱之為 “邊際獨立性” 記作 x1 邊際獨立于 x2
事實上,一個變量的取值的正確與否,能對另外兩個變量之間的獨立性發(fā)生影響,這個現(xiàn)象并非V型結構獨特有,例如,在同父結構中,條件獨立性 x3 和x4 依賴于x1,但是如果x1的取值未知,則x3和x4就不獨立,即x3和x4不是邊際獨立。則順序結構中,在x確定的時候y和z獨立,但是y和z不是邊界獨立
為了分析有向圖中變量間的條件獨立性,可以使用“有向分離”,我們先把有向圖轉變?yōu)橐粋€有向圖賺百萬內一個無向圖
- 找出有向圖中的所有V型結構,在V型結構的兩個父節(jié)點之間加上一條無向邊
- 將所有有向邊改為無向邊
由此產生的無向圖稱為“道德圖”,令父節(jié)點相連的過程稱之為道德化
基于道德圖能夠直觀,迅速的找到變量之間的條件獨立性,假定道德圖中有變量x,和y和集合變量z={zi},若變量x和y能夠在圖上焙z分開,則從道德圖中將集合變量z去除后,x和y分屬于兩個連通的分支,則稱x和y被z有向分離,x和y在z給定的時候,獨立成立。例如,圖7.2所對應的道德圖如7.4所示,在圖中能夠容易的找到所有條件獨立關系
總結
- 上一篇: IDEA 中快捷键
- 下一篇: jupyter 显示全部数据