马尔可夫网络,(马尔可夫随机场、无向图模型)(Markov Random Field)
轉(zhuǎn)載自:?http://blog.sina.com.cn/s/blog_54d222750101dgz2.html
?
馬爾可夫網(wǎng)絡(luò),(馬爾可夫隨機(jī)場(chǎng)、無(wú)向圖模型)是關(guān)于一組有馬爾可夫性質(zhì)隨機(jī)變量的全聯(lián)合概率分布模型。
?????馬爾可夫網(wǎng)絡(luò)類似貝葉斯網(wǎng)絡(luò)用于表示依賴關(guān)系。但是,一方面它可以表示貝葉斯網(wǎng)絡(luò)無(wú)法表示的一些依賴關(guān)系,如循環(huán)依賴;另一方面,它不能表示貝葉斯網(wǎng)絡(luò)能夠表示的某些關(guān)系,如推導(dǎo)關(guān)系。馬爾可夫網(wǎng)絡(luò)的原型是易辛模型,最初是用來(lái)說明該模型的基本假設(shè)。
?????用前蘇聯(lián)數(shù)學(xué)家辛欽(1894-1959〕的話來(lái)說,就是承認(rèn)客觀世界中有這樣一種現(xiàn)象,其未來(lái)由現(xiàn)在決定的程度,使得我們關(guān)于過去的知識(shí)絲毫不影響這種決定性。這種在已知“現(xiàn)在”的條件下,“未來(lái)”與“過去”彼此獨(dú)立的特性就被稱為馬爾科夫性,具有這種性質(zhì)的隨機(jī)過程就叫做馬爾科夫過程,其最原始的模型就是馬爾科夫鏈。這即是對(duì)荷蘭數(shù)學(xué)家惠更斯(Ch. Huygens, 1629-1659)提出的無(wú)后效原理的概率推廣,也是對(duì)法國(guó)數(shù)學(xué)家拉普拉斯(P. S. Laplace, 1749-1827)機(jī)械決定論的否定。
????馬爾可夫性質(zhì):
????它指的是一個(gè)隨機(jī)變量序列按時(shí)間先后關(guān)系依次排開的時(shí)候,第N+1時(shí)刻的分布特性,與N時(shí)刻以前的隨機(jī)變量的取值無(wú)關(guān)。拿天氣來(lái)打個(gè)比方。如果我們假定天氣是馬爾可夫的,其意思就是我們假設(shè)今天的天氣僅僅與昨天的天氣存在概率上的關(guān)聯(lián),而與前天及前天以前的天氣沒有關(guān)系。其它如傳染病和謠言的傳播規(guī)律,就是馬爾可夫的。?
????隨機(jī)場(chǎng):
????當(dāng)給每一個(gè)位置中按照某種分布隨機(jī)賦予相空間的一個(gè)值之后,其全體就叫做隨機(jī)場(chǎng)。我們不妨拿種地來(lái)打個(gè)比方。其中有兩個(gè)概念:位置(site),相空間(phase space)。“位置”好比是一畝畝農(nóng)田;“相空間”好比是種的各種莊稼。我們可以給不同的地種上不同的莊稼,這就好比給隨機(jī)場(chǎng)的每個(gè)“位置”,賦予相空間里不同的值。所以,俗氣點(diǎn)說,隨機(jī)場(chǎng)就是在哪塊地里種什么莊稼的事情。?
????馬爾可夫隨機(jī)場(chǎng):
????也叫馬爾可夫網(wǎng),拿種地打比方,如果任何一塊地里種的莊稼的種類僅僅與它鄰近的地里種的莊稼的種類有關(guān),與其它地方的莊稼的種類無(wú)關(guān),那么這些地里種的莊稼的集合,就是一個(gè)馬爾可夫隨機(jī)場(chǎng)。
????無(wú)向圖模型也叫馬爾科夫隨機(jī)場(chǎng)(Markov?Random?Fields)或馬爾科夫網(wǎng)絡(luò)(Markov?Network),無(wú)向圖模型有一個(gè)簡(jiǎn)單的獨(dú)立定義:兩個(gè)節(jié)點(diǎn)集A、B都與給定的第三個(gè)節(jié)點(diǎn)集C相互條件獨(dú)立,A、B節(jié)點(diǎn)之間的路徑都被C中的節(jié)點(diǎn)分開。
????相比之下,有向圖模型也叫貝葉斯網(wǎng)絡(luò)(Bayesian?networks)或信念網(wǎng)絡(luò)(Belief?Networks),有向圖模型有一個(gè)更復(fù)雜的獨(dú)立性觀念。
?
形式化定義:
?
形式上,一個(gè)馬爾可夫網(wǎng)絡(luò)包括:
- 一個(gè)無(wú)向圖?G?= (V,E),每個(gè)頂點(diǎn)?v?∈V?表示一個(gè)在集合的隨機(jī)變量,每條邊 {u,v} ∈?E?表示隨機(jī)變量u?和?v之間的一種依賴關(guān)系。
- 一個(gè)函數(shù)集合?(也稱為因子?或者?團(tuán)因子?有時(shí)也稱為特征),每一個(gè)??的定義域是圖G的團(tuán)或子團(tuán)k. 每一個(gè)?是從可能的特定聯(lián)合的指派(到元素k)到非負(fù)實(shí)數(shù)的映射。
聯(lián)合分布函數(shù):
-
聯(lián)合分布(吉布斯測(cè)度)用馬爾可夫網(wǎng)絡(luò)可以表示為:
其中是向量,是隨機(jī)變量在第k個(gè)團(tuán)的狀態(tài)(?是在第k個(gè)團(tuán)中包含的節(jié)點(diǎn)數(shù)。),乘積包括了圖中的所有團(tuán)。注意馬爾可夫性質(zhì)在團(tuán)內(nèi)的節(jié)點(diǎn)存在,在團(tuán)之間是不存在依賴關(guān)系的。這里,?是配分函數(shù),有
.
實(shí)際上,馬爾可夫網(wǎng)聯(lián)絡(luò)經(jīng)常表示為對(duì)數(shù)線性模型。通過引入特征函數(shù)?,得到
和
以及劃分函數(shù)
?。
其中,是權(quán)重,是勢(shì)函數(shù),映射團(tuán)到實(shí)數(shù)。這些函數(shù)有時(shí)亦稱為吉布斯勢(shì);術(shù)語(yǔ)勢(shì)?源于物理,通常從字面上理解為在臨近位置產(chǎn)生的勢(shì)能。
對(duì)數(shù)線性模型是對(duì)勢(shì)能的一種便捷的解釋方式。一個(gè)這樣的模型可以簡(jiǎn)約的表示很多分布,特別是在領(lǐng)域很大的時(shí)候。另一方面,負(fù)的似然函數(shù)是凸函數(shù)也帶來(lái)便利。但是即便對(duì)數(shù)線性的馬爾可夫網(wǎng)絡(luò)似然函數(shù)是凸函數(shù),計(jì)算似然函數(shù)的梯度仍舊需要模型推理,而這樣的推理通常是難以計(jì)算的。
馬爾可夫性質(zhì):
????馬爾可夫網(wǎng)絡(luò)有這樣的馬爾可夫性質(zhì):圖的頂點(diǎn)u在狀態(tài)的概率只依賴頂點(diǎn)u的最近臨節(jié)點(diǎn),并且頂點(diǎn)u對(duì)圖中的其他任何節(jié)點(diǎn)是條件獨(dú)立的。該性質(zhì)表示為
頂點(diǎn)u的最近臨節(jié)點(diǎn)集合?也稱為頂點(diǎn)u的馬爾可夫毯。
馬爾科夫隨機(jī)場(chǎng) - 馬爾科夫鏈的數(shù)學(xué)描述
??????????????????????????????
?
????????????????????????????????
?
?????????????????????????????????
??????
????????????????????????????????
???????????????????????????
????????????????????????????????????
?
???????????????????????????????????
?
?
馬爾科夫隨機(jī)場(chǎng) - 馬爾科夫隨機(jī)場(chǎng)的數(shù)學(xué)描述
???????????????????????????????????
??
????????????????????????????????
?
?
?
???????????????????????????????
?
????????????????????????????????
總結(jié)
以上是生活随笔為你收集整理的马尔可夫网络,(马尔可夫随机场、无向图模型)(Markov Random Field)的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: Oracle 表空间错误集锦
- 下一篇: uniitest怎么传参数