目錄

10.1 概率建模

10.1.1 獨立性

10.1.2?條件獨立

10.1.2.1?條件獨立和鏈式法則

10.2 貝葉斯網絡

10.2.1 圖形化的模型符號

10.2.2?貝葉斯網絡的構建

10.2.3?貝葉斯網絡的語義

10.2.3 貝葉斯網絡中的概率

10.2.4?因果關系

---

10.1 概率建模

模型描述了世界的（一部分）運作方式。

模型總是簡化的：

• 可能沒有考慮到每個變量，不關心或者無法為其建模。
• 可能沒有考慮到變量之間的所有相互作用，無法發現或者代價昂貴。
• 所有的模型都是錯的；但有些是有用的。?

在<人工智能學習（七）：概率>中，我們主要談論了動作，選擇動作，動作序列，鏈式推理。但是在這一篇博文，我們要討論的不是動作而是關于信念度。我們希望描述的是世界的某些部分，我們關心的變量是如何工作的。

我們用概率模型做什么？

我們（或我們的代理）需要通過給定證據對未知變量進行推理。

• 解釋（診斷性推理）
• 預測（因果推理）
• 信息的價值

10.1.1 獨立性

?如果兩個變量是獨立的：

注意：公式?是普適的，而上面的公式有一個前提條件是兩個變量相互獨立，并不是普適的。

這就是說，他們的聯合分布是由兩個更簡單的分布組成的產物。

另一種形式：

獨立性是一個簡化的建模假設：經驗性的聯合分布：最多 "接近 "獨立。不存在完美的獨立性。

通過計算發現不相等，我們可以說和是不獨立的兩個變量：

下面通過計算就滿足獨立性：?

一個極端的例子，如果我們通過拋枚硬幣，我們不需要寫出指數級的聯合分布表，只需要寫出單個的概率表，因為變量之間是相互獨立的。如果你問我任何有關聯合分布的問題，我都可以通過將變量相乘得到答案。更加極端的說，其實我們可以給出更緊湊的表，一個表就可以代表所有東西，因為它們都是相同的。

10.1.2?條件獨立

在條件獨立中，我們不會說兩個變量沒有交互作用。我們說它們的互動在某種程度上是由另一個變量介導的。

如果我有一個蛀牙（），探針卡（）在里面的概率并不取決于我是否有牙痛：

如果沒有蛀牙，同樣的獨立性也是成立的：

以上兩個例子是說明，一旦了解了蛀牙，我就了解了是否卡住需要注意的所有問題，牙齒疼痛就不再重要了。這是獨立嗎？并不是，我們只能說隨機變量，給定蛀牙（有條件的），獨立于牙齒疼痛。是否卡住有條件的獨立于牙痛。

Equivalent statements：

一個可以很容易地從另一個導出。

無條件（絕對）獨立性非常罕見。

有條件的獨立性是我們對不確定環境的最基本和最有力的知識形式。

交通情況和雨傘在給定下雨的條件下獨立：?

火和警報在給定煙霧的情況下獨立：?

10.1.2.1?條件獨立和鏈式法則

10.2 貝葉斯網絡

貝葉斯網絡是一個描述大量變量的復雜分布的工具。其中大的分布由小塊組成，這意味著局部相互作用，以及得出這些局部相互作用的產物描述了整個領域的結論所需的假設。

使用完整的聯合分布表作為我們的概率模型有兩個問題：

• 除非只有幾個變量，否則聯合分布表太大，無法明確表示。
• 每次從經驗上很難學到（估計）超過幾個變量的東西

貝葉斯網絡：

一種使用簡單的局部分布（條件概率）來描述復雜的聯合分布（模型）的技術。

• 更恰當地稱為圖形模型
• 我們描述變量如何進行局部互動。
• 局部的相互作用連鎖在一起，產生全局的、間接的相互作用。

---

例子：

10.2.1 圖形化的模型符號

節點：變量（有域）：

• 可以是指定的（觀察到的）或未指定的（未觀察到的）。

弧：相互作用

• 類似于約束。
• 表明變量之間的 "直接影響"。
• 形式上：編碼有條件的獨立性（后面會有更多內容）。

現在：想象一下，箭頭意味著直接因果關系（一般來說，它們不是！）。

10.2.2?貝葉斯網絡的構建

下面有兩個該域上的有效圖形模型或貝葉斯網絡，但是第二個模型要好一些，因為配備模型2的代理可以做出一些事情，比如看到交通，然后得到關于雨的結論，或者看到雨得到有關交通的結論。

---

---

10.2.3?貝葉斯網絡的語義

一組節點，每個變量有一個，

一個有向、無環的圖，

隱藏在每個節點內部的是條件分布：

• 一組關于的分布，每個父節點的值的組合都有一個分布。
• ：條件概率表。（節點中的東西）
• 描述一個嘈雜的“因果”過程。

所以貝葉斯網絡是一種拓撲結構，意味著一個圖加上存在于節點內的小局部條件概率。

10.2.3 貝葉斯網絡中的概率

貝葉斯網隱含著對聯合分布的編碼：

• 作為局部條件分布的乘積。
• 要看一個給一個完整的分配的概率是多少，把所有相關的條件乘在一起。

為什么我們能保證設置

的結果是正確的聯合分布？

對于鏈式法則，公式很相似，但它是：

但是我們有條件獨立的假設，所以我們的公式為：

不是每個都能代表每個聯合分布：如果我想表示兩個變量的聯合分布，但不是全部，我們表示的是變量獨立的那些，如果我想表示那些不獨立的就要有箭頭。

• 拓撲結構強制執行某些條件的獨立性

---

例子：

10.2.4?因果關系

當貝葉斯網反映真實的因果模式時：

• 往往更簡單（節點有較少的父母）。
• 往往更容易思考。
• 通常更容易從專家那里得到啟發。

貝葉斯網不一定真的是因果關系：

• 有時領域中不存在因果網（特別是在變量缺失的情況下）。
• 例如，考慮交通和下雨這兩個變量。
• 最終的箭頭反映的是相關性，而不是因果關系。

箭頭的真正含義是什么？

• 拓撲結構可能剛好編碼了因果結構
• 拓撲結構實際上編碼了條件獨立性

總結

以上是生活随笔為你收集整理的人工智能学习（十）：什么是贝叶斯网络——伯克利版的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。