Explaining away是造成Sigmoid Belief Net學習困難的一個重要原因，理解并不直觀，用概率表格形式來解釋更加直觀。

1. 獨立事件概率表

假設A, B, C三事件相互獨立，發生的概率分別為a, b,c。概率表如下：

ABCP(A,B,C)

0	0	0	(1-a)(1-b)(1-c)
0	1	0	(1-a)b(1-c)
1	0	0	a(1-b)(1-c)
1	1	0	ab(1-c)
0	0	1	(1-a)(1-b)c
0	1	1	(1-a)bc
1	0	1	a(1-b)c
1	1	1	abc

這時，P(A,B|C)=P(A|C)P(B|C)，舉例說明如下：
p(A=0|C=0)=1?a
p(B=0|C=0)=1?b
p(A=0,B=0|C=0)=p(A=0|C=0)p(B=0|C=0)=(1?a)(1?b)

2. 條件依賴

假設A、B、C三事件不獨立，上述概率中下面兩項改變：
p(0,1,0)=(1?a)b(1?c)+?，p(0,1,1)=(1?a)bc??
可以看出,
p(A,B)=p(A)p(B)
但是,
p(A,B|C)≠p(A|C)p(B|C)

3. Explaining away

p(B|A,C)=p(A,B,C)p(A,B,C)+p(A,Bˉ,C)
p(B|Aˉ,C)=p(Aˉ,B,C)p(Aˉ,B,C)+p(Aˉ,Bˉ,C)
p(B|C)=p(A,B,C)+p(Aˉ,B,C)p(A,B,C)+p(A,Bˉ,C)+p(Aˉ,B,C)+p(Aˉ,Bˉ,C)
假設 p(B|A,C)<p(B|Aˉ,C)
所以，
p(B|A,C)<p(B|C)
在這種情況下，對于事件C發生的前置事件A，B，未觀察A時B的后驗概率大于觀察A后B的后驗概率，即證據增加并未導致信念增加，這就是Explaining away。
如果沒有Explaining away現象，
則：p(B|A,C)=p(B|Aˉ,C)
則，p(B|A,C)=p(B|C)
p(A,B|C)=p(B|A,C)p(A|C)=p(A|C)p(B|C)
可見如果沒有Explaining away現象，則A，B關于C條件獨立。

總結

以上是生活随笔為你收集整理的Explaining away的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。