先定義消元：在解線性方程組的時候，把一個變量帶入到另外一個變量中，達到減少變量的就結果。

• 雖然方程數少了，但是單個方程變復雜了，所以其實方程組攜帶的信息并沒有減少。
• 如果把方程組寫成矩陣形式，就對應之前線性代數學的高斯消元。
• 消元的一個作用是把方程變成上三角形式，就可以很輕松的計算出方程組的解。能計算出解，那么也能求出對應矩陣的逆。這就是為什么消元很重要的原因。

再定義邊緣化：邊緣化的普通定義我就不多說了，就是求積分那個。

• 當我們是邊緣化一個多元高斯分布的隨機變量的時候，如果我們知道這個隨機變量的均值和協方差矩陣（）。那么邊緣化就是直接把中對應于要保留的分量拿出來就行。
• 假設a是要保留的，b是要被邊緣化的。那么邊緣化后不帶b的概率分布就是只保留中和a有關的那一部分。

多元高斯分布的最大后驗值（MAP）

• 我們想知道x取什么的時候，這個函數的值最大。很顯然就是x=的時候
• 高斯函數還有另外一種表示方法
• 其實就是把exp里面的展開就能得到這個表達：，
• 這里面叫做信息向量，就是傳說中的信息矩陣了
• 如果我們知道的表達形式是這種形式，就不能直接通過讀均值知道MAP的結果了。
• 這種表示情況下MAP的結果是。也就是我們需要求信息矩陣的逆才能得到想要的東西。矩陣求逆等價于求方程，所以就和消元扯上關系了。

高斯分布條件下消元和邊緣化的關系

• 基于上面的分析，邊緣化是求中只和某些變量相關block。也就是求中的元素和中要求的block的關系。和是逆的關系，所以中的每一個元素都和中的每一個元素有關。既然是求逆，也就和消元搭上關系了。
• 既然和中的所有元素都有關，所以不是簡單的丟棄性息。

和狀態求解的關系

• 如果我們之表達相互獨立的每次觀察的結果的時候，可以直接用第一種表達寫出觀察兩的分布。并且我們還知道我們真正關心的值和觀察量之間有一定關系。也就是基于現實所知的信息能寫出的一個表達通常是。
• x是一個隨即變量，是我們想要求得的分布。A和b是已知的數據。Ax-b的到的隨機變量分布也是已知的，是均值為0，協防差是的高斯分布。
• Mahalanobis距離是可以轉化為L2距離：->，所以最終高斯函數的表示變為。多個這樣的表示連乘求對數，對應為多個相加。
• Bx-d的結果是一個向量，就是向量點乘的直。
• 的形式為多個項的平方加在一起。B有多少行，這個平方和就有多少項。多個加一起，就是把這些平方全部加一起。所以可以組成一個大矩陣。這個矩陣的列數等于x的維度。行數為所有B的行數的和。
• 只有一個因子內部會有交叉項，因子之間不會出現交叉項。這就是為什么分布圖里面對角上面會很密集。
• 我們知道當=0的時候，對應概率密度函數最大。所以就是要求解這個方程了。
• 因為B不是方陣，所以不能簡單的用B的逆來求解，而要用廣義逆。
• 在注意這里不能直接和上面的信息矩陣對應

和矩陣分解的關系

• 在求逆的時候，會使用矩陣分解的方法。
• 而矩陣的順序對矩陣分解的計算量影響很大，比如slam中把和3d點有關的誤差項排列在后面一起可以打打減少計算量。所以怎么排列矩陣就是一個大學問，isam中通過對圖的變換，自動的實現最優的排列。并且當有新的變量加入的時候，通過對圖的分析可以知道，那些因子是受新變量影響的哪些不是。從而實現部分更新。

總結

以上是生活随笔為你收集整理的变量消元(Varible Elimination)和概率边缘化(Marginalization)的关系的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。