独立成分分析ICA系列3:直观解释与理解
生活随笔
收集整理的這篇文章主要介紹了
独立成分分析ICA系列3:直观解释与理解
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
服從均勻分布的獨立成分sl和s2的聯合分布.其中橫坐標表示s1,縱坐標表示s2
為了進一步解釋ICA的統計模型,考慮服從下列均勻密度分布的兩個互相獨立的隨機變量:
這個聯合分布是在一個方形上均勻分布的,其中樣本點是從這個分布隨機取樣得到的。
現在如果用混合矩陣:
將源信號s1和s2混合,就得到混合信號xI和x2,他們的聯合分布見下圖.從上圖可以看出隨機變量s1和s2是相互獨立的,因為如果給定s1的任何一個值,我們不能斷定s2的任何信息,而將兩個隨機變量sl和s2混合后得到混合變量x1和22,則x1和x2之間就不是獨立的了,因為當給定xl的取值后就可能得到zx2的信息,比如在下圖的四個角處,x1和x2的關系就是已經確定了。
觀測混合信號。x1和x2的聯合分布.其中橫坐標表示x1,縱坐標表示x2。
估計ICA數據模型的問題現在成為僅利用混合x1和x2的信息來估計混合矩陣A.實際上,我們可以通過觀察上圖來直觀的估計矩陣A:平行四邊形的邊的方向就是混合矩陣A的列所指的方向.這樣獨立成分分析的解可以通過確定混合方向來得到,但在標準的ICA中這樣的計算是較為復雜的,我們可以尋找更為方便,計算簡單的算法,這里只
給出ICA的直觀解釋.對于復雜的情況,特別是稀疏超完各問題,我們可以通過一些這樣的幾何解釋來幫助問題的解決。
參考文獻:史振威. (2005).?獨立成分分析的若干算法及其應用研究. (Doctoral dissertation, 大連理工大學).
為了進一步解釋ICA的統計模型,考慮服從下列均勻密度分布的兩個互相獨立的隨機變量:
這個聯合分布是在一個方形上均勻分布的,其中樣本點是從這個分布隨機取樣得到的。
現在如果用混合矩陣:
將源信號s1和s2混合,就得到混合信號xI和x2,他們的聯合分布見下圖.從上圖可以看出隨機變量s1和s2是相互獨立的,因為如果給定s1的任何一個值,我們不能斷定s2的任何信息,而將兩個隨機變量sl和s2混合后得到混合變量x1和22,則x1和x2之間就不是獨立的了,因為當給定xl的取值后就可能得到zx2的信息,比如在下圖的四個角處,x1和x2的關系就是已經確定了。
觀測混合信號。x1和x2的聯合分布.其中橫坐標表示x1,縱坐標表示x2。
估計ICA數據模型的問題現在成為僅利用混合x1和x2的信息來估計混合矩陣A.實際上,我們可以通過觀察上圖來直觀的估計矩陣A:平行四邊形的邊的方向就是混合矩陣A的列所指的方向.這樣獨立成分分析的解可以通過確定混合方向來得到,但在標準的ICA中這樣的計算是較為復雜的,我們可以尋找更為方便,計算簡單的算法,這里只
給出ICA的直觀解釋.對于復雜的情況,特別是稀疏超完各問題,我們可以通過一些這樣的幾何解釋來幫助問題的解決。
參考文獻:史振威. (2005).?獨立成分分析的若干算法及其應用研究. (Doctoral dissertation, 大連理工大學).
總結
以上是生活随笔為你收集整理的独立成分分析ICA系列3:直观解释与理解的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 便携本市场一片混乱 东芝也加入战斗
- 下一篇: 独立成分分析ICA系列5:信息极大化的