一、統計學的基本概念

統計學里最基本的概念就是樣本的均值、方差、標準差。首先，我們給定一個含有n個樣本的集合，下面給出這些概念的公式描述：

均值：

標準差：

方差：

均值描述的是樣本集合的中間點，它告訴我們的信息是有限的，而標準差給我們描述的是樣本集合的各個樣本點到均值的距離之平均。

以這兩個集合為例，[0, 8, 12, 20]和[8, 9, 11, 12]，兩個集合的均值都是10，但顯然兩個集合的差別是很大的，計算兩者的標準差，前者是8.3后者是1.8，顯然后者較為集中，故其標準差小一些，標準差描述的就是這種“散布度”。之所以除以n-1而不是n，是因為這樣能使我們以較小的樣本集更好地逼近總體的標準差，即統計上所謂的“無偏估計”。而方差則僅僅是標準差的平方。

?

二、為什么需要協方差

標準差和方差一般是用來描述一維數據的，但現實生活中我們常常會遇到含有多維數據的數據集，最簡單的是大家上學時免不了要統計多個學科的考試成績。面對這樣的數據集，我們當然可以按照每一維獨立的計算其方差，但是通常我們還想了解更多，比如，一個男孩子的猥瑣程度跟他受女孩子的歡迎程度是否存在一些聯系。協方差就是這樣一種用來度量兩個隨機變量關系的統計量，我們可以仿照方差的定義：

來度量各個維度偏離其均值的程度，協方差可以這樣來定義：

協方差的結果有什么意義呢？如果結果為正值，則說明兩者是正相關的（從協方差可以引出“相關系數”的定義），也就是說一個人越猥瑣越受女孩歡迎。如果結果為負值， 就說明兩者是負相關，越猥瑣女孩子越討厭。如果為0，則兩者之間沒有關系，猥瑣不猥瑣和女孩子喜不喜歡之間沒有關聯，就是統計上說的“相互獨立”。

從協方差的定義上我們也可以看出一些顯而易見的性質，如：

?

三、協方差矩陣

前面提到的猥瑣和受歡迎的問題是典型的二維問題，而協方差也只能處理二維問題，那維數多了自然就需要計算多個協方差，比如n維的數據集就需要計算個協方差，那自然而然我們會想到使用矩陣來組織這些數據。給出協方差矩陣的定義：

這個定義還是很容易理解的，我們可以舉一個三維的例子，假設數據集有三個維度，則協方差矩陣為：

可見，協方差矩陣是一個對稱的矩陣，而且對角線是各個維度的方差。

轉載于:https://www.cnblogs.com/jackherrick/p/7127024.html

總結

以上是生活随笔為你收集整理的机器学习：协方差矩阵的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。