當(dāng)前位置：首頁 > 编程资源 > 编程问答 >内容正文

编程问答

矩阵秩相关证明

發(fā)布時間：2023/12/31 编程问答 30 豆豆

生活随笔收集整理的這篇文章主要介紹了矩阵秩相关证明小編覺得挺不錯的,現(xiàn)在分享給大家,幫大家做個參考.

本文盡量使用初等方法. (如果承認(rèn)奇異值分解, 再做矩陣的投影分析, 就不需要如此的繁復(fù)了.)

引理1 線性代數(shù)基本定理

形式化表述

有限維向量空間 V 和 W
線性映射 F : V → W
像 im(F) = {F(v) | v∈V} ? W
核 ker(F) = {v∈V | F(v)=0} ? V
dim[im(F)] + dim[ker(F)] = dim[V]

證明

假設(shè) dim[ker(F)]=s, 則 ker(F) 有一組基 {α1, …, αs}.

將上述基擴(kuò)展至 V 的基 {α1, …, αs, β1, …, βt}.

s + t = dim[V], 即, ?v∈V, ?(a1, …, as, b1, …, bt), v = a1α1 + … + asαs + b1β1 + … + btβt.

v = a1α1 + … + asαs + b1β1 + … + btβt 張成空間 V, 則 F(v) = b1F(β1) + … + btF(βt) 張成空間 im(F).

由 {α1, …, αs, β1, …, βt} 線性無關(guān), 知 {F(β1), …, F(βt)} 線性無關(guān).

{F(β1), …, F(βt)} 是 im(F) 的一組基, 即 dim[ker(F)]=t.

注 (第 5 步的具體證明)

如果 (b1, …, bt) ≠ (c1, …, ct), 但是 b1F(β1) + … + btF(βt) = c1F(β1) + … + ctF(βt)
那么 F( (b1-c1)β1 + … + (bt-ct)βt ) = 0
進(jìn)而 (b1-c1)β1 + … + (bt-ct)βt = d1α1 + … + dsαs
由 {α1, …, αs, β1, …, βt} 線性無關(guān) 知 (b1-c1) = … = (bt-ct) = d1 = … = ds = 0

對于矩陣 X ∈ ?^m×n, X : ?ⁿ → ?^m, X(v) = X·v, 認(rèn)為 X^T : ?^m → ?ⁿ, X^T(v) = X^T·w = (w^T·X)^T.
像 im(X) = {X·v | v∈?ⁿ} ? ?^m, 核 ker(X) = {v∈?ⁿ | X·v=0} ? ?ⁿ.
像 im(X^T) = {X^T·w | w∈?^m} ? ?ⁿ, 核 ker(X^T) = {w∈?^m | X^T·w=0} ? ?^m.
列秩 col_rank[X] = dim[im(X)] = n - dim[ker(X)].
行秩 row_rank[X] = dim[im(X^T)] = m - dim[ker(X^T)].

引理2.1 初等變換不改變矩陣的行秩和列秩. (初等變換矩陣, 行初等變換?左側(cè)乘初等變換矩陣, 列初等變換?右側(cè)乘初等變換矩陣)
引理2.2 通過初等變換可以實現(xiàn)高斯(若爾當(dāng))消元.

證明2.1(行初等變換)

一行乘以非零常數(shù), 不改變行秩, 不改變列秩.
兩行相互調(diào)換位置, 不改變行秩, 不改變列秩.
一行加上另一行的常數(shù)倍, 不改變行秩, 不改變列秩.

證明2.1(列初等變換)

一列乘以非零常數(shù), 不改變列秩, 不改變行秩.
兩列相互調(diào)換位置, 不改變列秩, 不改變行秩.
一列加上另一列的常數(shù)倍, 不改變列秩, 不改變行秩.

注
上述初等命題證明不能用到高等數(shù)學(xué)工具, 非常繁瑣, 僅給出以下框架.

證明 X 變換成 X’ 后不改變秩, 即證明 rank(X) = rank(X’), 即證明 rank(X) ? rank(X’) 且 rank(X) ? rank(X’).
證明 rank(X) ? rank(X’) 即證明 “若{x1,…,xk}線性無關(guān), 則{x’1,…,x’k}線性無關(guān)”, 即證明 “若‘λ1x1+…+λkxk=0 當(dāng)且僅當(dāng) λ1=…=λk=0’, 則‘λ1x’1+…+λkx’k=0 當(dāng)且僅當(dāng) λ1=…=λk=0’”.

證明2.2

首先, 僅通過行初等變化轉(zhuǎn)化成行階梯矩陣; 然后, 僅通過列初等變換轉(zhuǎn)化成列階梯矩陣; 最終, 每列/每行至多有一個元素不為零.

奇異值分解天然的能夠證明線性代數(shù)基本定理, 核心思想與初等變換一樣, 是左乘非奇異方形矩陣右乘非奇異方形矩陣得到對角矩陣, (實際上, 階梯矩陣再做初等變換就能得到對角矩陣).

以下假設(shè) $\in \mathbb{R}^{m \times n}, Y \in \mathbb{R}^{n \times l}$ .

命題 a $col_rank(X)=col_rank(XT){\rm col\_rank}(X) = {\rm col\_rank}(X^T)$
邏輯關(guān)系: a ? a’ (a 與 a’ 等價)

命題 a’ $col_rank(X)=row_rank(X){\rm col\_rank}(X) = {\rm row\_rank}(X)$
由引理2, 任意矩陣, 經(jīng)過高斯(若爾當(dāng))消元, 最終, 每列/每行至多有一個元素不為零. 由于初等變換不改變矩陣的行秩和列秩, 所以矩陣的行秩與列秩相等, 等于最終不為零元素的個數(shù).

命題 b $col_rank(X)?min?{m,n}{\rm col\_rank}(X) \leqslant \min\{m,n\}$
邏輯關(guān)系: b = b.1 ∨ b.2 (b 是 b.1 或者 b.2)

情形 b.1 $min\{m,n\} = n$
$col_rank(X)=n?dim[ker(X)]?n{\rm col\_rank}(X) = n - {\rm dim}[{\rm ker}(X)] \leqslant n$
情形 b.2 $min\{m,n\} = m$
$im(X)={X?v∣v∈Rn}?Rm{\rm im}(X) = \{X \cdot v \mid v \in \mathbb{R}^n\} \subseteq \mathbb{R}^m$
$col_rank(X)=dim[im(X)]?dim[Rm]=m{\rm col\_rank}(X) = {\rm dim}[{\rm im}(X)] \leqslant {\rm dim}[\mathbb{R}^m] = m$

命題 c $col_rank(X+Z)?col_rank(X)+col_rank(Z){\rm col\_rank}(X+Z) \leqslant {\rm col\_rank}(X) + {\rm col\_rank}(Z)$
邏輯關(guān)系: c ? c.1 ? c.2 ? c.3 (c.3 平凡)

命題 c.1 $dim[ker(X+Z)]?dim[ker(X)]+dim[ker(Z)]{\rm dim}[{\rm ker}(X+Z)] \geqslant {\rm dim}[{\rm ker}(X)] + {\rm dim}[{\rm ker}(Z)]$
命題 c.2 $ker(X+Z)?ker(X)+ker(Z){\rm ker}(X+Z) \supseteq {\rm ker}(X) + {\rm ker}(Z)$
命題 c.3 $?v∈Rn,X?v=0∧Z?v=0→(X+Z)?v=0\forall v \in \mathbb{R}^n, X \cdot v = 0 ~ \wedge ~ Z \cdot v = 0 \rightarrow (X+Z) \cdot v = 0$

命題 d $col_rank(X?Y)?min?{col_rank(X),col_rank(Y)}{\rm col\_rank}(X \cdot Y) \leqslant \min\{{\rm col\_rank}(X), {\rm col\_rank}(Y)\}$
邏輯關(guān)系: d = d.1 ∧ d.2

命題 d.1 $\cdot Y$ 的每個列向量是 $X$ 的所有列向量的線性組合, 所以 $col_rank(X?Y)?col_rank(X){\rm col\_rank}(X \cdot Y) \leqslant {\rm col\_rank}(X)$ .
$\cdot Y = X \cdot [y_1,\dots,y_l] = [X \cdot y_1, \dots, X \cdot y_l]$
命題 d.1’ 由命題a, 命題 d.1 等價于, $rank(X?Y)?rank(X){\rm rank}(X \cdot Y) \leqslant {\rm rank}(X)$
命題 d.2 $\cdot Y$ 的每個行向量是 $Y$ 的所有行向量的線性組合, 所以 $row_rank(X?Y)?row_rank(Y){\rm row\_rank}(X \cdot Y) \leqslant {\rm row\_rank}(Y)$ .
$\cdot Y = [x^1;\dots;x^m] \cdot Y = [x^1Y;\dots;x^mY]$
命題 d.2’ 由命題a, 命題 d.2 等價于, $rank(X?Y)?rank(Y){\rm rank}(X \cdot Y) \leqslant {\rm rank}(Y)$

命題 e $col_rank(X)=col_rank(XTX)=col_rank(XXT){\rm col\_rank}(X) = {\rm col\_rank}(X^TX) = {\rm col\_rank}(XX^T)$
邏輯關(guān)系: e ? e’ (e 與 e’ 等價)

命題 e’ $dim[ker(X)]=dim[ker(XTX)]=dim[ker(XXT)]{\rm dim}[{\rm ker}(X)] = {\rm dim}[{\rm ker}(X^TX)] = {\rm dim}[{\rm ker}(XX^T)]$
由命題d 及命題a,
$col_rank(X)?col_rank(XTX)?dim[ker(X)]?dim[ker(XTX)]{\rm col\_rank}(X) \geqslant {\rm col\_rank}(X^TX) \Rightarrow {\rm dim}[{\rm ker}(X)] \leqslant {\rm dim}[{\rm ker}(X^TX)]$
$row_rank(X)?row_rank(XXT)?dim[ker(XT)]?dim[ker((XXT)T)]=dim[ker((XXT)]{\rm row\_rank}(X) \geqslant {\rm row\_rank}(XX^T) \Rightarrow {\rm dim}[{\rm ker}(X^T)] \leqslant {\rm dim}[{\rm ker}((XX^T)^T)] = {\rm dim}[{\rm ker}((XX^T)]$
或者, 直接的,
$(Xv=0?XTXv=0)?dim[ker(X)]?dim[ker(XTX)]\left( X v = 0 \Rightarrow X^TX v = 0 \right) \Rightarrow {\rm dim}[{\rm ker}(X)] \leqslant {\rm dim}[{\rm ker}(X^TX)]$
$(XTw=0?XXTw=0)?dim[ker(XT)]?dim[ker(XXT)]\left( X^T w = 0 \Rightarrow XX^T w = 0 \right) \Rightarrow {\rm dim}[{\rm ker}(X^T)] \leqslant {\rm dim}[{\rm ker}(XX^T)]$
$(XTXv=0?v?XTXv=0?∥Xv∥22=0?Xv=0)?dim[ker(X)]?dim[ker(XTX)]\left( X^TX v = 0 \Rightarrow v^\top X^TX v = 0 \Leftrightarrow \|X v\|_2^2 = 0 \Leftrightarrow X v = 0 \right) \Rightarrow {\rm dim}[{\rm ker}(X)] \geqslant {\rm dim}[{\rm ker}(X^TX)]$
$(XXTw=0?w?XXTw=0?∥XTw∥22=0?XTw=0)?dim[ker(XT)]?dim[ker(XXT)]\left( XX^T w = 0 \Rightarrow w^\top XX^T w = 0 \Leftrightarrow \|X^T w\|_2^2 = 0 \Leftrightarrow X^T w = 0 \right) \Rightarrow {\rm dim}[{\rm ker}(X^T)] \geqslant {\rm dim}[{\rm ker}(XX^T)]$
綜上所述,
$dim[ker(X)]=dim[ker(XTX)]{\rm dim}[{\rm ker}(X)] = {\rm dim}[{\rm ker}(X^TX)]$
$dim[ker(XT)]=dim[ker(XXT)]{\rm dim}[{\rm ker}(X^T)] = {\rm dim}[{\rm ker}(XX^T)]$
再由命題a,
$dim[ker(XTX)]=dim[ker(X)]=dim[ker(XT)]=dim[ker(XXT)]{\rm dim}[{\rm ker}(X^TX)] = {\rm dim}[{\rm ker}(X)] = {\rm dim}[{\rm ker}(X^T)] = {\rm dim}[{\rm ker}(XX^T)]$

問題 f.1 $rank(xxT){\rm rank}(xx^T)$

$rank(xxT)=rank(x){\rm rank}(xx^T) = {\rm rank}(x)$
- ${\rm rank}(xx^T) = {\rm rank}(x) = 0$
- $\neq 0, {\rm rank}(xx^T) = {\rm rank}(x) = 1$

問題 f.2 若 $\in \mathbb{R}^{n \times n}, X=X^T$ , 則 $rank(X)={\rm rank}(X) =$ 非零奇異值個數(shù).

由于 $X$ 是是對稱矩陣, 所以存在矩陣 $Q$ , 滿足 $\varLambda Q^T$ , 其中 $QTQ=I,Λ=diag([λi])Q^TQ=I, \varLambda = {\rm diag}\left( [\lambda_i] \right)$ .
證明過程類似命題e 的證明過程. 注意到 $Q=Q^{-T}$ 是滿秩方形矩陣,
- $(Xv=0?Λ(QTv)=Q?10=0?Λv^=0)?dim[ker(X)]?dim[ker(Λ)](X v = 0 \Rightarrow \varLambda (Q^Tv) = Q^{-1}0 = 0 \Leftrightarrow \varLambda \hat v = 0) \Rightarrow {\rm dim}[{\rm ker}(X)] \leqslant {\rm dim}[{\rm ker}(\varLambda)]$
- $(Λv=0?QΛQT(Q?Tv)=0?Xv^=0)?dim[ker(X)]?dim[ker(Λ)](\varLambda v = 0 \Rightarrow Q \varLambda Q^T (Q^{-T} v) = 0 \Leftrightarrow X \hat v = 0) \Rightarrow {\rm dim}[{\rm ker}(X)] \geqslant {\rm dim}[{\rm ker}(\varLambda)]$
- $dim[ker(X)]=dim[ker(Λ)]{\rm dim}[{\rm ker}(X)] = {\rm dim}[{\rm ker}(\varLambda)]$ , 即 $rank(X)=rank(Λ)={\rm rank}(X) = {\rm rank}(\varLambda) =$ 非零奇異值個數(shù).

注

所有方形矩陣可以特征值分解.
由代數(shù)基本定理, $det?(X?λI)\det\left( X - \lambda I \right)$ 總有 $n$ 個復(fù)根, 因此總有特征向量組成的 $[v1v2?vn]=V[v_1 v_2 \cdots v_n] = V$ 和特征值組成的 $diag[λ1λ2?λn]=Λ\mathrm{diag}[\lambda_1 \lambda_2 \cdots \lambda_n] = \varLambda$ 滿足 $\varLambda$ .
不是所有方形矩陣都相似于對角矩陣.
只有可對角化矩陣(若爾當(dāng)標(biāo)準(zhǔn)型是對角矩陣)才有 $\varLambda V^{-1}$ , 其中 $Λ\varLambda$ 恰是特征值組成的對角矩陣.
不是所有方形矩陣的特征向量都相互正交.
只有規(guī)正矩陣( $XX^H=X^HX$ )才有 $\varLambda Q^H$ , 其中 $Λ\varLambda$ 恰是特征值組成的對角矩陣.
但是, 所有方形矩陣不同特征值的特征向量線性無關(guān).

總結(jié)

以上是生活随笔為你收集整理的矩阵秩相关证明的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。

矩阵

上一篇： php读取excel显示,PHP读取Ex
下一篇：使用VUE实现的数独游戏

编程问答

矩阵 秩 相关证明

總結(jié)

矩阵秩相关证明