矩阵A一共对应着4个基本子空间,分别是列空间、行空间、零空间以及左零空间
行空间
设一m行n列实元素矩阵为\(A\)(mxn),则其行空间(Row Space)是由矩阵A的所有行向量所生成的\(R^n\)上的子空间,记作\(C(A^{\mathrm{T}})\)或\(R(A)\)。其中,矩阵\(A^{\mathrm{T}}\)是矩阵A的转置。
矩阵A的行空间中的所有向量均为矩阵A的行向量的某种线性组合,都为\(R^n\)上的向量(即n维向量)。
矩阵A对应的行空间维度等于矩阵A的行秩,最大为min(m,n)。即:
dim \(C(A^{\mathrm{T}})\) = dim \(R(A)\) = rank(\(A^{\mathrm{T}}\)) ≤ min(m,n)
行空间\(C(A^{\mathrm{T}})\)的一组自然基底是矩阵A的行向量的最大线性无关组。
列空间
既然行空间是矩阵A所有行向量的线性组合,那么可以想到A对应的列空间应该是所有列向量的线性组合。
设一m行n列实元素矩阵为\(A\)(mxn),则其行空间(Col Space)是由矩阵A的所有列向量生成的\(R^m\)上的子空间,记作\(C(A)\)。
矩阵A的列空间\(C(A)\)中的所有向量均为矩阵A中列向量的某种线性组合,都为\(R^m\)上的向量(即m维向量)。
\(C(A)\)的维度等于矩阵A的列秩,最大为min(m,n)。即:
dim \(C(A)\) = rank(\(A\)) ≤ min(m,n)
列空间\(C(A)\)的一组自然基底是矩阵A的列向量的最大线性无关组。
零空间
在数学中,一个矩阵A的零空间是方程\(Ax = 0\)的所有解\(x\)的集合。它也叫做A的核, 核空间,记为\(Null(A)\)。
想像一下,方程\(Ax = 0\)的解通常有哪种可能?我想大概分为两种可能:
- \(Null(A)\)仅有零解
- \(Null(A)\)包含零解和无穷多个非零解
所以,不管怎么样,\(Null(A)\)都至少包含零向量
左零空间
与零空间类似,只不过A的左零空间是方程\(A^{\mathrm{T}}x = 0\)的所有解\(x\)的集合。记为\(Null(A^{\mathrm{T}})\)
同样的,解集同样至少包含零解
四个基本子空间的性质
对于一个mxn矩阵\(A\)来说:
- 行空间与零空间正交
- 列空间与左零空间正交
- dim \(R(A)\) + dim \(Null(A)\) = m,即行空间的维度+零空间的维度=行数
- dim \(C(A)\) + dim \(Null(A^{\mathrm{T}})\) = n,即列空间的维度+左零空间的维度=列数
性质证明
要证明两个子空间正交,先来给定子空间正交的定义是什么:若(内积空间)的子空间A和B满足一者中的每个向量都与另一者正交,那么它们互为正交子空间。其中内积空间是添加了内积运算的向量空间。
好吧,反正就是证明矩阵A对应的行空间中的每个向量都与零空间中每个向量正交即可。有mxn矩阵\(A\),将它写为下面这个形式:\[\left[\begin{matrix}row & 1 & of & A \\row & 2 & of & A \\row & 3 & of & A \\&\ .\\&\ . \\&\ . \\row & m & of & A\end{matrix}\right]\]
我们要求\(Ax = 0\),让我们用上面这种形式写一遍:\[\begin{equation}\left[\begin{matrix}row & 1 & of & A \\row & 2 & of & A \\row & 3 & of & A \\&\ .\\&\ . \\&\ . \\row & m & of & A\end{matrix}\right]\left[\begin{matrix}x_1\\x_2\\x_3\\ .\\ .\\ .\\x_n\end{matrix}\right]=\left[\begin{matrix}0\\0\\0\\ .\\ .\\ .\\0\end{matrix}\right]\end{equation}\]
所以,如果有一个向量\(v\)属于\(Null(A)\),显然,将\(v\)带入(1)式是成立的。所以A中的每一行,即每个行向量都与向量\(v\)都正交。而A的行空间是行向量们的线性组合,所以\(v\)与A的行空间是正交的。同理,对于\(Null(A)\)中的其他向量,也和\(v\)一样与A的行空间是正交。因此,足以证明A行空间与零空间正交。
同样的,可以证明A的列空间与左零空间正交,这里不再赘述。
举例
好吧,举个实际的例子,这样以后看到也能马上想起来,哦,确实是这样。
给出一个3x2的矩阵\[A=\left[\begin{matrix}2 & 4 & 1 \\3 & 1 & 2\end{matrix}\right]\]
这个矩阵是我胡编的,让我们分别求一下A对应的行空间、列空间、零空间以及左零空间
求解行空间
显然,在A矩阵里有两个行向量\(\overrightarrow{r_1}, \overrightarrow{r_2}\),它们分别是\[\overrightarrow{r_1}=\left[\begin{matrix}2\\4\\1\end{matrix}\right] \ \ \ \ \ \ \ \ \ \ \\overrightarrow{r_2}=\left[\begin{matrix}3\\1\\2\end{matrix}\right]\]
它们线性无关,所以\(\overrightarrow{r_1}, \overrightarrow{r_2}\)可以作为行空间中的一组基。它俩张成了A的行空间,\(R(A)\)中的任意一个向量都可以表示为\[\begin{equation}λ_1*\left[\begin{matrix}2\\4\\1\end{matrix}\right]+λ_2*\left[\begin{matrix}3\\1\\2\end{matrix}\right],其中λ_1、λ_2是任意实数\end{equation}\]
我们已经求得了A的行空间\(R(A)\)
求解列空间
显然,在A矩阵里有三个列向量\(\overrightarrow{r_1}, \overrightarrow{r_2}, \overrightarrow{r_3}\),它们分别是\[\overrightarrow{r_1}=\begin{equation}\left[\begin{matrix}2\\3\end{matrix}\right] \ \ \ \ \ \ \ \ \ \ \\overrightarrow{r_2}=\left[\begin{matrix}4\\1\end{matrix}\right] \ \ \ \ \ \ \ \ \ \ \\overrightarrow{r_3}=\left[\begin{matrix}1\\2\end{matrix}\right]\end{equation}\]
它们线性无关,所以\(\overrightarrow{r_1}, \overrightarrow{r_2}, \overrightarrow{r_3}\)可以作为行空间中的一组基,张成了A的列空间,\(C(A)\)中的任意一个向量都可以表示为\[λ_1*\left[\begin{matrix}2\\3\end{matrix}\right]+λ_2*\left[\begin{matrix}4\\1\end{matrix}\right]+λ_3*\left[\begin{matrix}1\\2\end{matrix}\right],其中λ_1、λ_2、λ_3是任意实数\]
我们已经求得了A的列空间\(R(A)\)。
这里的行空间与列空间刚好由矩阵A的每行每列表示是因为我选的矩阵恰好是行满秩与列满秩,行空间由行向量组成的极大线性无关组表示,同理,列空间由列向量组成的极大线性无关组表示
求解零空间
那就是求解\[\begin{equation}\left[\begin{matrix}2 & 4 & 1 \\3 & 1 & 2\end{matrix}\right]\left[\begin{matrix}x_1 \\x_2 \\x_3\end{matrix}\right]=\left[\begin{matrix}0 \\0 \\0\end{matrix}\right]\end{equation}\]
使用高斯消元等到A矩阵的行最简形\[U=\begin{equation}\left[\begin{matrix}-1 & -3 & 1 \\0 & 10 & -1\end{matrix}\right]\end{equation}\]
可以得到解的集合为\[x=k\begin{equation}\left[\begin{matrix}14 \\-1 \\10\end{matrix}\right]\end{equation}\]
求解左零空间
将矩阵A转置有\[A^{\mathrm{T}}=\begin{equation}\left[\begin{matrix}2 & 3 \\4 & 1 \\1 & 2\end{matrix}\right]\end{equation}\]
求解\[\begin{equation}\left[\begin{matrix}2 & 3 \\4 & 1 \\1 & 2\end{matrix}\right]\left[\begin{matrix}x_1 \\x_2\end{matrix}\right]=\left[\begin{matrix}0 \\0\end{matrix}\right]\end{equation}\]
以我多年的做题经验(笑),这个应该只有零解。
总结
四个空间都求出来了,加加它们的维度也是满足之前给出的子空间的性质,不同空间对应的基包含的向量也是相互正交的。