矩阵的列空间、行空间、维数、秩理解

原创已于 2023-06-29 11:40:35 修改 · 6.4w 阅读

151 ·

本内容遵循CC 4.0 BY-SA版权协议

于 2019-07-23 12:36:35 首次发布

本文深入探讨了矩阵的列空间与零空间的概念，解释了子空间的基与维数，秩定理等内容，并详细区分了满秩矩阵与低秩矩阵的特点及应用。

列空间 ColA

对于 m×n 矩阵 A 列空间就是 A的各列的线性组合的集合，记为 ColA，是 $\large R^m$ 的一个子空间，由矩阵的主元列构成，即Ax=b中，方程的解基本变量。

零空间 NulA

对于 m×n 矩阵 A 零空间就是齐次方程 Ax=0 的所有解得集合，记 NulA，是 $\large R^n$ 的一个子空间，由 Ax=0 的解构成，即 Ax=0 的解中的自由变量

子空间的基

$\large R^n$ 中子空间H的一组基是H中的一个线性无关集，它可以生成 H

维数 dimH

非零子空间H的维数（dimH）是H的任意一个基的向量个数

秩 rankA

矩阵A的秩（rankA）是A列空间的维数，也就是矩阵A主元列的个数

秩定理

如果一个矩阵A 有n列，则 rankA+ dimNulA=n

即列空间的维数和零空间的维数之和为n，也就是主元列的个数+非主元列的个数为n，也就是基本变量+自由变量的个数为 n

举例：

矩阵 A=

$\large \begin{bmatrix} 2&6& -6 & 6 &3 &6 \\ -2&-3 &6 &-3 &0 &-6 \\ 4& 9 &-12 &9 &3 &12 \\ -2&3 &6 &3 &3 &-6 \end{bmatrix}$

经过化简为

$\large \begin{bmatrix} 2 &6 &-6 &6 &3 &6 \\ 0&3 &0 &3 &3 &0 \\ 0&0 &0 &0 &3 &0 \\ 0& 0 &0 &0 &0 &0 \end{bmatrix}$

显然主元列为第一列、第二列、第五列

则列空间的基为原来的矩阵的主元列

$\large \begin{bmatrix} 2\\ -2 \\4 \\-2 \end{bmatrix}$ 、 $\large \begin{bmatrix} 6\\ -3\\ 9\\3 \end{bmatrix}$ 、 $\large \begin{bmatrix} 3\\0\\3 \\3 \end{bmatrix}$ 维数为3

零空间即: Ax=0

$\large \begin{bmatrix} 2 &6 &-6 &6 &3 &6 &0 \\ 0&3 &0 &3 &3 &0&0 \\ 0&0 &0 &0 &3 &0 &0\\ 0& 0 &0 &0 &0 &0 &0 \end{bmatrix}$

可以得出 $\large \begin{bmatrix} x1\\ x2 \\x3 \\x4 \\x5\\x6 \end{bmatrix} =\begin{bmatrix} 3x_3-3x_6 \\ -x_4 \\x_3 \\ x_4 \\x_5 \\x_6\end{bmatrix} = x_3* \begin{bmatrix} 3\\ 0 \\1 \\ 0 \\0 \\ 0 \end{bmatrix} + x_4*\begin{bmatrix} 0\\ -1 \\1 \\ 0 \\0 \\ 0 \end{bmatrix} + x_6 *\begin{bmatrix} -3\\ 0\\0 \\ 0 \\0 \\ 1\end{bmatrix}$

所以零空间为 $\large \begin{bmatrix} 3\\ 0 \\1 \\ 0 \\0 \\ 0 \end{bmatrix} \quad \begin{bmatrix} 0\\ -1 \\1 \\ 0 \\0 \\ 0 \end{bmatrix} \quad \begin{bmatrix} -3\\ 0\\0 \\ 0 \\0 \\ 1\end{bmatrix}$ 维数为3

由此可以看出列空间就是主元列、零空间就是非主元列

满秩矩阵

所以可以看出，满秩矩阵就是 rankA=n 的矩阵，也就是全部都是主元列，也就是所有列都是线性无关。

行满秩矩阵就是行向量之间线性无关，列满秩矩阵就是列向量之间线性无关

对于方阵来说满秩矩阵可以说明这是一个可逆矩阵（非奇异矩阵）

满秩矩阵是一个很重要的概念, 它是判断一个矩阵是否可逆的充分必要条件

一个方阵A是可逆的当且仅当A的行列式不等于0.

因为当A的行列式等于0，则A的行是线性相关的，即A的转置是线性相关的，则A的转置不可逆，则A就不可逆了。

在深度学习机器学习应用中，经常会有矩阵低秩分解（Low-Rank Matrix Factorization）是一种常见的数学方法，用于将一个高维、高秩的矩阵分解为两个低维、低秩的矩阵的乘积，以压缩数据、降低噪声、提高计算效率等目的。这种方法可以应用于很多领域，例如数据挖掘、图像处理、自然语言处理等。

就比如 SVD奇异值分解

低秩矩阵和满秩矩阵是矩阵的两种不同性质。它们的主要区别在于矩阵的秩大小不同。

低秩矩阵：低秩矩阵是指矩阵中非零奇异值的数目比矩阵中的行数和列数中的较小值要小的矩阵。换句话说，就是矩阵中有很多元素可以用其他元素表示出来。低秩矩阵在压缩、降维、图像处理等领域有着广泛的应用。
满秩矩阵：满秩矩阵是指矩阵的秩等于矩阵的行数和列数中的较小值的矩阵。换句话说，它的秩是最大的，矩阵中没有冗余的元素。满秩矩阵在线性方程组求解、逆矩阵计算、线性变换等领域有着广泛的应用。

总之，低秩矩阵和满秩矩阵在数学和实际应用中有着不同的性质和应用场景，需要根据具体情况进行选择。

标签