已经知道,矩阵对应线性变换,而线性变换可能会压缩空间
当然,空间被压缩降维的程度也有大有小:若被压缩为一维,则对应一条线;若被压缩为二维,则对应一个平面;
那么,如何衡量线性变换后的维度压缩程度呢?——使用列空间和秩的概念
列空间:线性变换后的向量空间
矩阵
A
\mathbf A
A的列空间,记为
C
(
A
)
C(\mathbf A)
C(A),其定义如下:
- 列空间是:线性变换后,新的基向量的张成空间(张成空间:向量所有可能的线性组合构成的集合)
i.e. 基向量在线性变换后,能够描述出的空间 - 列空间是:矩阵的列向量张成的空间(因为矩阵
A
\mathbf A
A的各个列向量,就是变换后的基向量坐标)
矩阵
A
\mathbf A
A有
n
n
n列/
n
n
n个列向量,那么列空间一定是
R
n
\mathbf R^n
Rn的子空间
注意,零向量一定在列空间中(因为列空间也是向量空间,任何向量空间必包含零向量,并且由此可知,线性变换必须保证原点位置不变)
进一步举例说明列空间:
- 2x4矩阵,由于列向量只有两个分量,列空间必为
R
2
\mathbf R^2
R2的子空间(行数量对应向量所属的坐标系的维数;行的数量为2,则向量最多两个坐标,这就限制了一个向量最多能描述的空间是
R
2
\mathbf R^2
R2)
若行向量无关,则满秩,此时列空间为二维平面(列秩为2,存在多余列向量) - 5x2矩阵,由于列向量有五个分量,列空间必为
R
5
\mathbf R^5
R5的子空间
即使列向量无关,即列向量最多张成一个平面,列秩最多为2(注意,这个平面不是
R
2
\mathbf R^2
R2,因为有5个坐标,
R
2
\mathbf R^2
R2容不下,这个平面应该理解为五维空间
R
5
\mathbf R^5
R5中的二维平面)
秩:定量描述线性变换后的空间维度
矩阵
A
\mathbf A
A的秩是:
- 矩阵的秩是:线性变换后空间的维数(秩越小,变换后空间被压缩的程度越严重)
- 矩阵的秩是:列空间的维数(严格说,列空间的维数是列秩,但是「秩」=「列秩」=「行秩」)
为什么「秩」=「列秩」=「行秩」?
把列看做列向量,则行是每个列向量在列空间各个坐标轴上的投影(坐标),行的数量则是列空间坐标系的维数
如果矩阵有m个不相关的列向量(变换后有m个不相关的基向量),就应该张成m维的列子空间,进而不相关的行向量个数也应该是m
⇒
\Rightarrow
⇒矩阵满秩:线性变换后空间没有被压缩(线性变换前的空间维数=列空间的维数)
矩阵不满秩
⟺
\iff
⟺矩阵的列向量线性相关(变换后存在着多余的、对张成空间没有贡献的基向量,列空间维数<原空间)
- 考虑3x3的矩阵和三维空间:
矩阵的秩为3,则线性变换后空间被仍充满整个三维空间,也称变换的秩为3;
矩阵的秩为2,则线性变换后空间被压缩为一个平面,也称变换的秩为2;
矩阵的秩为1,则线性变换后空间被压缩为一条直线,也称变换的秩为1; - 对于
n
×
n
n \times n
n×n的矩阵,秩最大为
n
n
n,意义是:变换后的空间维度最大为
n
n
n(变换后基向量的张成空间span最大为
n
n
n维)
- 推论:行列式为零
⟺
\iff
⟺矩阵不满秩(两者意义相同:线性变换后空间被压缩降维)