转置:矩阵 A A A的行列互换得到的矩阵称为 A A A 的转置(transpose),记作 A T A^T AT。
性质:矩阵转置运算满足下列性质:
三角矩阵:(triangular matrix)主对角线的下方元素都是零的方阵,称为上三角矩阵。类似的,主对角线的上方元素都是零的方阵,称为下三角矩阵。
[
a
11
a
12
⋯
a
1
n
a
22
⋯
a
2
n
⋱
⋮
a
n
n
]
,
[
a
11
a
21
a
22
⋮
⋮
⋱
a
n
1
a
n
2
⋯
a
n
n
]
上(下)三角阵的行列式为主对角线元素的乘积
det
A
=
a
11
a
22
⋯
a
n
n
\det A=a_{11}a_{22}\cdots a_{nn}
detA=a11a22⋯ann
对角阵:不在主对角线上的元素全为零的矩阵称为对角阵(diagonal matrix),记作
d
i
a
g
(
a
1
,
a
2
,
⋯
,
a
n
)
=
[
a
1
a
2
⋱
a
n
]
\mathrm{diag}(a_1,a_2,\cdots,a_n)=
对角阵有良好的性质:
两对角阵的乘积仍为对角阵
[
a
1
a
2
⋱
a
n
]
[
b
1
b
2
⋱
b
n
]
=
[
a
1
b
1
a
2
b
2
⋱
a
n
b
n
]
对角阵的幂仍为对角阵
[
a
1
a
2
⋱
a
n
]
k
=
[
a
1
k
a
2
k
⋱
a
n
k
]
数量阵:主对角线上的元素都相等的对角阵,称为数量阵(scalar matrix)。
d
i
a
g
(
a
,
a
,
⋯
,
a
)
=
[
a
a
⋱
a
]
\mathrm{diag}(a,a,\cdots,a)=
数量阵得名于它的乘法。如二阶数量阵
[
k
0
0
k
]
A
=
k
[
1
0
0
1
]
A
=
k
A
单位阵:主对角线上的元素全为1的对角阵,称为单位阵(identity matrix)。
n
n
n 阶单位阵记作
E
n
E_n
En或
I
n
I_n
In。任何矩阵与单位阵的乘积都等于自身。
I
3
=
[
1
0
0
0
1
0
0
0
1
]
I_3=
对称阵与反对称阵:设
A
=
(
a
i
j
)
A=(a_{ij})
A=(aij) 为
n
n
n阶方阵,若
A
T
=
A
A^T=A
AT=A ,即
a
i
j
=
a
j
i
a_{ij}=a_{ji}
aij=aji,则称为对称阵(symmetric matrix);若
A
T
=
−
A
A^T=-A
AT=−A ,即
a
i
j
=
−
a
j
i
a_{ij}=-a_{ji}
aij=−aji,则称为反对称阵(skew-symmetric matrix)。
易证明 A A T AA^T AAT 和 A T A A^TA ATA 是对称阵。
方阵的幂:由于矩阵满足结合律,我们可以定义矩阵的幂运算
A
0
=
I
,
A
n
=
A
A
⋯
A
⏞
n
A^0=I,\quad A^n=\overbrace{AA\cdots A}^n
A0=I,An=AA⋯A
n
当矩阵
A
A
A 可逆时,定义
A
−
k
=
(
A
−
1
)
k
A^{-k}=(A^{-1})^k
A−k=(A−1)k
显然只有方阵的幂才有意义。幂运算满足如下性质:
注意:因为矩阵乘法无交换率,因此一般情况下 ( A B ) k ≠ A k B k (AB)^k\neq A^kB^k (AB)k=AkBk
初等变换:矩阵初等行变换的定义同样适用于列,相应的记法为 c i ↔ c j , k c i , c i + k c j c_i\lrarr c_j,kc_i,c_i+kc_j ci↔cj,kci,ci+kcj 。矩阵的初等行变换和初等列变换统称矩阵的初等变换。若矩阵 A A A 经有限次初等变换变为 B B B,则称 A A A与 B B B 等价(equivalent) 。
矩阵的初等变换是矩阵的一种最基本运算,其过程可以通过特殊矩阵的乘法来表示。
初等矩阵:由单位矩阵进行一次初等变换得到的矩阵称为初等矩阵(elementary matrix)。易知初等矩阵都是可逆的。
三种初等变换对应着三种初等矩阵。由矩阵的乘法运算可以验证:对矩阵的初等行变换相当于左乘相应的初等矩阵;对矩阵的初等列变换相当于右乘相应的初等矩阵。
互换变换,如
r
1
↔
r
2
r_1\lrarr r_2
r1↔r2
[
0
1
0
1
0
0
0
0
1
]
[
a
1
b
1
a
2
b
2
a
3
b
3
]
=
[
a
2
b
2
a
1
b
1
a
3
b
3
]
倍乘变换,如
2
r
1
2r_1
2r1
[
2
0
0
0
1
0
0
0
1
]
[
a
1
b
1
a
2
b
2
a
3
b
3
]
=
[
2
a
1
b
1
a
2
b
2
a
3
b
3
]
倍加变换,如
r
1
+
2
r
2
r_1+2r_2
r1+2r2
[
1
2
0
0
1
0
0
0
1
]
[
a
1
b
1
a
2
b
2
a
3
b
3
]
=
[
a
1
+
2
a
2
b
1
+
2
b
2
a
2
b
2
a
3
b
3
]
定理:任意一个可逆矩阵都可以表示为有限个初等矩阵的乘积。
由于初等矩阵可逆,所以初等矩阵的乘积亦可逆。
所有矩阵都可通过初等变换化为标准型
[
1
⋱
1
}
r
0
⋱
0
]
=
[
I
r
O
O
O
]
分块矩阵是矩阵运算的一种技巧。
在矩阵的运算和理论研究中,有时对矩阵进行分块处理,常常会简化矩阵的运算,或者使原矩阵显得结构简单而清晰。
[
1
0
0
0
0
1
0
0
0
0
1
5
]
=
[
I
2
O
O
A
]
像这样,结合矩阵本身的特点,把一个矩阵用横线和竖线划分为若干个子块,并以所分的子块为元素的矩阵称为分块矩阵(Block matrix)。一个矩阵可用不同的方法分块。
分块矩阵的运算形式上和普通矩阵相同,把子块当成元素计算即可。
加法:设分块
A
,
B
A,B
A,B 是同型矩阵,且对它们的分法相同,则
A
+
B
=
(
A
i
j
+
B
i
j
)
A+B=(A_{ij}+B_{ij})
A+B=(Aij+Bij)
[
A
1
B
1
C
1
D
1
]
+
[
A
2
B
2
C
2
D
2
]
=
[
A
1
+
A
2
B
1
+
B
2
C
1
+
C
2
D
1
+
D
2
]
数乘:分块矩阵
A
A
A ,数乘作用于每个子块。
k
[
A
B
C
D
]
=
[
k
A
k
B
k
C
k
D
]
k
乘法:分块矩阵的乘法按矩阵乘法的形式计算。
A
B
=
A
[
b
1
b
2
⋯
b
p
]
=
[
A
b
1
A
b
2
⋯
A
b
p
]
AB=A
矩阵乘法的列行展开
A
B
=
[
a
1
a
2
⋯
a
n
]
[
b
1
b
2
⋮
b
n
]
=
a
1
b
1
+
a
2
b
2
+
⋯
+
a
n
b
n
AB=
转置:分块矩阵
A
=
(
A
i
j
)
A=(A_{ij})
A=(Aij) 的转置等于各子块的转置
A
T
=
(
A
i
j
T
)
A^T=(A_{ij}^T)
AT=(AijT)
分块上三角矩阵:
[
A
B
O
D
]
−
1
=
[
A
−
1
−
A
−
1
B
D
−
1
O
D
−
1
]
设分块矩阵
[
X
1
X
2
X
3
X
4
]
[
A
B
O
D
]
[
X
1
X
2
X
3
X
4
]
=
[
I
p
O
O
I
q
]
这个矩阵方程包含了4个未知子块的方程
A
X
1
+
B
X
3
=
I
p
A
X
2
+
B
X
4
=
O
D
X
3
=
O
D
X
4
=
I
q
AX_1+BX_3=I_p \\ AX_2+BX_4=O \\ DX_3=O \\ DX_4=I_q
AX1+BX3=IpAX2+BX4=ODX3=ODX4=Iq
若
D
D
D 可逆,从后两个方程可以得到
X
3
=
O
,
X
4
=
D
−
1
X_3=O,X_4=D^{-1}
X3=O,X4=D−1 ;若
A
A
A 可逆,进一步可以得到
X
1
=
A
−
1
,
X
2
=
−
A
−
1
B
D
−
1
X_1=A^{-1},X_2=-A^{-1}BD^{-1}
X1=A−1,X2=−A−1BD−1 。便可获得分块上三角矩阵的逆。
分块对角矩阵:分块对角矩阵拥有良好的性质。
(1) 分块对角矩阵乘积
[
A
1
A
2
⋱
A
s
]
[
B
1
B
2
⋱
B
s
]
=
[
A
1
B
1
A
2
B
2
⋱
A
s
B
s
]
(2) 若分块对角矩阵的各个子块可逆,则该对角分块矩阵可逆
[
A
1
A
2
⋱
A
s
]
−
1
=
[
A
1
−
1
A
2
−
1
⋱
A
s
−
1
]
(3) 分块对角矩阵的行列式为对角位置的行列式乘积
det
[
A
1
A
2
⋱
A
s
]
=
det
A
1
det
A
2
⋯
det
A
s
\det
利用克拉默法可以容易地导出一个求矩阵的逆的一般公式。设矩阵
A
=
(
a
i
j
)
n
×
n
A=(a_{ij})_{n\times n}
A=(aij)n×n 的逆矩阵
A
−
1
=
(
b
i
j
)
n
×
n
A^{-1}=(b_{ij})_{n\times n}
A−1=(bij)n×n ,利用分块矩阵的乘法
A
A
−
1
=
A
[
b
1
b
2
⋯
b
n
]
=
I
n
=
[
e
1
e
2
⋯
e
n
]
AA^{-1}=A
其中
b
j
\mathbf b_j
bj 是矩阵
A
−
1
A^{-1}
A−1 的第
j
j
j 列,
e
j
\mathbf e_j
ej 是单位阵
I
n
I_n
In 的第
j
j
j 列。于是
A
b
j
=
e
j
A\mathbf b_j=\mathbf e_j
Abj=ej
向量
b
j
\mathbf b_j
bj 的第
i
i
i 个元素是
A
−
1
A^{-1}
A−1 的元素
b
i
j
b_{ij}
bij 。由克拉默法则求得
b
i
j
=
det
A
i
(
e
j
)
det
A
b_{ij}=\frac{\det A_i(\mathbf e_j)}{\det A}
bij=detAdetAi(ej)
回顾代数余子式的定义,它是把矩阵
A
A
A 中元素
a
i
j
a_{ij}
aij 所在的行和列划掉后得到的。
det
A
i
(
e
j
)
\det A_i(\mathbf e_j)
detAi(ej) 按第
i
i
i 列的余子展开式为
det
A
i
(
e
j
)
=
(
−
1
)
i
+
j
M
j
i
=
A
j
i
\det A_i(\mathbf e_j)=(-1)^{i+j}M_{ji}=A_{ji}
detAi(ej)=(−1)i+jMji=Aji
于是可写出矩阵
A
A
A 的逆
A
−
1
=
1
det
A
adj
A
A^{-1}=\dfrac{1}{\det A}\text{adj }A
A−1=detA1adj A
其中
adj
A
\text{adj }A
adj A 是矩阵
A
A
A 的各个元素的代数余子式
A
j
i
A_{ji}
Aji 所构成的矩阵
adj
A
=
[
A
11
A
21
⋯
A
n
1
A
12
A
22
⋯
A
n
2
⋮
⋮
⋱
⋮
A
1
n
A
2
n
⋯
A
n
n
]
\text{adj }A=
做矩阵
A
A
A的伴随矩阵(Adjugate Matrix) 。
注意,伴随矩阵里代数余子式的排列顺序是颠倒的。
定理:方阵 A A A 可逆的充要条件是 det A ≠ 0 \det A\neq0 detA=0 ,且 A − 1 = 1 det A adj A A^{-1}=\dfrac{1}{\det A}\text{adj }A A−1=detA1adj A
此定理仅适用于理论上的计算矩阵的逆,使我们不用实际计算出 A − 1 A^{-1} A−1 就可以推导出性质。
这里给出二阶方阵
A
=
[
a
b
c
d
]
A=
A
−
1
=
1
a
d
−
b
c
[
d
−
b
−
c
a
]
A^{-1}=\frac{1}{ad-bc}
推论:
有了推论1,只需判断 A B = I AB=I AB=I 或 B A = I BA=I BA=I 中的一个条件就可判定逆矩阵,要比定义简单一些。
利用初等变换计算逆矩阵:写出增广矩阵
(
A
∣
I
)
(A\mid I)
(A∣I), 用初等行变换把左边矩阵
A
A
A 处化为单位矩阵
I
I
I ,则右边出来的就是逆矩阵
A
−
1
A^{-1}
A−1,示意如下:
(
A
∣
I
)
→
(
I
∣
A
−
1
)
(A\mid I)\xrightarrow{}(I\mid A^{-1})
(A∣I)(I∣A−1)
同样,利用初等列变换计算逆矩阵的示意如下
[
A
I
]
→
[
I
A
−
1
]
示例:解矩阵方程
[
1
0
1
−
1
1
1
2
−
1
1
]
[
x
1
y
1
x
2
y
2
x
3
y
3
]
=
[
1
1
0
1
−
1
0
]
解:系数矩阵可逆的矩阵方程
A
X
=
B
AX=B
AX=B ,解为
X
=
A
−
1
B
X=A^{-1}B
X=A−1B 。实际中,不必求逆矩阵,可使用一系列初等变换求解,即系数矩阵和常数项做同样的变换
P
=
A
−
1
P=A^{-1}
P=A−1。图示如下
(
A
∣
B
)
→
(
I
∣
X
)
(A\mid B)\xrightarrow{}(I\mid X)
(A∣B)(I∣X)
本例计算过程如下
[
1
0
1
1
1
−
1
1
1
0
1
2
−
1
1
−
1
0
]
→
[
1
0
0
3
1
0
1
0
5
2
0
0
1
−
2
0
]
故
[
x
1
y
1
x
2
y
2
x
3
y
3
]
=
[
3
1
5
2
−
2
0
]
行空间:矩阵
A
=
(
r
1
,
r
2
,
⋯
,
r
m
)
T
A=(\mathbf r_1,\mathbf r_2,\cdots,\mathbf r_m)^T
A=(r1,r2,⋯,rm)T 的所有行向量张成的空间称为
A
A
A 的行空间,记为
row
A
=
span
{
r
1
,
r
2
,
⋯
,
r
m
}
\text{row }A=\text{span}\{\mathbf r_1,\mathbf r_2,\cdots,\mathbf r_m\}
row A=span{r1,r2,⋯,rm}
若两个矩阵
A
A
A 和
B
B
B 行等价,则它们的的行空间相同。若
B
B
B 是阶梯型矩阵,则
B
B
B 的非零行构成
row
B
\text{row }B
row B 的一组基,同时也是
row
A
\text{row }A
row A 的一组基。
证明:若 B B B 是由 A A A 经行变换得到的,则 B B B 的行是 A A A 的行的线性组合,于是 B B B 的行的任意线性组合自然是 A A A 的行的线性组合,从而 B B B 的行空间包含于 A A A 的行空间。因为行变换可逆,同理知 A A A 的行空间是 B B B 的行空间的子集,从而这两个空间相同。若 B B B 是一个阶梯形矩阵,则其非零行是线性无关的,这是因为任何一个非零行均不为它下面的非零行的线性组合,于是 B B B 的非零行构成 B B B 的行空间的一组基,当然也是 A A A 的行空间的一组基。
例:分别求矩阵
A
A
A 的行空间、列空间和零空间的基
A
=
[
−
2
−
5
8
0
−
17
1
3
−
5
1
5
3
11
−
19
7
1
1
7
−
13
5
−
3
]
A=
解:为了求行空间和列空间的基,行化简
A
A
A成阶梯形
A
→
[
1
3
−
5
1
5
0
1
−
2
2
−
7
0
0
0
−
4
20
0
0
0
0
0
]
=
B
A\to
矩阵
B
B
B 的前 3 行构成
B
B
B的行空间的一个基,也是
A
A
A的行空间的一组基。
row A \text{row }A row A 的基: ( 1 , 3 , − 5 , 1 , 5 ) , ( 0 , 1 , − 2 , 2 , − 7 ) , ( 0 , 0 , 0 , − 4 , 20 ) (1,3,-5,1,5),(0,1,-2,2,-7),(0,0,0,-4,20) (1,3,−5,1,5),(0,1,−2,2,−7),(0,0,0,−4,20)
对列空间, B B B 的主元列在第1,2和4列,从而 A A A 的第1,2和4列构成 col A \text{col }A col A 的一组基。
col A \text{col }A col A 的基: ( − 2 , 1 , 3 , 1 ) T , ( − 5 , 3 , 11 , 7 ) T , ( 0 , 1 , 7 , 5 ) T (-2,1,3,1)^T,(-5,3,11,7)^T,(0,1,7,5)^T (−2,1,3,1)T,(−5,3,11,7)T,(0,1,7,5)T
对于核空间,需要进一步行变换得简化阶梯型矩阵
B
→
[
1
0
1
0
1
0
1
−
2
0
3
0
0
0
1
−
5
0
0
0
0
0
]
=
C
B\to
方程
A
x
=
0
A\mathbf x=0
Ax=0 的解空间等价于
C
x
=
0
C\mathbf x=0
Cx=0 的解空间,即
{
x
1
+
x
3
+
x
5
=
0
x
2
−
2
x
3
+
3
x
5
=
0
x
4
−
5
x
5
=
0
所以
[
x
1
x
2
x
3
x
4
x
5
]
=
x
3
[
−
1
2
1
0
0
]
+
x
5
[
−
1
−
3
0
5
1
]
ker
A
\ker A
kerA 的基:
(
−
1
,
2
,
1
,
0
,
0
)
T
,
(
−
1
,
−
3
,
0
,
5
,
1
)
T
(-1,2,1,0,0)^T,(-1,-3,0,5,1)^T
(−1,2,1,0,0)T,(−1,−3,0,5,1)T
通过观察可见,与 col A \text{col }A col A 的基不同, row A \text{row }A row A 和 ker A \ker A kerA 的基与 A A A 中的元素没有直接的关系。
定理:对于 m × n m\times n m×n 维矩阵 A A A
证明: rank A \text{rank }A rank A 是 A A A中主元列的个数,也是 A A A的等价阶梯形矩阵 B B B中主元列的个数。进一步,因为 B B B 的每个主元都对应一个非零行,同时这些非零行构成 A A A 的行空间的一组基,所以 A A A 的秩等于 row A \text{row }A row A 的维数。由于 ker A \ker A kerA 的维数等于方程 A x = 0 A\mathbf x=0 Ax=0 中自由变量的个数,换句话说, ker A \ker A kerA 的维数是 A A A 中非主元列的个数。上面的定理证闭。
性质:
对于非其次线性方程组 A x = b A\mathbf x=\mathbf b Ax=b ,当 A A A 可逆时,则方程组存在唯一解 x = A − 1 b \mathbf x=A^{-1}\mathbf b x=A−1b,通常矩阵 A A A 是任意的 m × n m\times n m×n 矩阵,不可逆的,这就促使人们去推广逆矩阵的概念,引进某种具有普通逆矩阵类似性质的矩阵 G G G,使得方程组的解仍可表示为 x = G b \mathbf x=G\mathbf b x=Gb 这种简单的形式。
对于
m
×
n
m\times n
m×n 维矩阵
A
A
A,若存在
n
×
m
n\times m
n×m 维矩阵
G
G
G 满足以下 M-P 方程
(1)
A
G
A
=
A
AGA=A
AGA=A
(2)
G
A
G
=
G
GAG=G
GAG=G
(3)
(
A
G
)
T
=
A
G
(AG)^T=AG
(AG)T=AG
(4)
(
G
A
)
T
=
G
A
(GA)^T=GA
(GA)T=GA
的全部或一部分,则称 G G G 为 A A A 的一个广义逆矩阵。若 G G G 满足全部 M-P 方程,则称 G G G 为 A A A 的 Moore-Penrose 广义逆矩阵,简称M-P 广义逆矩阵,也称为伪逆矩阵,记为 A + A^+ A+。事实上,只有伪逆矩阵存在且唯一,其他各类广义逆矩阵都不唯一。
性质:
若非其次线性方程组
A
x
=
b
A\mathbf x=\mathbf b
Ax=b 有解,则解为
x
=
A
+
b
+
(
I
−
A
+
A
)
c
\mathbf x=A^+\mathbf b+(I-A^+A)\mathbf c
x=A+b+(I−A+A)c
其中
c
\mathbf c
c 是维数与
x
\mathbf x
x 的维数相同的任意向量。显然,当
A
A
A 可逆时,
x
=
A
−
1
b
+
(
I
−
A
−
1
A
)
c
=
A
−
1
b
\mathbf x=A^{-1}\mathbf b+(I-A^{-1}A)\mathbf c=A^{-1}\mathbf b
x=A−1b+(I−A−1A)c=A−1b 。
求伪逆矩阵的一个方法是利用奇异值分解
A
=
U
Σ
V
T
A=U\Sigma V^T
A=UΣVT 。由于
Λ
r
\Lambda_r
Λr 的对角线元素非零,所以
Λ
r
\Lambda_r
Λr 可逆,可求得伪逆为
A
+
=
V
r
Λ
r
−
1
U
r
T
A^+=V_r\Lambda_r^{-1} U^T_r
A+=VrΛr−1UrT