矩阵的奇异值分解

参考 矩阵的奇异值分解 - 云+社区 - 腾讯云

奇异值分解(singular value decomposition, SVD)，是将矩阵分解成奇异值(singular vector)和奇异值(singular value)。通过奇异值分解，我们会得到一些与特征分解相同类型的信息。然而，奇异值分解有更广泛的应用，每个实数矩阵都有一个奇异值，但不一定都有特征分解。例如，非方阵的矩阵没有特征分解，这时我们只能使用奇异值分解。

我们使用特征分解去分析矩阵A时，得到特征向量构成的矩阵V和特征值构成的向量，我们可以重新将A写作

                                                           

奇异值分解是类似的，只不过这回我们将矩阵A分成三个矩阵的乘积：

                                                          

假设A是一个矩阵，那么U是一个的矩阵，D是一个的矩阵，V是一个矩阵。这些矩阵中的每一个定义后都拥有特殊的结构。矩阵U和V都定义为正交矩阵，而矩阵D定义为对角矩阵。注意，D不一定是方阵。对角矩阵D对角线上的元素称为矩阵A的奇异值(singular value)。矩阵U的列向量称为左奇异向量(left singular vector)，矩阵V的列向量称为右起义向量(right singular vector)。

事实上，我们可以用与A相关的特征分解去解释A的奇异值分解。A的左奇异向量(left singular vector)是的特征向量。A的右奇异值(right singular value)是ATA" role="presentation" style="position: relative;">ATA$A^{T}A$的特征向量。A的非零奇异值是ATA" role="presentation" style="position: relative;">ATA$A^{T}A$的特征向量。A的非零奇异值是ATA" role="presentation" style="position: relative;">ATA$A^{T}A$特征值的平方根，同时也是特征值的平方根。SVD最有用的一个性质可能是拓展矩阵求逆到非矩阵上。