高等工程数学 —— 第四章 （2）线性方程组的迭代解法和极小化方法

高等工程数学 —— 第四章 （2）线性方程组的迭代解法和极小化方法

线性方程组的迭代解法

迭代的一般解法

• 因此判断迭代是否收敛可以判断谱半径（最大特征值）是否小于1

• 可见谱半径越小，收敛速度越快，迭代次数越少。

例题：

• 当$B$的两个特征值相同时可使得取最小值。因为有绝对值，所以等式两边同时平方就好了。

Jacobi迭代法

看道例题就好了！

例：

• 其实就是通过简单的移项来构造出每一个第$k$次的$x$能被$k-1$次的$x$所表示。然后不断的迭代代值直到$x$的值不再改变。

Gauss-Seidel迭代法

还是看道例题就好了！

例：

• 第$k$次的$x$值肯定比第$k-1$次的$x$值要接近正确答案。因此我们可以用已经算出的第$k$次的$x$值来代替第$k-1$次的$x$值。例如，在算$x_2^{(k)}$时我们已经算出来的$x_1^{(k)}$可以代替该式子中的$x_1^{(k-1)}$.这样可以使得迭代次数更少一点。

J迭代法与G-S迭代法的收敛性

看例题就好了！

例1：

• 对于J法而言，其实就是对角线元素乘以$\lambda$后的行列式为0.解出来的$\lambda$值如果小于0那么说明J法收敛。

• 对于G-S法而言，就是下三角部分乘以$\lambda$后的行列式值为0.解出来的$\lambda$值小于0即收敛，大于0则发散。
• 上述例题可见，J法是否收敛与G-S法是否收敛并没有关系。

例2：

超松弛迭代法（SOR）

看不懂，别看了。看例题吧！

例：

• 其实就是在G-S迭代法的基础上又加了一项来减少迭代次数。

SOR法的收敛性

• 严格对角占优矩阵：每一行的对角线元素都大于其余元素之和
• 弱对角占优矩阵：至少有一行满足严格对角占优，其余行对角线元素的值可以等于其他元素和。

不可约矩阵定义如下：

极小化方法

不想解释太多了，咱直接看例题吧。

最速下降法

引用另一个博主一张图，咱写不出来这么娟秀的字体~

• 我的理解就是通过对$f(x^k+\alpha$$d^k)$求导解出取极值时的最优步长$\alpha$的值

例：

共轭梯度法

哎，学例题吧。推导证明咱也看不懂。

例：



FR共轭梯度法例题

例1：

例2：