第二章 解线性代数方程组的迭代法
2.1 引 言
在许多实际问题中，常常需要求解这样的线性代数方程组，它的系数矩阵数很高，但非零元素很少，人们称其为大型稀疏线性代数方程组，对于这类方程组，如果它又不具有带状性，那么，再用直接法求解就不太有效，因为用直接法进行消元或矩阵的三角分解时，没有考虑到系数矩阵的稀疏性，破坏了系数矩阵的形状，导致了计算量的增加和存储单元的浪费，于是，人们常用迭代法求解大型稀疏线性代数方程组。迭代法只需要存储系数矩阵的非零元素，这样，占用内存在单元较少，能解高阶线性代数方程组。由于迭代法是通过逐次迭代来逼近方程组的解，因此，收敛性和收敛速度是构造迭代法时要注意的问题。那么，是否可以构造一种适用于一般情况的迭代法呢？回答是否定的，这是因为不同的系数矩阵具有不同的性态，一般地，每一种迭代法都具有一定的适用范围，在本章的学习中将会看到，有时，某种方法对一类方程组迭代收敛，而对另一类方程组进行迭代时就会发散。因此，我们应该学会针对具有不同性质的线性代数方程组，构造合适的迭代方法。
本章主要介绍一些基本的迭代法，并在一定的范围内讨论其中几种方法的收敛法。
2.2 基本迭代法
考虑线性方程组
（2.1）
采用矩阵和向量记号，我们可以把（2.1）式写成
, （2.2）
其中，
为非奇异矩阵，设
。
下面我们介绍雅可比（Jacobi）迭代，高斯-塞德尔（Gauss-Seidel）迭代与SOR迭代以及SSOR迭代的基本思想和算法。为了方便地给出矩阵表示式，我们引进下列矩阵分裂： （2.3）
其中
（1）雅可比迭代的基本思想
从式（2.1）的第i个方程中解出
：
我们把迭代前面的值代入上式右边，由计算得到等式左边的值作为一次迭代的新值，然后再把这个新值代入右边，再从左边得到一个新值，如此反复，就得到了雅可比迭代公式。
算法2.1 雅可比迭代法。
选定初值
，对
计算
（2.4）
由式（2.4）及采用矩阵A的分裂记号式（2.3），可以得到
第2章解线性代数方程组的迭代法
