Итерационные методы решения СЛАУ
Канонический вид итерационных методов решения СЛАУ.
Итерационные методы Якоби и Зейделя
Рассмотрим СЛАУ
, (6.1)
где матрица 
, 
, имеет обратную, 
, 
.
Рассмотрим сначала два примера итерационных методов. Для их построения предварительно преобразуем систему (6.1) к виду
, 
(6.2)
(при этом предполагается, что все 
отличны от нуля).
Условимся, как обычно, считать значение суммы равным нулю, если верхний предел суммирования меньше нижнего. Так, уравнение (6.2) при 
имеет вид
.
В дальнейшем верхний индекс 
будет указывать номер итерации.
В методе Якоби исходят из записи системы в виде (6.2), причем итерации определяются следующим образом:
. (6.3)
Начальные значения 
, , задаются произвольно. Окончание итераций определяется либо заданием максимального числа итераций 
, либо условием
,
где 
заданное число.
Итерационный метод Зейделя имеет вид
. (6.4)
Чтобы понять, как находятся отсюда значения 
, , запишем подробнее первые два уравнения системы (6.4).
, (6.5)
. (6.6)
Первая компонента 
вектора 
находится из уравнения (6.5) явным образом, для ее вычисления нужно знать вектор 
и значение 
. При нахождении 
из уравнения (6.6) используются только что найденное значение и известные значения 
, 
, с предыдущей итерации. Таким образом, компоненты вектора находятся из уравнения (6.4) последовательно, начиная с .
Матричная запись методов Якоби и Зейделя
Для исследования сходимости итерационных методов удобнее записывать их в матричной форме. Представим матрицу 
системы (6.1) в виде суммы матриц
, (6.7)
где 
диагональная матрица с той же главной диагональю, что и матрица . Матрица 
нижняя треугольная матрица и 
верхняя треугольная матрица с нулевыми главными диагоналями.
Например, при 
матрицы 
имеют вид
, 
, 
.
Тогда систему (6.2) можно представить в виде матричного уравнения (доказать):
.
Метод Якоби (6.3) в векторной записи выглядит следующим образом:
,
или
. (6.8)
Метод Зейделя (6.4) записывается в виде
,
или
. (6.9)
Учитывая (6.7), методы (6.8) и (6.9) можно переписать соответственно в виде
, (6.10)
. (6.11)
Из этой записи видно, что если итерационный метод сходится, то он сходится к решению исходной системы уравнений.
Часто для ускорения сходимости в итерационные методы вводятся числовые параметры, которые зависят, вообще говоря, от номера итерации. Например, в методы (6.10), (6.11) можно ввести итерационные параметры 
:
,
.
Способ выбора итерационных параметров выясняется при исследовании сходимости. В теории итерационных методов существует два круга вопросов: а) при каких значениях параметров метод сходится, б) при каких значениях параметров сходимость будет более быстрой.
Методы Якоби и Зейделя относятся к одношаговым итерационным методам, когда для нахождения требуется помнить только одну предыдущую итерацию . Иногда используются и многошаговые итерационные методы, в которых определяется через значения 
на двух и более предыдущих итерациях, т.е. 
.
