Решение нелинейных уравнений и систем уравнений
Сходимость метода простой итерации
Теорема о сходимости.
Перепишем уравнение 
в эквивалентном виде
(4.13)
и рассмотрим метод простой итерации
, 
, 
задано (4.14)
Говорят, что итерационный процесс сходится, если последовательность 
имеет предел при 
.
Для дальнейшего напомним, что функция 
называется липшиц-непрерывной на множестве 
, если для всех 
выполняется неравенство
, (4.15)
где 
постоянное число.
Теорема 1. Пусть уравнение (4.13) имеет решение 
. Если липшиц-непрерывна с постоянной 
на отрезке 
, причем
или 
(4.16)
для всех 
, то уравнение (4.13) имеет на отрезке единственное решение 
и метод простой итерации (4.14) сходится к при любом начальном приближении 
. Для погрешности справедлива оценка
, . (4.16)
Без доказательства.
Метод Эйткена ускорения сходимости.
Предположим, что какой-либо итерационный процесс имеет линейную сходимость, т.е.
, 
, .
Числа 
заранее неизвестны, но их можно найти, используя три последовательные итерации 
. Составим уравнения
, 
, 
(здесь равенства надо понимать как приближенные), из которых найдем
; 
,
,
. (4.17)
Метод Эйткена ускорения сходимости состоит в том, что после вычисления производится пересчет по формуле
. (4.18)
и значение 
принимается за новое приближение. Если бы равенство (4.17) выполнялось точно, то совпало бы с точным решением . В общем случае дает лучшее приближение к , чем очередная итерация 
. Подчеркнем, что главным предположение здесь является требование линейной сходимости основного итерационного метода. В случае методов, имеющих более высокую скорость сходимости, ускорение по методу Эйткена неэффективно.
С помощью метода Эйткена на основе известных итерационных методов можно получить новые итерационные методы, обладающие более высокой сходимостью. Рассмотрим, например метод простой релаксации
, (4.19)
который имеет линейную сходимость, если
.
Предположим, что при некотором 
получены значения . Вычислим согласно (4.18)
(4.20)
и исключим из (4.20) с помощью (4.19) величины 
. Имеем
,
,
следовательно (доказать, дом. раб. №5),
.
Проведенные построения позволяют предположить, что одношаговый итерационный метод
(4.21)
обладает более быстрой сходимостью, чем исходный метод релаксации (4.19). Действительно, метод (4.21) при 
(метод Стеффенсена) имеет квадратичную сходимость.
Сходимость метода Ньютона.
Простой вещественный корень.
Предположим, что уравнение имеет простой вещественный корень 
, так что 
, 
. Будем предполагать, что 
дважды непрерывно дифференцируема в окрестности корня . Исследуем сходимость метода Ньютона
, 
. (4.22)
Теорема 1. Пусть 
простой вещественный корень уравнения и пусть в окрестности 
. Предположим, что 
непрерывна в 
и
, 
,
причем
. (4.23)
Тогда если 
, то метод Ньютона (4.22) сходится, причем для погрешности справедлива оценка
, (4.24)
или (доказать, дом. зад. №5)
и
Без доказательства.
Замечание 1. Условие (4.23) означает, что начальное приближение надо брать достаточно близко к искомому корню.
Замечание 2. Выполнение неравенства (4.24) означает, что метод имеет квадратичную сходимость.
Замечание 3. Поскольку заранее неизвестен, то иногда трудно проверить условие . Но если известно, что 
в некоторой окрестности корня, то для оценки близости начального приближения к корню можно воспользоваться неравенством
. (4.25)
Действительно,
,
откуда и следует (4.25).
Кратные корни.
Говорят, что является корнем кратности 
, если
, 
.
Будем предполагать сейчас, что 
непрерывна в окрестности корня кратности . В случае корня кратности 
квадратичную сходимость имеет метод Ньютона с параметром
, (4.9)
, (4.26)
где 
. Справедлива
Теорема 2. Пусть корень кратности уравнения и в окрестности производная 
отлична от нуля.
Пусть 
непрерывна в и
, 
,
причем
.
Тогда если , то метод (4.26) при сходится, причем для погрешности справедлива оценка
,
где
.
