Лекции.Орг


Поиск:




Градиентный метод




Метод спуска, в котором направление , называется методом градиентного спуска. В этом методе для решения задачи (5.4.1) последовательные приближения строятся по формуле:

(5.7.1)

начиная из некоторой начальной точки (заданной) , а параметры определяются из условий одномерной минимизации (5.4.8). К методу (5.7.1) можно прийти, основываясь на приближении функции в точке линейной моделью (5.4.4), отыскивая решение вспомогательной задачи:

.

При минимизации сильно выпуклых функций, градиент которых удовлетворяет условию Липшица, согласно оценкам (5.5.1)-(5.5.2), сходимость к точке минимума последовательности , генерируемой процессом (5.7.1), определяется неравенством:

. (5.7.2)

Процедура минимизации (5.7.1) редко применяется на практике вследствие медленной сходимости. Она служит моделью для более эффективных методов.





Поделиться с друзьями:


Дата добавления: 2015-02-12; Мы поможем в написании ваших работ!; просмотров: 433 | Нарушение авторских прав


Поиск на сайте:

Лучшие изречения:

Два самых важных дня в твоей жизни: день, когда ты появился на свет, и день, когда понял, зачем. © Марк Твен
==> читать все изречения...

1226 - | 1133 -


© 2015-2024 lektsii.org - Контакты - Последнее добавление

Ген: 0.01 с.