Градиентный метод

Задаемся вектором , решаем систему , находим , , определяем , .

Пусть . Найдем такую поправку к , чтобы уменьшилось. Для этого введем вектор

.

Зададим поправки так, что

и покажем, что в выражении .

Действительно, поскольку

,

то отсюда находим, что

.

Утверждение доказано.