Минимизация функционала ошибки. Отношение Рэлея

Рассмотрим функционал от двух заданных векторов в вещественном Евклидовом пространстве , как функцию от параметра

(1)

Найдем минимум его, как функции от при постоянных векторах . Имеем,

(2)

Минимум наступает при (из условия )

(3)

Значение функционала при этом

Геометрическая интерпретация этого факта следующая. При вектор перпендикулярен вектору и при этом его модуль среди всех минимален.

Функционал (1), если - вектор ошибки на текущей итерации, а -вектор текущей невязки, является функционалом от вектора ошибки на последующей итерации. В рассматриваемых далее методах входящие в него вектора имеют различный смысл.

Еще один функционал , действующий в унитарном пространстве и называемый отношением Рэлея, будет использоваться в дальнейшем изложении.

(4)

Отношение Рэлея замечательно тем, что на собственном векторе оператора принимает значение собственного значения, соответствующего этому вектору.

Действительно, пусть -собственная пара оператора , то есть . Подставляя в (4), имеем

(5)

Иногда отношение Рэлея используется в виде

(6)

и тогда , если -собственная пара оператора . Если , - минимальное и максимальное собственное число при , то нетрудно показать, раскладывая вектор по базису из собственных векторов , что

,