Лекция 23. Метод главных компонентов в задаче сжатия

Идея сжатия сигнала на основе разложения по ортогональному базису была изложена выше. Рассмотренные базисы являются универсальными и не учитывают особенность сигнала. Когда имеется набор сигналов одной природы, возникает вопрос о выборе оптимального базиса, пригодного для сжатия всего семейства. Эта задача решается с помощью метода главных компонентов. Сначала нам понадобится вспомогательное утверждение из линейной алгебры.

Предложение 1. Пусть имеется вещественная симметрическая матрица и натуральное , меньше чем размер матрицы. Среди матриц вида , где - ортогональная матрица, выбирается такая, в которой сумма первых диагональный элементов максимальна. Тогда эта сумма совпадает с суммой наибольших корней .

Доказательство. Очевидно, что максимум достигается на некоторой матрице . Положим - элементарный поворот, затрагивающий строки и столбцы с номерами . Обозначим через сумму первых диагональных элементов матрицы . По определению при . Очевидно, что при . В этих обозначениях производная в нуле принимает вид . Взяв индексы , получим, что . Это означает, что искомая матрица . Поскольку набор корней матриц исчерпывает множество корней , отсюда следует утверждение.