Факторный анализ. Идея метода состоит в сжатии матрицы признаков в матрицу с меньшим числом переменных, сохраняющую почти ту же самую информацию

Идея метода состоит в сжатии матрицы признаков в матрицу с меньшим числом переменных, сохраняющую почти ту же самую информацию, что и исходная матрица. В основе моделей факторного анализа лежит гипотеза, что наблюдаемые переменные являются косвенными проявлениями небольшого числа скрытых (латентных) факторов. Хотя такую идею можно приписать многим методам анализа данных, обычно под моделью факторного анализа понимают представление исходных переменных в виде линейной комбинации факторов.

Х1 Х2.....Хn F1...Fm ┌──┬──┬──┬──┬──┐ ┌──┬──┬──┐ │ │ │ │ │ │ │ │ │ │ │ │ │ │ │ │ │ │ │ │ └──┴──┴──┴──┴──┘ └──┴──┴──┘ Рисунок 7.1. Сжатие признакового пространства с применением факторного анализа

Факторы F построены так, чтобы наилучшим способом (с минимальной погрешностью) можно представить Х. В этой модели "скрытые" переменные F_k называются общими факторами, а переменные U_i специфическими факторами ("специфический" -это лишь один из переводов применяемого в англоязычной литературе слова Unique, в отечественной литературе в качестве определения U_i встречаются также слова "характерный", "уникальный"). Значения a_ik называются факторными нагрузками.

Обычно (хотя и не всегда) предполагается, что X_i стандартизованы ( =1, X_i=0), а факторы F₁,F₂,…,F_m независимы и не связаны со специфическими факторами U_i (хотя существуют модели, выполненные в других предположениях). Предполагается также, что факторы F_i стандартизованы.

В этих условиях факторные нагрузки a_ik совпадают с коэффициентами корреляции между общими факторами и переменными X_i. Дисперсия X_i раскладывается на сумму квадратов факторных нагрузок и дисперсию специфического фактора:

, где

Величина называется общностью, - специфичностью. Другими словами, общность представляет собой часть дисперсии переменных, объясненную факторами, специфичность - часть необъясненной факторами дисперсии.

В соответствии с постановкой задачи, необходимо искать такие факторы, при которых суммарная общность максимальна, а специфичность - минимальна.