Другие новости по теме:
Комментарии (0) Факторный анализ 12
* Более точно минимизируется среднее значение квадрата такой невязки. — Примеч. ред.
** Более точно минимизируется среднее значение квадрата этого расстояния.— Примеч. ред.
Наименьшие квадраты
Минимизируется S d"
Поскольку первая компонента определена таким образом, что основная доля информации содержится именно в ней (дисперсия в направлении этой компоненты максимальна), вторая компонента определяется аналогичным образом при условии, что ее ось перпендикулярна первой.
Следовательно, в двумерном случае после фиксирования первой компоненты вторая становится известна автоматически. Если У не является линейной функцией от X, то главных компонент будет две (для полного описания совместного распределения необходимы две оси).
При определении главных компонент не обязательно предполагать существование гипотетических факторов. Новые оси являются математическими (линейными) функциями наблюдаемых переменных. Даже если с помощью анализа главных компонент достигается сжатие данных (выделение только нескольких первых компонент), задача состоит не в объяснении корреляции между переменными, а в объяснении максимальной доли дисперсии наблюдений. С другой стороны, для рассматриваемого двумерного случая в факторном анализе потребуется лишь один фактор, и главной задачей будет объяснение корреляций между переменными. Итак, первая задача относится к объяснению дисперсий, а вторая — к объяснению корреляций.
При наличии более двух переменных принцип определения главных компонент тот же. Например, для трехмерного нормального распределения поверхность равной вероятности будет ограничивать овальное тело (эллипсоид), где первая главная ось — его наибольший диаметр, вторая — пройдет по наибольшему диаметру в плоскости, перпендикулярной первой оси; третья ось будет самой короткой, перпендикулярной двум первым осям.
Минимизируется 1) d"
3. Сравнение регрессий, полученных с помощью методов наименьших квадратов и главных осей
Основной математический метод получения направлений главных осей основан на нахождении собственных чисел и векторов корреляционной (ковариационной) матрицы. Для определения собственных чисел и векторов уравнение с использованием матричной записи имеет следующую форму:
RV=XV. (1)
где Я —матрица, для которой ищется решение; V—искомый собственный вектор, а К — собственное число. Решение базируется* на более простой форме в виде детерминанта матрицы:
Det (Я-/Х)=0, (2)
что дает для квадратной матрицы уравнение
(3)
которое по определению детерминанта может быть представлено в виде