text
stringlengths
0
1.95k
R
1
-=
n
å
i
1
=
d
i
/
n
å å
1
=
i
m
j
1
=
2
x
ij
.
Снижение размерности исходного пространства методом PCA можно представить
как последовательный, итеративный процесс, который можно оборвать на любом шаге u.
Вследствие ортогональности системы координат главных компонент (т.е. фактически, их
взаимной независимости) нет необходимости перестраивать матрицы счетов T и нагрузок
P при изменении числа компонент: к ним просто прибавляются или отбрасываются
очередные столбцы (строки). При этом важно знать, когда следует остановиться, т.е.
определить "правильное" число главных компонент u. Если это число слишком мало, то
описание данных будет не полным. С другой стороны, избыточное число главных
компонент приводит к переоценке, т.е. к ситуации, когда моделируется шум, а не
содержательная информация.
Главные компоненты определены таким образом, что достигается оптимум трех
эквивалентных критерия (Wehrens, 2011):
°
°
каждый столбец матрицы счетов имеет дисперсию, максимально возможную из всех
линейных комбинаций;
сумма евклидовых расстояний между проекциями точек в редуцированном
пространстве максимальна;
реконструкция X насколько возможно близка к оригиналу и ||X - X~ || минимально.
°
Существуют различные методы оценки матрицы коэффициентов P, удовлетворяющих
этим критериям, такие, как сингуля́рное разложе́ние ковариационной матрицы (singular
value decomposition, SVD), EM-алгоритм, ищущий оценку максимального правдоподобия.
Наиболее распространенный метод преобразования XP ® T основан на
вычислении последовательности собственных значений λ1 > λ2 > … > λm квадратной
симметричной матрицы S = XtX вторых или смешанных моментов. Если столбцы матрицы
X центрированы (å =
ij n
/
), то матрица S является ковариационной, а если еще и
n
выполнена нормировка (å =
), то S становится корреляционной матрицей.
2
/
ij n
x
=
=
0
1
x
n
1