text
stringlengths
0
1.95k
чувствителен к отклонениям от предположений о нормальном законе распределения
исходных данных. Метрические методы классификации, такие как алгоритмы k-
ближайших соседей или потенциальных функций, основаны на вычислении оценок
сходства между объектами и опираются на гипотезу компактности сгущений кластеров.
Линейные классификаторы, к которым относят логистическую регрессию и алгоритм
опорных векторов, используют принцип максимума правдоподобия или находят
оптимальную
минимальный
эмпирический риск ошибки. Некоторые методы классификации, такие как иерархические
деревья решений, вообще не используют метрик многомерного пространства, а основаны
на логических операциях последовательного разделения обучающей выборки на группы
на основе установленных зависимостей отклика от независимых переменных
обеспечивающую
гиперплоскость,
разделяющую
В отличие от классификации, при использовании ординационных методов мы в
качестве результата получаем знания, как соотносятся объекты в терминах выбранной
метрики, на основании которых стремимся приписать сгущениям точек на ординационной
плоскости некоторые классификационные сущности. Большинство методов ординации
основано на идеях оптимального целенаправленного проецирования (projecting pursuit) в
пространства малой размерности. Такой подход, основанный на минимально возможном
искажении исходной взаимной упорядоченности точек,
обеспечивает наглядное
графическое представление исследуемых объектов на диаграммах с 2 или 3 осями
координат. Некоторые методы, такие самоорганизующиеся карты Кохонена SOM,
являются, в некотором смысле, гибридом ординации и кластеризации.
Наиболее распространенные алгоритмы ординации, такие как анализ главных
компонент (PCA) или главных координат (PCoor), канонический корреспондентный
анализ (CCA), основаны на операциях с собственными числами и собственными
векторами обрабатываемых матриц и предъявляют ряд требований к характеру
распределения исходных данных. Весьма перспективным методом считается алгоритм
неметрического многомерного шкалирования (NMDS, nonmetric multidimensional scaling),
который использует различные градиентные методы оптимизации эвристических
функционалов качества. Его главным преимуществом является то, что он не требует от
исходных данных никаких априорных предположений.
Методы, отмеченные курсивом, будут подробно описаны в последующих разделах.
199
6.2. Проецирование данных в пространство малой размерности методом PCA
Анализ главных компонент
(PCA, principal component analysis) является
классическим методом снижения размерности данных, широко используемым в
различных областях науки и техники и детально описанным в многочисленных
руководствах (Rao, 1964; ter Braak, 1983; Айвазян и др., 1989). В отличие от регрессии,
PCA не оценивает одну единственную переменную отклика, а выполняет симметричную
обработку всей матрицы наблюдений. При этом алгоритм стремится построить небольшое
количество ортогональных плоскостей, ориентируя их относительно максимума вариации
точек отображаемых объектов, т. е. при проецировании на эти плоскости вносятся
минимально возможные искажения в геометрию исходных данных. Разработанные
алгоритмы шкалирования и вращения осей главных компонент позволяют получить
удобную для интерпретации факторов ординационную диаграмму.
Пусть имеется m (m >> 1) случайных переменных X1, X2, …, Xm, имеющих
совместное многомерное распределение
(не обязательно нормальное), которым
соответствует вектор средних mm´1. Ковариационная матрица Sm´m определяет характер
взаимосвязи между этими переменными или их структурную зависимость. Метод
главных компонент рассматривает в качестве допустимых преобразований всевозможные
линейные ортогональные центрированные комбинации переменных Xi:
m
m
i
i
i
i
k
)
1
=
1
=
=
=
Z
ikp
m-