text
stringlengths
0
1.95k
g
(
kn
å
1
gN
-
вычисляется
)1
-
1
=
k
xik - mk)T(xik - mk); C
(
=
Ck;
k = 1, 2,…g;
b = С-1(m1
обобщенное расстояние Махаланобиса или дистанция в многомерном пространстве
°
{b1,…, bp} уравнения разделяющей гиперплоскости между классами 1 и 2;
°
признаков между центроидами двух групп объектов оценивается как D2 = bT (m1 - m2).
Интерпретацию LDA для случая p = 2, когда гиперплоскость сводится к линии LD2 см. на
рис. 6.1б.
коэффициентов
вектор
m2)
-
Таким образом, в LDA кроме предположения о нормальности распределения
данных в каждом классе, выдвигается еще и более серьезное предположение о
статистическом равенстве внутригрупповых матриц дисперсий и корреляций. При
искусственном объявлении ковариационных матриц Сk статистически неразличимыми
могут оказаться отброшенными наиболее важные индивидуальные черты, имеющие
большое значение для хорошей дискриминации.
Для рассматриваемого примера при использовании полного комплекта переменных
уравнение разделяющей плоскости будет иметь вид:
Z2 (x) = -0.247F1- 0.091F2 - 0.107F3 + 0.429PC1 + 1.85PC2 + 3.15PC3 - 2.6PC4 -
- 9.47PC5+ 0.223PC6 - 4.75PC7 - 15PC8,
230
а расстояние Махалонобиса между центроидами двух групп объектов D2 = 0.442. Если
после подстановки в это уравнение значений морфометрических переменных конкретного
животного значение величины Z окажется больше 0, то оно определяется как самец, если
меньше 0 – как самка. Доля ошибок модели при опознании примеров исходной выборки
представлена в табл. 6.8 и будет обсуждаться позднее.
Важной характеристикой прогнозирующей эффективности модели является
ошибка при кросс-проверке. В функции lda(…) пакета MASS заложена реализация
скользящего контроля (leave-one-out CV), т.е. из исходной выборки поочередно
отбрасывается по одному объекту, строится n моделей дискриминации по (n – 1)
выборочным значениям, а исключенная реализация каждый раз используется для
классификации. Доли ошибочных опознаний при такой процедуре также приведены в
табл. 6.8.
Наконец, было бы естественным задаться вопросом, какие из имеющихся 11
признаков являются информативными при разделении, а какие – сопутствующим
балластом. Шаговая процедура выбора переменных при классификации, реализованная
функцией stepclass(…) пакета klaR, основана на вычислении сразу четырех параметров
качества модели-претендента: а) индекса ошибок (correctness rate), б) точности (accuracy),
основанной на евклидовых расстояниях между векторами "факта" и "прогноза",
в) способности к разделимости (ability to seperate), также основанной на расстояниях, и
г) доверительных интервалах центроидов классов. При этом все эти параметры
оцениваются в режиме многократной кросс-проверки.
Проведенная селекция статистически значимых переменных для рассматриваемого
примера привела к весьма лаконичной модели:
Z2 (x) = 11.18PC5 - 17.6PC8
Квадратичный дискриминантный анализ (QDA) является нелинейным обобщением
метода LDA при разделении данных на два или более классов. В качестве решающего