text
stringlengths
0
1.95k
bx , для которой
a
=
sign
(
T
xw
a
+
b
)
1
+=
и
-=bxf
)
1
(
, опознается как
"кружочек".
Рис. 6.19. Положение разделяющей гиперплоскости, полученной методом опорных векторов,
в пространстве главных компонент PC5-PC8 переменных формы нижней челюсти грызунов;
красным цветом отмечены ошибки распознавания.
При использовании метода опорных векторов построение разделяющей
гиперплоскости для нашего примера осуществлялась по 782 точкам, т.е. 55 векторов
исходной выборки были исключены как "злостно" препятствующие классификации,
благодаря чему модель распознавания получила дополнительную устойчивость, в том
числе, при скользящем контроле. Сокращение признакового пространства с 11 до 3
переменных (F1, PC5, PC8) также не сказалось на качестве распознавания. Авторы
233
рекомендуют обратить внимание на широкое распространение и постоянное развитие
алгоритмов SVM, современные версии реализации которых представлены в пакетах klaR
и penalizedSVM среды R.
Для решения предъявленного примера все использованные модели распознавания
LDA, QDA, LR и SVM показали весьма высокую вероятность ошибочного прогноза (табл.
6.8), что, вероятно, можно расценивать как неудачу с предметной точки зрения. Несмотря
на это, наша задача - обратить внимание на следующие общие методические
закономерности, важные при выборе алгоритмов классификации и анализе результатов их
работы:
°
ошибка кросс-проверки ECV всегда превышает внутреннюю ошибку модели ES на
самой обучающей выборке и является объективной характеристикой качества
распознавания на внешнем дополнении;
°
сокращение размерности модели за счет выбора комплекса информативных
переменных может увеличить ошибку ES, но, как правило, снижает ошибку скользящего
контроля ECV;
°
использование "продвинутых" нелинейных поверхностей разделения (QDA в табл.
6.8) часто приводит к формированию "переопределенных" моделей, эффективных на
самой обучающей выборке, но не столь успешных при экзамене неизвестных объектов.
Таблица 6.8. Оценка прогнозирующей эффективности различных методов распознавания пола
грызунов по форме нижней челюсти; Err-S – доля ошибочной классификации на обучающей
выборке; Err-CV – то же, при скользящем контроле
Использованный алгоритм
Полная модель
Линейный дискриминантный
анализ LDA
Квадратичный
дискриминантный анализ QDA
Логистическая линейная
регрессия LR
Метод опорных векторов SVM
Err-S
0.442
0.388