Datasets:
Vikhrmodels
/
programming_books_rus

Dataset card Data Studio Files
xet
 Community
1
text
stringlengths
0
1.95k
решающих правил распознавания k классов, где k > 2.
В качестве примера рассмотрим задачу географического районирования популяций
гадюки обыкновенной, включающей два подвида V. b. berus и V. b. Nikolskii. Выборку из
отловленных животных (100 экземпляров) разделим на три группы: "северную" N
(Пермский край и Вологодская обл.), "западную" W (Липецкая и Пензенская обл.) и
"южную" S (Самарская и Саратовская обл.). В качестве варьируемых признаков будем
использовать 10 морфологических признаков, пол и 3 показателя, определяющих цвет
ядовитого секрета и активность отдельных его компонентов. Детальный список признаков
представлен в приложении 1 (пример [П5]).
Дискриминантный анализ LDA в этих условиях рассчитывает уравнения двух
дискриминирующих плоскостей
Z1 (x) = b1 x и Z2 (x) = b2 x . Последовательное
применение этих решающих правил дает возможность отнести произвольный
экзаменуемый объект к одной из трех групп. С использованием функции lda(…) пакета
MASS были построены модель LDA1, включающая полный набор переменных, и LDA2
на основе четырех признаков, которые в ходе селекции были признаны информационно
значимыми процедурой stepclass(…):
Z1 (x) = 0.091 S.cd. - 0.050 ПА - 0.021 L.АМО - 5.351 Col ;
Z2 (x) = 0.193 S.cd. - 0.104 ПА + 0.029 L.АМО + 1.133 Col ,
где S.cd. - количество пар подхвостовых щитков, ПА - протеолитическая активность яда,
L.АМО – активность оксидазы L-аминокислот, Col – цветность яда от 0 (бесцветный) до 1 (ярко-
желтый). Однако, как представлено в табл. 6.9, переход от полной модели к сокращенной
в этом примере вызывает существенное увеличение ошибок распознавания.
Если сократить количество используемых переменных до двух, то появляется
возможность отобразить границы, разделяющие группы животных, на двухмерной
диаграмме. На рис. 6.20 видно, как отличается форма разделяющих поверхностей
линейного и квадратичного вариантов дискриминантного анализа.
235
Рис. 6.20. Границы дискриминации трех региональных подпопуляций гадюки обыкновенной в
пространстве двух переменных методами LDA (а) и QDA (б)
При использовании метода опорных векторов SVM можно применить стратегию
"один против всех", т.е. строятся разделяющие поверхности между каждой группой
объектов и всеми остальными и вычисляются оценки принадлежности Zk по каждому
классификатору. Экзаменуемый объект относится к тому классу, которому соответствует
максимальное значение Zk. Если использовать схему "каждый против каждого", то
строится k(k – 1)/2 таких поверхностей. Возможны также стратегии "турнир с
236
выбыванием", "дихотомия" и др. При этом можно отметить (табл. 6.9) значительное
превосходство SVM в качестве распознавания по сравнению с традиционными
линейными моделями.
В отличие от уже описанных алгоритмов, в представленных ниже методах
многоклассовая классификация реализуется естественным образом, а не сводится к
последовательности двухклассовых разбиений.
Метод k ближайших соседей (k nearest neighbors) или kNN-классификация является
простейшим алгоритмом, определяющим разделяющие границы для каждого локального
объекта. В варианте 1NN анализируемый объект относится к определенному классу в
зависимости от информации о его ближайшем соседе. В варианте kNN каждый объект
относится к преобладающему классу ближайших соседей, где k - параметр алгоритма. В
основе метода kNN лежит
гипотеза компактности, которая предполагает, что
тестируемый объект d будет иметь такую же метку класса, как и обучающие объекты в
локальной области его окружения.
Решающие правила в методе kNN определяются границами смежных сегментов
диаграммы Вороного (Voronoi resselation), разделяющей плоскость на |n| выпуклых
многоугольников, каждый из которых содержит один и только один объект обучающей
выборки – см. рис. 6.21. В p-мерных пространствах границы решений состоят уже из
сегментов (p - 1)-мерных полуплоскостей выпуклых многогранников Вороного.
Рис. 6.21. Иллюстрация работы алгоритма k ближайших соседей
Алгоритм предсказания строится на основе схемы голосования, т.е. в качестве
результата объявляется метка класса-победителя. На рис. 6.20 тестируемый объект
"звёздочка" попадает в ячейку объекта класса "треугольников" и при k = 1 будет
отнесён к этому классу. Однако при k = 3 по голосам двух ближайших соседей из трех
экзаменуемая точка будет отнесена к классу "кружочков". Вероятностный вариант метода
kNN использует для ранжирования предполагаемых классов сумму "голосов" соседей с
учетом их весов, в частности, косинусной меры расстояния между тестируемым объектом
и каждым из соседей.
Следует отметить, что вариант 1NN обеспечивает 100% правильное распознавание
примеров обучающей выборки, однако часто ошибается на неизвестных ему векторах
признаков (табл. 6.9). При увеличении k > 1 до некоторых пределов качество
распознавания на внешнем дополнении начинает возрастать. Наилучшее в смысле
классификационной точности значение k может быть найдено с использованием кросс-
проверки. Для этого по фиксированному значению k строится модель k-ближайших
соседей и оценивается CV-ошибка классификации при скользящем контроле. Эти
действия повторяются для различных k и значение, соответствующее наименьшей ошибке
распознавания, принимается как оптимальное. В рассматриваемом примере наилучший
прогноз основан на количестве соседей k = 5 и k = 8 – рис. 6.22.
237
Рис. 6.22. Нахождение оптимального числа k ближайших соседей при классификации популяций
гадюки
Нейроинформатика, бурное развитие которой пришлось на 80-е годы прошлого
столетия, в настоящее время стала определяющей парадигмой создания сложных систем