text
stringlengths
0
1.95k
/ DD
0
t
ошибки кросс-проверки (CVer) с разбиением на 10 блоков, также отнесенной к
девиансу нуль-дерева D0; CVer, как правило, больше, чем RELer;
°
стандартного отклонения (SE) для ошибка кросс-проверки.
Лучшим считается дерево, состоящее из такого количества ветвей t, для которого
является минимальной сумма (CVer + SE). Для модели, классифицирующей популяции
полевки по степени удаленности от БЦБК, график изменения относительной ошибки
кросс-проверки, представленный на рис. 6.13, показывает, что исходное дерево из 13
узлов (см. рис. 6.12) является оптимальным и в "обрезании" не нуждается.
Рис. 6.13. Изменение ошибки распознавания при обучении и кросс-проверке при
увеличении размеров дерева
Результаты классификации удобно представлять в виде таблицы сопряженности
6.4, где по главной диагонали расположено число правильных распознаваний. Отметим
также, что при кросс-проверке доля ошибочных предсказаний существенно выше (42.4%),
хотя и значительно меньше вероятности неудачи при случайном угадывании (54.7%).
Таблица 6.4. Таблица сопряженности результатов распознавания местоположения
популяций красной полевки
Факти-
чески
1
2
3
Итого
Предсказано
2
1
14
2
17
3
30
13
97
140
1
95
11
15
121
Итого
126
38
114
278
Число
ошибок
31
24
17
72
Доля
ошибок
24.60%
63.16%
14.91%
25.90%
220
Принципиально иной подход к построению моделей классификации основан на
двух относительно новых методах ресамплинга – баггинге (bagging) и бустинге (boosting).
Они используют старые идеи создания "распознающего коллектива" (Расстригин,
Эренштейн, 1981), эффективность которого практически всегда оказывается значительно
выше любого из его членов. Баггинг (аббревиатура от Bootstrap aggregating) на основе
одно и того же метода обучения выполняет селекцию достаточно большого подмножества
моделей, полученных с использованием бутстрепа исходной выборки, которые
взвешиваются по уровню их эффективности и используются для экзамена с
использованием голосования. Бустинг, как и баггинг, является подходом, основанным на
коллективном распознавании, однако, вместо простого усреднения результатов, реализует
итеративную процедуру, напоминающую градиентные алгоритмы. При этом многократно
создаются
адаптивно
подстраиваемыми на каждом шаге таким образом, чтобы попытаться в максимальной
мере учесть мнение "слабых" членов коллектива, склонных на предыдущих шагах к
ошибочным прогнозам.
версии обучающихся