Datasets:
Vikhrmodels
/
programming_books_rus

Dataset card Data Studio Files
xet
 Community
1
text
stringlengths
0
1.95k
Деревья классификации и регрессии представляют собой последовательные
иерархические структуры, состоящие из узлов, которые содержат правила, т.е. логические
конструкции вида "если …, то …". Корневой узел дерева связан с граничным значением
одной из переменных исходной таблицы данных, которое делит все множество объектов
на две группы (для бинарного случая). От каждого последующего узла-родителя к узлам-
потомкам также может отходить по две ветви, в свою очередь связанные c граничными
значениями других наиболее подходящих переменных и определяющие правила
дальнейшего разделения {splitting criterion} на группы. Конечными узлами дерева
являются "листья", соответствующие найденным решениям и объединяющие всё
множество объектов классифицируемой выборки. Общее правило выбора опорного
значения для каждого узла построенного дерева можно сформулировать следующим
образом: «выбранный признак должен разбить множество Х* так, чтобы получаемые в
итоге подмножества Х*k , k = 1, 2, …, p, состояли из объектов, принадлежащих к одному
классу, или были максимально приближены к этому».
Построение деревьев осуществляется, как правило, с использованием "жадных"
алгоритмов, стремящихся, не считаясь ни с чем, построить модель с максимально
возможным числом сомнительных и посторонних включений. Естественно, чем обширнее
и кустистее дерево, тем лучшие результаты тестирования оно показывает на обучающей
выборке, но не столь успешно выполняет экзамен незнакомых примеров. Поэтому
построенная модель должно быть еще и оптимальной по размерам, т.е. содержать
информацию, улучшающую качество распознавания, и игнорировать ту информацию,
которая его не улучшает. Для этого обычно проводят "обрезание" дерева (tree pruning) –
отсечение ветвей там, где эта процедура не приводит к серьезному возрастанию ошибки.
Лишь в редких случаях удается подобрать объективный внутренний критерий,
приводящий к хорошему компромиссу между безошибочностью и компактностью,
поэтому стандартный механизм оптимизации деревьев основан на кросс-проверке. Для
218
этого обучающая выборка разделяется, например, на 10 равных частей: 9 частей
используется для построения и последующего обрезания дерева, а оставшаяся часть
играет роль внешнего дополнения для независимого экзамена. После многократного
повторения этой процедуры из некоторого набора деревьев-претендентов, у которых
практически допустимый разброс остальных параметров качества, выбирается дерево,
показавшее наилучший результат при кросс-проверке.
В качестве примера [П4] рассмотрим построение дерева CART, прогнозирующего
зоны обитания М популяций красной полевки, которые расположены на различном
расстоянии от Байкальского ЦБК и принимают следующие значения: 1 – до 5 км, 2 – от
15 до 50 км, 3 – свыше 50 км. В качестве опорных переменных будем использовать
морфометрические показатели: массу внутренних органов животных, а также длину и
массу тела, взаимосвязь между которыми анализировалась ранее в разделе 4.6.
значений, которые приводят к минимальной
В общем случае может быть использовано несколько алгоритмов построения
деревьев на основе различных схем и критериев оптимизации. Функция rpart(…) из
одноименного пакета выполняет рекурсивный выбор для каждого следующего узла таких
разделяющих
сумме квадратов
внутригрупповых отклонений Dt для всех t узлов дерева. При решении задачи
классификации девианс Di имеет смысл "числа посторонних включений" и оценивается по
формулам расчета энтропии или индекса Джини. Для дерева, представленного на рис.
6.12, начальное разбиение дало две группы особей: 19 полевок 1-го класса (энтропия D1 =
0) с массой тела W > 44 г и общую группу из остальных 259 не столь упитанных мышей
разных классов (D2 = 0.93), которая подвергается дальнейшему разбиению.
Рис. 6.12. Дерево rpart для распознавания местоположения популяций красной полевки (в
"листьях" указаны номер прогнозируемого класса и распределение числа особей обучающей
выборки по их фактической групповой принадлежности)
219
Оценка качества построенного дерева T в ходе его оптимизации проводилась с
использованием совокупности различных критериев:
°
критерия стоимости сложности
(cost complexity), включающего штрафной
множитель l за каждую неотсечённую ветвь – СС(T) å l+
D
t
=
t
t
;
°
°
°
°
девианса D0 для нулевого дерева (т.е. оценки изменчивости в исходных данных);
относительного параметра стоимости сложности Cp = l/ D0;
относительной ошибки обучения (RELer) для дерева из t узлов
;