text stringlengths 0 1.95k |
|---|
взвешенные |
выборок |
весами, |
с |
Реализация баггинга для моделирования данных деревьями CART была выполнена |
Л.Бримэном (Breiman, 2001) в алгоритме под названием randomForest (см. также пакет и |
функцию R с тем же названием). Его использование для распознавания местоположения |
популяций красной полевки привело к 40.3% ошибочной классификации, что несколько |
лучше, чем при кросс-проверке методом rpart, и является, видимо, объективным порогом |
точности прогноза на использованной обучающей выборке. Однако алгоритм |
randomForest существенно уступает методу rpart в наглядности и объясняющей |
составляющей, поскольку не имеет возможности предъявить исследователю граф |
конкретного дерева (как на рис. 6.12), а оперирует в анализе, например, 500 деревьями, |
полученными бутстреп-процедурой. |
Стандартный механизм проверки статистического гипотез, который предотвращает |
переусложнение модели, реализован в методе построения деревьев на основе "условного |
вывода" (conditional inference). Функция ctree(…) из пакета party принимает во внимание |
характер распределения независимых переменных и осуществляет на каждом шаге |
рекурсивного разделения данных несмещенный выбор влияющих ковариат, используя |
формальный тест на основе статистического критерия c(tj, µj, Σj), j = 1, ..., m, где, µ, Σ – |
соответственно среднее и ковариация (Hothorn at al., 2006). Оценка статистической |
значимости с-критерия выполняется на основе пермутационного теста, в результате чего |
формируются компактные деревья, не требующие процедуры обрезания. |
На рис. 6.14 представлено дерево "условного вывода" ctree, содержащее результаты |
моделирования другой категориальной переменной выборки морфометрических |
показателей красной полевки – пола животных. Итоги анализа не содержат сколько- |
нибудь неожиданных выводов: двумя статистически значимыми разделяющими |
переменными оказались масса надпочечников и почек. |
К разделу 6.4: |
library(xlsReadWrite) ; library(rpart) ; library(rpart.plot) |
TOR <- read.xls("Ruts.xls", sheet = 1, rowNames=TRUE) ; attach (TOR) |
# Построение и отображение дерева rpart |
rut.rpart <- rpart(formula = M ~ sex+W+Lt+C+R+SR+H+L, method="class", data=TOR) |
prp(rut.rpart, extra=1,box.col=c("pink", "yellow", "palegreen3")[rut.rpart$frame$yval]) |
rut1.rpart <- rpart(M~sex+W+Lt+C+R+SR+H+L, method="class", data=TOR, |
control=rpart.control(cp=.005)) # Снижаем порог стоимости сложности |
# График изменения относительных ошибок от числа узлов дерева |
plotcp(rut1.rpart) ; with(rut1.rpart, {lines(cptable[,2]+1,cptable[,3],type="b",col="red") |
legend(locator(1),c("Ошибка обучения","Ошибка крос-проверки (CV)","min(CV ошибка)+SE"), |
lty=c(1,1,2),col=c("red","black","black"),bty="n") }) ; printcp(rut1.rpart) |
table(predict(rut.rpart, type = "class"),TOR$M) # Вывод таблицы сопряженности |
library(randomForest) # Построение коллектива деревьев с использованием баггинга |
rut.rf <- randomForest(as.factor(M) ~ sex+W+Lt+C+R+SR+H+L, data=TOR, importance=TRUE |
221 |
Рис. 6.14. Дерево rpart для распознавания местоположения популяций красной полевки |
library(party) # Построение дерева на основе «условного вывода» |
rut.ctree <- ctree(sex ~ W+Lt+C+R+SR+H+L, data=TOR); plot(rut.rpart) ; text(rut.rpart) |
6.5. Деревья классификации с многомерным откликом |
Развитием идеи деревьев CART, прогнозирующих одномерный отклик, являются |
деревья многомерной классификации и регрессии (MRT – De’Ath, 2002). Они |
формируются в результате рекурсивной процедуры разделения на кластеры строк |
двухмерной таблицы Y, проходящей под управлением набора внешних количественных |
или категориальных независимых переменных X (например, факторов окружающей |
среды). "Листьями" полученного дерева являются группы объектов (в частности, точек |
чтобы |
взятия |
минимизировать различия между точками в многомерном пространстве в пределах |
каждой совокупности. |
скомпонованные |
геоботанических |
описаний), |
образом, |
таким |
Рассмотрим построение MRT на примере [П3] геоботанических описаний, |
полученных с n = 159 пробных площадок в дельте р. Волга (другие варианты обработки |
этого примера см. в разделах 4.5, 5.3, 5.5, 6.3). Каждая из площадок характеризуется |
высотой H над уровнем моря и 9-ю показателями ионного состава почвы. Процедура |
многомерной классификации состоит из последовательности шагов алгоритма, на каждом |
из которых синхронно выполняются следующие действия: (а) бинарное разделение |
объектов на группы, обусловленное значением одной из независимых переменных, и |
(б) кросс-проверка полученных результатов. |
На первом шаге процедуры рассматриваются все варианты разбиения исходной |
выборки на две части при разных опорных значениях факторов среды и выбирается такая |
комбинация, которая в наибольшей мере обеспечивает экологическую гомогенность |
формируемых групп. Искомым критерием, минимизирующим внутригрупповые различия, |
222 |
Subsets and Splits
No community queries yet
The top public SQL queries from the community will appear here once available.