Datasets:
Vikhrmodels
/
programming_books_rus

Dataset card Data Studio Files
xet
 Community
1
text
stringlengths
0
1.95k
# Алгоритмы оценки результатов кластерного анализа
library(xlsReadWrite) # Загрузка данных из файла Excel
A <- read.xls("Сок1.xls", sheet = 1, rowNames=TRUE)
library(ade4); library (vegan) ; library (cluster)
# Расчет матрицы нормированных евклидовых расстояний
A[is.na(A)] <- 0 ; A.norm <- decostand(t(A), "normalize"); spe.ch <- vegdist(A.norm, "euc")
# Построение деревьев иерархии различными методами
# Метод одиночной связи, или метод «ближайшего соседа» (Single linkage)
spe.ch.single <- hclust(spe.ch, method="single") ; plot(spe.ch.single)
# Метод полных связей, или метод «дальнего соседа» (Complete linkage).
spe.ch.complete <- hclust(spe.ch, method="complete") ; plot(spe.ch.complete)
# Метод невзвешенного попарного среднего (UPGMA -Unweighed pair-group average)
spe.ch.UPGMA <- hclust(spe.ch, method="average") ; plot(spe.ch.UPGMA)
# Невзвешенный центроидный метод ( Unweighed pair-group centroid).
spe.ch.centroid <- hclust(spe.ch, method="centroid") ; plot(spe.ch.centroid)
# Метод Варда минимальной дисперсии кластеризации(Ward's method).
spe.ch.ward <- hclust(spe.ch, method="ward");
spe.ch.ward$height <- sqrt(spe.ch.ward$height); plot(spe.ch.ward)
# Cophenetic correlation - кофенетическая корреляция
spe.ch.single.coph <- cophenetic(spe.ch.single)
mantel.rtest(spe.ch, spe.ch.single.coph,nrepet = 999)
spe.ch.comp.coph <- cophenetic(spe.ch.complete)
183
mantel.rtest(spe.ch, spe.ch.comp.coph,nrepet = 999)
spe.ch.UPGMA.coph <- cophenetic(spe.ch.UPGMA)
mantel.rtest(spe.ch, spe.ch.UPGMA.coph,nrepet = 999)
spe.ch.ward.coph <- cophenetic(spe.ch.ward)
mantel.rtest(spe.ch, spe.ch.ward.coph,nrepet = 999)
# Вывод диаграммы Шепарда
plot(spe.ch, spe.ch.single.coph, xlab="Евклидово расстояние",
ylab="Кофенетическая дистанция", asp=1, xlim=c(0,sqrt(2)), ylim=c(0,sqrt(2)),
main=c("Метод ближайшего соседа",paste("Ро = ", round(cor(spe.ch, spe.ch.single.coph),3))))
abline(0,1);lines(lowess(spe.ch, spe.ch.single.coph), col="red")
# Формирование таблицы сопряженности для разных уровней обрезки дерева
g24 <- cutree(spe.ch.UPGMA, k = 1:5) ; table(grp2=g24[,"2"], grp4=g24[,"4"])
# Построение разбиения методом k-средних
spe.ch.kmeans <- kmeans(spe.ch, 4, nstart = 5 ) ; spe.ch.kmeans$cluster
plot(spe.ch, col = spe.ch.kmeans$cluster) ; points(spe.ch.kmeans$centers, col = 1:5, pch = 8)
# Формирование таблицы сопряженности для сравнения разбиений
# методом средней связи и k-средних
cont.table <- table(spe.ch.kmeans$cluster,as.vector(cutree(spe.ch.UPGMA, k = 4))) ;
print(cont.table)
## Нахождение оптимального соотношения частот двух классификаций
# (т.е. достигнут максимум диагональных элементов)
library(e1071) ; class.match <- matchClasses(as.matrix(cont.table),method="exact")
print(cont.table[,class.match])
# Вывод диаграммы уровней объединения типа "каменной осыпи"
plot(spe.ch.UPGMA$height, ncol(A):2, type="S",
ylab="k (число классов)", xlab="h (уровень объединения)", col="grey11")
text(spe.ch.UPGMA$height, ncol(A):2, ncol(A):2, col="red", cex=0.8)
# Оптимальное число кластеров, вычисляемое с использованием статистики Мантеля
# Функция вычисления бинарной матрицы распределения объектов по группам
grpdist <- function(X) {
gr <- as.data.frame(as.factor(X)) ; distgr <- daisy(gr, "gower") ; distgr }
grpdist(cutree(spe.ch.UPGMA, 4))
# Вычисления, основанные на классификации по алгоритму средней связи
kt <- data.frame(k=1:ncol(A), r=0)
for (i in 2:(ncol(A)-1)) { gr <- cutree(spe.ch.UPGMA, i); distgr <- grpdist(gr)
mt <- cor(spe.ch, distgr, method="pearson") ; kt[i,2] <- mt }
kt ; k.best <- which.max(kt$r)
# Диаграмма оптимального числа кластеров с использовнием статистики Мантеля
plot(kt$k, kt$r, type="h", xlab="k (число групп)", ylab="Корреляция Пирсона")
axis(1, k.best, paste("Mаксимум", k.best, sep="\n"), col="red", font=2, col.axis="red")
points(k.best, max(kt$r), pch=16, col="red", cex=1.5)
# График "Силуэт" для окончательного разбиения на кластеры
cutg <- cutree(spe.ch.UPGMA, k=4) ; sil <- silhouette(cutg, spe.ch)
silo <- sortSilhouette(sil) ; rownames(silo) <- col.names(A)[attr(silo,"iOrd")]
plot(silo, cex.names=0.8, col=cutg+1, nmax.lab=100)
#------------------------- Бутстрепинг деревьев
# Бутстреп деревьев и расчет смещенных и несмещенных вероятностей для узлов деревьев
library(pvclust)
cluster.bootstrap <- pvclust(t(A.norm), nboot=1000, method.dist="euclidean")
summary(cluster.bootstrap) ; plot(cluster.bootstrap) ; pvrect(cluster.bootstrap)
# Подбор параметрических моделей AU-вероятностей на основе максимума правдоподобия
library(scaleboot) ; fm <- sbfit(cluster.bootstrap) ; summary(fm) ; plot(fm,legend="topleft")
5.5. Алгоритмы оценки оптимальности разбиения на классы
Общепринятая методика оценки качества найденного разбиения на классы
основана на интерпретируемости и повторяемости. Если одна и та же закономерность
проявляется при использовании различных вариантов или методов классификации,
отличаясь лишь в некоторых деталях, то аналитик приходит к мнению, что основная
тенденция изменчивости структуры экосистемы найдена. Строгость и стройность этому
184
субъективному подходу могут придать количественные методы оценки надежности и
статистической значимости найденных группировок.
Использование иерархических методов кластеризации матриц, содержащих
большое (n > 100) число объектов, не всегда оправдано, т.к. визуальный анализ обширных
деревьев становится затруднительным. В этом случае становится предпочтительным
обратиться к математически более представительным неиерархическим алгоритмам,