Datasets:
Vikhrmodels
/
programming_books_rus

Dataset card Data Studio Files
xet
 Community
1
text
stringlengths
0
1.95k
11
4
0
8
0.3
Err-CV
10
15
4
19
15
–
К разделу 6.8:
VIP <-read.delim("Змеи.txt"); attach(VIP)
library(klaR) # -------- Дискриминантный анализ
lda.all <- lda(Region ~ ., VIP); Out_CTab(lda.all, VIP$Region) # Функцию См. Раздел 7.8
stepclass(Region ~ ., data=VIP, method="lda")
lda.step <- lda(Region ~ S.cd.+ ПА + L.АМО + Col, VIP) ; Out_CTab(lda.step, VIP$Region)
# Функция визуализации биплота с разделяющими границами
predplot <- function(object, x, main = "", len = 200, ...) {
xp <- seq(min(x[,1]), max(x[,1]), length=len)
yp <- seq(min(x[,2]), max(x[,2]), length=len)
grid <- expand.grid(xp, yp) ; colnames(grid) <- colnames(x)[-3]
Z <- predict(object, grid, ...) ; zp <- as.numeric(Z$class)
zp <- Z$post[,3] - pmax(Z$post[,2], Z$post[,1])
plot(x[,1], x[,2], col = x[,3], pch = x[,3], main = main)
contour(xp, yp, matrix(zp, len), add = T, levels = 0, drawlabels = FALSE)
zp <- Z$post[,1] - pmax(Z$post[,2], Z$post[,3])
contour(xp, yp, matrix(zp, len), add = T, levels = 0, drawlabels = FALSE) }
# Вывод диаграмм на рис. 6.20
lda.2 <- lda(Region ~ S.cd.+ L.АМО, VIP) ; qda.2 <- qda(Region ~ S.cd.+ L.АМО, VIP)
X2 <- data.frame(VIP[,c(4,14)], as.numeric(VIP$Region))
predplot (lda.2, X2) ;predplot (qda.2, X2)
239
library(e1071) # -------- Метод опорных векторов SVM
svm.cv <- svm(formula = Region ~ ., data = VIP, cross=10, kernel = "linear")
table(Факт=VIP$Region, Прогноз=predict(svm.cv)) ; mean(predict(svm.cv) != VIP$Region )
n <- nrow(VIP) ; Err_S <- 0 ; for(i in 1:n) # Выполнение кросс-проверки
{svm.temp <- svm(formula = Region ~ ., data = VIP[-1,], cross=10, kernel = "linear")
if (predict(svm.temp, newdata=VIP[i,]) != VIP$Region[i]) Err_S <- Err_S +1 } ; Err_S/n }
library(kknn) # -------- Метод к-ближайших соседей kNN
gen.err.kknn <- numeric(50) ; mycv.err.kknn <- numeric(50) ; n <- nrow(VIP)
for (k.val in 1:50) { # Рассматриваем число возможных соседей от 1 до 50
pred.kknn <- kknn(Region ~ ., VIP,train=VIP,test=VIP,k=k.val,kernel="rectangular")
gen.err.kknn[k.val] <- mean(pred.kknn$fit != VIP$Region)
for (i in 1:n) {
pred.kknn <- kknn(Region ~ ., train=VIP[-i,],test=VIP[i,], k=k.val,kernel="rectangular")
mycv.err.kknn[k.val] <- mycv.err.kknn[k.val] + (pred.kknn$fit != VIP$Region[i]) }
} ; mycv.err.kknn <- mycv.err.kknn/n
plot(c(1:50),gen.err.kknn,type="l",xlab='k',
ylab='Ошибка классификации',ylim=c(0,0.30),col="limegreen", lwd=2)
points(c(1:50),mycv.err.kknn,type="l",col="red", lwd=2)
# Аналогичный результат получаем при использовании функции train.kknn(…)
train.kknn(Region ~ ., VIP, kmax = 50, kernel="rectangular")
library(nnet) # ------- Нейронные сети
R <- VIP$Region ; VIP.scale <- scale(VIP[,3:15]) ; nreps<-10 ; gen.err.nnet <- numeric(10)
# подбираем число нейронов s скрытого слоя, каждый раз выполняя по 10 повторностей
for (s in 1:10) { for (k in 1:nreps) {
vip.nnet <- nnet(R ~ ., data = VIP.scale, size=s, trace=F) ; vip.p<-predict(vip.nnet)
gen.err.nnet[s] <- gen.err.nnet[s]+100*sum(as.numeric(R)!=max.col(vip.p))/length(R)
} } ; (gen.err.nnet <- gen.err.nnet/nreps)
6.9. Самоорганизующиеся карты Кохонена
Отображение структуры данных может быть реализовано с использованием
нейронных сетей особого типа – так называемых самоорганизующиеся структур.
Формируемые при этом самоорганизующиеся карты (SOM – Self Organizing Maps) стали
мощным аналитическим инструментом, объединяющим в себе две основные парадигмы
анализа – кластеризацию и проецирование, т.е. визуализацию многомерных данных на
плоскости.
В сетях SOM (см. рис. 6.24) на входы двухмерной решетки нейронов N подается
многомерный образ данных S, состоящий из векторов выборки наблюдений. С каждым
узлом (нейроном) решетки, которая может иметь прямоугольную или гексагональную
форму, ассоциируются базисные векторы mi = (m1i, m2i, …, m1n), определяющие
потенциальные центры кластеров. Т. Кохонен (Kohonen, 1982) предложил модификацию
алгоритма Хебба соревновательного обучения "без учителя", в результате чего
пропорциональный вклад стали получать не только нейроны-победители, но и ближайшие
их соседи, расположенные в окрестности R. Вследствие этого выходные сигналы
нейронов стали коррелировать с положением прототипов в многомерном пространстве
входов сети, т.е. близким нейронам стали соответствовать близкие значения входов S.
"Проекционный экран", на который выводятся результаты обучения SOM, имеет
вид упорядоченной структуры, свойства которой плавно меняются на двумерной сетке
координат, образуя как бы краткое резюме исходных данных. Степень регулярности
топографии сети и метрически близких векторов исходных данных определено здесь на
нескольких уровнях.
°
сохранение топологии (на рис. 6. экстремальные точки 1, 5, 21, 25 поместились в
углах экрана, а сгущение в центре многомерного облака распределилось по центральным
ячейкам);
°
сохранение порядка расстояний между парами точек данных и соответствующими