Datasets:
Vikhrmodels
/
programming_books_rus

Dataset card Data Studio Files
xet
 Community
1
text
stringlengths
0
1.95k
0.44
0.432
Err-CV
0.473
0.473
0.473
0.432
С селекцией переменных
Err-CV
Err-S
0.452
0.453
0.452
0.433
0.452
0.466
0.454
0.434
К разделу 6.7:
load(file="GM.RData") # Используем данные, сохраненные в скрипте к разделу 6.6
Gr <- as.factor(GM[,1]) ; DS <- cbind(GM[c(1,15:17)],response_matrix) ; attach(DS)
# ------------- Дискриминантный анализ LDA и QDA
# Функция вывода результатов классифицирования
Out_CTab <- function (model, group, type="lda") {
# Таблица сопряженности "Факт/Прогноз" для модели по всей обучающей выборке
classified<-predict(model)$class ; t1 <- table(group,classified)
# Ошибка классифицирования и расстояние Махалонобиса
Err_S <- mean(group != classified) ; mahDist <- NA
if (type=="lda") { mahDist <- dist(model$means %*% model$scaling) }
# Таблица "Факт/Прогноз" и ошибка при тестировании модели по скользящему контролю
t2 <- table(group, update(model, CV=T)$class->LDA.cv)
Err_CV <- mean(group != LDA.cv) ; Err_S.MahD <-c(Err_S, mahDist)
Err_CV.N <-c(Err_CV, length(group)) ; cbind(t1, Err_S.MahD, t2, Err_CV.N)}
# --- Выполнение расчетов
lda.all <- lda(sex ~ ., DS); Out_CTab(lda.all, Gr)
qda.all <- qda(sex ~ ., DS) ; Out_CTab(qda.all, Gr, type="qda")
# Для селекции переменных используем функцию stepclass() пакета klaR
library(klaR) ; stepclass(sex ~ ., data=DS, start.vars = "PC5", method="lda")
lda.step <- lda(sex ~ PC5 + PC8, DS) ; Out_CTab(lda.step, Gr)
stepclass(sex ~ ., data=DS, method="qda")
qda.step <- qda(sex ~ PC4, DS) ; Out_CTab(qda.step, Gr, type="qda")
# ------------- Логистическая линейная регрессия с биномиальной связью
# Функция вывода результатов классифицирования
234
Out_LR <- function (model, group) {
mp <- predict(model, type="response") ; posterior <- data.frame(F=1-mp, M=mp)
classified <- colnames(posterior)[apply(posterior,1,which.max)]
CTab <- table(Факт=group, Прогноз=classified) ; Err_S <- mean(group!= classified)
return(list(CTab=CTab, Err_S=Err_S))}
summary(glm(sex ~ ., DS, family=binomial) -> lr.all) ; Out_LR(lr.all, Gr)
library(boot) # Для оценки ошибки кросс-проверки используем функцию cv.glm()
cost <- function(r, pi = 0) mean(abs(r-pi) > 0.5)
(Err_CV <- cv.glm(DS, lr.all, cost)$delta)
# Для селекции переменных используем функцию step ()
lr.step <- step(lr.all) ; Out_LR(lr.step, Gr) ; cv.glm(DS, lr.step, cost)$delta
# ------------- Метод опорных векторов SVM
# Функция вычисления ошибки кросс-проверки
CVsvm <- function(x, y) {
n <- nrow(x) ; Err_S <- 0 ; for(i in 1:n)
{svm.temp <- svm(x=x[-1,], y = y[-1], kernel = "linear")
if (predict(svm.temp, newdata=x[i,]) != y[i]) Err_S <- Err_S +1 } ; Err_S/n }
svm.all <- svm(formula = sex ~ ., data = DS, kernel = "linear") ; CVsvm(DS[,2:12],Gr)
# А здесь кросс-проверка (cross=10) используется только для подбора параметров модели
svm.cv <- svm(formula = sex ~ ., data = DS, cross=10, kernel = "linear")
table(Факт=Gr, Прогноз=predict(svm.cv)) ; mean(predict(svm.cv) != Gr )
stepclass(sex ~ ., data=DS, method="svmlight") # Для селекции используем другую версию SVM
svm.fit <- svm(formula = sex ~ F1+PC5+PC8, data = DS, kernel = "linear")
table(Факт=Gr, Прогноз=predict(svm.fit))
mean( predict(svm.fit) != Gr ) ; CVsvm(DS[,c(2,9,12)],Gr)
6.8. Метод k ближайших соседей и использование нейронных сетей
В общем случае описанные выше методы могут быть использованы для построения