text
stringlengths
0
1.95k
g (x) = -0.00265 - 2.95PC5 + 4.67PC8,
доставляющее минимум критерию Акаике AIC = 1152. Подробности статистического
анализа и идентификации обобщенных линейных моделей см. в разделах 3.6, 4.1 и 4.6.
Метод опорных векторов или SVM (Support Vector Machine), называемый также
алгоритмом "обобщенного портрета", разработан в серии работ В.Н.Вапника (Вапник,
Червоненкис, 1974; Алгоритмы и программы…, 1984). Это метод, используемый как для
классификации, так и для регрессии, заключается в решении задачи минимизации
эмпирических кусочно-линейных функций штрафа. Опыт применения SVM для оценки
класса качества вод малых рек по макрозообентосу подробно описан нами в монографии
(Шитиков и др., 2005).
В простейшем случае линейной дискриминации точек двух классов в векторном
пространстве обучающей выборки находятся параметры wi и b уравнения разделяющей
поверхности
, которая максимально удалена от двух специально
)(
x
b
=
+
z
p
k
å =
i
1
xw
i
i
подобранных подмножеств опорных векторов – см. рис. 6.18. Опорные векторы являются
критическими элементами процесса обучения, а все остальные точки являются
"резервуаром" для оптимизации их числа. При отсутствии линейной разделяемости
решается задача квадратичного программирования, оптимизирующая соотношение между
шириной полосы разделения и суммой штрафов за исключение опорных векторов,
препятствующих правильному распознаванию.
wT
j )(
x
разделяющую поверхность
Если линейный классификатор показывает неудовлетворительные результаты, то
можно найти в расширенном пространстве
)(xj , полученном в результате нелинейного преобразования с использованием
признаков
полинома, радиальной базисной функции или сигмоида. Разумеется, в случае нелинейной
модели возникает дополнительная задача, как найти наилучшую функцию ядра
(например, наиболее подходящую степень полинома оптимальной разделяющей
поверхности).
b
-=
Использование линейной модели SVM позволяет вывести для каждой пары
исходных переменных двухмерную диаграмму (plot), показывающую положение следа
разделяющей гиперплоскости и ошибки распознавания. Рис. 6.19 иллюстрирует,
насколько непростая задача была поставлена перед алгоритмами классификации, чтобы
правильно распознать пол грызуна по форме нижней челюсти.
232
Рис. 6.18. Иллюстрация метода "обобщенного портрета". Опорные векторы определяют
Tw – вектор нормали, задающей уравнение
, расстояние от которой до произвольной точки равно r.
максимальную ширину разделяющей полосы.
разделяющей поверхности
xwT
b
-=
Экзаменуемая точка
ax имеет значение классификатора
относится к классу "треугольников". Другая точка
xf
(
)