Datasets:
Vikhrmodels
/
programming_books_rus

Dataset card Data Studio Files
xet
 Community
1
text
stringlengths
0
1.95k
В дополнение к этим этапам иногда вводят стадию валидации (validation), цель
которой – проверка достоверности найденных закономерностей. В дальнейшем мы будем
считать валидацию частью второй стадии, поскольку диагностические правила в отрыве
от процедур их тщательного тестирования вряд ли достойны отдельного упоминания.
Метод
которым
проводят
(алгоритм),
классификацию,
называют
классификатором. Классификатор переводит вектор признаков объекта x в целое число g
= {1, 2, …, k}, соответствующее номеру группы, к которой относится каждый объект. Эта
процедура иногда интерпретируется как частный случай общей схемы регрессионного
анализа, когда зависимая переменная принимает специальные значения, а в критериях
качества модели вместо суммы квадратов остаточных разностей фигурирует функция
потерь от неправильной классификации. Хотя к настоящему времени придумано уже
наиболее удобной и
несколько десятков конкретных дефиниций функции потерь,
естественной является E(r) = F/(T + F) , т.е. доля ошибок распознавания F при T
правильных ответов. При классификации важно понимать, ошибку какого рода важнее
минимизировать, поэтому часто вводят систему штрафов, взвешивающих относительную
важность отдельных исходов. Например, в юриспруденции, руководствуясь презумпцией
невиновности, необходимо минимизировать ошибку 1-го рода – вероятность ложного
обвинения. В медицине, при гипотезе "болен", необходимо минимизировать ошибку 2-го
рода – вероятность не распознать болезнь.
Стандартной эмпирической методикой тестирования и сравнения алгоритмов
классификации, регрессии и прогнозирования является скользящий контроль (или кросс-
проверка – cross-validation, CV), описанный в разделе 3.4. При этом исходная выборка
многократно случайным образом разбивается на q блоков равной длины, после чего
каждый блок по очереди становится контрольной выборкой, а объединение всех
остальных блоков – обучающей последовательностью. Частным случаем полного
скользящего контроля является кросс-проверка с исключением одного объекта (leave-one-
out CV), т.е. q = n. При этом строится n моделей распознавания по (n - 1) выборочным
значениям, а исключенная реализация каждый раз используется для расчета ошибки
скользящего контроля, т.е. алгоритм во многом напоминает процедуру "складного ножа"
jackknife.
198
n
1
=å=
n
i
1
Ошибкой скользящего контроля
XrCV
,(
n
)
(
XrE
k
,
kn
-
k
)
при использовании
решающего правила r на исходной выборке Xn называется средняя по всем k разбиениям
величина ошибки E(r) на контрольных подвыборках. Если выборка независима, то
ошибка скользящего контроля даёт несмещённую и эффективную (Вапник, Червоненкис,
1974) оценку вероятности потерь. Это выгодно отличает её от средней ошибки на
обучающей выборке, которая почти всегда оказывается смещённой (оптимистически
заниженной), что связано с явлением переобучения. Следует, однако, отметить, что
скользящий контроль дает точечную оценку вероятности ошибочной классификации. В
настоящее время не существует методов построения на этой основе точных
доверительных интервалов для риска, то есть математического ожидания потерь. Иными
словами, скользящий контроль эффективно оценивает качество метода распознавания по
сравнению с другими аналогичными алгоритмами, но не в состоянии учесть, насколько
плоха может оказаться обучающая выборка в конкретном единичном случае.
Разработанные к настоящему времени многочисленные методы машинного
распознавания основываются на разнообразных математических платформах поиска
наилучшего решения. Статистические методы распознавания используют принцип
максимума апостериорной вероятности (оптимальный байесовский классификатор) или
алгоритмы восстановления функций плотности распределения вероятности по
эмпирической выборке. Линейный или квадратичный дискриминантный анализ Фишера
основывается на вычислении собственных значений ковариационных матриц и