text
stringlengths
0
1.95k
правила используется квадратическая функция, которая вычисляется на основе
внутригрупповых ковариационных матриц каждого класса:
Zk (x) = - 0.5 (x - mk)TCk-1(x - mk) – 0.5 ln|Ck| +lnP(ck),
где |Ck| - детерминант ковариационной матрицы, P(ck) – вероятность появления объектов
k-го класса. Экзаменуемый объект также относится к тому классу, которому соответствует
максимальное значение Zk.
Квадратичный дискриминантный анализ весьма эффективен, когда разделяющая
поверхность между классами имеет ярко выраженный нелинейный характер (например,
параболоид или эллипсоид в 3D-случае). Однако он сохраняет большинство недостатков
LDA: использует предположение о нормальности распределения и не работает, когда
матрицы ковариаций вырождены, например, при большом числе переменных. Другим
недостатком QDA является то, что уравнение разделяющей гиперповерхности выражено в
неявном виде и не может быть использовано для "объяснения".
Логистическая регрессия (LR) – наиболее общий подход к моделированию
значений отклика, заданного альтернативной шкалой (0/1). Сущность этого метода на
примере функции одной переменной рассматривалась нами ранее в разделе 3.6.
Если x – вектор предикторных значений, состоящий из p независимых переменных,
то вероятность P того, что отклик y примет значение 1, может быть описана моделью
где p(x) – линейная функция
p(x) º P(y = 1|x),
p x
b+b
0
...
b++
x
11
,
p
которая после оценки коэффициентов регрессии bi будет возвращать искомую
вероятность на интервале [0,1]. Для того, чтобы обеспечить робастность процедуры
подбора коэффициентов, модель переписывают как функцию логита
æ
çç
è
ö
b+b=÷÷
ø
v
)(
xp
v
xp
)(
-
...
b++
)(
xg
log
x
11
p x
=
1
,
p
0
231
которая линейна относительно предикторов xi. Однако, независимо от этого, результат
ˆ
ˆ
b+b
0
трансформируется обратно в вероятность p(x) между 0 и 1.
x
11
Неизвестные параметры модели (т.е. коэффициенты
,
bb
0