Datasets:
Vikhrmodels
/
programming_books_rus

Dataset card Data Studio Files
xet
 Community
1
text
stringlengths
0
1.95k
2.25
1.38
0.88
Sulfat
0.53
Рис. 4.6. Вид нелинейных сглаживающих функций s(…) зависимости биомассы растительности от
высоты пробной площадки H и содержания ионов Na в почве
Другой простой способ провести тест на функциональную форму – это добавить в
правую часть уравнения (4.2) различные нелинейные члены и проверить, как изменится
при этом принятый критерий качества. Очень часто бывает, что недоопределенность
линейной модели при этом статистически значимо уменьшается. Для расширения
признакового пространства за счет нелинейных преобразований исходных переменных
необходимо определить конечное множество порождающих функций (Стрижов, Крымова,
2010).
147
lnX,
Для каждой из 7 исходных переменных, определяющих ионный состав почвы в
примере
[П3], выполним формирование новых векторов с использованием 6
X , 1/X , X2,
и e1/X. Включив векторы с
порождающих функций:
трансформированными данными в исходную таблицу, получим матрицу 50´159, один
столбец которой содержит зависимую переменную – биомассу травянистого покрова.
Требуется найти модель оптимальной структуры, которая доставляет минимальное
значение функционалу качества L(b, x, Se, q) и состоит из небольшого подмножества
наиболее информативных членов. Не лишним будет отметить, что общее число
возможных вариантов моделей равно (249 - 1) = 5.63×1014 и это дало повод отказаться от
расчета функциям среды R, реализующим генетический алгоритм и регрессию Лассо.
eX,
Алгоритм СПА (Лбов, 1981; Загоруйко, 1999) выполняет адаптивный случайный
поиск наиболее информативного подмножества переменных. При этом производится
"поощрение" и "наказание" отдельных предикторов в зависимости от результатов
построения набора моделей на различных опорных подмножествах признаков. Процесс
стартует с присвоения элементам вектора W весов {w1, w2, …, wm} равных значений
wi = 1/m, т.е. все признаки с равной вероятностью могут претендовать для отбора в модель.
Далее выполняется следующая последовательность действий:
°
проводится T (T » 100) серий испытаний с построением моделей различной
сложности {1, 2, …, q}, m ³ q;
°
в каждой серии формируется по N (N » 100) наборов переменных, причем отбор
признаков осуществляется случайно, но с учетом весов вероятностей wi ; по этим наборам
осуществляется построение регрессионных моделей, после чего выделяется наилучшая и
наихудшая модели из N в соответствии с заданным критерием качества L(b, x, Se, q);
°
°
после завершения серии веса wi пересчитываются: для всех признаков, попавших в
"хорошую" модель выполняется "поощрение" wi = wi + Dwp, а для признаков "плохой"
модели – "наказание" wi = wi - Dwh ; при этом соблюдается условие нормировки
1=å i
w
предъявляется модель, показавшая лучшие результаты во всех сериях испытаний.
На данных рассматриваемого примера алгоритм СПА показал хорошую скорость
сходимости, однако при использовании информационного критерия Акаике он так и не
смог преодолеть обширного локального минимума функционала в районе AIC = 1733. Тем
не менее, был сформирован набор вполне интерпретируемых и лаконичных моделей,
имеющих лучшие характеристики, чем любая линейная модель 1-го порядка, например:
Y = 1527 + {183H2 – 1848 ln(H) - 30.2eH - 1463/H} + 142(Carb)0.5 - 23.8(Na)0.5 - 30.4/Sulfat.
Статистические характеристики модели приведены в табл. 4.5.
;
На этом фоне стандартный алгоритм "включений с исключениями" дал несколько
обескураживающие результаты: максимум приведенного коэффициента детерминации R2
(см. табл. 4.5) был получен для модели, включающей 31 переменную(!) из 49, что делает
ее мало пригодной для какой-либо содержательной интерпретации. Эта неудача
неизбежно приводит к мысли, что R2, AIC-критерий или любая другая внутренняя
статистика, основанная на стандартных отклонениях для остатков, не всегда являются
эффективным инструментом поиска субоптимальных моделей в сложных случаях.
К значительно более позитивным результатам привело использование метода
“Forward selection” (Miller, 1990), основанного на внешних критериях, получаемых
процедурой кросс-проверки. Алгоритм селекции моделей осуществляет перебор всех
уровней сложности моделей {1, 2, …, q} и для каждого уровня ищется модель,
оптимальная с точки зрения критериев sCV, dCV или R2
CV. Лучшей принимается модель при
той размерности переменных, которая доставляет максимум принятому внешнему
критерию – см. рис. 4.7.
148