Datasets:
Vikhrmodels
/
programming_books_rus

Dataset card Data Studio Files
xet
 Community
1
text
stringlengths
0
1.95k
дистанцией и евклидовым расстоянием для двух методов кластеризации – ближайшего соседа (а)
и средней связи (б)
(
+ a-a
2. Как оценить количество классов наилучшего разбиения и выбрать оптимальный
уровень "обрезки" дерева? Визуально рекомендуется для этого использовать различные
диаграммы типа "каменной осыпи" (рис. 5.10а), изменения ширины "силуэта" или график
зависимости
от числа кластеров, где ai – последовательность уровней
слияния групп, a – среднее по первым i использованным уровням,
as – стандартное
отклонение. Другой возможный путь состоит в том, чтобы выбрать несколько
подходящих разбиений, сформировать для каждой пары возможных альтернатив таблицу
сопряженности и рассчитать меру связи частот совпадающих группировок (например, на
основе статистики c2 – см. раздел 3.2).
/)
s
a
1
i
Д. Боркард с соавторами (Borcard et al., 2011) предлагают использовать для оценки
числа классов бинарную таблицу разбиений (или матрицу принадлежности объектов к
группам – matrices group membership). Она представляет собой матрицу дистанций,
элементы bij которой равны 1, если объекты i и j принадлежат к разным поддеревьям, и 0 в
противном случае. Для выбора уровня отсечки используется следующий алгоритм:
°
рассматриваются все возможные варианты "распила" дерева и для каждого из них
формируются бинарные матрицы разбиений Bi;
рассчитываются статистики Мантеля Ri , полученные как произведения Bi и исходной
матрицы дистанций D;
оптимальным считается уровень агрегирования, доставляющий максимум Ri. (см. рис.
5.10б).
°
°
181
а)
б)
Рис. 5.10. Диаграммы для оценки оптимального уровня обрезки дерева иерархии:
(а) типа "каменной осыпи" и (б) "силуэт" статистики Мантеля
3. Насколько достоверно топология дерева отображает предупорядоченность
исходных объектов? Какие фрагменты древовидной структуры являются "слабым звеном"
в полученной классификационной конструкции?
Естественный способ проверить эти гипотезы состоит в том,
чтобы взять
повторные выборки, построить для каждой повторности свое дерево и вычислить частоту
встречаемости каждого фрагмента в сформированной последовательности (Felsenstein,
1985). Разумеется, здесь невозможно обойтись без бутстрепа: на рис. 5.11 показано, как
вычисляется бутстреп-вероятность BP встречаемости произвольного узла В-С. Обычно
фрагменты древовидной структуры считаются достоверными, если с ветвями
бутстрепного дерева связывается вероятность, превышающая 70-80% .
Рис. 5.11. Схема вычисления бутстреп-вероятностей фрагментов дерева классификаций
Х. Шимодара (Shimodaira, 2002), сравнивая центры распределения исходной и
бутстреп-выборок, показал, что величина BP является приближенной оценкой
вероятности появления узла в дереве. Несмещенную оценку AU (approximately unbiased)
можно получить, выполнив повторную серию бутстрепа в различных масштабах
(multiscale bootstrap resampling). Для этого отдельно вычисляют BP-значения, формируя
182
бутстреп-выборки разного объема: например, 0.5n, 0.6n, …, 1.4n, 1.5n, где n – объем
исходной выборки. Несмещенная бутстреп-вероятность AU находится аппроксимацией
ряда полученных значений
Наилучшие оценки AU для каждого кластера
дендрограммы, найденные путем подбора параметрических моделей с использованием
метода максимального правдоподобия, могут быть получены с использованием пакетов
pvclust и scaleboot статистической среды R.
BP.
Дерево классификации, на которое нанесены значения AU/BP для метки каждого
узла, показано на рис. 5.12.
Рис. 5.12. Дерево классификации станций р. Сок-Байтуган, полученное методом средней связи по
матрице нормированных евклидовых дистанций с нанесенными оценками бутстреп-вероятностей
ветвей; рамками отмечены ветви с доверительной вероятностью > 95%
К разделу 5.4: