text stringlengths 0 1.95k |
|---|
mantel(D_spec, D_env) # «Обилие видов» ~ «Факторы среды» |
mantel(D_spec, D_geo) # «Обилие видов» ~ «Пространственное расположение» |
mantel(D_env, D_geo) # «Факторы среды» ~ «Пространственное расположение» |
mantel.partial(D_spec, D_env, D_geo) # Связи одновременно всх трех матриц |
5.4. Иерархический кластерный анализ и бутстрепинг деревьев |
Простота и наглядность графического восприятия делают построение деревьев |
классификации популярным механизмом анализа и визуализации данных. В экологии – |
это прекрасный способ абстрагироваться от континуальной сущности объектов и найти |
характерные разрывы в их непрерывности, а в биоинформатике и филогении, в основе |
которых лежит поиск типологии дискретных структур, анализ деревьев иерархии является |
ключевым методом исследований (Дюран, Оделл, 1980; Классификация…, 1980). |
Кластерный анализ – нетипичный статистический метод, поскольку в нем нет |
проверки каких-либо гипотез. Любой алгоритм кластеризации может считаться |
результативным, если при использовании метрики дистанций d(х, у) можно найти такое |
разбиение объектов на группы, что расстояния между объектами из одной группы в целом |
будут меньше e, а между объектами из разных групп больше e, где e > 0 – задаваемый |
уровень сходства. И только пользователь может оценить качество построенных деревьев; |
он же и решает, являются ли эти структуры интересными и заслуживающими предметной |
интерпретации. Поскольку здесь на первый план неизбежно выдвигаются субъективные |
обстоятельства, то для реализации кластерного анализа используются самые различные |
математические методы. Важно, чтобы они обеспечили два наиболее важных критерия |
качества классифицирования: компактность групп и их разделяемость. |
Наиболее популярны последовательные иерархические алгоритмы, которые |
отталкиваются от матрицы парных расстояний между "листьями" и строят дерево, |
основываясь на несложных правилах агрегирования (найти ближайшего соседа, дальнего |
соседа или наилучшую среднюю связь). Неиерархические итерационные процедуры, |
такие как метод k-средних, пытаются найти наилучшее разбиение, ориентируясь на некий |
критерий оптимизации "близости", не строя при этом полного дерева. Если удается задать |
179 |
некоторую вероятностную модель процесса, то можно построить дерево, наилучшим |
образом воспроизводящее модель разбиения, с использованием, например, метода |
максимального правдоподобия. Другим современным подходом к кластеризации объектов |
являются алгоритмы типа нечетких с-средних и Гюстафсона-Кесселя, которые ищут |
кластеры в пространстве нечетких множеств в форме эллипсоидов, что делает их более |
гибкими при решении различных задач. |
В условиях многообразия формул для метрик дистанций и методов кластеризации |
возникают естественные вопросы: какие алгоритмы следует предпочесть в конкретных |
условиях обработки данных и как оценить устойчивость и достоверность полученного |
решения. Здесь обычно ссылаются на эмпирическое правило – устойчивая типология |
сохраняется при изменении методов кластеризации. Таким образом, в достаточной мере |
оценить адекватность решения часто невозможно, не прибегая к помощи альтернативных |
методов. Хотя в теоретическом плане эта проблема не решена, рассмотрим раличные |
приемы анализа результатов кластеризации. |
Вернемся в качестве примера к анализу сходства и своеобразия 13 станций |
наблюдения на р. Сок и его притоке р. Байтуган по данным гидробиологической съемки |
[П2]. Ограничимся списком из 129 наиболее представительных видов макрозообентоса и |
подсчитаем число проб, в которых встретился каждый вид. Выполним нормирование от 0 |
до 1 исходной матрицы частот и в качестве метрики дистанций рассчитаем евклидово |
расстояние между каждой парой станций наблюдений в многомерном пространстве видов. |
Осуществим кластерный анализ с использованием различных алгоритмов и рассмотрим |
основные задачи, стоящие при оценке полученных результатов, и приемы их решения. |
1. Какая из классификаций в наибольшей степени отражает близость объектов в |
этого могут быть использованы |
исходном признаковом пространстве? Для |
кофенетическая корреляция (cophenetic correlation) или различные ранговые индексы. |
Кофенетическая дистанция между двумя объектами, легко считываемая с |
полученной дендрограммы, – это уровень внутригрупповых различий, при котором |
объекты были впервые объединены в один кластер. Кофенетическая корреляция |
вычисляется как |
(или ранговый |
коэффициент Спирмена) между всеми расстояниями, полученными по дереву иерархии, и |
элементами исходной матрицей дистанций. |
линейный коэффициент корреляции Пирсона |
Рассчитаем коэффициенты кофенетической корреляции r для четырех версий |
иерархической классификации представленного примера по алгоритмам "ближайшего |
соседа" (r = 0.611), "дальнего соседа" (r = 0.781), средней связи (r = 0.796) и методом |
минимальной дисперсии Варда (r = 0.762). Корреляционные зависимости удобно |
рассматривать в виде диаграммы Шепарда (см. рис. 5.9), на которой легко усмотреть |
отличия между различными вариантами кластеризации. Достоверность кофенетической |
корреляции легко оценить с использованием стандартного рандомизационного теста (см. |
раздел 2.2) или функции mantel.randtest(…), реализующей пермутацию в рамках теста |
Мантеля (см. раздел 5.4). Коэффициенты r для всех выполненных версий классификации |
оказались статистически значимыми при a = 0.001. |
С использованием кофенетической корреляции нельзя сравнить два разбиения, |
если одно из них получено неиерархическим методом. Для такого сравнения используют |
таблицу сопряженности кластеров, оценивающую частоты совпадений при отнесении |
исходных объектов к группам. Например, можно установить, что уровень совпадения |
разбиений с использованием алгоритма средней связи (рис. 5.9б) и метода k-средних |
после выделения 4-х кластеров составляет для нашего примера 92.3%. Поскольку метки |
классов сравниваемых разбиений могут быть перепутаны, то предварительно выполняется |
оптимизационная процедура перестановки строк и столбцов таблицы сопряженности, |
обеспечивающая максимум суммы элементов по главной диагонали. |
180 |
Рис. 5.9. Диаграмма Шепарда для оценки формы корреляции (r) между кофенетической |
Subsets and Splits
No community queries yet
The top public SQL queries from the community will appear here once available.