text stringlengths 128 2.05k |
|---|
11.2 . Наконец, детерминированный полный перебор генотипов всегда за конечное время находит лучший генотип, а значит, является сходящимся методом (как детерминированный алгоритм). |
Из последнего замечания вытекает необходимость более детального исследования скорости сходимости ЭА к оптимуму или времени первого достижения оптимума с учетом других свойств задачи, например, как в следствии 8.1 |
12 Алгоритмы генетического программирования Алгоритмы генетического программирования (ГП) были предложены Н.Л.Крамером и развиты далее в работах Дж. Козы |
и других авторов. Идея ГП заключается в том, что в отличие от ГА, здесь все операции производятся не над строками, а над деревьями. При этом используются операторы, аналогичные селекции, скрещиванию и мутации ГА. С помощью деревьев предлагается кодировать программы для ЭВМ и математические формулы - таким образом можно... |
Можно считать, что в ГП фенотипом является программа, представленная как дерево с терминальными (листья дерева) и функциональными элементами (все прочие вершины). Терминальные элементы соответствуют константам, действиям и функциям без аргументов, а функциональные - функциям, использующим аргументы. |
Например рассмотрим функцию x*3/5-1. Терминальные элементы здесь: [MATH] , функциональные: [MATH] Схема ГП аналогична схеме ГА, однако операторы скрещивания и мутации имеют отличия. |
В операторе скрещивания выбираются случайные поддеревья родительских генотипов и происходит обмен. При построении начальной популяции и в операторах воспроизведения уделяется внимание глубине, ширине и структуре формируемых деревьев |
Например для предотвращения чрезмерного разрастания дерева в высоту вводится ограничение на максимальное количество функциональных элементов в дереве или максимальную его глубину. Если при скрещивании двух деревьев один из потомков не удовлетворяет такому ограничению, вместо него копируется родительское дерево. |
При действии оператора мутации случайно удаляется часть дерева и вместо нее генерируется новое поддерево случайным образом. В некоторых случаях мутация сводится к случайному изменению терминальных элементов (тогда для каждого типа элементов должно быть задано распределение вероятностей, определяющее случайные изменения... |
ГП может рассматриваться как частный случай ГА с изменяющейся длиной кодировки и специфическими операторами кроссинговера и мутации, поэтому для них можно применять теорему о сходимости и доказывать аналоги теоремы о схемах. |
Алгоритмы ГП используются для решения задач построения нелинейных моделей (математических выражений, функций, алгоритмов, программ) на основе заданных экспериментальных данных, множества переменных, базовых функций и операций (например для предсказания уровня воды в водохранилище). Также алгоритмы ГП применяются в синт... |
12.1 Кроссинговер в генетическом программировании Работоспособность алгоритма ГП существенно зависит от выбора оператора кроссинговера, где родительские решения (деревья) обмениваются своими признаками. Наиболее распространенными вариантами оператора кроссинговера являются одноточечный кроссинговер |
и равномерный кроссинговер При одноточечном кроссинговере в родительских решениях выбираются узлы и осуществляется обмен поддеревьями с корневыми вершинами в выбранных узлах. Равномерный кроссинговер характеризуется тем, что значение каждого из узлов потомка наследуется из соответствующих значений в родительских деревь... |
Известны различные вариации указанных операторов кроссинговера, где учитываются координаты и значения вершин поддеревьев, их размеры и другие свойства (см., например, |
). 13 Алгоритм поиска с запретами (tabu search) Алгоритм поиска с запретами предложен Ф. Гловером (F.Glover) в 1986г. (см. ). В классическом алгоритме локального поиска всякий раз выбирается лучшая точка в окрестности, или точка, имеющая значение целевой функции не хуже, чем текущая. Если текущая точка является локальн... |
[MATH] из последних [MATH] решений: [MATH] . Множество запрещенных решений при текущем решении [MATH] и списке [MATH] будем обозначать через [MATH] |
Как показывает практика, часто удобнее хранить список запрещенных "ходов" (tabu list), т.е. список некоторых способов изменения решений, которые приводят к запрещенным решениям. |
Примеры запрещенных "ходов": недавно использованное увеличение (или уменьшение) некоторой координаты; переход в решение со значением целевой функции, присутствующим в списке |
[MATH] ; то и другое одновременно и т.д. Было бы странно, если список запретов не позволял переходить в заведомо лучшие решения, по сравнению с найденными ранее. Для того, чтобы этого не происходило, используется "условие стремления" (aspiration condition): если целевая функция в некоторой точке [MATH] из текущей окрес... |
Часто имеется некоторый способ выделения подокрестности [MATH] в окрестности [MATH] (детерминированно или случайно). Это позволяет снизить трудоемкость поиска и "разнообразить" его. |
Общая схема алгоритма поиска с запретами 1. Выбрать [MATH] случайным образом. 2. Положить [MATH] [MATH] 3. Инициализировать список [MATH] |
Итерация [MATH] 4. Положить [MATH] 5. Для всех [MATH] если [MATH] , то положить [MATH] 6. Положить [MATH] 7. Если [MATH] , то положить [MATH] |
8. Обновить список [MATH] : исключить первый элемент, сдвинуть все элементы влево на одну позицию, положить [MATH] 9. Положить [MATH] |
10. Если [MATH] <<ложь>>, то перейти на шаг 4. Замечание. Алгоритм поиска с запретами – частный случай ЭА, где [MATH] и оператор выживания является консервативным. |
Вероятностный поиск с запретами (PTS). Вероятностный поиск с запретами предложен Гончаровым Е. Н. и Кочетовым Ю. А. . Пусть [MATH] множество допустимых решений. [MATH] , где [MATH] расстояние в метрике Хэмминга. Пусть [MATH] – заданная константа для любых [MATH] . (Очевидно, в таком случае |
[MATH] если [MATH] .) [EQUATION] [EQUATION] где под [MATH] понимается текущее решение [MATH] Настраиваемые параметры: [MATH] . Как правило, [MATH] или 2. |
Теорема 13.1 О сходимости вероятностного поиска с запретами . Пусть [MATH] . Тогда в вероятностном поиске с запретами [MATH] при [MATH] почти наверное. |
Если при пустой подокрестности [MATH] список запретов оставлять без изменений и [MATH] , то указанная сходимость также имеет место |
14 Оценки доли особей с заданной приспособленностью Настоящий раздел посвящен оценкам численности особей достаточно высокого качества на заданной итерации ЭА с полной заменой популяции и турнирной селекцией, без оператора кроссинговера. Для анализа ЭА предлагается математическая модель эволюционного процесса, возникающ... |
В литературе предложено несколько подходов к анализу ЭА с использованием цепей Маркова. Например, при отождествлении состояний цепи со всевозможными векторами генотипов популяции [MATH] |
возникает цепь Маркова с [MATH] состояниями, если [MATH] В другой модели , представляющей работу КГА с помощью цепи Маркова, все популяции, отличающиеся лишь способом упорядочения особей, считаются эквивалентными. Каждое состояние можно представить в виде вектора, имеющего [MATH] компонент, где каждая координата отвеча... |
Основные трудности практического применения указанных моделей для анализа задач комбинаторной оптимизации вызваны необходимостью использования априорной информации о приспособленности каждого генотипа из [MATH] и большой размерностью матрицы перехода цепи Маркова. Ниже рассматривается способ преодоления этих трудностей... |
14.1 Модель эволюционного процесса В настоящем параграфе предлагается модель эволюционного процесса, возникающего при работе ЭА с полной заменой популяции при турнирной селекции и отсутствии кроссинговера. Для применения данной модели не требуется непосредственного использования информации о приспособленности каждого г... |
, однако предполагается, что известны некоторые оценки параметров оператора мутации. При отсутствии кроссинговера в ЭА с полной заменой популяции нет необходимости генерировать особи каждой новой популяции обязательно парами, как в КГА. В связи с этим для большей общности здесь будем предполагать, что условие о четност... |
Алгоритм 3.1 ЭА с полной заменой популяции 1. Положить [MATH] 2. Для [MATH] от 1 до [MATH] выполнять: 2.1. Построить случайным образом особь [MATH] |
Итерация [MATH] 3. Для [MATH] от 1 до [MATH] выполнять шаги 3.1–3.2: 3.1. Селекция: выбрать особь [MATH] 3.2. Мутация: положить [MATH] |
4. Положить [MATH] 5. Если условие остановки выполнено, то идти на шаг 6, иначе – на шаг 3. 6. Результатом работы является особь с наибольшей приспособленностью среди найденных за все итерации. |
Пусть [MATH] и заданы линии уровня функции приспособленности [MATH] такие что [EQUATION] Число линий уровня и соответствующие им значения функции приспособленности (кроме [MATH] ) могут быть выбраны достаточно произвольно с учетом свойств решаемой задачи и оператора мутации. Далее будем предполагать, что число линий ур... |
Сопоставим выбранным линиям уровня следующие подмножества: [EQUATION] Заметим, что [MATH] . Для удобства обозначений положим [MATH] |
Пусть для всех [MATH] [MATH] априори известны нижние [MATH] и верхние [MATH] оценки вероятности перехода из [MATH] [MATH] при действии оператора мутации, а именно для любого [MATH] |
[EQUATION] где [EQUATION] Обозначим матрицу с элементами [MATH] , где [MATH] через [MATH] ; аналогичную матрицу верхних оценок обозначим через [MATH] |
Представим популяцию на шаге [MATH] при помощи вектора популяции [EQUATION] где [MATH] - доля генотипов из [MATH] в популяции [MATH] . Таким образом, [MATH] – случайный вектор, причем [MATH] для [MATH] , так как [MATH] . Далее для удобства будем полагать |
[MATH] при любом [MATH] Заметим, что все особи поколения [MATH] в рассматриваемом алгоритме генерируются с одним и тем же распределением вероятностей. Следовательно, [MATH] при любом [MATH] [MATH] . Поэтому далее в выражениях вида [MATH] номер [MATH] не имеет значения и мы полагаем [MATH] |
Утверждение 3.1 При любом [MATH] имеет место равенство [MATH] Доказательство. Рассмотрим последовательность одинаково распределенных случайных величин [MATH] , где [MATH] , если [MATH] -я особь популяции [MATH] лежит в [MATH] , и [MATH] противном случае. По определению вектора популяции имеем |
[MATH] , следовательно, [EQUATION] Получим нижние и верхние оценки доли особей с генотипами из подмножеств [MATH] для [MATH] на заданной итерации. |
По схеме рассматриваемого ЭА, вероятность того, что выбранный селекцией генотип [MATH] принадлежит какому-либо множеству [MATH] , одинакова для всех генотипов популяции на итерации [MATH] не зависит от номера [MATH] . Поэтому достаточно рассматривать [MATH] |
При векторе текущей популяции [MATH] и размере турнира [MATH] имеем [MATH] , и [EQUATION] [EQUATION] [EQUATION] Если текущая популяция представляется вектором [MATH] , то условная вероятность того, что очередной генотип, полученный в результате селекции и мутации, принадлежит |
[MATH] , имеет вид: [EQUATION] 14.2 Нижние оценки для случая турнирной селекции Из формулы ( 46 ) и определения оценок [MATH] следует, что |
[EQUATION] [EQUATION] Отсюда получаем оценку снизу: [EQUATION] Пусть [MATH] множество векторов популяции из [MATH] особей. По формуле полной вероятности получаем безусловную вероятность порождения очередной особи из [MATH] на шаге [MATH] |
[EQUATION] [EQUATION] [EQUATION] Ввиду утверждения 3.1 [MATH] . Следовательно, с учетом того, что [MATH] [MATH] , из 37 ) получаем: |
[EQUATION] Пусть [MATH] [MATH] . Применим к тем слагаемым последней суммы, где [MATH] , неравенство Иенсена (под знаком математического ожидания стоит выпуклая функция от |
[MATH] ). Для слагаемых, где [MATH] , можно воспользоваться оценкой [MATH] . В результате имеем Утверждение 3.2 Математическое ожидание компонента [MATH] вектора популяции [MATH] удовлетворяет неравенству |
[EQUATION] для всех [MATH] Заметим, что если при всех [MATH] [MATH] вероятность [MATH] не зависит от выбора [MATH] , то всегда можно указать такие матрицы оценок , что [MATH] для всех |
[MATH] [MATH] . Условимся в таком случае называть оператор мутации ступенчатым относительно набора линий уровня [MATH] (или просто ступенчатым, если ясно, о каком наборе подмножеств идет речь). Матрицу [MATH] с элементами [MATH] |
[MATH] , дающую одновременно верхнюю и нижнюю оценки для ступенчатого оператора, будем называть матрицей кумулятивных переходных вероятностей (по аналогии с матрицей переходных вероятностей цепи Маркова). |
Для получения оценки величины [MATH] при известном векторе средних начальной популяции [MATH] потребуется [MATH] -кратное применение неравенства ( 39 ). С этой целью введем следующее определение. |
Матрицу размерности [MATH] с элементами [MATH] будем называть монотонной , если [MATH] для всех [MATH] от 1 до [MATH] . Ступенчатый оператор мутации относительно набора линий уровня [MATH] будем называть монотонным относительно этого набора линий уровня, если его матрица кумулятивных вероятностей перехода монотонна. Оп... |
Очевидно, что для любого оператора мутации существуют монотонные оценки (например, нулевая матрица и матрица со всеми элементами, равными 1). Однако трудности могут возникать только из-за отсутствия оценок, достаточно точно передающих свойства этого оператора. |
После несложных преобразований формулы ( 39 ) получаем Утверждение 3.3 При условии монотонности матрицы для всех [MATH] имеет место оценка |
[EQUATION] Ввиду того, что оценка ( 40 ) не зависит от [MATH] [MATH] величина [MATH] [MATH] при произвольных [MATH] [MATH] оценивается снизу значением вероятности |
[MATH] , найденным для ЭА при [MATH] [MATH] где оператор мутации имеет кумулятивные переходные вероятности, совпадающие с монотонными оценками [MATH] [MATH] |
Для получения оценки снизу в достаточно общей ситуации может быть использовано следующее утверждение. Пусть [MATH] [MATH] -матрица с элементами [MATH] |
[MATH] [MATH] – единичная матрица того же размера; вектор [MATH] [MATH] – произвольная матричная норма. Утверждение 3.4 Если матрица монотонна и |
[MATH] , то для любого натурального [MATH] имеет место оценка [EQUATION] Доказательство. Рассмотрим в [MATH] последовательность векторов [MATH] , где [MATH] . Правая часть неравенства ( 40 ) может только уменьшаться при подстановке туда нижних оценок компонентов вектора [MATH] поэтому по индукции для любого [MATH] полу... |
Пользуясь свойствами линейных операторов, ввиду условия [MATH] заключаем, что матрица [MATH] существует. Далее по индукции с помощью непосредственной проверки легко показать, что для любого [MATH] имеет место тождество |
[EQUATION] [MATH] Правая часть в ( 41 ) с ростом [MATH] приближается к [MATH] , поэтому предел оценки ( 41 ) не зависит от распределения популяции [MATH] . При ступенчатом операторе мутации и [MATH] оценка ( 41 ) обращается в равенство. |
Пусть [MATH] [MATH] . Рассмотрим матричную норму [MATH] В условиях теоремы [MATH] поэтому [MATH] , и условие [MATH] выполнено. Заметим, что [MATH] для всех [MATH] если при мутации из любого генотипа с ненулевой вероятностью может быть получен любой наперед заданный генотип. |
14.3 Оценки сверху для случая турнирной селекции По аналогии с выводом формулы ( 37 ) получаем оценку сверху: [EQUATION] Отсюда вытекает следующее |
Утверждение 3.5 Математическое ожидание вектора популяции удовлетворяет неравенству [EQUATION] для [MATH] , и если матрица монотонна, то |
[EQUATION] Посредством итеративного применения неравенства ( 44 можно покомпонентно оценить сверху вектор [MATH] для любого [MATH] , начав с вектора средних исходной популяции [MATH] . Тем не менее, нелинейность правой части ( 44 затрудняет получение компактной оценки сверху для произвольного |
[MATH] , аналогичной неравенству ( 41 ) из утверждения 3.4 Полученные выше оценки не учитывают размер популяции и справедливы при любом [MATH] . Как показано в |
, правая часть формулы ( 44 ) описывает асимптотику поведения популяции при монотонном операторе мутации и [MATH] 14.4 Верхние оценки для случая [MATH] -селекции |
По определению [MATH] –селекции, для любого [MATH] вероятность выбора родительской особи из [MATH] имеет вид [EQUATION] Функцию от [MATH] представленную в правой части этого равенства далее будем обозначать через [MATH] |
Следующее утверждение доказывается аналогично утверждению 3.5 Утверждение 3.6 Если монотонна, то для всех [MATH] выполнено [EQUATION] |
Доказательство. [EQUATION] [EQUATION] Из выражения ( 46 ) и определения границ [MATH] следует для всех [MATH] [EQUATION] [EQUATION] |
Это дает неравенство: [EQUATION] По формуле полной вероятности, [EQUATION] [EQUATION] [EQUATION] где последнее равенство получается перегруппировкой слагаемых. Из предложения 3.1 следует, что |
[MATH] . Следовательно, т.к. [MATH] и т.к. [MATH] , имеем [EQUATION] [EQUATION] Итеративным применением неравенства ( 45 компоненты математического ожидания вектора популяции [MATH] могут быть ограничены до любого [MATH] , начиная с исходного вектора [MATH] , описывающего популяцию [MATH] В связи с тем, что на данный м... |
15 Сравнение (1+1) EA с другими эволюционными алгоритмами В данном разделе будет проведено сравнение эволюционной стратегии (1+1) EA с другими ЭА. В частности, будет показано, что если выполняется условие доминирования , то эта эволюционная стратегия является наилучшим ЭА с точки зрения вероятности получения решений тр... |
Для удобства исследования в данном разделе мы будем иначе определять класс эволюционных алгоритмов, чем в п. . Основное отличие будет состоять в том, что здесь в явном виде допускается возможность использования неограниченной памяти о <<предыстории>> работы алгоритма. |
Будем называть эволюционным алгоритмом с неограниченной памятью следующий рандомизированный алгоритм: начальная популяция [MATH] |
строится некоторым случайным или детерминированным способом. Пусть [MATH] , как и ранее, обозначает номер итерации. Последовательность генотипов, построенных в ЭА с неограниченной памятью к началу итерации [MATH] , обозначим через [MATH] , а множество всех входящих в нее элементов – через [MATH] . На каждой итерации [M... |
– некоторые из ранее построенных особей. Родительские особи [MATH] на итерации [MATH] выбираются с помощью рандомизированного оператора селекции с неограниченной памятью |
[MATH] , так что [MATH] Работа ЭА с неограниченной памятью представляет собой итерации следующей композиции случайных отображений: |
[EQUATION] Алгоритм, удовлетворяющий этому определению, обозначим через EA. Начнем со следующего определения из теории вероятностей. |
Определение 15.1 Случайная величина [MATH] <<стохастически больше>> случайной величины [MATH] , если [EQUATION] при любом [MATH] |
Зачастую (см., например, ) в определении <<стохастически большей>> случайной величины вместо ( 51 ) требуют другого (аналогичного) неравенства |
[EQUATION] однако для совместимости с результатами из мы будем использовать неравенство ( 51 ). Пусть текущий генотип на итерации [MATH] эволюционной стратегии (1+1) EA обозначается через [MATH] |
Будем обозначать максимум функции приспособленности на какой-либо последовательности генотипов [MATH] через [MATH] , т. е. [MATH] |
Сравнение оператора воспроизведения из алгоритма EA и оператора мутации эволюционной стратегии (1+1) EA будет осуществляться на основе следующего определения. |
Определение 15.2 Оператор воспроизведения [MATH] доминируется оператором мутации [MATH] , если для любой [MATH] -элементной последовательности генотипов [MATH] и любого [MATH] , таких что [MATH] |
выполняется следующее условие при всех [MATH] [EQUATION] Данное определение может интерпретироваться как требование того, чтобы вероятность получения генотипа достаточно высокой приспособленности посредством оператора мутации [MATH] была бы не меньше, чем вероятность такого же события для оператора рекомбинации [MATH] ... |
В качестве иллюстративного примера доминирования рассмотрим задачу максимизации приспособленности [MATH] , где [MATH] [MATH] , когда [MATH] – оператор равномерного кроссинговера с одним потомком (второй потомок не строится). Пусть мутация [MATH] |
устроена специальным образом: гены со значением 1 сохраняются без изменений, в то время как биты со значением 0 изменяются с вероятностью 1/2. Очевидно, такой оператор [MATH] |
доминирует [MATH] : рассмотрим лучшего из двух родителей. Шансы на мутацию в любом гене со значением 0 не ниже шансов на улучшение гена со значением 0 при действии рассматриваемого кроссинговера. |
Следующая теорема показывает, что если начальный генотип (1+1) EA не уступает по приспособленности лучшей особи начальной популяции EA, то на любой итерации распределение вероятностей текущего генотипа |
(1+1) EA также не уступает распределению лучшего из найденных генотипов в EA тогда и только тогда, когда Mut доминирует Rep. Теорема 15.1 |
Для того чтобы к любому алгоритму EA из класса ЭА с неограниченной памятью при [EQUATION] были применимы неравенства [EQUATION] необходимо и достаточно, чтобы оператор [MATH] доминировался оператором [MATH] |
Доказательство. 1. Достаточность. Пусть множество всевозможных значений функции приспособленности есть [MATH] где [MATH] . Пользуясь индукцией по [MATH] , предположим, что |
[EQUATION] (базис индукции при [MATH] следует из формулировки теоремы). На итерации [MATH] алгоритма EA имеем [MATH] , где [MATH] – генотип с наибольшей приспособленностью среди потомков, построенных оператором [MATH] , при |
[MATH] выбранных оператором [MATH] Зафиксируем произвольное [MATH] [MATH] , и введем обозначения для каждого [MATH] [EQUATION] Тогда |
Subsets and Splits
No community queries yet
The top public SQL queries from the community will appear here once available.