text
stringlengths
128
2.05k
[EQUATION] [EQUATION] Рассчитаем вероятность [MATH] В результате скрещивания могут получиться две особи, у которых в позиции [MATH] находится значение 0, только в том случае, если у обеих родительских особей в позиции [MATH] находилось значение 0. Вероятность выбора таких особей, с учетом вероятностного смысла величин ...
[MATH] Аналогично находим вероятность того, что у одной из полученных в результате скрещивания особей в позиции [MATH] находится значение 1, а у второй – значение 0. [MATH]
Далее, [MATH] так как в результате скрещивания могут получиться две особи, у которых в позиции [MATH] находится значение 1, только в том случае, если это значение находилось в позиции [MATH] у обеих родительских особей.
Подставив найденные выражения в формулу ( 18 ), получим, что для каждого [MATH] [MATH] [EQUATION] [EQUATION] [EQUATION] Так как [MATH] пар особей в [MATH] генерируются независимо одним и тем же способом, то [MATH] равна
[EQUATION] Q.E.D. Данная теорема и следствие позволяют сделать вывод о том, что вероятность вырождения гена и, следовательно, степень разнообразия популяции зависят только от вероятности мутации и размера популяции генетического алгоритма и не зависят от вероятности скрещивания. Таким образом проявляется важное свойств...
Из теоремы следует, что вероятность вырождения значения 0 или 1 в гене [MATH] равна [EQUATION] Таким образом, при [MATH] вероятность вырождения гена в любой позиции уменьшается с увеличением размера популяции [MATH] , а также с приближением [MATH] к 1/2, ибо условие [MATH] эквивалентно
[EQUATION] что означает [MATH] , т.к. на концах интервала [MATH] . Таким образом, наибольшее разнообразие достигается при [MATH] , что и следовало ожидать.
С использованием полученной формулы для вероятности [MATH] можно на каждом шаге КГА выбирать такую наименьшую приемлемую вероятность мутации, которая дает желаемое количество невырожденных генов. Например, в качестве требования невырожденности популяции может быть условие того, чтобы число невырожденных позиций на кажд...
Теоретические результаты о времени первого достижения оптимума для КГА В теории ЭА, как правило, рассматриваются вопросы трудоемкости отыскания наилучшего возможного генотипа в процессе работы некоторого ЭА на выбранном классе задач. При этом в первую очередь интересуются средним числом пробных решений до первого получ...
. Для анализа времени первого достижения оптимального генотипа, как правило, используются такие методы теории вероятностей, как цепи Маркова, мартингалы, случайные процессы со сносом, стохастическое доминирование и др.
Рассмотрим КГА при [MATH] с постоянным значением параметра [MATH] Как выясняется, этот алгоритм неэффективен даже на классе линейных функций приспособленности.
Теорема 4.1 Если [MATH] , то КГА при численности популяции [MATH] и вероятности мутации [MATH] при константных [MATH] [MATH] , получает оптимум функции [MATH]
с вероятностью не более [MATH] за [MATH] поколений, где [MATH] – положительные константы. Аналогичный вывод был получен из анализа КГА при [MATH] в случае функции OneMax
Теорема 4.2 Если [MATH] , то КГА при [MATH] [MATH] где [MATH] [MATH] для любой положительной константы [MATH] и размере популяции
[MATH] при достаточно большой константе [MATH] , имеет среднее время достижения оптимума [MATH] Аналогичный результат получен для КГА с вероятностью мутации [MATH] где [MATH] -константа, но при условии, что приспособленность имеет вид [MATH] , и [MATH]
Глава 2 Модификации генетических алгоритмов Операторы селекции Для сравнения различных операторов селекции, которые будут описаны далее, необходимо выбрать некоторую характеристику, которая имеет одинаковый смысл для всех из них. Возмем в качестве такой характеристики число, сколько раз фиксированная особь отбирается в...
В процессе работы ГА, как правило, происходит сближение приспособленности особей в популяции. В результате операторы пропорциональной селекции все меньше <<отличают>> (в смысле вероятности селекции) наиболее приспособленных особей от отстающих. Способ решения этой проблемы, предложенный Д.Голдбергом, состоит в масштаби...
(см. приведенный выше пример применения ГА к задаче ЦЛП). Альтернативный подход состоит в использовании ранжирования особей Для фиксированной популяции [MATH] биекция [MATH] называется ранжированием, если для всех [MATH] выполняется:
[EQUATION] Значение [MATH] называется рангом особи [MATH] в популяции [MATH] Ранговая селекция (ranking selection). Предложена в работе Goldberg & Deb
. Пусть функция [MATH] , такая что [MATH] . Тогда [MATH] называется ранжирующей функцией. При заданной ранжирующей функции оператор селекции с распределением вероятностей
[EQUATION] называется ранжирующей селекцией. Такая селекция не теряет <<чувствительности>> при сколь угодно малых различиях приспособленности особей.
Частный случай, где [EQUATION] при [MATH] называется линейным ранжированием. Легко видеть, что условия ранжирующей функции выполняются.
Особь с рангом [MATH] имеет вероятность селекции, равную [MATH] , а особь с рангом 1 – вероятность [MATH] . Если положить [MATH] , то особь с рангом 1 имеет нулевую вероятность селекции (наибольшая дифференциация селективности по рангу). Если же
[MATH] , то распределение вероятностей селекции стремится к равномерному. Ранговая селекция при [MATH] состоит в применении оператора селекции КГА с подстановкой рангов особей [MATH]
вместо значений их приспособленности. Упражнение. Найти функцию [MATH] для пропорциональной селекции, где в качестве приспособленности используется ранг особи.
Турнирная селекция (tournament selection). Оператор турнирной селекции с размером турнира [MATH] (или оператор [MATH] -турнирной селекции) при построении очередного решения из текущей популяции извлекает [MATH] особей с равномерным распределением и выбирает лучшую из них (точнее, особь с наибольшим рангом).
Сравним среднее число повторений фиксированной особи [MATH] при 2-турнирной селекции (обозначаем далее через [MATH] ) и при пропорциональной селекции КГА с подстановкой рангов особей вместо значений их приспособленности (обозначаем через
[MATH] ). Заметим, что в турнирной селекции вероятность выбора особи [MATH] с рангом [MATH] есть [EQUATION] [EQUATION] В частности, при [MATH] имеем:
[EQUATION] Сравним эту величину с [MATH] . Легко видеть, что при использовании ранжирования в пропорциональной селекции [EQUATION]
что приближается к [MATH] при больших [MATH] По формуле дисперсии для схемы Бернулли нетрудно показать, что [EQUATION] [EQUATION]
и при [MATH] имеем [MATH] следовательно, при больших значениях [MATH] [MATH] 2-турнирная селекция становится близка к стандартной пропорциональной селекции и по дисперсии.
Упражнение. Найти функцию [MATH] для турнирной селекции. Наконец, [MATH] -селекция, один из наиболее простых операторов селекции в ЭА, аналогичен массовому отбору в растениеводстве и животноводстве: из популяции численностью [MATH] отбираются [MATH] особей с наибольшими значениями функции приспособленности и родительск...
5.1 Стратегии управления популяцией Обновление всей популяции на каждой итерации КГА соответствует подходу, применяемому при имитационном моделировании в популяционной генетике (см., например,
), однако, для ускорения поиска генотипов с высокой приспособленностью общая схема ГА зачастую модифицируется. Основная мотивация при этом состоит в том, что в КГА даже генотип, существенно превышающий по пригодности все прочие особи популяции, с большой вероятностью будет исключен из рассмотрения уже на следующей итер...
Элитарная стратегия. На кажой итерации ГА, во-первых, строится очередная популяция [MATH] по правилам КГА. Во-вторых, если по приспособленности все генотипы новой популяции уступают максимально приспособленной ( элитной особи [MATH] из предыдущей популяции, то один из наименее приспособленных генотипов в [MATH] заменяе...
Таким образом, если ГА применяется для решения задачи безусловной оптимизации ( ), то последовательность значений целевой функции элитных фенотипов [MATH] будет неубывающей. Более того, как показал Г. Рудольф
, при [MATH] [MATH] дополнение КГА элитарной стратегией обеспечивает сходимость последовательности [MATH] к оптимальному значению целевой функции задачи ( ) почти наверное.
Вместо одной элитной особи в ГА может сохраняться некоторое подмножество генотипов текущей популяции, имеющих высокую приспособленность (см., например,
). Такие стратегии называются частичной заменой популяции . Следующая стратегия может рассматриваться как предельный случай расширения множества элитных особей.
Стационарная стратегия управления популяцией. При этой стратегии на каждой итерации ГА в популяцию добавляются два генотипа, полученных применением операторов кроссинговера и мутации. Каждая новая особь замещает некоторый <<неперспективный>> генотип. При этом в качестве <<неперспективного>> может быть взят генотип с на...
Особенностью стационарной стратегии управления популяцией является значительно более быстрое <<сужение>> области поиска, по сравнению с КГА. В связи с этим, во многих реализациях стационарной стратегии управления популяцией при совпадении новой особи с одной из имеющихся в популяции, новая особь в популяцию не добавляе...
Элитная рекомбинация (elitist recombination) (не путать с популяцией с элитой): особи текущей популяции случайным образом переставляются и последовательно выбираются пары родительских особей
[MATH] для скрещивания. Каждая пара потомков сравнивается с соответствующими родительскими особями, и лучшие две из четырех особей помещаются в новую популяцию.
Операторы скрещивания и мутации Наряду с оператором одноточечного кроссинговера КГА, в генетических алгоритмах используются и другие операторы рекомбинации родительских генотипов. Общей чертой для всех из них является, так называемое, свойство передачи генов : значение для каждого гена потомка выбирается из значений со...
В некоторых вариантах кроссинговера результатом является один генотип (см., например, ), однако, наиболее распространены операторы с двумя выходными генотипами. Во втором случае, с целью сохранения разнообразия популяции, стремятся построить как можно более удаленные один от другого генотипы потомков.
Пусть даны родительские генотипы [MATH] [MATH] , для которых порождается пара генотипов потомков [MATH] . Если в задаче отсутствуют ограничения, или схема представления решений такова, что [MATH] , тогда уместно использовать, так называемую, маску кроссинговера . Под этим термином понимают вспомогательную последователь...
[EQUATION] для [MATH] . Рассмотрим два примера использования маски кроссинговера. Равномерный кроссинговер. Данный оператор определяется выбором маски кроссинговера с равномерным распределением на множестве [MATH] . При действии этого оператора [MATH] -ый ген,
[MATH] , копируется в генотип потомка из [MATH] -той позиции генотипа одного или другого родителя с равными вероятностями, независимо от выбора других генов.
[MATH] -точечный кроссинговер. Данный оператор представляет собой обобщение одноточечного кроссинговера. В строке генотипа выбирается [MATH] различных координат скрещивания [MATH] с равномерным распределением среди всевозможных таких наборов. Обозначим [MATH] , тогда маска кроссинговера определяется следующим образом:
[EQUATION] для [MATH] . Данный оператор имеет то свойство, что при задании четного числа точек скрещивания [MATH] , первая и последняя координаты одного родителя всегда переходят одному потомку. Наоборот, при нечетном [MATH] эти координаты копируются в каждый из генотипов потомков от разных родителей.
Каждый из описанных операторов кроссинговера может быть реализован и в варианте с одним генотипом потомка (для этого достаточно отбросить второй генотип). Далее будет рассмотрен оператор кроссинговера, при котором естественным образом строится только один генотип потомка.
Непредвзятые операторы мутации. Обобщением рассмотренных ранее операторов мутации является класс непредвзятых операторов мутации, введенный в работе
В случае, когда генотип является битовой строкой, непредвзятость мутаций состоит в том, что вероятность того или иного действия над каждым битом не зависит от его значения и позиции. Условия непредвзятости мутации [MATH] можно формально представить следующим образом.
1. Для любых [MATH] [EQUATION] 2. Для любых [MATH] и любой перестановки [MATH] [EQUATION] где [MATH] обозначает применение перестановки [MATH] ко всем позициям битовой строки, т.е.
[MATH] Легко проверить, что этому определению удовлетворяют оператор побитовой мутации из КГА и оператор точечной мутации: равновероятно выбрать одну позицию в генотипе и инвертировать выбранный бит.
6.1 Недвоичная кодировка: особенности мутации и скрещивания Примеры: балансировка ротора и задача наименьшего покрытия 6.2 Кроссинговер с частичным отображением для задач на перестановках
Рассмотрим некоторые операторы, применяемые в задаче коммивояжера и других задачах, где допустимыми решениями являются перестановки. При описании этих операторов под случайным выбором понимается выбор с равномерным распределением среди всех возможных вариантов.
Оператор кроссинговера с частичным отображением был предложен в работе Д. Голдберга и Р. Лингле и кратко обозначается PMX. Рассмотрим действие кроссинговера PMX на иллюстративном примере.
Пусть даны следующие родительские генотипы с координатами скрещивания [MATH] [MATH] =( 1 9) [MATH] =( 4 3). Сначала выполняется обмен средними участками генотипов, прочие гены при этом считаются неопределенными:
( x x) ( x x). Далее, для каждого из неопределенных значений проверяется, можно ли в этой позиции оставить прежнее значение. Например, в первом из указанных генотипов нельзя оставить 1 на первой позиции, т.к. 1 уже зафиксирована в четвертом гене, однако можно оставить на месте значения 2, 3 и 9. Аналогично, во втором г...
( x 9) ( x 3). Наконец, остальные значения заполняются такими же попарными обменами, какими изменялись средние участки, только теперь обмен происходит не между генотипами, а внутри каждого из них. В рассматриваемом примере 4 меняется на 1, 5 – на 8, 6 – на 7, 7 – на 6. Таким образом, результат кроссинговера имеет вид:
[MATH] = ( 4 9) [MATH] =( 1 3). Формализуем оператор PMX-кроссинговера в общем случае. Пусть пара перестановок [MATH] [MATH] вычисляется по заданным родительским перестановкам [MATH] [MATH] . В процедуре PMX-кроссинговера два индекса [MATH] [MATH] , где [MATH] , выбираются с равномерным распределением и компоненты пере...
[MATH] от [MATH] до [MATH] копируются в перестановки потомков [MATH] [MATH] с обменом: [MATH] [MATH] [MATH] . Далее, для каждого [MATH] проверяется, можно ли в этой позиции оставить значение из родительского решения, а именно, если [MATH]
отсутствует среди скопированных генов, то полагаем [MATH] . Аналогично модифицируется [MATH] Остальные компоненты [MATH] заполняются с помощью отображений [MATH]
[MATH] . В каждом гене [MATH] строки [MATH] полагаем [MATH] , если значение [MATH] еще отсутствует [MATH] ; иначе [MATH] , если значение
[MATH] еще отсутствует в [MATH] , и так далее. Вторая перестановка заполняется аналогично с использованием отображения [MATH] 6.3 Порядковый кроссинговер для задач на перестановках
[MATH] [MATH] [MATH] Данный оператор сохраняет абсолютные позиции элементов, заимствованных от одного родителя, и относительные позиции элементов, заимствованных у другого.
Как показали эксперименты, порядковый кроссинговер, также как кроссинговер PMX, дает хорошие результаты в задачах составления расписаний, где большое значение имеет то, какие работы выполняются раньше, а какие – позже. В то же время, для задачи коммивояжера и задач составления расписаний, где важно учитывать длительнос...
). 6.4 Мутация в задачах на перестановках Мутация обмена состоит в обмене пары генов из случайно выбранных позиций в данной на вход перестановке. С точки зрения локального поиска для задачи коммивояжера, при действии этого оператора выполняется шаг в случайно выбранную точку из окрестности 2-city swap
Мутация сдвига состоит в перемещении гена из случайно выбранной позиции на случайное число позиций влево или вправо. Содержимое всех промежуточных генов при этом сдвигается на одну позицию.
Мутация <<2-замена>> определяется наиболее просто в случае задачи коммивояжера в терминах фенотипов, то есть обходов графа [MATH] . В обходе, заданном входным генотипом случайным образом выбираются два несмежных ребра и заменяются двумя новыми ребрами, которые в данном случае определяются однозначно. С точки зрения лок...
Упражнение 6.1 Описать алгоритм, осуществляющий мутацию <<2-замена>> в указанной выше недвоичной кодировке решений задачи коммивояжера.
Задача оптимальной рекомбинации Пусть решается задача условной максимизации в пространстве двоичных строк длины [MATH] . Рассмотрим вычислительную сложность задачи отыскания <<наилучшего>> генотипа, как результата кроссинговера для заданной пары родительских генотипов при условии выполнения свойства передачи генов.
С учетом свойства передачи генов сформулируем задачу оптимальной рекомбинации : для произвольных заданных родительских генотипов [MATH] , представляющих допустимые решения, требуется найти представляющий допустимое решение генотип [MATH] , такой что:
1) для каждого [MATH] выполняется [MATH] или [MATH] 2) [MATH] имеет максимальное значение приспособленности среди всех генотипов, удовлетворяющих условию 1) и кодирующих при этом допустимые решения.
Далее множество номеров координат, в которых родительские генотипы различны, будем обозначать через [MATH] В качестве примера эффективно разрешимой задачи оптимальной рекомбинации рассмотрим следующую известную задачу из теории графов. Пусть имеется граф [MATH] с множеством вершин
[MATH] и множеством ребер [MATH] . Задача о наибольшем независимом множестве состоит в отыскании такого подмножества [MATH] , что ни одно ребро [MATH] не инцидентно сразу двум вершинам из [MATH] (т.е. [MATH] – независимое множество) и мощность этого множества максимальна.
Естественным будет представление решений с помощью вектора-индикатора из [MATH] , где [MATH] тогда и только тогда, когда вершина [MATH] принадлежит искомому подмножеству. Пусть [MATH] для любого допустимого решения [MATH] . Как замечено в работе Э.Балаша и В.Нихауса
, при использовании данного представления решений задача оптимальной рекомбинации разрешима за полиномиальное время. Для того чтобы в этом убедиться, рассмотрим произвольные родительские независимые множества [MATH] [MATH] и соответствующие им генотипы [MATH] [MATH] . Исходя из свойства передачи генов, решение-потомок ...
[MATH] , кроме того, в [MATH] не должно быть элементов множества [MATH] , а вершины с номерами из множества [MATH] необходимо выбрать оптимальным образом. Последнее требование формулируется, как задача о наибольшем независимом множестве в подграфе, порожденном множеством вершин с номерами из [MATH] . Легко видеть, что ...
Для отыскания наибольшего независимого множества в двудольном графе [MATH] можно воспользоваться тем фактом, что наибольшее независимое множество всегда является дополнением наименьшего вершинного покрытия [MATH] , то есть такого наименьшего по мощности множества вершин, что каждое ребро инцидентно хотя бы одной из них...
Задача о наименьшем вершинном покрытии двудольного графа [MATH] эффективно разрешима с помощью алгоритма построения минимального разреза во вспомогательном графе, состоящем из графа [MATH] и дополнительных вершины-источника [MATH] вершины-стока [MATH] . Источник [MATH] соединяется со всеми вершинами одной доли, а сток ...
Генотип [MATH] , являющийся вектором-индикатором множества [MATH] представляет собой решение задачи оптимальной рекомбинации для задачи о наибольшем независимом множестве.
Приведенный результат Балаша и Нихауса может быть сформулирован как Теорема 7.1 (Балаш, Нихаус ) Задача оптимальной рекомбинации для задачи о независимом множестве разрешима за полиномиальное время.
Упражнение 7.1 Показать, что для задачи о наименьшем вершинном покрытии при тех же предположениях о способе представления решений (т.е. [MATH] задача оптимальной рекомбинации эффективно разрешима.
Рассмотренная здесь постановка задачи оптимальной рекомбинации может быть модифицирована – см., например, Выбор наиболее подходящей формулировки этой подзадачи и методов ее решения делается на основе вычислительного эксперимента.
Генетический алгоритм как метод локального поиска 8.1 Задачи комбинаторной оптимизации Пусть [MATH] обозначает множество всевозможных строк из нулей и единиц произвольной длины, а [MATH] – множество натуральных чисел. Для [MATH] символом [MATH] обозначается длина строки [MATH]
Далее величина [MATH] будет называться полиномиально ограниченной относительно величины [MATH] , если существует полином с положительными коэффициентами относительно [MATH] , ограничивающий сверху значения [MATH]
Пусть [MATH] обозначает множество вещественных чисел. Определение 8.1 Задача комбинаторной оптимизации – это тройка [MATH] , где [MATH] называется множеством индивидуальных задач из [MATH] , и выполнены следующие условия:
1. Существует детерминированная машина Тьюринга, распознающая принадлежность строки исходных данных [MATH] множеству Inst за время, полиномиально ограниченное относительно [MATH]
2. [MATH] – множество допустимых решений индивидуальной задачи [MATH] причем размерность пространства решений [MATH] для некоторого полинома poly
3. Для [MATH] за полиномиально ограниченное время относительно [MATH] вычислима целевая функция [MATH] , которую требуется максимизировать (если
[MATH] – задача максимизации) или минимизировать (если [MATH] – задача минимизации). Если различные решения имеют разную длину записи, то [MATH] наибольшая длина допустимого решения задачи. Далее через [MATH]
обозначается оптимальное решение индивидуальной задачи [MATH] , т. е. [MATH] , если [MATH] – задача максимизации, либо [MATH] , если [MATH] – задача минимизации.
Далее ГА рассматривается в предположении [MATH] представление решений совпадает с кодировкой решений задачи [MATH] а задача комбинаторной оптимизации имеет критерий <<на максимум>>.
Кроме того будем предполагать, что при [MATH] функция приспособленности имеет вид [MATH] Если же [MATH] , то функция приспособленности [MATH] принимает значение меньше, чем на любом допустимом решении, что соответствует штрафу за нарушение ограничений задачи.
8.2 Задача поиска локального оптимума Пусть для всякого элемента [MATH] определена некоторая его окрестность [MATH] . Совокупность
[MATH] называется системой окрестностей Определение 8.2 Если для [MATH] при всяком [MATH] выполняется неравенство [MATH] в случае задачи максимизации или [MATH] в случае задачи минимизации, то решение [MATH] называется локальным оптимумом в системе окрестностей [MATH]
Глобальный оптимум, т.е. оптимальное решение задачи комбинаторной оптимизации является частным случаем локального оптимума. Если [MATH] – метрика, заданная для всех элементов [MATH] , то [MATH] называется системой окрестностей радиуса [MATH] , порожденной метрикой [MATH]
Алгоритм локального поиска начинает свою работу с некоторого допустимого решения. Далее, на каждой итерации алгоритма происходит переход от текущего решения к новому допустимому решению в его окрестности, имеющему лучшее значение целевой функции, чем текущее решение. Процесс продолжается, пока не будет достигнут локаль...