text stringlengths 128 2.05k |
|---|
8.3 Достижение локальных оптимумов генетическим алгоритмом Настоящий раздел посвящен изучению достаточных условий, при которых генетический алгоритм с полной заменой популяции и турнирной селекцией впервые посещает локальный оптимум в среднем за время, близкое к трудоемкости локального поиска (точнее, превышающее ее не... |
Мотивацией исследования служит тот факт, что ГА зачастую относят к классу методов локального поиска (см., например, ), поэтому представляет интерес детальное изучение случаев, когда работоспособность ГА объясняется сходством его поведения с локальным поиском. |
Для простоты обозначений здесь предполагается двоичное представление решений, совпадающее с кодировкой решений задачи комбинаторной оптимизации, а <<генотип>> – то же, что элемент пространства решений [MATH] . В связи с этим для обозначения генотипов, как правило, будут использоваться символы [MATH] или [MATH] |
Исследуется ГА с полной заменой популяции и турнирной селекцией. Для удобства анализа будем считать, что условие остановки ГА никогда не выполняется. |
Будем предполагать, что в результате кроссинговера с вероятностью не менее некоторой константы [MATH] [MATH] образуются особи [MATH] хотя бы одна из которых не уступает по приспособленности родительским особям [MATH] , т. е. |
[EQUATION] при любых [MATH] . Под <<констаной>> в настоящем разделе понимается величина, не зависящая от индивидуальной задачи. Для одноточечного кроссинговера условие ( 20 выполняется c [MATH] , если [MATH] константа, не зависящая от задачи. Условие ( 20 выполняется c [MATH] , если один из двух потомков – решение зада... |
Пусть имеется задача комбинаторной оптимизации [MATH] на максимум, причем [MATH] . Последнему условию удовлетворяют многие задачи комбинаторной оптимизации, например, задача максимальной выполнимости логической формулы |
разрез наибольшего веса , спиновое стекло в модели Изинга и др. Пусть выбрана некоторая система окрестностей [MATH] . Обозначим через [MATH] |
число всех неоптимальных значений целевой функции [MATH] , т. е. [MATH] . Тогда, начиная с любого допустимого решения, локальный поиск достигает локального оптимума не более чем за [MATH] улучшающих целевую функцию итераций. Пусть [MATH] |
обозначает минимальную вероятность достижения решения в пределах окрестности: [EQUATION] Чем выше величина [MATH] , тем больше согласованность оператора мутации с системой окрестностей. Численность популяции [MATH] , размер турнира [MATH] и величину [MATH] будем рассматривать как функции от исходных данных задачи [MATH... |
Пусть [MATH] – число Эйлера. Лемма 8.1 [MATH] Действительно, [EQUATION] Лемма 8.2 [MATH] при [MATH] Заметим, что [MATH] а поэтому при [MATH] имеем [MATH] , т.е. [MATH] [MATH] . Далее, |
[EQUATION] Лемма 8.3 Для любых событий [MATH] [EQUATION] Действительно, по определению условной вероятности, [EQUATION] [EQUATION] |
Теорема 8.1 Если [MATH] [MATH] [MATH] [MATH] [EQUATION] то 1. GA посещает локальный оптимум к итерации [MATH] с вероятностью не менее [MATH] , и |
2. локальный оптимум достигается не позднее, чем за [MATH] итераций GA в среднем. Доказательство. Пусть популяция [MATH] еще не содержит локального оптимума и событие [MATH] [MATH] состоит в выполнении следующих трех условий: |
1. из популяции [MATH] при построении [MATH] -той пары потомков следующего поколения выбирается решение [MATH] наибольшей приспособленности; |
2. при построении [MATH] -той пары потомков посредством кроссинговера, один из них имеет приспособленность не менее [MATH] (пусть для определенности это [MATH] ); |
3. оператор мутации, примененный к [MATH] , осуществляет переход в наилучшее по приспособленности решение в окрестности [MATH] т. е. [MATH] |
Обозначим через [MATH] вероятность наступления хотя бы одного из событий [MATH] , при известной популяции [MATH] . Найдем оценку [MATH] , не зависящую от выбора [MATH] . Согласно схеме GA, [MATH] . Обозначим эту вероятность через [MATH] Ввиду независимости событий [MATH] при фиксированной [MATH] , имеем [MATH] , где по... |
[EQUATION] Однако, [MATH] снова по лемме 8.1 , поэтому [EQUATION] где [MATH] для краткости. В дальнейшем мы воспользуемся тем, что из ( 21 ) и 22 ) вытекает |
[EQUATION] Для оценки снизу вероятности [MATH] применим лемму 8.2 , из которой следует что при любом [MATH] [EQUATION] Положим [MATH] . Тогда ввиду неравенства ( 23 ), |
[MATH] , и следовательно, [EQUATION] От анализа потомков фиксированной популяции [MATH] перейдем к случайной последовательности популяций [MATH] Заметим, что [MATH] является оценкой снизу для вероятности достичь локальный оптимум за серию из не более [MATH] итераций, улучшающих значение рекорда целевой функции. Действи... |
[EQUATION] Итак, положим [MATH] . Снова воспользовавшись условием ( 21 ), получаем оценку снизу для вероятности достичь локальный оптимум за серию из не более [MATH] улучшающих рекорд итераций: |
[EQUATION] Первая часть утверждения теоремы доказана. Для оценки среднего времени получения локального оптимума рассмотрим последовательность серий по [MATH] итераций в каждой. Пусть событием [MATH] является отсутствие локального оптимума в популяции GA в [MATH] -той серии. При выполнении условий леммы вероятность кажд... |
), получаем [EQUATION] Следовательно, локальный оптимум достигается не позднее, чем за [MATH] поколений GA в среднем. Q.E.D. Пусть [MATH] обозначает округление вверх. Тогда в условиях теоремы, при |
[EQUATION] обеспечено получение локального оптимума в GA за [MATH] поколений в среднем. Упражнение 8.1 Доказать с использованием леммы 8.2 , что если расстояние Хэмминга между [MATH] -битовыми строками [MATH] [MATH] равно 1, то при использовании оператора мутации из КГА, где |
[MATH] вероятность того, что [MATH] оценивается снизу величиной [MATH] Задача ONEMAX. В качестве примера применения теоремы 8.1 рассмотрим одноэкстремальную задачу безусловной оптимизации с целевой функцией [MATH] на множестве [MATH] . В качестве функции приспособленности естественно выбрать [MATH] . В системе окрестно... |
Пусть в ГА c турнирной селекцией используется операторы мутации и скрещивания из КГА при [MATH] и при константной вероятности [MATH] . Как следует из упражнения 8.1 , для любого |
[MATH] и любого [MATH] выполнено [MATH] По теореме 8.1 заключаем, что при [MATH] , константном [MATH] , и [EQUATION] ГА впервые посещает оптимум в среднем не позднее, чем за [MATH] |
поколений. Обозначим через [MATH] число обращений к функции приспособленности за время работы ГА до первого получения оптимального решения. Величину [MATH] в англоязычной литературе принято называть runtime. |
Следствие 8.1 Пусть в ГА c турнирной селекцией используется операторы мутации и скрещивания из КГА при [MATH] и при константной вероятности [MATH] , тогда при [MATH] , константном [MATH] , и |
[MATH] для функции приспособленности [MATH] имеем [MATH] Для сравнения: локальный поиск с окрестностью единичного радиуса Хэмминга получает оптимум в этой задаче после просмотра [MATH] пробных решений. |
Полиномиально ограниченные задачи комбинаторной оптимизации. Задача комбинаторной оптимизации называется полиномиально ограниченной, если существует полином от [MATH] , ограничивающий значения [MATH] [MATH] Змаетим, что процедура турнирной селекции требует времени [MATH] . Следовательно, имеет место |
Теорема 8.2 Если задача комбинаторной оптимизации [MATH] трудоемкости операторов Mut Cross а также функция [MATH] полиномиально ограничены, то в случае [MATH] , при соответствующем выборе параметров ГА, локальный оптимум впервые достигается в среднем за полиномиально ограниченное время. |
Если семейство окрестностей [MATH] порождено метрикой Хэмминга с константным радиусом окрестности, то существует оператор мутации [MATH] , вычислимый за полиномиально ограниченное время и осуществляющий равновероятный выбор особей-потомков из множества [MATH] при заданном [MATH] . Тогда [MATH] также ограничена сверху н... |
В настоящем разделе не учитывался тот факт, что в результате действия кроссинговера приспособленность потомков может оказаться выше приспособленности родителей. Улучшение известных теоретических оценок для ГА за счет такой возможности является более сложной задачей, которую пока удалось решить только для нескольких неб... |
Глава 3 Эволюционные алгоритмы Общий вид опраторов ЭА В дальнейшем нам потребуется символ, обозначающий множество всех генотипов популяции [MATH] , т.е. генофонд . Запишем его как |
[MATH] В общем случае работа ЭА может быть описана с помощью операторов, представляющих собой следующие рандомизированные процедуры, т.е. программы для вероятностной машины Тьюринга – см., например, |
гл. 3. 1. Функция [MATH] возвращает <<ложь>>, пока следует продолжать работу, и <<истина>>, когда необходимо остановить выполнение ЭА и выдать ответ. |
2. Оператором селекции [MATH] извлекается [MATH] копий генотипов родителей из текущей популяции, которые помещаются в промежуточную популяцию |
[MATH] , причем [MATH] 3. Действием оператора воспроизведения [MATH] вносятся некоторые случайные изменения в генотипы, полученные от родительских особей. Таким образом создаются [MATH] |
генотипов-потомков, составляющих популяцию [MATH] . (В частности, в случае КГА [MATH] , и действие данного оператора состоит в последовательном применении скрещивания и мутации.) |
4. С помощью оператора выживания [MATH] определяются генотипы из популяции [MATH] и их потомки из [MATH] , которые будут добавляться в очередную популяцию [MATH] , т.е. |
[MATH] 5. Начальная популяция [MATH] строится случайным образом с помощью рандомизированной процедуры [MATH] Работа ЭА начинается со случайной начальной популяции |
[MATH] и продолжается итерациями случайного отображения [EQUATION] пока не будет выполнено условие остановки [MATH] <<истина>>. Работа заканчивается выводом в качестве ответа лучшего найденного решения [MATH] , где |
[EQUATION] Условие остановки [MATH] может быть простым ограничением по общему числу итераций, либо по числу итераций без улучшения рекорда целевой функции |
[MATH] . В некоторых задачах можно заранее определить требуемое значение целевой функции, по достижению которого алгоритм останавливается. Как правило, в дальнейшем при теоретическом исследовании алгоритмов для удобства будем полагать, что условие остановки никогда не выполняется . Очевидно, всякий представитель класса... |
Распределение вероятностей на выходе процедур [MATH] [MATH] [MATH] должно полностью определяться входными данными решаемой задачи (которую будем считать фиксированной), номером итерации [MATH] и одной или двумя популяциями-аргументами, поданными на вход процедуры. Таким образом, имеют место марковские свойства указанны... |
Пусть [MATH] – вероятностная машина Тьюринга, реализующая данный ЭА, и [MATH] обозначает последовательность состояний, которые проходит машина [MATH] до применения рассматриваемого оператора [MATH] [MATH] или [MATH] |
Условимся обозначать детерминированные популяции или реализации случайных популяций буквой [MATH] , а популяции, являющиеся случайными величинами – как и прежде, заглавными буквами [MATH] |
(например, для реализации [MATH] будем использовать [MATH] ). Аналогично поступим с другими случайными величинами и их реализациями ( [MATH] и т.д.). Тогда: |
1) Для любых [MATH] [MATH] [MATH] и любой последовательности состояний [MATH] выполнено равенство [EQUATION] 2) Для любых [MATH] [MATH] [MATH] |
[MATH] и последовательности [MATH] , на шаге [MATH] выполнено равенство [EQUATION] [EQUATION] 3) Для любых [MATH] [MATH] [MATH] [MATH] [MATH] и последовательности [MATH] на шаге [MATH] , выполнено равенство |
[EQUATION] [EQUATION] Пример: КГА и все рассмотренные ранее его модификации соответствуют приведенной общей схеме ЭА. 10 Эволюционные стратегии ( [MATH] )-ES, ( [MATH] )-ES |
Один из первых вариантов эволюционной стратегии (1+1)-ES был предложен Л.А. Растригиным , гл. 2 (где этот алгоритм был назван локальным поиском с пересчетом при неудачном шаге ). И. Реченберг |
сформулировал более общие вычислительные схемы эволюционных стратегий, которые и приводятся ниже. Прежде, чем дать описание алгоритмов, определим один вспомогательный оператор. Пусть оператор [MATH] из данной на вход популяции генотипов (численностью не менее [MATH] ) выбирает без повторений [MATH] особей с наибольшей ... |
Общая схема алгоритмов [MATH] -ES и [MATH] -ES 1. Построить [MATH] 2. Для [MATH] до [MATH] выполнять: 2.1 Для [MATH] до [MATH] выполнять 2.1.1, 2.1.2: |
2.1.1 Выбрать [MATH] с равномерным распределением из [MATH] 2.1.2 Положить [MATH] 2.2 Положить [MATH] 2.3 [MATH] 3. Результат – наиболее приспособленный из найденных генотипов [MATH] |
Эволюционные стратегии изначально были предложены для задач непрерывной оптимизации, где [MATH] имеет мощность континуума. В таких задачах часто используются операторы мутации |
[MATH] с нормально распределенным случайным шагом: [EQUATION] где [MATH] [MATH] [MATH] – независимые нормально распределенные случайные величины со стандартным отклонением [MATH] (это настраиваемый параметр алгоритма) и нулевым математическим ожиданием. |
При решении задач дискретной оптимизации, как правило, используется оператор мутации из КГА. В таком случае алгоритмы обозначаются как ( [MATH] )-EA, ( [MATH] )-EA, соответственно. |
11 Сходимость эволюционных алгоритмов Введем обозначение для целевой функции от фенотипа лучшей особи на поколении [MATH] [EQUATION] |
Определение 11.1 Будем говорить, что популяция ЭА сходится к оптимуму в задаче (1) почти наверное, если [MATH] почти наверное (п.н.) при [MATH] |
Для задачи (2) сходимость популяции ЭА к оптимуму п.н. определяется аналогично. Поведение ЭА, отвечающего приведенной выше общей схеме, может быть описано цепью Маркова. Дальнейший анализ ЭА мог бы быть осуществлен с помощью классической теории конечных марковских цепей (см., например, |
). Тем не менее, многие важные результаты гораздо компактнее могут быть получены непосредственным изучением ЭА элементарными средствами теории вероятностей. |
Определение 11.2 (классификация операторов ЭА) 1. Оператор селекции [MATH] будем называть невырожденным, если существует такое [MATH] , что при любых [MATH] [MATH] |
[EQUATION] 2. Пусть [MATH] обозначает множество оптимальных генотипов. Оператор воспроизведения [MATH] будем называть связывающим, если существует [MATH] , такое что для любых |
[MATH] [MATH] найдется последовательность генотипов [MATH] , где [MATH] [MATH] и при всех [MATH] имеем [EQUATION] 3. Оператор выживания [MATH] будем называть невырожденным, если существует [MATH] , такое что для любого [MATH] |
[EQUATION] 4. Оператор выживания [MATH] будем называть консервативным, если для любых [MATH] [MATH] выполняется [EQUATION] В данном определении, виду марковских свойств, мы пользовались обычными вероятностями для результатов случайных операторов, вместо условных вероятностей, зависящих от предыстории работы алгоритма. |
Утверждение 11.1 (об условных вероятностях) Для любых событий [MATH] [EQUATION] если эти условные вероятности определены. Доказывается трехкратным применением формулы из определения условной вероятности. |
Утверждение 11.2 (формула полной условной вероятности) Для любых событий [MATH] альтернатив [MATH] таких, что [MATH] [MATH] , выполнено равенство |
[EQUATION] если эти условные вероятности определены. Доказательство. [EQUATION] Пользуясь определением условной вероятности и тем, что [MATH] для всех [MATH] , приходим к требуемому равенству. Q.E.D. |
Следующая теорема о непрерывности вероятностной меры известна из курса теории вероятностей. Теорема 11.1 Пусть [MATH] – последовательность множеств из сигма-алгебры событий, [MATH] , тогда |
[EQUATION] При кодировке решений задачи ( ) оптимум может не быть представлен в пространстве генотипов. В следующей теореме такая ситуация исключается предположением, что [MATH] |
Теорема 11.2 о сходимости ЭА (Айбен, Аартс, ван Хи, 1989) Пусть [MATH] и функция [MATH] никогда не возвращает значение <<истина>>. Тогда |
1. В случае невырожденной селекции и выживания, при связывающем операторе воспроизведения имеем [EQUATION] (т.е. в ЭА оптимальный генотип порождается с вероятностью единица за конечное число итераций). |
2. В случае выполнения равенства ( 31 ) при консервативном операторе выживания популяция ЭА сходится к оптимуму почти наверное. Доказательство. |
1. Рассмотрим популяцию [MATH] как случайную величину. Как будет видно в дальнейшем, вместо [MATH] можно было бы взять популяцию |
[MATH] на любой другой итерации – это только усложнило бы обозначения. Пусть [MATH] – некоторая вспомогательная (не случайная) популяция и [MATH] – первый ее генотип. |
Пусть [MATH] – число элементов в пути [MATH] от генотипа [MATH] до [MATH] из определения связывающего оператора воспроизведения, и пусть |
[MATH] . Очевидно, [MATH] конечно, т.к. [MATH] конечно. Обозначим через [MATH] событие [MATH] . Рассмотрим условную вероятность [MATH] при наличии генотипов [MATH] на всех итерациях [MATH] от 0 до [MATH] той включительно, получить в новой популяции [MATH] следующий генотип [MATH] . Здесь [MATH] принимает значения от 0 ... |
[MATH] . Покажем, что [MATH] С учетом Утверждения 11.1 об условных вероятностях имеем: [EQUATION] [EQUATION] где [EQUATION] [EQUATION] |
По Утверждению 11.1 [EQUATION] [EQUATION] Покажем, что последний сомножитель положителен. Заметим, что по утверждению 11.2 [EQUATION] |
[EQUATION] [EQUATION] [EQUATION] Здесь суммирование ведется только по тем [MATH] , которые содержат [MATH] ввиду того, что оператор селекции может построить популяцию с [MATH] только если особь [MATH] имелась во входной популяции. Итак, положительность последнего сомножителя в ( 33 ) доказана. |
Аналогичным способом, используя утверждение 11.2 определение связывающего воспроизведения, получаем [MATH] . Следовательно, [MATH] |
Из определения невырожденного оператора выживания с использованием утверждения 11.2 также вытекает, что [MATH] . Таким образом, существует достаточно малая положительная величина [MATH] такая что [MATH] |
Далее, пусть [MATH] будет условной вероятностью при [MATH] попасть в [MATH] на итерации [MATH] , следуя за цепочкой генотипов из определения связывающего воспроизведения: |
[MATH] Заметим, что по лемме 8.3 для любых событий [MATH] [EQUATION] Таким образом, [EQUATION] Оценивая [MATH] с помощью [MATH] , имеем: [MATH] Пусть [MATH] . Тогда |
[MATH] , и [EQUATION] Обозначим через [MATH] событие, состоящее в отсутствии оптимальных генотипов до итерации [MATH] включительно. С учетом леммы 8.3 , марковости операторов ЭА и формулы ( 35 ), для любого [MATH] имеем [MATH] , откуда по индукции заключаем, что |
[EQUATION] Тогда с использованием теоремы 11.1 о непрерывности вероятностной меры получаем: [EQUATION] [EQUATION] 2. В случае, если для любых [MATH] |
[EQUATION] после обнаружения оптимального генотипа, в каждой популяции [MATH] будет присутствовать такой генотип, и значит, порождение оптимума за конечное число итераций обеспечивает сходимость популяции ЭА к оптимуму п.н. Q.E.D. |
Определение 11.3 Оператор воспроизведения [MATH] будем называть положительным, если существует такое [MATH] что для любых [MATH] [MATH] [MATH] |
[EQUATION] Замечание 11.1 Пусть [MATH] и функция [MATH] никогда не возвращает значение <<истина>>. Тогда положительности воспроизведения и консервативности выживания достаточно для сходимости популяции ЭА к оптимуму почти наверное. |
Доказательство аналогично п.1 теоремы 11.2 , т.к., полагая [MATH] , ввиду положительности воспроизведения имеем [MATH] для любой [MATH] |
Примеры. Предположение [MATH] будем считать выполненным. 1. КГА при [MATH] обладает положительным оператором воспроизведения, т.к. при мутации из любого генотипа с ненулевой вероятностью может быть получен любой генотип. |
2. Если в КГА [MATH] или [MATH] , то оператор воспроизведения КГА не является связывающим, и можно привести примеры начальных популяций, начиная с которых КГА не сможет никогда найти некоторые решения. |
3. Если в КГА оператор мутации заменить на одноточечную мутацию в случайно выбранном гене (с равномерным распределением), то оператор воспроизведения будет связывающим и будет применим п.1 теоремы о сходимости ЭА. |
4. К КГА неприменим п.2 теоремы о сходимости ЭА, т.к. оператор выживания не является консервативным и однажды найденное оптимальное решение может быть потеряно. Однако, это свойство может быть достаточно легко обеспечено, например, как это делается в ГА с элитой. |
5. Популяция [MATH] -ES или [MATH] -EA с оператором мутации, который выдает генотип из [MATH] с ненулевой вероятностью (например, при мутации с нормально распределенным шагом), сходится к оптимуму почти наверное, ввиду замечания 11.1 |
Замечание. Свойства сходимости, полученные в последней теореме (хотя бы в смысле п.1, как в КГА), являются желательными для всякого ЭА. Однако даже наличие такой сходимости не дает гарантии "надежной работы" алгоритма, т.к. на практике число выполняемых итераций за реальное время может оказаться слишком мало, чтобы вер... |
Как видно из примера 5, даже самый примитивный алгоритм (1+1)-EA с оператором мутации, имеющим равномерное распределение на множестве генотипов, обладает всеми свойствами сходимости в смысле теоремы |
Subsets and Splits
No community queries yet
The top public SQL queries from the community will appear here once available.