text stringlengths 128 2.05k |
|---|
. Аналогичное мнение высказывает C.R. Reeves: <<Основные принципы отбора, рекомбинации и мутации могут быть полезны при моделировании (хотя и в довольно неточном и упрощенном виде) того, как система приспосабливается к окружающей среде, но в случаях, когда интерес представляет задача оптимизации, эти принципы сами по с... |
Оценка вероятности возникновения требуемого белка в результате мутации Число атомов на земле – порядка [MATH] За один год популяция одной из наиболее быстро размножающейся бактерии e.coli проходит около 2000 поколений. |
Возраст земли – порядка [MATH] лет. Тогда число испытаний в истории развитии популяции бактерий не превышает величины порядка [MATH] |
Длина последовательности в одной молекуле белка может быть около 150 аминокислот, одна аминокислота кодируется триплетом нуклеотидов, т.е. для ее кодировки необходимо 450 нуклеотидных позиций в молекуле ДНК. Было бы серьезным упрощением считать, что заданным требованиям удовлетворяет только |
одна последовательность аминокислот (как, например, в ). Однако можно считать что примерно половина из нуклеотидных позиций (в нашем случае 225 шт.) имеют не больше двух <<подходящих>> нуклеотидов (ср., например, |
), а значит вероятность случайного получения требуемого нуклеотида в такой позиции – не больше 0.5. Тогда вероятность получения подходящего белка целиком при однократном испытании (случайном выстраивании 450 нуклеотидов) оценивается сверху величиной [MATH] . Как было отмечно выше, общее число испытаний можно ограничить... |
Эвристики и метаэвристики. Эвристика (от греч. еуриско - обнаруживаю) - метод решения, основанный на неформальных, интуитивных соображениях, не гарантирующий получения наилучшего решения. Попытки систематизировать эвристики принадлежат Р.Декарту, Г.В.Лейбницу, Б. Больцано. (За основу взято определение из Словаря по киб... |
Метаэвристика – эвристика с универсальной схемой, применимой для поиска приближенных решений различных оптимизационных задач и представляющая собой итерационный процесс, в котором многократно используются подчиненные эвристики, учитывающие особенности задачи. |
В метаэвристике могут использоваться различные принципы исследования пространства решений и стратегии адаптации для учета полученной информации. |
На каждой итерации метаэвристики могут выполняться операции с единственным текущим решением (или частичным решением), либо с набором (популяцией) решений. Подчиненные эвристики могут быть процедурами высокого или низкого уровня, простым локальным поиском, градиентным методом построения решения или классическими оптимиз... |
Генетические алгоритмы (ГА) наряду с алгоритмами имитации отжига, поиска с запретами и муравьиной колонии и др. относятся к классу метаэвристик. |
Глава 1 Классический генетический алгоритм Генетический алгоритм (ГА) представляет собой эвристический алгоритм оптимизации, в основу которого положены биологические принципы естественного отбора и изменчивости. Процесс работы алгоритма представляет собой последовательную смену поколений, состоящих из фиксированного чи... |
При использовании генетического алгоритма для поиска в дискретном пространстве [MATH] , каждой строке из [MATH] символов некоторого алфавита [MATH] должен быть сопоставлен элемент пространства [MATH] т.е. определена функция [MATH] , (называемая также схемой представления ), где [MATH] . Строки [MATH] принято называть г... |
В классическом генетическом алгоритме (КГА) используется двоичный алфавит [MATH] Популяцией [MATH] численности [MATH] является вектор пространства [MATH] , координаты которого называются генотипами особей (индивидов) данной популяции. Как правило, нумерация особей популяции не имет значения. Численность популяции |
[MATH] фиксирована от начала работы алгоритма до конца. Предполагается, что [MATH] – четное. Целевая функция [MATH] исходной задачи заменяется в ГА на функцию приспособленности генотипа |
[MATH] , где [MATH] . Здесь [MATH] некоторая монотонно возрастающая функция. В биологической интерпретации функция приспособленности отражает степень приспособленности индивида с генотипом [MATH] к условиям "окружающей среды заданным функцией [MATH] . При этом максимумы целевой функции соответствуют наиболее приспособл... |
Лучший из найденных генотипов к поколению [MATH] будем обозначать через [MATH] [EQUATION] Приведем общую схему генетического алгоритма с полной заменой популяции . Этой схеме соответствует, в частности, КГА. Используемые здесь вероятностные операторы [MATH] [MATH] [MATH] будут описаны ниже. |
Генетический алгоритм с полной заменой популяции 0. Положить [MATH] 1. Для [MATH] от 1 до [MATH] выполнять: 1.1. Построить случайным образом генотип [MATH] |
2. Для [MATH] от 1 до [MATH] выполнять шаги 2.1-2.3: 2.1. Селекция: выбрать генотипы [MATH] [MATH] 2.2. Скрещивание: построить [MATH] |
2.3. Мутация: положить [MATH] 3. Положить [MATH] 4. Если [MATH] , то идти на шаг 2, иначе – на шаг 5. 5. Результатом работы КГА является лучшее из найденных решений [MATH] |
Поясним приведенную схему. На этапе инициализации (шаги 0 и 1) формируется начальная популяция [MATH] , элементы которой генерируются в соответствии с равномерным распределением на множестве генотипов [MATH] , т.е. |
[MATH] Вероятностный оператор селекции особей на пространстве популяций [MATH] имеет то же значение, что и естественный отбор в природе. Действие этого оператора состоит в выборе номера родительской особи для построения очередного потомка. Генотип [MATH] с номером [MATH] из популяции [MATH] оказывается родительской осо... |
популяции [MATH] с вероятностью [EQUATION] Если окажется, что [MATH] , то есть все генотипы имеют нулевую приспособленность, условимся выбирать номер особи с равномерным распределением из 1,…, [MATH] |
В алгоритме не исключается выбор [MATH] одновременно в качестве [MATH] [MATH] на шаге 2.1. Описанный оператор Sel иногда также называют селекцией методом рулетки |
. Предположим, что колесо рулетки разбито на [MATH] секторов, причем сектор [MATH] соответствует особи [MATH] и имеет радианную меру [MATH] . Тогда селекцию особи [MATH] можно представлять, как выбор [MATH] -го сектора на колесе рулетки. |
Данный оператор селекции также называется пропорциональным связи с тем, что при фиксированном составе популяции вероятность выбора особи в качестве родителя пропорциональна ее приспособленности. |
Процедуры кроссинговера и мутации. Опишем двуместный оператор кроссинговера (скрещивания) [MATH] и одноместный оператор мутации [MATH] , действие которых носит случайный характер. |
Результат кроссинговера [MATH] вероятностью [MATH] формируется в виде [EQUATION] [EQUATION] где случайная координата скрещивания [MATH] выбрана c равномерным распределением от 1 до [MATH] . С вероятностью |
[MATH] оба генотипа сохраняются без изменений, т.е. [MATH] . Влияние оператора кроссинговера регулируется параметром [MATH] . Данный оператор принято называть одноточечным кроссинговером |
Оператор мутации в каждой позиции генотипа с заданной вероятностью [MATH] изменяет ее содержимое. В противном случае ген остается без изменений. Таким образом, мутация элементов генотипа происходит по схеме Бернулли с вероятностью успеха [MATH] |
Изменение вероятностей мутации и кроссинговера позволяет регулировать работу KГА и настраивать его на конкретные задачи. Увеличение вероятности мутации до 0.5 превращает КГА в простой случайный перебор, имеющий весьма ограниченное применение (см. |
, § 6.1). Уменьшение же [MATH] до нуля приводит к малому разнообразию генотипов в популяции и может вызвать <<зацикливание>> КГА, когда на каждой итерации генерируются лишь ранее встречавшиеся генотипы. Величины [MATH] [MATH] также могут существенно влиять на скорость сходимости популяции к решениям приемлемого качеств... |
). Настраиваемые параметры КГА выбирают, как правило, в следующих диапазонах: [MATH] В отличие от большинства представителей животного мира, особи генетических алгоритмов имеют не двойной хромосомный набор (диплоидный), а одинарный (гаплоидный), т.к. хранение дублирующих друг друга генотипов, полученных потомком от обе... |
Способы кодировки решений, примеры использования КГА Рассмотрим задачу оптимизации с ограничениями: [EQUATION] где [MATH] – область допустимых решений. |
1.1 Максимизация функции [MATH] Здесь [MATH] Воспользуемся бинарной кодировкой решений: [MATH] [EQUATION] При [MATH] полагаем [MATH] иначе: [MATH] |
1.2 Задача о разрезе максимального веса. Дан граф [MATH] , каждому ребру приписан вес [MATH] . Найти разрез [MATH] , максимального веса |
[EQUATION] Данная задача [MATH] -трудна Здесь [MATH] . Кодировка определяется так: [MATH] [MATH] [MATH] Очевидно, операторы Mut Cross сохраняют допустимость решений, поэтому они могут быть использованы непосредственно без каких-либо усовершенствований. |
Есть одна сложность – вырожденность кодировки (иногда называют "конкуренцией конвенций"), т.к. один и тот же разрез [MATH] может быть представлен двумя способами (либо 1 кодирует вершину, лежащую в [MATH] , либо в [MATH] ). Такая неоднозначность может привести к снижению эффективности работы ГА и бессмысленности скрещи... |
1.3 Применение КГА в непрерывной оптимизации, способы кодировки решений, геометрический смысл кроссинговера Случай [MATH] Если [MATH] ограничено, его можно дискретизовать, например, путем введения достаточно мелкой регулярной сетки. При этом задача сводится к поиску оптимума на дискретной решетке в некотором [MATH] -ме... |
[EQUATION] Одним из наиболее "естественных" способов кодировки представляется стандартная двоичная кодировка координат векторов в строке генотипа. |
Пример: (001 010 011 100) [MATH] (1,2,3,4). В общем виде: [EQUATION] Здесь предполагается, что на кодирование каждой координаты используется |
[MATH] бит, и подстрока [MATH] кодирует [MATH] -ю координату, [MATH] Утверждение 1.1 (О геометрическом смысле кроссинговера (Р.Т. Файзуллин |
Пусть [MATH] – номера генов, с которых начинается кодировка 2,3,…, [MATH] -й координат вектора фенотипа из [MATH] Тогда если найдется такой [MATH] , что [MATH] , то результат скрещивания [MATH] может быть получен некоторым поворотом [MATH] родительских фенотипов [MATH] , оставляющим неподвижной точку [MATH] . Т.е. |
[MATH] [MATH] . При этом середина отрезка, соединяющего родительские фенотипы, [MATH] остается неподвижной, т.е. [MATH] Доказательство. Будем искать оператор [MATH] |
в виде следующего аффинного преобразования: [EQUATION] Случай 1. При [MATH] четном предположим, что [MATH] - диагональная матрица с [MATH] единицами в начале диагонали, далее заполненная четным числом символов [MATH] . С помощью непосредственной проверки легко убедиться, что отображением [MATH] с матрицей указанного ви... |
[EQUATION] [EQUATION] а для всех [MATH] , таких что [MATH] , имеем [EQUATION] [EQUATION] То есть, представление ( ) корректно. Рассмотрим 3-мерное подпространство, образованное координатами |
[MATH] , при любом [MATH] . В этом подпространстве действие кроссинговера описывается диагональной подматрицей матрицы [MATH] с диагональю (1,-1,-1), задающей поворот вокруг оси [MATH] на угол [MATH] . Преобразование матрицы [MATH] есть композиция таких поворотов, следовательно, [MATH] |
является поворотом в [MATH] Случай 2. При [MATH] нечетном рассмотрим матрицу [MATH] вида [MATH] 0 . . . 0 0 . . . 0 [MATH] [MATH] |
0 . . . 0 0 . . . 0 [MATH] [MATH] 0 . . . 0 0 . . . 0 [MATH] где [MATH] , а единичные матрицы [MATH] [MATH] имеют размерости [MATH] [MATH] соответственно. Непосредственная проверка, подобная сделанной в случае 1, показывает что отображение [MATH] с матрицей указанного вида дает тот же результат, что и оператор кроссинг... |
Рассмотрим 2-мерное подпространство, образованное координатами [MATH] : здесь матрица [MATH] задает поворот на угол [MATH] вокруг начала координат. Во всех 3-мерных подпространствах, образованных координатами [MATH] , при [MATH] преобразование [MATH] является поворотом вокруг оси [MATH] на угол [MATH] , как и в случае ... |
1.4 Примеры применения КГА для задач с ограничениями Учет ограничений задачи. Существует несколько подходов к обработке точек из [MATH] |
a) Использование штрафной функции. Существует следующий простейший способ, который всегда применим: [MATH] при [MATH] , иначе [MATH] , где [MATH] – достаточно большая константа. Недостаток: все точки вне допустимой области одинаково плохи и ГА не имеет информации о близости недопустимой точки к [MATH] . Во многих задач... |
Другие более эффективные способы использования штрафов (см., например, ) состоят в "градации недопустимости" решений. Например, если область [MATH] задана системой неравенств |
[MATH] , в качестве штрафной функции может быть использована [MATH] , где [MATH] достаточно велико. Далее полагают [MATH] . Желательно, чтобы выполнялось условие |
[MATH] для любого [MATH] такого, что [MATH] Можно воспользоваться и классическим способом сведения задач математического программирования к задачам безусловной оптимизации. Для этого рассматривается возрастающая последовательность (теоретически возрастающая до бесконечности) |
[MATH] Для каждого [MATH] решается задача (1) где [MATH] [MATH] найдена при [MATH] . Величина [MATH] задает число "больших" итераций алгоритма и выбирается исходя из значимости выполенения ограничений. Естественно при этом каждый новый запуск ГА осуществлять не со случайной начальной популяции, а с последней популяции ... |
[MATH] можно понимать как изменение "окружающей среды" с точки зрения эволюции популяции). b) Корректировка недопустимых решений – с помощью методов непрерывной оптимизации или каких-либо эвристик, стартуя с недопустимого решения [MATH] , находят некоторое допустимое решение [MATH] |
c) Выбор подходящей кодировки, при которой [MATH] (пример – рассмотренная выше задача о разрезе максимального веса). Пример 3. Если [MATH] – множество точек шара, то недопустимые решения могут проецироваться на границу шара и после этого кодироваться как особи новой популяции. |
Пример 4. Задача целочисленного линейного программирования (ЦЛП) Рассматривается задача ЦЛП следующего вида: найти [EQUATION] при условиях |
[EQUATION] [EQUATION] Здесь [MATH] [MATH] - матрица, [MATH] . Далее предполагается, что множество [MATH] , определяемое системой неравенств ( ), ограничено. Будем называть вектор целочисленным, если все его компоненты целочисленны. |
Общая схема ГА может быть легко адаптирована для задач целочисленного линейного и нелинейного программирования. Ограничимся рассмотрением ГА для задачи ЦЛП. |
Многогранник допустимых решений погружается в [MATH] -мерный параллелепипед [MATH] с минимальным объемом. Границы параллелепипеда [MATH] |
могут быть найдены решением [MATH] соответствующих задач ЛП. Минимальная длина битовой строки для кодировки координаты [MATH] целочисленной точки из [MATH] имеет вид [MATH] . При кодировке допустимым целочисленным точкам в |
[MATH] сопоставляются элементы [MATH] , состоящие из [MATH] последовательно записанных двоичных представлений координат: [EQUATION] |
Таким образом, пространство генотипов [MATH] есть [MATH] Оператор мутации вводится стандартным образом, а схема кроссинговера может быть адаптирована для данной задачи с помощью дополнительного условия: [MATH] . (Строго говоря, при такой модификации алгоритм уже не является КГА.) |
Функция приспособленности [MATH] может быть определена по-разному. Определим вспомогательную функцию [EQUATION] где [MATH] – сумма нарушений системы ограничений ( для точки [MATH] [MATH] – некоторая положительная константа, величина которой достаточна, чтобы выполнялось [MATH] для всех [MATH] , таких что [MATH] |
Функция приспособленности может быть выбрана следующим образом [EQUATION] где [MATH] – среднее и минимальное значения функции [MATH] на текущей популяции [MATH] . Легко видеть, что определенная таким образом функция [MATH] |
неотрицательна и неубывает с ростом [MATH] . Отметим, что такой вариант функции приспособленности позволяет решать с помощью ГА задачи без ограничения на знак целевой функции. |
Решение задачи линейного программирования )-( ) назовем непрерывным оптимумом. Модификация КГА: индивиды первого поколения порождаются с помощью [MATH] -мерного нормального распределения с математическим ожиданием в точке непрерывного оптимума и с последующим округлением дробных координат. |
Эксперимент показал, что если вероятность мутации достаточно велика, дисперсия начального распределения может быть установлена равной нулю. Кроме того, выяснилось, что как правило ГА относительно быстро (по сравнению с точными алгоритмами, например, Гомори) обнаруживает допустимые решения, близкие к оптимальному по цел... |
, сочетающий ГА с перебором [MATH] -классов. Пример 3. Простейшая задача размещения производства. Рассматриваается следующая задача оптимального размещения, известная также как задача стандартизации |
. Пусть имеется возможность построить [MATH] предприятий, каждое из которых может обслуживать любого из [MATH] клиентов. При этом открытие [MATH] -го предприятия ( [MATH] ) стоит [MATH] единиц, а обслуживание [MATH] -го клиента ( [MATH] ) на предприятии [MATH] |
обходится в [MATH] единиц стоимости. Задача состоит в минимизации функционала [EQUATION] при условии, что [EQUATION] где [MATH] . Решение [MATH] представляет собой оптимальный вектор - набор предприятий при поставленных условиях, причем по вектору [MATH] легко могут быть назначены и оптимальные прикрепления клиентов к ... |
[MATH] Не теряя общности, можно предположить, что все [MATH] , т.к. при [MATH] предприятие [MATH] можно включить в вектор [MATH] решения задачи в обязательном порядке – полученный после этого план обслуживания будет оптимален. При этом, если предприятие [MATH] не оказалось назначенным ни для одного клиента, его можно и... |
Опишем схему КГА в применении к простейшей задаче размещения. В качестве генотипа удобно взять вектор предприятий [MATH] . В таком случае пространство генотипов совпадает с пространством фенотипов и отображение [MATH] – тождественное. Для определения функции приспособленности необходимо исходную задачу минимизации с ог... |
[EQUATION] Очевидно, что тогда любой допустимый вектор пространства решений имеет бо́льшую приспособленность [MATH] , чем нулевой недопустимый вектор. Операторы мутации и кроссинговера полностью соответствует КГА. |
Другой возможный подход: ГА с недвоичным представлением, где [MATH] [MATH] Кодировка: предприятие [MATH] обслуживает клиента [MATH] тогда и только тогда, когда [MATH] , и если хотя-бы один клиент обслуживается предприятием [MATH] , то полагаем [MATH] Данная модификация генетического алгоритма уже не укладывается в схем... |
ТЕОРЕМА О СХЕМАХ Схемой [MATH] [MATH] фиксированными позициями будем называть множество генотипов [EQUATION] Число [MATH] принято называть порядком схемы. Длиной [MATH] |
схемы [MATH] будем считать расстояние между крайними фиксированными позициями, т.е. [MATH] . По определению полагаем [MATH] . Очевидно, что при заданной кодировке любая точка пространства состояний является частным случаем схемы порядка [MATH] |
Ввиду того, что одним генотипом могут обладать несколько особей популяции, далее удобно ввести обозначение [MATH] для числа представителей схемы [MATH] в поколении [MATH] , аналогично |
[MATH] – число представителей генотипа [MATH] в поколении [MATH] . Введем специальное обозначение для среднего значения функции приспособленности на особях схемы [MATH] в поколении [MATH] |
[EQUATION] Рассмотрим оценку среднего числа представителей схем среди особей нового поколения, иногда называемую теоремой о схемах или фундаментальной теоремой генетических алгоритмов |
Теорема 2.1 Пусть [MATH] – схема порядка [MATH] и величина [MATH] такова, что [MATH] Тогда в классическом генетическом алгоритме |
[EQUATION] Доказательство. Будем рассматривать очередную итерацию КГА с номером [MATH] в вероятностном пространстве, определенном описанной выше схемой КГА, его параметрами и совокупностью особей популяции [MATH] . Для начала рассмотрим вероятность того, что выбранный при селекции генотип принадлежит [MATH] . Она имеет... |
[EQUATION] Кроме оператора селекции необходимо учитывать также действие мутации и кроссинговера, которые могут разрушать, а могут и создавать особи схемы [MATH] . Для получения искомой нижней оценки будем рассматривать только возможность разрушения элементов схемы [MATH] . Рассмотрим случайную величину [MATH] равную 1,... |
[EQUATION] С этой целью введем вспомогательную случайную величину [MATH] для каждого [MATH] . Пусть [MATH] равна единице, если при построении [MATH] на этапе кроссинговера все гены с номерами [MATH] были скопированы из одной родительской особи, принадлежащей [MATH] , и кроме того, при мутации ни один из этих генов не б... |
Заметим, что неравенство ( 12 ) дает оценку вероятности того, что родительский генотип, откуда при кроссинговере была скопирована позиция [MATH] , принадлежал [MATH] . Введем обозначение для следующего события: [MATH] . Вероятность того, что при мутации ни один бит, отвечающий за принадлежность к схеме [MATH] , не изме... |
независимости события кроссинговера от всех других событий в ГА, имеем [EQUATION] Из определения кроссинговера вытекает, что [MATH] следовательно, |
[EQUATION] Далее, из того что для любого [MATH] выполняется [MATH] , с учетом ( 13 получаем ( 11 ). Q.E.D. Таким образом, при выборе кодировки решений разработчик ГА должен стремиться к тому, чтобы перспективные свойства решений были бы представлены в генотипе в виде как можно более коротких участков хромосм. В таком с... |
Пример 1. Рассмотрим случай, когда число представителей схемы [MATH] , состоящей из близких к оптимуму генотипов, увеличивается. Пусть используется стандартная двоичная кодировка решений [MATH] для функции [MATH] |
[MATH] [MATH] Очевидно, [MATH] . Если фиксировать [MATH] первых единиц, [MATH] , то в случае, когда начальная популяция содержит всевозможные генотипы по одному экземпляру, имеем |
[EQUATION] [EQUATION] С другой стороны, [MATH] Поэтому получаем оценку снизу: [EQUATION] т.к. [MATH] [MATH] при [MATH] Таким образом, пусть [MATH] |
[MATH] . Тогда теорема о схемах дает: [EQUATION] и при больших [MATH] правая часть приближается к [MATH] что при [MATH] превышает 1, т.е. при достаточно малой вероятности мутации имеет место рост числа представителей схемы |
[MATH] в среднем. Например, при [MATH] получаем [MATH] Пример 2. Если же фиксировать [MATH] последних единиц (обозначим такую схему [MATH] ), то |
[EQUATION] и, следовательно, [EQUATION] при [MATH] правая часть стремится к 1, т.е., при больших длинах [MATH] и существенно меньших [MATH] теорема о схемах не будет гарантировать рост числа представителей [MATH] . Например, при |
[MATH] [MATH] получаем [EQUATION] В произведении со множителями, отвечающими за мутацию и кроссинговер, результат, скорее всего, уже будет меньше 1. |
Анализ разнообразия популяции Пусть [MATH] – некоторая позиция в генотипе. Обозначим [MATH] и рассмотрим величину [EQUATION] как характеристику "качества" нулевого значения гена в позиции |
[MATH] и его распространения в популяции [MATH] Получим формулы, определяющие зависимость между вероятностью вырождения гена в позиции [MATH] от параметров генетического алгоритма. Заметим, что [MATH] есть вероятность выбора особи, принадлежащей [MATH] из популяции [MATH] при пропорциональной селекции. |
Теорема 3.1 Для любого значения [MATH] в КГА: [EQUATION] [EQUATION] Доказательство. Рассмотрим подробно только равенство 16 ), так как доказательство ( 17 проводится аналогично. Рассчитаем вероятность того, что для каждого [MATH] имеет место [MATH] |
[MATH] , т.е. пара передаваемых в популяцию [MATH] особей будет иметь нулевое значение в позиции [MATH] Обозначим, соответственно, [MATH] [MATH] генотипы этих особей перед применением к ним оператора мутации. Тогда |
Subsets and Splits
No community queries yet
The top public SQL queries from the community will appear here once available.