Курейчик Виктор Михайлович
Технологический институт федерального государственного образовательного учреждения высшего профессионального образования «Южный федеральный университет» в г. Таганроге.
E-mail: [email protected].
347928, г. Таганрог, пер. Некрасовский, 44.
Тел.: 8(8634)393-260.
Заместитель руководителя по научной работе; профессор.
Kureychik Viktor Mihailovich
Taganrog Institute of Technology - Federal State-Owned Educational Establishment of Higher Vocational Education “Southern Federal University”.
E-mail: [email protected].
44, Nekrasovskiy, Taganrog, 347928, Russia.
Phone: 8(8634)393-260.
Deputy head on scientific work; professor.
УДК 519.7:004.8 + 004.8.023; 004.81.85
B.B. Курейчик, B.M. Курейчик, С.И. Родзин
КОНЦЕПЦИЯ ЭВОЛЮЦИОННЫХ ВЫЧИСЛЕНИЙ, ИНСПИРИРОВАННЫХ ПРИРОДНЫМИ СИСТЕМАМИ*
В статье выдвигаются гипотезы и устанавливаются закономерности эволюционных . , предлагается их общая модель. Разрабатывается структура системы и базовый цикл алгоритма эволюционных вычислений.
Эволюционные вычисления; концепция;репродукция; селекция.
V.V. Kureichik, V.M. Kureichik, S.I. Rodzin
CONCEPT EVOLUTIONARY COMPUTATION IS INSPIRED BY NATURAL
SYSTEMS
The paper puts forward a hypothesis and establish regularities of evolutionary computation. Formulated the basic provisions and concepts of evolutionary computation, the total proposed model. A system structure and the basic cycle of evolutionary computation algorithm. Evolutionary computation, vision, reproduction, selection.
Введение. Термин «эволюционные вычисления» (ЭВ) в искусственном интеллекте подразумевает использование для решения разнообразных задач проектирования, оптимизации, прогнозирования и управления совокупности алгоритмиче-, , , основанных на имитации механизмов эволюции для синтеза структур обработки , -онном приближении к искомому решению [1]. Идеи эволюции и самоорганизации оказались чрезвычайно плодотворными и на практике доказали свою непримитив-.
* Работа выполнена при поддержке: РФФИ (гранты № 07-01-00174, № 09-01-00492), г/б № 2.1.2.1652.
В моделях и алгоритмах ЭВ ключевым элементом конструкции являются построение начальной модели и правил, по которым она может изменяться (эволюционировать). В течение последних 50 лет были предложены разнообразные схемы ЭВ: генетический алгоритм, генетическое программирование, эволюционные стратегии, эволюционное программирование, модели поведение роя пчел, стаи птиц и , -. -ход к построению ЭВ, инспирированных природными системами [2].
Г ипотезы эволюционных вычислений.
Гипотеза 1. В отличие от точных методов математического программирова-, -мое время; в отличие от других эвристических методов оптимизации алгоритмы ЭВ характеризуются существенно меньшей зависимостью от особенностей прило-, -жения к оптимальному решению.
Гипотеза 2. Универсальность ЭВ определяется также их применимостью к решению разнообразных прикладных задач, у которых фазовое пространство переменных не обязательно является метрическим.
Гипотеза 3. Алгоритмы ЭВ, с точки зрения преобразования информации, представляют собой не просто случайный поиск, а последовательное преобразование множества решений, поскольку используют информацию, накопленную в про.
Гипотеза 4. Эволюционное моделирование представляет собой экспериментальный способ решения задач, в которых связь оптимизируемых параметров объектов с управляемыми и наблюдаемыми параметрами сложна и не всегда может быть выражена аналитически.
Гипотеза 5. Применение ЭВ эффективно в задачах, где необходимо получить всю историю поведения системы, ее эволюцию в целом.
Сопоставительный анализ различных базовых моделей ЭВ, гипотез, лежащих в основе этих моделей, и формализованных способов их описания позволяет говорить о следующих закономерностях.
1. , -спирированных природными системами, является построение начальной модели, а также правил, по которым она эволюционирует, и подходов к представлению (ко) .
2. -
, , , могут быть лингвистическими и не иметь количественного выражения.
Закономерность 3. ЭВ моделируют процесс поиска оптимальных решений посредством эволюционных операторов селекции, репродукции, мутации и др., поддерживают популяцию структур, которая эволюционируют в окружающей среде в соответствии с операторами. Селекция фокусирует внимание на отборе индивидуумов с более высокими значениями целевой функции, а репродукция, мутация и другие операторы генерируют новых индивидуумов.
4. , , -
нок имеют наибольшую степень сходства с моделями эволюционных стратегий и
. : решений в конкурирующих эвристических моделях равен единице или двум; поиск решений ведется локально от точки к точке; мутация является единственным опе-, .
5. -
ные эвристические процедуры, не имеют ограничений на вид целевой функции.
Закономерность 6. Популяция в моделях ЭВ играет роль памяти о структуре пространства поиска решений. Память не обязательно ограничивается лишь последними лучшими решениями.
Закономерность 7. Используя различные механизмы, инспирированные природными системами, например, «план охлаждения» в модели отжига, или аналогичные механизмы в пороговой и потоковой моделях, в модели рекордных оценок, можно эффективно управлять скоростью сходимости процесса поиска. Однако эти процедуры не обладают свойством параллелизма, который, наоборот, является отличительной чертой генетических и роевых моделей.
Закономерность 8. Модели ЭВ являются инструментом исследования, способным конкурировать с другими методами поиска оптимальных решений по качеству получаемых решений в сочетании с трудоемкостью их получения.
Закономерность 9. Различия в базовых моделях ЭВ не носят методологический характер и не затрагивают фундаментальные принципы, присущие эволюции независимо от формы и уровня абстракции модели.
Это позволяет говорить о возможности значительного расширения круга за, , построить общую универсальную концепцию эволюционных вычислений.
Основные положения концепции эволюционных вычислений.
1. -тур происходит посредством процессов циклического вычисления и оценки функции качества синтезируемых решений с последующей их селекцией и репродукци-.
структур и зависит от их текущих характеристик.
, , эволюционируют в соответствии с правилами отбора и другими операторами по-
( , ). -чение его приспособленности (пригодности) к окружающей среде.
Воспроизводство фокусирует внимание на индивидуумах с более высокими , . и мутация влияют на индивидуумов, предоставляя тем самым базовую эвристику .
2. , -
ными возможностями и адаптивными механизмами поиска.
, , то предлагаемой единая универсальная концепция включает и поддерживает сле-.
3. -
тропии системы могут иметь различную скорость. Между ними возникает своеоб-, ( ) -пии или в сторону ее снижения, хотя в целом согласно второму закону термодинамики энтропия растет неизбежно, из чего следует необратимость многих естественных процессов (система не может однозначно вернуться в предыдущее состоя). , -, . информацию нельзя отождествлять с энтропией: процесс роста энтропии необратим и относится к окружающей среде, а информация - к объекту или системе.
Положение 4. Баланс самоорганизации в природных системах может склоняться к снижению энтропии. Это может произойти под влиянием фундаментальных природных процессов в случае возникновения детерминированного алгорит-,
внешней среды (в неживой природе также существуют замкнутые алгоритмы по). ,
.
Положение 5. Рано или поздно спонтанно образовавшийся алгоритм последовательных природных процессов неизбежно прерывается - следствие предпосылки о неизбежном росте энтропии. Следовательно, эволюционировать может
( ),
репродукции и подвержены изменчивости. Процессы репродукции и отбора нетрудно обобщить на любые самоорганизующиеся системы. Например, эти процессы автоматически действуют в социальных системах. Люди, машины, технологии, системы управления и т.д. всегда сравниваются и отбираются в этих системах. Невозможно найти хотя бы один факт, когда эволюционировали бы системы, которые не имеют этого алгоритма.
6. -накова. Имеются как практически неизменные элементы, так и элементы, которые , , .
, -ни, в зависимости от ее ценности для выживания. Если в системе произошли изменения и они благоприятны или безразличны для нее, то они остаются в ней и с течением времени становятся все менее и менее доступными для последующих изменений. Это объясняет необратимость и направленность эволюции - большую , , -ходят одновременно с изменениями во внешней среде, причем в соответствующем направлении. Однако если условия окружающей среды не меняются, то для изменчивости нет причин. Природа нашла выход из этого затруднения, «перемешивая» некоторую часть наследственной информации при размножении организмов.
Сопоставительный анализ основных положений ЭВ и базовых моделей, инспирированных природными системами, позволяет построить следующую универсальную конфигурацию элементов, характеризующих общую модель ЭВ в виде, представленном на рис. 1.
Селе*
Пространство Ро (начальная популяция), параметры модели
Пространство объектов X (фенотип)
Композиция операторов А
Кодовое пространство решений в (генотип)
Критерий
качества
(оптимально ста) Р
Рис. 1. Общая модель эволюционных вычислений
Рисунок (см. рис. 1) иллюстрирует положения единой концепции и основные элементы конфигурации универсальной модели эволюционных вычислений.
Суть единой универсальной концепции ЭВ сводится к следующему. Фиксируется множество объектов X (популяция решений), обладающих некоторыми параметрами и связанных друг с другом посредством определенной структуры. Среди этих объектов необходимо выбрать наилучшие в смысле некоторого критерия качества (оптимальности) F. Критерий оптимальности формируется на основе свойств объектов и не обязательно существует в виде аналитических выражений.
,
F: X -*• Я,
где Я - множество действительных чисел и каждому объекту х е X из множества X сопоставляется значение критерия F(х).
Фенотипическая природа исследуемого множества объектов произвольна, поэтому необходимо построить кодированное представление исходного множества объектов в другом, конечном множестве, обладающем структурой, например, векторного пространства £ (генотип).
Отображение вида
(р: X —► £
описывает связь между исследуемыми объектами, которые выступают в качестве потенциальных решений задачи поиска и объектами, управление и манипулирование которыми осуществляет алгоритм ЭВ. Существует обратное отображение вида
(р-1: £ -► X
и каждому вновь сгенерированному элементу представления 5 е £ соответствует элемент во множестве X.
, ,
построении множества объектов-решений Xopt е X, для которых выполняются следующие условия:
Xopt = argmaх F [(р'1^)], 5 е £.
Таким образом, в процессе оптимизации множество X развивает ся и эволюционирует к оптимальному состоянию, изменяя свой состав и параметры входящих в него объектов. Способ построения множества объектов 5 е £ определяется алго-.
Особенностью моделей ЭВ является то, что в качестве множества £ строится так называемое кодовое пространство - множество представлений объектов х в виде кодов (хромосом). Эволюция множества Xзадается эволюцией представления £. На множестве £ определяется подмножество Р0 - случайная начальная популяция. Решение на каждом шаге эволюции определяется следующей разностной вы:
Р+1 = А(Р),
где А - композиция различных эволюционных операторов. Критерий оптимальности вычисляется на каждом шаге вместе с критерием отбора решений, реализуемым в композиции операторов А.
,
ЭВ, инспирированных природными системами, относится к реализации системы
,
к широкому кругу прикладных задач. Идея опирается на описанную выше общую
модель ЭВ, согласно которой алгоритмы ЭВ работают не в исходном множестве , .
Наш замысел состоит в следующем. Универсальная концепция эволюционных вычислений предполагает, что оптимизируемая (синтезируемая) модель и эволюционный алгоритм разделены, а система эволюционных вычислений и модели, . 2.
Рис. 2. Структура системы эволюционных вычислений
В данном случае математическая природа прикладной модели не имеет значения. Модель получает от алгоритма очередной набор значений параметров, характеризующих решения X = (х1, х2,..., хп) и выдает соответствующее значение функции качества F(X). Данное значение используется алгоритмом ЭВ при отборе и формировании новых решений. Процесс останавливается, когда текущий набор значений решений удовлетворяет заданному критерию, т.е. найдено оптимальное решение Xopt = (х1орЬ х2ор„ ■■■, хпор).
Представленная на рисунке (см. рис. 2) структура системы эволюционных вычислений является адаптивной, так как в ней предусмотрена возможность системы модифицировать свое поведение для достижения лучших результатов. Эта возможность реализуется за счет того, что алгоритм ЭВ получает постоянную информацию о текущем состоянии модели, сравнивает текущее решение с желательным или оптимальным, ищет новые решения, инициируя их поиск.
Из общей модели ЭВ (см. рис. 1) и структуры системы ЭВ, показанной на рисунке (см. рис. 2), следует общий принцип - выявление состояния, принятие решения на изменение состояния и сама эволюция. Этот принцип составляет сущность любого саморазвивающегося механизма.
,
ЭВ позволяют приступить к разработке компьютерных вариантов и инструментария системы ЭВ.
Базовый цикл алгоритма эволюционных вычислений. Основным элементом системы ЭВ (см. рис. 2) является базовый цикл алгоритма ЭВ. На рис. 3 приводится графическое изображение базового цикла алгоритма ЭВ.
Из рисунка (см. рис. 3) видно, что базовый цикл включает следующую после: , , селективный отбор решений для репродукции и репродукцию, т.е. создание новых .
Рис. 3. Базовый цикл алгоритма эволюционных вычислений
, -
гаемой концепции ЭВ, инспирированных природными системами, и является неотъемлемым элементом структуры системы ЭВ.
При традиционных подходах не принято разделять модель как систему зави, , и алгоритм оптимизации или структурного синтеза модели. Структура предлагае-( . . 2) , ,
, - ,
- . -мов, инспирированных природными системами, состоит в том, что им приходится , , -
- .
Другой недостаток традиционных подходов - это использование только одного алгоритма ЭВ, которого достаточно для проведения теоретических исследо-, .
Переход от традиционного программирования ЭВ к новой концепции ЭВ, инспирированных природными системами, осуществляется за счет усложнения моде,
, -
вания к модели - адекватности исследуемому объекту. Модель не обязательно должна быть формальной (например, в виде логических, алгебраических, дифференциальных и т.п. уравнений); может эволюционировать во времени; цели моделируемого объекта и критерии настройки и управления ими также могут быть не формализованы и меняться во времени. Это вполне согласуется с основными положениями предлагаемой концепции - система ЭВ должна быть принципиально
открытой и процесс ее обучения никогда не завершается созданием окончательной
.
При таком подходе система ЭВ должна получить свою собственную «инфор-», -. , каждый их которых может состоять разнообразных структур. При этом сама модель ЭВ и ее сложность не фиксированы как и число реализуемых алгоритмов ЭВ.
Другое немаловажное достоинство предлагаемой концепции и ее отличительная особенность - программы, реализующие систему ЭВ, предлагается создавать , -. , -, , -фикации и множество взаимодействующих алгоритмов ЭВ. Затем строится модель , . , , на систему инициализации параметров и настройки алгоритмов ЭВ, в соответствии с общей структурой системы ЭВ (см. рис. 2). Более того, в структуре системы ЭВ можно отказаться от традиционной в теории управления обратной связи, если удастся адекватно представить ее работу с помощью экспертных знаний и правил работы с ними.
Ясная логика представленной концепции ЭВ, а также разделение алгоритма ЭВ и модели объекта оптимизации, прогнозирования или управления приведет к тому, что проектирование программы, описывающей ЭВ, а также формальный переход от алгоритма к реализующей его программе потребует минимальной отладки, т.е. увеличение времени на создание модели компенсируется сокращением времени на ее отладку.
,
концепции ЭВ являются широкие возможности, которые она предоставляет для организации распределенных ЭВ [3].
.
эволюционной схеме природных процессов и систем. Именно он является источником роста разнообразия различных форм организации материи и непрерывно возрастающей сложности её организации. Кроме того, из-за вероятностного характера бифуркационного процесса, эволюция не может иметь обратного хода, точнее, вероятность обратного хода эволюции стремится к нулю, а это имеет отношение к другому фундаментальному факту - отсутствие обратимости не только эволюции, но и времени. В этом проявляется общая направленность эволюционного процесса, инспирированного природными системами. Возмущения, случайное взаимодействие и бифур-
- , , отвечающую за эволюцию природных неравновесных систем [4].
,
основы для разработки общей теории эволюционных вычислений, инспирированных природными системами.
БИБЛИОГРАФИЧЕСКИЙ СПИСОК
1. Курейчик В.М., Родзин С.И. Эволюционные алгоритмы: генетическое программирование (обзор) // Известия РАН. Теория и системы управления. - 2002, № 1. - С. 127-137.
2. Родзин С.И. Интеллектуальные системы. О некоторых алгоритмах, инспирированных природными системами: коллективная монография / Под ред. В.М. Курейчика. - М.: Физматлит, 2009. - С. 34-45.
3. Родзин С.И. Мягкие параллельные вычисления // Новости искусственного интеллекта.
- 2005, № 4. - С. 53-58.
4. Поликарпов B.C., Курейчик В.М., Курейчик В.В., Поликарпова ЕМ. Философия искусственного интеллекта. - Таганрог: Изд-во ТТИ ЮФУ, 2007. - 240 с.
Курейчик Владимир Викторович
Технологический институт федерального государственного образовательного учреждения высшего профессионального образования «Южный федеральный университет»
. .
E-mail: [email protected].
347928, г. Таганрог, пер. Некрасовский, 44.
Тел.: 8(8634)383-451.
Кафедра систем автоматизированного проектирования.
Заведующий кафедрой; профессор.
Курейчик Виктор Михайлович
Технологический институт федерального государственного образовательного учреждения высшего профессионального образования «Южный федеральный университет»
. .
E-mail: [email protected].
347928, г. Таганрог, пер. Некрасовский, 44.
.: 8(8634)393-260.
Заместитель руководителя по научной работе; профессор.
Родзин Сергей Иванович
Технологический институт федерального государственного образовательного учреждения высшего профессионального образования «Южный федеральный университет»
. .
E-mail: [email protected].
347928, г. Таганрог, пер. Некрасовский, 44.
Тел.: 8(8634)371-673.
Кафедра математического обеспечения и применения ЭВМ, профессор.
Kureichik Vladimir Viktorovich
Taganrog Institute of Technology - Federal State-Owned Educational Establishment of Higher Vocational Education “Southern Federal University”.
E-mail: [email protected].
44, Nekrasovskiy, Taganrog, 347928, Russia.
Phone: 8(8634)383-451.
The Department of Computer Aided Design.
Head the Department of Computer Aided Design, professor.
Kureychik Viktor Mihailovich
Taganrog Institute of Technology - Federal State-Owned Educational Establishment of Higher Vocational Education “Southern Federal University”.
E-mail: [email protected].
44, Nekrasovskiy, Taganrog, 347928, Russia.
Phone: 8(8634)393-260.
Deputy head on scientific work, professor.
Rodzin Sergey Ivanovich
Taganrog Institute of Technology - Federal State-Owned Educational Establishment of Higher Vocational Education “Southern Federal University”.
E-mail: [email protected].
44, Nekrasovskiy, Taganrog, 347928, Russia.
Phone: 8(8634)371-673.
Department of Software Engineering, professor.