CC BY
64
ОБНАРУЖЕНИЕ И ОЦЕНКА ЭКСТРЕМАЛЬНЫХ ОСОБЕННОСТЕЙ ПРОСТРАНСТВА ПОИСКА ЭВРИСТИЧЕСКИМИ АЛГОРИТМАМИ
Нейдорф
Рудольф Анатольевич,
д.т.н., профессор кафедры программного обеспечения вычислительной техники и автоматизированных систем Донского государственного технического университета, г. Ростов-на-Дону, Россия, [email protected]
Черногоров
Иван Владимирович,
аспирант Донского государственного технического университета, г. Ростов-на-Дону, Россия, [email protected]
Ярахмедов Орхан Тахир оглы,
аспирант Донского государственного технического университета, г. Ростов-на-Дону, Россия, [email protected]
Полях
Виктор Васильевич,
аспирант Донского государственного технического университета, г. Ростов-на-Дону, Россия, [email protected]
£
О л л С
Ключевые слова:
оптимизация; экстремум; многоэкстремальность; поисковая оптимизация, кластеризация; эвристические методы; метод роящихся частиц; муравьиный алгоритм; эволюционно-генетический подход.
Исследуется проблема поискового выявления и оценки экстремумов на поверхностях со сложной структурой. Главное внимание уделяется оценке эффективности решения задач поисковой оптимизации многоэкстремальных объектов, сложность которых существенно выше сложности одноэкстре-мальных задач. Авторы придерживаются мнения, что наиболее актуальным инструментом для нахождения всех экстремумов исследуемого объекта, как глобальных, так и локальных, являются эвристические методы. В связи с этим большое место в работе занимает рассмотрение трех наиболее известных, исследованных и востребованных на сегодняшний день эвристических методов: алгоритма роящихся частиц, муравьиного алгоритма и эволюционно-ге-нетического алгоритма. В каждом из этих алгоритмов помимо общеизвестных и ставших классическими поисковых конструкций и инструментов были использованы свои оригинальные специфические подходы по обнаружению, идентификации и количественной оценке оптимумов. Эти подходы объединяет необходимость осуществления предметно обусловленной и предельно эффективной кластеризации данных. Исследования показали, что каждый метод принципиально может обеспечить обусловленные предметной областью применения необходимые или заданные, как качественные, так и точностные составляющие решения экстремальной задачи. Под качественной составляющей понимается процент обнаруженных экстремумов исследуемой поверхности, а под точностной - близость получаемых количественных оценок реальным значениям. При этом показано, что, благодаря применяемым модификациям, решение может быть осуществлено с использованием приемлемого ресурса времени. Исследование всех трех методов ведется поисковым анализом тестовых функций Растригина и предложенных авторами новых тестовых А-функции. Результатом проведения экспериментов явилось обнаружение всех экстремумов в исследуемых областях тестовых функций. Данный факт говорит о том, что все три алгоритма пригодны для решения задач, которые характеризуются многоэкстремальностью. Приведены наилучшие результаты, которые были получены по каждому из методов, и время, которое было затрачено на их получение. Методы показали приблизительно идентичные поисковые свойства, и могут применяться исследователями, исходя как из предметной сущности решаемых задач, так и из личных предпочтений и имеющегося опыта.
Введение
Современные проблемы борьбы с чрезвычайными ситуациями, внутренними и внешними угрозами и пр. часто связаны с необходимость поиска, обнаружения и оценки неких угроз различного свойства (спрятанные наркотики, взрывчатые вещества, замаскированные цели и т.п.). Предположим, результаты обнаружения этих объектов и оценки уровня их опасности могут быть представлены как некоторой моделью поверхности в пространстве соответствующей размерности, рельеф, который отражает этот уровень. Тогда задача оценки угрожающей ситуации можно свести к теоретическому исследованию этой поверхности, в частности, нахождению локальных и глобальных экстремумов, отражающих количество, общий уровень угроз и их максимум. Иными словами, приходится решать сложную задачу поисковой оптимизации [1]. Характерно, что в этом случае необходимо отыскания и оценки всех значимых экстремумов, а большинство известных на сегодня методов оптимизации разработано и эффективно используется для нахождения одного экстремума, чаще всего, глобального. Такое несоответствие возникающих задач и существующих методов обусловливает актуальность разработки и исследования новых или модифицированных специфических методов, адекватных этим задачам. Скорее всего, такие методы нецелесообразно искать в классе детерминированных подходов. Последние слишком чувствительны к знакопеременности и разрывности функций отклика в континуальных факторных пространствах, или же реализуются ЫР-полными алгоритмами в дискретных пространствах. Поэтому для решения реальных оптимизационных задач все чаще стремятся применять методы из группы методов, получивших название «эвристических». Эти методы наиболее перспективны и для решения многоэкстремальных (МЭ) задач [1-3].
Постановка задачи
В свете сказанного необходимо исследовать наиболее распространенные методы эвристической поисковой оптимизации (ЭПО) в среде МЭ задачи, адекватной указанной проблемной области. Целю исследования должна быть оценка возможности получения полной картины экстремальности поверхности поиска, включая общее количество экстремумов и нахождение значений каждого из них. Иными словами, каждым из исследуемых методов нужно осуществить многоэкстремальный поиск (МЭП). В задачи МЭП входит также оценка точности и временного ресурса, как вычисления значений экстремумов, так и нахождение их координат.
В связи с этим первым этапом исследований должен быть либо выбор адекватной задаче МЭ тестовой функции (ТФ), либо ее разработка. Такая функция должна послужить общей для всех методов средой решения МЭ задач.
Многоэкстремальная тестовая функция Растригина
Из распространенных и результативных тестовых функций для отладки и исследования методов ЭПО являются функции Розенброка, Химмельблау, Растригина. Функция, предложенная в 1974 году Леонардом Растригиным [4], демонстрирует неограниченную многоэкстремальность. Уравнение тестовой функции Растригина (ТФР) имеет вид:
где А - выбираемый исследователем под задачу коэффициент.
Независимо от А глобальный минимум этой функции -/¿П(0)=0. Вид ее двумерного варианта представлен на рис. 1.
Рис. 1. Структура функции Растригина
Нахождение глобального минимума этой функции представляет собой весьма трудную задачу. Это связано с неограниченной областью поиска и неограниченным количеством локальных минимумов, на которых большинство алгоритмов зацикливается. Выделени и оценка локальных экстремумов является еще более неординарной и сложной задачей.
Специализированная тестовая
многоэкстремальная функция
Недостатком ТФР как тестовой функции является ее регулярность. Достаточно развитый адаптивный алгоритм может легко уловить период чередования экстремумов. Поэтому авторами разработана тестовая функция, в которой можно исключить периодичность появления экстремумов в факторном пространстве.
Другим недостатком ФР и других МЭ ТФ является их аналитичность. Отсутствие недифференцируемых или плохо дифференцируемых областей значительно облегчает работу алгоритма по оценке структуры исследуемой поверхности. Реальный поиск угроз затрудняется тем, что они обычно координатно различимы только вблизи. Наличие ощутимой кривизны поверхности на удалении от экстремума облегчает его отыскание. Поэтому экстремум в ТФ должен быть
максимально приближен к импульсной форме, а его окрестность - минимально искривлена.
В связи со сформулированными требованиями универсальная МЭ ТФ сконструирована на основе разработанной одним из авторов для целей аппроксимации специальной «мультипликативно выделяющей функции» (МВФ) [5]. Математическая модель такой двумерной МЭ ТФ имеет вид к
где ак - коэффициент, эмулирующий величину экстремума, а для г е {х, у}
(3)
Здесь Б = {хк1, х, у , у, е} - множество настроечных параметров ТФ: х х к - начальные и конечные координаты импульса-экстремума для х и у; е - параметр настройки крутизны фронтов импульса.
На рис. 2 изображены два варианта А-функции (А-Ф), эмулирующей согласно (2) за счет свойств двумерное пространство с тремя минимумами (отображающими, например, угрозы) и пятью максимумами, которые могут моделировать противодействия. Вариант на рис. 2а получен для е =2 и может использоваться как начальный отладочный тест, т.к. пространство окрестности каждого экстремума сильно искривлено и позволяет оценивать направления движения к экстремумам. На рис. 2Ь изображена поверхность для жесткого теста с импульсными экстремумами при е =0,1.
Исследование многоэкстремальных тестовых
функций алгоритмом роящихся частиц
Как сущность алгоритма роящихся частиц (АРЧ), так и основания для его использования в задачах
ЭПО хорошо известны [6-9]. Канонический вариант АРЧ (см. [6]) был значительно переработан авторами [10, 11]. В результате сконструирована и исследована его модификация для решения задач МЭП.
Модель механического движения (ММД) частиц в модифицированном алгоритме представлена следующей системой уравнений:
Хц -Ха-ьц* Уи-т * м■
А.! Ар^Ан>
/1р1 /1р1 /1р1 ®
= Од * пи * тЛг2 + е), де {0,Ь,С},
(4)
(5)
(6)
(7)
(8) (9)
(10)
Здесь в (4) и (5) Х[&[ и X - предыдущее и текущее положения ¿-й частицы, - интервал интегрирования по времени, и V- скорости ¿-й частицы в предыдущий и текущий моменты времени, А_м - ускорение частицы
в предыдущий момент времени. В формулах (6-9) ис-
—С ->1 -»с
пользованы обозначения: А ., А ., А . - ускорение «био-
рг рг р1 г
логического притяжения» частиц к глобальному экстремуму, к лучшей позиции найденной частицей за всё время, к центру ближайшего кластера, А(г. - замедление трением. Там же - это аналог «биологической гравитации», т. = тэ - биоаналоги массы притягивающихся частиц, г - расстояние между текущим положением частицы и текущим экстремумом; е - малая корректирующая константа (е = 1Е-16), (устранение проблемы при г=0 ), л - коэффициент трения. Выражение (10) задает стохастически размываемый параметр Аж=(0 (размываемые параметры выбираются пользователем ПС «под
а) Ь)
Рис. 2. Тестовая А-функция эмуляции трех минимумов и пяти максимумов в двумерном пространстве а) е =2 (пологие экстремумы); Ь) е =0,1 (импульсные экстремумы).
Рис. 3. Локализация областей экстремумов ТФР в ходе работы АРЧ
задачу», где £ - относительное отклонение искажаемого параметра от номинального значения, - случай-
ное вещественное число в диапазоне [0, 1], Са - условный центр притяжения частицы, Ап - угол отражения частицы от границы рассматриваемой области, Б - коэффициент диссипации (потери энергии при неупругом ударе частицы о границу).
При решении задач МЭП в алгоритме используются механизмы естественной кластеризации частиц, порождаемой и параметрически настраиваемые свойствами алгоритма:
• градиентный, основанный на действии формул (4-5) ММ, определяющих чувствительность частиц к смене знака скорости изменения оптимизируемого критерия исследуемого объекта;
• потенциальный, основанный на действии формул (5) и (7, 8), определяющих введение в ММД сил притяжения ко всем обнаруженным при роении и сканировании пространства поиска локальным экстремумам.
Проверка эффективности АРЧ МЭП на ТФР осуществлена в намеренно смещенном координатном диапазоне х е [-0,5, 2,5], у е[-1,5, 3,5]. В этой области ТФР (см. форм. (1)) имеет 15 минимумов, один из которых является глобальным. Постоянными параметрами АРЧ для всех опытов являются количество частиц N = 100 и количество итераций К = 100, остальные параметры являются настраиваемыми.
На рис. 3а показана локализация областей всех экстремумов и создание соответствующих кластеров. На рисунке 3Ь отображена последующая итеративная идентификация одного из экстремумов в диапазоне (х, у) е [1,5, 2,5]. После операций выделения областей экстремумов и создания соответствующих кластеров на ТФР удалось выделить все 15 областей экстремумов при временных затратах (ВЗ) —110 секунд. и со средней погрешностью в —2,037%. Дополнительная локализация позволила уменьшить погрешность до —0,06% при ВЗ —60 секунд.
Более жесткая проверка эффективности АРЧ МЭП на А-Ф проведена в координатном диапазоне (х, у) е [0,100]. В этой области А-Ф (см. форм. (2)) обладает 8 локальны-
ми экстремумами (3 минимума и 5 максимумов). В каждой группе экстремумов есть глобальный экстремум.
Для одновременного поиска как минимумов, так и максимумов А-Ф частицы были поделены на две группы поиска минимумов и максимумов.
На рис. 4а показана локализация областей всех экстремумов и создание соответствующих кластеров (красные точки - кластеры угроз, синие - противодействий). На рис. 4Ь приводится последующая итеративная идентификация минимума (угрозы) в диапазоне х е [45, 55], у е [5, 15].
Выделение областей экстремумов и создание соответствующих кластеров на А-Ф позволило найти все 8 экстремумов со средней погрешностью в —0,485% и ВЗ —50 секунд. Дополнительная локализация уменьшила погрешность до —0,00006%, при ВЗ —26 секунд.
Исследование многоэкстремальных
тестовых функций муравьиным алгоритмом
Муравьиные алгоритмы (МА) используются во многих оптимизационных задачах [12], преимущественно относящихся к транспортно-логистическим проблемам, реализованным в виде графа [13]. В их основе лежат особенности субоптимального поведения реальных муравьев [14]. Настоящая работа опирается на классическую реализацию МА, применяемую к задачам на графах [15, 16]. Однако, в связи с неординарностью задачи многоэкстремальной оптимизации, поиск дополнен некоторыми алгоритмическими инструментами, обеспечивающими нахождение, выделение и локализацию всех найденных в зоне поиска экстремумов - МА МЭП [17].
При переходе находящийся в у-м фрагменте Ф.. е Ф муравей оценивает все смежные фрагменты Фи е Ф и рассчитывает вероятности Р() перехода в соседние И-е фрагменты по формуле:
VI ёТ,1 е Ц е Х,к -1,1+|,1 е { .¿Ц}.-*!^) =
Рис. 4. Локализация областей экстремумов ЛФ в ходе работы АРЧ
Здесь Т = {1, 2, ..., N - множество итераций алгоритма; / (*,*) - значение функции в центре фрагмента Ф**; Q = Q (£, тк1, {хч}) - функция количества феромона в ячейках, которая зависит от привлекаемых в используемой версии МА настроечных {^д} и пошаговых параметров МА; тк1 - новое значение количества феромона в фрагменте Фн. Оно рассчитываются на каждом шаге по следующим формулам:
ти = (1-р)* Tk!+ДTk!, (12)
коэффициент испарения;тн - содержа-
где р е (0;1) ние феромона на участке Ф ; Дтк1 дой итерации, вычисляемое как
приращение на каж-
(13)
где К - коэффициент прироста феромона.
Нахождение и локализация экстремумов является результатом проверки условия останова. При поиске минимума, например, и /(к, I) > /({, _/), переход во фрагмент Фк из фрагмента Ф.. запрещен. Таким образом,
алгоритм остановится на той итерации N, на которой все муравьи потеряют возможность перемещаться. Это будет означать, что все муравьи занимают фрагменты с наименьшим значением функции относительно соседних фрагментов, т.е. они нашли локальные минимумы с координатной точностью, определяемой размерами фрагментов.
На основе алгоритма, описанного математической моделью (11-13) разработано ПС, производящее поиск локальных и глобальных экстремумов, и оценивающее их значения. В качестве тестовых функций были использованы ТФР и предложенная в данной работе А-Ф. На рис. 5 показан результат локализации экстремумов для ТФР. Для исследования выбран участок х е [-0,5, 2,5], у е [-1,5, 3,5]. Выделенная область делилась с шагом 0,05. На рис. 5а изображена начальная расстановка агентов. Уже после 7 шагов (рис. 5Ь) очевидно повышении концентрации агентов в областях экстремумов. Локализация завершилась после 26 шагов -рис. 5с. Таким образом, на первом этапе работы алгоритма примерно за 50 с. найдены все экстремумы.
а) Ь) с)
Рис. 5. Визуализация локализованных экстремумов: а) инициализация; Ь) 7-я итерация; с) финальный результат на 26 шаге
Для получения уточненных значений экстремумов и их координат алгоритм может применяться повторно ко всем или отдельным локализованным участкам с целью достижения заданной точности оценки величины экстремума. В результате локализация и три последовательных уточнений экстремума с координатами в точке (0;0) заняло 240 итераций и примерно 140 секунд. Полученные в результате координаты центра ячейки, в которой скопились агенты равны (0,000000025; 0,000000025), т.е. определены с ошибкой в 2,5*10-8. Оценка нулевого минимума исследуемой локализованной области составила 2,451Е-13.
Эффективность МА проверилась также на А-Ф в координатном диапазоне (х, у) е [0, 100] с 8-ю экстремумами (5 максимумов и 3 минимума). На рис. 6 показаны некоторые этапы поиска на примере оптимизации А-Ф. Видно, что уже после 30 итераций концентрация агентов в областях экстремумов повышается. Желтым цветом обозначены агенты, нацеленные на поиск максимумов, а красным - на поиск минимумов. В результате работы МА за 70 итераций выявлены все 8 экстремумов.
По итогам локализации и 3 этапов уточнения экстремума (минимума) расположенного в точке (5,5;5,5) было получена координата (5,499999; 5,499999). В данной точке значение функции равно Б = -0,148996571608503, против эталонного в точке (5,5;5,5) Б = -0,1489965716. Временные затраты на локализацию и 3 последовательных уточнения составили примерно 220 секунд.
Исследование многоэкстремальных тестовых функций эволюционно-генетическим алгоритмом
В связи с тем, что эволюционно-генетический алгоритм (ЭГА) является наиболее распространенным методом решения оптимизационных задач, целесообразно проверить его эффективность при исследовании многоэкстремальных объектов [18-19]. В связи с таким расширением функционала ЭГА нуждается в дополнительных инструментах оценки и селектирования
экстремумов, как по типу и величине, так и по координатам в факторном пространстве [20]. В качестве математического селектора найденных значений использован одновыборочный критерий Стьюдента (КС) [21]. В итоге алгоритм многоэкстремального поиска реализуется последовательным использованием ЭГА и распределении полученных в его поколениях результатов по их координатным группам с помощью КС [22-24].
Начальным этапом кластеризации является объявление наилучшей по оптимизируемому значению из всех поколений особи центром первого из формируемых алгоритмом многоэкстремального поиска (МЭП) кластера. Дальнейшим шагом алгоритма селектирова-ния является подбор ещё двух точек с наименьшими значениями целевой функции относительно уже отобранной. Необходимостью отбора 3-х точек связана с тем, что минимум 3 точки могут дать усредненное значение группы. После этого происходит проверка отобранной группы точек на однородность. В случае если проверенная совокупность точек является однородной, продолжается отбор следующих точек с минимальным значением функции и проверка их на однородность с сформировавшейся группой. Если значение очередной точки не вошло в уже существующую группу, то создается новая группа, в которой данная точка условно считается её центром. По окончании полного анализа полученных при помощи МЭП станет ясно, образует ли значение точки новую группу или относится к группе, которая уже сформирована.
Основой математической модели, при помощи которой можно описать предложенный подход кластеризации является последовательное сравнение средних значений группы векторов V = {^ = vi-v0 \ ¿ = 1, п}, где п - размер группы. На основе выбранной доверительной вероятности происходит сравнение векторов и принимается решение о принадлежности или непринадлежности очередного вектора V к данной группе. Решение принимается на основе расчёта опытного значения од-новыборочного критерия Стьюдента:
Рис. 6. Этапы локализации экстремумов ЛФ при разбиении 50х50: а) 30-я итерация; Ь) 70-я итерация (финальный результат)
где ^ является средним значением длин векторов группы, с которой производится сравнение:
Ду = У1" Ду. / и
(15)
а - стандарт отклонения длин векторов уже обозначившегося кластера:
5{4»> -
(16)
(17)
В случае, если полученное по (14-17) значение t0 не превышает табличного значения при заданном параметре п-степеней свободы и выбранном уровне доверительной вероятности Р, можно заключить, что t0 входит в группу объектов со средним значением которых производилось сравнение.
Для исследования тестовых функций выбрана следующая структура входных параметров ЭГА: количество поколений = 100; особей поколении = 1000; вероятность кроссинговера = 95%; вероятность мутации = 30%. Параметры рассматриваемой области функций соответствует параметрам, которые были использованы в исследованиях с применением МРЧ и МА, точность исследования = 5 знаков после запятой.
Разработанная модификация ЭГА позволила найти все 15 кластеров исследуемого фрагмента ТФР - рис. 7а. Минимальные значения каждого кластера приближенно оценивают минимумы функции. Наименьшее отклонение от эталонного значения экстремума отмечено в точке (1,00002; 0,00031) со значением функции Б = 1,00006 (Эталон в точке (1,0), Б = 1, ошибка составила ~0.01%), а наибольшее отклонение отмечено в точке (1,98795; 2,98331), Б = 12,93567 (Эталон в точке (2;3), Б = 13, ошибка составила ~0,5%). На поиск затрачено ~100 секунд.
Для повышения точности оценки можно локализовать область поиска, то есть повторно исследовать один, несколько или все из 15 кластеров [9]. На рис. 7Ь можно наблюдать координатную локализацию найденные значения исследуемой ТФР, которые относятся к одному из 15 обозначенных кластеров. Наиболее точный результат, который был получен в данной области находится в центре жирной черной точки. Для более точной оценки экстремального значения в данной области выделяется дополнительная область, в которой в дальнейшем проводится повторное исследование. Его результаты приведены на рис. 7с. Значение ТФР в лучшей найденной позиции (2,00051; 0,99899) = 5,00027 при эталонном значении 5. Таким образом, ошибка составила ~0,006%, а временные затраты на локализацию экстремума ~80 секунд.
Рис. 7. Результаты исследования ТФР и А-Ф
Как и в описанных ранее алгоритмах исследованию с использованием ЭГА МЭП подверглась А-Ф. Для одновременного получения минимумов и максимумов к ней применен прием двойной сортировки (от минимума к максимуму и наоборот). Относительно отсортированных данных происходит одновременная кластеризация минимумов и максимумов. Стоит заметить, что одновременный поиск максимумов и минимумов, также, как и в предыдущих случаях требует больших временных затрат, нежели поиск только одного типа оптимумов. Результат исследования А-Ф проиллюстрирован на рис. 7d. Сформировались 8 кластеров, в которых красными точками выделены минимумы, а синими - максимумы А-Ф.
Значение лучшей найденной позиции ЛФ (5,50003; 5,50048) = -0,1489965661 (эталон F = -0,1489965716 в точке (5,5; 5,5), ошибка составила ~0,000004%). Наибольшее отклонение экстремума ЛФ в точке (50,547715; 10,701895) = -0,1473137150 (эталон F = -0,148996509 в точке (50,5; 10,5), ошибка составила ~1,13%). На исследование А-Ф ЭГА МЭП затратил порядка ~150 секунд.
По окончании данного исследования, также, как и при анализе ТФР, проведена дополнительная локализация области, в которой найдено значение с наибольшим отклонением от эталонного. После выполнения уточняющего поиска в точке (50,5000225; 10,5000075) найдено значение экстремума F = -0,148996508 при эталонном значении F3 = -0,148996509 в точке (50,5; 10,5). Таким образом ошибка составила ~0,0000007%. Операция дополнительной локализации заняла примерно ~50 секунд.
Литература
1. Floudas C.A., Pardalos P.M. Encyclopedia of Optimization. 2nd ed. New York: LCC Springer Scince+Dusiness Media. 2009. 4646 p.
2. Математическая энциклопедия: в 5 т. / под ред. Виноградов И.М. М.: Советская энциклопедия, 1984. Т. 4. С. 135-140.
3. Strongin R.G. Algorithms for multi-extremal mathematical programming problems employing the set of joint space-lling curves // Global Optimization. 1992. Vol. 2. Pp. 357-378.
4. Растригин Л.А. Системы экстремального управления. М.: Наука, 1974. 316 p.
5. Neydorf R. Bivariate "Cut-Glue" Approximation of Strongly Nonlinear Mathematical Models Based on Experimental Data / / SAE International Journal of Aerospace. 2015. No. 8(1). Pp. 47-54.
6. Clerc M., Kennedy J. The particle swarm-explosion, stability, and convergence in a multi-dimensional complex space // IEEE Transactions on Evolutionary Computation. 2002. Vol. 6. No. 1. Pp. 58-73.
7. Mendes R., Kennedy J., Neves J. The fully informed particle swarm: simpler, maybe better // IEEE Transactions on Evolutionary Computation. 2004. No. 8(3). Pp. 204-210.
8. Нейдорф Р.А., Деревянкина А.А. Методология решения многоэкстремальных задач модифицированным
методом роящихся частиц // Инновация, экология и ресурсосберегающие технологии на предприятиях машиностроения, авиастроения, транспорта и сельского хозяйства: тр. IX междунар. науч.-техн. конф. Ростов-н/Д.: ИЦ ДГТУ, 2010. С. 328-330.
9. Нейдорф Р.А., Деревянкина А.А. Решение многоэкстремальных задач методом делящихся роев // Вестник ДГТУ. 2010. Т. 10. № 4(47). С. 492-499.
10. Нейдорф Р.А., Черногоров И.В. Параметрическая настройка алгоритма поисковой оптимизации методом роящихся частиц с использованием планирования эксперимента // Международный Научный Институт «Educatio». 2015. Т. 4. № 2(9). С. 44-49.
11. Нейдорф Р.А., Черногоров И.В. Параметрическое исследование алгоритма роящихся частиц в задаче поиска глобального экстремума // Математические методы в технике и технологиях - ММТТ-28: сб. трудов XXVIII междунар. науч. конф.: в 12 т. / под общ. ред. А.А. Большакова. Cаратов, Ярославль, Рязань, Москва. Саратов: Саратов. гос. техн. ун-т, 2015.Т. 3. С. 75-80.
12. Liu X., Fu H. An effective clustering algorithm with ant colony // Journal of Computers. 2010. Vol. 5. No. 4. Pp. 598-605.
13. Dorigo M., Gambardella L.M. Ant colony system: a cooperative learning approach to the traveling salesman problem // IEEE Transactions on Evolutionary Computation. 1997. Vol. 1. No. 1. Pp. 53-66.
14. Кажаров А.А., Курейчик В.М. Муравьиные алгоритмы для решения транспортных задач // Теория и системы управления. 2010. № 1. С. 30-43.
15. Нейдорф Р.А., Ярахмедов О.Т. Статистическое исследование оптимизационных свойств решения классическим муравьиным алгоритмом задачи коммивояжера // Международный Научный Институт «Educatio». 2015. № 4(11). С. 141-144.
16. Нейдорф Р.А. Ярахмедов О.Т. Исследование возможностей оптимального решения задачи коммивояжера параметрически оптимизированным муравьиным алгоритмом // Математические методы в технике и технологиях - ММТТ-28: сб. трудов XXVIII Междунар. науч. конф.: в 12 т. / под общ. ред. А.А. Большакова. Cаратов, Ярославль, Рязань, Москва. Саратов: Саратов. гос. техн. ун-т, 2015. Т. 6. С. 50-54.
17. Pang C.Y., Liu H., Li X., Wang Y.-F., Hu B.-Q. Apply Ant Colony Algorithm to Search All Extreme Points of Function // 5th IEEE Conf. on industrial Electronics and Applications, Taichung, Taiwan 15-17 June 2010. Curran Associates, Inc., 2010. Pp. 1516-1521.
18. Курейчик В.М. Генетические алгоритмы. Состояние. Проблемы. Перспективы // Теория и системы управления. 1999. № 1. С. 144-160.
19. Гладков Л.А., Курейчик В.В., Курейчик В.М. Генетические алгоритмы / под ред. В.М. Курейчика. 2-е изд., испр, и доп. М.: ФИЗМАТЛИТ, 2006. 320 с.
20. Shreves R. Drupal Search Engine Optimization. Birmingham: Packt Publ. Ltd, 2012. 101 p.
21. Student. The probable error of a mean // Biometrika.
1908. Vol. 6. No. 1. Pp. 1-25. URL: http://www.dcscience. net/Student-t-1908.pdf (дата обращения: 15.10.2015).
22. Полях В.В., Нейдорф Р.А. Исследование многоэкстремальных зависимостей с использованием эволю-ционно генетического метода и одновыборочного критерия Стьюдента // Математические методы в технике и технологиях - ММТТ-28: сб. трудов XXVIII Междунар. науч. конф.: в 12 т. Саратов, Ярославль, Рязань, Москва. Саратов: Саратов. гос. техн. ун-т, 2015. Т. 6. С. 83-88.
23. Полях В.В., Нейдорф Р.А. Локализация областей поиска эволюционно-генетического алгоритма при решении задач многоэкстремального характера // Международный союз ученых «Наука. Технологии. Производство». 2015. № 6. Ч. 2. С.18-22.
24. Нейдорф Р.А., Полях В.В. Метод многоэкстремального поиска с использованием эволюционно-гене-тического алгоритма и выборочного критерия Стьюдента // Инновационная наука. 2015. Т. 1. № 3. С. 135-140.
Для цитирования:
Нейдорф Р.А., Черногоров И.В., Ярахмедов О.Т., Полях В.В. Обнаружение и оценка экстремальных особенностей пространства поиска эвристическими алгоритмами // Наукоемкие технологии в космических исследованиях Земли. 2016. Т. 8. № 2. С. 16-25.
DETECTION AND EVALUTION EXTREME FEATURES OF HEURISTIC ALGORITHM SEARCH SPACE
Nejdorf Rudol'f Anatol'evich,
Rostov-on-Don, Russia, [email protected]
Chernogorov Ivan Vladimirovich,
Rostov-on-Don, Russia, [email protected]
Jarakhmedov Orkhan Takhir Ogly,
Rostov-on-Don, Russia, [email protected]
Poljakh Viktor Vasil'evich,
Rostov-on-Don, Russia, [email protected]
Abstraсt
The main focus concentrate on the tasks solving problem of search optimization of multiextremal objects, whose complexity is much higher than monoextremal tasks. The authors are of the opinion that the actual tool to search all extrem-ums of the investigated object is heuristic algorithms. In this regard, a great place in the work take place the consideration of three the most well-known and the most researched heuristics methods such as: swarming particles method, ant colony algorithm and evolutionary-genetic algorithm. In each of these methods, in addition to well-known structures, used its own specific approaches for the detection and identification of the optimum. This approach combines the need for data clustering. Each method can provide the required accuracy of the extremal tasks solving with an acceptable
time resource. Based on these three methods is carried out the research of Rastrigin test function and -function. After the experiments obtained all optimums in the researched areas of test functions. This fact suggests that all three algorithms suitable for solving the problems, which are characterized by multiextremal. The best result that obtained for each methods has showed. Also, the time that spend on their receive has noted.
Keywords: optimization; extremum, multiextremal; searching optimization; clusterization; heuristic methods; method swarming particles; ant algorithm; evolutionary-genetic approach.
References
1. Floudas C.A., Pardalos P.M. Encyclopedia of Optimization. 2nd ed. New York, LCC Springer Scince+Dusiness Media, 2009. 4646 p.
2. Vinogradov I.M. (Ed.). Matematicheskaya entsiklopediya [Mathematical encyclopedia]. Moscow, Sovetskaya Entsiklopediya. 1984. Vol. 4. Pp. 135-140. (In Russian).
3. Strongin R.G. Algorithms for multi-extremal mathematical programming problems employing the set of joint space-lling curves. Global Optimization, 1992. Vol. 2. Pp. 357-378.
4. Rastrigin L.A. Sistemy ekstremal'nogo upravleniya [Systems of Extremal Control]. Moscow, Nauka, 1974. 316 p. (In Russian).
5. Neydorf R. Bivariate "Cut-Glue" Approximation of Strongly Nonlinear Mathematical Models Based on
Experimental Data. SAE International Journal of Aerospace. MMTT-28: sbornik trudov XXVIII Mezhdunarodnoi nauch-
2015. No. 8(1). Pp. 47-54. no-tekhnicheskoi konferentsii [Mathematical methods in
6. Clerc M., Kennedy J. The particle swarm-explosion, sta- technique and technologies - MMTT-28: Proceedings XXVIII bility, and convergence in a multi-dimensional complex International Scientific Conference]. In 12 vol. Saratov, space. IEEE Transactions on Evolutionary Computation. Jaroslavl', Rjazan', Moscow. Saratov: Saratov State 2002. Vol. 6. No.1. Pp. 58-73. Technical University Publ., 2015. Vol. 6. Pp. 50-54.
7. Mendes R., Kennedy J., Neves J. The fully informed parti- (In Russian).
cle swarm: simpler, maybe better. IEEE Transactions on 17. Pang C.Y., Liu H., Li X., Wang Y.-F., Hu B.-Q. Apply Ant
Evolutionary Computation. 2004. No. 8(3). Pp. 204-210. Colony Algorithm to Search All Extreme Points of Function
8. Neydorf R.A., Derevyankina A.A. Innovatsiya, ekologiya // 5th IEEE Conf. on industrial Electronics and Applications, i resursosberegayushchie tekhnologii na predpriyatiyakh Taichung, Taiwan 15-17 June 2010. Curran Associates, mashinostroeniya, aviastroeniya, transporta i sel'skogo Inc., 2010. Pp. 1516-1521.
khozyaistva, Trudy IX Mezhdunarodnoi nauchno-tekhnich- 18. Kurejchik V.M. Genetic algorithms. Condition. Problems.
eskoi konferentsii [Proceedings of IX International Scientific Prospects. Journal of Computer and Systems Sciences
and Technical Conference]. Rostov-on-Don, Donskoi gosu- International. 1999. No. 1. Pp. 144-160. (In Russian).
darstvennyi tekhnicheskii universitet Publ., 2010. Pp. 328- 19. Gladkov L.A., Kurejchik V.V., Kurejchik V.M. Kurejchika V.M.
330. (In Russian). (Ed.). Geneticheskie algoritmy [Genetic algorithms]. 2 nd. ed.
9. Neydorf R.A., Derevyankina A.A. The solution of multiex- M.: FIZMATLIT, 2006. 320 p. (In Russian).
tremal tasks by fissionable swarm method. Vestnik Donskogo 20. Shreves R. Drupal Search Engine Optimization.
gosudarstvennogo tekhnicheskogo universiteta. 2010. Birmingham, Packt Publishing Ltd, 2012. 101 p.
Vol. 10. No. 4(47). Pp. 492-499. (In Russian). 21. Student. The probable error of a mean. Biometrika.
10. Neydorf R.A., Chernogorov I.V. Parametrical configura- 1908. Vol. 6. No. 1. Pp. 1-25. URL: http://www.dcscience. tion of the search optimization algorithm by swarming parti- net/Student-t-1908.pdf (date of access 15.10.2015).
cles method using experimental design techniques. Educatio. 22. Polyakh V.V., Neydorf R.A Matematicheskie metody v
2015. Vol. 4. No. 2(9). Pp. 44-49. (In Russian). tekhnike i tekhnologiyakh - MMTT-28: sbornik trudov XXVIII
11. Neydorf R.A., Chernogorov I.V. Matematicheskie meto- Mezhdunarodnoi nauchno-tekhnicheskoi konferentsii dy v tekhnike i tekhnologiyakh - MMTT-28: sbornik trudov [Mathe-matical methods in technique and technologies -XXVIII Mezhdunarodnoi nauchno-tekhnicheskoi konferent- MMTT-28: Proceedings XXVIII International Scientific sii [Mathematical methods in technique and technologies - Conference. In 12 vol. Saratov, Jaroslavl', Rjazan', Moscow. MMTT-28: Proceedings XXVIII International Scientific Saratov: Saratov State Technical University Publ., 2015. Conference]. In 12 vol. Saratov: Saratov State Technical Vol.6.Pp. 83-88. (In Russian).
University Publ., 2015. Vol. 3. Pp. 75-80. (In Russian). 23. Polyakh V.V., Neydorf R.A. Localization search scopes
12. Liu X., Fu H. An effective clustering algorithm with ant evolutionary genetic algorithm for solving problems of multi colony. Journal of Computers. 2010. Vol. 5. No. 4. nature. International Union of scientists. Science Technology Pp. 598-605. Production. 2015. Vol. 2. No. 6. Pp.18-22. (In Russian).
13. Dorigo M., Gambardella L.M. Ant colony system: 24. Neydorf R.A, Polyakh V.V. Method of multisearch using a cooperative learning approach to the traveling salesman evolutionary genetic algorithm and sample t-test. Innovative problem // IEEE Transactions on Evolutionary Computation. science. 2015. Vol. 1. No. 3. Pp.135-140.
1997. Vol. 1. No. 1. Pp. 53-66.
14. Kazharov A.A., Kureichik V.M. Ant algorithms to solve Information about authors:
transport problems. Journal of Computer and Systems Neydorf R.A., Ph.D., professor of the Don State Technical
Sciences International. 2010. No.1. Pp. 30-43. (In Russian). University;
15. Neydorf R.A., Yarakhmedov O.T. Statistical research Chernogorv I.V., postgraduate student of the Don State optimization properties of solutions of the travelling sales- Technical University;
man problem by ant algorithm. Educatio. 2015. No. 4(11). Yarakhmedov O.T., postgraduate student of the Don State
Pp. 141-144. (In Russian). Technical University;
16. Neydorf R.A., Yarakhmedov O.T., Bol'shakov A.A. Polyakh V.V., postgraduate student of the Don State (Ed.). Matematicheskie metody v tekhnike i tekhnologiyakh- Technical University.
For citation:
Neydorf R.A., Chernogorv I.V., Yarakhmedov O.T., Polyakh V.V. Detection and evalution extreme features of heuristic algorithm search space. H&ES Research. 2016. Vol. 8. No. 2. Pp. 16-25.
