CC BY
71УДК 004.051
Информационные технологии
Безгачев Ф. В., старший преподаватель кафедры информационно-правовых дисциплин и специальной техники Сибирский юридический институт МВД
России, Россия, г.Красноярск
МЕТОДЫ ГЛОБАЛЬНОЙ ОПТИМИЗАЦИИ НА ОСНОВЕ РАЗЛИЧНЫХ
ПОДХОДОВ ОПТИМИЗАЦИИ
Аннотация: В данной статье описываются некоторые алгоритмы глобальной оптимизации, а также их особенности применения. В результате предлагается классификация описанных методов глобальной оптимизации.
Ключевые слова: методы оптимизации, алгоритмы глобальной оптимизации, случайный поиск, глобальный поиск, классификация методов глобальной оптимизации.
Annotation: This article describes some global optimization algorithms, as well as their application features. As a result, a classification of the described methods of global optimization.
Keywords: optimization methods, algorithms for global optimization, random search, global search, classification of global optimization methods.
Большой объем данных требует специальных методов анализа, что не всегда можно сделать с помощью традиционных статистических методов. При этом, использование методов интеллектуального анализа данных позволяет достичь определенных результатов.
На сегодняшний день существует множество методов оптимизации, которые применяются в различных сферах деятельности человечества. При этом решаются различные практические задачи и часто возникает
необходимость выбора наилучшего решения по некоторому критерию из множества возможных решений.
Среди методов глобальной оптимизации можно выделить три основные группы:
1. методы глобальной оптимизации на основе стохастических и термодинамических подходов;
2. методы глобальной оптимизации на основе детерминированных подходов;
3. методы глобальной оптимизации на основе эвристических и метаэвристических подходов.
К первой группе можно отнести такие методы как грубый случайный поиск или метод Монте-Карло, алгоритм имитации отжига, метод поиска с запретами и др.
Метод Монте-Карло является самым простым и в то же время самым известным алгоритмом случайного поиска, состоящий из равномерного случайного «бросания» точек в пространство поиска.
В основе имитации отжига лежит теория термодинамического процесса нагревания и медленного охлаждения субстанции для получения кристаллической структуры. Начиная со случайно выбранной точки в пространстве поиска, делается шаг в случайном направлении. Если этот шаг приводит в точку с более низким уровнем значения функции оптимизации, то он принимается. Если же он приводит в точку с большим значением функции оптимизации, то он принимается с вероятностью Р(1), где I - время. Функция Р(1) сначала близка к единице, но затем постепенно уменьшается до нуля - по аналогии с охлаждением твердого тела. Таким образом, в начале процесса моделирования принимаются любые ходы, но, когда «температура» падает, вероятность совершения негативных шагов уменьшается. Негативные шаги иногда необходимы в том случае, когда нужно избежать локального оптимума, но принятие слишком многих негативных шагов может увести в сторону от глобального оптимума. Этот метод активно исследуется (быстрый
«переотжиг», параллельный отжиг) и успешно применяется во множестве областей [3; 4; 7].
В методе поиска с запретами алгоритм заключается в выборе случайной точки в пространстве поиска, рассмотрении точек из окрестностей данной точки, и, при достижении определенного критерия, выборе новой точки в другом регионе поиска, который еще не рассматривался. Сохранение листа запретов, в котором, например, может храниться набор уже рассмотренных точек пространства поиска, является одной из основных характеристик данного подхода [7].
Ко второй группе методов глобальной оптимизации можно отнести метод ветвей и границ, методы динамического программирования, методы отсечений, которые основаны на детерминированных подходах. Эту группу также можно назвать детерминированные методы.
Детерминированные методы получают глобальное решение посредством исчерпывающего поиска на всем допустимом множестве. Поэтому большинство детерминированных методов теряют эффективность и надежность с возрастанием размерности задачи [9].
В методе ветвей и границ множество решений разбивается на ряд подмножеств (ветвление), и вместо перебора всех элементов этих подмножеств рассчитываются нижние границы минимизируемой целевой функции в подмножествах. Сокращение перебора возможно в связи с тем, что далее ветвлению подвергается только то подмножество, у которого нижняя граница оказалась наименьшей. Однако если у новых появившихся подмножеств нижние границы окажутся хуже, чем у какого-либо из ранее образованных подмножеств, то придется вернуться к шагу ветвления, на котором было образовано это более перспективное подмножество [6].
Как научное направление динамическое программирование сформировалось в начале 50-х годов ХХ-го века благодаря работам американского математика Ричарда Беллмана и его сотрудников [5].
Суть метода заключается в сведении исходной задачи к упорядоченной совокупности задач меньшей размерности и последовательного их решения. При этом на каждом шаге при решении очередной задачи используются результаты решения предыдущих задач.
Рассматривая методы отсечений можно определить их сущность в том, что сначала задача решается без условия целочисленности. Если полученный план целочисленный, задача решена. В противном случае к ограничениям задачи добавляется новое ограничение, обладающее следующими свойствами:
- оно должно быть линейным;
- должно отсекать найденный оптимальный нецелочисленный план;
- не должно отсекать ни одного целочисленного плана.
Дополнительное ограничение, обладающее указанными свойствами,
называется правильным отсечением. Далее задача решается с учетом нового ограничения. После этого в случае необходимости добавляется еще одно ограничение и т.д.
В состав третьей группы входят методы глобальной оптимизации на основе эвристических и метаэвристических подходов. К ним можно отнести эволюционные алгоритмы и алгоритмы роевого интеллекта.
Рассматривая эволюционные алгоритмы выделяют генетические алгоритмы, эволюционное программирование и эволюционные стратегии.
Генетический алгоритм относятся к группе эвристических методов, которые используются для решения проблем поиска и оптимизации. Они сочетают в себе элементы детерминированного и стохастического подходов.
В основе генетического алгоритма лежит принцип естественного отбора (выживания сильнейшего или наиболее приспособленного). В процессе поиска анализируются сразу несколько ветвей эволюции. Случайным, образом создаётся множество генотипов начальной популяции. Они оцениваются с использованием «функции приспособленности», в результате чего с каждым генотипом ассоциируется определённое значение («приспособленность»), которое определяет насколько хорошо фенотип, им описываемый, решает
поставленную задачу. Из полученного множества решений («поколения») с учётом значения «приспособленности» выбираются решения, к которым применяются «генетические операторы» («скрещивание» или «мутация»), результатом чего является получение новых решений. Для них также вычисляется значение приспособленности, и затем производится «селекция» лучших решений в следующее поколение. Этот набор действий повторяется итеративно, так моделируется «эволюционный процесс», продолжающийся несколько поколений, пока не будет выполнен критерий остановки алгоритма. Такими критериями могут выступать нахождение глобального решения, исчерпание числа поколений или времени, отпущенных на эволюцию.
Эволюционное программирование основано на тех же принципах, что и генетический алгоритм, но содержащий больше эвристических зависимостей и основанный на ранжированных мутациях, применяется в ряде комбинаторных и оптимизационных задач, в задачах машинного обучения [2].
К эволюционным стратегиям можно отнести эволюционный подход, использующий при конструировании структуры индивида адаптивный уровень мутации, что позволяет приспособиться к любой изменяющейся модели. Также применяется в области комбинаторики, экспертных системах и при машинном обучении [1].
Алгоритмы роевого интеллекта описывают коллективное поведение децентрализованной самоорганизующейся системы. Системы роевого интеллекта, как правило, состоят из множества агентов локально взаимодействующих между собой и с окружающей средой. Сами агенты обычно довольно просты, но все вместе, локально взаимодействуя, создают так называемый роевой интеллект [8].
К таким вида алгоритмов оптимизации можно отнести метод роя частиц, алгоритм поиска стаей волков, алгоритм светлячков, алгоритм поиска кукушек. Подобные алгоритмы имитируют некоторые характеристики, поведение определенного вида животных. Эти алгоритмы применяются при решении
задач как безусловной, так и условной оптимизации функций вещественных переменных.
Исходя из вышесказанного можно сделать вывод, что на сегодняшний день существует большое количество различных видов локальной и глобальной оптимизации. Применение какого-либо одного метода поиска глобального экстремума может не дать нужного результата, либо займет большое количества времени или вычислительных ресурсов. В результате чего часто применяются гибридные адаптивные алгоритмы оптимизации, объединяющих несколько стохастических алгоритмов глобальной оптимизации и алгоритмов локальной оптимизации.
В результате проведенного анализа на рисунке 1 приведена схема классификации методов глобальной оптимизации.
Рис. 1. Классификация методов глобальной оптимизации
Библиографический список:
1. Back T. A Survey of Evolution Strategies / T. Back, F. Hoffmeister, H.-P. Schwefel // Proceedings of the 4th International Conference on Genetic Algorithms /
Eds.: R.K. Belew, L.B. Booker. - San-Diego: Morgan Kaufman Publishers Inc., 1991. - P. 2-9.
2. Fogel D.B. Applying evolutionary programming to selected traveling salesman problem / D.B. Fogel // Cybernetics and Systems. - 1993. - Vol. 24. No. 1.
- P. 27-36.
3. Rutenbar R.A. Simulated annealing algorithms: An overview / R.A. Rutenbar // IEEE Circuits and Devices Magazine. - 1989. - Vol. 5. - No. 1. - P. 1926.
4. Thompson M. Application of the genetic algorithm and simulated annealing to LCfilter tuning Circuits / M. Thompson, J.K. Fidler // IEEE Devices and Systems.
- 2001. - Vol. 148. - No. 4. - P. 177-182.
5. Беллман Р., Калаба Р. Динамическое программирование и современная теория управления. -М.: Наука, 1969. -120с.
6. Газизов Т.Т. Классификация методов глобальной оптимизации для решения задач безопасности / Т.Т. Газизов // Доклады Томского государственного университета систем управления и радиоэлектроники. - 2008.
- № 2(18).- Ч. 1. - С. 130-131.
7. Газизов Т.Т. Методы глобальной оптимизации: учебное пособие. -Томск: В-Спектр, 2017. - 24 с.
8. Кооперативные бионические методы оптимизации: монография / Ш. А. Ахмедова, Е. С. Семенкин ; СибГУ им. М. Ф. Решетнева. - Красноярск, 2017. -160 с.
9. Орлянская И.В. Современные подходы к построению методов глобальной оптимизации // Электронный журнал «Исследовано в России». -2002. - С. 2097-2108
