CC BY
48
НАУЧНО-ТЕХНИЧЕСКИИ ВЕСТНИК ИНФОРМАЦИОННЫХ ТЕХНОЛОГИИ, МЕХАНИКИ И ОПТИКИ ноябрь-декабрь 2017 Том 17 № 6 ISSN 2226-1494 http://ntv.i1mo.ru/
SCIENTIFIC AND TECHNICAL JOURNAL OF INFORMATION TECHNOLOGIES, MECHANICS AND OPTICS November-December 2017 Vol. 17 No 6 ISSN 2226-1494 http://ntv.ifmo.ru/en
УДК 681.385
РАСПРЕДЕЛЕНИЕ РЕСУРСОВ НА ОСНОВЕ ГИБРИДНЫХ МОДЕЛЕЙ
РОЕВОГО ИНТЕЛЛЕКТА
Б.К. Лебедев3, О.Б. Лебедев3, Е.М. Лебедева3
a Южный федеральный университет, Ростов-на-Дону, 344006, Российская Федерация Адрес для переписки: [email protected] Информация о статье
Поступила в редакцию 03.10.17, принята к печати 31.10.17 doi: 10.17586/2226-1494-2017-17-6-1063-1073 Язык статьи - русский
Ссылка для цитирования: Лебедев Б.К., Лебедев О.Б., Лебедева Е.М. Распределение ресурсов на основе гибридных моделей роевого интеллекта // Научно-технический вестник информационных технологий, механики и оптики. 2017. Т. 17. № 6. С. 10631073. doi: 10.17586/2226-1494-2017-17-6-1063-1073
Аннотация
Предложена композитная архитектура многоагентной системы бионического поиска для решения общей распределительной задачи на основе интеграции роевого интеллекта и генетической эволюции. Рассмотрены три подхода к построению такой архитектуры. Связующим звеном такого подхода является единая структура данных, описывающая в виде хромосомы решение задачи. Рассмотренные в работе новые принципы и способы кодирования и декодирования хромосом для представления решения общей распределительной задачи исключают некорректные решения, отличаются простотой и линейными оценками временной и пространственной сложности. Предложена модифицированная парадигма метода роя частиц. Для организации перемещения роя частиц в гиперпространстве решений разработан оператор направленной мутации. Эксперименты показали, что качество решений у гибридного алгоритма на 10-15% лучше, чем у генетического и роевого алгоритмов. Общая оценка временной сложности при любом подходе к гибридизации не превышает оценки временной сложности генетического алгоритма и лежит в пределах 0(n2)-0(n3). Ключевые слова
распределительная задача, многоагентная система, роевой интеллект, генетическая эволюция, бионический поиск,
гибридизация
Благодарности
Работа выполнена при финансовой поддержке РФФИ грант № 17-07-00997.
DISTRIBUTION OF RESOURCES BASED ON HYBRID MODELS OF SWARM INTELLIGENCE B.K. Lebedeva, О^. Lebedeva, E.M. Lebedevaa
a South Federal University, Rostov-on-Don, 344006, Russian Federation Corresponding author: [email protected]
Article info
Received 03.10.17, accepted 31.10.17
doi: 10.17586/2226-1494-2017-17-6-1063-1073
Article in Russian
For citation: Lebedev B.K., Lebedev О.В., Lebedeva E.M. Distribution of resources based on hybrid models of swarm intelligence. Scientific and Technical Journal of Information Technologies, Mechanics and Optics, 2017, vol. 17, no. 6, pp. 1063-1073 (in Russian). doi: 10.17586/2226-1494-2017-17-6-1063-1073
Abstract
The composite architecture of the multi-agent bionic search system is proposed to solve the general distribution problem based on swarm intelligence and genetic evolution. Three approaches to the construction of such architecture are considered. The connecting link of this approach is a unified data structure that describes the solution of the problem in the form of a chromosome. The new principles and methods of coding and decoding of chromosomes for the representation of the general distribution problem considered in this paper exclude incorrect solutions, are distinguished by simplicity and linear estimates of temporal and spatial complexity. A modified paradigm of the particle swarm method is proposed. To organize the swarm movement of particles in hyperspace of solutions, a directed mutation operator has been developed. Experiments have shown that the quality of the solutions in the hybrid algorithm is 10 to 15% better than the genetic and swarm algorithms. The overall estimate of time complexity for any hybridization approach does not exceed the estimate of the time complexity of the genetic algorithm and lies within the range 0(n2)-0(n3).
Keywords
general distribution problem, multi-agent system, swarm intelligence, genetic evolution, bionic search, hybridization Acknowledgements
This research was supported by the grant from the Russian Foundation for Basic Research No.17-07-00997.
Введение
Распределительные задачи (РЗ) связаны с распределением ресурсов по работам, которые необходимо выполнить. Целью решения задачи является отыскание такого распределения ресурсов по работам, при котором либо минимизируются общие затраты, связанные с выполнением работ, либо максимизируется получаемый в результате общий доход. Задачи оптимального распределения ресурсов возникают в различных областях науки, техники и социальных сферах. Характер распределяемых ресурсов и смысл оптимальности может быть различным в зависимости от рассматриваемой прикладной области и конкретной задачи.
В силу того, что РЗ принадлежат к классу NP-полных задач, создание эффективных методов их решения является актуальной проблемой теории расписаний. Для решения РЗ российскими и зарубежными учеными разработано большое количество методов и алгоритмов, различающихся как областью применения, так и эксплуатационными свойствами. Методы решения РЗ принято разделять на две большие группы - точные и приближенные. Оптимальное решение неоднородной РЗ чрезвычайно сложно даже для современных вычислительных систем, особенно при использовании точных методов решения [1, 2]. В работе [3] в качестве метода точного решения используется наиболее универсальный и прогрессивный алгоритм Алексеева и его модификации. Значительный класс задач распределения ресурсов решается с использованием методов линейного и динамического программирования [4-7]. Одним из наиболее известных и эффективных точных методов решения РЗ являются алгоритмы [8, 9], построенные по принципам метода ветвей и границ (МВГ). Однако особенность МВГ заключается в том, что всегда найдется пример, решение которого «упрется» в полный перебор, и, несмотря на уменьшение комбинаторной сложности, потребуются весьма значительные затраты времени, особенно для задач повышенной размерности. Использование точных методов для решения неоднородной РЗ при ее большой размерности за доступное время оказывается невозможным. Для проблем с более чем 15 рабочими местами и машинами такие методы оказываются непрактичными, поскольку они могут работать на современном оборудовании много лет подряд.
Приближенные методы не гарантируют нахождения глобального оптимума РЗ и ориентированы на получение некоторого приемлемого или допустимого решения [10-12]. Несмотря на невысокую точность методов данного класса, главным их достоинством является высокая скорость решения, характеризующаяся полиномиальной или даже линейной зависимостью от порядка задачи. Для практических задач значимая потеря точности не всегда является приемлемой. В последние годы интенсивно разрабатывается научное направление, объединяющее математические методы, в которых заложены принципы природных механизмов принятия решений [13, 14].
Основной причиной снижения популярности приближенных методов было появление метаэври-стических подходов, таких как генетические алгоритмы (GA), Ant Colony Optimization (ACO), оптимизация роя частиц (PSO), табу поиск (TS), моделирование отжига (SA), алгоритм летучих мышей (Bat Algorithm, BA) и др. [13]. Такие методы являются итеративными, эвристическими методами случайного поиска. Среди них особенно активно развиваются методы генетического поиска [15-17] и роевого интеллекта (Swarm Intelligence) [18, 19], в которых совокупность простых агентов конструирует стратегию своего поведения без наличия глобального управления.
Эффективность генетических алгоритмов (ГА) во многом определяется как учетом специфики решаемой задачи, так и использованием новых и модифицированных процедур поиска. Повышения эффективности ГА можно добиться разработкой структуры хромосом, обладающих свойством гомологичности, что исключает возникновение нелегальных решений и упрощает выполнение генетических операторов, модифицирующих хромосомы. Достоинством ГА с такими хромосомами, прежде всего, является линейная оценка временной и пространственной сложности генетических процедур, выполняемых на каждой итерации, что дает возможность решать задачи большой размерности.
Для повышения эффективности в ГА используются структурирование хромосом и многохромосомные представления решения. Каждая часть структурированной хромосомы или каждая хромосома в случае многохромосомных представлений отвечает за определенный аспект решения. Это упрощает и делает более целенаправленным процесс генетического поиска. В процессе генетического поиска некоторые решения, содержащиеся в развивающейся популяции, бывают очень близки к оптимальным. Однако механизмы генетического поиска, реализующие случайные изменения, часто не находят ту цепочку изменений, которая приводит к оптимальному решению. Для этого нужны «осмысленные» изменения, направленные в сторону глобального оптимума. Такие свойства как раз присущи адаптивным поисковым процедурам на основе метода роя частиц. В настоящее время одним из основных путей повышения эф-
фективности решения задач глобального поиска является разработка гибридных алгоритмов. В гибридных алгоритмах преимущества одного алгоритма могут компенсировать недостатки другого. В работе излагается метод решения распределительной задачи на основе интеграции генетической эволюции и роевого интеллекта [20, 21]. Предложена композитная архитектура многоагентной системы бионического поиска.
Постановка задачи
Если затраты (или доход), определяемые объемом xi/ ресурса i, выделенного на выполнение работы j, равны XijCy, то имеем линейную распределительную задачу.
Основные методы решения распределительных задач, в частности, линейного программирования (ЛП), построены на допущении, что объемы имеющихся в наличии ресурсов (bi), требуемые объемы (а/) и затраты (Cj) точно известны. Общая распределительная задача ЛП - это распределительная задача, в которой работы и ресурсы (исполнители) выражаются в различных единицах измерения. Типичным примером такой задачи является организация выпуска разнородной продукции на оборудовании различных типов.
Если общий объем наличных ресурсов Ebi (i =1.. .m) равен общей потребности в них Еа/ (i =1.. .и), то имеет место сбалансированная (закрытая) распределительная задача. Если же Еа/ Ф Ebi , то задача называется несбалансированной (открытой). Задачи оптимального распределения ресурсов возникают в различных областях науки, техники и социальных сферах. Характер распределяемых ресурсов и смысл оптимальности могут быть различными в зависимости от рассматриваемой прикладной области и конкретной задачи.
Приведем простой пример такой задачи.
Пусть для изготовления набора продуктов P={pi\i=1,2,...,n} в соответствии с планом используется набор станков S={s/j=1,2,...,m}.
Введем: xij- - планируемое количество продукта p, производимого на станке s/, С/ - затраты на производство единицы продукта pt на станке s/, а/ - суммарный ресурс станка s/, d/ - расход ресурса при производстве единицы продукта pi на станке s/.
Целевая функция, отображающая суммарные затраты, имеет вид
п m
F(x) = ^"^C/jd/j ^ min. (1)
/=1 /=1
Искомый набор xij должен удовлетворять следующим ограничениям:
m
XXj = b, i = 1,2,...,п , (2)
/=1
п
Xdjxj < aj,j = l^..^m, (3)
i=1
x^ >0, i = 1,2,...,и, /=1,2,...,m. (4)
При этом соотношения (2) обеспечивают выполнение плана заказов, а соотношения (3) и (4) учитывают ограничения на ресурс оборудования.
В результате решения распределительной задачи для каждого продукта pi формируется вектор Xi={xj/'=1,2,...,m}, задающий распределение объемов x/ продукта pi между станками набора S={s/j=1,2,...,m} с учетом минимизации критерия F согласно формуле (1). Если для некоторого решения X={Xi\i=1,2,3,...,n} задачи распределения не выполняется одно из ограничений (3), то такое распределение считается нелегальным.
Общая структура представления решений в алгоритме распределения ресурсов на основе роевого
интеллекта и генетического поиска
В эвристических алгоритмах роевого интеллекта многомерное пространство поиска населяется роем частиц [5]. Каждая частица представляет некоторое решение, в нашем случае - решение распределительной задачи. Процесс поиска решений заключается в последовательном перемещении частиц в пространстве поиска. Позиция частицы i в пространстве решений в момент времени t (t имеет дискретные значения) определяется вектором xi(t). По аналогии с эволюционными стратегиями рой можно трактовать как популяцию, а частицу - как индивида (хромосому). Это дает возможность построения гибридной структуры поиска решения, основанной на сочетании генетического поиска с методами роевого интеллекта. Связующим звеном такого подхода является структура данных, описывающая в виде хромосомы решение задачи. Если в качестве частицы используется хромосома, то число параметров, определяющих положение частицы в пространстве решений, должно быть равно числу генов в хромосоме. Значение каждого гена откладывается на соответствующей оси пространства решений. В этом случае возникают некоторые требования к структуре хромосомы и значениям генов. Значения генов должны быть дискретными и независимыми друг от друга, т.е. хромосомы должны быть гомологичными.
В работе предлагается подход к построению структур и принципов кодирования хромосом, обеспечивающих их гомологичность и возможность одновременного использования в генетическом алгоритме и в алгоритме на основе роя частиц.
Разработка структуры хромосомы производилась так, чтобы гены в одних и тех же локусах хромосом являлись гомологичными, так как это упрощает выполнение генетических операторов. Общее решение распределительной задачи представляется в виде совокупности векторов Х={Х,|/=1,2,3,...,п}, Х,-={х/[/=1,2,...,да}. Хромосома Н состоит из частей каждая из которых соответствует вектору Х,-={Ху[/=1,2,...,да}, и наоборот, H={hi\i=1,2,...,n}. Каждая часть Hi представляет собой совокупность (т-1) генов gl, значения которых могут изменяться в пределах диапазона, определяемого параметром Ь,: ИгеН, &еНи 0^г<Ь, (5)
Структура хромосомы Н, соответствующая совокупности векторов X, имеет вид, представленный на рис. 1. Для удобства введено обозначение ф = т - 1.
Н = \\jhi.
i = 1
Н
k2 kз
g2 ,?ф+1 gФ+2 g2ф <?(п-1),(ф+1) • • • gnф
Рис. 1. Структура хромосомы
Процесс перехода от хромосомы Н к совокупности векторов X осуществляется следующим образом. Сначала в каждой части hi гены упорядочиваются по возрастанию их значений, т.е. если glehi и gl+l ек, то gl+l . Значения соседних генов gl и gl+1 в пределах каждой части hi являются опорными точками на отрезке длиной Ь^ (от 0 до Ь) , разбивающими его на интервалы. Длина интервала, определенного как - gl), gl+,еhi и glеhi, и есть величина соответствующего элемента X/ вектораX.
Пусть для трех видов продукции имеется упорядоченная хромосома, состоящая из трех частей -Н={8,12,16,25; 3,5,8,9; 5,7,14,20}, при этом Ь:=30, Ь2=10, Ь3=21, т=5. Каждая часть хромосомы включает четыре гена (т-1=4). Принцип декодирования хромосомы представлен на рис. 2.
Н
k2 kз
8 12 16 25 3 5 8 9 5 7 14 20
к.
1}
0 8 12 16 25 30 0 3 5 8 9 10 0 5 7 14 20 21
•-•-•-•-•-• •-•-•—9-•-• •-•—•-«-•-•
8 4 4 9 5
3 2 3 1 1
5 2 7 6 1
Ь1=30 Ь2=10 Ьэ=21
Х={8, 4, 4, 9, 5} Х2={3, 2, 3, 1, 1} Х3={5, 2, 7, 6, 1} Рис. 2. Принцип декодирования хромосомы
Представленной хромосоме соответствуют три вектора Х1={8,4,4,9,5}, Х2={3,2,3,1,1}, Х3={5,2,7,6,1}, задающие распределение продукции по 5 станкам.
В работе предлагается два способа кодирования и декодирования хромосом.
При первом способе представления решения задачи распределения значения генов определяются только ограничениями типа (5). Процесс перехода от хромосомы Н к совокупности векторов X предусматривает предварительное упорядочивание генов в каждой части по возрастанию их значений.
При втором способе представления решения изначально гены в пределах каждой части hi упорядочены по возрастанию их значений.
Временная сложность декодирования хромосом второго вида, т.е. переход от Н к набору Х, имеет линейную зависимость О(Ь), где Ь - длина хромосомы, Ь=т-п. Для хромосом первого вида предварительно в каждой части hiеН осуществляется сортировка, временная сложность которой определяется как О(т \ogrn). Тогда временная сложность декодирования всей хромосомы первого типа определяется как О(т ■ п -1о§,т) = О (Ь -1о^).
Для организации генетического поиска формируется исходная популяция особей П={Н"\и = 1,2,., 9}, где 9 - размер популяции. Популяция П представляет собой репродукционную
h
h
2
3
группу - совокупность индивидуальностей, любые из которых могут размножаться, выступая в роли родителей.
В работе используется принцип случайного формирования исходной популяции. Для этого в пределах каждой хромосомы Н в каждой части к" каждый ген gleh1" принимает случайное значение в диапазоне (0 -bi ), т.е. от 0 до Ь.
Механизмы генетического поиска
На каждой генерации вначале реализуются операторы кроссинговера, мутации, а затем расширенная популяция подвергается редукции с помощью селективного отбора, т.е. уменьшению до начального объема. Для хромосом первого вида используются два типа операторов кроссинговера - К] и К2. Крос-синговер К1 выполняется следующим образом. Пусть имеются две родительские хромосомы Н1 и Н2. Последовательно, начиная с первого, просматриваются их локусы, и с вероятностью Ра1 осуществляется обмен генами. В результате получаются две новые хромосомы - Н 1 и Н2.
Кроссинговер второго типа К2 выполняется следующим образом. Последовательно, начиная с первой, просматриваются пары областей (к\-,к2) (/ = 1,2,...,п) родительской пары хромосом Н1 и Н2, и с вероятностью Рк2 происходит обмен текущей пары областей h1i и к2. В результате появляется новая пара хромосом Н*]и Н*2.
Мутация для хромосом первого вида реализуется следующим образом. Последовательно просматриваются локусы хромосом, и с вероятностью Рм ген glehi в текущем локусе мутирует. В результате мутации ген glehi приобретает новое случайное значение в диапазоне 0
Для хромосом второго вида кроссинговер К1 выполняется следующим образом. Пусть имеются две родительские хромосомы
Н1
и Н2. Последовательно просматриваются локусы хромосом, и с вероятностью Ра осуществляется обмен генами в текущем локусе при условии соблюдения ограничения на крос-синговер. Напомним, что в хромосомах второго вида в каждой части h1i и k2i значения генов упорядочены по возрастанию. Суть ограничения состоит в следующем. Если текущий локус не является ни первым, ни последним в частях h1i и h2i , то обмен генами g1leh1j и g2l<Eh2i может быть произведен при соблюдении ограничений, имеющих следующий вид:
^-1 < g1l < g2l+l) и < g2l< g1l+l);
(д! < g2l+1) и (g2l < g1l+1), если локус l является первым в частях Н1i и Н2; (6)
(^,2^ < g1l) и (^1« < g2l), если локус l является последним в частях Нli и Н2. Если выполняются одно из ограничений (6), то после обмена генами g1l и g2l в новых хромосомах гены будут упорядочены.
Оператор мутации для хромосом второго вида отличается от рассматриваемого выше различными диапазонами возможных значений мутируемого гена, которые регламентируются ограничениями на диапазон.
Если в ходе последовательного просмотра локусов в текущем локусе l выпадает с вероятностью Рм событие «мутация», то ген glehi мутирует. При этом он приобретает случайное значение в диапазоне:
0 < gl < gl+1, если локус l - первый в части hi;
gl-1 <gl < gl+1, если локус l не является ни первым, ни последним в части hi; (7)
gl-1 < gl < Ь, если локус l - последний в части hi.
Выполнение ограничений на кроссинговер и на диапазон мутации при выполнении операций кроссинговера и мутации обеспечивает сохранение основного свойства хромосом второго типа, заключающегося в том, что в пределах каждой части Н1 гены упорядочены по возрастанию их значений.
Как видно из алгоритмов, реализующих процедуры кроссинговера и мутации, временная сложность операторов кроссинговера 4 и мутации /м применительно к одной хромосоме имеет линейную зависимость, и оценки временной сложности имеют вид 4=О(Ь), 4=О(Ь), где Ь - длина хромосомы.
Временные затраты в пределах поколения складываются из затрат на операторы: кроссинговера 4, мутации расчета оценки tф, декодирования td и селекции 4. Как уже указывалось выше, временные затраты - 4, 4 и tф имеют линейную зависимость от Ь, где Ь=пт, п - число типов продуктов, т - число станков. Временные затраты оператора селекции tс на основе «принципа рулетки» имеют линейную зависимость от объема популяции М. Отсюда временные затраты в пределах поколения для хромосом первого вида имеют оценку О(Ь • М), а для хромосом второго вида - 0(ЬЛо§т-М).
Следует отметить, что представленное хромосомой Н решение X задачи распределения обеспечивает выполнение плана заказов, так как структура хромосомы сформирована в соответствии с соотношениями (2). Однако хромосома Н не учитывает ограничения на ресурсы оборудования, задаваемые соотношениями (3) и (4). Другими словами, хромосома Н, формируемая в соответствии с изложенными выше правилами, учитывает ограничения на выполнение плана заказов, но не учитывает ограничения на ресурсы оборудования. В связи с этим каждая хромосома, создаваемая либо на этапе формирования исходной популяции, либо в результате выполнения операторов кроссинговера или мутации, проверяется на выполнение ограничений на ресурсы оборудования, задаваемые соотношениями (3). Если представленное
хромосомой Н решение X задачи распределения не соответствует ограничениям на ресурсы, то такая хромосома исключается из рассмотрения.
Очевидно, что число нелегальных хромосом напрямую зависит от соотношения между суммарным объемом Ур ресурсов, необходимым для производства планируемого количества продукции, и суммарным объемом У ресурсов оборудования. Исследования показали, что при равенстве этих объемов в процессе работы алгоритма число создаваемых нелегальных хромосом колеблется в пределах 5-7% от числа хромосом в популяции. Дополнительная проверка хромосом на легальность увеличивает время решения в среднем на 5%. При превышении У над Ур на 5% число нелегальных хромосом составило менее 1%.
Механизмы решения задачи распределения ресурсов на основе роевого интеллекта
В методе оптимизации роем частиц агентами являются частицы в пространстве параметров задачи оптимизации. Основу поведения роя частиц составляет самоорганизация, обеспечивающая достижение общих целей роя на основе низкоуровневого взаимодействия. Каждая частица связана со всеми частицами роя, может взаимодействовать со всеми частицами и тяготеет к лучшему решению роя. Процесс поиска решений - итерационный. На каждой итерации каждая частица перемещается в пространстве параметров. Эти частицы никогда не умирают (так как нет селекции), а перемещаются с помощью направленной мутации в новую позицию. В каждый момент времени (на каждой итерации) частицы имеют в этом пространстве некоторое положение х^) и «вектор скорости» у(Г). Для каждого положения частицы вычисляется соответствующее значение целевой функции. При определении следующего положения частицы учитывается информация о наилучшей частице из числа ее «соседей», а также информация о данной частице на той итерации, когда этой частице соответствовало наилучшее значение целевой функции. На основе этой информации, по определенным правилам, с помощью «вектора скорости» частица меняет свое положение в пространстве поиска и модифицирует «скорость» [14].
В каноническом методе роя частиц [15], использующем непрерывные метрические шкалы, новая позиция частицы i определяется с помощью аналитических выражений как
х1(Г+1)=х1(Г)+у1(Г+1),
где у,(/+1) - скорость перемещения частицы i из позиции х,(() в позицию х,(/+1). Начальное состояние определяется как х,(0), у,(0). Приведенная формула представлена в векторной форме. Для отдельного измерения к пространства поиска формула примет следующий вид:
х1к(Г+1)=хй(Г)+у1к(Г+1),
где хц(1) - позиция частицы i в измерении к; Уц(:+\) - скорость частицы i в измерении к, задающая приращения хц(1) в измерении к.
Введем обозначения:
- /(() - текущее значение целевой функции частицы i в позиции х,(^;
- /(() - лучшее значение целевой функции среди частиц роя в момент времени ^ а х (/) - позиция с этим значением;
- х*,(^ - лучшая позиция частицы i, которую она посещала с начала первой итерации, а ) - значение целевой функции в этой позиции (лучшее значение частицы /').
Лучшие частицы с точки зрения целевой функции объявляются «центром притяжения». Векторы скоростей всех частиц устремляются к этим центрам.
В работе в отличие от стандартной парадигмы метода роя частиц вместо непрерывной метрической (числовой) шкалы используется дискретная.
Для того чтобы избежать при описании популяции (роя) путаницы, будем в дальнейшем каждую хромосому, описывающую i-ое решение популяции обозначать как Причем каждая имеет
структуру, описанную выше. В нашем случае позиция хк(0 соответствует решению Xе задачи распределения, задаваемому хромосомой Н\0, т.е. хк(0=Н\(). Аналогично х'/Х^^*^), х*(0=Н*(0. Число осей в пространстве решений равно числу генов в хромосоме Н(). Точками отсчета на каждой оси к являются значения генов.
В работе скорость ук^+1) рассматривается как средство изменения решения. В отличие от канонического метода роя частиц, в нашем случае скорость у,^+1) не может быть представленной в виде аналитического выражения. В качестве аналога скорости ук^+1) выступает оператор направленной мутации (ОНМ), суть которого заключается в изменения значения генов в хромосоме
Перемещение частицы
хк(^) в новую позицию означает переход от хромосомы Н\0 к новой - Н^+1) с новыми значениями генов gkl, полученными после применения ОНМ.
По аналогии с каноническим методом роя частиц позицию х к(() будем называть когнитивным центром притяжения, а позицию х (Г) - социальным центром притяжения. Когнитивный центр выступает в роли индивидуальной памяти о наиболее оптимальных позициях данной частицы. Благодаря социальному центру частица имеет возможность передвигаться в оптимальные позиции, найденные соседними частицами.
Для учета одновременного тяготения частицы к к позициям х(^ и х ¡() формируется центр притяжения х°к(() этой частицы. Формирование хск(^ осуществляется путем применения процедуры перемещения к позициям х(^ и х После определения центра притяжения хск(^ частица хк(^ с помощью процедуры перемещения перемещается в направлении хс,(() из позиции хк(^ в позицию хк^+1).
В качестве оценки степени близости между двумя позициями хк(() и х() будем использовать величину Якг расстояния между хромосомами Н^) и Н^): п I
Кь = gkl - gzl ■
Целью перемещения хромосомы Н() в направлении хромосомы Нкф является сокращение расстояния между ними.
Суть процедуры перемещения, реализуемой ОНМ, заключается в изменении разности между значениями каждой пары генов (^ц, gzl) двух хромосом, = 1, 2, ..., пт.
Перемещение частицы из позиции №(() в позицию 1) под воздействием притяжения к позиции осуществляется путем применения ОНМ к Н2^) следующим образом. Последовательно просматриваются (начиная с первого) локусы хромосом Н^) и Н^), и сравниваются соответствующие им гены. Если в ходе последовательного просмотра локусов в текущем локусе l выпадает с вероятностью р событие «мутация», то ген gzl(t)eЯz(t) мутирует.
Мутации выполняются по следующим правилам: если (яШ^Щ)=0, то gzl(t+1)=gzl(t); если (gkl(f)-gzl(t))<0, то gzl(t+1)=gzl(t)-1; если (gkl(t)-gzl(t))>0, то gzl(t+1)=gzl(t)+1.
Параметр р зависит от расстояния Кк() между позициями Нk(t) и Н(£), и определяется следующим образом:
р=аКк^)/пт,
где а - коэффициент, пт - длина хромосомы. Таким образом, чем больше расстояние Кк(() между позициями
и №((), тем больше вероятность, что значение gzl(t) будет изменено. Пример. Пусть Н^^ЗДН^^ Н(0=<4,10,15,22>. В соответствии с выражением (7) Яь(^=\5-4| + |8-10| + |17-15| + |20-22|=7.
Примем р=1, тогда в соответствии с правилами направленной мутации
^^+1)=<5,9,16,21>), Як^+1)=\5-5\ + \8-9\ + \17-16\ + \20-21\=3.
Таким образом, расстояния между позициями Н и Н сократилось с 7 до 3.
Локальная цель перемещения частицы Н - достижение ею позиции с наилучшим значением целевой функции. Глобальная цель роя частиц - формирование решения задачи распределения - минимизация общего количества затрат при изготовления набора продуктов P={pi\i=1,2,..,,п} в соответствии с планом на наборе станков 8={^у\) = 1,2,.,т}.
Гибридизация роевого интеллекта с генетическим поиском
В гибридных алгоритмах преимущества одного алгоритма могут компенсировать недостатки другого. В связи с этим в настоящее время одним из основных путей повышения эффективности решения задач глобального поиска является разработка гибридных алгоритмов. Существуют различные способы гибридизации поисковых алгоритмов оптимизации. В соответствии с классификацией Ванга [22] выделяют три категории гибридных алгоритмов: вложенные алгоритмы, алгоритмы типа препроцессор/постпроцессор, коалгоритмы.
Предлагается композитная архитектура многоагентной системы бионического поиска для решения общей распределительной задачи на основе роевого интеллекта и генетической эволюции. Рассмотрены три подхода к построению такой архитектуры [20, 21].
Первый и наиболее простой подход к гибридизации заключается в последовательном использовании двух алгоритмов. Сначала поиск решения осуществляется генетическим алгоритмом. Затем на основе популяции, полученной на последней итерации генетического поиска, формируется популяция для роевого алгоритма. В формируемую популяцию включаются лучшие, но отличные друг от друга хромосомы. При необходимости полученная популяция доукомплектовывается новыми индивидами. После этого популяция хромосом рассматривается как рой частиц. Дальнейший поиск решения осуществляется роевым алгоритмом.
При втором подходе используется высокоуровневая гибридизация вложением, предполагающая сращивание гибридизируемых алгоритмов. Отличительным признаком высокоуровневой гибридизации является то, что объединяемые алгоритмы сохраняют значительную автономию. Метод роя частиц используется в процессе генетического поиска и играет роль, аналогичную генетическим операторам. В этом случае на каждой итерации генетического алгоритма на первом этапе с помощью кроссинговера и мутации осуществляется синтез новых хромосом, а на втором этапе с помощью оператора направленной мутации осуществляется модификация хромосом, что соответствует перемещению роя частиц в новые
позиции. Далее обновленная популяция используется в общей структуре процедуры генетического поиска.
Третий подход является объединением первого и второго подходов. Первые итерации поиска реализует гибридный алгоритм в соответствии со вторым подходом, а завершающие итерации - метод роя частиц.
Оценка временной сложности операторов роя частиц не превышает оценки временной сложности генетических операторов. Оценка временной сложности генетического алгоритма не превышает оценки временной сложности алгоритма роя частиц. В связи с этим общая оценка временной сложности при любом подходе к гибридизации не превышает оценки временной сложности генетического алгоритма и лежит в пределах О(п2)- О(п3).
Экспериментальные исследования
Для написания программы был использован язык C++ в среде Microsoft Visual Studio 2010 для операционной системы (ОС) Windows, так как главный упор делался на скорость работы приложения.
Тестирование проводилось на ЭВМ с процессором Intel Core 2 Duo T6600 2200 МГц под управлением ОС Windows 7.
Были проведены исследования рассмотренных алгоритмов на оптимальность и масштабируемость.
Целью первой части исследований являлось определение эффективности интеграции роевого и генетического алгоритмов. Для этого сначала проводились по отдельности исследования роевого и генетического алгоритмов, разработанных авторами. А затем исследовался гибридный алгоритм.
Исследованию подвергались примеры задач распределения, для наборов продуктов размером от 20 до 100 и наборов оборудования размером от 5 до 15. Каждый пример тестировался на 20 независимых прогонах генетическим, роевым и гибридным алгоритмом по отдельности.
При исследовании сходимости алгоритмов для каждого эксперимента запоминался номер генерации, после которой не наблюдалось улучшения оценки. В каждой серии из 20 испытаний определялось среднее значение числа генераций, после которого не наблюдалось улучшения оценки. Для каждой серии испытаний определялось лучшее решение. На основе обработки экспериментальных исследований для алгоритмов была построена средняя зависимость качества решений от числа итераций.
В результате проведенных исследований установлено, что качество решений у гибридного алгоритма на 10-15% лучше качества решений генетического и роевого алгоритмов по отдельности. В среднем программа входит в локальный оптимум на 130 итерации (рис. 3).
20 40 60 80 100 130 150 Число итераций
Рис. 3. Зависимость качества гибридного алгоритма от числа итераций.
ЦФ - целевая функция
Эксперименты показали, что увеличение популяции М больше 100 нецелесообразно, так как это не приводит к заметному изменению качества.
Исследования показали, что при равенстве между суммарным объемом Vp ресурсов, необходимых для производства планируемого количества продукции, и объемом Vs ресурсов оборудования, число создаваемых в процессе работы алгоритма нелегальных хромосом колеблется в пределах 5-7% от общего числа хромосом в популяции. Дополнительная проверка хромосом на легальность увеличивает время решения в среднем на 5%. При превышении Vs над Vp на 5% число нелегальных хромосом составило менее 1%.
Вероятность получения глобального оптимума составила 0,94. В среднем запуск программы обеспечивает нахождение решения, отличающегося от оптимального менее чем на 2%.
Временная сложность алгоритма при фиксированных значениях M и количества генераций T лежит в пределах О(п). Общая оценка временной сложности при любом подходе к гибридизации не превышает оценки временной сложности генетического алгоритма и лежит в пределах О(п2)-О(п3).
Сравнительный анализ с другими алгоритмами решения РЗ производился на стандартных тестовых примерах (бенчмарках).
В таблице приведены результаты сравнительных экспериментов и их анализ. Предлагаемый гибридный алгоритм GA-PSO сравнивается с PSO [19] и IBA (Improved Bat Algorithm) [23, 24] на benchmarks
(FT06, FT10 и FT20) и (от LA01 до LA07). Эти тесты доступны на веб-сайте OR-Library [21] и http://mscmga.ms.ic.ac.uk.
№ Probl Size nxm 0pt PS0 IBA GA-PS0
best Aver RPE % best Aver RPE % best Aver RPE %
1 Ft06 6x6 55 55 58,9 0 55 56,93 0 55 56,3 0
2 Ft10 10x10 930 1007 1086 8,2795 991 1012,6 6,5591 975 976,57 4,8387
3 Ft20 20x5 1165 1242 1296 6,6094 1177 1188,5 1,0300 1181 1183,7 1,3733
4 La01 10x5 666 681 705 2,2522 666 666 0 666 675,9 0
5 La02 10x5 655 694 729,7 5,9541 668 677,5 1,9847 662 676,966 1,0526
6 La03 10x5 597 633 657,5 6,0301 613 622,6 2,6800 611 613,466 2,3450
7 La04 10x5 590 611 648, 1 3,5593 611 611 3,5593 605 607,3 2,5423
8 La05 10x5 593 593 601,1 0 593 593 0 593 593,8 0
9 La06 15x5 926 926 940 ,2 0 926 926 0 926 927,5 0
10 La07 15x5 890 890 940,1 0 890 890 0 890 890,933 0
Таблица. Результаты сравнительного анализа
Содержимое таблицы включает имя каждой тестовой задачи (Probl), масштаб проблемы (Size), значение самого лучшего известного решения для каждой задачи (Opt), значение наилучшего решения, найденного с использованием сравниваемых алгоритмов (best), среднее значение решения (Aver), процент отклонения по отношению к наиболее известному решению (RPE %). RPE=(best-0pt)\0pt)x100, (RPE) Relative Percentage Error.
Значения параметров Opt, best, Aver отражают суммарные затраты в условных единицах.
Для задач (La05, La06 и La07) все три алгоритма дают наилучшие известные значения (best=0pt), среднее значение решений Aver у GA-PS0 лучше, чем среднее значение у PS0, но незначительно хуже, чем у IBA. Для задачи FT20 GA-PS0 по сравнению с PS0 дает лучшие результаты по всем показателям; по сравнению с IBA незначительно худший результат по показателю best, но лучший результат по показателю Aver. Для задач (FT10, La02, La03 и La04) GA-PS0 дает результаты по всем показателям (best, Aver, RPE) лучше, чем PS0 и IBA.
Результаты показывают, что предлагаемый подход дает улучшение качества решения по отношению к другим алгоритмам и является приемлемой альтернативой для решения распределительных задач.
Заключение
На основе сравнительного анализа существующих подходов и методов для решения общей распределительной задачи (ОРЗ) использованы мультиагентные методы интеллектуальной оптимизации, базирующиеся на моделировании адаптивного поведения биологических систем. Предложен подход к решению ОРЗ методами гибридного роевого интеллекта. Композитная архитектура многоагентной системы бионического поиска для решения ОРЗ базируется на основе интеграции роевого интеллекта и генетической эволюции. Связующим звеном такого подхода является структура данных, описывающая в виде хромосомы решение задачи. Рассмотренные в работе новые принципы и способы кодирования и декодирования хромосом для представления решения ОРЗ исключают некорректные решения, отличаются простотой и линейными оценками временной и пространственной сложности, что упрощает использование генетических операторов и позволяет использовать модификации генетических операторов, близких к естественным.
Многохромосомные представления решений позволили создать иерархические структуры генетических операторов, что дает возможность организовать целенаправленный поиск.
Предложена модифицированная парадигма метода роя частиц. В отличие от стандартной парадигмы метода роя частиц вместо непрерывной метрической (числовой) шкалы используется дискретная. В качестве скорости vk(t+1) выступает оператор направленной мутации, суть которого заключается в изменении значения генов в хромосоме. Перемещение частицы xk(t) в новую позицию означает переход соответствующей хромосомы посредством предложенного оператора направленной мутации в новое состояние с новыми значениями генов.
Гибридный подход, способы и методы представления ОРЗ в виде эволюционных процессов, основанных на интеграции моделей адаптивного поведения биологических систем, композитных архитектур нахождения решений, позволяют работать с задачами большой размерности и получать качественные результаты за приемлемое время.
Литература
1. Золотарев А. А. Методы оптимизации распределительных процессов. М.: Инфра-Инженерия, 2014. 160 с.
2. Brucker P. Scheduling Algorithms. 5th ed. Springer, 2007. 379 p.
3. Нейдорф Р.А., Кобак В.Г., Красный Д.Г. Точное решение неоднородной распределительной задачи модификацией алгоритма Алексеева // Известия вузов. Северо-Кавказский регион. Серия: Технические науки. 2008. №1. С. 17-21.
4. Серая О.В. Распределительная задача линейного программирования // Системы обработки информации. 2013. № 2 (109). С. 167-170.
5. Акулич И.Л. Математическое программирование в примерах и задачах. 3-e изд. СПб.: Лань, 2011. 352 с.
6. Костюкевич В.М., Давыдков Г.А., Хотина И.Г. Оптимальное распределение ресурсов с использованием динамического программирования // Resources and Technology. 2006. T. 7. C. 49-51.
7. Lorigeon T., Billaut J.C., Bouquar J.L. A dynamic programming algorithm for scheduling jobs in a two-machine open shop with an availability constraint // Journal of the Operational Research Society. 2002. V. 53. N 11. P. 1239-1246. doi: 10.1057/palgrave.jors.2601421
8. Прилуцкий М.Х., Кумагина Е.А. Метод ветвей и границ решения задачи многоресурсного сетевого планирования // Системы управления и информационные технологии. 2014. № 2(56). С. 48-51.
9. Artigues C., Feillet D. A branch and bound method for the job shop problem with sequence dependent setup times // Annals of Operations Research. 2008. V. 159. N 1. P. 135-159. doi: 10.1007/s10479-007-0283-0
10. Пантелеев А.В., Скавинская Д.В., Алёшина E.A. Метаэвристические алгоритмы поиска оптимального программного управления. М.: ИНФРА-М, 2017. 396 с.
11. Богданов С.И., Петров А.В. Эффективные процессы распределения товаров: концепции, модели, методы реализации. Екатеринбург: УрГЭУ, 2008. 234 с.
12. Золотарев А.А., Венцов Н.Н., Агибалов О.И., Деева А.С. Оптимизация распределительных процессов на основе аналитических методов и эвристических алгоритмов // Вестник науки и образования Северо-Запада России. 2016. Т. 2. № 1. С. 74-82.
13. Карпенко А. П. Современные алгоритмы поисковой оптимизации. Алгоритмы, вдохновленные природой. М.: МГТУ им. Н.Э. Баумана, 2014. 448 с.
14. Курейчик В.М., Лебедев Б.К., Лебедев О.Б. Поисковая адаптация. Теория и практика. М.: Физматлит, 2006. 272 с.
15. Verma S., Jain M., Choudhary D. Solving the job-shop scheduling problem by using genetic algorithm // International Journal of Computational Science and Mathematics. 2011. V. 3. N 1. P. 93-98.
16. Moon I., Lee S., Bae H. Genetic algorithms for job shop scheduling problems with alternative routings // International Journal of Production Research. 2008. V. 46. N 10. P. 26952705. doi: 10.1080/00207540701244820
17. Liang S., Cheng X., Liang Y. Solving job shop scheduling problem using genetic algorithm with penalty function // International Journal of Intelligent Information Processing. 2010. V. 1. N 2. P. 65-77. doi: 10.4156/ijiip.vol1.issue2.7
18. Nickabadi A., Ebadzadeh M.M., Safabakhsh R. A novel particle swarm optimization algorithm with adaptive inertia weight // Applied Soft Computing Journal. 2011. V. 11. N 4. P. 36583670. doi: 10.1016/j.asoc.2011.01.037
19. Sha D.Y., Hsu C.Y. A hybrid particle swarm optimization for job shop scheduling problem // Computers and Industrial Engineering. 2006. V. 51. N 4. P. 791-808. doi: 10.1016/j.cie.2006.09.002
20. Лебедев Б.К., Лебедев В.Б. Покрытие на основе метода роя частиц // Материалы Международной конференции по нейрокибернетике. 2011. Т.2. С. 417-425.
21. Лебедев Б.К., Лебедев В.Б. Планирование на основе роевого интеллекта и генетической эволюции // Известия ЮФУ. Технические науки. 2009. №4. С. 25-33.
22. Blum Ch., Aguilera M.J.B., Roli A., Sampels M. Hybrid
References
1. Zolotarev A. A. Methods for Optimizing Distribution Processes. Moscow, Infra-Inzheneriya Publ., 2014, 160 p. (In Russian)
2. Brucker P. Scheduling Algorithms. 5th ed. Springer, 2007, 379 p.
3. Neydorf R.A., Kobak V.G., Krasniy D.G. The exact decision non-uniform of problems by modification of algorithm Alekseev. University News. North-Caucasian Region. Technical Sciences Series, 2008, no. 1, pp. 17-21. (In Russian)
4. Seraya O.V. Distribution problem of linear programing.
Sistemy Obrabotki Informatsii, 2013, no. 2, pp. 167-170. (In Russian)
5. Akulich I.L. Mathematical Programming in Examples and Tasks. 3rd ed. St. Petersburg, Lan' Publ., 2011, 352 p. (In Russian)
6. Kostyukevich V.M., Davydkov G.A., Khotina I.G. Resources optimal distribution on the basis of dynamic programming.
Resources and Technology, 2006, vol. 7, pp. 49-51. (In Russian)
7. Lorigeon T., Billaut J.C., Bouquar J.L. A dynamic programming algorithm for scheduling jobs in a two-machine open shop with an availability constraint. Journal of the Operational Research Society, 2002, vol. 53, no. 11, pp. 1239-1246. doi: 10.1057/palgrave.jors.2601421
8. Prilutskii M.Kh., Kumagina E.A. Method of branches and boundaries for solving the problem of multi-resource network planning. Sistemy Upravleniya i Informatsionnye Tekhnologii, 2014, no. 2, pp. 48-51. (In Russian)
9. Artigues C., Feillet D. A branch and bound method for the job shop problem with sequence dependent setup times. Annals of Operations Research, 2008, vol. 159, no. 1, pp. 135-159. doi: 10.1007/s10479-007-0283-0
10. Panteleev A.V., Skavinskaya D.V., Aleshina E.A. Metaheuristic Algorithms of Search of Optimum Program Control. Moscow, Infra-M Publ., 2017, 396 p. (In Russian)
11. Bogdanov S.I. Effective Processes of Product Distribution: Concepts, Models, Implementation Methods. Ekaterinburg, UrSEU Publ., 2008, 234 p. (In Russian)
12. Zolotarev A.A., Ventsov N.N., Agibalov O.I., Deeva A.S. Distribution process optimization based on analytical methods and heuristic algorithms. Journal of Science and Education of North-WestRussia, 2016, vol. 2, no. 1, pp. 74-82. (In Russian)
13. Karpenko A.P. Modern Algorithms of Search Optimization. Algorithms Inspired by Nature. Moscow, Bauman MSTU Publ., 2014, 448 p. (In Russian)
14. Kureichik V.M., Lebedev B.K., Lebedev O.B. Search Adaptation. Theory and Practice. Moscow, Fizmatlit Publ., 2006, 272 p. (In Russian)
15. Verma S., Jain M., Choudhary D. Solving the job-shop scheduling problem by using genetic algorithm. International Journal of Computational Science and Mathematics, 2011, vol. 3, no. 1, pp. 93-98.
16. Moon I., Lee S., Bae H. Genetic algorithms for job shop scheduling problems with alternative routings. International Journal of Production Research, 2008, vol. 46, no. 10, pp. 2695-2705. doi: 10.1080/00207540701244820
17. Liang S., Cheng X., Liang Y. Solving job shop scheduling problem using genetic algorithm with penalty function. International Journal of Intelligent Information Processing, 2010, vol. 1, no. 2, pp. 65-77. doi: 10.4156/ijiip.vol1.issue2.7
18. Nickabadi A., Ebadzadeh M.M., Safabakhsh R. A novel particle swarm optimization algorithm with adaptive inertia weight. Applied Soft Computing Journal, 2011, vol. 11, no. 4, pp. 3658-3670. doi: 10.1016/j.asoc.2011.01.037
19. Sha D.Y., Hsu C.Y. A hybrid particle swarm optimization for job shop scheduling problem. Computers and Industrial Engineering, 2006, vol. 51, no. 4, pp. 791-808. doi: 10.1016/j.cie.2006.09.002
20. Lebedev B.K., Lebedev V.B. Coverage based on the particle swarm method. Proc. Int. Conf. on Neurocybernetics, 2011, vol. 2, pp. 417-425. (In Russian)
21. Lebedev B.K., Lebedev V.B. Planning on a basis swarm
Metaheuristics: An Emerging Approach to Optimization. Springer, 2008. 299 p. doi: 10.1007/978-3-540-78295-7
23. Hegazy Z., Mahmoud El-S., Naglaa R.S., Heba S. A novel improved bat algorithm for job shop scheduling problem // International Journal of Computer Applications. 2017. V. 164. N 5. P. 24-30. doi: 10.5120/ijca2017913627
24. Beasley J.E. Distributing test problems by electronic mail // Journal of the Operational Research Society. 1990. V. 41. N 11. P. 1069-1072. doi: 10.1057/jors.1990.166
Авторы
Лебедев Борис Константинович - доктор технических наук, профессор, профессор, Южный федеральный университет, Ростов-на-Дону, 344006, Российская Федерация, [email protected]
Лебедев Олег Борисович - кандидат технических наук, доцент, доцент, Южный федеральный университет, Ростов-на-Дону, 344006, Российская Федерация, [email protected] Лебедева Елена Михайловна - аспирант, Южный федеральный университет, Ростов-на-Дону, 344006, Российская Федерация, [email protected]
intelligence and genetic evolution. Izvestiya SFedU. Engineering Sciences, 2009, no. 4, pp. 25-33. (In Russian)
22. Blum Ch., Aguilera M.J.B., Roli A., Sampels M. Hybrid Metaheuristics: An Emerging Approach to Optimization. Springer, 2008, 299 p. doi: 10.1007/978-3-540-78295-7
23. Hegazy Z., Mahmoud El-S., Naglaa R.S., Heba S. A novel improved bat algorithm for job shop scheduling problem. International Journal of Computer Applications, 2017, vol. 164, no. 5, pp. 24-30. doi: 10.5120/ijca2017913627
24. Beasley J.E. Distributing test problems by electronic mail. Journal of the Operational Research Society, 1990, vol. 41, no. 11, pp. 1069-1072. doi: 10.1057/jors.1990.166
Authors
Boris K. Lebedev - D.Sc., Full Professor, South Federal University, Rostov-on-Don, 344006, Russian Federation, [email protected]
Oleg B. Lebedev - PhD, Associate Professor, Associate Professor, South Federal University, Rostov-on-Don, 344006, Russian Federation, [email protected]
Elena M. Lebedeva - postgraduate, South Federal University, Rostov-on-Don, 344006, Russian Federation,
