Научная статья на тему 'Экспериментальное сравнение алгоритмов Балаша и имитации отжига в задаче решения систем линейных неравенств'

Экспериментальное сравнение алгоритмов Балаша и имитации отжига в задаче решения систем линейных неравенств Текст научной статьи по специальности «Математика»

CC BY
332
61
i Надоели баннеры? Вы всегда можете отключить рекламу.
Ключевые слова
АЛГОРИТМ ИМИТАЦИИ ОТЖИГА / АЛГОРИТМ БАЛАША / ЛИНЕЙНЫЕ НЕРАВЕНСТВА / СЛУЧАЙНЫЕ ЛИНЕЙНЫЕ НЕРАВЕНСТВА / SIMULATED ANNEALING / BALAS ALGORITHM / LINEAR INEQUALITIES / RANDOM LINEAR INEQUALITIES

Аннотация научной статьи по математике, автор научной работы — Анашкина Наталия Викторовна, Шурупов Андрей Николаевич

Приводятся результаты сравнения двух эвристических методов применительно к решению систем псевдобулевых линейных неравенств алгоритма Балаша и алгоритма имитации отжига, полученные в компьютерном эксперименте. Подтверждена большая эффективность и большее время работы алгоритма имитации отжига в сравнении с детерминированным методом Балаша. Приводятся рекомендации по совместному использованию алгоритмов. Предложена новая интерпретация случайного псевдобулевого линейного неравенства, которая может использоваться для определения эффективности эвристических методов решения указанной задачи.

i Надоели баннеры? Вы всегда можете отключить рекламу.
iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

Experimental comparison of simulated annealing and balas algorithms for solving linear inequalities

An experimental comparison of well-known heuristics simulated annealing (SA) and Balas (BA) algorithms are presented for solving random systems of linear inequalities (LIS) with Boolean variables. Randomness is treated in a traditional matter. Both algorithms were applied to each LIS. Experiments were divided into 10 series with 800 systems per each series. Only simultaneous inequalities were generated. The conclusion derived from results of experiments is that probabilistic local search algorithms are more effective and time consuming in comparison with deterministic algorithms. Recommendations to joint using of BA and SA are provided. A new interpretation of random linear inequality is offered. It can be used for more exact comparison of solving algorithms for inequalities systems deduced from systems of Boolean equations.

Текст научной работы на тему «Экспериментальное сравнение алгоритмов Балаша и имитации отжига в задаче решения систем линейных неравенств»

№7 ПРИЛОЖЕНИЕ Сентябрь 2014

Секция 11

ВЫЧИСЛИТЕЛЬНЫЕ МЕТОДЫ В ДИСКРЕТНОЙ МАТЕМАТИКЕ

УДК 512.55

ЭКСПЕРИМЕНТАЛЬНОЕ СРАВНЕНИЕ АЛГОРИТМОВ БАЛАША И ИМИТАЦИИ ОТЖИГА В ЗАДАЧЕ РЕШЕНИЯ СИСТЕМ ЛИНЕЙНЫХ НЕРАВЕНСТВ

Н. В. Анашкина, А. Н. Шурупов

Приводятся результаты сравнения двух эвристических методов применительно к решению систем псевдобулевых линейных неравенств — алгоритма Балаша и алгоритма имитации отжига, полученные в компьютерном эксперименте. Подтверждена большая эффективность и большее время работы алгоритма имитации отжига в сравнении с детерминированным методом Балаша. Приводятся рекомендации по совместному использованию алгоритмов. Предложена новая интерпретация случайного псевдобулевого линейного неравенства, которая может использоваться для определения эффективности эвристических методов решения указанной задачи.

Ключевые слова: алгоритм имитации отжига, алгоритм Балаша, линейные неравенства, случайные линейные неравенства.

Вещественное линейное неравенство от п переменных будем называть информативным, если задаваемая им гиперплоскость пересекает п-мерный булев куб. Булева пороговая функция (б.п.ф.), задаваемая неинформативным линейным неравенством, является константой. В случае, если определение б.п.ф.выглядит как f (х1,... ,хп) =

п

= 0 ^ ^2 '^гХг ^ Т, то множество б.п.ф., задаваемых информативными неравенствами

г=1

указанного вида, включает в себя все б.п.ф., за исключением константной функции — единицы. Отметим, что в контексте решения систем уравнений использование только информативных неравенств в эквивалентной ей системе [1] линейных неравенств (СЛН) сокращает избыточность СЛН.

В дальнейшем будем рассматривать только целочисленные информативные линейные неравенства (ЦИЛН). Для решения СЛН были применены следующие эвристические алгоритмы, описание которых можно найти в [2, 3]: алгоритм имитации отжига и алгоритм Балаша. Задача решения СЛН интерпретируется как задача дискретной оптимизации на множестве значений булевых переменных, при этом подлежит минимизации целевая функция — невязка системы [2]. Система окрестностей алгоритма имитации отжига представляет собой шары радиуса 1 в смысле метрики Хемминга. Алгоритм Балаша использован в модификации, для которой в случае попадания алгоритма в тупиковое состояние предпринимается попытка выхода из него путём опробования состояний, находящихся от него на расстоянии 1.

Приведём описание плана эксперимента. Для алгоритма имитации отжига используются следующие значения параметров: длина стационарной цепи Маркова равна 50;

начальная температура — 20 000; тип шаговой функции для изменения температуры — закалка — со значением коэффициента 0,995; число шагов ограничено 100 000.

Для алгоритма Балаша число попаданий в тупиковые состояния ограничено 11.

Оба алгоритма применялись к каждой СЛН. Всего проведено 10 серий экспериментов по 800 систем в каждой серии. Серия состоит из восьми подсерий, при этом каждая подсерия задаётся числом переменных СЛН (30 или 60) и числом неравенств в ней, кратным числу переменных (коэффициент кратности равен 1, 2, 3 и 10).

Каждая серия задаётся типом неравенств в СЛН. Выбраны следующие характеристики СЛН: 1) наличие нулевых весов (да или нет); 2) максимальная абсолютная величина весов (1, 30 и 900); 3) использование точного значения порога (да или нет).

Отметим, что параметры эксперимента выбраны из соображений его продолжительности. Сами алгоритмы не имеют принципиальных ограничений на размер системы. Исследована также зависимость надёжности алгоритма имитации отжига от его параметров и, в частности, от системы окрестностей. Однозначной зависимости при увеличении радиуса шара с 1 до 2 обнаружить не удалось. Остальные параметры были выбраны достаточно произвольно на тестовых запусках алгоритма имитации отжига.

Для оценки в целом эффективности алгоритмов приведём суммарную таблицу, отражающую также корреляцию успеха между алгоритмами.

Корреляция успеха между алгоритмами

Алг. Балаша Итого для отжига, %

Не решил, % Решил, %

Имитация отжига Не решил, % 22 2 24

Решил, % 15 61 76

Итого для алг. Балаша, % 37 63

В целом, надёжность алгоритма имитации отжига выше, чем у алгоритма Балаша, хотя в одной из серий наблюдается обратное. Кроме того, в шести сериях алгоритм Балаша не решил ни одной системы, которую бы не решил алгоритм отжига. В среднем выигрыш во времени решения алгоритма Балаша составляет почти два порядка.

В качестве вывода из проведённого сравнения отметим, что подтверждена большая эффективность и большее время работы вероятностных методов локального поиска в сравнении с детерминированными. Показано, что в среднем совпадение решений происходит с вероятностью, близкой к 0,5. Таким образом, оба метода заслуживают использования при решении целочисленных СЛН.

Введём понятие случайной булевой пороговой функции (с.б.п.ф.) в соответствии с [4]. Пусть £ — равномерно распределённая случайная величина, областью значений которой является множество всех булевых пороговых функций Тп. Тогда случайной булевой пороговой функцией f будем называть значение случайной величины £.

Пусть Б — оракул, который задан на Тп, и при предъявлении ему б.п.ф. возвращает структуру этой б.п.ф. в виде ЦИЛН. Случайным неравенством будем называть случайную величину ), где f — случайная б.п.ф., а случайной системой линейных неравенств (ССЛН) — выборку объёма т из Б^).

В практическом плане важным является вопрос формирования ССЛН. При малом числе переменных (п < 9) все б.п.ф. классифицированы, и для формирования ССЛН можно воспользоваться соответствующими справочниками (см., например, [5]). Этот способ становится неприемлемым при п > 8, так как в этом случае отсутствуют способы перечисления б.п.ф. Известно [6, с. 12; 7, теорема9.12, с. 413], что для любой б.п.ф. от п переменных найдётся структура, для которой максимальные абсолютные значе-

ния весов и порога ограничены некоторой величиной W(n). Будем считать, что на множестве целых чисел I (W (n)) = { — W (n), — W (n) + 1,... , 0,... , W (n) — 1, W (n)}, используемых для выбора весов, задано некоторое вероятностное распределение F. Так как структура — неоднозначный способ задания, то важной является задача подбора вероятностного распределения F для реализации равномерного распределения на Tn. Предлагается алгоритм для порождения ССЛН, в котором условие информативности

1 n 1 П

формулируется как - ^ wi — ((wH^/ñ ^ T ^ ^ wi + ((wH^/ñ, где ||w|| —евклидова

2 i=1 2

норма вектора весов.

Неочевидно, что равномерное распределение F целых весов wi в множестве I (W (n)) и равномерное распределение порогов индуцируют равномерное распределение на множестве б.п.ф. Представляется более удачным использовать неравномерное распределение F, являющееся квантованным усеченным нормальным распределением, так как на поведение гиперплоскости в большей степени влияют знаки весов, а не их абсолютные величины. В ряде работ (например, [8]) рассмотрены случайные неравенства с весами из множества { — 1, 1}, проходящие через центр единичного куба. Каждое такое неравенство задаёт равновероятную б.п.ф., и поэтому, очевидно, не удовлетворяет определению случайного неравенства.

Как правило, число неравенств m определяется прикладными аспектами задачи, для которой составляется СЛН.

Более подробно изложенные результаты представлены в [9].

ЛИТЕРАТУРА

1. Балакин Г. В., Никонов В. Г. Методы сведения булевых уравнений к системам пороговых соотношений // Обозрение прикладной и промышленной математики. 1994. Т. 1. Вып.3. С.389-401.

2. Анашкина Н. В. Обзор методов решения систем линейных неравенств // Вестник московского университета леса. Лесной вестник. 2004. №1(32). С.144-148.

3. Кочетов Ю. А. Вероятностные методы локального поиска для задач дискретной оптимизации // Дискретная математика и ее приложения: Сб. лекций молодежных и научных школ по дискретной математике и ее приложениям. М.: Изд-во центра прикл. исслед. при мех.-мат. фак. МГУ, 2001. С. 84-117.

4. Goldwasser S. and Bellare M. Lecture Notes on Cryptography. 2001. http://theory.lcs.mit. edu/shafi. 283 p.

5. Muroga S., Tsuboi T., and Baugh C. R. Enumeration of threshold functions of eight variables // IEEE Trans. Comput. 1970. V. C-19. Iss.9. P. 818-825.

6. Подольский В. В. Оценки весов персептронов (полиномиальных пороговых булевых функций): автореф. дис. ... канд. физ.-мат. наук. М.: МГУ им. М. В. Ломоносова, 2009.

7. Crama Y. and Hammer P. Boolean Functions. Theory, Algorithms and Applications. Encyclopedia of Mathematics and its Applications / eds. G.-C. Rota. Cambridge University Press, 2011.

8. Балакин Г. В. Линейные псевдобулевы неравенства // Математические вопросы криптографии. 2010. Т. 1. Вып.3. С. 5-18.

9. Анашкина Н. В., Шурупов А. Н. Применение алгоритмов локального поиска к решению систем псевдобулевых линейных неравенств // Прикладная дискретная математика. 2014. №3(25) (в печати).

i Надоели баннеры? Вы всегда можете отключить рекламу.