CC BY
13Стохастический метод внешних аппроксимаций для решения выпуклых задач полубесконечной оптимизации. I. Обоснование сходимости
С.К.Завриев, А.В.Федосова* МГУ им. Ломоносова, факультет ВМК
November 4, 1999
1. Постановка задачи.
Рассмотрим задачу математического программирования
Р(У°) : найти ж £ Д^,
Xopt = {х ex0 \ f(x) = min f(x')}
= {х£Х°\ д(х, у) < 0 Уу £ У0},
Х° С 'Rk. У0 С 'Я!. Функции f(x) и д(х,у) предполагаются непрерывно дифференцируемыми и выпуклыми по х на выпуклом компакте Х° для любого у £ У". TZ" - п-мерное пространство. Будем предполагать также регулярность по Слейтеру ограничений задачи Р(У°), т. е. существование точки х* £ Х° такой, что
д(х*,у)<0Чуе¥°.
В поставленной задаче множество У0 задает систему ограничений, определяющих допустимое множество Х° задачи Р(У°). В случае, когда множество У0 бесконечное, т. е. |У°| = оо (через |У| обозначаем мощность множества У), задачу Р(У°) принято называть задачей полубесконечной оптимизации (semi-infinite programming problem). Задачи полубесконечной оптимизации возникают в различных областях приложений (см. [1, 2, 3]), методам их решения посвящены обзоры [3, 1, 4, 5].
*19alina0cmc.msu.ru
Далее мы рассмотрим именно такие задачи Р(У°), приняв следующие дополнительные предположения:
V/(0, V<7(., •) <= CUp(X° x У°,Р), L > О, где CLtp(X,L) обозначает класс вектор-функций, удовлетворяющих на X условию Липшица с константой L > 0.
Одним из наиболее употребительных подходов к решению задач с бесконечным числом ограничений является метод внешних аппроксимаций. Суть этого метода состоит в сведении исходной задачи Р(У°) к решению последовательности аппроксимирующих задач P(Yn), п = 1.2...., следующего вида
Р(У) : найти ж £ Xopt[Y],
XoptlY] = {xG X[Y] I f(x) = min f(x%
x'€X\t \
X[Y] = {xeX° \g(x,y)< 0 Vy G У},
в которых множества Yn, задающие систему ограничений, являются конечными
\Yn\ < оо, п = 1,2,....
Очевидно, что аппроксимирующие задачи P(Y„), п = 1,2,... суть "стандартные" задачи математического программирования, то есть задачи с конечным (равным |Уте|) числом ограничений, и для их решения могут быть применены соответствующие эффективные " стандартные" алгоритмы (см., например, [6, 7]). При определенных условиях, задающих правила формирования множеств Yn, доказывается, что последовательность {хп}, где х" - решение n-й аппроксимирующей задачи Р(Уте), х" £ Xopt\Yn], п = 1,..., сходится к множеству решений t исходной задачи Р(У°).
Главной сложностью в применении рассматриваемого подхода является конструирование правил формирования множеств
Yu У2,..., Уп,-
Здесь важно избежать быстрого роста числа элементов в множествах Yn, п = 1,2,..., так как при больших \Yn\ задача P(Yn) становится почти столь же сложной для решения, что и исходная задача Р(У°).
В настоящей работе, следуя общему подходу к построению алгоритмов внешней аппроксимации, предложенному в [8], мы сконструируем и обоснуем алгоритм решения выпуклых задач полубесконечной оптимизации Р(У°). Важной особенностью предлагаемого алгоритма является использование активных стратегий фор-
мирования множеств Vi..... У„. задающих аппроксимирующие задачи P{Yn), п = 1,2,...
Пусть
П\ = {х £П1 \ х> 0};
Ва(х) = {х £ Кк | ||ж' - ж|| < cr}, а > 0.
Обозначим через M.{YQ) ~ множество всех подмножеств У0 С К1, Л^С(У°) и M.f(Y°) - соответственно множество всех компактных подмножеств множества У0 и множество всех конечных подмножеств множества У0.
Для любых У, Y' £ M.C(Y°) определим
p(Y, У') := max min \\у — у'\\, ' ' yeY y'£Y< ||У у 11'
и Хаусдорфово расстояние между множествами У и У:
h(Y, Y') := тах(/?(У, Y'), p{Y',Y)).
2. Алгоритм для решения выпуклых задач полу бесконечной оптимизации.
Предлагаемый метод решения задачи Р(У°) является алгоритмом внешних аппроксимаций, т. е. последовательно находит решения х" задач P(Yn), п = 1,2,.... При этом на п-й итерации алгоритма вначале формируется множество Yn, путем добавления в множество Yn^i новых точек у £ У0. Тем самым, очередная аппроксимирующая задача P(Yn) получается из предыдущей (п — 1)-ой аппроксимирующей задачи P(Yn-1) путем добавления новых ограничений.
Важной особенностью предлагаемого метода является активизированный "двухфазный" поиск ограничений при формировании множества Yn на //-ой итерации, состоящий в следующем:
вначале получаем новое ограничение
д(;у)< о
(то есть точку у £ У0) методом Монте-Карло (с помощью датчика равномерного распределения на У0);
затем, используя точку у в качестве стартовой, применяем эффективный алгоритм локального поиска для решения задачи
max (1)
(где .7-"^' решение предыдущей аппроксимирующей задачи P(Yn~i)) и находим точку у* - приближенное локальное решение (1),
у* £ К/«/О7'" '). где ¥^ш(х) - это ^-стационарное множество задачи
а(х. •) —>• тах, ' > у€у о'
т. е. множество всех точек, удовлетворяющих необходимым условиям оптимальности 1-го порядка с точностью е.
Выпишем соответствующий алгоритм стохастического метода внешних аппроксимаций для решения выпуклых задач Р(У°). Данный алгоритм является версией общего стохастического метода внешних аппроксимаций 8МКТН.АСТ1У [8] и состоит из вспомогательной и основной процедур.
Вспомогательная процедура SPROC.ACTIV.sip призвана формировать множество А¥п для добавления к множеству ¥п:
¥п+1:=А¥п1) и Д^г
У-в]>7/га, 1<?<га-1
Основная процедура метода SMETH.ACTIV.sip с помощью данных, полученных SPROC.ACTIV.sip, на на каждой итерации п решает задачу Р(¥п) с конечным числом ограничений.
Метод SMETH.ACTIV.sip
Шаг 0. (Начальный шаг)
YÏ := 0-
Шаг 1. Находим х" — решение задачи Р(¥п). Шаг 2. Выполнение процедуры SРROC.ACTIV.sip с входными параметрами хп ж ¥п. Получаем А¥п и вп. Шаг 3. Формируем новое множество ограничений
Yn+1:=AYnU U Д^г
j:9j>'r/n, l<j<n-l
Шаг 4.
п := п + 1. Переход к шагу 1.
Процедура SPROC.ACTIV.sip
Входные параметры : х £ Х°, У £ M.f(Y°). Выходные параметры : в £ TZ\, AY £ M.f(Y°). Параметры процедуры : 7 > 0, £ > 0. Шаг 0. (Инициализация).
г := 1.
Шаг 1. (Пассивный случайный поиск критического ограничения).
Найти точку у-, £ У". используя равномерное
вероятностное распределение на У0.
Шаг 1. ACTIV. (Активный поиск критического ограничения).
Применить алгоритм локального поиска для решения
задачи д(х,у) —>• max (метод проекции градиента),
y€Y°
стартуя ИЗ ТОЧКИ У; для получения точки у* £ У0, такой что :
У* € Ys£tat(x), yi) < д(х, у*).
Шаг 2. 9i = тах(д(ж, у\), ..., у*))-Шаг 3. (Контрольный шаг). Если
i-0i< 7,
то i := i + 1 и переход к Шагу 1. Шаг 4.
в := 0,-;
АУ := {УЬУЪ ...,уиу*}.
Выход. 3. Сходимость.
В работе [8] был предложен алгоритм общего стохастического метода внешних аппроксимаций SMETH.ACTIV и доказана его сходимость. В нем были использованы понятия квазиоптимальных функций и множеств.
Квазиоптимальная функция ©(ж', Yn) : Х° хЛ^с(У°) —>• 7Z\ задается для любого компакта У„ С У" и х' £ Х° и играет роль критерия, показывающего, насколько близка точка х' к решению задачи P(Yn). Было условлено, что х £ A^L означает, что ©(ж, У0) = 0.
Неравенство
в{Х,Уп)<£
рассматривалось в качестве критерия останова для решения конечных задач Р(Уп).
Квазиоптимальное множество задачи Р(У„) в [8] определялось следующим образом
Хд01Л[¥] := {ж <= | е(х, Г) =0}, V £ МС(У°).
Для алгоритма 8МКТН.АСТ1У в [8] была доказана сходимость для любой квазиоптимальной функции, удовлетворяющей Предположениям А1 и А2:
Предположение А1. Пусть
хтАУ]ф® V УеМс(У°).
Предположение А2. Пусть для любых х £ Х° и У £ M.C(YQ) выполнены следующие свойства:
1) Если ©(ж, У) > 0, то существуют в. S > 0 такие, что
в(х'Х) >в>0
для любых х' £ В5(х) П Х°, У £ МС{У°) и h(Y,Yf) < S.
2) Если ©(ж, У) = 0, то для любого £ > 0 существует S > 0 такое, что
в(х'Х) < £
для любых х' £ В$(х) П Х° и для тех У £ Л^С(У°), для которых h(Y,Y') < S.
Для наших задач определим квазиоптимальную функцию ©(•,•) по следующему правилу
0(х, У) := max(f(x) — min f(x), тахд(х,у)).
д(х,у)<0 Vy£Y
Заметим, что для данной квазиоптимальной функции
Xqopt[Y] = Xopt[Y] V Y£Mc(Y°),
в частности, если У := У0, то Xq0pt = .
Для доказательства сходимости траектории предлагаемого алгоритма SMETH.ACTIV.sip достаточно показать, что он является
версией общего алгоритма SMETH.ACTIV и проверить выполнение Предположений AI и А2 для нашей квазиоптимальной функции.
Из следующей Леммы вытекает, что алгоритм SMETH.ACTIV.sip является версией общего стохастического метода внешних аппроксимаций из [8]:
Лемма 1. Для любых компактных множеств У С У0, У С У0 и точки ж е Xopt[Y]
©(ж, У U У) = тах(0, max д(ж, у')) = тах(0, maxд(ж, у')).
у'еУиУ у'еУ
Доказательство.
Фиксируем У С У" и х G Л'ир1 [У]. По определению множества Xopt[Y]
@(ж, У) =0.
Рассмотрим расширенное множество ограничений У U У. Легко видеть, что
fix) = min fix) < min /(ж'),
x'eX°: x'eX°: ^
g(x',y)<0 Vy£Y g(x',y)<0 VyeYUY
а также
max.^g(x,y') > т&хд(х,у'). у'еУиУ
Откуда следует, что для нашей квазиоптимальной функции ©(ж, У) := тах(/(ж) — min fix), т&хд(х,у'))
хеХ°: J/'ёУ д(х,у)<0 Vy£Y
выполняется
@(ж, У U У) = тах(0, max д(ж, у')) =
у'еУиУ
тах(0, maxд(ж, у'), max д(ж, у')) = тах(0, max д(ж, у')), У'£¥ y'eY y'eY
так как max д{х. у') = ().□ у'еУ
Пусть У = {у\. у:\..... у,, у*}. Тогда из Леммы 1 следует, что Контрольный шаг Процедуры SPROC.ACTIV.sip
г ■ тах(д(ж, у\), ...,д(х, у*)) < 7,
эквивалентен проверке
г ■ @(ж, У U {уьу1,...,уи у*}) < 7
в силу того, что
д{х,у*)>д{х,у1) Уг.
Обозначив V"/ = V" и {у\.у\..... у,, у*}. Контрольный шаг можно записать как
г в(ж,У0 <7-
Поэтому Контрольный шаг Процедуры SPROC.ACTIV.sip эквивалентен Контрольному шагу алгоритма 8РН0С.АСТ1У из работы [8].
При доказательстве выполнения Предположений А1 и А 2 для квазиоптимальной функции важную роль будет играть следующая Лемма.
Лемма 2.[9] Пусть ограничения д(х,у) выпуклы Vу £ и удовлетворяют условию Слейтера, т.е. существует точках*, для которой
д(х\у)< О VуеУ°, тогда Ух и УУ С ^¡(У0) из множества
С(ж,У) = {х £ Х° | д(х,у) < О Vу £¥}
выполняется:
тах(0; тахд(ж, у)) > Kp(x,C(x,Y)), уеУ
(К > 0 - некоторая константа).
Основываясь на Лемме 2, получаем следующее утверждение: Лемма 3. Для любых: точки х £ Х°, множества У £ Л^С(У°) и последовательностей {жте}, {Yn}, удовлетворяющих условиям
хп £ Х°, п = 1, 2..., lim хп = ж,
' ' ' п-^ 00 '
Уп <Е Л4с(Уи), n = 1, 2..., nlim h(Yn, У) = О,
выполнено
limh(C(xmYn)JC(xJY))=0.
Из Леммы 3 следует, что рассматриваемая квазиоптимальная функция (-)(•. •) удовлетворяет Предположениям AI и А2.
Итак, алгоритм SMETH.ACTIV.sip является версией метода SMETH. А CT IV из [8], поэтому приведем его в терминах версии SMETH.-ACTIV.
Метод SMETH.ACTIV.sip
Шаг 0. (Начальный шаг)
Yi := 0-
Шаг 1. Находим х" — решение задачи P(Yn). Шаг 2. Выполнение процедуры SPROC.ACTIV с входными параметрами хп ж Yn.
Получили на выходе процедуры в„. ЛУте, Yn. Шаг 3.
Yn+1:=AYnU U Д^г
>7/п,
1<?<п-1
Шаг 4.
п := п + 1. Переход к шагу 1.
Процедура SPROC.ACTIV.sip
Входные параметры : х £ X, Y £ M.f(Y°). Выходные параметры : в £ 1А У G Л4/(У°), У G Л4/(У°). Параметры процедуры : j > 0, £ > 0. Шаг 0. (Инициализация).
У :=У; i := 1.
Шаг 1. (Пассивный случайный поиск критического ограничения).
Определяем точку у-, £ У", используя равномерное
вероятностное распределение на У0.
Включаем у-, в множество У/.
Шаг 1. ACTIV (Активный поиск критического ограничения).
Применить алгоритм локального поиска для решения
задачи д(х,у) —>• max (метод проекции градиента),
y€Y°
стартуя ИЗ ТОЧКИ У; для получения точки у* £ У0 такой что :
У*% е Ys£tatix)i 9(х, yi) < д(х, у*).
Включаем у* в множество У/. Шаг 2. 0i = @(ж,У»).
Шаг 3. (Контрольный шаг). Если
i-0i< 7,
то i := i + 1 и переход к Шагу 1.
Шаг 4.
в := 0,-; У := У г-
Алгоритм SMETH.ACTIV.sip является версией алгоритма SMETH.-ACTIV и Предположения А1 и А2 для предложенной квазиоптимальной функции выполнены. С учетом того, что
Xqopt[Y) = Xopt[Y) VY <= MC(Y°)
верна следующая Теорема:
Теорема. Любая траектория {хп} метода SMETH.ACTIV.sip с вероятностью единица сходится к множеству Xopt[Y0].
Если при выполнении Шага 2 алгоритма SMETH.ACTIV.sip мы не выходим из Процедуры SPROC.ACTIV.sip за конечное число шагов, то решением исходной задачи Р(У°) считается последнее полученное алгоритмом SMETH.ACTIV.sip на Шаге 1, приближение решения <= Xopt[Y0].
К задачам полубесконечной оптимизации сводятся многие стационарные краевые задачи механики с ограничениями, среди них задача упруго-пластического кручения стержня, которая может быть представлена как задача выпуклой условной минимизации в функциональных пространствах. В следующей статье приведем тестирование предложенного алгоритма стохастического метода внешних аппроксимаций на классической задаче упруго-пластического кручения стержня с симметричной и асимметричной формами сечений.
References
[1] Hettich R., Kortanek К. О. Semi-infinite Programming: Theory, Methods, and Applications // SIAM Review, 1993, V. 35, N. 3, P. 380-429.
[2] Крабе В. Теория приближений и их приложений. М.. 1978.
[3] Fiacco A. V., Kortanek К. O. Semi-infinite Programming and Applications // Lect. Notes Econ. and Math. Syst., 1983. N. 215.
[4] Reemtsen R., Gorner S. Numerical Methods for Semi-infinite Programming: A Survey. " Semi-infinite Programming" R. Reemtsen and J.-J. Ruckmann Eds, 1998. P. 195-275.
[5] Hettich R. Semi-Infinite Programming. Lecture Notes in Contr. and Inform // Springer. Berlin-Heidelberg-New York. V. 15, 1979.
[6] Васильев Ф. П. Численные методы решения экстремальных задач. М.: Наука, 1980.
[7] Гилл Ф., Мюррей У., Райт М. Практическая оптимизация. М.: Мир, 1985.
[8] Volkov Y. V., Zavriev S. К. A General Stochastic Outer Approximations Methods // SIAM J. Control Optim., 1997. V. 35. P. 1387-1421.
[9] Федоров В. В. Методы поиска максимина. М.: Наука, 1977.
