CC BY
89
УДК 519.254.1
РЕКУРРЕНТНАЯ ПАРАМЕТРИЧЕСКАЯ ИДЕНТИФИКАЦИЯ МНОГОМЕРНЫХ ЛИНЕЙНЫХ ДИНАМИЧЕСКИХ СИСТЕМ С ЛОКАЛЬНО АВТОКОРРЕЛИРОВАННЫМИ ПОМЕХАМИ ВО ВХОДНЫХ И ВЫХОДНЫХ СИГНАЛАХ
Д. В. Иванов, O.A. Кацюба
Самарский государственный университет путей сообщения,
443066, Самара, 1-й Безымянный пер., 18.
E-mails: dvi85@list. ru, katsuba. samgupsOmail .ru
Предложен рекуррентный алгоритм, позволяющий получать сильно состоятельные оценки параметров многомерных по входу линейных динамических систем при наличии автокоррелированных помех наблюдения во входных и выходных сигналах. Проведенные численные эксперименты подтвердили высокую эффективность предложенного метода идентификации.
Ключевые слова: рекуррентная идентификация, линейная динамическая система, стохастическая аппроксимация, ошибки в переменных, метод наименьших квадратов.
Введение. Проблема идентификации динамических систем с помехами во входных и выходных сигналах, несомненно, является более сложной, чем классическая постановка задачи в регрессионном анализе. Особый интерес представляют рекуррентные методы идентификации, позволяющие получать оценки параметров в реальном масштабе времени. В настоящее время наблюдается активное развитие состоятельных методов идентификации систем с помехами во входных и выходных сигналах, таких как методы инструментальных переменных и их рекуррентные модификации [1, 2], а также метод компенсирующих смещение наименьших квадратов [3,4]. В подавляющем большинстве статей помехи предполагаются стационарным белым шумом, однако на практике помехи часто не только автокоррелированы, но и нестационарны. Для случая, когда помехи наблюдения — стационарные ARMA-шумы и известна их структура, в [3] предложен алгоритм на основе компенсирующего метода наименьших квадратов. В данной работе предложен алгоритм идентификации многомерной по входу линейной динамической системы с помехами наблюдений в виде нестационарных автокоррелированных шумов.
1. Постановка задачи. Рассматривается линейная динамическая система, описываемая стохастическими уравнениями с дискретным временем г:
Zi ~ ¿ b^Zi-m = a0mJ4-m> (!)
m=l j= 1 m=0
Vi = Zi+£i(i), = х[з) +C(j)(i), г = ... — 1, 0, 1...,
Дмитрий Владимирович Иванов (к.ф.-м.н.), ст. преподаватель, каф. мехатроники в автоматизированных производствах. Олег Алексеевич Кацюба (д.т.н., проф.), зав. кафедрой, каф. мехатроники в автоматизированных производствах.
(?) (?)
где 2^, уг — ненаблюдаемая и наблюдаемая выходные переменные; х\ , ■ —
ненаблюдаемая и наблюдаемая переменные в ^’-том входном сигналах;
£1(1) —помеха наблюдения в ^’-том входном и выходном сигналах. Обозначим
1 ...гЛ = (б(*), • • •, 6(* - • • •, - Гі)|... I
..., (і - и))Т.
Пусть матрица
N
-т
г=1
N—>■00
М°) (^,2)Т
Щг,2
П.Н.
положительно определённая, где /г^12 = ( (г) | 0т-1+...+7-й+^х 1 )Т €
^г+п+.^+г^+сг _ вект0р размерности (г + г\ + ... + г а, + с?) х 1;
/
Н,
?1,2
Щі 0(г+1)х(п + 1) 0(г+1)х(г<г + 1)
0(гі + 1)х(г+1) я(1) 0(гі+1)х(г<г+1)
0(^+1) х(г+1) 0(г<г+1)х(п+1) П(,2
%(0) ... /!{1(г-1)\ / /4?(°) ...
" • ! : : I <
%(г-1) ... %(0)
\h\l\rj) ... ^(0) у
Будем считать выполненными следующие условия:
1) множество -В, которому априорно принадлежат истинные значения параметров устойчивой линейной системы, является компактным;
2) помехи {^1 (*)}, {£^'4*)} статистически не зависят друг от друга:
Е{Ш\Рг} = 0, Е{е(Л(г)|^(Л} = 0,
Е{е?(г) | < Ж < ос, Е{(£^(г))2 | ^}} = < оо,
(?)
где ^ ^ — сг-алгебры, индуцированные семействами случайных величин £ € Тг} и {б(^), ^ € Т1»}; = {^ : ^ < г, ^ е ^};
— случайные величины (Е(И^) ^ 7Г^(д), Е^г) ^ 7Г^1, = 1, 2,... , й)\
Е — оператор математического ожидания;
3) Д^1 ^=1 + т) —----> %(т) < оо п.н.,
/V—)>С©
дг“1 Ег=1 Си)(г)Си)(г + т) —-----> < оо п.н.;
./V—»оо
4) {х^\ ..., х^} статистически не зависят от {^(г)},
5) последовательности {х^} — стационарные в совокупности (в узком
смысле с дробно-рациональной плотностью) случайные сигналы, у которых Е{(ж^)2} > 0; для некоторого > 0: \хх\ < п.н.;
6) полиномы M{q) = 1 - E™=i ^ • Гт и N^(q) = Е^=о ^ ' Гт несократимы; здесь q~l —оператор сдвига назад, т.е. q~l ■ Xi = Xi-\.
Требуется рекуррентно определять оценки неизвестных коэффициентов динамической системы, описываемой уравнением (1), по наблюдаемым по-
U)
следовательностям yi, w\ .
2. Рекуррентный алгоритм идентификации. В [5] показано, что оценки будут сильно состоятельны при использовании критерия
lim Et-Q)4>№) min (2)
(£)ев ш{Ъ,а)
где Ъ = (ЪW, ..., Ь^)Т £ Г; а = (а(01\..., \ ■ ■ ■ \ a^d\ ..., а^)Т €
wl+...+rd+d. Ai^w = ((Yr(i))т| (Wri(i))T | ... | (Wrd(i))T)T € R^i+-+^+d;
YS) = {Уг-1, ■ ■ -Уг-г)Т € Mr; Wrj(i) = (wf\ ... ,w<f_}r.)T € R^+1; w(b,a) =
= %(0) +ЪТЩ1Ь+ (а(1))тЯ^2)а(1) + ... + {a^)TH{^-2{h^2)Tb.
Оценки неизвестного вектора (bT | ат)Т можно получить с помощью стохастически градиентного алгоритма минимизации (2):
Ь{г + 1) \ ( Ь{г)
_ ( b{i) А 4^+1 4
Уг+1 U(i)J АГ,\У ш(Ь(г),а(г))
(3)
где щ — последовательность, для которой выполняются следующие условия:
7) ^Хо аг = 00■> если аг ^ (М+1 и Е^о а» < 00 в противном случае;
8) Ег^1 Ег°^1 < ОО П. Н.
Теорема 1. Пусть динамическая система описывается уравнениями (1) и выполняются предположения 1)-8). Тогда оценки, определяемые алгорит-
(i)
ä(i)
->■ ОО.
MOM (3), либо (-Ш-) --( —) п.н., либо
v h V“W; г—>оо \a°J
Доказательство. Доказательство состоятельности получаемых с помощью (3) оценок основывается на методе непрерывных моделей [6,7].
Построим асимптотическую непрерывную детерминированную модель алгоритма (3).
Минимизируемую в (2) функцию можно представить в виде
и Ь)=„г+ ((£>-Ф)Тй*(Ф - <«))
\aJ 1 ш{Ъ,а)
где (£) <Е 1Г+г1+"'+^+й,
Я* = lim E[(Zr(i)\Xri(i)\---\Xrd(i))T(Zr(i)\Xri(i)\---\Xrd(i)]] > О,
г—>оо
что следует из 1), 4), 6); Zr{І) = (^_1,..., ^_Г)Т € Мг (вектор размерности г х 1), ХГ5{г) = (х\3\.. .,х\3}г.)Т € М^+1.
В данном случае асимптотическая непрерывная детерминированная модель имеет вид
-) =-У(^(-). а/ а \а;
(4)
Здесь точка означает производную от параметров по времени. Связь между обыкновенным дифференциальным уравнением (4) и уравнением (3) устанавливается посредством фиктивного времени ¿д. = аг [6) с- 89].
Пусть функция Ляпунова равна
<) = •€>■
Так как функция Ляпунова непрерывно дифференцируема и
V,ЬyJ[ а \а
*ф¥(;Ю<о-
(5)
множество В = {(^) € Мг+г1+---+г^+<:г ; V{^) = 0} состоит из стационарных точек </(^) [6, с. 114].
Для перехода от (3) к непрерывной модели необходимо показать, что для &(!)}, КМ(>)( и {скг} выполняются равенства [7, с. 12, с. 8]
Ит Нт вир —
Т—>0 Т
к(п,Т) , і, Л
О,
(6)
где для Т > 0, к(п, Т) = тах |к : Еі=п аі ^ Т} >
е.
6(т)(г)6(* т) Е Е “(тй (г)£^ (г—т).
' ' т= 1 ¿=1 т=0
Для выполнения равенства (6) необходима ограниченность последовательности что подразумевает ограниченность роста функции
при II-II —>■ оо. В нашем случае
Нт У/Ьч,1[ - ) = 0.
I — II —^ОО а ' С1 у
Из ограниченности сумм в условии 8) и последовательности | сле-
дует ограниченность суммы
г=1
откуда следует выполнение (6).
Из теорем, приведённых в [7, с. 12, с. 292], следует, что при выполнении
условий 1)-8) и (5), (6) последовательность | } ограничена и при г —> оо,
| стремится к точкам множества В.
Исследуем непрерывную модель (4). Покажем, что множество
Б* = <! (-) € м»-+г1+-+^-М : = (^)
,а/ V а / V ао /
состоит из одной единственной точки (^)- Для этого рассмотрим функцию
.Г {и) =
где и = (иъ.. ■ ,иг+г1+...+гл+(1+1)т € Мг+г1+-+^+(г+1
~Уг \
Нг = Ит Е
г—)>с©
А-
Д
Г+Г1+...+ГЛ+с1+1
Уí
У, \У
Аг
Т
%(0) (^1,2)
^?1,2 ^1,2
Очевидно, что
пип Л —
(-) ^а
' П, '
Лщт)
(7)
где Лт;п — минимальное собственное число регулярного пучка форм (так как £>;+Г1+ +Гл+<1+1 ~ положительно определённая матрица), т. е. Лт;п — наименьший корень уравнения ёе1— ЛД
г+гг+.^+г^й+х!
0.
Пусть Лт1п = Л^1) < ... < А(г+г1+...+гЛ+а+1) = А^
и им соответствуют
какие-либо главные собственные векторы щ,... ,иг+г1+...+г(1+а+1- Тогда Л^1), ..., ^(г+г1+---+г11+<1+1) являются стационарными значениями функции которые достигаются при и, равных щ,... ,иг+Г1+ффф+г<1+а+1 соответственно. Следовательно, стационарные значения функции Л (|) (т.е. V2J(^) = 0) достигаются в точках
Ъ'
а/ 1
и
(2)
и
(г+Г1+...+гл+(1+1) \ Т
и
и
(1)
а/ г+г1+...+гл+й+\
(2)
7/
г+г^+.^+гл+й+г (1) :
7/
г+г1+...+г(;+сг+1
(г+г1+...+г<г+сг+1) т
Г+Г1 + ...+ГЛ+(1+1 \
и{1) ) ■
г+г1+...+г(;+сг+1
Причём из (7) следует, что = (|). Остаётся показать, что
^ О
V2J (-
а
лишь в одной стационарной точке (^) = = (^)-
Задача определения минимума функции Л (^) эквивалентна задаче на условный экстремум:
Т гг*
mmu Нги
(9)
Задача (9) может быть решена с помощью метода неопределённых множителей Лагранжа. Тогда необходимые условия запишутся в виде
(Н\ QDr+ri+^+rd+d+l)u — О,
uTD,
r+ri+...+rd+d+l
U = 1,
(10)
где в — неопределённый множитель Лагранжа. Множеством решений системы (10) являются в € {Л1,..., ^г+г1+...+гл+<1+1} и соответствующие им главные собственные векторы Щ, . . ., иг+Г1+.^+Гл+(1+1-
Исследуем матрицу Щ — вО*+Г1+ -^Г(1+а+1 на положительную определённость. Из (6) следует, что
Л(1) (н{) < Л(1)
fY* HZZ тт* HZX
(Щх)‘ тт* НХХ
— матрица размерности г х г;
—ГХ (п + ... + Га + сГ)-матрица;
Здесь Л« — минимальные собственные числа соответствующих матриц; Й*2 = lim E(Zr(i)(Zr(i))T) +Н£
г->-ос
Щх = lim E(Zr(i)(X^(i)
г—^ со
/ ( X^\i) \
V
Н*хх = lim Е
г—СО
V х%>(г) )
\
+
1 І.2 0(ri + l)x(rd+l)
+
\ 0(rd+l)x(n + l) Ht}
/
- матрица размерности (74 + ... + г а + d) х (г\ + ... + г а + d). В свою очередь, по теореме Штурма [9, с. 146]
Л(!)
IT* ttzz IT* HZX
(Чх)‘ IT* Hxx
или Л^1) (Щ) < л(2) (Н1), отсюда следует, что матрица Щ—вО*+Г1+...+Г(г+(г+2 неотрицательно определена лишь при в = Лт;п и (8) выполняется в (^)1 = = (|), т. е. для всех в > Лт;п матрица Щ - вО*+Г1+ ^+Гл+с[+2 имеет отрицательные собственные значения, откуда непосредственно следует (3). □
3. Результаты моделирования. Предложенный алгоритм (3) был реализован в пакете Ма1;ЬаЬ и сравнен с рекуррентным алгоритмом наименьших квадратов. В модельном примере динамическая система описывается уравнениями:
Хг - 0,7*1-1 + 0,4*і_2 = ж-1} + 0,7.?^ +
+ 0,2^4, + х\2) - 0,Бх\2}1 - -х{?\2 + х\3) + 0,4жй - 0,7х\%,
у% = + 6 СО,
На ^’-тый вход подавался сигнал
,»(•?) п __Ло)
и>.
- 0,5<'3 = <Г ~ 0,5(1-2 + 0,3(Гз + 0,2^4, белый шум. Помеха на выходе описывается уравнением 6 СО = —0,56 (г - 1) - 0,36 С* - 2) + е.
4з)
Лз)
где С
(з)
с дисперсией <т2(г) = 0,02 + 0,7<т2(г — 1) + 0,2£2(г — 1). Помеха во входных сигналах —
^\г) = -0Ми)(г - 1) - 0,3^ (г - 2) + е^}
с дисперсией (<т^\г))2 = 0,35 + 0,7 (а^(г — I))2 + 0,2 (£^(г — I))2. Отношение «сигнал - помеха» на входах и выходе — /а?Р = о\/а2 ~ 0,5, где
-(1)
ах , и 1, а2—средние значения среднеквадратических отклонений. Начальные значения параметров полагались равными нулю. На рисунке представлены графики погрешности оценок параметров, определяемые по формуле
5вг =
/ Свд') /!>о\ 2 / Ьо
Ча0/ а о
6Єі,%-1001 80 60 40 20 0
і
ГЧ2
1000
3000
5000
7000
9000 і
График погрешности оценок параметров: 1 — рекуррентный метод наименьших квадратов; 2 — алгоритм (3)
100'
Заключение. В работе предложены рекуррентные алгоритмы для оценивания параметров многомерной линейной динамической системы с нестационарными ав-токоррелированными помехами во входных и выходных сигналах. Для получения сильно состоятельных оценок не требуется знать структуру модели шума, а достаточно лишь нескольких значений функции автокорреляции. Результаты моделирования подтверждают эффективность работы алгоритма.
БИБЛИОГРАФИЧЕСКИЙ СПИСОК
1. Soderstrom Т., Mahata К. On instrumental variable and total least squares approaches for identification of noisy systems // Int. J. Control, 2002. Vol. 75, no. 6. Pp. 381-389.
2. Thil S., Soderstrom, Т., Gamier H. On instrumental variable-based methods for errors-in-variables model identification / In: Proc. 17th IFAC World Congress, Seoul, Korea j World Congress, 17 (Part 1), 2008. Pp. 426-431.
3. Ikenoue М., Kanae Z.-J., Wada K. Identification of noisy input-output system using bias-compensated least squares method/ In: Proc. 16th IFAC World Congress on Automatic Control, Prague, Czech Republic/ World Congress, 16 (Part 1), 2005. Pp. 803-808.
4. Ekman М., Hong М., Wada K., Soderstrom T. A separable nonlinear least-squares approach for identification of linear systems with errors in variables / In: Proc. 14th IFAC Symposium on System Identification, Newcastle, Australia/ World Congress, 14 (Part 1), 2006. Pp. 173-183.
5. Кацюба О. А. Теория идентификации стохастических динамических систем в условиях неопределённости. Самара: СамГУПС, 2008. 119 с. [Katsyuba О. A. Identification theory of stochastic dynamic systems under uncertainty conditions. Samara: SamGUPS, 2008. 119 pp.]
6. Деревицкий Д. П., Фрадков А. Л. Прикладная теория дискретных адаптивных систем управления. М.: Наука, 1991. 215 с. [Derevitskiy D.P., Fradkov A. L. Applied Theory of Discrete Adaptive Control Systems. Moscow: Nauka, 1991. 215 pp.]
7. Chen H. F. Stochastic Approximation and Its Applications. Dordrecht: Kluwer, 2002. 357 pp.
8. Chen H.F. A Unified Approach to Recursive System Identification/ In: Proc. 17th IFAC Symposium on System Identification, Saint-Malo, France / World Congress, 17 (Part 1), 2009. Pp. 420-425.
9. Веллман P. Введение в теорию матриц. М.: Наука, 1989. 376 с. [Bellman R. Introduction to Matrix Analysis. Moscow: Nauka, 1989. 376 pp.]
Поступила в редакцию 04/11/2010; в окончательном варианте — 01 /XI/2011.
MSC: 93E12; 62H12
RECURSIVE PARAMETRICAL IDENTIFICATION OF MULTIDIMENSIONAL LINEAR DYNAMIC SYSTEMS WITH LOCAL AUTOCORRELATED NOISES IN INPUT AND OUTPUT SIGNALS
D. V. Ivanov, O. A. Katsyuba
Samara State Transport University,
18, First Bezimyanniy per., Samara, 443066, Russia.
E-mails: dvi85aiist.ru, katsuba.samgupsamail.ru
The recursive algorithm allowing to receive strongly consistent estimates of parameters of multidimensional on an input linear dynamic systems with, locally autocorrelated noise in input and, output signals is suggested. Numerical examples are included, to illustrate the effectiveness of the proposed algorithm.
Key words: recursive identification, linear dynamic system, stochastic approximation, errors in variables, least square method.
Original article submitted 04/11/2010; revision submitted 01/XI/2011.
Dmitriy V. Ivanov (Ph.D. (Phys. & Math.)), Senior Teacher, Dept, of Mechatronics in Automated Production. Oleg A. Katsyuba (Dr. Sci. (Techn.)), Head of Department, Dept, of Mechatronics in Automated Production.
