Оригинальная статья / Original article УДК 618.5.015
DOI: 10.21285/1814-3520-2017-4-100-107
РОБАСТНОЕ ОЦЕНИВАНИЕ ПАРАМЕТРОВ МОДЕЛЕЙ ГАУССОВСКИХ ЛИНЕЙНЫХ ДИСКРЕТНЫХ СИСТЕМ НА ОСНОВЕ ГИБРИДНОГО ФИЛЬТРА
© В.М. Чубич1, О.С. Черникова2, А.А. Долгов3
Новосибирский государственный технический университет, Российская Федерация, 630073, г. Новосибирск, пр-кт К. Маркса, 20.
РЕЗЮМЕ. ЦЕЛЬ. Разработать программно-математическое обеспечение задачи параметрического оценивания моделей гауссовских линейных дискретных систем при наличии аномальных измерений. Привести результаты параметрического оценивания для случая, когда подлежащие оцениванию параметры входят в уравнения состояния и наблюдения. МЕТОДЫ. Использован метод квазиправдоподобного оценивания на основе гибридного фильтра. РЕЗУЛЬТАТЫ И ИХ ОБСУЖДЕНИЕ. На примере одной модельной структуры для различного характера вхождения в выборку аномальных измерений (группированные, случайные) продемонстрирована эффективность разработанного программно-математического обеспечения процедур идентификации на основе гибридного фильтра в сравнении с фильтром Калмана. Качество оценивания неизвестных параметров удавалось повысить минимум на 2,42% в пространстве параметров и на 2,25% - в пространстве откликов. ВЫВОДЫ. Авторы использовали один из популярных в настоящий момент робастных алгоритмов фильтрации при решении задачи оценивания параметров моделей гауссовских линейных дискретных систем по измерительным данным, содержащим аномальные наблюдения. Разработано соответствующее программно-математическое обеспечение и на примере одной модельной структуры показана его эффективность.
Ключевые слова: параметрическая идентификация, робастное оценивание, метод квазимаксимального правдоподобия, гибридный фильтр, фильтр Калмана, стохастическая дискретная система.
Формат цитирования: Чубич В.М., Черникова О.С., Долгов А.А. Робастное оценивание параметров моделей гауссовских линейных дискретных систем на основе гибридного фильтра // Вестник Иркутского государственного технического университета. 2017. Т. 21. № 4. С. 100-107 DOI: 10.21285/1814-3520-2017-4-100-107
ROBUST ESTIMATION OF PARAMETERS OF GAUSSIAN MODELS LINEAR DISCRETE SYSTEMS BASED ON HYBRID FILTER
M.V. Сhubich, S.O. Chernikova, A.A. Dolgov
Novosibirsk State Technical University,
20, Prospekt K. Marks, Novosibirsk, 630073, Russian Federation.
SUMMARY. AIM. Program software of a problem of paramedical estimation of models of Gaussian linear discrete systems in the presence of abnormal measurements is developed. Results of estimation for a case when the unknown parameters are included into the equations of a state and observation are given. RESULTS AND THEIR DISCUSSION. On the example of one model structure for various option of entry into selection of abnormal measurements (grouped, accidental) efficiency of the developed program software of procedures of identification on the basis of the hybrid filter in comparison with Kalman filter is shown. Quality of estimation of unknown parameters was possible to raise a minimum for 2.42% in space of parameters and for 2.25% in space of responses. MAIN INCLUSIONS. A0uthors used a popular robust algorithm of a filtration at the solution of a problem of estimation of parameters of Gaussian linear discrete models on the measuring data containing abnormal observations. The corresponding program software is developed and on the example of one model structure its efficiency is shown.
1Чубич Владимир Михайлович, доктор технических наук, заведующий кафедрой теоретической и прикладной информатики, e-mail: [email protected].
Vladimir M. Chubich, Doctor of technical sciences, Head of the Department of the Theoretical and Applied Informatics, e-mail: [email protected]
2Черникова Оксана Сергеевна, кандидат технических наук, доцент кафедры теоретической и прикладной информатики, e-mail: [email protected].
Oksana S. Chernikova, Candidate of technical sciences, Associate Professor of the Department of Theoretical and Applied Informatics, e-mail: [email protected] Долгов Андрей Александрович, магистрант, e-mail: [email protected]. Andrei A. Dolgov, Master's Degree student, e-mail: [email protected]
Keywords: parametric identification, robust estimation, quasimaximum likelihood method, hybrid filter, Kalman filter, stochastic discrete system
For citation: Chubich M.V., Chernikova S.O., Dolgov A.A. Robust estimation of parameters of Gaussian models linear discrete systems based on hybrid filter. Proceedings of Irkutsk State Technical University. 2017, vol. 21, no. 4, pp. 100-107. (In Russian) DOI: 10.21285/1814-3520-2017-4-100-107
Введение
Идентификация динамической системы предполагает определение структуры и параметров соответствующей математической модели. При решении задачи параметрического оценивания часто возникают трудности, связанные с наличием аномальных наблюдений в измерительных данных. Присутствие даже нескольких выбросов может приводить не только к смещению оценок, но и некорректному решению задачи оценивания в целом. Один из возможных путей решения данной проблемы связан с выявлением и последующим исключением резко выделяющихся измерений из дальнейшей обработки. Другой подход предполагает использование ро-бастных методов обработки данных [1, 2], нечувствительных к различного рода выбросам. Отметим, что применение предварительной обработки измерений и процедуры исключения грубых ошибок наблюдений не является простой задачей и вовсе не исключает использования в дальнейшем робастных процедур оценивания.
Одним из наиболее распространенных методов решения задачи параметрической идентификации стохастических динамических систем является метод максимального правдоподобия, обладающий хорошими асимптотическими свойствами [3, 4]. В случае гауссовских систем соответствующий критерий идентификации выписывается на основе фильтра Калмана [5-8]. К сожалению, классический вариант фильтра не позволяет учесть возможность появления в выборочных данных аномальных измерений. В связи с этим становится актуальным применение его различных ро-бастных модификаций, наиболее популярные из которых приведены в работах [9, 10]. В данной работе авторы предлагают подход к робастному оцениванию параметров гауссовских линейных дискретных систем на базе гибридного фильтра, описанного в [10], созданного по материалам статьи [9] и дополнительно позволяющего оценивать ковариационную матрицу шума измерений.
Постановка задачи
Рассмотрим следующую управляемую, наблюдаемую и идентифицируемую модель стохастической линейной дискретной системы в пространстве состояний:
* () = р (^ ) * (4 )+ (1)
+г(0 * (О; (1)
У (Ч+1 ) = Н (^) * (4+1) + V (^); (2) к = 0,1,..„И -1
Здесь *(^)- вектор состояния; и (^) - детерминированный вектор управления (входа); * (^) - вектор шума систе-
мы; у() - вектор измерений (выхода); V (1к+1) - вектор шума измерений. Предположим следующее:
• случайный вектор *(обра-
зует стационарную белую гауссовскую последовательность, для которой
Е[*Ок)] = 0 , Е[= адш. Здесь Е[] - математическое ожидание; 8Ы - символ Кронекера;
• случайный вектор v(tk+1) образует стационарную белую гауссовскую
последовательность (за исключением конечного числа точек ^ е ПА), для которой
Е \у(гк)\ = 0;
Е [ +1)Ут((1+,)] = Я5и;
Е [ 0;
• начальное состояние х(^) имеет нормальное распределение с параметрами
х {*о )]=х );
х ((0 )- х ((0 )][ х ( (0 )-х ((0 )]Т } = ^( Ч ),
и не коррелирует с м>((к) и у((к+1) при любых значениях переменной к;
• неизвестные параметры сведены в вектор 0 = (в],в?,...,вх) е Пв и могут
входить в элементы матриц ¥(%), ),
Г(^), Н (¡ы) в различных комбинациях.
Необходимо для математической модели (1)-(2) с учетом указанных априорных предположений разработать и исследовать процедуру оценивания неизвестных параметров, принимающую во внимание наличие в данных аномальных измерений.
Параметрическая идентификация
Оценивание неизвестных параметров математической модели будем осуществлять по данным проведения идентификационного эксперимента Е в соответствии с критерием идентификации %. Обозначим через
У =[( у(11))т,{ у02))Т,...,(у(1и))т'
выходной сигнал, соответствующий входному сигналу
\Т / / \\Т / , Ч\Т"
U=
(u (t0)) ,(u (tl)) ,...,(u ( tN-I ) )
тогда Е = {и,У}.
В силу того что фактическое совместное распределение измерений
{у(4+1),к = 0,1,...,N-1} может отличаться
от нормального, будем находить квазиправдоподобные оценки, решая оптимизационную задачу [11]:
& = arg min [(0;S)] : = arg max [[nL (&; S)],
(3)
где
z(0;S) = - lnL (&;S) =
Nm 1N¿, , ч
=-ln2n . — ^ Indet B\tk+1 ).
2 2 k=0 JN-1 T ,
^ [s( tk .1 )]Г [B(tk .i )]-' [s( tk .i )].
(4)
Здесь s(tk+1) и B{tk+1) определяются по
следующим уравнениям гибридного фильтра, позволяющего уточнять ковариационную матрицу шума измерений и уменьшать влияние аномальных измерений:
x (tk Ж ) = F (tk)x (Ч\Ч ) +
p{h jh ы (tk+1) f (tk )p(tk\tk) ft (tk)+ +r(tk)QrT (tk);
y (tk+i\tk )=H(h+i) %+i\tk);
B(tk+1 ) = H(tk+i)p(tk+i\tk)HT (tkJ + R(tk); K(tk+i) = p(tk+i \ tk)HT (tk+i)[B(tk+i;
x (tk+i \ tk+i ) =x (tk+i\tk )+^(tk+i M^+i);
p( tk+1 \ tk+1) = = tk+i )H( tk+i )]P( tk+i\tk);
7 k+i
B( tk+i ) = ± I [*( t1 )][.(t, )]T;
tk+i l=i
2
SP (B ( Ч .i )) 4 (tk 1 ' = Sp ( В ( tk .I )) '
k=0
R itk+1 ) = A itk+1 ) R itk ) z
ito I to) = x(to),P ito 110) = P ito) , R ito) = Ro,
В itk+1 ) = H itk+1 ) P itk+1 I tk ) HT itk+1 )
+R itk+1 ) z
лP itk+l ) = max
1,
Sp i B i tk+l ))
Sp i B i tk+l )) k = 1,2,...,N -lz
с начальными условиями
Я0 выбирается.
Отметим, что при выполнении достаточно общих условий (подробнее см. [11]) оценки квазиправдоподобия обладают таким важным для практики свойством, как асимптотическая состоятельность.
Авторами было разработано соответствующее программно-математическое обеспечение, при этом для решения задачи (3) применялся метод последовательного квадратичного программирования (БОР).
Результаты эксперимента
Пусть модель стохастической линейной дискретной системы имеет вид:
0 1 Л / ч
* (Ч) +
x i tk+l ) = в
G G.4
u i tk ) + w itk ),
У (Ч+1 ) = (1,0) * (tk+1) + +V^к+1), к = 0,1,...,99;
где в1, в2 - неизвестные параметры, подлежащие оцениванию (5 = 2), причем 0 < в1 < 1; 0,5 < в2 < 1. Выберем
и = •! 5,...,51 и будем считать, что выпол-
I 100 )
нены все высказанные при постановке задачи априорные предположения, причем
E[ W it, ) W i t, )]:
G.l G \
G G.l
S = QômZ
J
( G\ _ E[x Ы]= л = x ito),
V G J
E{[ x (ío )-x ('o )][ x ('O )-x ('O )]T W^ °) = Р(<0)
VG 01 j
Чтобы ослабить зависимость результатов оценивания от выборочных дан-
ных, произведем пять независимых запусков системы и усредним полученные оценки неизвестных параметров. Реализации выходных сигналов получим компьютерным моделированием, считая, что истинные значения параметров в* = 0.5, в* = 1 и Я = 0.1.
Введем следующие обозначения: л - количество аномальных измерений;
Я - ковариационная матрица шума аномальных измерений; у (;) - усредненный вектор измерения; у* ) - усредненный незашумленный вектор измерения (шумы системы и измерений отсутствуют); у () - усредненный вектор оценки измерений, вычисляющийся как для гибридного, так и для классического фильтра Калмана по формуле
У (4+1 ) = +1) * (tk+1).
О качестве идентификации в пространстве параметров и в пространстве откликов будем судить, соответственно, по значениям коэффициентов 8в и 5Т, вычисляемым по следующим формулам:
¿в =
L в-в)2
Z fr )2
*
в
Si =
Y* - Y
cp cp
\\yc
cp
N-l
Li ycp (tk ) - ycp (tk ))
k=0_
N-l 2
Zi ycp ^ ))
k=0
л *
где в - истинные значения параметров; # - оценки неизвестных параметров.
Смоделируем выборку измерений, полагая = 10 и л = 15. Аномальные измерения расположим случайным образом
( ПЛ={8,17,19,23,34,48,54,58, 59,63,64,73,81,86,91}). .
Представим численные результаты расчетов и сопровождающие их графики в табл. 1 и на рис. 1, 2 соответственно.
Численные результаты параметрической идентификации (случайный характер выбросов)
Таблица 1
Table 1
Numerical results of the parametric identification (accidental abnormal measurements)
Оценки параметров и ошибки оценивания / Values of parameters estimates and errors of estimation Классический фильтр Калмана / Kalman filter Гибридный фильтр / Hybrid filter
в ê =0,5209; 4 =0,8919 ê = 0,5134; 4 = 0,9317
Se 0,0985 0,0623
8y 0,0312 0,003
2
Рис.1 Графическое представление yср (tk+1), уср (tk+1) и уСр (tk+1) (случайный характер выбросов, классический фильтр Калмана):
- - - Уср (tk+1) > - У ср (tk+i) ' У ср (tk+1) ■ Fg. 1. Graphical representation Уср (tk+i) , Уср (tk+i) and
Уср (tfc+1) (accidental abnormal measurements, classic Kalman filter)
Рис. 2 Графическое представление уср (tk+1), уср (tk+1) и уcp (tk+1) (случайный характер выбросов, гибридный фильтр):
- - - Уср (tk+l) • - У ср (tk+i) ' У ср (tk+1) Fig. 2. Graphical representation у ср (tk+i), y*p (tk+i) and y ср (tk+i)
(accidental abnormal measurements, hybrid filter)
Из табл. 1 видно, что за счет применения процедуры оценивания на основе гибридного фильтра удалось улучшить оценки неизвестных параметров: в пространстве параметров - на 3,62%; в пространстве откликов - на 2,82%.
Изменим характер расположения аномальных измерений и смоделируем выборку измерений с = 10 и и = 10. Аномальные измерения расположены двумя группами по пять измерений в каждой
(ПА = {31,32,33,34,35,61,62,63,64,65}).
Численные результаты представим в табл. 2, графическое изображение в пространстве откликов - на рис. 3, 4.
Как свидетельствуют данные, приведенные в табл. 2, за счет применения процедуры оценивания на основе гибридного фильтра оценки неизвестных параметров удалось улучшить на 2,42% - в пространстве параметров, и на 2,25% - в пространстве откликов.
Численные результаты параметрической идентификации (группированный характер выбросов)
Таблица 2
Table 2
Numerical results of the paramet ric identification (grouped abnormal measurements)
Оценки параметров и ошибки оценивания / Values of parameters estimates and errors of estimation Классический фильтр Калмана / Kalman filter Гибридный фильтр / Hybrid filter
66 è = 0,4925; è2 = 1,0268 в1 = 0,5007; è2 = 0,9923
So 0,0249 0,0069
8y 0,0241 0,0016
Рис. 3. Графическое представление уср (tk+1), ycp (tk+1) и ycp (tk+1) (группированный характер выбросов, классический фильтр Калмана)
Hg. 3. Graphical representation у ср (tk+i), у*р (tk+i) and у ср (tk+i) (grouped abnormal measurements, classic Kalman filter)
Рис. 4. Графическое представление у ср (tk +i ) , У*р (tk +i ) и у ср (tk +1)
(группированный характер выбросов, гибридный фильтр)
Fig. 4. Graphical representation у ср (tk+i), у*р (tk+i) and у ср (tk+i) (grouped abnormal measurements, hybrid filter)
Заключение
В работе рассмотрены вопросы параметрической идентификации моделей гауссовских линейных дискретных систем при наличии аномальных измерений. Приведены результаты параметрического оценивания для случая, когда подлежащие оцениванию параметры входят в уравнения состояния и наблюдения. Найдены квазиправдоподобные оценки неизвестных параметров при различном характере вхож-
дения в выборку аномальных измерений (группированные, случайные), показана эффективность применения разработанных процедур идентификации на основе гибридного фильтра в сравнении с традиционным фильтром Калмана.
Работа выполнена при финансовой поддержке Министерства образования и науки РФ по государственному заданию (проект № 2.7996.2017/БЧ).
Библиографический список
1. Хьюберт П. Робастность в статистике. М.: Мир, 1984. 303 с.
2. Maronna R.A., Martin R.D., Yohai V.J. Robust statistics. Theory and methods. England: John Wiley Sons ltd, 2006, 400 p.
3. Леман Э. Теория точечного оценивания. М.: Наука. 1991. 448 с.
4. Ивченко Г.И., Медведев Ю.И. Введение в математическую статистику. М.: Изд-во ЛКИ, 2010. 600 с.
5. Gupta N.K., Mehra R.K. Computational aspects of maximum likelihood estimation and reduction in sensitivity function calculations // IEEE Trans. Automat. Control. 1974. Vol. 19. No. 6. P. 774-783.
6. Astrom K.J. Maximum likelihood and prediction errors methods // Automatica. 1980. Vol. 16. P. 551574.
7. Kulikova M.V., Tsyganova J.V. A unified square-root approach for the score and Fisher information ma-
trix computation in linear dynamic systems // Mathematics and computers in simulation. 2016. No. 119. P. 128141.
8. Денисов В.И., Еланцева И.Л., Чубич В.М. Активная идентификация стохастических линейных дискретных систем, описываемых моделями в пространстве состояний и ARMAX-моделями // Сибирский журнал индустриальной математики. 2000. Т. 3. № 1 (5). С. 87-100.
9. Xia Q., Rao M., Ying Y. Adaptive fading Kalman filter with an application // Automatica. 1994. Vol. 30. P. 1333-1338.
10. Mohamed A.H., Schwarz K.P. Adaptive Kalman filtering for IWS/GPS // Journal of geodesy. 1999. No. 73. P.193-203.
11. Мудров В.И., Кушко В.Л. Методы обработки измерений. Квазиправдоподобные оценки. М.: Радио и связь. 1983. 304 с.
References
1. Kh'yubert P. Robastnost' v statistike [Robustness in statistics]. Moscow, Mir Publ., 1984, 303 p. (In Russian).
2. Maronna R.A., Martin R.D., Yohai V.J. Robust statistics. Theory and methods. England: John Wiley Sons ltd, 2006, 400 p.
3. Leman E. Teoriya tochechnogo otsenivaniya [The theory of point estimation]. Moscow, Nauka Publ., 1991, 448 p. (In Russian).
4. Ivchenko G.I., Medvedev Yu.I. Vvedenie v ma-tematicheskuyu statistiku [Introduction to mathematical statistics]. Moscow, LKI Publ., 2010, 600 p. (In Russian).
5. Gupta N.K., Mehra R.K. Computational aspects of maximum likelihood estimation and reduction in sensitivity function calculations. IEEE Trans. Automat. Control. 1974, vol. 19, no. 6, pp. 774-783.
6. Astrom K.J. Maximum likelihood and prediction errors methods. Automatica. 1980, vol. 16, pp. 551-574.
7. Kulikova M.V., Tsyganova J.V. A unified square-root approach for the score and Fisher information matrix computation in linear dynamic systems. Mathematics
Критерии авторства
Авторы имеют равные авторские права и несут равную ответственность за плагиат.
Конфликт интересов
Авторы заявляют об отсутствии конфликта интересов
Статья поступила 31.03.2017 г.
and computers in simulation. 2016, no. 119, pp.128141.
8. Denisov V.I., Elantseva I.L., Chubich V.M. Aktivnaya identifikatsiya stokhasticheskikh li-neinykh diskretnykh sistem, opisyvaemykh modelyami v prostranstve sos-toyanii i ARMAX-modelyami [Active identification of stochastic linear discrete systems described by models in the state space and ARMAX models]. Sibirskii zhur-nal industria'noi matematiki [Siberian Journal of Industrial Mathematics]. 2000, vol. 3, no. 1 (5), pp. 87-100. (In Russian).
9. Xia Q., Rao M., Ying Y. Adaptive fading Kalman filter with an application. Automatica. 1994, vol. 30, pp. 1333-1338.
10. Mohamed A.H., Schwarz K.P. Adaptive Kalman filtering for IWS/GPS. Journal of geodesy. 1999, no. 73, pp. 193-203.
11. Mudrov V.I., Kushko V.L. Metody obrabotki izme-renii. Kvazipravdopodobnye otsenki [Methods for processing measurements. Quasimaximum estimates]. Moscow, Radio i svyaz' Publ., 1983, 304 p. (In Russian).
Authorship criteria
The authors have equal authors rights and bear equal responsibility for plagiarism.
Conflict of interests
The authors declare that there is no conflict of interests regarding the publication of this article.
The article was received on 31 March 2017