CC BY
142
УДК 519.24
А. А. Воевода, Г. В. Трошина
РЕАЛИЗАЦИЯ ИТЕРАЦИОННОГО МЕТОДА НАИМЕНЬШИХ КВАДРАТОВ ДЛЯ ОЦЕНИВАНИЯ ПАРАМЕТРОВ СТАТИЧЕСКИХ ОБЪЕКТОВ В СРЕДЕ МА^АВ
Для итерационного метода оценивания параметров предложено использовать модель системы, работающую в реальном времени. Это дает возможность выбрать подходящий входной сигнал, а также провести настройку параметров объекта. В среде Ма1ЬаЬ выполнено моделирование объекта для случая, когда на систему не действуют шумы измерений, а также для случая, когда объект находится под действием гауссова шума. В качестве входного сигнала используется суперпозиция двух меандров с различными периодами и единичной амплитудой. В среде Ма1ЬаЬ модель представляет собой трехслойную структуру. На самом верхнем слое находятся блоки, соответствующие моделированию входного сигнала непосредственно самого объекта, блок моделирования шумового воздействия и блок для оценивания параметров. Второй и третий слой соответствуют моделированию итерационного метода наименьших квадратов. Демонстрируются графики входного и выходного сигналов при отсутствии и наличии шумов. Приводятся результаты оценивания параметров статического объекта. Согласно результатам моделирования, алгоритм успешно работает даже при наличии значительных шумов измерений. Для проверки правильности работы алгоритма выполнены вспомогательные вычисления и построены графики поведения коэффициента усиления, который используется в процедуре оценивания параметров. Уточняются начальные условия, которые необходимы для работы итерационного метода наименьших квадратов. Понимание принципов функционирования данного алгоритма является основой для его последующего использования при оценивании параметров многоканальных динамических объектов.
Ключевые слова: метод наименьших квадратов, идентификация, моделирование, входной сигнал, оценивание параметров
Введение
В настоящее время вопросам идентификации и управления системами уделяется много внимания [1-25], но большая часть работ не затрагивает вопросы оценки качества экспериментальных данных. Под идентификацией объекта принято понимать определение структуры и параметров модели, обеспечивающих наилучшее по какому-то критерию совпадение выходных данных модели и объекта при одинаковых входных воздействиях [2, 3, 17]. При этом с помощью полученной модели необходимо уметь управлять системой и рассчитывать её оптимальные параметры [1-5]. Процедура идентификации представляет собой довольно сложную задачу, решение которой требуется для реализации различных прикладных задач. Математическая сложность вычислительного процесса, как правило, не дает возможности эффективно использовать алгоритмы идентификации для практических приложений. Можно выделить пассивные и активные методы идентификации. Методы активной идентификации подразумевают использование тестовых входных воздействий, которые были предварительно выбраны пользователем. Методы пассивной идентификации работают с сигналами, полученными в ходе нормальной эксплуатации системы. Применительно к активной идентификации рассматривают методы идентификации с помощью синусоидальных, ступенчатых и импульсных сигналов. Некоторые методы применимы также и для идентификации динамических объектов в реальном времени [6-17]. Далее рассматривается итерационный метод наименьших квадратов для оценивания параметров статических объектов. В дальнейшем предложенный подход можно распространить на динамические объекты.
Постановка задачи
Рассматриваем линейный статический объект с векторным входом и зашумленным выходом:
хт 0 = у + V ,
где х - векторный входной сигнал; у - скалярный выходной сигнал. Для упрощения будем
1 2 Т Т 12
считать, что х - вектор размерности два, т. е. х = (х , х ) . Тогда 0 = (0 , 0 ) - вектор оцениваемых параметров объекта; V - гауссов шум на выходе объекта с нулевым математическим ожиданием. Вычисления производятся последовательно, по мере поступления данных измерений входного и выходного у{ сигналов. По результатам N измерений входного и выходного сигналов х{, у^, / е 1, N для метода наименьших квадратов имеем следующую формулу квадратичного отклонения [14]:
<0) = 2 (у - ХТ0)2-
Символ Т в хТ обозначает транспонирование. Обозначим результаты N измерений следующим образом:
i гЛ xi
Хт V XN
С Х1 Х2 Л Х2 Х2
Х1 Х2 V JiN ХN J
, Yn
f \ У1
У 2
yN
Оценка неизвестных параметров 0м вычисляется с помощью метода наименьших квадратов по следующей формуле [14]:
0 N = (ХМХМ ) 1 .
Корректировка оценки параметров 0 ¡^ по N + 1-измерению осуществляется по следующим формулам:
00 N+1 = 0 N + KN+1(yN+1 ХN+10 N ) :
KN+1 _ PNXN+1 /(1 + ХТ+1PNXN+1) :
(1) (2)
PN+1 _ (1 р
ХХ
N+1* N+1 1 + xт+^ PvX
-) Pn
т P Х
N+1PNXN +1
(3)
где KN+l - коэффициент усиления и - оценка дисперсии ошибки оценивания, вычисленные по результатам N +1 -измерений.
Результаты вычислений существенно зависят от задания начальных значений вектора оцениваемых параметров 0О и коэффициента усиления К0 и матрицы Р0. При задании нулевой матрицы Р0 рекуррентная процедура не сходится, и, следовательно, оценка 0N неудовлетворительная.
N
i=1
Т
Х
2
Вычисление оценки параметров объекта в среде MatLab
Итерационную процедуру вычисления параметров объекта выполняем по схеме, представленной на рис. 1, где введены следующие блоки: Gen_x1_x2 - генератор входного сигнала; Object - объект; Noise - генератор белого шума; Estimation - блок вычисления оценки параметров. Выходной сигнал объекта, итерационные значения коэффициента усиления K и матрицы
P выведены на индикаторы.
Рис. 1. Итерационная процедура вычисления оцениваемых параметров
Блок Estimation по уравнениям (1)-(3) в среде MatLab приведен на рис. 2, а блоки вычисления по уравнениям (1)-(3) - на рис. 3-5.
Рис. 2. Блок Estimation
Рис. 3. Вычисление K
N+1
Рис. 4. Вычисление Р
N+1
Рис. 5. Вычисление оценки параметров 0
N+1
Итерационное вычисление оцениваемых параметров 0 N+1 в среде MatLab
12 Т Т 12
По уравнению (1) с двумя входами х = (х , х ) , двумя параметрами 0 = (0 , 0 ) и одним выходом у . Моделирование выполнено при следующих базовых значениях: 01 = 1,0;
02 = 0,5. На рис. 6-10 приведены результаты моделирования для объекта без шума процесса V = 0 с начальными условиями т = 0 . Параметр К1 на рис. 9 изображен со смещением 0,5. Для начального значения оценки дисперсии ошибки оценивания принято следующее значение: (0,5 0 ^ (0 0^
Р0 =
0 0,5
. Существенно, что при Р0 =
0 0
процесс не сходится. В качестве входного
сигнала выбраны сигналы типа меандров по каждому каналу с периодами Т = 6 и Т = 4 с амплитудами, равными единице. Эксперимент проводился для ста измерений.
Выходной сигнал у, как следует из рис. 8, является суперпозицией двух сигналов типа меандра. Оценка параметров довольно быстро сходится к истинному значению, примерно за 50 шагов. То же самое можно сказать и о матрице оценки дисперсии и коэффициенте усиления
KN. После ста измерений получены следующие оценки параметров: 01 = 0,981, 02 = 0,4912.
На рис. 11-14 приведены результаты моделирования при наличии шума процесса V с нулевым средним т и дисперсией о = 0,005, что соответствует погрешности измерений в пределах 5-7 %. Параметр К1 на рис. 13 изображен со смещением 0,5.
Рис. 8. Выход объекта без шума (V = 0) Рис. 9. Параметр Кы без шума (V = 0 )
•0.3 -............;.............■:..............:..............;..............
-0.4 -............;..............;............................;..............
■05!-I-\-1-1-и
О 10 20 30 40 50
Рис. 10. Параметр Ры без шума (V = 0 )
„I-1-1-1-1-1—
О 10 20 30 40 50
N
Рис. 11. Оценка 0N при наличии шума
Кп К1
к
т.
1
Г-
-2_1_1_I_I_
О 10 20 30 40 50
N
Рис. 12. Выход объекта У при наличии шума Рп
Рис. 13. Параметр KN при наличии шума Рис. 14. Параметр Рц при наличии шума
Получены следующие значения оцениваемых параметров: 01 = 0,9771, 02 = 0,4817. Как следует из результатов моделирования, алгоритм успешно работает даже при наличии значительных шумов измерений.
Заключение
Многократное вычисление при различных значениях параметров шумов для объектов с большим числом параметров подтверждает работоспособность алгоритма и его реализацию в пакете МаЛаЬ. Следовательно, эти алгоритмы можно реализовывать и в инженерной практике с использованием контроллеров для обработки данных. В дальнейшем предполагается использование рекуррентных методов для оценивания параметров многоканальных динамических объектов.
СПИСОК ЛИТЕРА ТУРЫ
1. Острем К. Введение в стохастическую теорию управления. М.: Мир, 1973. 320 с.
2. Льюнг Л. Идентификация систем. Теория для пользователя. М.: Наука, 1991. 432 с.
3. Эйкхофф П. Основы идентификации систем управления. Оценивание параметров и состояния. М.: Мир, 1975. 683 с.
4. Медич Дж. Статистически оптимальные линейные оценки и управление. М.: Энергия, 1973. 440 с.
5. Сейдж Э. П., Мелса Дж. Теория оценивания и ее применение в связи и управлении. М.: Связь, 1976. 495 с.
6. Gupta H. K., Mehra R. K. Computational aspects of maximum likelihood estimation and reduction in sensitivity function calculation // IEEE Trans. Autom. Control. 1974. Vol. 19, no. 7. P. 774-785.
7. Astrom K. J. Maximum Likelihood and Prediction Error Methods // Automatica. 1980. Vol. 16, no. 5. P. 551-574.
8. Mehra R. K. Optimal input signal for parameter estimation in dynamic system - survey and new results // IEEE Trans. Autom. Control. 1974. Vol. AC-19, no. 6. P. 753-768.
9. Mehra R. K. On the Identification of Variences and Adaptive Kalman Filtering // IEEE Trans. Autom. Control. 1970. Vol. AC-15, no. 2. P. 175-184.
10. Mehra R. K. Optimal Input for Linear System Identification // IEEE Trans. Autom. Control. 1974. Vol. 19, no. 3. P. 192-200.
11. Goodwin G. C., Payne R. L. Dynamic System Identification: Experiment Design and Data Analysis. New York: Academic Press, 1977. 291 p.
12. Antsaklis P. J., Michel A. N. Linear systems. New York: McGraw-Hill, 1997. 685 p.
13. Brown R. J., Sage A. P. Error Analysis of Modeling and Bias Errorsin Continuous Time State Estimation // Automatica. 1971. Vol. 7. P. 577-590.
14. Goodwin G. C. Optimal Input Signals for Nonlinear-system Identification // Proc. Inst. Elec. Engrs. 1971. Vol. 118, no. 7. P. 922-926.
15. Сейдж Э. П., Уайт Ч. С., III. Оптимальное управление системами. М.: Радио и связь, 1982. 392 с.
16. Воевода А. А., Трошина Г. В. Оценивание параметров моделей динамики и наблюдения для линейных стационарных дискретных систем с использованием информационной матрицы Фишера // Науч. вестн. НГТУ. 2006. № 3 (24). С. 199-200.
17. Трошина Г. В. Активная идентификация линейных динамических дискретных стационарных объектов во временной области: дис. ... канд. техн. наук. Новосибирск, 2007. 171 c.
18. Трошина Г. В. Вычислительные аспекты задачи восстановления вектора состояния для модели с неточно заданными параметрами // Сб. науч. тр. НГТУ. 2008. Вып. 3 (53). С. 25-34.
19. Voevoda A. A., Troshina G. V. Active identification of linear stationary dynamic object on base of the Fisher information matrix: the steady state // Proc. of the XII Intern. Conf. "Actual problems of electronic instrument engineering (APEIE-2014)" (Novosibirsk, Russia, 2-4 October 2014). Novosibirsk, 2014. P. 745-749. doi: 10.1109/APEIE.2014.7040785.
20. Voevoda A. A., Troshina G. V. Active identification of the inverted pendulum control system // Proc. of the 18th Intern. Conf. on Soft Computing and Measurements (SCM'2015). Saint-Petersburg: LETI Publ., 2015. Vol. 1. P. 153-156.
21. Voevoda A. A., Troshina G. V., Patrin V. M., Simakina M. V The object unknown parameters estimation for the 'inverted pendulum-Cart' system in the steady state // Proc. of the 16th Intern. Conf. of Young Specialists on Micro/Nanotechnologies and Electron Devices (EDM-2015), Altai, Erlagol, 29 June - 3 July 2015. IEEE, 2015. P. 186-188.
22. Воевода А. А., Трошина Г. В. О некоторых методах фильтрации в задаче идентификации // Сб. науч. тр. НГТУ. 2014. Вып. 2 (76). C. 16-25.
23. Воевода А. А., Трошина Г. В. Об оценке вектора состояния и вектора параметров в задаче идентификации // Сб. науч. тр. НГТУ. 2014. Вып. 4 (78). C. 53-68. doi: 10.17212/2307-6879-2014-4-53-68.
24. Трошина Г. В. Моделирование динамических объектов в среде Simulink. Ч. 1 // Сб. науч. тр. НГТУ. 2015. Вып. 3 (81). C. 55-68. doi: 10.17212/2307-6879-2015-3-55-68.
25. Трошина Г. В. Моделирование динамических объектов в среде Simulink. Ч. 2 // Сб. науч. тр. НГТУ. 2015. Вып. 4 (82). C. 31-41. doi: 10.17212/2307-6879-2015-4-31-41.
Статья поступила в редакцию 22.11.2016
ИНФОРМАЦИЯ ОБ АВТОРАХ
Воевода Александр Александрович — Россия, 630073, Новосибирск; Новосибирский государственный технический университет; д-р техн. наук, профессор; профессор кафедры автоматики; [email protected].
Трошина Галина Васильевна — Россия, 630073, Новосибирск; Новосибирский государственный технический университет; канд. техн. наук, доцент; доцент кафедры вычислительной техники; [email protected].
A. A. Voevoda, G. V. Troshina
THE REALIZATION OF THE ITERATIVE METHOD OF THE LEAST SQUARES FOR THE ESTIMATION OF STATIC OBJECT PARAMETERS IN MATLAB ENVIRONMENT
Abstract. It was suggested to use the system model working in real time for an iterative method of the parameter estimation. It gives the chance to select a suitable input signal, and also to carry out the setup of the object parameters. The object modeling for a case when the system isn't affected by the measurement noises, and also for a case when an object is under the gaussian noise was executed in the MatLab environment. The superposition of two meanders with different periods and single amplitude is used as an input signal. The model represents the three-layer structure in the MatLab environment. On the most upper layer there are units corresponding to the simulation of an input signal, directly the object, the unit of the noise simulation and the unit for the parameter estimation. The second and the third layers correspond to the simulation of the iterative method of the least squares. The diagrams of the input and the output signals in the absence of noise and in the presence of noise are shown. The results of parameter estimation of a static object are given. According to the results of modeling, the algorithm works well even in the presence of significant measurement noise. To verify the correctness of the work of an algorithm the auxiliary computations have been performed and the diagrams of the gain behavior amount which is used in the parameter estimation procedure have been constructed. The entry conditions which are necessary for the work of an iterative method of the least squares are specified. The understanding of this algorithm functioning principles is a basis for its subsequent use for the parameter estimation of the multi-channel dynamic objects.
Key words: the method of the least squares, identification, modeling, input signal, parameter estimation.
REFERENCES
1. Astrom K. J. Introduction To Stochastic Control Theory. Academic Press, New York, 1970 (Russ. ed.: Ostrem K. Vvedenie v stokhasticheskuiu teoriiu upravleniia. Moscow, Mir Publ., 1973. 320 p.).
2. Ljung L. System Identification: Theory for the user. Prentice-Hall, Englewood Cliffs, N J, 1987. 519 p. (Russ. ed.: L'iung L. Identifikatsiia sistem. Teoriia dlia pol'zovatelia. Moscow, Nauka Publ., 1991. 432 p.).
3. Eykhoff P. System Identification Parameter and State Estimation. Wiley, 1974. 684 p. (Russ. ed.: Eikkhoff P. Osnovy identifikatsii sistem upravleniia. Otsenivanie parametrov i sostoianiia. Moscow, Mir Publ., 1975. 683 p.).
4. Meditch J. S. Stochastic Optimal Linear Estimation and Control. McGraw-Hill Inc., US, 1969. 384 p. (Russ. ed.: Medich Dzh. Statisticheski optimal'nye lineinye otsenki i upravlenie. Moscow, Energiia Publ., 1973. 440 p.).
5. Sage A. P., Melsa J. L. Estimation Theory with Applications to Communications and Control. New York, 1971. 544 p. (Russ. ed.: Seidzh E. P., Melsa Dzh. Teoriia otsenivaniia i ee primenenie v sviazi i upravlenii. Moscow, Sviaz' Publ., 1976. 495 p.).
6. Gupta H. K., Mehra R. K. Computational aspects of maximum likelihood estimation and reduction in sensitivity function calculation. IEEE Trans. Autom. Control, 1974, vol. 19, no. 7, pp. 774-785.
7. Astrom K. J. Maximum Likelihood and Prediction Error Methods. Automatica, 1980, vol. 16, no. 5, pp. 551-574.
8. Mehra R. K. Optimal input signal for parameter estimation in dynamic system - survey and new results. IEEE Trans. Autom. Control, 1974, vol. AC-19, no. 6, pp. 753-768.
9. Mehra R. K. On the Identification of Variences and Adaptive Kalman Filtering. IEEE Trans. Autom. Control, 1970, vol. AC-15, no. 2, pp. 175-184.
10. Mehra R. K. Optimal Input for Linear System Identification. IEEE Trans. Autom. Control, 1974, vol. 19, no. 3, pp. 192-200.
11. Goodwin G. C., Payne R. L. Dynamic System Identification: Experiment Design and Data Analysis. New York, Academic Press, 1977. 291 p.
12. Antsaklis P. J., Michel A. N. Linear systems. New York, McGraw-Hill, 1997. 685 p.
13. Brown R. J., Sage A. P. Error Analysis of Modeling and Bias Errorsin Continuous Time State Estimation. Automatica, 1971, vol. 7, pp. 577-590.
14. Goodwin G. C. Optimal Input Signals for Nonlinear-system Identification. Proc. Inst. Elec. Engrs., 1971, vol. 118, no. 7, pp. 922-926.
15. Sage A. P., White Ch. C., III. Optimum System Control. Prentice Hall, 1977. 372 p. (Russ. ed.: Seidzh E. P., Uait Ch. S., III. Optimal'noe upravlenie sistemami. Moscow, Radio i sviaz' Publ., 1982. 392 p.).
16. Voevoda A. A., Troshina G. V. Otsenivanie parametrov modelei dinamiki i nabliudeniia dlia lineinykh statsionarnykh diskretnykh sistem s ispol'zovaniem informatsionnoi matritsy Fishera [Estimation of model parameters of dynamics and monitoring for linear time-invariant discrete systems using the Fisher information matrix]. Nauchnyi vestnik NGTU, 2006, no. 3 (24), pp. 199-200.
17. Troshina G. V. Aktivnaia identifikatsiia lineinykh dinamicheskikh diskretnykh statsionarnykh ob"ektov vo vremennoi oblasti. Dis. ... kand. tekhn. nauk [Active identification of linear dynamic discrete stationary objects in the time domain. Abstract of dis. cand. techn. sci.]. Novosibirsk, 2007. 171 p.
18. Troshina G. V. Vychislitel'nye aspekty zadachi vosstanovleniia vektora sostoianiia dlia modeli s netochno zadannymi parametrami [Computational aspects of the state vector recovery task for the model with inaccurately specified parameters]. Sbornik nauchnykh trudovNGTU, 2008, iss. 3 (53), pp. 25-34.
19. Voevoda A. A., Troshina G. V. Active identification of linear stationary dynamic object on base of the Fisher information matrix: the steady state. Proc. of the XII Intern. Conf. "Actual problems of electronic instrument engineering (APEIE-2014)" (Novosibirsk, Russia, 2-4 October 2014). Novosibirsk, 2014. P. 745-749. doi: 10.1109/APEIE.2014.7040785.
20. Voevoda A. A., Troshina G. V. Active identification of the inverted pendulum control system. Proc. of the 18th Intern. Conf. on Soft Computing and Measurements (SCM'2015). Saint-Petersburg: LETI Publ., 2015, vol. 1, P. 153-156.
21. Voevoda A. A., Troshina G. V., Patrin V. M., Simakina M. V. The object unknown parameters estimation for the 'inverted pendulum-Cart' system in the steady state. Proc. of the 16th Intern. Conf. of Young Specialists on Micro/Nanotechnologies and Electron Devices (EDM-2015), Altai, Erlagol, 29 June - 3 July 2015. IEEE, 2015. P. 186-188.
22. Voevoda A. A., Troshina G. V. O nekotorykh metodakh fil'tratsii v zadache identifikatsii [On some methods of filtration in the identification of the problem]. Sbornik nauchnykh trudov NGTU, 2014, iss. 2 (76), pp. 16-25.
23. Voevoda A. A., Troshina G. V. Ob otsenke vektora sostoianiia i vektora parametrov v zadache identifikatsii [On the estimation of the state vector and the vector parameters to identify the problem]. Sbornik nauchnykh trudov NGTU, 2014, iss. 4 (78), pp. 53-68. doi: 10.17212/2307-6879-2014-4-53-68.
24. Troshina G. V. Modelirovanie dinamicheskikh ob"ektov v srede Simulink. Ch. 1 [Modeling of dynamic objects in the Simulink environment]. Sbornik nauchnykh trudov NGTU, 2015, pp. 3 (81), pp. 55-68. doi: 10.17212/2307-6879-2015-3-55-68.
25. Troshina G. V. Modelirovanie dinamicheskikh ob"ektov v srede Simulink. Ch. 2 [Modeling of dynamic objects in the Simulink environment]. Sbornik nauchnykh trudov NGTU, 2015, iss. 4 (82), pp. 31-41. doi: 10.17212/2307-6879-2015-4-31-41.
Voevoda Alexander Aleksandrovich — Russia, 630073, Novosibirsk; Novosibirsk State Technical University; Doctor of Technical Sciences, Professor; Professor of the Department of the Automation; [email protected].
Troshina Galina Vasil'evna — Russia, 630073, Novosibirsk; Novosibirsk State Technical University; Candidate of Technical Sciences, Assistant Professor; Assistant Professor of the Department of Computer Engineering; [email protected].
The article submitted to the editors 22.11.2016
INFORMATION ABOUT THE AUTHORS
