Устойчивость в теореме Неймана-Пирсона и ее применения Текст научной статьи по специальности «Математика»

ВЕСТНИК ТОМСКОГО ГОСУДАРСТВЕННОГО УНИВЕРСИТЕТА

2018 Управление, вычислительная техника и информатика № 43

УДК 519.246.5

Б01: 10.17223/19988605/43/8

Г.Ш. Цициашвили

УСТОЙЧИВОСТЬ В ТЕОРЕМЕ НЕЙМАНА-ПИРСОНА И ЕЕ ПРИМЕНЕНИЯ

Рассматривается задача определения состояния ненаблюдаемого альтернирующего процесса по наблюдениям

за пуассоновским точечным потоком, управляемым альтернирующим процессом. Для решения этой задачи

используется лемма Неймана-Пирсона с приближенно заданными распределениями, соответствующими различным состояниям альтернирующего процесса.

Ключевые слова: альтернирующий процесс; случайный точечный поток; лемма Неймана-Пирсона.

В работе [1] рассматривается задача определения состояния ненаблюдаемого альтернирующего процесса по наблюдениям за точечным потоком пуассоновского типа, интенсивность которого меняется в зависимости от состояния альтернирующего процесса. В работе [2] рассматривается пороговый алгоритм, учитывающий старение информации и ошибки измерений моментов наступления событий потока.

При решении данной задачи используются методы выбора статистических гипотез относительно параметра точечного пуассоновского потока при условии, что наблюдения подчиняются не точно параметрическому семейству распределений, а некоторой его аппроксимации.

Поэтому в процедуру поиска байесовского решающего правила необходимо вводить аппроксимации, оценивать получающуюся при этом погрешность и вставлять эти оценки в известные статистические процедуры. В частности, используя лемму Неймана-Пирсона, необходимо вместо оптимального искать е-оптимальное байесовское решающее правило.

В настоящей работе строятся такие оценки в предположении, что время наблюдения достаточно невелико и потому вероятность изменения состояния альтернирующего потока также невелика. Приводится результат вычислительного эксперимента, иллюстрирующего предлагаемый подход.

Идея построения предлагаемых в работе оценок основана на классификации статистических задач, предложенной в монографиях [3, 4] и на идеях применения метрического подхода [5] к построению оценок устойчивости в вероятностных моделях массового обслуживания [6-9], характеризации распределений [10], аппроксимации распределений нормированных сумм независимых случайных величин [11].

1. Оценки устойчивости в теореме Неймана-Пирсона

В дальнейшем нам понадобится следующая версия леммы Неймана-Пирсона. Пусть = - множество результатов измерения, 5(х) - решающее правило, в соответствие с которым

по измерению хеН. принимается решение о выполнении той или иной гипотезы к = \,...,М. Решающее правило 5(х) = у, если х еОу с О, где

т

П- о£4 =0, ],к = \,...,т,] Фк, (1)

/=1

Пусть ру (х) - условная вероятность того, что при выполнении гипотезы у измерение равно х, а

т

д - априорная вероятность выполнения гипотезы / е {1 ... т) Е <7 = 1 Полагаем, что

N

а} (5) = ру (х ё О} ) = 2 Ру (х), а(5) = 2 а у (5).

хеО . /=1

Лемма 1. Предположим, что при любомx efi существует такое j(x) e {1,..m}, что

9j(x)Pj(x)(x)> VkPk(*)> к = \,...,т,кФ j(x). Тогда байесовское решающее правило 5(x), минимизирующее вероятность а(8), определяется равенством j = j(x), x efi.

Доказательство. Вычислим вероятность ошибочного отклонения правильной гипотезы а(8):

а(5)= Z aj (8) =1 - Z 4jPj (fij) = 1 - Z Z 4jPj (x)Ifi (x),

j=1 j=1 xefi j=1 J

(2)

где индикаторная функция .(х)-1, если х еП у, иначе 1п (х) - 0. Из равенства (2) следует, что

fi j (x)

минимизация а(8) эквивалентна максимизации суммы т т Ч Р (х)/п (х) при каждом х еП. В силу

хеП у =1 У

последнего равенства в соотношениях (1) получаем, что байесовское решающее правило подчиняется равенству ] - у(х). Лемма доказана.

-ш—ж- * *

По фиксированным N ,0< N < /V, / е | 1,..., т) определим следующие множества: X(Ы) -{х: х < N}, X(Ы*) -{х: N < х < Щ, Х}(Ы*) - {х: у(х) - у, х < Ы*}, х)елГ) = {х: (х) > Чкрк(х), х<.П*,к = \,...,т,к*Я.

Теорема 1. Предположим, что невозмущенные ру (х) и возмущенные р (х) условные

* *

вероятности при некотором N и при любых х<Ы , / е {1,..., т} удовлетворяют неравенствам

Pi(x) - Р i(x)

< Б,

xeX(N )\X . (N ) xeX(N )

(Р j (x) - PJ (x))

< Б.

(4)

(5)

Тогда байесовское решающее правило 8 удовлетворяет неравенству

а(8) <а(8) + Zq,- _Zt Pj(x) + б.

j=1 xeX (N*)

(6)

Доказательство. В силу неравенств (3), (4) приходим к равенствам Х'-(Ы*)- Х-(Ы*). Действительно, в силу (3) при х< Ж*, Аге{\,...,т}, к Ф]{х), имеем

х)Рах) > ЧкРк(х)

Следовательно, в силу (4)

Чу(х)РУ(х) > Чу(х)Ру(х) " Чу(х)8 + 8 > ЧкРк (х) " Чк8 " Чу(х)8 + 8 > ЧкРк (х). Поэтому справедливы неравенства

а (8 ) <Z qj

j=1 J

xeX (N )\X . (N ) xeX (N )

Р J(x)= Z qj

J j=1 J

xeX (N )\X ■ (N ) xeX (N )

Pi(x) +

+ Z qj

J=1 J

xeX(N )\X . (N ) xeX (N )

(Р j (x) - Pj (x)) < а(8) + Z qj _Z Pj (x) + б.

j=1 xeX (N*)

Формула (6) доказана. Теорема доказана.

m

2. Применение оценок устойчивости к оценке состояния альтернирующего процесса

Рассмотрим стационарный дискретный марковский процесс № г > о, с множеством состояний 1, 2. Интенсивность перехода из состояния 1 в состояние 2 равна У1, интенсивность перехода обратно равна 72. Случайный процесс )(1), I > 0, с вероятностью 31 = 72/(71 +72) равен 1 и с вероятностью 32 = 71 / (71 +72) равен 2. Он разбивает временную полуось г > 0 на полуотрезки О = Т^<1<Т^, <1 <Т2... таким образом, что на полу отрезках [Т0,7]), [Т2, Т3)... процесс у{() принимает значение .у(О) а на полуотрезках \Т^,Т2), [Г3,Г4)... процесс принимает значение

У(ТХ).

Полагаем, что на полуотрезках [Т, Т+), I > 0, заданы пуассоновские потоки точек интенсивности у Тем самым определяется точечный поток Лт на полуинтервале [0, Т).

По числу точек п(Т) потока Лт требуется построить процедуру оценки состояния )(Т) альтернирующего процесса.

Теорема 2. Пусть 8 у = Р(Т < Т / )(0) = у) = 1 - ехр(—7уТ), тогда для любого множества

Z сО, у = 1,2, справедливы следующие соотношения:

Р(п(Т) е Z / )(0) = у, Тх > Т) — 8 < Р(п(Т) е Z / )(Т) = у) <

< Р(п(Т) е Z / )(0) = у, ^ > Т) + 3181 + 3282 . (7)

Доказательство. Действительно,

Р(п(Т) е Z / )(Т) = у) = Р(п(Т) е Z, )(Т) = у) >Р(п(Т) е Z, )(0) = у, Т1> Т) =

3 3т

_ Р(п(Т) е Z / )(0) = у, Т1 > Т)Р()(0) = у, Т1 > Т) =

3Т

_ Р(п(Т) е Z / )(0) = у, Т1 > Т)Р(Т > Т / )(0) = у)Р()(0) = у) =

= Р(п(Т) е Z / )(0) = у, Т1 > Т)Р(Т > Т / )(0) = у) =

= Р(п(Т) е Z / )(0) = у, Т > Т) ехр(—^ Т) = Р(п(Т) е Z / )(0) = у, Т > Т)(1 — ^ ).

Таким образом, доказано, что

Р(п(Т) е Z / )(0) = у Т > Т) — 8 <Р(п(Т) е Z / )(0) =j, Т > Т)(1 — в,) < Р(п(Т) е Z / )(Т) = у). (8)

Аналогично получаем

Р(п(Т) е Z / )(Т) = у) = Р(п(Т) е Z, )(Т) = Т < Р(п(Т) е Z, )(0) = Т, Т1> Т) +

3Т 3у

+РТЦ) = Р(п(Т)еZ/)(0) = у,Т1>Т)(1 — 8у) +2 ^ <Т')(0 =7) =

3у 1=1 3

= Р(п(Т) е Z / )(0) = у, Т1 > Т)(1 — 8у) + 3181 + 3282 . Следовательно, справедливо неравенство

P(n(T) e Z / y(T) = j) < P(n(T) e Z / y(0) = j, Tl> T)(1 - 8;) + № + q^2 <

< P(n(T) e Z / y(0) = j, Ti > T) + mife. (9)

qi8i + q282 л

j,

^j У

Из неравенств (8), (9) получаем неравенство (7).

Следствие 1. Для любых N*, 0<iV* <iV, j = 1, 2, х = 0,1,..., при е = шахтах

7=1,2

Pj (x) = P(n(T) = x / y(0) = j, Ti> T ) = exp(-X jT) ,

x!

Pj (x) = Р(И(Г) = X / ХГ) = j), x = 0,1,..

справедливы неравенства (4), (5).

Доказательство. Для получения неравенств (4), (5) достаточно в неравенстве (7) положить

Z = {x}, Z = (X(N*) \ Xt (N* )) ^ X(N* ), j = i,..., т.

Следствие 2. Предположим, что N = N < да и при j = 1,2 выполнены соотношения

Pj (x) = P(n(T) = x / y(0) = j, Ti> T ) = exp(-X j) ,

x!

^(x) = Р(и(Г) = x / y(T) = 7), x = 0,1. .,N-1,

N-i N ,

Pt (N) = i - X Pj (x), Pj (N) = i - X Pj (x),

x=0 x=0

| Pj (N) - Pj (N)\< e, qj(N)Pj(N) - qkPkiN) > ke.{\,.. .,m}, k Ф j(N). Тогда выполнены соотношение (5) и соотношение (4), принимающее форму

| Pj (х)-р) (х) |< s, х = 0,.. ,,N. (10)

Причем байесовское решающее правило 8 удовлетворяет неравенству

а(5') <а(8) + 8. (11)

Доказательство. Для получения неравенств (4), (5) достаточно в неравенстве (7) положить

Z = {xj, Z = {N,N + 1,..}, j = \,...,m.

Таким образом, можно воспользоваться теоремой 1 для построения оценки погрешности в лемме Неймана-Пирсона применительно к задаче оценки состояния альтернирующего процесса по наблюдениям за точечным потоком пуассоновского типа.

3. Результаты вычислительного эксперимента

Пример 1. Пусть ai = а2 = 0,0i, Т = i, A,i = 2, Л,2 = i, N* = 5, тогда имеем

qi= q2=0,5,8i = 82=0,0i,8 = 0,02, min |qiPi(x)-q2P2(x)|= 0,02,

i< x< N*

P(n(T) > N * /y(0) = i) » 0,0i66, P(n(T) > N /y(0) = 2) » 0,0006. Следовательно, из следствия 2 и теоремы 1 имеем, что вероятность ошибки байесовского решающего правила 8 , основанного на наблюдениях за потоком точек на сравнительно небольшом отрезке времени длины T =i, удовлетворяет неравенству

а(8') < а(8) + 8+ X (qiPi(x) + q2P2(x)) < a(8) + 0,0283.

*

x >N

q

На рис. 1 показаны значения qkpk{j),k -1,2, j - ОД,..позволяющие определить с = 0,02.

Рис. 1. Значения qp (j) отображены сплошной линией, значения q^p^ (j) отображены пунктирной линией,

значения | qpj (j) - q2p2 (j) | отображены точечной линией.

*

Пример 2. Пусть а1 = а2 = 0,01, T = 1, А^ = 2, А2 = 1, N = N = 4, тогда имеем q1 = q2=0,5, e1 = е2=0,01, е = 0,02, min | q1 P^x) -q2P2(x) |= 0,04.

1< x < N *

Следовательно, из следствия 2 и теоремы 1 имеем, что вероятность ошибки байесовского

решающего правила 5 , основанного на наблюдениях за потоком точек на сравнительно небольшом отрезке времени длины T = 1, удовлетворяет неравенству

а(5 ) < а(5) + е = а(5) + 0.02. На рис. 1 показаны значения qkpk(j), к = 1,2, j = 0,.. .,4, позволяющие определить с = 0,02. В приложениях обсуждается задача построения байесовского решающего правила при наличии более двух гипотез. Условия теорем 1, 2 нетрудно распространить и на этот случай.

Заключение

В настоящей работе строится оценка состояния альтернирующего процесса (управляющего интенсивностью пуассоновского потока) в заданный момент времени по наблюдениям за числом точек потока на сравнительно небольшом предшествующем отрезке времени. Поэтому применение оценок устойчивости в лемме Неймана-Пирсона позволяет в качестве предельного для данного числа точек (наряду с нормальным) взять пуассоновское распределение. Это предоставляет дополнительные возможности для проверки гипотез применительно к важной прикладной задаче, рассмотренной в работах [1, 2].

ЛИТЕРАТУРА

1. Горцев А.М., Нежельская Л.А. Оптимизация параметров адаптера при наблюдениях за МС-потоком // Стохастические и

детерминированные модели сложных систем. Новосибирск : Изд-во ВЦ СО АН СССР, 1988. С. 20-32.

2. Горцев А.М., Нежельская Л.А., Шевченко Т.И. Оценивание состояний MC-потока событий при наличии ошибок измерений //

Известия вузов. Физика. 1993. Т. 36, № 12. С. 67-85.

3. Боровков А.А. Математическая статистика. М. : Наука, 1984.

4. Боровков А.А. Математическая статистика. Дополнительные главы. М. : Наука, 1984.

5. Золотарев В.М. Метрические расстояния в пространствах случайных величин и их распределений // Математический сбор-

ник. 1976. Т. 101 (143), № 3 (11). С. 416-454.

6. Золотарев В.М. О непрерывности стохастических последовательностей, порождаемых рекуррентными процедурами // Тео-

рия вероятностей и ее применения. 1975. Т. 20, № 4. С. 834-847.

7. Золотарев В.М. О стохастической непрерывности систем массового обслуживания типа G|G|1 // Теория вероятностей и ее

применения. 1976. Т. 21, № 2. С. 260-279.

8. Золотарев В.М. Количественные оценки свойства непрерывности систем массового обслуживания типа G|G|<» // Теория

вероятностей и ее применения. 1977. Т. 22, № 4. С. 700-711.

9. Цициашвили ГШ. Кусочно-линейные цепи Маркова и исследование их устойчивости // Теория вероятностей и ее приме-

нения. 1975. Т. 20, № 2. С. 345-357.

10. Золотарев В.М. Эффект устойчивости характеризации распределений // Записки научного семинара ЛОМИ. 1976. Т. 61. С. 38-55.

11. Золотарев В.М. Идеальные метрики в проблеме аппроксимации распределений сумм независимых случайных величин // Теория вероятностей и ее применения. 1977. Т. 22, № 3. С. 449-465.

Поступила в редакцию 15 декабря 2017 г.

Tsitsiashvili G.Sh. (2018) STABILITY IN THE NEYMAN-PEARSON THEOREM AND ITS APPLICATIONS. Vestnik Tomskogo gosudarstvennogo universiteta. Upravlenie vychislitelnaja tehnika i informatika [Tomsk State University Journal of Control and Computer Science]. 43. pp. 65-71

DOI: 10.17223/19988605/43/8

This paper considers the problem of determining the state of the unobservable process of alternating observations of the Poisson point flow controlled alternating process. To solve this problem, we use the Lemma of Neyman-Pearson with approximated distributions corresponding to different states of alternating process. This Lemma is proving in the following assumptions.

Theorem 1. Suppose that the unperturbed Pj (x) and perturbed p j (x) conditional probabilities for some N*< N and all

*

x<N , j &{l,...,m} satisfy the inequalities

9j(x)Pj(x)(*)" %Pk00 > e, к = 1,.. .,m, к * j(x), *) - p'.(x)\ < E,

xeX (N )\X . (N ) xeX (N )

(P j(x) " Pj(x))

< 8.

Then the Bayesian decision rule, defined by the unperturbed distributions Pj (x) , but applied to the perturbed distributions p j (x), satisfies the inequality for a probability of mistakenly rejecting the correct hypothesis:

, m

a(8) <a(8) +I9j Zt Pj(x) +

■H xeX (N*)

Theorem 1 is applied to the stationary discrete Markov process y(t), t > 0, with the set of states 1, 2 and the intensity of transition y1, from state 1 to state 2 and the transition intensity y2. back. Random process y(t), t > 0, with the probability q = y2/(y!+y2) equals 1 and with the probability q2 = y/C Yi + y2) e1uals 2 ■ It splits the time axis t > 0 into politiskies o = T0 <t<Tx,Tx <t<T2,..., so that on politiskies [7^,Tl), \T2,T3),... the process y(t) accepts the value y(0) and on politiskies [T1,T2),[T3,T4),... it takes the value y(Tx). We believe that on politiskies [T, T+1),i > 0, we have Poisson points flows with the intensities Xy(T). Thus, we define the point flow Aj. on the half interval [0, T). Using the number n(T) of flow ^ points on this half interval, it is required to build the procedure for the assessment of alternating process y(T) states. Here, as the unperturbed and the perturbed distributions we take

Cl,T)x

Pj(x) = P(n(T) = x/y(0) = j, TX>T) = exp(-X.T)-L—, Pj(x) = P(n(T) = x/y(T) = j), x = 0,1,...

We construct estimates of the proximity of the unperturbed Pj (x) and perturbed p j (x) distributions and derive inequalities for

the similarity measures corresponding to these probability distributions, probabilities to reject the correct hypothesis. Numerical examples of the application of the approximate Bayesian decision rules are built in such a way.

Keyword: alternation process; random point flow, Neumann-Pearson lemma.

TSITSIASHVILI Gurami Shalvovich (Doctor of Physics and Mathematics, Professor, Institute of Applied Mathematics FEB of RAS, Far Eastern Federal University, Russian Federation). E-mail: [email protected]

REFERENCES

1. Gortsev, A.M. & Nezhelskaya, L.A. (1988) Optimizatsiya parametrov adaptera pri nablyudeniyakh za MS-potokom [Optimization

of adapter parameter for observations of M-C flow]. In: Stokhasticheskiye i determinirovannyye modeli slozhnykh sistem [Stochastic and Deterministic models of complex systems]. Novosibirsk: SB RAS. pp. 20-32.

2. Gortsev, A.M., Nezhelskaya, L.A. & Shevchenko, T.I. (1993) Otsenivaniye sostoyaniy MC-potoka sobytiy pri nalichii oshibok

izmereniy [Estimation of the states of an MC-stream of events in the presence of measurement errors]. Izvestiya vuzov. Fizika -Russian Physics Journal. 36(12). pp. 67-85.

3. Borovkov, A.A. (1984)Matematicheskaya statistika [Mathematical statistics]. Moscow: Nauka.

4. Borovkov, A.A. (1984) Matematicheskaya statistika. Dopolnitel'nyye glavy [Mathematical statistics. Additional chapters].

Moscow: Nauka.

5. Zolotarev, V.M. (1976) Metricheskiye rasstoyaniya v prostranstvakh sluchaynykh velichin i ikh raspredeleniy [Metric distances in

spaces of random variables and their distributions]. Matematicheskiy sbornik. 101(143). pp. 416-454.

6. Zolotarev, V.M. (1975) O nepreryvnosti stokhasticheskikh posledovatel'nostey, porozhdayemykh rekurrentnymi protsedurami

[On continuity of stochastic sequences generated by recurrent procedures]. Teoriya veroyatnostey i yeye primeneniya - Theory of Probability and its Applications. 20(4). pp. 834-847.

7. Zolotarev, V.M. (1976) O stokhasticheskoy nepreryvnosti sistem massovogo obsluzhivaniya tipa G|G|1 [On stochastic continuity of

queuing systems of the G|G|1 type]. Teoriya veroyatnostey i yeye primeneniya - Theory of Probability and its Applications. 21(2). pp. 260-279.

8. Zolotarev, V.M. (1977) Kolichestvennyye otsenki svoystva nepreryvnosti sistem massovogo obsluzhivaniya tipa G|G|<»

[Quantitative estimates for the continuity property of queuing systems of the type G|G|<»]. Teoriya veroyatnostey i yeye primeneniya -Theory of Probability and its Applications. 22(4). pp. 700-711.

9. Tsitsiashvili, G.Sh. (1975) Kusochno-lineynyye tsepi Markova i issledovaniye ikh ustoychivosti [Piecewise linear Markov chains

and analysis of their stability]. Teoriya veroyatnostey i yeye primeneniya - Theory of Probability and its Applications. 20(2). pp. 345-357.

10. Zolotarev, V.M. (1976) Effekt ustoychivosti kharakterizatsii raspredeleniy [The stability phenomenon in characterization of distributions]. Zapiski nauchnogo seminara LOMI. 61. pp. 38-55.

11. Zolotarev, V.M. (1977) Ideal'nyye metriki v probleme approksimatsii raspredeleniy summ nezavisimykh sluchaynykh velichin [Ideal metrics in the problem of approximating the distributions of sums of independent random variables]. Teoriya veroyatnostey i yeye primeneniya - Theory of Probability and its Applications. 22(3). pp. 449-465.