ОБЧИСЛЮВАЛЬНІ СИСТЕМИ
УДК 517.925/926
А.С. БЫЧКОВ, Д.А. КЛЮШИН
СЛУЧАЙНОСТЬ И ВОЗМОЖНОСТЬ: СОВРЕМЕННЫЕ ПОДХОДЫ
Анотація. У статті вивчаються сучасні погляди на математичну формалізацію та інтерпретацію невизначеностей. Як два основні підходи використовуються теорія ймовірностей та теорія можливостей. Розглянуто проблеми, які виникають при розв ’язанні прикладних задач, та недоліки і переваги різних підходів.
Ключові слова: теорія можливостей, нечіткий елемент, нечіткий процес, теорія ймовірностей, міра можливості, міра необхідності, продовження міри.
Аннотация. В статье изучаются современные взгляды на математическую формализацию и интерпретацию неопределенностей. В качестве двух основных подходов используются теория вероятностей и теория возможностей. Рассмотрены проблемы, которые возникают при решении прикладных задач, недостатки и преимущества разных подходов.
Ключевые слова: теория возможностей, нечеткий элемент, нечеткий процесс, теория вероятностей, мера возможности, мера необходимости, продолжение меры.
Abstract. The current views on mathematical formalization and interpretation of uncertainties are examined in the paper. The probability theory and the possibility theory are used as two basic approaches. The problems of application tasks solution and the advantages and disadvantages of different approaches are considered.
Keywords: possibility theory, fuzzy element, fuzzy processes, probability theory, possibility measure, necessity measure, extended measure.
1. Введение
Прежде чем исследователь начнет изучать полученные экспериментальные данные, он должен выбрать корректный математический аппарат для их анализа. Если данные носят случайный характер, то для их обработки используются методы математической статистики. Если же данные являются детерминированными или хаотичными, то применение математической статистики может привести к неверным выводам. Поэтому возникает необходимость применять другой подход - теорию возможностей или теорию нечетких множеств. Но как определить, есть ли данные случайными, избегая интуитивных, субъективных и неформальных соображений? Этот вопрос был предметом многих исследований. Довольно полный обзор этих работ был сделан П. Витаньи [1, 2].
Наследуя Витаньи, разделим работы, посвященные понятию случайности, на три категории: случайность как непредсказуемость, случайность как сложность и случайность как типичность.
1.1. Случайность как непредсказуемость
На Международном математическом конгрессе, который прошел в Париже в 1900 году, Д. Гильберт сформулировал 23 знаменитые математические проблемы [3]. В частности, как шестую проблему Д. Гильберт предложил формализовать теорию вероятности как прикладную физическую теорию об источниках случайных событий, т.е. разработать математическую систему, которая бы адекватно описывала соответствующие естественные явления.
Стараясь решить эту проблему, Р. фон Мизес [4] разработал формальную теорию вероятностей, которая должна была согласовать математическую модель и реальные физические явления. В основе этой теории лежало определение случайной последовательности так называемого коллектива. По Р. фон Мизесу, коллективу присущи два свойства:
1) глобальная регулярность, которая заключается в существовании границы последовательности относительных частот, и 2) локальная регулярность, которая выражается в инвариантности относительных частот относительно процедуры допустимого выбора, т.е. выбора подпоследовательности, в которой выбор n -го элемента не зависел бы от его значения.
Определение 1.1 (фон Мизес). Бесконечная бинарная последовательность x1, x2,... является коллективом, если выполняются два условия.
1. Глобальная регулярность. Пусть hn - относительная частота единиц среди первых n членов последовательности. Тогда существует предел lim hn = p, 0 < p < 1.
П®¥
2. Каждая бесконечная подпоследовательность xt,xt ,..., которая получена из последовательности x1, x2,... с помощью допустимого выбора, имеет тот же самый предел p.
Допустимый выбор по фон Мизесу осуществляется так. Пусть M - выборочное пространство, т.е. множество всех возможных результатов некоторого эксперимента, а
A, B с M - непустые и дизъюнктивные множества. Построим из последовательности
x1,x2,... подпоследовательность x[,x'2,..., удаляя все элементы последовательности x1, x2 , ... , которые не принадлежат множествам A и B . Тогда существуют пределы относительных частот единиц, которые принадлежат множествам A и B :
P(A) = lim hn (A),
P (B ) = Hm hn (B),
и вдобавок P (A) P (B ) = P (B) P (A) (это гарантирует корректность правила условных
вероятностей P (A|B) P (B) = P (A U B).
Возражения против теории фон Мизеса сводятся к двум аспектам: 1) она выдвигает слишком суровые предположения относительно относительной частоты и 2) правило допустимого выбора элементов подпоследовательности есть нечетко определенным. Первое возражение апеллирует к факту, который был установлен самим фон Мизесом: коллективы невозможно построить явным образом, поэтому непротиворечивость теории можно установить лишь косвенным способом. Кроме того, на практике все последовательности наблюдений являются конечными, и ничто не может гарантировать, что после определенного номера N в дальнейшем не возникнут осцилляции.
Итак, по мнению критиков теории фон Мизеса, она не может быть применена в реальных, а не умозрительных исследованиях. Второе возражение стало предметом исследований А. Вальда [5] и А. Черча [6]. A. Вальд предложил ограничить возможные правила выбора подпоследовательностей любым фиксированным конечным множеством функций и показал, что в таком случае коллективы существуют. А. Черч уточнил, что это множество должно быть множеством рекурсивных функций. Таким образом, теория получила надлежащую математическую строгость. Данные последовательности получили название случайных последовательностей Мизеса-Вальда-Черча.
В 1939 году против этой теории был выдвинут новый контраргумент - конструкция Вилля [7], которая демонстрировала существование случайных последовательностей Ми-
зеса-Вальда-Черча, в которых предел последовательностей относительных частот равнялся 1/2, но кп > 1 для всех п. Анализ контрпримеров Вилля и других возражений против
теории фон Мизеса был тщательно проведен ван Ламбалгеном [8-11]. В частности, ван Ламбалген выделяет три основных возражения против теории фон Мизеса со стороны М. Фреше [12] и Вилля [7].
1. Теория фон Мизеса слабее теории А.Н. Колмогорова [13, 14], поскольку из нее не вытекает закон повторного логарифма.
2. Коллективы не всегда удовлетворяют все асимптотические свойства, которые вытекают из методов теории меры, и потому не могут служить удовлетворительными моделями для реальных явлений.
3. Формализация фон Мизеса для игровых стратегий с помощью правила допустимого выбора элементов имеет недостатки, поскольку можно изобрести стратегию, которая разрешает игроку выиграть неограниченную сумму.
Ответ на первое возражение, выдвинутое Виллем, сводится к констатации того факта, что теория фон Мизеса имеет сугубо частотный характер, который не сохраняется для операции перехода к пределу в теории меры [8]. Иначе говоря, модель фон Мизеса и модель Колмогорова не являются эквивалентными. Но то, что они разные, нельзя рассматривать как недостаток любой из этих моделей.
Сам А.Н. Колмогоров так оценивал значение подхода, предложенного фон Мизесом (цитируется в обратном переводе с английского): “Эта теория [Колмогорова] оказалась настолько успешной, что проблема поиска базиса для реальных применений результатов математической теории вероятности для многих исследователей отошла на второй план... [тем не менее] основа для применения результатов математической теории вероятности к “реальным явлениям” должна определенным способом зависеть от частотной концепции вероятности, неизбежность которой настойчиво отстаивал фон Мизес” [15].
Второе возражение, которое принадлежит Фреше, можно разделить на две части: 1) коллективы не могут быть удовлетворительными моделями для случайных явлений, поскольку односторонняя сходимость, которая позволяет опровергнуть контраргумент Вил-ля, на практике не наблюдается; 2) коллективы не удовлетворяют асимптотическим законам, которые вытекают из теории меры.
Ван Ламбалген опроверг эти возражения, указав, что на практике наблюдаются лишь конечные последовательности, и коллективы были изобретены именно для того, чтобы описать их свойства, и фон Мизес не ставил себе цели описывать бесконечные случайные явления. Заметим, что это утверждение есть противоречивым, поскольку в аксиомы фон Мизеса входит предел бесконечной последовательности относительных частот.
Вторая часть контраргумента напоминает первый контраргумент Вилля и опровергается аналогично: то, что коллективы не удовлетворяют асимптотическим законам, которые вытекают из теории меры, свидетельствует лишь о принципиальной разности между этими моделями, но не являются их недостатками.
Третье возражение ссылается на существование стратегии, изобретенной Виллем, разрешающей игроку в бесконечном продолжении игры с монетой выиграть бесконечную сумму денег. Иначе говоря, существует коллектив, который описывает игру с монетой, в которой игрок выиграет неограниченную сумму, хотя, по определению, коллективы отрицают такую возможность. Тем не менее, как делает замечание ван Ламбалген, понятие справедливой игры по Виллю и по фон Мизесу отличаются, поэтому этот контраргумент не является справедливым.
1.2. Случайность как сложность
Придя к выводу, что теория фон Мизеса-Вальда-Черча является слишком расплывчатой,
А.Н. Колмогоров в 1963 году усовершенствовал ее, предложив новый класс алгоритмов выбора допустимых последовательностей. В классе последовательностей, случайных по Колмогорову, устойчивость частот наблюдается на всех допустимых по Колмогорову подпоследовательностях. Итак, класс последовательностей, случайных по Колмогорову, является частичным случаем класса случайных последовательностей фон Мизеса-Вальда-Черча.
Но, по мнению В.А. Успенского [16], на сегодняшний день теория фон Мизеса остается неполным отражением интуитивного представления о случайности. Ее основная характерная особенность - настояние на частотной стойкости случайных последовательностей. Вклад А.Н. Колмогорова в разработку теории случайности довольно полно освещен в работе В.Г. Вовка и Г.Р. Шейфера [17].
В.Г. Вовк и Г.Р. Шейфер считают, что работы А.М. Колмогорова по теории случайности основаны на принципе частотной устойчивости фон Мизеса и на принципе Курно [18]. Принцип фон Мизеса утверждает, что в бесконечной последовательности результатов случайных испытаний существует предел относительной частоты результатов, а принцип Курно - что очень маловероятное событие при однократном испытании не состоится. Соответственно, работы А.М. Колмогорова на эту тему можно разделить на две категории: основанные на принципе фон Мизеса (1963-1965) и основанные на принципе Курно (1965-1987).
В статье [15] А.М. Колмогоров сформулировал два основных недостатка теории фон Мизеса.
1. Частотный подход, апеллирующий к понятию предельной частоты, не может иметь практического применения, поскольку в реальных применениях исследователи имеют дело с конечными последовательностями.
2. Частотный подход при большом количестве испытаний нельзя развить сугубо математически.
Как заметили В.Г. Вовк и Г.Р. Шейфер, А.Н. Колмогоров никогда не менял своего мнения о первом недостатке теории фон Мизеса и сосредоточил внимание на преодолении второго. Следует отметить, что первое утверждение слишком суровое, но естественное, если принять во внимание алгоритмическое направление исследований А.Н. Колмогорова.
Действительно, поскольку абсолютно точно оценить предел последовательности по ее первым n -элементам невозможно, кажется, что задача является неразрешимой. Но необходимо учитывать природу реальных использований, в которых возникают такие последовательности. Эти исследования являются статистическими, а элементы последовательности являются результатами испытаний в рамках определенного эксперимента.
Итак, если взять на вооружение соответствующую статистическую парадигму - гипотеза не бывает абсолютно истинной: мы можем лишь утверждать, с определенным уровнем значимости, что если наблюдаемые данные ее не опровергают, то гипотезу о случайном характере наблюдаемых элементов оконченной последовательности следует трактовать как статистическую. Кстати, самое понятие (N, е) - случайности, введенное А.Н.
Колмогоровым, прямо вело к такой теории. По нашему мнению, это разрешает снять возражение против теории фон Мизеса как практически неприемлемой. Но более непрактичным является требование писать программы для машин Тьюринга, чтобы выяснить, есть ли последовательность случайной (по крайней мере, в медико-биологических применениях). Опровержению второго возражения посвящен разд. 2.
В 1965 году А.Н. Колмогоров прекратил работы над усовершенствованием теории фон Мизеса и начал развивать теорию алгоритмической случайности [19-21]. В рамках
этой теории Колмогоров ввел концепцию бернуллиевской последовательности: бинарной последовательности (x1, x2,..., xN), которая состоит из к единиц и N - к нулей, для описания которой нужно не меньше log2 CkN бит информации.
Итак, проблема случайности свелась к выбору определенного способа описания последовательностей. Основным открытием, которое обеспечило успех предложенной теории, стал универсальный метод описания, генерирующее описания, которые являются более короткими или ненамного длиннее, чем описания, созданные с помощью альтернативных методов. Независимо от А.Н. Колмогорова, такие методы были изобретены Р. Соломоновым [22-24] и Г. Чайтиным [25].
Колмогоровская сложность последовательности x = (x1,x2,...,xN), или ее алгоритмическая энтропия, - это длина K (x) ее кратчайшего описания, полученного с помощью универсального метода описания. Если существует дополнительная информация у, то можно ввести понятие условной колмогоровской сложности K (x|y). Тогда бернуллиев-ской по А.Н. Колмогорову называется последовательность, в которой сложность близка к log2 CN, т.е. K (x| N, к) » log2 CN .
Кроме того, А.Н. Колмогоров ввел понятие m -бернуллиевской последовательности (или хаотичной, по терминологии Успенского [16]), которая удовлетворяет условие
K(x\N,к)> log2 CN - m . Если множество A содержит конечное количество элементов
x1,x2,...,xN, то сложность любого его элемента не превышает log2N. Случайным элементом множества A называется элемент x , сложность которого близка к максимуму, т.е. K(x|A) »log2N. Разность log2N - K(x|A) называется дефектом случайности элемента x.
Длительное время в центре внимания А.М Колмогорова и его последователей (Е.А. Асарин [26, 27], А. Шень [28], В.В. Вьюгин [29, 30]) находились конечные последовательности. Их исследования были направлены на последовательное изъятие из рассмотрения статистических моделей, в основе которых лежит понятие вероятности, и замена их моделями, основанными на понятии сложности.
В.Г. Вовк и Г.Р. Шейфер [17] отмечают такие характерные особенности теории сложности, предложенной А. Н. Колмогоровым и его учениками.
1. В ней рассматриваются лишь конечные последовательности и конечные множества конструктивных объектов.
2. Она основана на предположении, что событие, которое имеет очень малую вероятность, не состоится.
Итак, расстраивая теорию сложности, А.Н. Колмогоров отказался от принципа фон Мизеса и положил в ее основу принцип Курно. Следует отметить, что теория сложности до сих пор остается предметом интенсивных теоретических исследований. Так, в 2007 году за серию работ “Об уточнении оценок А.Н. Колмогорова, относящихся к теории случайности" А. А. Мучнику и А.Л. Семенову [31] была присуждена Премия имени А.Н. Колмогорова. В этих роботах были получены важные результаты в области комбинаторной теории вероятностей и теории частотных тестов случайности. А. А. Мучник и А. Л. Семенов доказали, что нижняя оценка А. Н. Колмогорова, которая характеризует максимальное количество допустимых правил выбора, для которого гарантированно существует датчик случайных чисел, есть точной по порядку и даже асимптотически точной. Эту задачу А.Н. Колмогоров поставил еще в 1963 году, когда работа на теорией сложности только началась.
Оригинальный подход к оценке сложности конечных последовательностей нулей и единиц был недавно предложен В.И. Арнольдом [32]. Ценность этой работы заключается в том, что в ней использованы идеи из разных областей: вычислительной математики, топо-
логии, теории графов, алгебры. Не считая, что полного решения задачи в работе не получено, объединение методов разных областей математики кажется наиболее плодотворным и перспективным подходом.
1.3. Случайность как типичность
Попытки распространить теорию колмогоровской сложности на бесконечные последовательности натолкнулись на проблему осцилляции сложности.
Рассмотрим фиксированную конечную бинарную последовательность (х1,х2,...,хп).
Выполняются ли неравенства К (х1, х2,..., хт )< К (х1, х2,..., хп),
К (х1, х2,..., хт|т)< К (х1, х2,..., хп\п) для всех неконечных бинарных последовательностей х
и всех т < п ? Как указано в работе Витаньи [1], ответы на оба вопроса являются отрицательными.
А.Н. Колмогоров предлагал считать бесконечную бинарную последовательность случайной, если существует константа с, такая, что для всех п энтропия начального отрезка последовательности превышает п - с .
Определение 1.2 (А.Н. Колмогоров). Бесконечная бинарная последовательность х1, х2 , ... , хп , ... называется случайной, если для произвольного натурального числа п существует константа с, которая удовлетворяет неравенство К (х1, х2,..., хп) > п - с .
Тем не менее, оказалось, что таких последовательностей не существует. Как указывает Витаньи [1], даже для последовательностей высокой сложности, которые удовлетворяют неравенство К(х1,х2,...,хп )> п- 1о§2 п-21о§21о§2 п при всех п, величина
п - К (х1, х2,..., хп)
----------------- колеблется между 0 и 1.
1о§2 п
Эта проблема была разрешена в 1966 г., когда П. Мартин-Льоф [33] пришел к выводу, что дефект случайности элемента конечного множества можно считать универсальным статистическим тестом, и распространил его на неконечные последовательности, применив конструктивную теорию меры. При этом П. Мартин-Льоф исходил из того, что случайный объект есть типичным, т.е. принадлежит подавляющему большинству. Определение П. Мартин-Льофа выглядит так.
Определение 1.3 (П. Мартин-Льоф). Бесконечная бинарная последовательность х1, х2,..., хп,... называется случайной по равномерной мере, если для произвольного натурального числа п существует константа с , которая удовлетворяет неравенство К (х1, х2,..., хп) > п - с .
Равномерная мера множества последовательностей х1,х2,...,хп,..., для которых существуют константа с и бесконечно много чисел п, таких, что К (х1, х2,..., хп )> п - с, равняется единице. Итак, равномерная мера множества случайных последовательностей, которые не удовлетворяют условию определения 1.3, равняется нулю.
Независимо от П. Мартина-Льофа, над проблемой бесконечных бинарных случайных последовательностей работали К. Шнорр [34] и Л. Левин [35], которые сделали достоянием гласности результаты своих исследований почти одновременно. Они показали, что бесконечная бинарная последовательность случайная по П. Мартину-Льофу тогда и лишь тогда, когда дефект случайности ее начальных отрезков является ограниченной величиной, т.е. \КМ(х1, х2,...,хп)-п| = О(1), где КМ(х1,х2,...,хп) - монотонная энтропия.
Очевидно, что последовательность, случайная по П. Мартину-Льофу, случайная и по Мизесу-Вальду-Черчу. С другой стороны, как демонстрирует конструкция Вальда, существуют коллективы Мизеса-Вальда-Черча, в которых относительная частота единицы стремится к 1/2 и вдобавок К (х1, х2,..., хп ) = О (/ (п) 1о§2 п) для любой неограниченной, неубывающей тотально рекурсивной функции /. Такие последовательности не удовлетворяют условиям определения П. Мартина-Льофа.
Следует заметить, что подход П. Мартина-Льофа не является единым возможным способом определения случайности бесконечных бинарных последовательностей. В частности, этой проблеме были посвящены работы А.Н. Колмогорова [15] и Д. Лавленда [36], в которых было предложено правило допустимого выбора бесконечной подпоследовательности. Последовательности, которые удовлетворяли этому правилу, называются случайными по Колмогорову-Лавленду.
Они являются частью множества последовательностей, случайных по Мизесу-Вальду-Черчу. Вдобавок, как показал Д. Лавленд [36], эти классы не совпадают. Вопрос, являются ли последовательности, случайные по П. Мартину-Льофу, частью класса последовательностей, случайных по Колмогорову-Лавленду, до сих пор остается открытым.
В 1989 г. А. Шень [37] привел пример последовательности, которая случайная по
A.Н. Колмогорову, но не по П. Мартину-Льофу. Итак, как указал П. Витаньи [1], проблема удовлетворительного определения бесконечных последовательностей, случайных по П. Мартину-Льофу в виде, предложенном фон Мизесом, еще не разрешима. Среди работ, выполненных в этом направлении, следует вспомнить также статьи А.Н. Колмогорова,
B.А. Успенского, А.Л. Семенова и А.Х. Шеня [38, 39], а также книгу В.А. Успенского [40].
2. Основные понятия структурной модели
Как указал А.Н. Колмогоров в работе [15], для решения практических задач необходимо формализовать частотную концепцию вероятности. Учитывая это, опишем структурную модель эмпирической теории вероятностей [41], т.е. той части теории вероятностей, которая используется в математической статистике, а также в сопредельных природоведческих и общественных науках.
Сначала рассмотрим неформальное описание основных понятий, в состав которых входят случайное испытание, случайный эксперимент, случайное событие, а также вероятность случайного события.
Начнем описание с понятия случайного испытания, которое занимает доминирующее положение среди других основных понятий, поскольку без случайного испытания невозможно точно определить вероятностные характеристики случайных событий и величин, действия на ними и вообще математическое исследование стохастических явлений.
Под испытанием Т будем понимать любое действие Б, которое осуществляется над системой £ и вызывает в ней возникновение некоторой соответствующей реакции Я .
Как правило, само испытание Т отождествляется с действием Б . Если в результате повторения испытания Т можно точно предусмотреть реакцию Я системы £ к проведению (повторению) испытания Т, то такое испытание называется детерминированным; в противном случае, когда реакцию системы невозможно определить заранее, до проведения испытания, мы будем говорить о недетерминированном испытании. Недетерминированные испытания разделяются на два класса: случайные и неслучайные. Для того чтобы различить эти два класса, надо сначала ввести некоторый математический формализм.
На множестве действий т, которые поступают в систему £, на множестве а состояний системы и на множестве Ж реакций системы введем расстояние между их элементами (действиями, состояниями и реакциями). Таким образом, множества т, а и Ж превращаются в метрические пространства. Испытание Т является функцией, которая ка-
ждому действию и состоянию системы ставит в соответствие реакцию системы Т . Если эта функция есть непрерывной, испытание считается детерминиро-
ванным, если же эта функция есть разрывной, испытание считается недетерминированным.
Рассмотрим испытание Т, которое имеет два следствия: А и А . Введем величину (1, если при к - м повторении испытания Т происходит событие А,
Хк =
[0, в противном случае.
Числовая последовательность х1, х2,..., которая состоит из нулей и единиц, называ-бернуллиевской последовательностью порядка р, 0 < р < 1, если
ется
1
limh (T, A) = lim — V x, = p, где hn (T, A) - частота событий A при n повторении испы-
n®¥ n®¥ n k=i
тания T.
Для математического определения случайного испытания недостаточно знать результаты лишь одной серии испытаний X = {Xj,x2,...} . Для этого необходимо знать последовательность результатов серий испытания Xj,X2,..., которые удобно расположить в виде бесконечной матрицы
Q(T ):
х
її
х,
21
х
n1
х
х
х
Л
V...............У
которую мы будем называть характеристической матрицей испытания Т. Пусть Хі =( хп, хі2,..., хіп,...) - это строки, а X* = ( х1}., х2}.,..., хп].,...) - столбики характеристической
матрицы 0(Т).
Неважно заметить, что каждая строка Хп и каждый столбик X* матрицы 0(Т) порождают некоторые действительные числа ап и а*п из отрезка [0,1]. Действительно, положим ап = 0, хп1 хп 2... хпп... и а* = 0, х1пх2п ...хпп... и будем рассматривать эти выражения как бинарные дроби. Обозначим через М и М* множества чисел ап и а* соответственно.
Определение 2.1. Недетерминированное испытание Т называется случайным, если выполняются такие условия:
1) все строки Хп и столбцы Х*п (п = 1,2,...) характеристической матрицы 0(Т)
есть бернуллиевскими последовательностями одного и того же порядка р е[0,1];
2) множества чисел М и М*, рожденные строками и столбцами характеристической матрицы 0(Т), соответственно, есть всюду плотными на отрезке [0,1].
Определение 2.2. Случайным экспериментом Е будем называть бесконечную серию повторений случайного испытания Т .
Определение 2.3. Случайным событием (Е, Я) будем называть результат Я случайного испытания Т, которое порождает случайный эксперимент Е.
Замечание 2.1. Результат Я может быть или следствием А , или следствием А.
n
Определение 2.4. Вероятностью р(Е,А) случайного события (Е,А) будем назы-
вать порядок р е [0,1] бернуллиевской последовательности, которая состоит из результатов случайного испытания Т, порождающего случайный эксперимент Е.
Замечание 2.2. Подчеркнем, что понятие случайного события и его вероятности можно определить лишь при условии реализации случайного эксперимента Е, а не случайного испытания Т , поскольку для этого нужна бесконечная серия повторений испытания Т .
Замечание 3. На практике анализ случайности осуществляется на конечных матрицах. Для этого можно воспользоваться таким критерием: испытание Т считается случайным:
1) если все строки Хг. и столбцы X* (/ = 1,2,...п) усеченной характеристической матрицы 0п (Т) есть отрезками бернуллиевских последовательностей одного и того же порядка р е [0,1];
2) если для произвольного е > 0 существует такое число п, что множества чисел Мп и М*, рожденные строками и столбцами усеченной характеристической матрицы
Приведенное высшее определение случайного испытания Т , множество элементарных следствий которого состоит из двух событий А и А, нетрудно обобщить для случайных испытаний с произвольным множеством элементарных следствий. Пусть А - некоторое следствие испытания Т. Обозначим через ТА недетерминированное испытание с двумя элементарными следствиями А и А .
Определение 2.5. Будем называть испытание ТА сужением испытания Т на события А и А .
Определение 2.6. Недетерминированное испытание Т называется случайным, если любое его сужение на произвольные события А и А является случайным испытанием.
Определение 2.7. Будем называть эксперимент псевдослучайным, если по крайней мере одно из множеств М та М*, что порождаются строками и столбиками соответствующей характеристической матрицы, содержит конечное количество разных элементов.
В частности, в работе [41] доказано, что вероятность того, что в схеме Бернулли множества М и М* , образованные строками и столбцами характеристической матрицы 0(Т), есть всюду плотными, равняется единице, поэтому классическая схема Бернулли
является случайным экспериментом в понимании структурной теории случайных экспериментов.
3. Возможность
Стохастический подход к описанию неточности задания математической модели явления или системы является самым распространенным. На множестве параметров задается вероятностное распределение, которое интерпретируется таким образом: вероятность того или другого события равняется пределу частоты ее появления в бесконечной серии последовательных независимых испытаний. Поэтому для адекватного применения
х.
пп у
образуют е -сеть на отрезке [0,1].
стохастических принципов к моделированию необходимо, чтобы величина, которая наблюдается (макроскопический параметр), была результатом усреднения независимых случайных величин.
Такая схема хорошо работает в равновесной статистической физике, где наблюдаемые макроскопические величины (плотность, температура, давление) являются результатами усреднения функций от переменных большого количества частиц. Однако, если речь идет о моделировании уникальных явлений, об описании экспериментов, которые не повторяются, о результатах, которые могут реализоваться один раз, или о принятии решения в данной конкретной ситуации, которая вообще может никогда больше не реализоваться, то описывать такие события в терминах вероятности, связанной с их частотой в серии независимых испытаний, становится невозможным.
Основные трудности состоят в формализации субъективности человеческого мышления и в связанной с этим неопределенности по восприятию окружающего мира. В [42] приводятся такие источники неопределенности:
• неточность измерения;
• случайность реализации;
• нечеткость описания.
М. Гупта в [43] классифицирует неопределенность как возникающую из вероятностного обращения физической системы или связанную с нечеткостью суждений и восприятия. Д. Дюбуа и А. Прад в [44] связывают нечеткость с неопределенностью разбивки пространства элементарных испытаний и нечеткостью квалификаторов естественного языка (типа приблизительно, очень и т.п.). Таким образом, современное представление о неопределенностях не сводится лишь к случайности. Можно сказать, что "каждому нечеткому событию отвечает совокупность целиком определенных событий (не обязательно случайных), но выяснить, которая из них происходит, мы не можем".
3.1. Теория возможностей
Теория возможностей предназначена для математического описания неопределенности в ситуациях, когда такая неопределенность связана с неполнотой доступной информации или с невозможностью ее получить.
Несмотря на то, что единого общепризнанного подхода к построению теории возможностей сейчас не существует [44-47], большинство имеющихся вариантов теории возможностей, предложенных разными исследователями, имеют ряд общих черт. Это позволяет во многих случаях говорить о теориях возможностей, не конкретизируя вариант их построения.
Большая часть вариантов построения теории возможностей основана на понятиях меры возможности (обозначается Р) и меры необходимости (обозначается N), определенных на множестве событий. Эти меры представляют имеющуюся информацию о ситуации. Событие отвечает варианту (результату) рассмотренной ситуации, а меры ставят в соответствие событию число (уровень возможности и необходимости) в отрезке [0,1] с определенными свойствами.
Для меры возможности должно выполняться соотношение Р (А и В) = тах( Р( А), Р( В)), где А и В является событием “ А или В ”, а для меры необходимости должно выполняться соотношение N (А п В) = тт^ (А), N (В)), где А п В является событием “ А и В ”.
Обычно полагают, что уровень необходимости п события “ А ” связан с уровнем возможности р события “не (выполняется) А ” (т.е. —А ) соотношением п = 1 -р (условие
согласования) и что Р(0) = 0, Р(О) = 1, где (О - универсальное событие (условие нормировки).
Уровням возможности можно дать разные интерпретации (например, как уровню принадлежности элементарных событий некоторому нечеткому множеству, как частичный случай меры правдоподобия в теории Демпстера-Шафера [48], как верхняя оценка для вероятностной меры, но в общем случае событие, которое имеет больший уровень возможности, можно считать более правдоподобным. Формальные построения, которые выполняются в теории возможностей, остаются справедливыми независимо от интерпретации.
Рассмотрим и сравним несколько вариантов построения теории возможностей.
Первыми ввели понятие меры возможностей М. Сугено [47], Л. Загде [49]. В дальнейшем теория возможностей получила свое развитие во многих работах.
Из них следует отметить [50-53]. Предложенный авторами подход обобщает известные работы и дает строго обоснованный математический аппарат.
Рассмотрим некоторые определения, которые являются общими в определенном смысле для разных вариантов теории возможностей [53].
Определение 3.1.1. Субъективной шкалой L=([0,1], <,+,о) будем называть отрезок [0,1] с упорядоченностью, которая определяется классическим неравенством <, операцией суммы “+” и операцией умножения “ о ”.
Определение 3.2.2. Суммой двух элементов а и b с L будем называть функцию
А
максимума этих элементов, т.е. a+b=max(a,b) .
То есть под аддитивностью будем понимать операцию max.
Определение 3.3.3. Произведением двух элементов а и b с L будем называть
А
функцию минимума этих элементов, т.е. aob=min(a,b) .
То есть под мультипликативностью будем понимать операцию min.
Рассмотрим некоторое пространство X. Любое подмножество A с X -совокупность элементов с X - будем называть событием. Вместе с пространством X рассмотрим также алгебру событий A. Естественно, возникает вопрос о количественном описании событий. Введем оценку «возможность».
Определение 3.4.4. Функцию P: A ®L будем называть мерой возможности, если
1. P(A) >0 для VAe A.
2. P(A) - счетно-аддитивная, т.е. для {Ai}°=1, A. eA такого, что ^ A eA ,
i=i
выполняется
P(l¥-A)=Ё P(A )=supP(4).
г=1 г'=1,‘
3. Р(Х) = 1.
В [50-52, 54] рассматривается продолжение меры возможности с алгебры А на булеан. Эта задача решается с помощью построения продолжения меры возможности как
Р’( е ¡11=., Р{Е¡-
В [50, 51] построена модель нечеткого эксперимента с двумя мерами {X, А, Р, N} и предложен подход к переходу к модели {X, Ь(Х), Р *, Ж*}, где меры Р*, Ж* заданы на бу-леане. Доказана корректность такого перехода. Также в этой статье вводится новая операция отрицания мер возможности и необходимости и доказано их продолжение на булеан.
Таким образом, построена (X, A,P*, N*) модель пространства состояний с двумя мерами, которую называют (Р^-моделью.
Следует отметить, что меры продлеваются на булеан неоднозначно. Более того, если на алгебре множеств для мер необходимости и возможности выполняется
соотношение согласованности P(A) = 1 - N(A), то при их продолжении это свойство не всегда сохраняется. В работе [52] рассматривается вопрос согласованного продолжения мер на булеан. Автором доказаны теоремы, которые задают условия их продолжения с сохранением условия согласованности. Таким образом, построена основа корректного использования теории возможностей для решения теоретических и прикладных задач.
В [54] проведены обобщения работы [51] о продолжении мер возможности и необходимости, которые заданы на (РК)-пространстве. Доказано существование согласованного продолжения мер на минимальную s -алгебру по полной аддитивности.
В [55, 56] построено расширение теории возможностей и введено понятие персептивного нечеткого элемента и персептивного нечеткого множества. Показано, что персептивное множество можно представить как совокупность персептивних элементов и приведены основные операции над персептивными множествами. Показано, что предложенная модель теории возможностей более адекватно описывает естественные явления, чем существующие модели.
Основной проблемой нечеткого моделирования есть описание нечеткой неопределенной динамики. Авторами [57] на базе теории возможности введены новый интеграл и построено нечеткое дифференциальное уравнение, которое по свойствам похоже на интеграл Ито. Доказаны теоремы о существовании, единственности и продолжении решений.
Кроме теории возможностей, средством для описания неопределенности, связанной с неполнотой доступной информации, также предоставляется теория мер достоверности (англ. Credibility measure theory) [58].
Построение данной теории напоминает построение теории возможностей, но вместо двух мер на множестве событий определяется одна мера достоверности, что обозначается как Cr . Данная мера определена на множестве событий и принимает числовые значения в отрезке [0,1]. Для нее выполняются такие соотношения:
1) Cr (A (B )) = max (Cr (A), Cr (B)), если Cr (A)< 1, Cr (B )< 1;
2) Cr (A) + Cr (—A) = 1;
3) Cr (A)< Cr (B), если A подмножество B ;
4) Cr (X) = 1, где X - универсальное событие.
Видим, что свойство 1 не аддитивно. Поэтому теория с такой аксиоматикой имеет ряд ограничений при решении практических задач.
Например, рассмотрим событие A, для которого Cr (A) > 1/2. Тогда, в общем случае, Cr(A и B) нельзя определить однозначно для произвольного события B . Все, что можно сделать, дать нижнюю оценку Cr (A и B) > 1/2. В случае, если Cr (A)<1/2, то нельзя определить Cr(A n B) однозначно.
Это происходит потому, что мера Cr одним числом (в терминах теории возможностей) задает сразу и возможность, и необходимость события A (как бы смешивая их). Однако, используя предложенный в [51] вариант теории возможностей, можно получить точные значения мер возможности и необходимости. Но авторы [58] этого не используют.
Покажем, как можно получить меры возможности и необходимости из Сг. Для этого определим функции Р и N на множестве событий таким образом:
1. Р(А) = 2Сг (А), если Сг(А) < 1/ 2.
2. Р(А) = 1, если Сг (А) > 1/2.
3. N (А) = 0, если Сг (А) < 1/2.
4. N(А) = 2Сг(А) -1, если Сг(А) > 1/2.
Тогда легко проверить, что Р является мерой возможности, а N - мерой необходимости ( Р и N связаны соотношениями Р(( А) = 1 - N (А)).
В обратном направлении, по мерам Р и N, можно построить меру Сг. Для этого необходимо отметить, что, хотя в теории возможностей каждое событие А характеризуется двумя числами Р(А) и необходимости N(А), но в этой паре (для нормированных согласованных мер) возможны лишь такие соотношения:
1. Р(А) < 1, N(А) = 0.
2. Р( А) = 1, N (А) = 0.
3. Р(А) = 1,N(А) > 0.
Каждой допустимой паре (Р(А), N(А)) можно поставить в соответствие число х с [0,1] таким образом:
1. х <1/2 отвечает паре (2х, 0).
2. х = 1/2 отвечает паре (1, 0) .
3. х >1/2 отвечает паре (1,2х-1) .
Обозначив данное число х для каждого события А как Сг (А), легко видеть, что так определенная функция Сг является мерой достоверности, для которой выполняются соответствующие аксиомы. Таким образом, теория возможностей и теория мер достоверности являются формально эквивалентными теориями. Однако в теории возможностей есть важное преимущество по сравнению с теорией мер достоверности. А именно, меры возможности и необходимости имеют удобные композиционные свойства: значение Р(А и В) можно вычислить, зная Р(А) и Р(В), а значение N(А и В) можно вычислить, зная N (А) и N (В). Более того, в [52] получены условия согласованного продолжения мер возможности и необходимости на булеан и доказана полная аддитивность на булеане. Причем, получено это условие тогда, когда это продолжение единственно.
Несмотря на то, что число Сг (А) в теории мер достоверности содержит некоторую информацию о событии, правильно интерпретировать ее сложно. Более того, зная Сг (А) и Сг (В), значение Сг (А и В) и Сг (А п В) можно вычислить не во всех случаях. Это может привести к трудностям в теоретических построениях и при практическом применении теории, которые можно избегнуть путем перехода к теории возможностей.
3.2. Условная возможность
Теоретически базовые понятия теории возможности (возможность и необходимость), достаточные для моделирования ситуаций с неполной информацией. Однако на практике описание известных сведений о ситуациях с неполной информацией часто оказывается наиболее простым и естественным при использовании интуитивных понятий условной возможности и необходимости.
Например, если ситуация представляется в виде ориентированного графа состояний, в котором узлам отвечают возможные состояния объекта моделирования, а дугам отвечают переходы между состояниями, об условиях осуществления которых нет
полной информации, то естественно назначить каждой дуге А ® В условную возможность, которая означает возможность перехода системы в состояние В при условии, что она находится в состоянии А . Полученная модель подобна марковской цепи и используется при построении и исследовании нечетких гибридных автоматов. Таким образом, формализация интуитивного понятия условной возможности (необходимости) актуальна для применения.
Исследователи предложили несколько неэквивалентных подходов к решению этой задачи [59-61, 44]. В связи с этим, сейчас в теории возможностей нет единого общепризнанного формального понятия условной возможности, а также общепризнанных границ практической применимости известных определений условной возможности [62]. Однако можно считать признанным, что выбор определения условной возможности во многом определяется тем, какое содержание предоставляется значениям уровней возможности (необходимости).
Если какое-нибудь физическое содержание представляется лишь отношением порядка между уровнями возможности событий (и, соответственно, необходимости), то теория возможностей выступает как качественная теория (качественная теория возможности [62]). В этом случае условная возможность должна определяться исключительно на основе отношения порядка на безусловных возможностях событий. Как правило, тогда условная возможность сама является качественной (содержание представляется отношением порядка между условными возможностями).
Если же содержание представляется конкретным численным значением возможности (количественная теория возможности [62]), то условная возможность должна определяться на основе количественных значений (безусловных) возможностей событий. Как правило, тогда условная возможность сама является количественной.
Рассмотрим некоторые известные определения условной возможности.
1. Данное определение [59] считается первым опубликованным определением условной возможности.
Возможность Р(ВА) события В при условии события А (предполагается, что
А п В Ф 0 так, что события не взаимоисключающие) определяется как произвольное решение уравнения
Р( А п В) = ш1п( Р( ВА), Р( А)). (1)
Данное определение имеет смысл в качественной теории возможностей, но неединственность решения делает трудной интерпретацию отношений порядка между условными возможностями.
2. Определение [44] устраняет проблему неединственности решения в определении Е. Хисдала с помощью использования принципа наименьшей информации (в ситуации с неопределенным значением возможности нужно выбирать наименьшую известную верхнюю оценку возможности, так как выбор меньшего значения возможности будет неявно допускать больше информации о ситуациях, чем о ней на самом деле известно).
В определении предполагается, что Р(А) Ф 0 и В Ф 0 . Возможность В при условии А определяется как наибольшее (по значению) решение уравнения (1):
Р( ВА) = 1, Р( А п В) = Р( А),
Р(ВА) = Р(А п В), Р(А п В) < Р(А).
Данное определение имеет смысл в отношении качественной теории возможности. Однако у него есть и недостаток: если множество элементарных событий бесконечное, при фиксированном А условная возможность Р(. А) может не быть мерой возможности [63].
Это может привести к трудностям с интерпретацией условной возможности в случаях с бесконечным множеством элементарных событий.
3. Определение [61] исправляет недостаток определения Д. Дюбуа и Г. Прада и приводит к условной возможности P(.A), что является мерой возможности при фиксированном A . В определении предполагается, что P(A) ф 0. По форме оно совпадает с определением условной вероятности:
P(BA) = P( A n B)/P( A).
Данное определение имеет смысл в количественной теории возможности и может быть использовано для проверки гипотез [61, 62], но оно не может быть использованным в качественной теории возможностей.
Существуют также другие определения условной возможности в количественной теории возможности [62] вида
P(BA) = f (P(A), P(—A), P(B), P(-B), P(A n B)) ,
где f - некоторая фиксированная (числовая) функция. Они могут иметь свои преимущества, однако они не применимы в качественной теории возможности.
4. Выводы
В статье рассмотрены разные подходы к описанию неопределенностей. Приведены их преимущества и недостатки. Детально описаны проблемы, связанные с продолжением мер возможности и необходимости в теории возможностей. Авторами подчеркивается, что при решении задач, имеющих статистический характер, наиболее часто успешно используется теория вероятностей, несмотря на различные подходы в ее определении и интерпретации.
В статье также обращается внимание то, что определение условной возможности тесно связано с ее интерпретацией. Можно дать общую рекомендацию, что для моделирования и исследования процессов, явлений, не имеющих статистического характера, следует использовать теорию возможностей, а выбор определения условной возможности делать с учетом предвиденной интерпретации возможности и специфики решаемой задачи.
СПИСОК ЛИТЕРАТУРЫ
1. Vitanyi P.M.B. Randomness / P.M.B. Vitanyi // Matematica, Logica, Informatica. -1994. - Vol. 12 of the Storia del XX Secolo, to be published by the Instituto della Enciclopedia Italiana. - Р. 627 - 642.
2. Li L. An Introduction to Kolmogorov Complexity and its Applications / L. Li, P.M.B.Vitányi. - New York: Springer-Verlag, Second Edition, 1997. - 637 р.
3. Hilbert D. Lecture delivered before the International Congress of Mathematicians at Paris in 1900 / D. Hilbert // Bulletin of the American Mathematical Society. - 2000. - Vol. 37, N 4. - P. 407 - 436.
4. Mises von R. Grundlagen der Wahrscheinlichkeitsrechung / R. von Mises // Math. Zeitschrift. - 1919. -N 5. - P. 52 - 99.
5. Wald A. Die Widerspruchsfreiheit des Kollektivbegriffes der Wahrscheinkeitscrechnung / A. Wald // Ergebnisse eines math. Koll. - 1936. - N 8. - P. 38 - 72.
6. Church A. On the concept of a random sequence / A. Church // Bull. AMS. - 1940. - N 46. - P. 130 -135.
7. Ville J. Etúde critique de la notion de collectif / Ville J. - Gauthiers-Villars, 1939. - 144 p.
8. Lambalgen van M. Randomness and foundations of probability: von Mises’s axiomatisation of random sequences / M. van Lambalgen.; T. Ferguson et al (eds.) // Probability, Statistics and Game Theory: papers in honour of David Blackwell. Institute for Mathematical Statistics Monograph Series. - 1996. - Vol. 20.
- P.347 - 367
9. Lambalgen van M. Von Mises’ definition of random sequences reconsidered / M. van Lambalgen // J. Symb. Logic. - 1987. - N 52. - P. 725 - 755.
10. Lambalgen van M. The axiomatisation of randomness / M. van Lambalgen // J. Symb. Logic. - 1987. N 55. - P. 1143 - 1167.
11. Lambalgen van M. Independence, randomness and the axiom of choice / M. van Lambalgen // J. Symb. Logic. - 1992. - N 57. - P. 1274 - 1304.
12. Fréchet M. Exposé et discussion de quelques recherches récentes sur les fondéments du calcul des probabilitiés / M. Fréchet // Colloque consacré au calsul des probabilités. Proc. of the conference held at the Université de Genéve in 1937. - Genéve. - 1937. - P. 22 - 55.
13. Kolmogorov A.N. Grundbegriffe der Wahrscheinlichkeitsrechnung / A.N. Kolmogorov // Ergebnisse der Mathematic und ihrer Grenzgebiete. - Berlin: J. Springer, 1933. - 62 p.
14. Колмогоров А.Н. Основные понятия теории вероятностей / Колмогоров А.Н. - М.: Наука, 1974.
- 120 с.
15. Kolmogorov A.N. On tables of random numbers / A.N. Kolmogorov // Sankhya. Indian J. Statist. Ser. A. - 1963. - Vol. 25, N 4 - P. 369 - 376; Колмогоров А.Н. О таблицах случайных чисел / А.Н. Колмогоров // Семиотика и информатика. - М.: ВИНИТИ, 1981. - Вып. 18. - С. 3 - 13.
16. Успенский В.А. Четыре алгоритмических лица случайности / В.А. Успенский // Матем. просвещение. Сер. 3. - 2006. - Вып. 10. - С. 71 - 108.
17. Вовк В.Г. Колмогорова в основания теории вероятностей / В.Г. Вовк, Г.Р. Шейфер, А.Н. Вклад // Проблемы передачи информации - 2003. - Т. 39, Вып. 1. - С. 24 - 35.
18. Mises von R. Wahrscheinlichkeitsrechnung und ihre Adwendung in der Statistik und theoretischen Physik / R. von Mises. - Leipzig, Vienna: F. Deuticke, 1931. - 61 р.
19. Колмогоров А.Н. К логическим основам теории информации и теории вероятности / А.Н. Колмогоров // Проблемы передачи информации. - 1969. - Т. 5, № 3. - С. 3 - 7.
20. Колмогоров А.Н. Комбинаторные основания теории информации и исчисления вероятностей /
A.Н. Колмогоров // Успехи математических наук. - 1983. - Т. 38, № 4. - С. 27 - 36.
21. Kolmogorov A.N. On logical foundation of probability theory / A.N. Kolmogorov // Probability Theory and Mathematical Statistics. Lecture Notes in Mathematics. - Berlin - Heidelberg - New York: Springer-Verlag, 1983. - Vol. 1021. - P. 1 - 5.
22. Solomonoff R.J. A preliminary report on a general theory of inductive inference / R.J. Solomonoff . -Technical Report ZTB-138. Zator Company. - Cambridge, MA, USA, 1960. - November. - 26 р.
23. Solomonoff R.J. A formal theory of inductive inference. Part I / R.J. Solomonoff // Inform. and Control. - 1964. - Vol. 7, N 1. - P. 1 - 22.
24. Solomonoff R.J. A formal theory of inductive inference. Part I / R.J. Solomonoff // Inform. and Control. - 1964. - Vol. 7, N 2. - P. 224 - 254.
25. Chaitin G. On the length of programs for computing finite binary sequences: statistical considerations / G. Chaitin // J. Assoc. Comput. Mach. - 1969. - N 16. - P. 145 - 159.
26. Асарин Е.А. О некоторых свойствах Л-случайных по Колмогорову конечных последовательностей / Е.А. Асарин // Теория вероятностей и ее применения. - 1987. - Т. 32, № 3. -
С. 556 - 558.
27. Асарин Е.А. О некоторых свойствах случайных в алгоритмическом смысле конечных объектов / Е.А. Асарин // Докл. АН СССР. - 1987. - Т. 295, № 4. - С. 782 - 785.
28. Шень А. Понятие (a, Ь)-стохастичности по Колмогорову и его свойства / A. Шень // Докл. АН
СССР. - 1983. - Т. 271, № 6. - С. 1337 - 1349.
29. Вьюгин В.В. О нестохастических объектах / В.В. Вьюгин // Проблемы передачи информации. -1985. - Т. 21, № 2. - С. 3 - 9.
30. Вьюгин В.В. О дефекте случайности конечного объекта относительно мер с заданными границами их сложности / В.В. Вьюгин // Теория вероятностей и ее применения. - 1987. - Т. 32, № 3.- С. 558 - 563.
31. Семенов А.Л., Мучник Ан.А. Об уточнении оценок Колмогорова, относящихся к датчикам случайных чисел и сложностному определению случайности / А.Л. Семенов, Ан.А. Мучник // Доклады академии наук. - 2003. - Т. 391, № 6. - С. 738 - 740.
32. Арнольд В.И. Топология и статистика арифметических и алгебраических формул /
B.И. Арнольд // Успехи математических наук. - 2003. - Т. 58, № 4. - С. 3 - 28.
33. Martin-Lof P. The definition of random sequences / Р. Martin-Lof // Inform. and Control. - 1966. -Vol. 9, 1 6. - P. 602 - 619.
34. Schnorr C.P. Process complexity and effective random tests / C.P. Schnorr // J. of Computer and System Sciences. - 1973. - Vol. 7, 1 4. - P. 376 - 388.
35. Левин Л.А. О понятии случайности / Л.А. Левин // Докл. АН СССР. - 1973. - Т. 272, № 3. -
С.548 - 550.
36. Loveland D.W. A new interpretation of the von Mises' concept of random sequence / D.W. Loveland // Z. Math. Logik Grundl. Math. - 1966. - N 12. - P. 279 - 294.
37. Шень А. О соотношениях между различными алгоритмическими определениями случайности / A. Шень // Докл. АН СССР. - 1988. - Т. 302, № 3. - С. 548 - 552.
38. Колмогоров А.Н. Алгоритмы и случайность / А.Н. Колмогоров, В.А. Успенский // Теория вероятностей и ее применения. - 1987. - Т. 32, Вып. 3. - С. 425 - 455.
39. Успенский В.А. Может ли индивидуальная последовательность нулей и единиц быть случайной? / В.А. Успенский, А.Л. Семенов, А.Х. Шень // Успехи математических наук. - 1990. -Т. 45, Вып. 1. - С. 105 - 162.
40. Успенский В.А. Теория алгоритмов: основные открытия и приложения / В.А. Успенский, А.Л. Семенов. - М.: Физматлит, 1987. - с.288
41. Петунін Ю.І. Структурний підхід до розв‘язання шостої проблеми Гільберта / Ю.І. Петунін, Д.А. Клюшин // Теорія ймовірної і математичної статистики. - 2004. - № 71. - С. 145 - 159.
42. Bezdek J.C. Pattern recognition with fuzzy objective function algorithms / Bezdek J.C. - New York: Plenum Press, 1981. - 256 p.
43. Gupta M.M. Cognition, perception and uncertainty / M.M. Gupta // Fuzzy logic in knowledge-based systems, decision and control / Ed. M.M. Gupta, T. Yamakawa. - Elsevor Science Publishers B.V. - New York, 1988. - P. 3 - 10.
44. Дюбуа Д. Теория возможностей. Приложение к представлению знаний в информатике / Д. Дюбуа, А. Прад; пер. с фр. - М.: Радио и связь, 1990. - 288 с.
45. Бичков О.С. Побудова (PN)-моделі теорії можливостей / О.С. Бичков, К.С. Колесніков // Вісник Київського університету. - (Серія «Фіз.-мат. науки»). - 2007. - № 1. - С. 134 - 138.
46. De Baets B. Constructing Possibility Measures / В. de Baets, G. Cooman // Proc. of ISUMA - NA-FIPS '95 The Third International Symposium on Uncertainty Modeling and Analysis and Annual Conference of the North American Fuzzy Information Processing Society, (17-19 Sep., 1995). - College Park, MD , USA, 1995. - Р. 472 - 477.
47. Sugeno M. Fuzzy measure and fuzzy integrals / М. Sugeno // Trans. S.I.C.E. - 1972. - Vol. 8, N 2. -Р. 95 - 102.
48. Dempster A.P. Upper and Lower Probabilities Induced by a Multivalued Mapping / A.P. Dempster // Ann. Math. Statist. - 1967. - Vol. 38, N 2. - Р. 325 - 339.
49. Турксен И.Б. О вкладе Лотфи Заде в современную науку и научное мировоззрение / И.Б. Турк-сен // Новости искусственного интеллекта. - 2001. - № 2-3. - С. 12 - 15.
50. Бычков А.С. Об одном развитии теории возможностей / А.С. Бычков // Кибернетика и системный анализ. - 2007. - № 5. - С. 67 - 72.
51. Бичков О.С. Математичні основи розширеної теорії можливостей / О.С. Бичков, К.С. Колесніков // 8-я Международная математическая школа „Метод функций Ляпунова и его приложения”, (Крым, Алушта, 10-17 сентября 2006 г.). - Алушта, 2006. - С. 35.
52. Бичков О.С. Про узгоджене продовження мір можливості та необхідності / О.С. Бичков // Доповіді НАН України. - 2009. - № 6. - С. 7 - 13.
53. Пытьев Ю.П. Возможность. Элементы теории и применение / Пытьев Ю.П. - М.: УРСС, 1990. -190 с.
54. Бычков А.С. Существование согласованного к-аддитивного продолжения мер в теории возможностей / А.С. Бычков, Е.В. Иванов // Управляющие системы и машины. - 2009. - № 6 (224). -
С. 35 - 41.
55. Бичков О.С. Про один підхід до опису нечітких подій / О.С. Бичков // Вісник Київського університету. - (Серія «Фіз.-мат. науки»). - 2006. - № 3. - С. 138 - 142.
56. Бичков О.С. До теорії можливостей та її застосування / О.С. Бичков // Доповіді НАН України. -2007. - № 5. - С. 7 - 12.
57. Про один підхід до моделювання нечіткої динаміки / Ю.А. Бєлов, О.С. Бичков, М.Г. Меркур’єв [та ін.] // Доповіді НАН України. - 2006. - № 10. - C. 14 - 19.
58. Liu B. Theory and Practice of Uncertain Programming / Liu B. - [2nd ed.]. - Berlin: Springer-Verlag, 2009.
59. Hisdal E. Conditional possibilities independence and noninteraction / E. Hisdal // Fuzzy Sets and Systems. - 1978. - N1. - P. 283 - 297.
60. De Cooman G. Possibility theory Part I: Measure- and integral-theoretics groundwork; Part II: Conditional possibility; Part III: Possibilistic independence / De Cooman G. // Int. J. of General Systems. -1997. - N 25 (4). - P. 291 - 371.
61. De Baets B. Conditioning in possibility with strict order norms / B. De Baets, R. Mesiar, E. Tsiporko-va // Fuzzy Sets and Systems, 1999. - N 106. - P. 221 - 229.
62. Dubois D. Possibility Theory and Statistical Reasoning [Електронний ресурс] / D. Dubois. - Режим доступу: http://www.irit.fr/page-perso/Didier.Dubois/Papers0804/D CSDA06.pdf
63. De Cooman G. Possibility theory Part I: Measure- and integral-theoretics groundwork; Part II: Conditional possibility; Part III: Possibilistic independence / G. de Cooman // Int. J. of General Systems. - 1997.
- N 25(4). - P. 291 - 371.
Стаття надійшла до редакції 12.04.2012