Алгоритмическая вероятность в инфинитарной трактовке Текст научной статьи по специальности «Математика»

УДК 517.11

АЛГОРИТМИЧЕСКАЯ ВЕРОЯТНОСТЬ В ИНФИНИТАРНОЙ ТРАКТОВКЕ © С. Вск'шеиов

Vekshenov S. Algorithmic probability. Ail infinitive interpretation.

В работе [ 1 ] была докачана теорема о несовпадении чисел со и £2, выражающих завершение натурального ряда в количественном и порядковом смысле, соответственно. Этот результат имеет многочисленные следствия. В частности, из него следует, чго множество всех двоичных случайных последовательностей делится на классы «длинных» и «коротких» последовательностей, с длиной £2 и со, соответственно. Каждый из этих классов определяется своим видом энтропии начального фрагмента последовательности.

I.

По-видимому, наиболее естественная 'фактовка случайности основана на понятии энгронии конечного объекта, введенной А.Н. Колмогоровым.

Общая схема его подхода заключается в следующем. Рассмотрим множества N и В натуральных чисел и конечных слов в алфавите {0, 1} как ансамбли конструктивных объектов с отношением «х согласовано су». В случае N «х согласовано с у» означает, что х = у, в случае В, если х су Vу с х.

Перечислимое отношение Я. будем называть способом описания элементов из Л'посредством элементов У, где Л', У є {Л/, В}, если верно следующее утверждение: (х согласовано с .Vі) & И (х, у) & Н(х', у') => (у согласовано с У).

Объект х называется описанием объекта при способе Я, если выполняется Н(х, у).

Определим норму хе N как целую часть 1о£2(.г+1) и как длину /(*), если хе В.

Определение. Сложностью А'й(у) объекта у при способе описания Я будем называть наименьший объем (по норме) его описания .V.

Основной результат состоит в том, что среди всех способов описания существует способ Но минимальный с точностью до константы, т. е. У1<\/уКНо(\>) < К^у).

Сложность объекта у при оптимальном способе описания будем называтьЛУ-энтропией и обозначать К(у).

В рассматриваемом случае возможны следующие виды энтропии:

- NN - простая колмогоровская энтропия;

- А® - энтропия разрешения;

-ВВ- монотонная энтропия;

- BN - префиксная энтропия.

Заметим, что введя взаимнооднозначное соответствие между N и В.

А<—>0.

0<-»1,

1<-»2,

ООоЗ. 01<-»4.

можно отождествить N и множество конечных слов в алфавите {0, 1} с обычным отношением равенства в качестве отношения согласованности. В дальнейшем мы не будем дел ап, различия между N и такими двоичными словами.

П.

Мы будем пользоваться понятием торможения процесса а на объекте а относительно предиката Т как факта его стабилизации на а относительно Т. Будем

записывать это как trm а =а.

т

Пусть S - процесс порождения натуральных чисел, а Т!{ и Т7_ - предикаты, различающие порожденные им объекты в количественном и порядковом смыслах, соответственно. Пусті, tnn S = со, trm S =&■

т т

В [ 1 ] было доказано, что со =л £2, но со £2, т. е. с точки зрения классического равенства со и £2 - различные числа.

В дальнейшем будем считать, что m = п, если m = ~ zf> или m = rh.

Обозначим через N“ многообразие объектов: [0, 1 ...со...£2], начинающегося множеством N и заканчивающегося на £2. Это многообразие заведомо не является множеством (даже классом), поскольку не существует предиката А, такого, что /l(.v)<=>.v є N0U Эго вытекает из того, что объекты /Vй до со различаются двумя предикатами Тн и Tz, а после со - только одним предикатом Т2. Многообразие № больше соответствует понятию полумножества, введенного П. Во-пенкой [2].

Пусть / - функция из № в №, определенная на многообразии [0 ... ае], где ае < £2.

В дальнейшем мы будем свободно пользоваться классическими понятиями и символикой применительно к многообразиям в том случае, если это не приводит к недоразумениям.

Мы хотим уточнить понятие бесконечного предела Д//) при аре млении аргумента п к бесконечности. Ограничимся простейшим случаем двух бесконечных чисел со и £2.

Поскольку Пт Л") = & невозможен, остаются

п—ш

следующие варианты:

lim f(//) = £2, или trill Аи) = Ф (*)

п —>12 Т ft &Т%

lim А»)~ lim А") = со, или trill .А«) = со: (**)

и—»» и—Tft&Tz

lim Л»)= ©.Ш1И trm/и) = со (***)

п—>(о Гд

Равенства (*), (**), (***) можно рассматривать как определение соответствующих пределов (более точно, конечно, надо говорить о торможении процесса J(s)). Остается уточнить само понятие торможения. Это покажет, как мы понимаем стремление к бесконечному числу £1 после бесконечного числа со.

Числа £2 и со могут быть получены формальным путем, содержательно же можно сказать, что они получаются «в обмен» на «исчезновение» соответствующего предиката.

В общем случае, каждому' выделенному предикату Т, соответствует число о,, не обязательно бесконечное: Tj—tCLj.

Это наблюдение приводит к мысли, что последовательное свертывание выделенных предикатов Т, может имитировать движение на инфинитарном отрезке процесса а. Например, в случае процесса S и выделенных предикатов TR и Tz последовательное свертывание 7’л, а затем Tz приводит к числам: со, он-1...., cof//, ..., £2.

Очевидно, что последовательность свертывания предикатов не может быть произвольной. Например, после Tz уже нельзя свернуть предикат Тк, поскольку после £2 уже не существует никаких чисел.

Будем называть последовательность свертывания предикатов Т\ ... Т„ корректной, если

а, < т7 а2 < Ti а3 < ... < Тп ая,

где <77 - неравенство в смысле предиката Tt.

В дальнейшем под последовательностью свертывания предикатов всегда будем понимать корректную последовательность.

При таком подходе возникает, однако, следующая трудность. Предикат Т„ исчезая, меняет функцию Д//), «вырывая» из нее значения, различимые этим и только этим предикатом.

В общем случае этот процесс за со можно изобразить следующим образом:

/ а, / а* f(K £2

— —» — —»... —> — -» .. . —

&Т, Ту &Т, Тк &Т, Т2

1-І i=2 |=*+1

где trill = а, 3 AI 0~

Tf

Здесь над чертой записана исходная функция / и ее вид /(,ра,)на инфинитарном отрезке [а,... а,+|] (многоточие в середине символизирует тот факт, что инфини-тарный «отрезок», в общем случае, не является множеством). Под чертой записан весь набор предикатов Ть различающих функцию /0) на этом отрезке^

Стрелка символизирует торможение / (,) относительно предиката 7)+1 и получение числа а,+|.

Существуют функции такие, что свертывание предикатов не приводит к их существенному изменению в инфинитарных областях. Нашей ближайшей целью является определение вида функций Д//) и д{п) на А/° таких, что Пт J[n) = £2 и Hm 9(п) =

/і—и-»£2

Обозначим через а = b равенство а и b с точностью до некоторой константы.

Л е м м а ( об уточнении бесконечного предела).

Пусть області, определения функций Д//) и g(n) совпадает с N11 и Hm g(") — оо. Тогда, если:

П—И®

\.Л»)>п на N, то lim A»)=Q

п—

2- g(") > п - ф(я), где ф(и) - п, при п —» <», то lim g(n)=(o.

Доказательство. 1. Пусть lim .Я») =а, если/н)

п—>£2

//, то/1'i) £ п -с, где c=const.

Следовательно, Пт А10 ^ lim "-с, т. е. а > П-с.

n—>Q п—>П

Поскольку £2 есть абсолютное завершение любого изменения, а = £2.

2. Т. к. ф(н)~н, lim ф(>0 = ^ Функция ср(//) опреде-

ляет процесс q>(s), который начинается на £2 и завершается числом, которое восстанавливает свернутый предикат TR.

Используя это замечание, получим:

lim g(«) = lim (w-<p(/i)-c) = £2 - £2 - с =

и—»£2 л—>І2

Поскольку g(n) -> <», при п -> °о, случай me N исключается.

Следовательно, Цщ g(>0 = “ Лемма доказана. п—>а

III.

Вернемся к случайным последовательностям.

Пусті, К((а,,)) - один из определенных в п. I видов энтропии начального отрезка (а),„ бесконечной двоичной последовательности а.

Будем для простоты считать, что на множестве всех бесконечных двоичных последовательностей В“ задана равномерная бернулиева мера Г: для каждой конечной последовательности х мера интервала [лс]={ає В' | хса} равна Г([лг]) = 2~Кх\ где /(х) - длина х. Далее мера Г обычным образом распространяется на все борелевские множества, порожденные интервалами [дг].

Последовательность ае В“ будем называть случайной относительно Г, если V/i К(( а )„) > /(( а )„).

Как известно, не всякая энтропия может был, использована для корректного определения случайности [4]. Для прояснения причин этого перейдем к инфини-тарным определениям.

Определение. Под длиной бесконечной двоичной последовательностью а будем понимать расстояние от начала процесса /((а),) до его завершения. Полагая начальную длину /((ос)* = 0, можно считать, что длина а есть lim /((а)„) = Да).

и—»£2

Как видно, понятие «длины» вводится через динамическое понятие «расстояния», что освобождает определение от тавтологии.

То, что Цдг) может бьпъ равно £2, со (или даже конечному числу), говорит о том, что среди бесконечных последовательностей бывают «длинные», с Да) = £2 и «коро ткие», с L(a) = со.

Определение случайности а в инфинитарной форме может быть записано следующим образом:

lim K((a)„) = L(a), (*)

т. е. предел энтропии начальных отрезков случайной последовательности равен ее инфинитарной длине.

Поскольку для всех перечисленных в п. I энтропий известно, что К(( а)„) —» °°, при //-> (см., например,

[3], теорема 1.4), то в рассматриваемом нами простейшем случае случайность а достигается при:

1. £2 = £2;

2 . со= со.

Рассмотрим первую возможность: £2 = £2.

Согласно лемме п. II, для того чтобы Пт £((<*)„) =

= £2, достаточно, чтобы на N. С другой сторо-

ны, для «длинных» последовательностей а справедливо классическое определение конечной длины: /((a),,) = п и следовательно. Да) = £2.

Осталось проверить, для каких из перечисленных в п. I видов энтропии справедливо неравенство Ща)п) > п.

Для почта всех а это заведомо справедливо в случае ВВ-энтропии, поскольку ВВ((а)„) = п ([4], теорема 3.2).

Поскольку BN((a)„ > ВВ((a)„), то и в случае BN-энтропии BN((а)„) > п для почти всех а.

Следовательно, монотонная и префиксная энтропии корректны для определения случайности «длинных» последовательностей а, с Да) =£2.

Что же касается NN-энтропии, то для нее справедлива следующая теорема.

Теорема. Для поч ти всех a lim MV((a)„) = со

и—

Доказательство. Воспользуемся следующей теоремой П. Мартина-Лёфа. Будем называть двоичную последовательность a F - сложной, если MV((a)„) « < // - F(n). Тогда, если:

оо

а) £ 2 ~F(n) = о», то NN ((a),,) < п - F(n) для беско-

п=\

нечного числа п и, следовательно, в этом случае не существует F-сложпых последовательностей.

б) £ 2 ~F(n) = °°, то существуют F-сложные ПОСЛеДОВа-^1

тельноста, которые образуют множество полной меры.

Рассмотрим функцию F(n) < п, удовлетворяющую условию б), например, функцию [72]. Тогда, очевидно, lim п - F(n) —» оо, при п -» оо и F(n)~n при п -» оо. Пе-/2—>®°

реходя к пределу при п —» £2 в неравенстве NN((a)„) < <п- F(n) и используя лемму и. II, получим:

lim NN((a)n) > (о.

п—

С другой стороны, из пункта а) теоремы Мартина-Лёфа следует, в частности, что: NN((a)„) < п— [log2»l для бесконечно многих п.

Выбирая среди п такие получим подпоследовательность {(a),, } последовательности {(а),,}, для которой справедливо:

AW((a)„)< nk-[log2//*]. (*)

Кроме того, очевидно, что для любой моиотонно-возрастающей функцииХ«) справедливо: Цщ Лп) — ^

Переходя к пределу в неравенстве (*), получим:

Г/// е N; lim AW((a)„)« £2 - £2 = <

и-»П [w.

Поскольку известно, что lim AW((a)„) = оо, то оче-

П—

видно, что lim NN((a),,) = со.

П—**>

Совмещая это равенство с полученным ранее неравенством lim NN((a)„) > со, убеждаемся в том, что для п->а

почти всех a lim MV((a)„) = со. n-*Cl

Теорема доказана.

Этот же результат справедлив и для энтропии разрешения: для почти всех a Hm NB((a)„) - со. Эго вы-

текасг из неравенства:

NB((a)„) < NN((a)„) и того, что Пт NB((a,,)) = °°.

п—*°°

Таким образом, для выполнения равенства со = сов случае простой колмогоровской энтропии и энтропии разрешения достаточно считан», что /((a),,) = и - <р (и), где ф (/;) ~ п при п —> оо. Это говорит о том, что данные виды энтропии обеспечивают случайность «коротких» последовательностей.

IV.

Как следует из (1 ], бесконечными числами со и £2 не ограничивается весь спектр бесконечных чисел, полученных торможением процесса 5, обобщающего процесс S. С другой стороны, в [5] сформулировано общее поня тие АТ-энфонии, где А' и Y - некоторые ансамбли конструктивных объектов.

Интересно было бы проверить следующую гипотезу: «Для каждого числа а, полученного торможением S, существует ЛУ-энгрония, такая, что она определяет случайные последовательности длины а. составляющие множество полной меры».

ЛИТЕРАТУРА

1. Векшенов С.А. Является ли «множество действительных чисел» множеством? // Вестн. Тамбов, ун-та. Сер. Естеств. и технич. науки. Тамбов. 2000. Т. 5. Вып. 5. С. 519-536.

2. Вопенка П. Математика в альтернативной теории множеств: Пер с англ. М.: Мнр, 1983.

3. Звонким А., Левин Л. Понятие информации и случайности // УМН 1970. Т. XXV Вып. 6.

4. Вьюгин В. Алгоритмическая энтропия (сложность) конечных объектов и ее приложение к определению случайности и количества информации II Семиотика и информатика 1980. Вып. 16. С. 14-43

5. Успенский В.А., Семенов А.Л. Теория алгоритмов: основные открытия и приложения. М.: Наука. 1987.

Поступила в редакцию 5 сентября 2001 г.