CC BY
48
Философия биологии
Некоторые события в развитии современных средств моделирования эволюции
Э.Ф. Караваев
Институт философии, Санкт-Петербургский государственный университет, Санкт-Петербург, Россия;
В современной эволюционной теории идёт поиск математических инструментов для синтеза различных факторов случайности и детерминизма в эволюции: случайные и (квази-)направлен-ные мутации; отбор и дрейф; эгоистические и альтруистические тенденции в поведении структур на разных уровнях жизни (экосистемном, популяционном, организменном, геномном). Выполненный историко-научный и логико-математический анализ наиболее значимых событий в названном процессе поиска позволяет реконструировать основные этапы в математическом представлении роли случайности в эволюции, оценить предложенные методы. Истоками математического моделирования эволюции стали труды Р. Фишера, А.Н. Колмогорова, Д.Д. Ромашова, А.А. Малиновского в 1930-х гг., в которых были использованы теоретико-игровые идеи и уравнения в частных производных для представления отбора, дрейфа генов, изоляции, размера популяций. В понятии «равновесие Нэша», его автор Дж. Нэш (1949) «предвосхитил» идеи теоретико-игрового моделирования эволюции. У.Д. Гамильтон в 1960-х гг. первым осознанно ориентировался на теорию игр в моделировании внутривидовой конкуренции и оценок приспособленности, зависящей от соотношения частот стратегий. Наиболее значительный вклад в теоретико-игровое моделирование эволюции принадлежит Дж. Мейнарду Смиту. Он ввёл понятие «эволюционно стабильной стратегии» (ЭСС) (1982). Расчёт предложенной Д. Канеманом (2014) процедуры многократного повторения «игры», в которой пропорция проигрыша и выигрыша 50/50, а выигрыш вдвое превышает проигрыш, показывает, что на временной шкале эволюции возможна реализация ЭСС. Большое эвристическое значение имеет интерпретация Г.Р. Ива-ницким (2010) Санкт-Петербургского парадокса, в которой роль «крупье» играет окружающая среда, а роль «игрока» — живая природа: если игрок обладает памятью хотя бы на один раунд, то он может выбирать стратегию изменения ставки в следующем раунде. Отсюда следует, что появление примитивной памяти (хотя бы на один цикл изменения среды), стало величайшим «изобретением» жизни, выделившим её окончательно из неживой природы и обеспечившим поступательную эволюцию. И всё-таки никакой математический метод (уравнения в частных производных, теория игр, марковские процессы, метод Монте-Карло) не является «всемогущим и безупречным» при моделировании объективной случайности в эволюции.
Ключевые слова: математическое моделирование, теория игр, эволюционно стабильная стратегия (ЭСС), равновесие Нэша, дилемма заключённого, неприятие потерь, Санкт-Петербургский парадокс.
Введение
Результаты, полученные в различных областях науки, создают условия для формирования общенаучных понятий и позволяют приблизить их к уровню философских обобщений. Это является выражением укрепления идеологических и культурных ценностей той или иной науки. Во второй половине ХХ в. и в начале нынешнего века это, в частности, происходит с биологией — в лице эволюционной теории, а также с теорией управления и принятия решений — в лице эволюционной теории игр.
В этот период теория эволюции прошла стадию так называемого «современного эволюционного синтеза» и вошла в стадию «сравнительной (молекулярной) гено-мики», которую один из ведущих специалистов в этой области Е.В. Кунин называет «пост-современным этапом развития эволюционной биологии» (Кунин, 2014). Он считает, что учёным необходимо провести синтез следующих факторов случайности и детерминизма: случайные и (квази-) направленные мутации; отбор и дрейф; эгоистические и альтруистические тенденции поведения различных геномных элементов; способность к быстрому восстановлению и к эволюции. Он также подчеркивает, что так называемый «антропный» принцип действительно является абсолютно необходимым для понимания происхождения жизни. Сложные живые системы возникли, но они могут возникать не во всех частях Вселенной. Поэтому, если в истории было бы немного по-другому, если параметры нашего «уголка» Вселенной были бы немного другими, то не было бы того явления, которое называется «жизнью».
Следует особо отметить замечательную книгу — «Случайность и необходимость», опубликованную в первой половине вышеупомянутого периода времени, в 1971 г. (Мопоё, 1971), автор которой микробиолог Ж.Л. Моно (1910—1976) вместе с Ф. Жако-бом и А. Львовым в 1965 г. получил Нобелевскую премию по физиологии и медицине за открытия, касающиеся генетического контроля синтеза ферментов и вирусов. Их работы открыли ту область исследований, которую в полном смысле слова можно назвать молекулярной биологией. В своей книге Моно сформулировал концепцию, согласно которой жизнь на земле возникла совершенно случайно, а затем эволюционировала к своему нынешнему состоянию благодаря сочетанию случайности и необходимости, детерминированных механизмов молекулярной генетики и естественного отбора. Е.В. Кунин особо выделяет книгу Моно среди тех произведений, авторы которых, каждый по-своему, обращаются к одной и той же всеохватывающей теме: «взаимосвязь случайности (случай) и регулярности (необходимость) в жизни и её эволюции» (Мопоё, 1971, р. VII).
Взаимодействие в процессе эволюции и коэволюции, то есть вообще во всём, что происходит, различных факторов случайности и необходимости в общем является характерной чертой современной научной парадигмы. Использование средств математического моделирования в осмыслении роли случайности как эволюционного фактора — вполне сложившаяся область, и в отечественной биологии в том числе. Так, например, в 1935 г. А.Н. Колмогоров в статье «Уклонение от формул Харди при частич-
ной изоляции» (Колмогоров, 1986) одобрил модель оптимальной структуры популяции, разработанную с помощью метода анализа уравнений в частных производных в «эволюционной бригаде» (А.А. Малиновский, Д.Д. Ромашов и др.). А эта модель была связана с интереснейшим результатом, касающимся существования оптимума частичной изоляции для эволюции популяций (где «борются интересы» дрейфа и отбора). Вообще, дрейф как раз и был хорошо разработан как в «вертикальном» (временном), так и в «горизонтальном» (пространственном) аспектах ещё до обращения к теоретико-игровому подходу. Так что биологическое сообщество в целом «хорошо относилось» (да и относится) к использованию разнообразного математического инструментария, касающегося обращения со случайностью в моделировании эволюционных процессов.
Разумеется, никакой инструмент и никакой метод (уравнения в частных производных, марковские процессы, метод Монте-Карло, теория игр) не является «всемогущим и безупречным».
Тому, чтобы способствовать осознанию вездесущности в мире объективной случайности, которую мы, «одурачивающие самих себя», иногда подменяем нашими средствами репрезентации случайности (так сказать, «рандомизации в широком смысле слова»), много внимания уделяется в книгах Н.Н. Талеба (Taleb, 2012). Это отражено и в его дискуссиях с лауреатом Нобелевской премии в области экономики (2002) Д. Канеманом, который тоже отмечает нашу склонность к такого рода подмене (Kahneman, 2011).
Таков контекст, в котором мы рассматриваем примеры использования логико-математических инструментов компьютерного (информационного) моделирования процессов и явлений, касающихся взаимодействия случайности и необходимости в мире, в котором мы живем, действуем и думаем.
Несколько исторических замечаний о концепции «эволюционно стабильной стратегии»
Уже в 1930 г. британский учёный Р.А. Фишер, выдающийся математический статистик и в то же время биолог-эволюционист и генетик, фактически использовал теоретико-игровые идеи для построения математической модели естественного отбора (Fisher, 1930). В его малоизвестной статье мы обнаруживаем свидетельства того, что Фишер в последующие десятилетия продолжал размышлять о возможности применения теории игр к проблемам эволюционной биологии:
Отношения между видами или же среди всего скопления видов, разделяющих между собой некоторую экологическую область, могут быть безмерно сложными; ... я предположил, что одним из способов сделать такую чрезмерно сложную систему доступной для осмысления человеческим разумом является аналогия с играми, требующими смекалки, или, выражаясь несколько претенциозно, с теорией игр (Fisher, 1958, p. 291—292).
В продолжение Фишер приводит рассказ о том, как он в 1934 г. показал, что одна старинная карточная игра имеет решение, основанное на использовании «рандомизированных стратегий», то есть стратегий, связанных с использованием случайных ходов. В парной игре для обоих игроков только такие стратегии позволяют играть так хорошо, как это только возможно. Дело в том, что игроки научаются предвосхищать обычные
реакции оппонента. Рандомизация вводит новую степень неопределённости в ожидания игроков. Подобного рода приёмы, считает Фишер, следует ввести в реакции «естественных врагов» в представлении того или иного состояния природы.
Напомним, что в 1944 г. в Принстоне Дж. фон Нейман и О. Моргенштерн опубликовали фундаментальную работу «Теория игр и экономическое поведение» (фон Нейман, Моргенштерн, 1970), в которой был сформулирован и общий принцип мини-макса, и рандомизированная, или, как они выражались, смешанная стратегия.
Но ещё в 1928 г. Дж. фон Нейман написал статью «К теории стратегических игр» (фон Нейман, 1961). В ней он доказал знаменитую теорему о минимаксе, которая послужила одной из основ созданной позднее теории игр. Эта статья получилась в результате исследования игры в покер двух партнеров и обсуждения оптимальной стратегии для каждого из игроков. При этом каждый игрок может выбирать из конечного числа «стратегий», то есть последовательностей действий, и считает, что противник всегда поступает наилучшим для себя образом. Теорема фон Неймана утверждает, что в такой ситуации существует «устойчивая» пара стратегий, для которых минимальный проигрыш одного игрока совпадает с максимальным выигрышем другого. Устойчивость стратегий означает, что каждый из игроков, отклоняясь от оптимальной стратегии, лишь ухудшает свои шансы и ему приходится вернуться к оптимальной стратегии.
Вышеприведённый рассказ Р. Фишера о «старинной карточной игре» наводит на мысль о том, что он мог быть знаком со статьей Дж. фон Неймана.
Заметим — то, что предложил Фишер, ещё не было эволюционной теорией игр. «Игроками» у него были виды, а не индивиды. Такого же рода предположения придерживался и Р. Левонтин, который рассматривал «популяции, играющие против природы», беря в качестве выигрыша выживание видов и «страхование их шансов» в ситуациях, когда события развиваются по сценариям, включающим в себя наихудшие случаи (Lewontin, 1961).
Первым, кто осознанно ориентировался на теорию игр в моделировании внутри -видовой конкуренции и оценок приспособленности, зависящей от соотношения частот стратегий, был У.Д. Гамильтон. С книгой Дж. фон Неймана и О. Моргенштерна он познакомился, когда, будучи студентом, изучал генетику, а вернулся к ней, когда работал над магистерской диссертацией по демографии в Лондонской школе экономики. Позднее он вспоминал, что именно тогда он сообразил, что понятие приспособленности можно рассматривать в качестве «биологического эквивалента «выигрыша» в теории игр» (Hamilton, 1996). Гамильтон был знаком и с пользующейся заслуженным авторитетом книгой Р.Д. Льюса и Г. Райфы «Игры и решения», в которой хорошо освещено понятие «равновесия Нэша» и дано подробное рассмотрение «дилеммы заключённого» (Льюс, Райфа, 1961).
В концепции У.Д. Гамильтона необычных соотношений полов (Hamilton, 1967) рассматривается, фактически, и «игра индивида с популяцией» и попарно организованная конкуренция (внутри одного и того же организма-«хозяина» двух других особых организмов — паразитоидов, которые его постепенно поедают). И главное, что отмечено Дж. Мейнардом Смитом (Maynard Smith, 1982, p. 23; 43) — он вплотную подошёл к понятию «эволюционно устойчивой стратегии»; правда, она у Гамильтона называется «непревосходимой» («unbeatable»).
В 1949 г. в докторской диссертации «Некооперативные игры» в разделе «Мотивация и интерпретация» Джон Нэш писал:
Теперь мы попытаемся рассмотреть интерпретацию точек равновесия, основанную
на понятии соотношения «масса - действие». В этой интерпретации характер решений не имеет
большого значения. Необязательно требуется предполагать, что участники игры обладают полным знанием всей структуры игры или способностью тщательно, пункт за пунктом, разбирать сложные процессы рассуждений. Однако предполагается, что участники аккумулируют информацию, полученную из опыта и касающуюся сопоставления одних с другими преимуществ, предоставляемых различными стратегиями, находящимися в их распоряжении.
Более подробно, мы предполагаем, что для каждой позиции в игре имеется некоторая популяция (в смысле статистики) участников. Будем предполагать также, что в «среднее исполнение» игры вовлечено n участников, выбранных случайным образом из популяций, и что существует некоторая стабильная средняя частота, с которой каждая чистая стратегия применяется «средним количеством» участников из определённой популяции (Nash, 2002, p. 78).
Далее следуют соответствующие технические выкладки, а затем Нэш делает следующее заключение:
Таким образом, те допущения, которые мы сделали в этой интерпретации, основанной на понятии соотношения «масса-действие», приводят нас к заключению о том, что смешанные стратегии, репрезентирующие среднее поведение в каждой из популяций, образуют некоторую точку равновесия (Nash, 2002, p.79).
Можно только присоединиться к сожалению К. Зигмунда (Sigmund, 2005) о том, что эта часть диссертации Нэша не была в своё время опубликована, а увидела свет только в середине 1990-х гг. В итоге ни Р. Фишер, ни Р. Левонтин, ни У. Гамильтон не получили должного «импульса» к открытию и формулированию понятия «эволюци-онно стабильной стратегии», который, как это видно из приведённого отрывка из диссертации Нэша, они могли бы получить.
В 1970 г. несколько чудаковатый учёный американец Джордж Прайс представил в журнал «Nature» статью. В ней предлагалось объяснение того, как животные, используя некоторую стратегию поведения — «отвечать тем же самым образом», могли бы иметь преимущество с точки зрения отбора во внутривидовых столкновениях. Это позволяло понять, не обращаясь то и дело к идее группового отбора, широкое распространение во взаимоотношениях животных форм поведения, подобных ритуалам. Джон Мейнард Смит быстро понял и оценил достоинства такого подхода. Однако он не мог рекомендовать статью Прайса к опубликованию из-за того, что она была слишком длинной. В процессе доработки появилась их совместная статья «Логика конфликта среди животных» (Maynard Smith, Price, 1973). Три аспекта этой работы оказались новыми и плодотворными. Во-первых, появилось само понятие «эволюционно стабильная стратегия», в котором соединились теория игр и популяционная динамика. Во-вторых, был применён метод моделирования с помощью компьютера. И, в-третьих, — возможно, самое главное, — теория игр была применена к анализу взаимоотношений между животными или, рассуждая более общим способом, то есть необязательно к игрокам, которые действуют, опираясь на разум. Далее обнаружилось, что понятие «эволюци-онно стабильная стратегия» является одним из уточнений понятия «равновесие Нэша» и что оно отражает динамику возможного вторжения в популяцию индивидов, использующих свою стратегию.
Несомненно, самый значительный вклад в теоретико-игровое моделирование эволюции был сделан в книге Дж. Мейнарда Смита «Эволюция и теория игр» (Maynard Smith, 1982), вышедшей в начале 1980-х гг. Незадолго до этого прошла достаточно бурная
дискуссия, связанная с попытками Веро Вини-Эдвардса объяснить наличие некоторых признаков, связанных с адаптацией популяций (неравное соотношение полов, уменьшение интенсивности размножения, увеличение продолжительности жизни поколения и др.), действием группового отбора. Э. Майр резко возражал против того, чтобы рассматривать в качестве единицы отбора не индивида, а популяцию, семью или стадо, что заметим, соответствовало позиции самого Ч. Дарвина (Колчинский, 2006, с. 70). И вот Мейнард Смит ввёл понятие «эволюционно стабильной стратегии».
«Ходы», из последовательности которых складывается какая-то игровая стратегия, производятся индивидами по определённым правилам. Например, игра «Ястреб-голубь» описывается посредством такой матрицы:
Hawk Dove
Hawk V2(V-C) V2(V-C) V 0
Dove 0 V V/2 V/2
Два индивида: «Ястреб (Hawk)» и «Голубь (Dove)» состязаются в борьбе за ресурс фиксированной величины V. В данном, биологическом, контексте этот ресурс соответствует тому увеличению приспособленности индивида, которое он приобретает, если его получает. Каждый индивид следует одной из двух линий поведения: ястреб инициирует агрессивное поведение и не прекращает его, пока соперник не отступит; голубь сразу же отступает, как только его соперник проявляет агрессию.
Из матрицы, описывающей игру, можно видеть, что, когда оба её участника проявляют агрессию, у них обоих приспособленность изменяется на величину ''(V—C), где С — плата за участие в конфликте. Когда Ястреб встречается с Голубем, он получает весь ресурс, а Голубь не получает ничего. Когда встречаются два Голубя, то они поровну делят ресурс, и каждый увеличивает свою приспособленность на V/2.
Второй пример — «дилемма заключённого»: Солидаризирующийся (Cooperate) игрок проявляет доброжелательность в расчёте на взаимность (или даже не задумывается об этом), а Порочный (Defect) думает только о собственной выгоде. Когда оба участника игры проявляют солидарность, они получают (равное) вознаграждение. Солидаризирующийся при встрече с Порочным проигрывает, а тот получает выигрыш, больший, нежели в том случае, если бы и он проявил солидарность. При встрече Порочного с Порочным выигрыш получают оба, притом одинаковый, хотя и меньше того, который получают при встрече друг с другом двое Солидаризирующихся.
Cooperate Defect
Cooperate 3 3 0 5
Defect 0 5 1 1
Введём обозначения: ст и ц — стратегии; — первоначальная приспособленность индивида; АЩя,, я) — изменение в приспособленности индивида, который следует стратегии я1 вместо я2; р — доля индивидов, следующих стратегии ц. Тогда условия того, что стратегия будет эволюционно стабильной стратегией, определяются так:
Дст) = + (1 - р) ДДст, ст) + р ДДст, ц) Дц) = % + (1 - р) ДДц, ст) + р ДДц, ц).
Должно иметь место: Л(ст) > Дц). С учётом того, что в начале процесса р — только небольшая доля популяции и что ц ^ ст:
(1) af(ct, ст) > af(m-, ст) или
(2) [(af(ct, ст) = ДДц, ст)) & (af(ct, ц) > ДДц, ст))].
Из рассмотрения первого примера можно увидеть, что стратегия Голубя не является эволюционно стабильной: мутант, использующий стратегию Ястреба, может внедриться в популяцию. Если величина V больше, чем плата за участие в конфликте С, то стратегия Ястреба является эволюционно устойчивой. А в случае, когда V меньше, чем С, вообще нет эволюционно устойчивой стратегии, если не использовать смешанную стратегию, то есть некоторое сочетание стратегий Ястреба и Голубя.
Из второго примера можно видеть, что стратегия Солидаризирующегося не является эволюционно устойчивой, а стратегия Порочного является. И есть смешанная стратегия, которая является эволюционно устойчивой.
Интерес представляет ещё одна стратегия: участник игры в первом ходе действует как Солидаризирующийся, а далее — так, как вёл себя другой участник в предыдущем ходе. Игрока с такой стратегией можно назвать «Равноценно отвечающим» (Tit for tat). Пусть в данной популяции её часть из р индивидов придерживается стратегии Равноценно отвечающего; так что 1—р есть часть, которая придерживается стратегии Порочного. Пусть далее общее число ходов равно N. После первого хода Равноценно отвечающий не получает ничего, а Порочный 5. В последующем и тот и другой получают по 1. После N ходов у Равноценно отвечающего будет 1*0 + (N-1)*1 = N-1, у Порочного, соответственно, будет N+5; так что баланс составит N-1/N+5, то есть при достаточно большом N у Равноценно отвечающего будет почти столько же, сколько у Порочного.
Tit for tat Cooperate Defect
Tit for tat 3 3 3 3 1+4/N 1—1/N
Cooperate 3 3 3 3 5 0
Defect 1—1/N 1+4/N 0 5 1 1
Нетрудно увидеть в правом нижнем углу «встроенную» исходную матрицу для «дилеммы заключённого». Пренебрегая членами порядка и ограничиваясь стратегиями Равноценно отвечающего и Порочного, мы получаем матрицу, которая показывает нам, что вполне возможна кооперация индивидов. Ведь точно так же, как в исходной матрице доминировала и была эволюционно устойчивой стратегия Порочного, теперь, особенно при р >> 1—р, стратегия Равноценно отвечающего доминирует над стратегией Порочного.
Таким образом, кооперация может быть рационально подкреплена.
Tit for tat Defect
Tit for tat 3 3 1 1
Defect 0 5 1 1
Условие (1) иногда называют «условием строгого равновесия Нэша», а (2) — вторым условием Мейнарда-Смита. Фактически пара этих условий представляет усовершенствование «равновесия Нэша», которое выражается как F(a) > F(^). Необходимо отметить, что иногда равновесия Нэша имеют место только при условии взаимной информированности конкурирующих индивидов о своих стратегиях и способности «рационального предвидения». Снятие такого рода ограничений придаёт понятию эволюционно стабильной стратегии и эволюционной теории игр в целом более общее значение, в частности как инструмента теоретического моделирования, и в науках о живой природе, и в социально-гуманитарных науках.
В заключение данного рассмотрения можно предположить, что эволюционная теория игр лучше приспособлена к тому, чтобы придать именно ей форму «обобщённой теории игр», что позволяет более адекватно отразить особенности социально-гуманитарных явлений, особенно их социально-психологических аспектов, связанных с функционированием норм. Эта теория есть теория правил и комплексов правил, а построение стратегии оказывается аналогом логического вывода (Burns, Roszkowska, 2005). И тогда в построении модели эволюции и, так сказать, её «дерева» стратегий, можно шире использовать достижения современной неклассической логики (Караваев, 2008).
Задача Самуэльсона
Пол Самуэльсон, один из величайших экономистов ХХ в., однажды спросил друга, согласится ли тот сыграть в игру «брось монетку» при условии, что можно проиграть 100 долларов и выиграть 200 долларов ^ашиекоп, 1963). Друг ответил: «Я не буду делать ставку, потому что радость от выигрыша 200 долларов не перевесит огорчения от потери 100 долларов. Но если ты разрешишь мне сделать сто таких ставок, я согласен». Как шутит Даниел Канеман (Канеман, 2014, с. 440—445), всякий, кроме
исследователей теории принятия решений, разделил бы интуитивную мысль друга Самуэльсона — многократные попытки в выгодной, но рискованной игре снижают субъективный риск. Самуэльсон, заинтересовавшись, решил проанализировать этот ответ и доказал, что в некоторых специфических обстоятельствах максимизатор полезности, отказываясь от одной игры, должен отказаться и от многих.
Следуя Д. Канеману, предположим, что некая простая функция ценности описывает предпочтение друга П. Самуэльсона (назовем его Сэмом). В приводимой в Приложении таблице "loss" обозначает потери (проигрыш), "win" обозначает выигрыш. Чтобы выразить своё неприятие потерь, Сэм сначала переписывает условия игры, умножая каждую потерю на два. Затем он вычисляет ожидаемое значение переписанной ставки. В таблице приведены результаты для одного, двух, трёх и десяти бросков монеты.
Из таблицы видно, что ожидаемая ценность элементарной игры (одного броска) — 50. Однако один бросок Сэму ничего не приносит, поскольку для него огорчение от потери доллара вдвое интенсивнее удовольствия от выигрыша доллара. После того как Сэм изменил условия игры, чтобы отразить своё неприятие потерь, обнаружилось, что ценность упала до нуля.
Теперь рассмотрим ситуацию с двумя бросками монеты. Шансы проиграть снизились до 25 %. Два экстремальных значения (проигрыш 200 и выигрыш 400 долларов) по ценности сводят друг друга на нет: они равновероятны, а вес потерь вдвое чувствительнее, чем приобретения. Однако средний вариант (одна потеря, один выигрыш) даёт положительный результат, поэтому совокупная игра приносит прибыль. Теперь можно убедиться в невыгодности установления узких рамок и в статистической «магии» совокупной игры. Мы имеем две выгодных игры, каждая из которых по отдельности не приносит Сэму ничего, и от предложения сыграть в них по отдельности он оба раза откажется. Однако в совокупности обе игры дадут верных 50 долларов прибыли!
Все становится ещё лучше, когда объединяют три игры. Экстремальные результаты по-прежнему нейтрализуют друг друга, но теперь они менее значимы. Третий бросок, сам по себе бесприбыльный, добавляет к общей сумме выигрыша 62,5 доллара! К тому времени, как Сэм заказывает пять игр, ожидаемая ценность предложения возрастает до 250 долларов, вероятность проигрыша составляет 18,75 %, а денежный эквивалент игры — 203,125 доллара. А когда Сэму предлагается десять игр, — снова, как и прежде, с сохранением степени его неприятия потерь, — ожидаемое значение ценности игры будет 500 долл., вероятность потерять что-либо будет 17,187 %, а денежный эквивалент составит 462,88 долл.
Примечательный аспект этой «истории»: неприятие потерь Сэма не ослабевает на протяжении всех игр. Однако же суммирование выигрышных игр быстро снижает вероятность потери и, соответственно, ослабляет влияние неприятия потерь на предпочтения игрока.
Стоит упомянуть и некоторые частные детали (Д. Канеман их не отмечает). Например, в то время как ожидаемая полезность (как с учётом неприятия потерь, так и без него) монотонно возрастает с количеством игр, значение вероятности потерять «что-нибудь» попеременно то уменьшается, то увеличивается, хотя и не возвращается к начальному значению 50 % (одна игра): [50 %, не менее 100], {25 %, не менее 200}, (12,5 %, не менее 300), [31,25 %, не менее 100], {18,75 %, не менее 200}, (10,9375 %, не менее 300), [22,64 %, не менее 100], {14,452 %, не менее 200}, (8,964 %, не менее 300), [17,87 %, не менее 100].
Канеман продолжает:
Я заготовил для Сэма небольшую проповедь на случай, если он отказывается от разовой выгодной игры из-за неразумного неприятия потерь (и для вас, если вы разделяете это чувство):
Мне понятно ваше нежелание проигрывать, но оно очень дорого вам обходится. Подумайте над таким вопросом: разве вы уже на смертном одре? Разве это последний случай, когда вам предлагается сыграть на удачу? Конечно, едва ли вам ещё предложат именно такую игру, зато у вас будет много возможностей попытать счастья другим способом, за небольшую (относительно вашего состояния) плату. Вы укрепите свое финансовое положение, если будете рассматривать каждую такую игру как часть совокупности малых игр и повторять мантру, которая значительно приблизит вас к экономической рациональности: иногда выиграешь, а иногда проиграешь. Главная цель этой мантры — в том, чтобы дать вам контроль над эмоциями в случае проигрыша. Если вы верите в её действенность, вспоминайте её всякий раз, решая, принимать ли небольшой риск с положительной ожидаемой ценностью. Повторяя мантру, помните следующие оговорки:
Она работает, когда игры по-настоящему независимы друг от друга. Это не относится к множественным инвестициям в одну отрасль, которые все как одна могут окончиться неудачей.
Возможная потеря не должна внушать вам тревогу за общее благосостояние. Если проигрыш станет сигналом того, что вашему экономическому будущему что-то угрожает, будьте бдительны!
Её не следует применять к лотереям с малыми шансами на победу.
Если вы способны держать себя в руках, как требует это правило, то впредь не станете рассматривать малую игру как отдельный, изолированный случай и не испугаетесь потери — даже на смертном одре (Канеман, с. 442—443).
Вполне очевидно, что совет Канемана не столь уж и невыполним. Однако здесь мы интересуемся не только социально-гуманитарными вопросами. Нас интересует возможность улучшить инструмент для моделирования эволюции, начиная, так сказать, с процессов, которые не включают в себя сознательных существ; хотя, конечно, этот инструмент будет пригоден и для моделирования эволюции на её более поздних стадиях. Предлагаемая в нашем рассмотрении идея заключается в следующем. На временной шкале эволюции взаимодействия, например, таких индивидов, как вирусы, могли сталкиваться с ситуациями, похожими на ситуацию друга П. Самуэльсона, и их результатом могло бы быть построение эволюционно стабильной стратегии.
Санкт-Петербургский парадокс и эволюции жизни с точки зрения физики
В данном разделе статьи мы опираемся на результаты моделирования жизни и её эволюции, проведённого современным отечественным учёным Г.Р. Иваницким (2010).
Дарвин полагал, что движущими силами эволюции являются наследственность, изменчивость и отбор (Дарвин, 1991). Можно заменить термин «изменчивость» на термин «самоусложнение». Для того чтобы приумножать разнообразие, должна существовать движущая сила, направляющая процесс усложнения живого. Так что нужно разобраться в том, как из случайного симметричного хаотического процесса мог бы
возникнуть некоторый направленный процесс. Если мы бросаем монету N раз, то при достаточно большом количестве бросков мы получаем последовательность из удач (выигрышей) и неудач (проигрышей) (см. рис. 1).
Ш11МШ1111111
-410 ltrno 1ЯЮ 310» 3S00 30«> Ш> <И>0 -15(10 Я1С0 ЯШ (|0№ <Н» ЛВС 7500 »(«II »?1В Ч001> mini
Рис. 1. Последовательность выигрышей (например, герб) и проигрышей (цифра).
Светлые полоски — выигрыши, тёмные — проигрыши. По оси абсцисс откладывается количество бросков; в данном случае N = 10 000
Как можно видеть из последовательности выигрышей и проигрышей, их распределение во времени носит случайный характер; однако появляются «кластеры» полос различной ширины, в которых преобладают либо выигрыши, либо проигрыши. Теперь разобьём тот же интервал бросков на более крупные интервалы, то есть не на единичные, а, скажем, объединяя последовательности бросков в группы по 20, 40 и т. д. Отметим те кластеры, в которых преобладали выигрыши, сделав их светлыми, а те, в которых преобладали проигрыши, выделим тёмным цветом (рис. 2).
1
2
3
4
5
6
7
Рис. 2. Фракталоподобное строение объединений (временных) событий в случайном процессе в диапазоне от 1 до 7 итераций. Светлыми показаны интервалы, в которых преобладали выигрыши, тёмными — проигрыши. Среднее распределение выигрышей и проигрышей
симметричны
В течение бесконечного интервала времени вероятности выигрыша р и проигрыша д, в среднем будут одинаковыми, процесс симметричен, и р = q = 0,5. Вопрос состоит в том, может ли играющий субъект нарушить в какой-либо мере симметричность распределения в его (или её) пользу? И если так, то могла ли живая природа использовать подобную стратегию в своём развитии?
В середине 1920-х гг. выдающийся французский математик Поль Леви задал вопрос:
При каких условиях распределение Р(х) для суммы из N шагов Х= Х1 + Х2 + Х3 + ... + Хм имеет такое же распределение, как и отдельные распределения Р(х) на ^шаговой масштабной шкале? (Иваницкий, 2010, с. 354).
Этот вопрос напрямую связан с расщеплением процессов на фракталоподобные потоки, когда общая картина в целом выглядит как отдельные её части, но в другом масштабе. Стандартный ответ вполне очевиден: сумма из N гауссовых распределений также есть гауссово распределение. Тем не менее П. Леви доказал, что этот ответ не является единственным. Другой ответ состоит в том, что второй момент распределения Р(х) стремится к бесконечности, то есть х2 ^
Задолго до П. Леви (в начале XVIII в.) аналогичное явление рассматривал в трудах Императорской Санкт-Петербургской академии наук Даниил Бернулли. Его результат вошёл в историю науки как «Санкт-Петербургский парадокс» о разорении игрока (Секей, 1990, с. 35-38).
Единичное испытание в петербургской игре состоит в бросании правильной монеты до тех пор, пока не выпадет цифра (решка); если это произойдёт при г-м броске, игрок получает 2 г долларов из банка. Так что с каждым броском (возможный) выигрыш удваивается. Вопрос состоит в следующем: сколько следует игроку заплатить за его (или её) участие в игре, чтобы игра стала «безобидной»? Безобидность петербургской игры рассматривается в классическом смысле: среднее значение (или математическое ожидание) чистого выигрыша должно быть равно 0. Однако, как ни удивительно, это естественное требование невыполнимо, какая бы (конечная) сумма денег ни была заплачена игроком.
Потери банка имеет бесконечное математическое ожидание, поскольку вероятность окончания игры при к-м броске равна 1/2*, и в этом случае игрок получает 2к долларов. Банк должен заплатить
1 1 1
_. 2 + -. 4 + -• 8 +... = 1 +1 +1 +...
2 4 8
долларов в среднем, то есть бесконечное количество денег. Так что игра стала бы безобидной при бесконечном взносе. Все вычисления корректны, результат оказывается неприемлемым. Поэтому некоторые математики предложили реализуемые модификации.
Генрих Романович Иваницкий (2010) предложил интерпретацию этого парадокса, интересную с точки зрения объяснения теории эволюции. Дело в том, что парадокс связан с возникновением набора временных шкал внутри случайного процесса, когда в нём начинает проявляться феномен влияния предыстории (наверное, это так называемый «гистерезис»). В результате количество выигрышей (побед) и проигрышей (поражений) игрока зависит от того, в какой полосе — светлой или тёмной — он находится. Казалось бы, что, когда в очередной раз игрок бросает монету, все прошлые игры забыты и игра начинается снова. Вероятность каждой новой игры не зависит от резуль-
татов предыдущей игры. Это означает, что не существует стратегии, которая может гарантировать выигрыш одному из игроков и потери (вплоть до разорения) другому. Согласно «теореме о минимаксе» Дж. фон Неймана (фон Нейман, 1961; фон Нейман, Моргенштерн, 1970), при оптимальной стратегии каждого из игроков в конечной антагонистической игре с нулевой суммой выигрыши равны. Иными словами, если противопоставить случайности выпадения сторон монеты случайную стратегию угадывания герба и цифры, то останешься при своих деньгах. Однако практика показывает, что, как правило, есть выигрывающие и проигрывающие. Почему это так?
Г.Р. Иваницкий предложил, на языке биологической теории, считать, что роль крупье исполняет окружающая среда, а роль игрока исполняет живая (можно добавить, что ещё раньше, неживая) материя. Игрок не может влиять на результаты подбрасываемой («честной») монеты. Тем не менее игрок может определенным образом управлять процессом выигрышей и проигрышей в каждой игре, меняя ставку перед каждым очередным бросанием монеты в зависимости от результата предыдущего броска. Если игрок обладает памятью хотя бы на один раунд и помнит, был выигрыш или проигрыш в предыдущем раунде, то игрок может выбирать стратегию изменения ставки при следующем бросании монеты. Тогда события данного бросания в терминах ставки могут иметь другую цену по сравнению с предыдущим бросанием. Независимые вероятности становятся зависимыми. Иными словами, цель стратегии — внести асимметрию в терминах ставок в первоначальное симметричное распределение проигрышей и выигрышей.
Если игрок проигрывает, то в третьем раунде он делает небольшую ставку и не изменяет её до очередного выигрыша. Так что в каждой игре, независимо от того, в каком раунде игрок выигрывает, им может быть получено приращение выигрышей. В сущности, стратегия, предложенная Иваницким, состоит в усилении выигрышной совокупности кластеров, в которых одна и та же сторона монеты выпадает подряд несколько раз. Результаты компьютерного моделирования с использованием стратегии линейного увеличения ставки показаны на рис. 3. Структура диаграммы такова: по оси абсцисс (горизонтально) откладывается количество попыток; по оси ординат (вертикально) — выигрыши и проигрыши.
Рис. 3. В полосе выигрышей ставка увеличивается линейно, в полосе проигрышей находится на нижнем уровне и не изменяется. Сумма проигрышей — столбцы, отложенные вниз по оси ординат; сумма выигрышей — столбцы, отложенные вверх по оси ординат. По оси абсцисс отложены данные о бросании монеты, то есть время. Общее количество бросаний в данном случае равно N = 150
Важно иметь достаточный исходный капитал. Очевидно, для того чтобы в каждой игре быть готовыми, например, участвовать хотя бы в восьми раундах с удвоением ставки, потребуется 28—1 = 255 фишек. Чтобы особенно не рисковать, лучше увеличивать ставки по арифметической прогрессии. Хотя сумма выигрыша уменьшится. Суть стратегии состоит в том, что формируется цикл с переменными коэффициентами обратной связи. В процессе игры игрок (живой объект) через управление ставкой вносит асимметрию в симметричное распределение случайностей, которые создаются внешней средой (её моделирует бросание монеты). Это простейший пример образования цикла с переменным коэффициентом обратной связи в случайном процессе. Асимметрия возникает не в результате бросания монеты, но в результате изменений ставки в полосах выигрышей и проигрышей. То есть в кинетике процесса происходит изменение вероятностей выигрыша/проигрыша. Долгое компьютерное моделирование подтверждает справедливость такого счёта в «эволюционной игре». Длительное компьютерное моделирование подкрепляет справедливость такого рассмотрения такой эволюционной игры.
Таким образом, можно сделать вывод о том, что величайшей «находкой» природы было появление примитивной памяти, по крайней мере, на один цикл изменения внешней среды. Это сразу же разделило всю природу на живую природу и неживую природу. В той её части, которая называется живая материя, возможность предсказать (хотя и не точно) изменение среды своего существования. У её части (живой материи) появилась возможность прогнозировать (пусть приблизительно) изменения среды своего существования. Генетический код — это память, направленная на масштабирование игры.
Разумеется, данный вариант не является единственно возможным. Любая последовательность химических реакций также обладает памятью:
A + B k1 k2 AB, AB + AB k3 k4 ABAB,
ABAB k5 k6 ABAB • ABAB,
k6 '
где A и B являются субстратами, AB — продукт первого цикла. Для следующего цикла: AB и AB являются субстратами, а ABAB — продукт и т. д. kl, k2, k3, ... — химические константы прямого и обратного путей реакции.
Значения констант ki в реальных условиях могут меняться вместе с материальными условиями среды (температуры, кислотности, электрических и магнитных полей и т. д.), нарушая равновесие прямого и обратного направления реакции. Чем больше протяжённость химического цикла веществ во времени, то есть чем дальше по этой цепи успевает продвинуться образование продуктов при благоприятных условиях, тем меньше вероятность обратного пути реакции к исходным продуктам A и B. Это и есть память цикла химических реакций о прошлом. Стратегия, направленная на более или менее надежный выигрыш, требовала очень большого (в идеале бесконечного) времени на игру и, что особенно важно, очень большого капитала, а в нашем случае, напомним, энергии или её притоков во время игры. Эта стратегия состоит в масштабировании игры их, где n — число раундов в одной игре. При формировании живых систем было и то, и другое: 4,5 млрд лет на эволюцию и приток энергии Солнца.
Таким образом, моделирование, выполненное Г.Р. Иваницким, существенно помогает нам представить, как из случайного симметричного хаотического процесса мог происходить некоторый направленный процесс.
Приложение. Дополнение к расчётам Д. Канемана
Использовано в выступлении на международных конференциях: Международная конференция «Экономическая культура: ценности и интересы» (25—26 апреля 2013 г., Санкт-Петербург); Международная конференция «Эволюционная концепция человека XXI в.: наука и философские аспекты» (22 ноября 2013 г., Санкт-Петербург).
Number of tosses Contents Expected value Probability of losing "anything" Concretely
One toss Losses doubled lose 100; win 200 /2 lose 200; / win 200 50 0 50 % not less than 100
Two tosses Losses doubled % lose 200; / win 100; % win 400 % lose 400; / win 100; % win 400 100 50 25 % not less than 200
Three tosses Losses doubled 1/8 lose 300; 3/8 win 0; 3/8 win 300; 1/8 win 600 1/8 lose 600; 3/8 win 0; 3/8 win 300; 1/8 win 600 150 112,5 12,5 % not less than 300
Four tosses Losses doubled 1/16 lose 400; 4/16 lose 100; 6/16 win 200; 4/16 win 500; 1/16 win 800 1/16 lose 800; 4/16 lose 200; 6/16 win 200; 4/16 win 500; 1/16 win 800 200 150 5/16, i. e. 31,25 % not less than 100 6.25 %, not less 400; 25 %, not less 100
Five tosses Losses doubled 1/32 lose 500; 5/32 lose 200; 10/32 win 100; 10/32 win 400; 5/32 win 700; 1/32 win 1000 1/32 lose 1000; 5/32 lose 400; 10/32 win 100; 10/32 win 400; 5/32 win 700; 1/32 win 1000 250 203,125 6/32, i. e. 18,75 % not less than 200 3,125 %, n. l. 400; 15,625 %, n. l. 200
Six tosses Losses doubled 1/64 lose 600; 6/64 lose 300; 15/64 win 0; 20/64 win 300; 15/64 win 600; 6/64 win 900; 1/64 win 1200 1/64 lose 1200; 6/64 lose 600; 15/64 win 0; 20/64 win 300; 15/64 win 600; 6/64 win 900; 1/64 win 1200 300 262,5 7/64, i. e. 10,9375 % not less than 300 1,5625 %, n. l. 600; 9,375 %, n. l. 300
Seven tosses Losses doubled 1/128 lose 700; 7/128 lose 400, 21/128 lose 100; 35/128 win 200; 35/128 win 500; 21/128 win 800; 7/128 win 1100; 1/128 win 1400 1/128 lose 1400; 7/128 lose 800, 21/128 lose 200; 35/128 win 200; 35/128 win 500; 21/128 win 800; 7/128 win 1100; 1/128 win 1400 350 306,25 29/128, i. e. 22,64 % not less than 100 0,7812 %, n. l. 700; 5,4688 %, n. l. 400; 16,405 %, n. l. 100
Eight tosses Losses doubled 1/256 lose 800; 8/256 lose 500; 28/256 lose 200; 56/256 win 100; 70/256 win 400; 56/256 win 700; 28/256 win 1000; 8/256 win 1300; 1/256 win 1600 1/256 lose 1600; 8/256 lose 1000; 28/256 lose 400; 56/256 win 100; 70/256 win 400; 56/256 win 700; 28/256 win 1000; 8/256 win 1300; 1/256 win 1600 400 359,75 37/256, i. e. 14,452 % not less than 200 0,390 %, n. l. 800; 3,125 %, n. l. 500; 10,937 %, n. l. 200
Nine tosses Losses doubled 1/512 lose 900; 9/512 lose 600; 36/512 lose 300; 84/512 lose 0; 126/512 win 300; 126/512 win 600; 84/512 win 900; 36/512 win 1200; 9/512 win 1500; 1/512 win 1800 1/512 lose 1800; 9/512 lose 1200; 36/512 lose 600; 84/512 lose 0; 126/512 win 300; 126/512 win 600; 84/512 win 900; 36/512 win 1200; 9/512 win 1500; 1/512 win 1800 450 410,74 46/512, i. e. 8,964 % not less than 300 0,195 %, n. l. 900; 1,757 %, n. l. 600; 7,031 %. n. l. 300
Ten tosses Losses doubled 1/1024 lose 1000; 10/1024 lose 700; 45/1024 lose 400; 120/1024 lose 100; 210/1024 win 200; 252/1924 win 500; 210/1024 win 800; 120/1024 win 1100; 45/1024 win 1400; 10/1024 win 1700; 1/1024 win 2000 1/1024 lose 2000; 10/1024 lose 1400; 45/1024 lose 800; 120/1024 lose 200; 210/1024 win 200; 252/1924 win 500; 210/1024 win 800; 120/1024 win 1100; 45/1024 win 1400; 10/1024 win 1700; 1/1024 win 2000 500 462,88 176/1024, i. e. 17,187 % not less than 100 0,0976 %, n. l. 1000; 0,9756 %, n. l. 700; 4,3945 %. n. l. 400 11,7178 %. n. l. 100
Литература
Дарвин Ч. Происхождение видов путем естественного отбора. Л.: Наука, 1991. 539 с. Иваницкий Г.Р. XXI век: что такое жизнь с точки зрения физики // Успехи физических наук. 2010. Т. 180. № 4. С. 337-369.
Канеман Д. Думай медленно... решай быстро. М.: АСТ, 2014. 653, [3] с. Караваев Э.Ф. Средства неклассической логики в формализации процедур планирования деятельности // Вестник Санкт-Петербургского государственного университета. 2008. Сер. 6. Вып. 1. С. 87-94.
Колмогоров А.Н. Уклонение от формул Харди при частичной изоляции // Теория вероятностей и математическая статистика. М.: Наука, 1986. С. 170-173.
Колчинский Э.И. Эрнст Майр и современный эволюционный синтез. М.: Товарищество научных изданий КМК, 2006. 149 с.
Кунин Е.В. Логика случая. О природе и происхождении биологической эволюции. М.: Центр-полиграф, 2014. 527 с. (Авторизованный перевод с английского языка книги: Koonin E.V. The Logic of Chance. The Nature and Origin of Biological Evolution. Upper Saddle River (New Jersey): Pearson Education, Inc., 2012. XIII, 516 p.)
Льюс Р.Д., Райфа Х. Игры и решения: Введение и критический обзор. М.: Изд-во иностранной литературы, 1961. 642 с.
Секей Г. Парадоксы в теории вероятностей и математической статистике. М.: Мир, 1990. 240 с. Нейман Дж. фон. К теории стратегических игр // Матричные игры / Под ред. Н.Н. Воробьёва. М.: Физматгиз, 1961. С. 173-204.
Нейман Дж. фон, Моргенштерн О. Теория игр и экономическое поведение. М.: Наука, 1970. 707 с.
Burns T., Roszkowska E. Generalized Game Theory: Assumptions, Principles, and Elaborations // Studies in Logic, Grammar, and Rhetoric Grounded in Social Theory. 2005. Vol. 8 (21). P. 7-34. FisherR.A. The Genetic Theory of Natural Selection. Oxford: Clarendon Press, 1930. XIV, 280 p. FisherR.A. Polymorphism and natural selection // Journal of Ecology. 1958. Vol. 46. No. 2. P. 289-293. Hamilton W.D. Narrow Roads to Gene Land. Vol. I. Evolution of Social Behaviour. Oxford: Oxford University Press; NewYork: Freeman, 1996. 568 p.
Hamilton WD. Extraordinary sex ratios // Science. 1967. Vol. 156. No. 3774. P. 477-488. Kahneman D. Thinking, fast and slow. New York: Farrar, Straus and Giroux, 2011. 499 p. Lewontin R.C. Evolution and the theory of games // Journal of Theoretical Biology. 1961. Vol. 4. No. 1. P. 382-403.
Maynard Smith J., Price G.A. The logic of animal conflict // Nature. 1973. Vol. 246. No. 5427. P. 15-18. Maynard Smith J. Evolution and the Theory of Games. Cambridge: Cambridge University Press, 1982. VIII, 224 p.
Monod J. Change and Necessity: an Essay on the Natural Philosophy of Modern Biology / transl. from French A. Wainhause. New York: Alfred A. Knopf, 1971. 199 p.
Nash J. Non-Cooperative Games // The Essential John Nash / Ed. by H.W. Kuhn, S. Nasar. Princeton: Princeton University Press, 2002. P. 51-98.
Samuelson P.A. Risk and uncertainty: A fallacy of large numbers // Scientia. 1963. Vol. 98. No. 1. P. 108-113. Sigmund K. John Maynard Smith and evolutionary game theory // Theoretical Population Biology. 2005. Vol. 68. No. 1. P. 7-10.
Taleb N.N. Antfragile: Things That Gain from Disorder. New York: Random House, Inc., 2012. XVII, 521 p.
On the Development of Modern Tools for Modeling of Evolution
Eduard F. Karavaev
The Institute of Philosophy, Saint-Petersburg State University, 5, Mendeleevskaya Line, St. Petersburg,
Russia; [email protected]
Modern evolutionary theory deals with the search of mathematical tools for the synthesis of various factors of chance and determinism in evolution: random and (quasi-) directed mutation; selection; drift; egoistic and altruistic tendencies in the behaviour of structures at different levels of life (ecosystem, population, organismal, genomic). The historical-scientific and logical-mathematical analysis of the most significant events in the search process allows to reconstruct the main stages in the mathematical representation of the role of chance in evolution, to evaluate the proposed methods. The origins of mathematical modeling
of evolution are given in the works of R. Fisher, A.N. Kolmogorov, D.D. Romashov, A.A. Malinovskii in the 1930s, who used game-theoretic ideas and partial differential equations to represent selection, genetic drift, isolation and size of populations. J. Nash "anticipated" the idea of game-theoretic modeling of evolution with his concept of "Nash equilibrium" (1949). W.D. Hamilton in the 1960s was the first one who consciously focused on game theory in modeling intraspecific competition and assessments of adaptation dependent on the ratio of frequencies of strategies. The most significant contribution to the game-theoretic modeling of the evolution belongs to J. Maynard Smith, who introduced the concept of "evolutionary stable strategy" (ESS) (1982). The calculations corresponding to the repetition of the "game" in which the ratio of losing and winning are 50/50 and win is more than double the loss (proposed by D. Kahneman in 2014), show that ESS is feasible on the time scale of evolution. G.R. Ivanitskii proposed (2010) an interpretation of the St. Petersburg paradox, which is of great heuristic value. In it the environment plays the role of a "dealer", and the living nature — the role of a "player". If the player has a memory of at least one round, he can choose a strategy of rate changes in the next round. So, the appearance of primitive memory (at least one cycle of changing the environment), became the greatest "invention" of life that set it apart from inanimate nature and provided ongoing evolution. And, after all, no mathematical method (partial differential equations, game theory, Markov processes, Monte-Carlo) is not "omnipotent and perfect" in the modeling of objective chance in evolution.
Keywords: mathematical modeling, game theory, evolutionary stable strategy (ESS), Nash equilibrium, prisoner's dilemma, loss aversion, St. Petersburg paradox.
References
Burns T., Roszkowska E. (2005)"Generalized Game Theory: Assumptions, Principles, and Elaborations", Studies in Logic, Grammar, and Rhetoric Grounded in Social Theory, vol. 8, no. 21, pp. 7—34.
Darwin Ch. (1991) Proiskhozhdenie vidovputem estestvennogo otbora [The origin of species by means of natural selection], Leningrad: Nauka.
Fisher R.A. (1930) The Genetic Theory of Natural Selection, Oxford: Clarendon Press.
Fisher R.A. (1958) "Polymorphism and natural selection", Journal of Ecology, vol. 46, no. 2, pp. 289—293.
Hamilton W.D. (1996) Narrow Roads to Gene Land, vol. I. Evolution of Social Behaviour, Oxford: Oxford University Press, New York: Freeman.
Hamilton W.D. (1967) "Extraordinary sex ratios", Science, vol. 156, no. 3774, pp. 477—488.
Ivanitskii G.R. (2010) "XXI vek: chto takoe zhizn' s tochki zreniia fiziki" [XXI century: what is life from the point of view of physics], Uspekhi fizicheskikh nauk, vol. 180, no. 4, pp. 337—369.
Kahneman D. (2011) Thinking, fast and slow, New York: Farrar, Straus and Giroux.
Kaneman D. (2014) Dumaimedlenno... reshaibistro [Think slowly ... solve quickly], Moscow: AST.
Karavaev E.F. (2008) "Sredstva neklassicheskoi logiki v formalizatsii protsedur planirovaniia deiatel'nosti" [Means of non-logic in formalization of procedures for planning activities], Vestnik Sankt-Peterburgskogogosudarstvennogo universiteta, ser. 6, no. 1, pp. 87—94.
Kolmogorov A.N. (1986) "Uklonenie ot formul Khardi pri chastichnoi izoliatsii" [Evasion from the Hardy's formula in partial isolation], in: Kolmogorov A.N. Teoriia veroiatnostei i matematicheskaiastatis-tika [Probability theory and mathematical statistics], Moscow: Nauka, pp. 170-173.
Kolchinsky E.I. (2006) ErnstMair isovremennyi evoliutsionnyisintez [Ernst Mayr and modern evolutionary synthesis], Moscow: Tovarishchestvo nauchnykh izdanii KMK.
Koonin E.V. (2012) The Logic of Chance. The Nature and Origin of Biological Evolution, Upper Saddle River (New Jersey): Pearson Education.
Lewontin R.C. (1961) "Evolution and the theory of games", Journal of Theoretical Biology, vol. 4, no. 1, pp. 382-403.
Luce R.D., Raiffa H. (1957) Games and Decisions: Introduction and Critical Survey, New York: Wiley.
Maynard Smith J. (1982) Evolution and the Theory of Games, Cambridge: Cambridge University Press.
Maynard Smith J., Price G.A. (1973) "The logic of animal conflict", Nature, vol. 246, no. 5427, pp. 15-18.
Monod J. (1971) Change and Necessity: an Essay on the Natural Philosophy of Modern Biology, translated from French by A.Wainhause, New York: Alfred A. Knopf.
Nash J. (2002) "Non-Cooperative Games", in: Kuhn H.W. and Nasar S. (eds.) The Essential John Nash, Princeton: Princeton University Press, pp. 51-98.
Neuman J., von (1928) "Zur Theorie der Gesellschaftsspiele", Mathematische Annalen, Bd. 100, S. 295-320.
Neuman J., von (1961) "K teorii strategicheskikh igr" [To the question about the theory of strategic games], in: Vorob'ev N.N. (ed.) Matrichnye igry [Matrix games], Moscow: Fizmatgiz, pp. 173-204.
Neuman J. von, Morgenstern O. (1944) Theory of games and economic behavior, Princeton: Princeton University Press.
Samuelson P.A. (1963) "Risk and uncertainty: A fallacy of large numbers", Scientia, vol. 98, no. 1, pp. 108-113.
Sekei G. (1990) Paradoksy v teorii veroiatnostei i matematicheskoi statistike [Paradoxes in probability theory and mathematical statistics], Moskva: Mir.
Sigmund K. (2005) "John Maynard Smith and evolutionary game theory", Theoretical Population Biology, vol. 68, no. 1, pp. 7-10.
Taleb N.N. (2012) Antfragile: Things That Gain from Disorder, New York: Random House, Inc.
