CC BY
146
Программные продукты и системы /Software & Systems
№ 2 (110), 2015
УДК 519.859 Дата подачи статьи: 16.12.14
DOI: 10.15827/0236-235X.110.083-094
ФОРМИРОВАНИЕ ПРЕДСТАВЛЕНИЙ АГЕНТА О ПРЕДМЕТНОЙ ОБЛАСТИ В СИТУАЦИИ ВЫБОРА
Г.П. Виноградов, д.т.н., профессор, [email protected];
Г.П. Шматов, к.т.н., доцент, [email protected] (Тверской государственный технический университет, наб. Аф. Никитина, 22, г. Тверь, 1 70026, Россия);
Д.А. Борзов, программист, [email protected] (ЗАО «Элвис-НеоТек», технопарк «Зеленоград», 4, г. Москва, 124460, Россия)
Эффективность информационных технологий при управлении многоагентной системой в условиях неопределенности зависит от того, как агенты с их помощью формируют субъективные представления о свойствах ситуации выбора. Для формирования «правильного представления» агент (субъект) организует сбор информации для «снятия» различного рода неопределенностей и формирования гипотетической модели ситуации выбора.
Цель данной работы - развитие методов моделирования, направленных на выявление психических стратегий конкретного агента путем анализа его поведения, речевых паттернов, невербальных реакций в ситуациях целеустремленного состояния, выбора и реализации способов действия. Это предполагает интерактивное взаимодействие исследователя и агента. В процессе взаимодействия выявляются специфичные когнитивные, лингвистические и поведенческие навыки, которые использует субъект в ситуациях выбора для достижения желаемых результатов. Они, в свою очередь, отражают систему ценностей, норм, способностей, убеждений и знаний, присущих конкретному субъекту. Эти структуры выражаются в процедурах формирования решений и реализации их в поведении, поэтому представляют интерес разработка математических моделей, учитывающих поведение агента, на основе теории нечетких систем и теории отношений и обоснование возможности применения нечетких мер для включения субъективных оценок в модель выбора.
Выбранные авторами методы исследования: общая методология и методы системного анализа, аналитического моделирования, а также методы теорий множеств, активных систем, принятия решений, искусственного интеллекта, нечетких систем и нечеткого логического вывода, теории игр.
В работе исследованы структура и виды представлений агента о ситуации целеустремленного состояния. Формализована модель выбора на основе субъективных представлений о реальности. Показано, что описание представлений средствами языка, которым располагает агент, образует модель, оценку которой он делает с помощью термов лингвистической переменной «убежденность в полезности». Такая оценка выражает уверенность агента в полезности модели-представления для перехода из одного целеустремленного состояния в другое. Показано, как изменяется эта оценка при поступлении новой информации. Для вычисления функций принадлежности предложено использовать композиционное правило Заде. Введены оценки для описания уровня убежденности и степени сомнения агента в полезности своих представлений. Показано, что для случая, когда агент оценивает свои представления набором параметров, в условиях неопределенности оценку качества представлений можно выполнить с помощью нечеткого интеграла. Такой прием позволил предложить алгоритм формирования определенного уровня убежденности агента в полезности его представлений. Описано применение в задачах медицинской диагностики.
Ключевые слова: нечеткое множество, принятие решений, нечеткие предпочтения, убежденность, модели нечеткого выбора.
Человек живет и действует в объективно существующем мире в соответствии со своими представлениями о предметной области, своих действиях, целях и результатах, демонстрируя тем самым так называемое активное поведение. В основе любого акта мышления при формировании представлений лежит индивидуальное мышление человека (в дальнейшем - агента), подчиненное логическим и психологическим закономерностям.
Первая гипотеза: способ действия и поведение, творчество, обучение и научение определяются некоторым набором программ, который каждый агент формирует для себя. Эти программы позволяют решать с различной степенью эффективности определенные задачи и достигать желаемых результатов. Основой их формирования являются представления агента о компонентах ситуации выбора, которые следует рассматривать как модели, и его способность формировать такие модели. С их
помощью агент осуществляет взаимодействие с окружающим миром путем внутреннего программирования на языке описания представлений. Функциональное назначение представлений - получить возможность моделировать результаты в зависимости от выбираемых действий и состояния внешней среды. Выводы, которые делаются на их основе, формируют у агента состояние убежденности, в котором он выполняет субъективные оценки степени полезности моделей-представлений.
Вторая гипотеза: агент познает реальность только с помощью им же созданных моделей при данном уровне своих знаний. В ситуации неполной информации, знания или дефицита времени он строит модели, исходя из правдоподобных предпосылок. Комплекс таких предпосылок, идей, взглядов, образующих гипотетическую концепцию агента, объясняющих явления и процессы или свя-
83
Программные продукты и системы /Software & Systems
№ 2 (110), 2015
зи между ними в конкретной ситуации выбора, будем называть представлениями или субъективной моделью агента предметной области. Представление имеет гипотетико-дедуктивную структуру. Гипотезы выступают как попытки разрешить проблемы, дедукция позволяет проверить содержание гипотез фактами. Таким образом, можно сделать следующие выводы:
- истинность гипотез нельзя доказать средствами представлений, но степень уверенности в их полезности можно повысить, используя средства фальсификации (опровержения) [1];
- по законам дедукции из гипотез выводят предложения, которые можно сопоставить с фактами;
- сопоставление с фактами дает два результата: либо предложения не противоречат фактам, в таком случае представления считаются полезными, либо предложения субъективной теории опровергаются, в таком случае субъективная модель предметной области агента считается ложной и либо отвергается, либо корректируется.
Если результат, полученный от исполнения решения, сформированного на основе субъективных представлений агента, не соответствует его ожиданиям, он реализует немонотонный процесс пересмотра убеждений, который предполагает изъятие ошибочной предпосылки и/или введение новой. Новые убеждения появляются в связи с поступлением информации, получаемой от системы мониторинга трех миров: мира объектов (наблюдения, эксперимент), мира субъектов (коммуникация, наблюдение) и мира объективного знания, который порожден первым и вторым мирами, но существует независимо от них. Для повышения степени убежденности в истинности предпосылок и уверенности в предполагаемых результатах агент использует различные процедуры повышения своей информированности.
Общая схема любой формы активного поведения представлена на рисунке 1.
Методы моделирования должны быть направлены на выявление психических стратегий конкретного человека путем анализа его поведения, речевых паттернов, невербальных реакций в ситуациях целеустремленного состояния, выбора и реализации способов действия. Такой подход предполагает интерактивное взаимодействие исследователя и агента. В процессе этого взаимодействия, которое носит также и итерационный характер, выявляются специфичные когнитивные, лингвистические и поведенческие навыки, которые использует субъект в ситуациях выбора для достижения желаемых результатов. Они, в свою очередь, отражают систему ценностей, норм, способностей, убеждений и знаний, присущих конкретному субъекту. Эти структуры выражаются в процедурах формирования решений и реализации их в поведении. В этой связи представляет интерес
разработка математических моделей, учитывающих поведение агента на основе теории нечетких систем и теории отношений [2, 3]. Данная работа является развитием ряда положений, полученных на теоретико-множественном уровне в работах [4-7]. Ее отличием является включение в модель выбора субъективных представлений о свойствах ситуации выбора, что позволяет строить более реалистичные механизмы управления системами, содержащими активных агентов (определения этого понятия можно найти в работе [4]).
Представления агента
Структура представлений. Пусть Н - ситуация целеустремленного выбора. Она содержит в себе Г - ситуацию целеустремленного состояния [8], которая, если рассматривать ее непосредственно в связи с действием, может включать в себя следующее: Lim - ограничения, С - способы действия, i - нормативные или идеальные элементы, ie - символические выражения нормативных или идеальных элементов, Q - внешнюю среду, o - результаты, которые агент принимает во внимание в ситуации Г.
Ситуация целеустремленного состояния в сознании агента существует в форме представлений, элементом которых является Т - научно обоснованное знание, которым обладает агент. Оно, в свою очередь, содержит следующее: F -множество верифицируемых фактов, L - логически правильные дедукции из F, tr - элементы, которые в терминах знания, имеющегося у агента, могут считаться им правильно научно определенными, но на самом деле являются отклонениями
Рис. 1. Схема формы активного поведения агента Fig. 1. A form scheme of the agent’s proactive behavior
84
Программные продукты и системы /Software & Systems
№ 2 (110), 2015
от научного стандарта - их можно назвать ненаучными элементами. К последним относятся: f -утверждения, ошибочно принимаемые за факты (ложные предположения); l - логически ошибочные выводы; g - невежественность (незнание), то есть элементы, существующие объективно, но субъективно не обнаруживаемые; r - элементы, варьирующиеся произвольно относительно элементов, сформулированных как Т и tr. Кроме Т, в субъективном представлении о целеустремленной ситуации существуют G - цель и P - правило выбора, связывающее G и Г.
Виды представлений. Агент формирует представления по следующим компонентам: доступные для него способы действия; возможные результаты от реализации этих способов действия; возможные состояния окружения выбора (возможные значения неуправляемых переменных, которые могут повлиять на результаты от применения доступных способов действия, в том числе и представления других агентов); вероятность того, что каждое возможное состояние окружения выбора окажется истинным; эффективность каждого доступного способа действия по каждому возможному результату в каждом возможном состоянии окружения выбора; удельная ценность каждого возможного результата (определение удельной ценности дано в [9]).
Модель выбора на основе субъективной модели реальности
Пусть имеется рациональный агент, использующий шкалу X, которая может быть конечной или бесконечной. Предполагается, что на множестве X задано бинарное отношение у, обладающее свойствами асимметричности, транзитивности и слабой связности. Такое отношение называется отношением строгого предпочтения на множестве значений критерия. Известно, что слабая связность отношения Ъ означает следующее: для любых двух элементов x и x2eX, х1Ъх2, выполняется либо соотношение x1 у x2, либо соотношение x2 у хь Это делает справедливым принятие представленной на рисунке 2 модели в качестве базовой для исследования поведения агента.
Вклад целеустремленного агента в ситуацию выбора проявляется, во-первых, в оценках степени значимости факторов ситуации ф* (x*) и через них в представлении о возможных результатах; во-вторых, в оценках ценности результатов о* — Еф* (о*); в-третьих, в оценках степени возможности применения j-го способа действия для достижения /-го
результата у* (c*) ; в-четвертых, в оценках эффективности ЕЕ* (С*) достижения результата о* j-м способом действия c * , с помощью которых агент
оценивает собственные затраты на получение результата.
В модели выбора (рис. 2) представление - это та часть окружения агента, которая им воспринимается и осознается. Оно является результатом фильтрации его уникальным опытом, культурой, языком, убеждениями, интересами, предположениями и неврологией. Фильтрация позволяет упростить результат восприятия, чтобы можно было осмыслить воспринимаемое. Степень упрощения определяется целями и зависит от способностей. Качество представлений определяется не точностью или адекватностью, а полезностью при достижении желаемых состояний. Представления следует рассматривать как результат преобразования опыта субъекта (экспертного знания), теоретического (книжного) опыта и данных от измерения параметров ситуации целеустремленного состояния. Они по сути представляют собой субъективную модель предметной области, материализованную в сознании субъекта.
Описание представлений средствами языка образует модель, которая может «отчуждаться» от ее создателя, «читаться», «пониматься» другими агентами при коммуникации. Языковые возможности субъекта являются фильтрами при описании представлений. Модели не рассчитаны на отражение или конструирование единственной объективной реальности, их задача в том, чтобы воспроизвести какой-либо аспект возможной реальности. Поэтому не имеет значения «истинность» модели, учитывается лишь «убежденность в ее полезности». Следовательно, все модели можно считать символическими или метафорическими, а не просто отражающими реальность. Каким бы ни было используемое описание - метафорическим или буквальным, полезность модели зависит от степени, в которой она позволяет совершить эффективный переход из одного целеустремленного состояния в другое.
85
Программные продукты и системы /Software & Systems
№ 2 (110), 2015
Для вербального описания ситуации целеустремленного состояния широко применяется нечеткое отношение моделирования R:ExM^[0, 1] [2]. Его использование позволяет описать причинно-следственную связь между наблюдаемым состоянием компонентов или параметров ситуации целеустремленного состояния и внутренним представлением агента о ней в виде лингвистических переменных. Для описания влияния выделенных агентом факторов на результаты ok, i = 1, m, будем использовать аппроксимацию представлений в виде нечетких продукционных правил, которые имеют вид:
если x1 есть А и если x2 есть Akrl и ... и если xnесть AkrN, то ok = f (x;, x2, xN),
r = 1, R, (1)
где R - количество продукционных правил; r -номер текущего продукционного правила; ok = fk(x, x2, ..., xN) - четкая функция, отра-
жающая представление агента о функциональной связи входных факторов с возможными результатами для r-го правила (r-я частная модель); Akri -
нечеткие переменные, определенные на
xk = {xk, i = iTN}.
В качестве функции fr(•) могут использоваться, например, формальные модели, словесное описание. Функции fr(•) могут быть заданы графиком, таблицей, алгоритмом вычисления и т.д.
В работе [9] показано, что при выполнении гипотезы о субъективно рациональном поведении агент формирует решение в соответствии со следующим:
f (CTi, yiPi, s) = Arg max Eф, (о,, st, ct, ut)
Si £ Si, ci e Ci (I‘t X ui £ Ui, oi = oi(у,) £ 0°
У, = fEt (si, ci, yj) £ Xi, 0i = O, j =1 n}
—) (2)
I, c M, х1(Еф, ) >X;0, x2(EEt) >x
где Eфi и EEi - интегральные оценки агента удельной ценности ситуации целеустремленного состояния по результату и эффективности;
X, l = 1,2 - оценки, отражающие эмоциональное
отношение агента к ситуации выбора; EфI■ можно рассматривать как субъективный образ (цель) желательного состояния, формируемый агентом на основе оценок компонент ситуации целеустремленного состояния.
Модель (2) показывает, что выбор субъектом способа действия осуществляется на основе его личных представлений о целеустремленном состоянии и отражает тот факт, что рациональность дана человеку в инстинктах, то есть, что бы человек ни делал, он стремится выполнить некоторое позитивное намерение (может, и неосознанно). Таким образом, поведение человека определяется
лучшим выбором из множества доступных ему в данный момент вариантов на основе субъективных оценок свойств ситуации целеустремленного состояния, что позволяет отнести задачу (2) к классу задач нечеткого выбора. Она предоставляет возможность имитировать процесс поиска агентом решения, используя качественную словесную информацию, полученную при наблюдении за его поведением или в процессе коммуникации с ним, определить направление изменения представлений, его системы ценностей для нахождения новых альтернатив или изменения нежелательного поведения.
Пусть O0 - произвольное непустое нечеткое множество на множестве O.
Определение 1. Нечеткой функцией выбора называется отображение P, заданное на множестве всех непустых подмножеств 2°\{0}, которое ставит в соответствие каждому O0cO определенное нечеткое множество E(O0) с функцией принадлежности Ро (о), обладающей свойствами р0^ (о) £
e [0, 1] V oeOocO, р0() (о) =0 V oeOJO.
Будем считать, что возможна ситуация, когда для некоторых x oe O0cO, р^ (о) =0 V oeO.
Это означает, что выбор из множества O является пустым, то есть E(O) = 0. Другими словами, при предъявлении некоторых O имеет место отказ от выбора.
Согласно этому определению, исход или выигрыш от выбора определяется нечетким подмножеством O0 на множестве исходов О. Это и позволяет использовать представления о ситуации выбора человека, на основе которых он устанавливает соответствия между альтернативами и исходом, используя нечеткие действительные числа и лингвистические переменные. При сравнении исходов, представленных в виде нечетких действительных чисел, необходимо определить меры для выявления предпочтений при сравнении нечетких действительных чисел.
Оценки предпочтений на множестве нечетких действительных чисел
Формирование нечеткого предпочтения на базе использования операций отношения между нечеткими действительными числами состоит в выявлении следующих ситуаций: 1) строгое предпочтение; 2) безразличие; 3) большая предпочтительность; 4) несравнимость. Из теории нечетких множеств известно, что подмножество элементов множества Х, для которых р(х) > 0, называется носителем (суппортом) нечеткого множества А: А = {(x, р^ (x));x e X} и обозначается suppA. Соответствующая формальная запись имеет вид: suppA = {x e X; рл (x) > 0}.
86
Программные продукты и системы /Software & Systems
№ 2 (110), 2015
Тогда для случая а) очевидно, что suppA^suppB = 0, то есть носители обоих нечетких множеств не имеют общих элементов.
Для случая б) нечеткое множество B содержится в нечетком множестве A или pB (х) < рл (х), или suppBcsuppA.
Случай б) предполагает две ситуации:
- нечеткое множество A равно нечеткому множеству B: pB(x)= pA(x);
- нечеткое множество A почти равно нечеткому множеству B; здесь можно ввести понятие степени равенства нечетких множеств A и B, например, в виде E(A = Б) = 1-max\pA(х) -рг(х)|,
хеТ
где T = {xeX; ^a(x)* Pb(x)}.
Случай в) можно оценивать и с других позиций. Известно, что a-уровнем нечеткого множества AcX, обозначаемым как Аа, называется четкое подмножество Аа = {х е X: рА (х) >a}, то есть это подмножество определяется характеристической функцией
[1 для Ра (х) > a,
V А (х) = i
Aa [0 для рА (х) < a.
Определение 2. Пусть нечеткие множества A<XX и BcX, где X - четкое множество, и для каждого нечеткого множества определены множества a-уровня следующим образом:
Aa = {х е X : Ра (х) >a} Ба= {х е X : Рб (х) >a} где pA(x) и pB(x) - функции принадлежности, значения которых выражают степень уверенности агента в принадлежности элемента x множествам А и B соответственно. Альтернатива a будет предпочтительнее альтернативы b тогда и только тогда, когда х > х, ^ха е Аа (х), хъ е Ба (х), то есть А больше B на уровне a.
Обозначим через a минимальное значение a, при котором выполняется неравенство
ха > хЬ , е Аа (х) хЬ е Ba (х) .
Тогда p=1-ae[0, 1] будет оценкой степени убежденности агента в предпочтительности a относительно b либо в безразличии при выборе a или b.
По аналогии, если Аа содержится в Ва, то есть АасВа, то говорят, что А содержится в В на уровне a. Так же, как и в предыдущем случае, введя оценку степени убежденности 1-a, где a - это минимальное значение a, при котором будет справедливо АасВа, можно говорить, что АасВа, со степенью убежденности, равной 1-a.
Величину 1-a можно считать также оценкой уверенности агента в предпочтительности одной альтернативы над другой. Если величина p=1-a возрастает (или a уменьшается), утверждение о том, что А больше В (или А содержится в В), становится более ясным. При a=0 любой элемент,
принадлежащий нечеткому множеству, будет для агента достоверно принадлежать только этому множеству. Легко видеть, что величина p=1-a зависит от вида функций принадлежности pA(x) и pB(x). Чем меньше размах suppA и suppB (интервал от минимального до максимального значения), тем более четко выражены представления агента о ситуации выбора.
Убежденность и информация
Введение оценки степени уверенности при сравнении альтернатив позволяет сделать следующее.
• Определить степень достаточности информации для принятия решения. При значении степени уверенности ниже некоторого порога принятие решения откладывается для сбора дополнительной информации или для коррекции.
• Определить для агента ценность дополнительной информации. Она может быть равной нулю, если степень уверенности не изменится после ее получения. Если величина p =1-a выросла, значит, информация способствовала росту степени представления агента о ситуации выбора. Если p,(a,) <pI-1(aI-1), то либо имеет место дезинформация, либо полученные данные разрушают представление агента о ситуации выбора и требуются новые данные.
• Интерпретировать влияние эмоционального фона на результат оценки ситуации. Эмоциональное состояние агента, изменяющееся под влиянием интенсивной рабочей нагрузки и связанное с переживаниями, вызванными дефицитом времени или большой ответственностью, ведет к увеличению нечеткости оценок и к снижению величины p.
Значение пороговой величины степени уверенности зависит от индивидуальных характеристик агента: более осторожный человек потребует, чтобы степень уверенности была высокой; решительный, привыкший рисковать - менее высокой. Это позволяет сформулировать меру для количественной оценки типа агента.
Величина Ap,=p,-pI-1>0 (<0) позволяет определить направление поиска информации. Пусть имеются два высказывания: psX есть G и qXX есть F, где F и G - предикаты, представленные в виде нечетких множеств. Тогда, если GcF, то p^q (p влечет q). Для вычисления соответствующих функций принадлежности целесообразно использовать так называемое композиционное правило вывода, предложенное Л. Заде, так как из теории нечеткого вывода известно, что близкое к А утверждение А ’ является истинным, и правило modus ponens не может быть применено.
Композиционное правило вывода Л. Заде формулируется следующим образом: пусть U и V -два универсальных множества с базовыми пере-
87
Программные продукты и системы /Software & Systems
№ 2 (110), 2015
менными и и v соответственно. Пусть A и F - нечеткие подмножества множеств U и UxV. Тогда из нечетких множеств A и F следует нечеткое множество B = A°F, где ° - минимаксная композиция нечетких множеств, определяемая формулой
(v) = V (10, (u) Л 1^ (u, v)) . (3)
ueU
Здесь л - операция минимума (t-норма); v -операция максимума (s-норма); нечеткое множество F в данном случае представляет собой нечеткое отношение между переменными и и v. Приведенная формулировка имеет два отличия от традиционной формулировки правила modus po-nens: во-первых, здесь допускается, что А, А*, В -нечеткие множества, во-вторых, А* необязательно идентично А.
Применение правила (3) позволяет рассчитать функцию принадлежности результатов вывода при различных вариантах посылок.
Таким образом, степень убежденности при сравнении объектов для агента описывает оценку степени разделения множеств, характеризующих каждый объект. Степень убежденности при поступлении более ценной информации не должна уменьшиться по сравнению со степенью убежденности, сформированной на основе данных прошлого опыта.
Более информативное высказывание - это высказывание с меньшей нечеткостью, мешающей разделению объектов. Следовательно, изменение информированности агента влечет за собой изменение его представлений и, как следствие, изменение pA(x) и suppA, и они могут быть использованы в качестве мер информированности агента.
Значит, в теории принятия решений для более четкого различения альтернатив между собой нужно уменьшить нечеткость в оценке каждого исхода и выигрыша при применении альтернативы путем уменьшения нечеткости функции исхода и функции выигрыша (модели объекта и оценок результатов).
Достижение эффекта G<M требует увеличения числа учитываемых при описании свойств. Увеличение числа признаков может привести к двум ситуациям:
- новая информация увеличивает степень убежденности в G<zF, то есть утверждение с новым признаком является более информативным, чем такое же утверждение, но без него;
- если сравниваются два объекта с одним и тем же количеством оцениваемых свойств, к которым добавляется еще одно свойство, но его значение у обоих объектов имеет трудноразличимую величину, то добавочная информация не повышает степень убежденности в различимости объектов, но и не уменьшает ее.
Третий момент связан с использованием либо редуцированной, либо косвенной информации при принятии решения. В этом случае уменьшение
информации не оказывает положительного влияния на степень уверенности в правильном разделении объектов.
Представления как субъективная модель, связывающая способы действия и результат
Принимаемое агентом решение имеет внутреннюю структуру, определяемую его представлениями о принципах, законах, ограничениях, целях. Представление следует рассматривать как связующее звено между внешней средой (окружением) и принимаемым решением по управлению процессами в предметной области. Представления, на основе которых в схожих состояниях окружения принимаются решения, позволяющие достигать желаемых целей, будем называть знаниями. Формирование знаний основывается на принципе рациональности, согласно которому агент так организует свои представления, чтобы на их основе можно было достичь желаемых состояний (целей) при определенном диапазоне изменения свойств внешней среды.
Представления как способ адаптации агента к окружению. Возможность самостоятельного выбора агентом способа действия на основе собственных (субъективных) представлений о ситуации целеустремленного выбора для достижения цели (целей) интерпретируется как адаптивное, целенаправленное поведение. В этом смысле адаптация рассматривается как вид взаимодействия агента со средой, в ходе которого он реализует свои требования и ожидания на основе воспринимаемой и осознаваемой им информации об изменяющихся свойствах и процессах ситуации целеустремленного выбора.
В процессе адаптации агент, во-первых, изменяет свои представления о свойствах и закономерностях внешней среды и объекта управления, во-вторых, изменяет свое поведение (способы действия на основе сформированных представлений), расширяет множество способов действия путем освоения новых, в-третьих, организует целенаправленное изменение внешней среды для получения более выгодных ее состояний.
Будем считать, что агент рационален: 1) его интересы выражаются в оценках ценности
Фij(O,(Cj)) ожидаемых им результатов Oh i = l,n , от применения способов действия Cj(Q.)= 1,m на
основе представлений о ситуации выбора Г; 2) рациональность поведения агента состоит в стремлении максимизировать удельную ценность ожидаемых результатов. Выбор способа действия агентом выполняется в условиях неполной информации и неопределенности.
С ростом сложности и динамичности процессов в среде Q агент сначала строит представление о ситуации выбора в форме гипотезы, придавая
88
Программные продукты и системы /Software & Systems
№ 2 (110), 2015
наблюдаемым параметрам разную степень значимости и классифицируя их как свидетельства по признаку «за» или «против». Затем направляет свои усилия на поиск данных, подтверждающих выдвинутую гипотезу или отрицающих ее. При этом он использует только ту информацию, которую считает необходимой и достаточной для понимания процессов в предметной области. Факторы, опровергающие гипотезу, заставляют агента либо модифицировать ее, либо пересмотреть, включив в нее позитивные моменты из старой. Анализ данных об исходах позволяет сформировать вопросы (запросы) для подтверждения предположений, поиск информации для ответа на которые и является основой для принятия или отбрасывания первоначальных представлений. Такая стратегия позволяет в условиях неполноты и недостоверности исходной информации сформировать непротиворечивые отношения между наблюдаемыми параметрами и представлениями у агента.
Оценки полезности представлений агент характеризует термами лингвистической переменной «убежденность».
Определение 3. Агент убежден в адекватности своих представлений в ситуации типа Н относительно цели G, если считает, что выбор способа действия С на их основе позволит ее достичь. При этом он, во-первых, воспринимает часть характеристик Х ситуации Н; во-вторых, относительно другой части делает предположения и проявляет намерение доказать (проверить) их правдоподобность; в-третьих, в аналогичных ситуациях типа Н, в которых воспринимал присутствие (отсутствие) Х и стремился к G, выбирая С, всегда достигал G; в-четвертых, когда наблюдал отсутствие (присутствие) Х в ситуации выбора типа Н, никогда не выбирал С для достижения цели G на основе данного представления.
Под предположением будем понимать принимаемое по умолчанию значение наблюдаемой характеристики или описание причинно-следственной связи между наблюдаемыми характеристиками.
Определение 4. Уровень убежденности агента в своих представлениях о ситуации выбора типа Н относительно цели G определяется частотой ее достижения при выборе способа действия С на их основе.
Оценка уровня убежденности изменяется в пределах от нуля до единицы. Если число неудачных попыток достичь цели G при выборе способа действия С на основе представлений агента возрастает, уровень его убежденности уменьшается (и наоборот), что становится стимулом для приложения усилий по их модификации или полной реконструкции вследствие возрастания сомнения в правдоподобности сделанных предположений.
Стремление проверить правильность предположений является мерой сомнений агента.
Определение 5. Усилия, затрачиваемые агентом для доказательства (опровержения) предположений, характеризуют степень его сомнений относительно представлений о ситуации выбора типа Н при стремлении к цели G.
Согласно положениям теории психологии поведения [10], если уровень убежденности, который по определению 3 зависит от количества подтверждений правильности выбора на основе представлений, возрастает, стремление агента к проверке падает, так как он не видит в этом смысла. С другой стороны, возрастание степени сомнения агента является стимулом для поиска дополнительных аргументов (контраргументов).
Параметром, учитывающим эти две характеристики, является степень убежденности Su, рассматриваемая как
S = иа*(1 -S)ре[0,1], а + р = 1,
где Uu - уровень убежденности (прошлый опыт); Ss - степень сомнения агента в правильности своих представлений о ситуации выбора; а и р - коэффициенты значимости, которые агент придает своему опыту и необходимости поиска доказательств.
Предположение. Агент при формировании своих представлений в той или иной форме использует аппарат аргументации для построения последовательности гипотез, сходящихся к субъективно-истинной по убеждению.
Необходимость учета при моделировании поведения агента его убежденности в адекватности своих представлений о ситуации выбора предполагает введение в модель выбора лингвистической переменной «убежденность». Интервал [0, 1] используется как универсальное множество для задания лингвистической переменной «убежденность» с термами «убежден» и «не убежден» с функциями принадлежности, предложенными в работе [2]:
0 ,
^уб
ежден
(Р) = <
2 •
р-a Y
1 - a )
0< p <a, a +1
a < p <----,
2
1 - 2((p-1)/(1 - a))2, (a +1)/2 <p< 1,
Кеубевден (Р) = ^убежцен (1 - Р) д™ VPe[0, 1].
Здесь ae[0, 1] - параметр, определяющий носители нечетких множеств «убежден» и «не убежден». Для нечеткого множества «убежден» носителем будет полуоткрытый интервал (a, 1], а для нечеткого множества «не убежден» - [0, a).
Убежденность - это объект, который существует только в сознании агента. Агент использует его для выражения своего отношения к своим представлениям об объекте, то есть он занимает определенную позицию по отношению к своим
89
Программные продукты и системы /Software & Systems
№ 2 (110), 2015
представлениям. Будем обозначать такое отношение как Убежденность(агент, x), где x - это представление. Оно может существовать, например, в форме (1).
Если существует преобразование объект — представление, то существует и обратное преобразование представление — объект, которое следует положить в основу описания способности агента рассуждать о своих убеждениях. Правомерность такого утверждения следует из того, что субъект (при рациональной форме поведения) стремится к изоморфности представлений к объекту. Для этого он оценивает адекватность представлений некоторым набором параметров K={hi, i= 1,n }.
Пусть hi: K—^[0, 1] - частная оценка j-го показателя. Она может вычисляться как субъективно, так и объективно. Пусть нечеткая мера для (K, 2K) является субъективной, выражающей степень важности подмножеств из K. Например, g({h1}) выражает степень важности показателя h1 при оценке агентом соответствия представлений объекту. Тогда, используя интеграл
\h(k)°g(y= sup{aAg(M(a)}, (4)
к ае[0Д]
можно вычислить обобщенную оценку качества представлений. Здесь Ma={x \ p(x)>a} - уровневое множество. Очевидно, что существует ф: J—[0, 1], позволяющее вводить в модель субъективную оценку убежденности. Использование нечеткого интеграла дает возможность вычислять нечеткое ожидаемое значение результата. Как показано в [11], с помощью нечеткого интеграла можно моделировать принятие решений по средневзвешенной оценке (линейная свертка). Это связано с тем, что в задачах многокритериального выбора нечеткий интеграл обеспечивает получение решения, соответствующего медиане, которая в порядковых шкалах является аналогом среднего. Поскольку в этом случае ослабляется условие суммы для коэффициентов важности критериев и вводится формализация, основанная на монотонности оценок, полученная интегральная оценка будет практически совпадать с интуитивными ожиданиями человека. Приведенные рассуждения позволяют предложить следующий алгоритм вычисления степени убежденности.
Пусть описанные показатели качества построенной модели представлений образуют вектор Z={zy, j= 1,k }. Тогда очевидно, что Z={zy, j= 1,k } будет зависеть от вектора параметров функций принадлежности W={wi, i= 1, m }, образующих для агента вектор управляющих переменных, выбором которых он может обеспечить требуемый уровень прогностической эффективности модели представлений.
Будем считать агента достаточно квалифицированным и опытным, то есть его шкала ценностей определена таким образом, что различные наборы показателей Z={zy, j= 1, k } имеют для него неодинаковое значение. Это позволяет предположить существование у агента непрерывного монотонно возрастающего по каждому показателю квазивогнутого индикатора предпочтений U(Z), такого, что
Z(W(1))УZ(W(2)) ^U(Z(W!1)))> U(Z(W2))),
Z(W(1)) ~Z(W(2)) ^U(Z(W1)))= U(Z(W1})), где W1 и W2)eQW (здесь QW - множество допустимых значений управляющих переменных).
Сделанное относительно функции U(Z(W)) предположение позволяет определить решение задачи векторной оптимизации как множество точек {w°t }, максимизирующих функцию U(Z(W)), таких, что: W°={w°i, i= 1,m }eQW и Arg maxU(zj(W), •••, Zj(W), ..., Zj(W).
Для найденных значений W eQW должно выполняться условие оптимальности по Парето и поиск решения должен проходить по паретовой границе множества Z(W): E(Z(W))={Z'V)eZ(W), Z<2)eZ(W), Z<1) >Z(2)^Z(1)= Z2)}.
Функция U(Z(W)) в явном виде, как правило, неизвестна, поэтому для определения оптимальных величин целесообразно использовать интерактивные процедуры. Для этого выбирается некоторое решение W(1) с использованием информации от агента, определяется поведение U(Z(»)) в окрестности точки W(1) и на этой основе строится последовательность решений {wy, которая при определенных условиях сходится к W0.
Однако часто бывает, что множество E(Z(W)) невыпуклое и поиск в пространстве решений сопряжен со значительными трудностями. Поэтому паретову границу целесообразно параметризиро-вать элементами более простого множества A. Из известных процедур параметризации для целей оптимизации прогностических свойств модели представлений наиболее подходящей является процедура ассортиментной параметризации [1]: U(Z(W)) = U(x, Z(W)) = <х, Z(W)>, где <•> - ска-
k
лярное произведение, aeA, {ау>0, Z a. = 1}. При
j 1 j
этом выполняются условия: V WeПW, 3 a(W)eA: W(a) = Arg maxU(a(W), Z(W)) = W0, V aeA, 3 W(a)e^, где nW - область Парето.
Пусть V* - совокупность предпочтительных с точки зрения агента показателей Z(W), причем W0 и V*eE(Z(W)). Согласно принятой процедуре параметризации, V* можно представить как V*=a(A *), где A* - множество максимальных элементов отношения У, определяемых предпочтениями агента на множестве параметров A , по правилу aj У a2»a(aj)>CT(a2), ab a2eA.
90
Программные продукты и системы /Software & Systems
№ 2 (110), 2015
Тогда задача принятия решения по выбору оптимальных структуры и параметров модели представлений может быть записана в виде
U * (а) ^ max, ае А, (5)
где U*=U*ct.
Таким образом, произведена параметрическая декомпозиция экстремальной задачи U(Z(W)), WeQW, Z(W)eQZ на задачу вычисления ст и задачу max U(CT(a)), аеЛ. Такая декомпозиция распределяет роли в человеко-машинном диалоге следующим образом:
- на ЭВМ вычисляется параметризация ст, которая для ассортиментной параметризации имеет вид maxT при Z(W)>aZ;
- агент участвует в решении задачи оптимизации (5).
В качестве формальной основы диалоговой процедуры построения модели представлений можно воспользоваться как градиентными методами решения, так и методами прямого поиска, не требующими информации о производных целевой функции. Как известно, градиентные методы более эффективны, что имеет большое значение в случае участия агента в выполнении алгоритма. Однако в силу того, что латентными факторами выступают качественные признаки и, кроме того, функция U(«) предпочтений агента в общем случае не является дифференцируемой, классические методы градиентного поиска и их модификации не могут считаться приемлемыми. Наибольшего эффекта следует ожидать от применения методов случайного поиска.
При организации диалога с агентом использовалась описанная далее модель его реакции на предъявленное решение.
По двум решениям, Z(W1)) и Z(W-2)), агент сообщает вектор с компонентами i = 1, к, такой,
что
+1, если принятие (увеличение или
уменьшение) i - го критерия соответствует получению предпочтительного решения;
= 1 ,
-1 в противном случае;
0, еслипринятие i - го критерия безразлично.
Общая структура алгоритма случайного поиска для задачи построения модели представлений имеет следующий вид: a(S+l)=a(S)+Q(S+l), где S - номер обращения к агенту; $(S+1) - вариация вектора а, определяется в пространстве случайных векторов в зависимости от модели реакции агента.
При =0 вариацию а; следует положить равной 0. В остальных случаях целесообразно использовать алгоритм с поощрением случайностью:
»i (S +1)
y(S + 1)r (S +1) при ^ > 0, Y(S)r (S) при < 0,
где y(S+1) - скаляр, выбранный из условий сходимости. Например, если в результате двух шагов Ща^^(а))) возрастает, тогда y(S)=d-y(S-1), где d - параметр акселерации, d>1, r(S+1) - случайный вектор, нормируемый следующим образом:
r (S+1) = ci'S+1)
l
S [C,.(S +1)2
iel (S+1)
+ S [CjjS +1)2 +
jel (S+1)
C (S+1)
(+
S
kel ( S+1)
[Ck (S +1)2
, где C,(S+1) - случайный век-
тор, распределенный на единичной сфере /(S + l)={/>(Z(fT(a1))^Z(fr(a2)));
«,)));
к, Z (W (otj ))~Z(W (a2)))}.
Учет ограничений a(S+1)eSa производится следующим образом:
S r (S +1) + S rk (S + 1) = 1- S r, (S + 1).
iel (S+1) kel (S+1) jeI(S+1)
Ускорение сходимости описанного выше алгоритма возможно за счет более полного учета информации о направлении поиска в пространстве решений, получаемой от агента.
Описание информационной системы сбора, хранения и обработки данных для диагностики заболеваний пациентов
Предполагается, что результат выздоровления пациента зависит только от правильной диагностики заболевания, программы и средств лечения. Однако и диагностика, и программа, и средства лечения формируются врачом (агентом) исходя из его квалификации и личностных предпочтений (субъективизм). Оказывается, если все эти условия отработаны добросовестно и профессионально, успех практически предопределяется лишь объективными показателями биохимического процесса, протекающего в организме и отображаемого симптомами сложившегося накануне заболевания. Если при обследовании пациента наблюдаемые симптомы обозначим как 1, а ненаблюдаемые как 0, состояние организма можно представить бинарным вектором размерностью n (n - заранее сформированный список всех предположительных для данного заболевания симптомов). Задача лица, принимающего диагностическое решение, формулируется следующим образом [7]: а) из списка всех симптомов отобрать только информационно значимые; б) провести группирование (кластеризацию) отобранных симптомов; в) выявить в каждом кластере значимые парные корреляционные связи; г) принять решение о дальнейших действиях.
91
Программные продукты и системы /Software & Systems
№ 2 (110), 2015
Авторы предлагают в качестве информационного инструмента поддержки решения (повышения убежденности) агента использовать ансамбль методов обработки бинарных данных с доминированием мягких вычислений.
Описанная схема формирования представлений агента о ситуации выбора реализована в информационной системе сбора, хранения и обработки данных для диагностики заболеваний пациентов. Она выполнена в соответствии с клиент-серверной архитектурой, так как такая архитектура системы позволяет полностью решить возложенные на нее задачи. Уровень сервера состоит из центральной БД и центрального сервера для обработки запросов. Уровень клиента состоит из панели администратора, обслуживающей систему, и множества клиентов.
Центральная БД является ключевым элементом системы и хранилищем для постоянно поступающих данных о пациентах, заболеваниях и проявлениях симптомов. БД содержит в себе функциональности для выполнения описанных выше процедур расчета. Центральный сервер предназначен для обслуживания запросов на чтение и редактирование БД, поступающих от рабочей станции и клиентов. На сервере должны быть развернуты две службы для обеспечения обработки запросов от панели администратора и клиентов.
Панель администратора, устанавливающая соединение с центральным сервером, предназначена для добавления и редактирования данных в БД через веб-интерфейс (см. http://www.swsys.ru/up-loaded/image/2015 -2-dop/3 .jpg).
Она также позволяет реализовать функции
- анализа данных из БД для фильтрации данных и формирования списка информативных симптомов для каждого заболевания;
- разделения данных в БД на «сырые» и «эталонные» по результатам анализа;
- формирования и занесения в БД по результатам анализа данных для клиентских модулей расчета, пользуясь которыми, клиенты смогут быстро провести диагностику заболеваний для своих пациентов.
Уровень «Пациенты» предназначен для формирования собственного списка пациентов и проявленных у них симптомов с последующей диагностикой заболеваний, используя данные для клиентских модулей расчета.
Для улучшения качества диагностики заболеваний клиенту требуется периодически подключаться к центральному серверу для получения обновленных данных для
клиентских модулей расчета. Клиент также может отсылать накопленные им данные о пациентах и проявленнных у них симптомах, чтобы дополнить БД. Эти данные будут записаны в БД как «сырые», через панель оператора можно будет исследовать данные от клиента и часть из них выделить в «эталонные». После этого будут обновлены данные для клиентских модулей расчета. Благодаря использованию данных для клиентских модулей расчета не предполагается совершать длительные вычисления на клиенте, так как это будет периодически происходить при использовании панели оператора. Вариант интерфейса клиента выглядит так, как показано на рисунке 3.
Процедура формирования модели представлений построена на использовании ансамбля методов разной природы вычислений. Она состоит из семи блоков:
- самоорганизующейся сети;
- нелинейной регрессионной модели;
- классификатора;
- модуля сравнения и обучения;
- машины нечеткого логического вывода;
- расчета оценок убежденности;
- базы знаний.
Каждый элемент этой модели представлен одним из методов парадигмы мягких вычислений. Ее особенность заключается в выполнении параллельных прогнозов нелинейной регрессионной моделью и машиной нечеткого логического вывода с последующим синтезом единого прогноза.
Эта архитектура предполагает использовать в качестве входных данных временной ряд, априорную информацию в виде нечетких правил вида (1) и шаблон настроенной нелинейной регрессионной модели, представленной простейшей нейронной сетью прямого распространения (MLP).
Входная информация поступает на вход самоорганизующейся сети и нейронной сети, при этом самоорганизующаяся сеть притягивает один из своих нейронов к полученному входному значе-
Рис. 3. Интерфейс клиентского приложения для диагностики заболеваний Fig. 3. The client application interface for the diagnosis of diseases ------------------1------------------------------------------------
92
Программные продукты и системы /Software & Systems
№ 2 (110), 2015
Рис. 4. Диаграмма отношений и связей для текущей структуры БД Fig. 4. Diagram of relationships and connections for the current database structure
нию, благодаря чему формируется новый класс модели представлений. В это же время нейронная сеть, являясь универсальным аппроксиматором по теореме полноты Колмогорова-Арнольда, интерполирует временной ряд на шаг вперед и предоставляет краткосрочный прогноз с единичным шагом упреждения [9]. Входная информация, представленная в виде точечного предсказания и класса принадлежности текущей системы, направляется модулю сравнения и обучения, который играет роль оптимизатора базы знаний, где формируются новые и корректируются уже существующие правила базы знаний. Согласно теореме повторяемости Такенса, Рюлея и др., машина нечеткого логического вывода формирует итоговый результат как обобщение моделей, сохраненных в базе знаний во время функционирования и обучения системы.
Обучение модели происходит динамически в процессе ее нормального функционирования, но временем ее настройки и обучения можно считать то, которое необходимо для обучения нелинейной регрессионной модели.
На рисунке 4 показана диаграмма связей и отношений для структуры БД. Основной сущностью этой диаграммы является испытание, которое ссылается на пациента, заболевание и набор проявленных симптомов.
Предложенный подход может быть положен в основу построения интеллектуальных систем и предполагает разработку принципов построения эволюционных адаптивных баз данных и знаний, методов обработки данных на основе применения активной логической сети правил, управляемой
потоком данных. Помимо этого, предполагается разработка методов быстрого поиска маршрута логического вывода на основе построения многополюсной сети правил и поиска ее минимального разреза, а также методов распараллеливания потоковой обработки взаимозависимых данных путем построения виртуальных потоковых БД.
Литература
1. Вагин В.Н., Головина Е.Ю., Загорянская А.А., Фомина М.В. Достоверный и правдоподобный вывод в интеллектуальных системах; [под ред. В.Н. Вагина, Д.А. Поспелова]. М.: Физматлит, 2008. 708 с.
2. Zadeh L. Fuzzy sets. Information and Control. 1965. № 8, pp. 338-353.
3. Рутковская Д. [и др.]. Нейронные сети, генетические алгоритмы и нечеткие системы. М.: Горячая линия-Телеком, 2006. 452 с.
4. Новиков Д.А. Математические модели формирования команд. М.: Физматлит, 2008. 148 с.
5. Романько А.Д., Чхартишвили А.Г. Моделирование информационных воздействий в рефлексивных играх: простые сообщения // Сб. тр. ВСГАСУ. Воронеж, 2006. C. 157-167.
6. Чхартишвили А.Г. Теоретико-игровые модели информационного управления. М.: Изд-во ПМСОФТ, 2004. 227 с.
7. Шматов Г.П., Портенко Г.М., Портенко Е.Г. Хронический тонзиллит с позиций современных информационных технологий: монография. Тверь: Изд-во ТГМА, 2012. 79 с.
8. Виноградов Г.П. Моделирование процесса формирования представлений интеллектуального агента о состоянии целеустремленного выбора // Проблемы информатики. 2010. № 3. С. 66-72.
9. Виноградов Г.П., Кузнецов В.Н. Моделирование поведения агента с учетом субъективных представлений о ситуации выбора // Искусственный интеллект и принятие решений. 2011. № 3. C. 58-72.
10. Симонов П.В. Эмоциональный мозг. М.: Наука, 1981. С. 140.
11. Бочарников В.П. Fuzzy-технология: математические основы. Практика моделирования в экономике. СПб: Наука, 2000. 328 с.
93
Программные продукты и системы /Software & Systems
№ 2 (110), 2015
DOI: 10.15827/0236-235X.109.083-094 Received 16.12.14
FORMATION OF AGENT’S REPRESENTATIONS OF THE DOMAIN IN A SITUATION OF CHOICE
Vinogradov G.P., Dr.Sc. (Engineering), Professor, [email protected];
Shmatov G.P., Ph.D. (Engineering), Associate Professor, [email protected] (Tver State Technical University, Quay Nikitin 22, Tver, 170026, Russian Federation);
BorzovD.A., Programmer, [email protected] (JSC "Elvis NeoTec", Technopark "Zelenograd", 4, Moscow, 124460, Russian Federation)
Abstract. The work is relevant due to the fact that the IT effectiveness in managing a multi-agent system under uncertainty depends on how the agents with their help shape their own subjective understanding of the properties of choice situation. To create a “correct impression” the agent (subject) collects information for “removing” various uncertainties and forming a hypothetical model of the situation of choice.
The objective of the work is development of modeling techniques aimed at identifying mental strategies of a specific agent by analysing its behavior, speech patterns, non-verbal reactions in situations of purposeful state, selection and operating ways. This involves interaction of a researcher and an agent. In the process of this interaction specific cognitive, linguistic and behavioral skills are revealed. They are used by the subject in the situations of choice to achieve desired results. They, in turn, reflect a value system, norms, potentials, beliefs and knowledge of a specific subject. These patterns are represented in shaping decisions and implementing them in the behavior. In this connection, it is of interest to develop mathematical models that take into account the agent's behavior based on the theory of fuzzy systems and the theory of relations as well as to prove the possibility of application of fuzzy measures for including subjective evaluations in the selection model.
The authors chose following research methods: general methodology and methods of system analysis, analytical modeling and methods of theories of set, theory of active systems, decision making theory, theory of artificial intelligence, theory of fuzzy systems and fuzzy logic, game theory.
The paper investigated the structure and types of agent’s representations about the purposeful state situation. Based on subjective perceptions of reality the authors formalized a model of choice. It is shown that the description of concepts through agent’s language form a model. The agent assesses this model using the terms of the linguistic variable “conviction of the utility”. This assessment expresses the agent’s confidence in usefulness of the model-presentation for transition from one purposeful state to another. The paper shows how this assessment changes as new information is being received. To calculate the membership function it is proposed to use the Zadeh’s compositional rule. There are evaluates to describe the level of agent’s confidence and a degree of doubt in the usefulness of its ideas. It is shown that when the agent evaluates its representation using a set of parameters, the representation quality under uncertainty can be evaluated using fuzzy integral. This technique allowed the authors to propose the algorithm of a certain level of agent’s conviction in the usefulness of its ideas. There is a description of the algorithm application in medical diagnostics.
Keywords: fuzzy set, decision making, fuzzy preference, conviction, models of fuzzy choice.
References
1. Vagin V.N., Golovina E.Yu., Zagoryanskaya A.A., Fomina M.V. Dostoverny i pravdopodobny vyvod v intellektualnykh sistemakh [Valid and Reasonable Output in Intelligent Systems]. V.N. Vagin, D.A. Pospelov (Eds.). Moscow, Fizmatlit Publ., 2008, 708 p.
2. Zadeh L. Fuzzy sets. Information and Control. 1965, no. 8, pp. 338-353.
3. Rutkovskaya D. Neyronnye seti, geneticheskie algoritmy i nechetkie sistemy [Neural Network, Genetic Algorithms and Fuzzy Systems]. Moscow, Goryachaya liniya-Telekom Publ., 2006, 452 p.
4. Novikov D.A. Matematicheskie modeli formirovaniya komand [Mathematical Models of Commands Generation]. Moscow, Fizmatlit Publ., 2008, 148 p.
5. Romanko A.D., Chkhartishvili A.G. Modeling information influence in reflexive games: simple messages. Sb. tr. VSGASU [Proc. of Voronezh SUACE]. Voronezh, 2006, pp. 157-167 (in Russ.).
6. Chkhartishvili A.G. Teoretiko-igrovye modeli informatsionnogo upravleniya [Theoretical and Game Models of Information Control]. Moscow, PMSOFT Publ., 2004, 227 p.
7. Shmatov G.P., Portenko G.M., Portenko E.G. Khronicheskiy tonzillit s pozitsiy sovremennykh informatsionnykh tekhnologiy [Adenoid Disease in Terms of Modern Information Technologies]. Monograph. Tver, TverSMA Publ., 2012, 79 p.
8. Vinogradov G.P. Modeling the process of generation of intelligent agent’s vision of a purposeful state. Problemy informatiki [The Problems of Computer Science]. 2010, no. 3, pp. 66-72 (in Russ.).
9. Vinogradov G.P., Kuznecov V.N. Modelirovanie povedeniya agenta s uchetom sub'ektivny'h predstavleniy o situacii vybora. Iskusstvenny intellekt iprinyatie resheniy [Artificial Intelligence and Decision-Making]. 2011, no. 3, pp. 58-72 (in Russ.).
10. Simonov P.V. Emotsionalny mozg [Emotional Brain]. Moscow, Nauka Publ., 1981, 140 p.
11. Bocharnikov V.P. Fuzzy-tekhnologiya: matematicheskie osnovy. Praktika modelirovaniya v ekonomike [Fuzzy-technology: Mathematical Basis. Modeling Practice]. St. Petersburg, Nauka Publ., 2000, 328 p.
94
