CC BY
88
МОДЕЛЮВАННЯ І УПРАВЛІННЯ ВЕЛИКИМИ СИСТЕМАМИ
УДК 004.94:004.78 И.А. ЧМЫРЬ
ПРЕДСТАВЛЕНИЕ ПРОЦЕДУРНЫХ ЗНАНИЙ В ДИАЛОГОВОЙ БАЗЕ ЗНАНИЙ
Abstract: The article is devoted to the theory of the Question-Answering Dialogue in the light of declarative and procedural dichotomy of knowledge. It is proposed a formal description of question-answering pairs and a diagrammatical model of the dialogue step in the Petri net notation. The Dialogue Knowledge Base is defined as a set of the Memory of Questions and the Dialogue Access Method, which simulate respectively the declarative and procedural knowledge of an active partner. It is demonstrated that proposed conception of the Dialogue Knowledge Base is applicable to the task of solving some ill-formalized problems.
Key words: erotetic dialogue, question-answering pair, dialogue agent, declarative knowledge, procedural knowledge.
Анотація: Стаття присвячена теорії еротематичного діалогу, який розглядається під кутом зору декларативно-процедурної дихотомії знань. Наводиться формальна модель пари: питання - відповідь, а також діаграматична модель структури кроку еротематичного діалогу у вигляді мережі Петрі. Діалогова база знань активного агента діалогу детермінується як сукупність пам'яті запитань та діалогового методу доступу, які моделюють відповідно декларативні та процедурні знання активного агента. У статті показано, як діалогова база знань може бути застосована для вирішення ряду задач, що погано формалізуються.
Ключові слова: еротематичний діалог, пара типу «питання-відповідь», діалоговий агент, декларативні знання, процедурні знання.
Аннотация: Статья посвящена эротематическому диалогу, который рассматривается с точки зрения декларативно-процедурной дихотомии знаний. Предлагается формальная модель вопросно-ответной пары, а также диаграмматическая модель шага эротематического диалога в виде сети Петри. Диалоговая база знаний активного агента определяется как совокупность памяти вопросов и диалогового метода доступа, которые моделируют соответственно декларативные и процедурные знания активного агента. В статье показано, каким образом диалоговая база знаний может быть использована для решения ряда плохо формализуемых задач.
Ключевые слова: эротематический диалог, вопросно-ответная пара, диалоговый агент, декларативные знания, процедурные знания.
1. Введение
Декларативно-процедурная дихотомия знаний затрагивает практически все ключевые разделы когнитивных наук: обучение (обучение навыкам начинается с осознания декларативного описания предметной области и продолжается обучением умению ими манипулировать для достижения цели); различие между осознанными и автоматическими процессами (обучение навыкам сопровождается переводом процедурных знаний в разряд автоматических, при этом исходные декларативные знания могут забываться, а термин автоматические процессы становится синонимом процедурных знаний); понятие схема (отдельная схема может рассматриваться как хранитель фрагмента декларативных знаний в виде свойств и связей между ними); память (совокупность связанных схем хранится в памяти, которая репрезентует оба типа знаний, в которой связи моделируют процедурные знания); сенсорная система (в формировании первичных элементов декларативных знаний активное участие принимает сенсорная система, а формирование процедурных знаний в виде связей между схемами - это, главным образом, осознанный процесс). Взгляд на диалоговый процесс с точки зрения декларативно-процедурной типологии знаний позволяет построить теорию решения плохо формализованных задач диалоговыми методами. В основе предлагаемой теории лежит эротематическое (основанное на
логике вопросов и ответов) понимание диалога, а также диалоговая база знаний, хранящая знания агентов диалогового процесса о способах достижения цели диалога.
2. Декларативно-процедурная типология знаний в диалоговом процессе
Деление знаний на декларативные и процедурные является общепринятой классификацией и основой для частных когнитивных моделей памяти, решения задач и т.д. [1, 2]. Декларативнопроцедурное различие в представлении знаний лежит также в основе архитектуры и функционирования унифицированных когнитивных моделей ACT-R [3] и SOAR [4].
Декларативные знания соответствуют фактам, или фактическим знаниям и могут быть описаны вербально, например, в виде предложений типа: «птица - это животное, которое умеет летать». В общем случае для представления фрагментов декларативных знаний используются не только символьные системы, но и образы, которые сводятся к символьному описанию. Предложено несколько способов моделирования фрагментов декларативных знаний: схемы [5], фреймы [6] и др. Для моделирования системы декларативных знаний часто используют семантические сети, представляющие собой множество фрагментов декларативных знаний с установленными между ними отношениями [7].
Процедурные знания соответствуют умениям и навыкам, например, умению ездить на велосипеде или умению набирать текст на клавиатуре компьютера «слепым способом». Как правило, манипулирование процедурными знаниями не требует осознанных усилий или привлечения механизма внимания. Основным способом моделирования фрагментов процедурных знаний является тем или иным способом определённое продукционное правило [3, 4].
Декларативно-процедурная типология знаний породила две концепции организации долговременной памяти: система с двумя типами долговременной памяти (декларативной и процедурной), и система с одной, универсальной, долговременной памятью.
Наиболее известной когнитивной системой, базирующейся на двух типах долговременной памяти, является семейство моделей ACT, предложенных Джоном Андерсоном [3]. Автор этого семейства моделей предполагает, что ментальная система человека включает два типа долговременной памяти для раздельного хранения декларативных и процедурных знаний и переносит это предположение в свою модель.
Модель SOAR, предложенная Аленом Нилом [4], во многом схожа с ACT, но, в отличие от последней, предполагает, что долговременная память хранит оба типа знаний. SOAR, в процессе решения задачи, извлекает декларативные знания из долговременной памяти и помещает их в рабочую (кратковременную) память. В кратковременной памяти SOAR, таким образом, накапливаются только те декларативные знания, которые релевантны текущей задаче и необходимы для её решения.
Декларативно-процедурная типология знаний, в приложении к проблематике моделирования диалогового процесса, порождает несколько вопросов, среди которых выделим следующие: «Какова семантика декларативных и процедурных знаний в контексте диалога?» и «Насколько целесообразно для диалоговой системы раздельное хранение процедурных и декларативных знаний?»
Среди множества теорий как проблемно-ориентированных, так и проблемно-независимых диалоговых процессов выделим теорию эротематического диалога, развиваемую автором настоящей статьи [8-10] Наименование этого типа диалога отражает тот факт, что в его модели используются фундаментальные положения эротематической логики (логики вопросов и ответов) [11]. В эротематическом диалоге сообщения, которыми обмениваются агенты диалога, имеют статус и логическую структуру вопросов и ответов:
Que = pr, x, \Pa(x)} ; a = 1,..., m ; g = 1,..., l;
ANS = \AnSp}; / = 1,. .,k ; (1)
Ansp= x, \Pa(x)}; a = 1,..., n ; n < m ;
Que = pr,P(x), \xa}; a = 1,..., m ; g = 1,..., l;
ANS = \AnSp}; / = 1,. .,k ; (2)
Ansp= P(x),\xa}; a = 1,...,n ; n < m,
где Que - вопрос;
Ans - ответ;
ANS - множество возможных ответов;
p - предпосылка вопроса;
pr - g-й класс предпосылки;
P(x) - одноместный предикат: "x ОБЛАДАЕТ СВОЙСТВОМ P(x)";
k - количество альтернативных ответов;
l - количество классов предпосылки;
m - количество элементов расширенного списка субъекта вопроса;
n - количество элементов списка ответа.
Формулы (1) и (2) предлагают две альтернативные логические структуры вопросноответной пары. Формула (1) интерпретирует субъект вопроса как вещь x и связанный с ней
расширенный список свойств P(x), \xa}; a = 1,..., m. Такая структура вопроса порождает
множество возможных ответов ANS = \Ansb}; /3 = 1,..., k , в котором каждый ответ - это вещь x и связанный с ней редуцированный список свойств Ans/ = P(x),\xa}; a = 1,...,n ; n < m.
Формула (2) интерпретирует субъект вопроса как свойство P(x), приписанное
расширенному списку вещей \xa}; a = 1,..., m. Такая структура вопроса порождает множество
возможных ответов ANS = \Ans/}; / = 1,..., k, в котором каждый ответ - это свойство P(x) и
связанный с ним редуцированный список вещей \xa}; a= 1,... , n .
В эротематическом диалоге активный агент генерирует и передаёт реактивному агенту сообщение, имеющее структуру вопроса, а реактивный агент формирует и возвращает активному
агенту сообщение, имеющее логическую структуру ответа. В [12] приведены вывод и подробное описание формул (1) и (2), а также ряд естественно-языковых примеров. Целесообразность ориентации на эротематический тип диалога обусловлена тем, что такой тип диалога, как будет показано ниже, обладает свойством «решателя задач».
Декларативные знания в контексте эротематического диалога представлены вопросом активного агента (в виде предпосылки и субъекта) и ответом реактивного агента, который, по сути, представляет собой часть субъекта вопроса, удовлетворяющего предпосылке.
Прежде чем говорить о процедурных знаниях в контексте эротематического диалога, необходимо ввести понятие цели диалога по отношению к агентам диалогового процесса. Такой подход, по всей видимости, справедлив во всех случаях, когда речь идёт о процедурных знаниях. Процедурные знания - это умения, которые всегда направлены на достижение какой-то цели. Подтверждением этому является большое внимание, которое уделяется цели в приложениях, посвящённых доказательству практической ценности модели ACT [13].
Процедурные знания агентов диалога будем рассматривать на двух уровнях: на уровне сценария диалога и на уровне шага диалога.
Процедурные знания активного агента на уровне сценария - это знание стратегии достижения цели активного агента. Активный агент должен знать, как вести диалог, чтобы достигнуть поставленной цели и, в частности, каким вопросом отреагировать на текущий ответ реактивного агента. Целью активного агента на этом уровне является получение от реактивного агента ожидаемого (целевого) ответа. Реактивный агент так же, как и активный, может иметь свою цель, которая не обязательно совпадает с целью активного агента. Поэтому процедурные знания реактивного агента на уровне сценария аналогичны процедурным знаниям активного агента с той лишь разницей, что он должен знать, каким ответом отреагировать на текущий вопрос активного агента.
Процедурные знания активного агента на уровне шага - это умение формировать вопрос, релевантный данному шагу (умение формировать предпосылку и субъект), а процедурные знания реактивного агента на уровне шага - это умение строить ответ в соответствии с заданными субъектом и предпосылкой.
3. Диалоговая база знаний
Поскольку процедурно-декларативная типология имеет место в эротематическом диалоге и, очевидно, важна при проектировании диалоговых программных систем, то целесообразно исследовать вопрос совместного или раздельного хранения декларативных и процедурных знаний диалоговых агентов, который мы сформулируем следующим образом: «Какое решение приводит к более простой и эффективной архитектуре программной системы?»
Отметим, что активность и реактивность - это не фиксированное свойство агента диалога,
а, скорее, роль, которую он исполняет на протяжении некоторого времени. Рассмотрим случай, когда эти роли зафиксированы, а программная система моделирует поведение активного агента. С точки зрения автора, для такого случая рациональной архитектурой программной системы является архитектура, предусматривающая раздельное хранение декларативных и процедурных
знаний активного агента.
Пусть декларативные знания активного агента (в виде закодированных описаний вопросов, необходимых и достаточных для ведения диалога в данной предметной области) хранятся в памяти вопросов QueMem. Несмотря на то, что в процессе диалога один и тот же вопрос может использоваться многократно, в памяти вопросов он хранится в виде одной копии. Память вопросов представляет собой память с прямым доступом и, следовательно, для доступа к конкретному вопросу необходимо знать его адрес.
Пусть процедурные знания активного агента на уровне сценария хранятся в структуре, которую назовём диалоговый метод доступа DiAM. Диалоговый метод доступа хранит знания о том, «какой вопрос должен быть следующим?» и, следовательно, трансформирует текущий ответ реактивного агента в указатель на элемент памяти вопросов.
Определим диалоговую базу знаний DiKB, как совокупность памяти вопросов и диалогового метода доступа. Такая организация диалоговой базы знаний обладает тем достоинством, что исключает дублирование закодированных описаний вопросов. Хранение декларативных знаний требует значительно больших ресурсов компьютерной памяти, чем хранение процедурных знаний. Декларативные знания активного агента представлены, в основном, элементами субъектов вопросов, которые имеют не только символьную, но и образную репрезентацию в виде графических и звуковых файлов.
Диалоговый метод доступа оперирует только ссылками на вопросы активного агента и ответы реактивного агента и поэтому не требует значительных ресурсов памяти компьютера.
Из сказанного следует, что преимущественным местом хранения DiAM является основная память, а преимущественным местом хранения QueMem - внешняя память компьютера.
Как следует из определения диалоговой базы знаний, активный агент не «вычисляет» очередной вопрос, а разыскивает его в памяти вопросов QueMem, используя в качестве метода достижения цели, метод доступа DiAM. Поэтому метод доступа к памяти вопросов DiAM можно рассматривать так же, как метод достижения цели активного агента диалога. Ясно, что DiAM может моделировать процедурные знания любого типа, однако наиболее привлекательным случаем является случай, когда диалоговый метод доступа моделирует навыки и опыт эксперта.
Эротематический диалог дискретен, а его отдельным структурным и динамическим элементом является шаг. На рис. 1, в нотации сети Петри, приведена структура шага эротематического диалога, иллюстрирующая концептуальный базис диалогового метода доступа.
Шаг включает указатель на вопрос, релевантный шагу, обозначенный позицией Que. Поскольку на различных шагах диалога может использоваться один и тот же вопрос, то шаг должен иметь также уникальный идентификатор (на рис. 1 идентификатор шага не показан). На рис. 1 переходами обозначены ответы. В объём понятия шаг включены два множества ответов: множество ожидаемых на данном шаге ответов A и множество всех остальных ответов NA. Множество ожидаемых на данном шаге ответов представляет собой подмножество введенных ранее множества возможных ответов ANS. Это те ответы, которые, в соответствии со стратегией диалога, ожидаются на данном шаге и должны быть распознаны активным агентом. Мощность этого множества, в общем случае, должна изменяться от шага к шагу. Множество всех остальных
ответов NA моделируется единственным переходом, поскольку их не обязательно распознавать. Таким образом, любой нераспознаваемый активным агентом на данном шаге ответ относится к множеству NA.
Реализация диалоговой базы данных представляет собой отдельный вопрос, выходящий за рамки настоящей статьи. С точки зрения автора, наиболее перспективным способом специфицирования структуры QueMem и DiAM является моделирование при помощи диаграммы классов UML (Unified Modeling Language). Рациональной структурой для моделирования множества ожидаемых ответов A является очередь. С учётом необходимости длительного хранения и актуализации диалоговой базы знаний, полученные UML спецификации должны быть реализованы средствами объектной базы данных.
4. Плохо формализованные задачи и их решение диалоговыми методами
Класс плохо формализованных задач весьма обширен. Методы их решения основаны на такой формулировке задачи, которая сводит процесс решения задачи к процедуре эвристического поиска целевого состояния в пространстве состояний. Одной из первых и наиболее известных теорий в этой области является модель под наименованием Общий Решатель Задач - GPS [14, 15].
Между эротематическим диалогом и общей стратегией поиска решения в проблемном пространстве, которую реализует Общий Решатель Задач, имеется много общего. Общая стратегия поиска [16] предполагает пошаговый и циклически повторяющийся процесс построения дерева поиска, в котором многократно повторяются следующие фазы: формируется текущий пограничный набор узлов (для первого шага пограничный набор состоит из корневого узла, соответствующего начальному состоянию задачи); к каждому узлу пограничного набора применяется тест цели (если тест цели даёт положительный ответ, то поиск завершается, в противном случае - продолжается); выбирается один из узлов, подлежащий расширению; к выбранному узлу применяется процедура расширения и осуществляется переход к началу цикла.
Умение Общего Решателя Задач находить решение задачи (в виде целевого состояния), с точки зрения декларативно-процедурной типологии знаний, относится к категории процедурных знаний. Процедурные знания агентов диалога также моделируют умение находить целевое состояние (в виде ответа), поэтому сам диалоговый процесс может рассматриваться как общий метод решения плохо формализованных задач. Однако, в случае эротематического диалога, отмеченные процедурные знания не сосредоточены в GPS-агенте, а распределены между
Рис.1. Графическая интерпретация основных понятий DiAM: Ans - текущий ответ
реактивного агента; Que - указатель на последующий вопрос в QueMem; A -
множество ожидаемых ответов реактивного агента; NA - все остальные ответы
реактивного агента; NextQue - связь текущего ответа с последующим вопросом; NextAns - связь текущего вопроса с последующим ответом
активным и реактивным агентами диалога. Рассмотрим диалоговый процесс в контексте решения задач более подробно.
В случае эротематического диалога пограничному набору узлов соответствует субъект вопроса, который активный агент предъявляет реактивному. Расширенный список свойств (либо вещей), который, по сути, репрезентирует субъект вопроса, обладает существенным преимуществом по сравнению с классическим пограничным набором узлов. «Ёмкость» субъекта вопроса колеблется от вопроса к вопросу, но не превышает некоторой граничной величины, детерминируемой возможностями системы сфокусированного внимания человека. Таким образом, в случае диалога, вне зависимости от количества шагов, размер пограничного набора примерно одинаков. В случае вРв-агента размер пограничного набора узлов резко возрастает при увеличении глубины дерева поиска.
В случае эротематического диалога нет необходимости применять тест цели ко всем узлам пограничного набора, а только к тем, которые перешли в ответ. В этом смысле процедурные знания реактивного агента выполняют функцию «фильтра» субъекта вопроса. вРБ-агент, как правило, должен применить тест цели ко всем, без исключения, узлам пограничного набора.
Критическим элементом обобщённого алгоритма поиска является расширение узла дерева вывода. При решении практических задач очень трудно предложить процедуру, осуществляющую корректное расширение. В случае эротематического диалога процедура расширения трансформируется в процедурные знания активного агента.
Одним из наиболее известных классов плохо формализованных задач является класс задач интеллектуальных систем обучения. История развития методов решения этих задач показывает, что, во-первых, все предложенные системы данного класса являются интерактивными, а во-вторых, что диалог в них, как правило, выполняет интерфейсные функции и не является носителем процедурных знаний учителя-эксперта [17, 18]. Идея использования диалоговой базы знаний для построения персонализированных систем обучения была проверена при разработке ряда лингводидактических программ [19, 20]. Опыт разработки лингводидактических программ, пригодных для коммерческой эксплуатации, позволяет выделить две характерные черты таких программ, имеющих непосредственное отношение к диалоговой базе знаний. Во-первых, проектирование диалоговой базы знаний как на уровне сценария, так и на уровне шага, является настолько естественным процессом для конечного пользователя (в нашем случае - эксперта-преподавателя), что он в состоянии самостоятельно, без помощи программиста, формировать и редактировать диалоговую базу знаний. Таким образом, проблема инженерии знаний решается самим носителем экспертных знаний. Во-вторых, поскольку диалоговую базу знаний формирует сам носитель экспертных знаний, то порождаемый ею диалоговый процесс отражает не только метод эксперта, но и его когнитивную индивидуальность.
5. Выводы
Элементы теории, представленные в настоящей статье, предполагается развивать по следующим направлениям: исследование применимости цикла восприятия Нейсера как психологического базиса человеко-машинного диалога, а также исследование применимости концепции объектно-
ориентированного моделирования с целью спецификации программных симуляторов диалоговых агентов.
Мы предполагаем, что, по крайней мере, одним из агентов диалога является человек, и считаем, что модель диалога должна быть адекватна процессам восприятия и переработки информации человеком. В том случае, когда формальная модель диалога базируется на соответствующей психологической модели, можно ожидать, что «искусственные» диалоговые агенты наследуют гибкость и универсальность системы восприятия и переработки информации человеком. Модель восприятия, предложенная Ульриком Нейсером в 1976 году, интегрирует «восходящий» (от сенсорной системы к долговременной памяти) и «нисходящий» (от
долговременной памяти к моторной системе) процессы в единый, унифицированный и циклически повторяющийся процесс [19]. Диалоговый процесс, по отношению к любому из агентов, аналогичен циклу восприятия Нейсера и поэтому целесообразно исследовать применимость этой модели к теории проблемно-независимого диалога. Отличие заключается в том, что в случае диалога реальная окружающая среда подменяется искусственной, формируемой противоположным агентом. Однако, очевидно, что как восприятие, так и дальнейшая информационная переработка «искусственных» и «естественных» стимулов осуществляется по одним и тем же «правилам и законам».
Техника объектно-ориентированного моделирования достигла такой степени глубины и универсальности, что может рассматриваться как общая теория моделирования. Особую роль в объектно-ориентированном моделировании играет язык UML (Unified Modeling Language), который трансформировал объектно-ориентированную концепцию в строгую и формализованную теорию [20]. Необычность и привлекательность UML в его диаграмматичесой нотации, в которой абстрактные диаграммы моделируют различные аспекты системы и играют роль «формул», описывающих: структуру системы, её поведение и т.п. Мы убеждены, что выразительная сила и моделирующие возможности UML не ниже чем, например, у системы продукций, которую Андерсон использовал для построения своих «формул сознания» [3]. Мы надеемся получить в UML нотации «диаграмматические формулы» диалоговых агентов, неоспоримое преимущество которых заключается в том, что они являются готовыми спецификациями для разработки программных систем.
СПИСОК ЛИТЕРАТУРЫ
1. Ryle G. The concept of mind // Hutchinson. - London, 1949. - 217 p.
2. Cohen N.J., Squire L.R. Preserved learning and retention of pattern-analyzing skills in amnesia using perceptual learning // Cortex. - 1978. - N 17. - Р. 273-278.
3. Anderson J.R. Rules of the Mind // Lawrence Erlbaum Associates. - Hillsdate, NJ, 1993. - 320 p.
4. Newell A. Unified Theories of Cognition // Harvard University Press. - Cambridge, Massachusetts, 1994. - 549 p.
5. Haberlandt K. Cognitive Psychology. 2nd ed // Allyn & Bacon. - Needham Heights, MA, 1997. - 478 p.
6. Minsky M. A framework for representing knowledge // Winston P.H. (Ed.) The psychology of computer vision. -New York, McGrow-Hill, 1975. - P. 34-52.
7. Chemyr I.A. SmartText: Using Agents Supporting Personalized Reading Comprehension / I.A. Chemyr, M.A. Horney, L. Anderson-Inman // Personal Technologies. - 1998. - Vol. 2, N 3. - P. 152-161.
8. Чмырь А.И. Диалоговое поведение как метод решения задач и его содержательная модель // Збірник наукових праць Інституту проблем моделювання в енергетиці НАН України. - К.: Інститут проблем моделювання в енергетиці НАН України, 1998. - Вип. 4. - С. 140-145.
9. Верлань А.Ф., Чмырь И.А. Системы со встроенным интеллектом на базе архитектуры машины диалога // Электронное моделирование. - 2001. - Т.23, №1. - C. 75-83.
10. Belnap N.D., Steel T.B. The logic of questions and answers // Yale University Press. - London, 1976. - P. 209.
11. Cognitive Tutors: Lessons Learned / J.R. Anderson, A.T. Corbett, K.R. Koedinger et al // The Journal of the Learning Science. - 1995. - Vol. 4, N 2. - P. 167-207.
12. Newell A. Elements of a theory of human problem solving / A. Newell, J.C. Shaw, H.A. Simon // Psychological Review. - 1958. - Vol. 65. - P. 151-166.
13. Newell A., Simon H.A. GPS, a program that simulates human thought // E.A. Feigenbaum, J. Feldman (eds.), Computers and Thought. - New York, McGraw-Hill, 1963. - P. 101-126.
14. Russell S., Norvig P. Artificial Intelligence A Modern Approach // Prentice Hall. - New Jersey, 1995. - 1080 p.
15. Ричмонд У.К. Учителя и машины. Введение в теорию и практику программированного обучения. - М.: Мир, 1965. - 276 c.
16. Wenger E. Artificial Intelligence and Tutoring Systems. Computational and Cognitive Approaches to the Communication of Knowledge // Morgan Kaufmann. - Los Altos, CA, 1987. - 485 p.
17. Чмырь И.А. «Процессор диалога» для генерации обучающих курсов / И.А. Чмырь, П.С. Попов, М.С.
Харьковская // Доклады международного симпозиума «ИНФО'89». - Минск: Белорусское научно-
производственное объединение вычислительной техники, 1998. - Т. 1, Ч. 2. - С. 957-960.
18. Комп'ютерний тьютор української мови: теоретичні підвалини та досвід роботи / І.О.Чмир, О.І. Бондар, О.І. Чмир та ін. // Наукове пізнання. Методологія та технологія. Журнал Південно-українського державного педагогічного університету. - 1998. - № 1-2. - C. 84-89.
19. Neisser U. Cognition and Reality. Principles and implications of cognitive psychology // W.H. Freeman and Company. - San Francisco, CA, 1976. - 381 p.
20. Page-Jones M. Fundamentals of Object-Oriented Design in UML // Addison-Wesley. - New York, NY, 2000. -458 p.
Стаття надійшла до редакції 25.12.2007
