CC BY
170
ЧЕЛОВЕЧЕСКИЕ ФАКТОРЫ В КОГНИТИВНОМ ПОДХОДЕ
Абрамова H.A.
(Институт проблем управления РАН, г. Москва) [email protected], [email protected]
Дается краткий анализ точек зрения на когнитивный подход. Представлены некоторые результаты, свидетельствующие о рисках, обусловленных человеческим фактором, в когнитивном подходе и, более широко, в субъектно-формальных методах решения задач управления. Выделяются некоторые исследовательские проблемы.
Ключевые слова: когнитивный подход, человеческие факторы, формализация знаний, риски
Нечего надеяться полностью избавиться от субъективности в задачах, связанных с выбором решений. Даже в простейших однокритериальных задачах она неизбежно присутствует, проявляясь хотя бы в выборе показателя эффективности и математической модели явления.
Е. С. Вентцель. Исследование операций
1. Немного истории. Разные точки зрения на когнитивный подход
Сегодня в ряде областей науки и информационных технологий активно формируется подход к решению различных практических задач, который многие из его сторонников называют когнитивным подходом, или когнитивным анализом, или когнитивным моделированием. Этот ряд включает политологию, социологию, конгломерат прикладных наук и технологий, основанных на формальных методах, в который входят
• наука управления,
• искусственный интеллект,
• когнитивные технологии и др.
В ряду задач, типичных для когнитивного подхода, его представители называют
• задачи анализа и моделирования сложных, слабо формализованных, слабо структурированных ситуаций, объектов, систем, проблемных областей;
• задачи управления такими объектами и ситуациями, в частности, управления развитием ситуаций;
• задачи анализа и принятия решений, особенно, стратегических.
Характерными областями приложения являются социальные, биологические и экологические задачи, сложные социально-экономические объекты, региональное управление, в котором тесно переплетаются различные аспекты и системы, образование.
Как известно, когнитивный подход к решению сложных, слабо структурированных задач и проблем исторически обязан своим названием понятию «когнитивная карта», которое изначально возникло в психологии и впоследствии было перенесено в социологию и политологию, а затем - и в другие «новые» науки. (См., например, недавние обзоры [11,7]). Перенос был основан на обнаруженном структурном сходстве естественных представлений обычного человека о положении в пространстве, которые психологи называют когнитивными картами, и представлений экспертов: политологов и социологов - об анализируемых ими ситуациях. Вместе с переносом понятия, который неизбежно сопровождался изменением его смысла, произошла и смена целей исследования (Рис. 1).
ПСИХОЛОГИЯ:
• когнитивная карта -модель внешней ситуации;
• пространственные отношения между объектами;
• модель субъективна;
• играют важную роль
в практической жизни
«НОВЫЕ» НАУКИ:
• «когнитивная карта» -модель внешней ситуации;
• обычно, отношения влияния между «факторами»;
• модель субъективна;
• могут использоваться при решении практических задач
Рис.1. Перенос понятия когнитивной карты из психологии в «новые» науки
Как в психологии, так и в новых науках, когнитивная карта
- это модель внешней ситуации, причем - субъективная модель.1’2 Но вместо пространственных отношений, как правило, выделяются отношения влияния, причинности, следования событий.
Однако наиболее значимое различие состоит в том, что, в отличие от психологии, которая исследует, как люди думают (дескриптивный подход), в новых науках произошла смена целей исследования. Произошел переход от дескриптивного подхода: установления того, что «эксперты так думают»3 - к
1 Наряду с более привычным для многих понятием «субъективная модель», сегодня используется и понятие «когнитивная модель» ситуации. Признак «когнитивная» (модель, карта) фиксирует обусловленность модели познавательными средствами человека, благодаря которым он структурирует и осмысливает ситуацию.
2 В качестве субъекта в новых науках может выступать не только индивид, но и коллективный субъект.
3 Р. Аксельрод, один из основоположников когнитивного подхода, исследовал со своими коллегами спонтанные когнитивные карты экспертов, на основании которых они делают свои умозаключения.
идее, что «нужно так думать», иначе говоря, к нормативному подходу.
Сегодня сложилось и развивается семейство нормативных методов решения практических задач, в которых ситуация (или сложный объект, система) структурируется и оценивается в терминах одной из семейства формальных моделей, которые объединяются под общим понятием когнитивной карты. Иными словами, возникли различные математические формализации понятия когнитивной карты. Общей чертой всех этих моделей является выделение множества взаимодействующих факторов, которые характеризуют анализируемую ситуацию, и связей (влияний) между ними, при более или менее существенных различиях в том, как понимается и как оценивается взаимодействие факторов в рамках целостной ситуации. Эти различия имеют как содержательный, так и формальный характер, предопределяя использование разного математического аппарата и разные возможности решения задач [11,7]. В первом приближении можно считать, что когнитивный подход, в узком смысле этого понятия, объединяет исследования, общим признаком которых является использование формальных моделей когнитивных карт того или иного вида.
В действительности, граница, которая - по сходству применяемых моделей - выделяет когнитивный подход среди других научных направлений, разрабатывающих формальные нормативные методы обработки знаний человека при решении задач моделирования, анализа и управления, оказывается нечеткой. Достаточно сказать, что в ряде направлений и школ, применяющих практически те же формальные модели и методы, вообще не применяется понятие когнитивной карты. (Например, говорят
о знаковых графах, сетевых моделях, графах причин и следствий, каузальных сетях). Очень близким по смыслу «родственником» когнитивных карт являются модели вероятностного влияния: байесовы сети, или сети доверия, которые очень
естественно интерпретируются как один из вариантов семейства формальных когнитивных карт [13]; примыкают к ним и сложные модели оценки качества.
Вторым значимым признаком, который в той или степени характеризует когнитивный подход, является учет роли человека, особенно заметной на этапе формализации (иначе, - учет человеческих факторов). В этом отношении в современных работах, относимых к когнитивному подходу по виду моделей, наблюдается спектр позиций и точек зрения.
Согласно известной точке зрения, «специфика когнитивного моделирования», состоит в том, что «формальные математические методы анализа применяются к моделям, описывающим субъективное видение ситуации» [11]. Однако ориентация на традиции нормативного подхода к методам обработки человеческих знаний нередко приводит к тому, что в ряде работ декларируемая зависимость от человека слабо влияет на содержание, методы и результаты исследований или почти не отражается на них. Это видно, например, при сравнении с другими, «некогнитивными» экспертными методами и методами поддержки принятия решений. Собственно человеческая, когнитивная составляющая «когнитивного» моделирования ситуаций при этом оказывается за пределами научного знания и рассматривается посредством рассуждений «здравого смысла» вне норм контроля над их обоснованностью. Крайняя позиция здесь состоит в том, чтобы рассматривать когнитивные методы просто как разновидность методов математического моделирования.
В направлениях, более ориентированных на структуру практической деятельности человека и его задач, акцент делается на то, чтобы «поддержать ранние этапы процесса подготовки и принятия решений - этапы выявления и диагностирования слабоструктурированных проблем и постановки целей», которые игнорируются в более традиционных подходах. (См. обзор
[7]).
Еще более «левый», менее консервативный взгляд на когнитивный анализ и моделирование сложных ситуаций, объектов и систем связан с учетом специфики человеческого мышления, когда слово «когнитивный» акцентирует зависимость субъективного видения ситуации от когнитивных (познавательных) средств субъекта и других особенностей мышления. Такой
взгляд не обязательно предполагает привязку к когнитивным картам, какие бы модели карт не выбирались. Ситуация при этом может пониматься в более широком смысле, включая не только объект управления, но и, например, цели и мотивации самого субъекта управления.
С точки зрения учета особенностей человеческого мышления и его влияния на качество достигаемых результатов, когнитивный подход (или когнитивный анализ, моделирование) в расширительном понимании, не привязанном к понятию когнитивной карты, смыкается с подходом О.И.Ларичева и его коллег в области методов принятия (выбора) решений. О.И.Ларичев различал субъективные и объективные модели в принятии решений, и для характеристики качества способов получения информации от ЛПР как «человеческой системы переработки информации» при формировании субъективных моделей ввел понятие психологической корректности [12,8]. Не пользуясь понятием «когнитивный», он широко применял знания из когнитивной психологии, в частности, результаты исследований по ограниченной рациональности человека1, которые дали основания психологам поднять проблему адекватности или, по крайней мере, практической ценности формальных нормативных методов принятия решений.
Напомним, что понятие психологической корректности введено О.И.Ларичевым и его коллегами для характеристики качества способов получения информации от ЛПР. При этом психологическая корректность увязывалась, с одной стороны, с требованием надежности информации, поступающей от человека в компьютерную систему, а с другой, - с возможностями и ограничениями «человеческой системы переработки информации». В качестве показателей, отражающих надежность информации от ЛПР, в [8] выделялись устойчивость результатов, их согласованность и непротиворечивость.
1 Исследования по ограниченной рациональности продолжаются и по сей день. См. эссе лауреата нобелевской премии Д. Канемана [9] .
10
По результатам исследований, представленных в [12,8] и опирающихся на психологические исследования последних 30 лет, сделан вывод, что «мягкие» качественные измерения типа сравнения, отнесения к классу, упорядочения гораздо более надежны, чем назначение субъективных вероятностей, количественных оценок важности критериев, «веса», полезностей и вероятностей и т.п.
Идеи Ларичева по учету этих знаний при создании формальных нормативных методов принятия решений тесно соприкасаются с известным прескриптивным подходом [12]. Этот подход выделен как промежуточный между дескриптивным подходом в психологии и нормативным подходом в области принятия решений. Его суть - в том, что знания, полученные из нормативных теорий, должны использоваться таким путем, который признает психологические знания о когнитивных ограничениях ЛПР.
Еще один круг психологических исследований, значимый для создания нормативных методов решения задач на основе когнитивного подхода как в широком, так и в узком смысле, составляют исследования известного немецкого психолога мышления Д. Дёрнера. В его книге [9] представлен ряд характерных типов ошибок, которым подвержены не только дилетанты, но и эксперты при работе со сложными ситуациями.1 Типичность таких ошибок может рассматриваться как свидетельство недостаточной психологической корректности известных формальных моделей, применяемых для структурирования первичных знаний и представлений о сложных ситуациях.2
1 Например, - это неправильный выбор модели для экстраполяции при прогнозировании развития ситуации, в частности, принятие линейной модели, не соответствующей реальной динамике.
2 Д. Дёрнер фактически работает с моделями когнитивных карт ситуаций и систем, хотя и не пользуется этим понятием.
В работах автора данной статьи подход к решению задач моделирования, анализа, управления посредством формальных методов рассматривается с позиций человеческих факторов и их влияния на качество решения.
В поле зрения оказывается широкий спектр моделей и методов, обрабатывающих качественную информацию и оценочные данные, и поддерживающих эти методы компьютерных технологий, включая
• экспертные методы,
• методы поддержки принятий решений,
• методы когнитивного моделирования,
• методы искусственного интеллекта.
По выделенному основному признаку, формализации знаний экспертов и других специалистов, можно объединить такого рода методы под названием «субъектно-формальные методы». Однако из-за отсутствия общепринятого объединительного названия будем, в основном, пользоваться термином «экспертные методы». Когнитивный подход в узком смысле, связанный с применением формализованных когнитивных карт, рассматривается лишь в качестве типичного примера, в котором, так или иначе, проявляется исследуемый круг вопросов и проблем.
Основной в проводимом цикле исследований является проблема риска из-за человеческих факторов в жизненном цикле субъектно-формальных методов, т.е. при их создании, обосновании и применении. С точки зрения проблемы рисков, целесообразно рассматривать некоторый формальный метод как субъектно-формальный, если для его применения необходимо участие человека. Тем самым, от человека могут существенно зависеть результаты и их качество, а значит, - и качество решения практических задач на основе данного метода. К значимым показателям во многих приложениях относится достоверность результатов применения метода, интуитивно понимаемая как возможность полагаться на эти результаты при решении кон-
кретной практической задачи1. Можно говорить и о достоверности метода как о его возможности давать достоверные результаты.
Разрабатываемый автором и ее коллегами подход к проблеме рисков можно считать продолжением линии О.И.Ларичева, но - при существенном расширении как самого понятия психологической корректности, так и круга методов исследования. В частности, в числе источников риска оказываются не только ЛПР, аналитики или эксперты с их психологическими ограничениями, но и «носители» конкретных методов и подходов: ученые и посредники, берущие на себя функции «инженеров знаний» (в терминологии искусственного интеллекта). Именно от создателей моделей знаний, методов получения информации от человека зависит, будут ли конкретные экспертные методы и технологии иметь приемлемую психологическую корректность.
2. О некоторых результатах по проблеме рисков, обусловленных человеческим фактором
Результаты исследований по названной проблеме рисков из-за человеческого фактора в жизненном цикле субъектноформальных методов и связанных с ними компьютерных технологий, поддерживающих интеллектуальную деятельность человека, докладывались на всех конференциях СА8С [1-5]. Направление исследований, в определенной степени, корректировалось в зависимости от реакции присутствующих на найденные результаты, порою неожиданные или вызывающие неоднозначный отклик.
1 Общее понятие достоверности, согласно его словарному толкованию [14], имеет два аспекта: объективную достоверность знания и субъективную уверенность, - которые мы различаем и учитываем при анализе достоверности результатов применения экспертных методов. Субъективная уверенность зависит от психологических факторов.
Здесь мы вкратце остановимся на некоторых положениях, значимость которых для практического построения когнитивных технологий в той или иной форме и степени подтвердилась в ходе дальнейших исследований.
В [1] представлен анализ типичных технологий компьютерной поддержки интеллектуальной деятельности, использующих формализацию первичных знаний о проблемной ситуации (ПС) и их последующую формальную обработку. В центре внимания оказался тот факт, что в ходе применения таких технологий с целью получить новые знания для человека исходные знания проходят цепочку когнитивных преобразований, превращаясь в информацию при передаче от одного носителя знаний к другому. При этом в числе носителей знаний находятся и люди с различными ролями в рассматриваемой деятельности (включая ЛПР, аналитиков, экспертов, посредников) и «формальные эксперты» - компьютеры. В частности, возникают цепочки когнитивных отражений различных объектов и ситуаций реальности и знаний о них, в которых передаются знания «об одном и том же», как первичные, так и порожденные посредством компьютеров.
Для характеристики таких процессов порождения знаний выдвинуты следующие тезисы.
1. Отражение различных объектов в сознании субъекта, в общем случае, происходит с искажением. Коротко говоря, имеет место искажающий эффект.
2. Неизбежным источником искажений в отраженных знаниях субъекта является сам субъект.
3. Передача знаний между субъектами, в общем случае, происходит с искажением.
В качестве систематических источников риска в таких процессах выделены передачи знаний между разными носителями и схемы представления знаний, субъективные и представленные
общими моделями знаний. Риски такого рода обусловлены возможностью отрицательных искажающих эффектов1.
Представления об искажающих эффектах, положительных и отрицательных, допустимых и недопустимых, в значительной мере, исходят из теоретических соображений, так что по отношению к конкретным технологиям их можно рассматривать лишь как более или менее значимые гипотезы. Вопрос состоит в том, какова их реальная практическая ценность.
Некоторые ответы получены в проводимом в настоящее время экспериментальном анализе конкретной когнитивной технологии, одной из целей которого было выявление рисков.
В этой технологии анализ проблемной ситуации производится посредством передачи знаний от носителя ПС к посреднику, который вводит данные-параметры ситуации в компьютер, после чего выведенные результаты моделирования интерпретируются как посредником, так и носителем исходной ПС. При этом формальная модель знаний ФМ2 является двухступенчатой: компьютерное моделирование производится в терминах числовой модели, ЧФМ, а для ввода и вывода используются вербальные оценки параметров модели (типа «значение фактора слабо растет»), так что пользователи «видят» вербализованную модель, ВФМ. Иначе говоря, общение с пользователем производится в терминах ВФМ. Тем самым, технология основана на интерфейсных понятиях, которые являются, по нашей терминологии, двуликими [2]. Процесс когнитивных преобразований при получении новых знаний конечным пользователем включает, помимо передач знаний между людьми и компьютером, еще и переводы из одного представления в другое.
1 Отрицательные искажающие эффекты или прямо препятствуют достижению целей, или, по крайней мере, служат источниками риска.
2 ФМ включает когнитивную карту ситуации и начальные значения, определяющие динамику факторов - их «тенденции изменения».
При этом у человека перевод исходных представлений на язык ФМ и «обратный перевод», т.е. понимание результатов моделирования, охватывает не только отдельные параметры, но и осмысление ситуации в целом (ее гештальта) и, при обратном переводе, увязку новых знаний с первичными представлениями.
В результате экспериментов был установлен значимый отрицательный искажающий эффект при переходах знаний через посредников и компьютер, наличие которого, в общем случае, прогнозировалось по методу рефлексивного анализа из [1]. В частности, обнаружилось неадекватное причинно-следственное объяснение динамики ряда исследуемых ситуаций носителями технологии посредством «очевидной» для этих ситуаций когнитивной карты. Отрицательная роль проявившегося искажающего эффекта заключалась в маскировании неадекватного моделирования ПС, иначе говоря, в маскировании недостаточной достоверности полученных выводов.
Прослеживалась зависимость наблюдаемых эффектов от понимания выразительных возможностей и ограничений теоретической модели и ее программной реализации носителями технологии и от искажающих эффектов в этом понимании. Важно было установить, являются ли эти эффекты и связанные с ними риски систематическими или они случайны, обусловлены особенностями отдельных людей.
При поиске объяснения сложившейся ситуации учитывались когнитивные механизмы и факторы риска, найденные в результате прежних исследований.
В рассматриваемом случае выделены следующие значимые объяснительные факторы1:
- двуликие интерфейсные понятия, в которых интуитивно понятный смысл, ориентированный на пользователя, существенно отличается от более узкого и глубокого теоретического смысла;
1 Представленный перечень не полон; результаты эксперимента подлежат дальнейшему анализу.
16
- утрата гештальта моделируемой ситуации при переводах человеческих представлений на язык ФМ и обратно;
- нечеткость содержательной интерпретации математической модели динамики ситуации относительно возможностей и целей моделирования.
Наличие риска искажения смысла в интерфейсных понятиях за счет сокрытия теоретического смысла, в общем случае, прогнозировалось в [2]; в рассматриваемой технологии риск, судя по его проявлениям, оказался значимым для понятий «фактор» и, особенно, - «вес (сила) влияния», «начальная тенденция фактора».
Утрату гештальта ситуации или, проще говоря, отрыв от реальной моделируемой ситуации у носителей технологии при переводах человеческих представлений на язык ФМ и обратно, удалось обнаружить при моделировании известных ситуаций в условиях, когда наблюдался конфликт между оценками адекватности результатов моделирования у разных людей. Действие механизма утраты гештальта как одного из когнитивных механизмов отрицательного искажающего эффекта при задании оценок параметров моделируемой ситуации может быть объяснено теоретически на основе моделей, которые представлены в [4,15]. (Само объяснение и его формализация требуют отдельной публикации.) В числе этих моделей - модель действия стереотипов и факторов влияния и модели эксперта-аналитика, которые, в свою очередь, опираются на психологические знания.
Анализ конфликта оценок результатов моделирования у носителя ПС и носителей технологии, сводящий различие оценок к различию факторов влияния на них, проводился по схеме, аналогичной схеме анализа конфликта в [4]. В результате анализа выявлено преобладание ряда систематически действующих факторов влияния на носителей технологии, объясняющих их спорные оценки результатов моделирования. Среди этих факторов - и господство компьютерной парадигмы [1] (когда первичный анализ ситуации сводится к вводу входных данных в компьютер), и принцип «занятой позиции» Чалдини, и «эффект
Элизы» (эффект преувеличенного доверия результатам, полученным от компьютера), и др.
Даже те немногие эксперименты по когнитивному моделированию ситуаций с заранее известными результатами, которые проведены на сегодня, служат свидетельством в пользу того, что риски, обусловленные человеческими факторами, практически значимы. При этом в числе источников риска действительно оказываются не только эксперты - носители знаний о проблемной ситуации, как это принято считать, но и носители конкретных методов и подходов: ученые, разработчики технологий и посредники.
Уточним, что эти экспериментальные данные, описанные очень бегло, являются лишь дополнительными свидетельствами в пользу общего вывода, к которому приводит анализ. Основная проблема человеческих факторов при создании и применении методов и технологий компьютерной поддержки интеллектуальной деятельности, основанных на формализации человеческих знаний, проявляется в том, что такие методы и технологии не обеспечивают достоверности получаемых решений.
При этом сегодня активно разрабатываются в разных теоретических направлениях и используются на практике методы и компьютерные технологии поддержки управленческой деятельности с более или менее низкой психологической корректностью. Это относится и к когнитивному подходу в узком смысле этого понятия. Достаточно напомнить, что общепринятыми являются такие операции получения информации от человека как назначение субъективных вероятностей, количественных оценок важности критериев, веса и т.п., несмотря на то, что их низкая психологическая некорректность на сегодня обоснована экспериментально.
Очевидно, что невозможно ограничить применение современных субъектно-формальных методов и технологий из-за рисков, обусловленных их недостаточной психологической корректностью: велика потребность в таких методах, признана их практическая ценность; значим для практики и далеко не исчерпан потенциал когнитивных методов и технологий при
решении сложных слабо структурированных проблем. Поэтому практически важно во избежание существенных рисков при принятии управленческих решений, научиться применять знания о когнитивных механизмах, создающих риски, в ходе создания и применения рискованных методов и технологий.
3. О подходах к защите от рисков из-за человеческого фактора. Критерии достоверности формализации
Отсутствие гарантий достоверности современных субъектно-формальных методов и соответствующих компьютерных технологий делает целесообразным при их использовании, особенно - для приложений с высокой ценой риска, общий принцип защиты от рисков из-за человеческого фактора в процессе применения данного метода и его результатов для решения конкретной практической задачи, начиная с ранних этапов. При этом под процессом применения метода подразумевается не только однократное или многократное получение результатов по данному методу, но и разного рода предварительная подготовка, равно как и использование результатов в ходе решения требуемой практической задачи (вплоть до завершения «миссии»), Иначе говоря, должен охватываться весь жизненный цикл создания, применения и обоснования определенного метода или технологии. Реализация общего принципа может состоять в разработке различных мер, направленных на выявление и «блокирование» или, по крайней мере, ограничение роли рисков в ходе применения данного метода или технологии и внедрении таких мер в соответствующую технологию. К таким мерам относятся: анализ рисков для достоверности, специфичных для принятых общих моделей формализованного представления первичных знаний человека, и отладка формализованных знаний с контролем над рисками; априорный и апостериорный контроль применимости определенной общей модели знаний, лежащей в основе формализации, к конкретной практической ситуации [6].
Одно из направлений поисков, связанных с реализацией общего принципа, состоит в выявлении конкретных критериев достоверности формализации и развитии методологии выявления таких критериев. Целесообразность этого направления вытекает из знаний о разнообразных факторах риска, действующих на этапе формализации, которые известны уже сегодня. В дополнение к известным исследованиям по надежности и психологической корректности операций получения информации от человека, ряд когнитивных механизмов, создающих или усиливающих риски, выявлен в работах [1-4]. Даже в экспериментальной работе [5], в которой основной целью было выявление положительных эффектов формализации первичных знаний при анализе управленческих ситуаций, мы фактически столкнулись с неожиданным отрицательным эффектом. В ходе формализации часть первичных знаний, которая, как оказалось позднее, была значима для решения задачи, не вошли в формализованную модель, и лишь введение дополнительных средств формализации привело к их экспликации.
На сегодня автором с коллегами проведены некоторые не только теоретические, но и эмпирические исследования в направлении выявления критериев достоверности формализации [6]. При этом особый интерес представляют критерии, применимые на ранних этапах применения определенного метода, т.е. до формальной обработки модели исходных знаний экспертов или других специалистов. Анализ рисков, которые могут обнаруживаться с помощью тех или иных критериев, проводился для следующих типов общих моделей формализованных знаний:
(1) модели когнитивных карт;
(2) модель дерева показателей со взвешенным усреднением частных показателей при оценке качества программного обеспечения, связанного с безопасностью;
(3) модель нечеткого алгоритма с операторами перехода по примерному равенству в сочетании с двумя моделями для оценки достоверности (истинности) альтернативных результатов применения алгоритма.
В состав критериев отсутствия рисков, уместных для моделирования на основе когнитивных карт, входят
• общий критерий адекватности перевода промежуточной вербализованной модели исходных знаний, ориентированной
- на человека,
- на язык математической модели;
• критерии когнитивной ясности (проще говоря, легкости интуитивного понимания) конечной модели, которые проверяются по лингвистическим признакам.
Общий критерий адекватности перевода на язык математической модели конкретизируется в ряде частных критериев. Один из них, критерий (соразмерной) полноты влияний на фактор, может рассматриваться как критерий, который блокирует типичный вид ошибок, обнаруженных психологом Д. Дёрне-ром. Суть этой ошибки состоит в том, что за счет упущения отдельных факторов, соразмерных по значимости влияния на некоторый выделенный фактор, при последующем моделировании происходит фактическое преувеличение роли факторов, представленных в модели.
Исследования по критериям достоверности, проведенные на сегодня, свидетельствуют в пользу гипотезы о продуктивности единого подхода к проблеме достоверности формализованных знаний для разных типов моделей. При этом становится возможным перенос знаний об источниках риска, критериях обнаружения рисков и прямых ошибок, методах анализа, которые получены на одном типе моделей и решаемых задач, на другие типы. Подтверждается также идея целесообразности междисциплинарной интеграции знаний при решении вопросов, связанных с достоверностью формализованных знаний.
4. Некоторые проблемы и перспективы, связанные с рисками из-за человеческого фактора
Исходя из динамики исследований по проблеме рисков, обусловленных ролью человеческих факторов в жизненном цикле экспертных, когнитивных или иных субъектно-
формальных методов, и по психологической корректности таких методов и связанных с ними компьютерных технологий, можно выделить несколько практически значимых исследовательских проблем. К ним относятся
• научно-методологическая проблема обоснованности современных научных представлений о том, как думает и как должен думать человек (эксперт, аналитик, ЛПР, менеджер), и соответствующих нормативных - по отношению к человеку -теоретических моделей, закладываемых в тот или иной субъектно-формальный метод;
• проблема научного языка для субъектно-формальных методов;
• прикладная проблема качества конкретных знаний, порождаемых при использовании определенных экспертных методов и технологий в условиях действия человеческих факторов.
Суть проблемы обоснованности в том, что она лежит за пределами современной науки, опирающейся на формальные методы [5]. Сегодня представляется целесообразным обратиться к принципу (концепции) эмпирического обоснования выбора тех или иных видов и средств формализации. Согласно этому принципу, обоснование такого выбора должно опираться на эмпирические данные, свидетельствующие об адекватности или, по крайней мере, приемлемости их влияния на качество решения практических задач управления в условиях действия рисков из-за человеческих факторов.
С другой стороны, необходим научный язык для описания и анализа качества результатов применения субъектноформальных методов. Сложность здесь состоит в том, чтобы можно было разделять чисто математические и человеческие аспекты, но, при необходимости, прослеживать влияние нормативных математических допущений на качество результатов, получаемых при участии человека.
Прикладная проблема качества конкретных знаний, порождаемых в условиях действия человеческих факторов, по мнению автора, может, в значительной степени, решаться за счет учета этих факторов при построении интерфейса соответствующих 22
компьютерных технологий. Тем самым на повестку дня выходит проблема построения человеко-ориентированного интерфейса когнитивных технологий и других технологий поддержки интеллектуальной деятельности. Одна из целей при построении такого интерфейса должна состоять в защите от рисков, обусловленных человеческих фактором.
В настоящее время автор с коллегами, работающими в области когнитивных технологий, планирует проведение цикла теоретических и экспериментальных исследований, направленного на разработку принципов построения такого интерфейса.
Литература
1. АБРАМОВА H.A., КОВРИГА С.В. На пути от информационных технологий к технологиям знаний // 1-ая Межд. конф. «Когнитивный анализ и управление развитием ситуаций». Труды конф. - М.: ИЛУ РАН, том 3, 2001, стр. 149-155.
2. АБРАМОВА H.A. О формировании интерфейсных понятий компьютерных технологий и психологической корректности // 2-ая Межд. конф. «Когнитивный анализ и управление развитием ситуаций». Труды конф. - М.: ИЛУ РАН, том 2, 2002,стр. 26-35.
3. АБРАМОВА H.A. О поиске подходов к созданию психологически корректных интеллектуальных технологий // Труды 3-ей Межд. конф. «Когнитивный анализ и управление развитием ситуаций». Том 2. - М.: ИЛУ РАН, 2003, с. 153-158.
4. АБРАМОВА H.A., КОВРИГА С.В. О рисках, связанных с ошибками экспертов и аналитиков II Труды 4-ой Между-нар. конф. «Когнитивный анализ и управление развитием ситуаций» - М.: ИЛУ РАН, том 2, 2004, - С. 12-23.
5. АБРАМОВА H.A., ВАССУНОВ И В. О влиянии формализации на адекватность когнитивной модели управленческой ситуации II Тр. 5-й Междунар. конф. “Когнитивный анализ и управление развитием ситуаций” (CASC’2005) / ИЛУ РАН.-М.: 2005.-С. 47-51
6. АБРАМОВА Н А, КОВРИГА СВ., НОВИКОВ Ф.В. О
достоверности формализованных знаний и некоторых критериях ее оценки // Тез. докл.. 3-ей междунар. конф. по проблемам управления / ИЛУ РАН. - М.: 2006. - Т.2. - С. 157.
7. АВДЕЕВА З.К., КОВРИГА СВ., МАКАРЕНКО Д.И., МАКСИМОВ В.И. Когнитивный подход в управлении. II Проблемы управления. - 2007,- Спец. выпуск памяти И.В. Прангишвили - в печати.
8. АСАНОВ А.А., ЛАРИЧЕВ О.И. Влияние надежности человеческой информации на результаты применения методов принятия решений. // Автоматика и телемеханика. № 5. 1999. С.20-31.
9. ДЕРНЕР Д. Логика неудачи. Стратегическое мышление в сложных ситуациях. - М.: Смысл, 1997. - 243 с.
10. КАНЕМАН Д. Карты ограниченной рациональности: психология для поведенческой экономики. // Психологический журнал. 2006. №2. Том 27. С.5-28.
11. КУЗНЕЦОВ О.П., КУЛИНИЧ А.А., МАРКОВСКИЙ А.В. Анализ влияний при управлении слабоструктурированными ситуациями на основе когнитивных карт // Человеческий фактор в управлении / Под ред. Н.А. Абрамовой, К.С. Гинс-берга, Д.А. Новикова. - М.: КомКнига, 2006. - С. 313-344.
12. ЛАРИЧЕВ О. И., МОШКОВИЧ Е. М. Качественные методы принятия решений. Вербальный анализ решения. М.: Наука, 1996.
13. Панорама развития представлений о человеческом факторе в науке управления. Предисловие. // Человеческий фактор в управлении / Под ред. Н.А. Абрамовой, К.С. Гинсберга, Д.А. Новикова. - М.: КомКнига, 2006. - С. 6-54.
14. Советский энциклопедический словарь. - М.: Изд-во «Советская энциклопедия», 1980.
15. ABRAMOVA N.A. A subject of intellectual activity under cognitive control of ambient intelligence. Il 9th IFAC AshBoHC’06 symposium. Preprint. May 2006
16. Decision making. Descriptive, normative and prescriptive interactions // Edited by D.E. Bell, H. Raiffa, A. Tversky. - Cambridge University Press, 1988.
