Методический подход к оцениванию безопасности хозяйствующего субъекта Текст научной статьи по специальности «Экономика и бизнес»

ISSN 2311-8725 (Online) ISSN 2073-039X (Print)

Математические методы и модели МЕТОДИЧЕСКИЙ ПОДХОД К ОЦЕНИВАНИЮ БЕЗОПАСНОСТИ ХОЗЯЙСТВУЮЩЕГО СУБЪЕКТА Дмитрий Владимирович ТРОШИН

кандидат технических наук, ведущий научный сотрудник Центра проблем экономической безопасности и стратегического планирования Института экономической политики и проблем экономической безопасности, Финансовый университет при Правительстве Российской Федерации, Москва, Российская Федерация [email protected]

Аннотация

Предмет и тема. Тема исследования — методический подход и система формализованных моделей для оценки состояния безопасности хозяйствующего субъекта. Цели и задачи. Цель работы — исследовать основные устойчивые связи в проблематике безопасности хозяйствующего субъекта и сформировать целостную систему моделей для оценки безопасности с учетом множества угроз и их взаимосвязей.

Методология. Исследование построено на применении системного анализа, исследования операций, теории вероятностей, теории полезности.

Результаты. Предложен механизм получения интегральной оценки состояния безопасности хозяйствующего субъекта, представлены частные модели, реализующие этот механизм, даны рекомендации по выполнению этапов механизма. В качестве оценки безопасности рассматривается интегральный риск как характеристика композиции проявления угроз. Под риском понимается среднеожидаемый ущерб, т.е. недостижение интересов предприятия. Предложены модели оценки ущерба в результате рискового события, в том числе с учетом противодействия угрозам с использованием потенциала обеспечения безопасности, оценки риска на продолжительном временном интервале, модель распространения ущербов с учетом взаимовлияния рисковых событий на основе идеи вирусного механизма распространения рисков.

Выводы и значимость. Отличительной особенностью предложенного подхода является ориентация на учет конкретной специфики деятельности. Сделан выбор в пользу тонких многоаспектных моделей и методик, учитывающих взаимосвязи объектов онтологии проблематики безопасности, позволяющих осуществлять прогноз, использующих глубинные знания экспертов по множеству узких вопросов. Учитывается нелинейность процессов, влияющих на обеспечение безопасности, вероятностную и невероятностную недетерминированность различных явлений и взаимосвязей. Применение такой методологии предполагает использование автоматизированной информационной технологии, позволяющей применять имитационное моделирование.

© Издательский дом ФИНАНСЫ и КРЕДИТ, 2015

История статьи:

Принята 20.05.2015 Одобрена 04.06.2015

УДК 658.5 (338.2)

Ключевые слова: безопасность, модель, рисковое событие, ущерб, вероятность

Введение

Задачи методического обеспечения управления безопасностью, включая ее оценку, в основном решаются на уровне вербального описания проблем и подходов к решению, обобщенных экспертных оценок [1-9], а также с использованием индикативных методов [10-16]. Важно отметить, что ныне распространенный индикативный подход может дать лишь поверхностную оценку, поскольку, реализуя методологию позитивизма, эклектично и поверхностно рассматривает ограниченное множество аспектов состояния интересующего объекта обеспечения безопасности, не учитывает взаимосвязь между индикаторами, влияние индикаторов на

интересы, цели функционирования, отношения с внешней средой и механизмы использования ресурсов объектов для парирования угроз. Его популярность, видимо, объясняется простотой и квазинаучностью.

Оценка уровня безопасности хозяйствующего субъекта является одним из краеугольных камней деятельности по обеспечению безопасности. Она фактически формирует мотивацию акционеров и руководства предприятия к построению и развитию системы обеспечения безопасности, позволяет выявлять узкие места в защите ресурсов и интересов предприятия. При этом использование для оценивания формализованных числовых методов позволяет во многом очистить оценку от

субъективизма и использовать вычислительную технику.

Безопасность (безопасное существование) предприятия определяется как отношения в системе «хозяйствующий субъект — среда», при которых вероятность нанесения ему значимого ущерба на заданном интервале времени пренебрежимо мала [17]. Целесообразно также привести определения и других используемых далее ключевых понятий.

Ущерб хозяйствующему субъекту — сокращение степени удовлетворения интересов хозяйствующего субъекта.

Угрозы безопасности хозяйствующего субъекта — возможности, реализация которых приводит к нанесению ущерба хозяйствующему субъекту.

Рисковое событие — факт реализации угрозы.

Риск — характеристика угрозы безопасности хозяйствующего субъекта, отражающая соотве тству ющую е й в еличину у щер ба хозяйствующему субъекту с учетом неопределенности распределения этой величины в области ожидаемых (прогнозируемых) значений.

Оценка уровня безопасности предполагает интегральную оценку потенциального ущерба хозяйствующему субъекту, который может быть ему нанесен в рассматриваемый период времени. Для этого необходимо каким-то образом сопоставить всю совокупность угроз предприятию, учитываемых в информационной модели безопасности предприятия, и возможности по их парированию и (или) минимизации возможного ущерба.

Схема механизма оценки безопасности хозяйствующего субъекта

Рассмотрим механизм оценки безопасности предприятия.

Во-первых, составляется (идентифицируется) перечень угроз.

Во-вторых, определяется совокупность рисковых событий с учетом их возможного совпадения, повторения и т.п. Рисковые события определяются до уровня типов по отношению к объектам защиты и видам ущерба. Каждое рисковое событие идентифицируется триадой (объект защиты, вид ущерба, характер нанесения ущерба). Строится когнитивный граф рисковых событий. Для решения рассматриваемой задачи непосредственно важны не угрозы, а рисковые события.

Схема механизма оценки безопасности предприятия

Идентификация: множества угроз

_^_

Идентификация первичных рисковых событий

_ж_

Построение когнитивного графа рисковых событий

_V_

Оценка вероятности рисковых событий

ж

Идентификация возможных ущербов от рисковых событий

\ !

Оценка ущербов рисковых событий с учетом использования ПОС

В-третьих, рассчитывается ожидаемый ущерб в результате рисковых событий с учетом их взаимного влияния. Другими словами, строится когнитивная графовая модель рисковых событий с учетом их взаимовлияния. На основе подобной модели распространения рисков В.В. Ворожихин развивает модель вирусного механизма распространения рисков1.

В-четвертых, оценивается возможность потенциала обеспечения безопасности (ПОС) предотвратить рисковые события или сократить ущерб, который они влекут [17].

В-пятых, уточняется ожидаемый ущерб в результате рисковых событий с учетом их взаимного влияния и противодействия со стороны ПОС.

И в-шестых, рассчитывается интегральный риск как степень недостижения интересов.

Схема механизма оценки безопасности представлена на рисунке.

1 Ворожихин В.В. Технологии управления — основа мирового технологического развития на этапе формирования когнитивного уклада. URL: http://vpk.name/news/122403_tehnologii_

upravleniya_osnova_mirovogo_tehnologicheskogo_razvitiya_na_

etape_formirovaniya_kognitivnogo_uklada.html/.

Идентификация множества угроз. Перечень угроз задает тематику мониторинга неблагоприятных воздействий, позволяет организовать систематическую работу по совершенствованию методического обеспечения выявления угроз, отражению устойчивых связей в системе «угрозы — ПОС — интересы» в информационных моделях обеспечения безопасности, однако он не может быть единственно верным и исчерпывающим. Необходимо постоянно осуществлять анализ отношений внутри хозяйствующего субъекта и с внешней средой для выявления новых (не выявленных ранее, неучтенных) угроз и вызовов.

Идентификация первичных рисковых событий. Рисковое событие представляет собой деструктивное воздействие на какой-либо объект защиты. Одна и та же угроза может приводить к различным рисковым событиям в зависимости от формы проявления угрозы. Рисковые события могут прогнозироваться, в том числе на основе статистики (для статистических угроз) и представлять собой свершившиеся факты.

Целесообразно установить отношения между множеством V = ||ия|| угроз и множеством $ = |^Ц

рисковых событий, которые описываются матрицей вероятностей появления рискового события в результате актуализации угроз Р = Цр^Ц := {р(^/ии) и е J, п е N,0 <р< 1} . Здесь п = 1,..., N—условный порядковый номер угрозы из множества N, а] = 1,., J — условный порядковый номер рискового события из множества J.

Перечень рисковых событий так же, как и угроз, не является ни универсальным и незыблемым, ни исчерпывающим. В каждом конкретном случае может быть составлен перечень «по месту». При этом всегда надо предполагать возможность появления предварительно неописанных вариантов.

Рисковые события могут быть импульсными и приводить к разовому ущербу, а могут иметь продолжающийся характер. К первым, например, относятся утрата товарно-материальных ценностей (ТМЦ), авария, ко вторым — повышение тарифов естественных монополий, снижение качества труда в результате деградации кадров или снижения зарплаты.

Построение когнитивного графа рисковых событий. Рисковые события могут порождать другие рисковые события неизбежно или с некоторой вероятностью, практически мгновенно или через некоторое время. В этих случаях

возникает сценарий, совокупность сценариев или совокупность возможных сценариев развития ситуации возникновения ущерба.

Как уже отмечалось, В.В. Ворожихин развивает модель вирусного механизма распространения рисков на глобальном уровне, которая по сути

коррелирует с идеями в основании вирусной теории

2 ~ ~ менеджмента2, с вирусной теорией кадрового

3

риска3.

Вирусный механизм распространения рисков приводит к тому, что на конкретный объект защиты могут оказывать влияние риски, к которым он априори был нечувствителен. К рискам данного вида могут оказаться чувствительными другие объекты (или процессы для проектов), с которыми поддерживаются тесные связи. Если они находятся в состоянии близком к потере устойчивости, воздействие первичного рискового события может привести к формированию усиленной реакции всей интересующей системы, выражающейся в принципиальном изменении установившихся ранее связей.

Вирусная модель рисков, если ее представить в виде графа, предполагает возможность контуров. Это означает, что в общем случае могут возникать ситуации лавинообразного развития кризиса за счет процессов положительной обратной связи образования ущербов и существует возможность внешнего латентного управления путем формирования конкурентами или другими источниками угроз небольших воздействий в зонах повышенной чувствительности — выбор слабого звена в контуре, в котором воздействие можно осуществлять скрытно и рентабельно. В контурах с учетом суперпозиции рисков могут возникать автоматические гашения деструктивной активности. Это означает, что объекты защиты, составляющие такой контур, находятся в надежно стабильном состоянии. Однако следует иметь в виду, что контуры в общей вирусной модели могут пересекаться.

Реализация вирусной модели механизма распространения рисков (когнитивной динамичной модели)требует:

- разработки моделей объектов защиты и их среды в виде графической модели взаимосвязи объектов защиты;

2 ТрайбусМ. Вирусная теория менеджмента. URL: http://www. deming.ru/TeorUpr/VirTeorMen.htm.

3 Семиков В.Л. Рискогенность руководителей в системе МЧС России. URL: http://agps-2006.narod.ru/ttb/2007-5/05-05-07.ttb.pdf.

- разработки системы моделей влияния ущербов на одном объекте на риски для другого объекта;

- разработки моделей динамики распространения ущербов;

- экспертных технологий для описания трудно формализуемых параметров и взаимосвязей.

Предлагается интерпретация вирусной модели в виде графовой когнитивной динамической модели реализации угроз через рисковые события, учитывающей нелинейный характер накопления ущербов.

Когнитивная модель рисковых событий описывается взвешенным ориентированным графом. В узлах графа расположены рисковые события. Его ребра соответствуют отношениям рисковых событий между собой, т.е. каждое ребро описывает влияние рискового события (реализации угрозы) в основании ребра на появление рискового события (возникновение и реализацию угрозы), которое находится в вершине ребра. Учет влияния имеет большое значение, так как от того, в какой степени угроза является причиной генерации рисковых событий, должен быть оценен приоритет действий по ее предупреждению и (или) нейтрализации. Кроме того, взаимовлияние рисковых событий должно учитываться при прогнозировании нарастания угроз, которое может приобрести лавинообразный характер, как было отмечено ранее.

Взаимное влияние рисковых событий описывается отношениями между ними, которые определяются величиной ущерба V и вероятностью его появления

рОО.

На множе стве рисковых событий задаются отношения взаимовлияния, описываемые вероятностью появления /-го рискового события, если произошло ]-е. Взаимовлияние рисковых событий описывается матрицей G = |^|| := ^)| ] е J, / е J, 0 < g < 1}, в которой каждый элемент g^^^^) представляет собой условную вероятность наступления /-го события, если произошло у-е.

В общем случае возможны альтернативные варианты сценариев развития последствий рисковых событий, т.е. передача ущерба от у-го рискового события к /-му может быть несовместимой с передачей ущерба от у-го события к некоторому /'-му. В случаях безальтернативности путей распространения «заражения» ущербом для задачи анализа безопасности вероятности «заражения», как правило, имеют значения 0 или 1.

Размер ущерба V. при /-м событии, возникшем в результате у-го события, описывается функцией / (Vу, Ч), где 4 — вектор параметров, описывающих «передаточную» функцию. В простейшем случае его размерность может быть 1. Вместо значений ущербов V, как правило, следует рассматривать их математические ожидания, законы распределения или некоторые интервалы возможных значений. Подробней это рассмотрено далее.

Воздействия рисковых событий, как было отмечено, могут иметь импульсный характер, т.е. однократное нанесение ущерба и перманентный (продолжающийся во времени). В цепочке сценариев могут быть рисковые события обоих типов. Так, импульсное событие, например авария, может привести к сокращению оборотных средств, утрате доли рынка и т.д. А снижение качества труда может привести к аварии, задержке сроков выполнения заказа, в том числе государственного.

Далее будет рассмотрена модель распространения у щ е р б о в в у с ло в и я х а на л и тич е с ко й неопределенности.

Оценка вероятности рисковых событий. Оценка вероятности рисковых событий может осуществляться либо на основе статистики, либо с помощью расчетов, либо экспертным путем. Третий случай возникает, когда для оценки не хватает предыстории, и суждения о вероятности приходится выносить на интуитивном уровне. Здесь уместно использование лингвистических шкал оценивания вероятности по 5-7 градациям с последующей оцифровкой этих значений. Вероятно, наиболее подходящей для этого является шкала Харрингтона (табл. 1).

Идентификация возможныхущербов от рисковых событий. Строго говоря, ущерб бывает разного вида и это следует учитывать в модели наиболее общего характера. Однако в контексте безопасности хозяйствующего субъекта часто можно ограничиться только ущербом, исчисляемым в денежных единицах. Ущерб может определяться на непрерывной области или дискретном множестве.

Таблица 1

Шкала Харрингтона и точечные оценки

Лингвистическое Численный Точечная

значение интервал оценка

Очень высокая ]0,8; 1,0] 0,9

Высокая ]0,64; 0,8] 0,72

Средняя [0,36; 0,64] 0,5

Низкая [0,2; 0,36[ 0,28

Очень низкая [0; 0,2[ 0,1

Для каждого рискового события существует своя модель оценки ущерба. Как правило, величина ущерба носит вероятностный характер, поэтому может быть оценена математическим ожиданием или верхней границей некоторого доверительного интервала.

На данном шаге механизма оценки безопасности ущерб оценивается как имманентно присущий рисковому событию и пока не сопоставляется с интересами объекта защиты — предприятия.

Среднеожидаемый ущерб при .-м рисковом событии, определенный на дискретном множестве возможных значений, вычисляется по формуле:

_ м

У. = Е У?Р(У. )'

т.=1

где т. — условный порядковый номер возможного значения ущерба при -м рисковом событии.

Для ущерба, определенного на непрерывном множестве, используется формула:

j

V = i Pj(vj)dvj •

передачи информации. Для дискретного случая, предполагая, что значения ущерба выстроены по возрастанию, используется следующая формула:

Н = Н + Н+;

тс , v(mc )<у М

Н =- Е Р(Ут )1П Р(Ут ) - Е Р(Ут )1П Р^т >

т=1 тс, V (тс ) >у

где тс — условный порядковый номер величины ущерба, при котором величина ущерба не превышает среднее значение.

Для непрерывного случая

j p(v)ln p(v) dv -J p(v)ln p(v) dv •

Для оценки верхней границы ущерба предлагается использовать эквивалентный энтропийный интервал изменения величины, который не требует субъективных данных для вычисления доверительных интервалов и может быть применен абсолютно для всех законов распределения случайной величины.

Далее для упрощения записи индекс опущен там, где нет необходимости идентифицировать параметры -го рискового события.

Пусть Н — энтропия распределения случайной величины, вычисляемая по формулам из теории

Таблица 2

Оценка последствий действия рисковых событий

н = н + н+ =-

Верхняя граница эквивалентного интервала возможных значений ущерба вычисляется по следующей формуле:

упр = ехр(Н+) + V .

Для каждого из объектов защиты можно провести расчет критичности нанесения ущерба, определив несколько состояний, позволяющих целостно описать проблемы и сформировать шкалу для их учета с точки зрения интересов субъекта (предприятия). В тех случаях, когда даже грубые модели конкретных рисков отсутствуют и не могут быть созданы подобно техническим системам для анализа ущерба, можно оценивать вероятность рискового события и влекомый им ущерб, используя экспертные оценки по лингвистической шкале (табл. 2). Поскольку, как было определено ранее, оценка безопасности фактически эквивалентна оценке интегрального риска, то в клетки таблицы внесены лингвистические значения оценки обеспечения безопасности.

Оценка ущербов рисковых событий с учетом использования потенциала обеспечения

Вероятность рискового события

НВ МВ ВС ВВ Д

Оценка П Н Н Н Н КУ

обеспечения С П П П П БУ

безопасности В С С С С СУ

А В В В В НУ

А

А

А

А

А

МУ

Примечание. Вероятности события: НВ — незначительная, МВ — маловероятно, ВС — вероятно (~ 50/50), ВВ — высокая вероятность, Д — очень высокая вероятность (почти достоверно). Уровни ущерба: КУ — критичный (недопустимо высокий) ущерб — существование вряд ли возможно; БУ — большой ущерб (существование проблематично), СУ — средний ущерб (существование возможно, но в неблагоприятных условиях); НУ — незначительный ущерб (интересы удовлетворяются в целом, но не идеально), МУ — практически не значимый (мизерный) ущерб — фиксируется, но почти не влияет на удовлетворение интересов. Обеспечение безопасности: Н — не обеспечена (практически не обеспечена), П — плохо обеспечена, С — обеспечена на среднем уровне, В — обеспечена на высоком уровне, А — обеспечена практически абсолютно.

существования. Оценка безопасности определяется не только наличием и реализацией угроз, но и возможностью объекта защиты предотвращать и парировать их, т.е. наличием и эффективностью применения ПОС.

Пусть г = 1,..., R — условный порядковый номер некоторого действия по использованию ПОС из множества возможных действий R (мера защиты).

Каждому у-му рисковому событию сопоставляется г-я мера защиты. Эти отношения описываются матрицей Zj = | .

Многочисленные методы защиты, т.е. снижения и предотвращения рисков, описаны в специальной литературе (см., например, работы [10-16]). Полный ее объем в настоящее время необозрим.

Использование различных методов приводит к следующим альтернативным вариантам результатов защиты:

- уменьшение величины ущерба при сохранении его вероятности;

- уменьшение вероятности ущерба при сохранении его величины;

- сдвиг влево кривой плотности распределения вероятности ущерба.

Первый результат, как правило, является следствием компенсации ущерба и соответствует методу компенсации, передачи или распределения риска. Это может происходить, например, в результате получения страховых выплат после аварии, утраты имущества, стихийных бедствий и т.д. В этом случае рисковое событие не предотвращается. Защита заключается в ликвидации (минимизации) последствий.

Два других результата являются следствием противодействия угрозам, предотвращения (полного или частичного) рискового события. К таким событиям относятся, например, срыв договорных обязательств со стороны контрагентов перед предприятием или в рамках проекта, ухудшение макроэкономической ситуации (рост индекса цен, рост тарифов естественных монополий, изменение курса валют, рост ставки рефинансирования и т.п.), появление новых акторов на интересующих рынках, появление новых конкурирующих товаров. В этих случаях использование ПОС может быть направлено как на ликвидацию или ослабление связи между рисковыми событиями (предотвращение «заражения» риском) — фактически на предотвращение рискового события,

так и на ликвидацию (уменьшение) его последствий. Например, наличие возможности привлечения альтернативного поставщика предотвращает срыв выполнения проекта.

Для формализованного описания уменьшения ущерба в результате использования ПОС необходимо ввести некоторые допущения, имеющие практическое значение:

- существуют ресурсы, специально предназначенные (зарезервированные) для определенных рисковых событий, например, страховой полис, специальные подразделения в организационно-штатной структуре, должностные обязанности и инструкции, роли исполнителей проекта, предусмотренные штрафные санкции и т.п.;

- существуют общие ресурсы, объем которых в общем случае ограничен;

- общие ресурсы выделяются по мере появления необходимости в соответствии с вероятностным характером возникновения рисковых событий;

- для нейтрализации (минимизации) предотвращения ущерба от рискового события выделяется весь необходимый для этого объем нужных ресурсов из состава общих ресурсов, если их объем на протяжении заданного интервала времени (год) еще не израсходован;

- назначаемый (он же с организационной точки зрения требуемый) для предотвращения ущерба ресурс не может превышать некоторую долю величины ущерба в эквивалентных единицах, в противном случае предотвращение бессмысленно; рекомендуемое соотношение — 2/3 от величины ущерба.

Пусть г = 1,..., R — условный порядковый номер меры нейтрализации ущерба при у-м рисковом событии из множества R предусмотренных мер; г. = |^Ц -вектор, отражающий наличие специальных мер для нейтрализации ущерба от у-го рискового события; k = 1,., К — условный порядковый номер вида общего ресурса ПОС из множества общих ресурсов К; 2 = |^Ц - вектор запасов общих ресурсов ПОС (для рассматриваемой задачи эти ресурсы представляют собой, как правило, финансовые и материальные ресурсы, в отдельных случаях может идти речь о трудовых и иных ресурсах).

В результате использования специальных ресурсов ПОС для нейтрализации у-го рискового события ущерб уменьшается на величину Луу. ).

Остаточный ущерб вычисляется по формуле:

^ = V, -Av,.

(1)

В данном случае под V подразумевается V i или у?.

ПОС . „

Если у у > в, где в — величина незначительного ущерба, т.е. специальных мер по предотвращению ущерба от у-го рискового события недостаточно, то требуется дополнительное выделение ресурсов из общих запасов. В этом случае выражение (1) усложняется:

= V, - (Жг,) * )) О- + Жь) , (2)

где — требуемый дополнительный ресурс к-го вида для нейтрализации ущерба от у-го рискового события;

Окр- общий объем требуемого к-го ресурса для нейтрализации всех рисковых событий;

знак « * » означает композицию функций, которая на практике обычно является суммой.

В свою очередь Укр определяется по формуле

Я? = 1^ .

у=1

Выражение (2) представляет собой математическое ожидание остаточного ущерба в зависимости от вероятности наличия дополнительных ресурсов. Эта вероятность определяется соотношением запаса дополнительных ресурсов на начало рассматриваемого периода оценки и суммарных потребностей в масштабе рассматриваемого объекта защиты. Для упрощения принято, что в качестве дополнительного ресурса используется один вид наиболее необходимого и продуктивного ресурса для устранения (предотвращения) ущерба.

Формулировка множества интересов. Интересы формулируются таким образом, что они должны быть независимы по полезности. Другими словами, достижение одного из них не должно влиять на

отношение к степени удовлетворения другого [18]. В процессе оценки безопасности в качестве интересов могут использоваться основные задачи, стоящие перед предприятием.

Для унификации описания степени достижения интересов целесообразно нормировать степень их достижения одним интервалом, например, [0; 1]. Степень достижения может описываться строго, например, достижение заданных значений прибыли, или задаваться на качественном уровне по лингвистической шкале, когда физическая шкала для оценки степени удовлетворения интереса не существует или ее использование затруднительно. При нормировании отрезком [0; 1] минимально допустимому значению присваивается 0, а максимально желаемому (установленному владельцами или государственными планами и заданиями) или практически возможному присваивается 1.

Соответствие качественных и количественных значений может быть установлено как в табл. 3.

Построение отношений между интересами и ущербами. Основная задача и трудность этого этапа механизма оценки безопасности заключаются в определении тех ущербов, которые непосредственно оказывают воздействие на интересы во избежание двойного счета. Например, задержка поставок со стороны контрагента непосредственно не влияет на интересы проекта или предприятия, однако может привести к задержке следующих этапов жизненного цикла продукции, к штрафным санкциям со стороны заказчиков и т.д. Вся эта цепочка «заражения» ущербами уже формализована в когнитивном графе рисковых событий. Авария серийного образца может не привести к существенным финансовым потерям вследствие получения страховых выплат, однако приводит к потере доверия со стороны потребителей. А авария при проведении испытаний может привести к удорожанию стоимости проекта, затягиванию его сроков, однако может и не

Таблица 3

Соответствие качественных и количественных значений степени достижения интереса по нормированной шкале

Качественное значение Количественное значение

Практически удовлетворяется — существование обеспечивает полностью ]0.9; 1]

Удовлетворяется в целом — существование обеспечивает полноценно ]0,75; 0,9]

Удовлетворяется в основном — существование обеспечивает в основном ]0,6; 0,75]

Удовлетворяется недостаточно — существование обеспечивает недостаточно [0,4; 0,6]

Удовлетворяется на низком уровне — существование обеспечивает на низком уровне [0,25; 0,4[

Удовлетворяется минимально — существование обеспечивает на минимальном уровне [0,1; 0,25[

Практически не удовлетворяется — существование не обеспечивает [0; 0,1[

отразиться на безопасности, если подобная ситуация предусмотрена в системе финансирования и страхования работ проекта.

Фактически на рассматриваемом этапе к когнитивному графу рисковых событий необходимо подключить узлы, отражающие интересы.

Пусть: m = 1,..., M — условный порядковый номер интереса из множества М интересов; ym — степень достижения m-го интереса.

Формально отношения между ущербами и интересами описываются функцией

Ут = f (V, ©Ь (3)

где v = | |vj || — вектор значений ущербов в результате рисковых событий; под v. понимается v. или j в зависимости от выбранного подхода со стороны лица, принимающего решение;

© = ||ö Jm|| — матрица соответствия интересов и ущербов от конкретных рисковых событий (9т = 1, если j-й ущерб влияет на m-й интерес, 9 m = 0 в противном случае).

Выражение (3) отражает влияние ущербов на интересы в наиболее общем виде, когда результат может быть описан композицией различных ущербов или какими-либо аналитическими выражениями, однако в соответствии с природой ущербов в действительности, как правило, функция f (•) может представлять собой суммы финансовых потерь, временных задержек. В других случаях, например, если в числе интересов авторитет производителя, степень удовлетворения интереса может быть установлен на основе экспертного опроса. В целом количество вариантов функции f (•), не сводимых к финансовым или временным потерям, может быть сколь угодно разнообразным. Если экспертные методы не удовлетворяют, в каждом конкретном случае необходимо разрабатывать модель оценки степени удовлетворения интереса от ущербов.

Для оценки удовлетворения интересов, имеющих финансовое (или временное) содержание, может быть использована следующая модель. Пусть Y^,

-rrmin

Ym — максимальное и минимальное допустимые значения удовлетворения m-го интереса (например, размер дохода или прибыли). В этом случае ym можно рассматривать как нормированное значение:

У = 1 -

у m

у max — у

m_m

Y max у min mm

у max m

-z

где А — множество рисковых событий, которые приводят к прямому финансового ущербу, который ведет к сокращению дохода (или прибыли).

Целесообразно при оценке безопасности (степени удовлетворения интересов) учитывать затраты на ее обеспечение. В соответствии с парадигмой существования на обеспечение безопасного существования в сколь угодно продолжительной перспективе работает вся система менеджмента и реализации инновационных проектов предприятия. В связи с этим в рассматриваемой задаче для оценки затрат на обеспечение безопасности имеет смысл учитывать только те средства, которые зарезервированы или специально потрачены на предотвращение или компенсацию ущербов в результате возникших рисковых событий на рассматриваемом временном периоде — «специальное» задействование ПОС.

Пусть q0 — нормированное значение затрат на обеспечение безопасности — «специальное» задействование ПОС. Тогда уточненное нормированное значение финансового интереса ут будет вычисляться по формуле у'т= ут - q0. Разница Ут - Ут отражает факт существования угроз и необходимость их предупреждения. Она является основой для разработки решений о развитии сил и средств обеспечения безопасности в соответствии с экономической целесообразностью.

Оценка интегрального удовлетворения интересов на заданный период. Оценку интегрального удовлетворения интересов целесообразно осуществлять с использованием моделей теории полезности [18, 19].

В упрощенной форме допустимо использование средневзвешенной суммы удовлетворения совокупности интересов. Вычисление весовых коэффициентов целесообразно осуществлять с использованием моделей, предложенных в работе [19].

Интегральный нормированный показатель удовлетворения интересов (уровня безопасности)

У

вычисляется по формуле: У = ^lm ym, где lm —

= 1 --

у max — у

min m

коэффициент важности (замещения).

Оценка безопасности в стратегической перспективе. Предыдущие этапы механизма оценки безопасности описывают процедуры оценки на некоторый заданный период времени. Однако для стратегической оценки необходимо прогнозировать безопасность на достаточно длительную временную перспективу с учетом предпочтений относительно

ф

уровня ее обеспечения на различных этапах в будущем.

В качестве модели оценки используется аддитивная форма, объединяющая уровни безопасности на каждом интересующем этапе в будущем (по аналогии с функциями полезности). Расчет коэффициентов, описывающих предпочтения лица, принимающего решение, к обеспечению безопасного существования в перспективе, проводится при следующих исходных посылках:

- предпочтения убывают по экспоненциальному закону;

- перспектива ограничивается 12 годами (два периода стратегического планирования, предусмотренного Федеральным законом от 28.06.2014 № 172-ФЗ «О стратегическом планировании в Российской Федерации»);

- единичный период — 1 год.

Исходя из этого, коэффициенты рассчитываются

по формуле ф' = . Параметр с определяется по

а 1п(1 - 0.) л

формуле: с =- " , где а0 — доля «внимания»

эксперта при рассмотрении перспективы, которую он уделяет на принятую перспективу 12 лет.

Если принять, что а0 = 0,99, то с = 0,3838.

Далее необходимо рассчитать значения ф' для рассматриваемых моментов времени ('е[0; Т]). Практически целесообразно рассматривать ' = 0, 1, 2, 3, 6, 12.

Чтобы выдержать требование по согласованности шкал (здесь используются шкалы [0; 1 ]), рассматриваемые значения приоритетов ф' необходимо нормировать так же по шкале [0; 1]:

Ф = ф

Еф'

'е[0;Г ]

Интегральное значение функции, отражающей оценку безопасности на временной перспективе от текущего года до года Т, вычисляется по формуле:

м

ут = X ф X ^ (').

'е[0;Г ] т=1

Оценка ущерба при его распространении за счет отношений между рисковыми событиями в условиях аналитической неопределенности

Под аналитической неопределенностью понимается отсутствие объективной (с точки зрения

обоснования естественными закономерностями) модели описания ущерба при ]-м рисковом событии, возникшем в результате некоторых других рисковых событий. При этом ущерб может накапливаться в соответствии с динамикой распространения («заражения»), отражаемой с выбранной тактовой частотой в изменениях состояний узлов направленного когнитивного графа рисковых событий. В случаях, если ущерб заключается в прямых финансовых потерях, он может элементарно суммироваться. Однако если речь идет о снижении уровня мотивации персонала, переменах во внешнеполитической обстановке, изменениях платежеспособности потребителей, то влекомые подобными обстоятельствами ущербы неочевидны и могут быть оценены экспертным путем.

Предлагаемая модель является экспертно-аналитической, позволяющей отразить общее состояние, прогноз и — главное — направленность динамики уровня безопасности в условиях множества разнохарактерных угроз и последствий их реализации при приемлемых трудозатратах на аналитическую и экспертную работу. Она использует универсальную эвристическую модель распространения и накопления ущерба и допускает высокую степень автоматизации в рамках информационной технологии и диалоговой экспертной работы, в том числе в режиме распределенного и удаленного доступа. С ее помощью возможно определить критичные узлы в сети распространения рисков. Эти данные необходимы для планирования рационального развития ПОС и совершенствования механизмов его использования.

Область применения модели определяется наличием множе ства разнохарактерных трудноформализуемых угроз и, следовательно, рисковых событий. Она с объектной точки зрения в наибольшей степени относится к большим интеграционным экономическим образованиям, а с временной — к моделированию состояния безопасности на продолжительных периодах. Такая модель используется, как правило, не для текущих оценок в конкретных ситуациях, а для выявления складывающихся тенденций.

Для построения модели приняты следующие посылки и допущения:

- ущерб накапливается с насыщением; накопление ущерба описывается логистической кривой;

- ущерб в результате каждого рискового события количественно описывается нормированным отрезком [0; 1], а численные значения интерпретируются по лингвистической шкале, примеры которой представлены ранее;

- взаимное влияние рисковых событий происходит с некоторой тактовой частотой; для настоящей модели целесообразно принять, что такт равен одной-двум неделям для проекта, месяцу — для предприятия;

- воздействие нескольких рисковых событий на некоторое i-е событие описывается как сумма их «вкладов» с учетом логистического характера накопления ущерба (первое допущение).

Выбор логистической кривой объясняется следующими соображениями. Распространение риска в общем случае аналогично процессу размножения в условиях ресурсных ограничений, который происходит по логистическому закону. В рассматриваемой задаче в результате воздействия исходного рискового события размножаются негативные микрособытия, формирующие производное рисковое событие, а в качестве ограниченных ресурсов выступают физически объективные возможности роста ущерба — не может быть ущерб более чем, например, стоимость объекта защиты, или сокращения выручки в результате потери сектора рынка, или увольнения всех работников.

Принятые допущения позволяют уче сть нелинейность характера влияния одного рискового события на другое и описывать накопление ущерба более адекватно, чем это позволяют линейные аддитивные структуры.

На этой основе может быть предложена следующая математическая модель взаимовлияния рисковых событий, которая позволяет прогнозировать значения ущербов в узлах когнитивного графа рисковых событий в различные будущие моменты времени с учетом взаимовлияния рисковых событий. В модели используются следующие обозначения: т = 0, 1,..., Т — условный порядковый номер такта (единичного, элементарного временного интервала) изменения состояния пространства рисковых событий в интересующей предметной сфере — проект, предприятие; нулевой такт введен для последующей удобной записи исходного значения ущерба; V, - значение ущерба в результате /'-го рискового события, полученное на такте т; V. — значение ущерба от у-го рискового события

после т тактов; в — параметр, описывающий влияние у-го рискового события на /-е (этот параметр отражает корреляцию изменения ущерба при /-м событии, которое произошло вследствие у-го рискового события; другими словами, в. отражает интенсивность наращивания ущерба); у] 1 ;;вр) - величина ущерба при /-м рисковом событии в результате воздействий на него у-го в (т + 1)-м такте, распределенное по логистическому закону:

( \ Л

v;+1 (v;; vT ;ß n) =

2exp(v; ßß)

exp(v; ß ..) +1

- + 2vT -1

1

1 + 2vT

V ]< Р' - /

Параметр вр предлагается вычислять исходя из

следующих условий:

- если при значении V равном трети от максимума, ущерб V. достигает двух третей от максимума, то степень «передачи» ущерба очень высокая и вр = 4,83;

- если при среднем значении V. ущерб V. достигает трех четвертых от максимума, то степень «передачи» ущерба повышенная и в р = 3,89;

- если при среднем значении V . ущерб V. достигает также среднего значения (0,5), то степень «передачи» ущерба средняя (прямая) и

в р = 2,19

- если при среднем значении V . ущерб V. достигает значения в половину среднего, то степень «передачи» ущерба пониженная и в р = 1,02;

- если при среднем значении V . ущерб V. достигает значения в четверть среднего, то степень «передачи» ущерба низкая и в р = 0,39.

Для учета одновременного влияния на / -е рисковое

событие множества событий используется

следующая формула:

V)+1 (V); V ;в р; А) =

2exp

Z v) ß j

jJ

+ 2v,T -1

exp

V v

Z vT ß j

jj

+1

1

1 + 2v T

где А/ — подмножество множества А, которое составляют рисковые события, воздействующие на /-е, т.е. А, = (Л в, * 0}.

Для прогнозирования рисков на заданную временную перспективу используется итерационная процедура. Этап процедуры (итерация) соответствует такту распространения ущерба. На каждом этапе

процедуры рассчитываются значения всех ущербов, которые становятся исходными для расчета значений на следующем такте с учетом импульсного или перманентного характера последствий и т.д.

При работе такой модели значения ущербов на каждом шаге следует уточнять по результатам их прогнозирования в зависимости от всей совокупности факторов, включая известные плановые.

Заключение

Отличительной особенностью предложенного методического подхода и системы методик и моделей является ориентация на учет конкретной специфики деятельности, отказ от простых, обобщенных до примитивности подходов в пользу более тонких многоаспектных моделей и методик, учитывающих взаимосвязи объектов онтологии проблематики безопасности [17], позволяющих осуществлять прогноз, использующих глубинные особенные знания экспертов по множеству узких вопросов и в конечном итоге — учитывать нелинейность

процессов, влияющих на обеспечение безопасности, их масштабируемые и немасштабируемые результаты, выявлять «черных лебедей» Таллеба [20], учитывать вероятностную и невероятностную недетерминированность различных явлений и взаимосвязей. Применение такой методологии ввиду необходимости оперирования большим количеством исходных данных и алгоритмов их обработки предполагает использование автоматизированной информационной технологии, снабженной дружественным интерфейсом, системой управления знаниями, банком данных и знаний, библиотекой моделей, прецедентов и ситуаций, имеющей разнообразные возможности адаптации к конкретному объекту защиты, предлагающей возможность анализа и оценки состояния безопасности в режиме сценариев.

Автоматизированная информационная технология позволяет реализовать имитационное моделирование воздействия угроз, образования ущербов и их распространения в соответствии с «вирусным» механизмом.

Список литературы

1. Басалай С.И. Экономическая оценка последствий реализации угроз и управление экономической безопасностью отрасли национальной экономики // Транспортное дело России. 2008. № 4. С. 1315.

2. Вдовина С.Б. Инструменты качественной оценки проектных рисков // Экономическая безопасность России: проблемы и перспективы: материалы Международной научно-практической конференции. Нижегородский государственный технический университет им. Р.Е. Алексеева. Н. Новгород, 2013. 480 с.

3. Власенко М.Н. Методология обеспечения экономической эффективности и безопасного функционирования хозяйствующих субъектов в условиях регионального рынка: системный подход // Национальные интересы: приоритеты и безопасность. 2012. № 5. С. 40-47.

4. ЗиминаЛ.Е. Этическая безопасность предприятия как составная часть экономической безопасности // Экономическая безопасность России: проблемы и перспективы: материалы Международной научно-практической конференции. Нижегородский государственный технический университет им. Р.Е. Алексеева. Н. Новгород, 2014. 492 с.

5. Ильин М.Е., Федорова Л.А. Модель оценки устойчивости развития наукоемких производств авиационной промышленности // Экономический анализ: теория и практика. 2014. № 4. С. 20-29.

6. ИлышеваН.Н., КаранинаЕ.В. Методологические аспекты формирования, оценки и совершенствования системы стратегического анализа и управления бизнес-рисками предприятия // Экономический анализ: теория и практика. 2014. № 11. С. 23-30.

7. Машков Д.М. Инструменты управления рисками промышленных предприятий // Аграрный научный журнал. 2015. № 2. С. 88-93.

8. Разгонов С.А. Основные особенности системы экономической безопасности отрасли автомобилестроения в современных условиях // Транспортное дело России. 2010. № 8. С. 80-87.

9. Чужмаров А.И. Обеспечение экономической безопасности предприятий как основной фактор эффективного функционирования отрасли промышленности. URL: http://koet.syktsu.ru/ vestnik/2006/2006-4/3.htm/.

10. Авдонин Б.Н., Стрельникова И.А., Хрусталёв Е.Ю. Механизмы снижения риска при создании высокотехнологичной наукоемкой продукции // Аудит и финансовый анализ. 2011. № 5. C. 226-

11. Голощапова Л.В. Формирование механизма обеспечения безопасности экономического потенциала предприятия // Вектор науки ТГУ. Серия: Экономика и управление. 2012. № 4. С. 46-49.

12. Дадалко В.А., Питулько С.Ю. Экономическая безопасность аэрокосмической отрасли России. Минск: ИВЦ Минфина, 2010. 268 с.

13. Инновационные преобразования как императив устойчивого развития и экономической безопасности России / под ред. В.К. Сенчагова. М.: Анкил, 2013. 688 с.

14. Макаров Ю.Н., Хрусталёв Е.Ю. Экономическое обеспечение безопасного функционирования и развития ракетно-космических производств // Национальные интересы: приоритеты и безопасность. 2012. № 5. С. 28-39.

15. Товстоношенко В.Н. Методологический подход к управлению рисками на предприятиях ракетно-космической промышленности // Вестник СибГАУ. 2014. № 1. С. 225-229.

16. Хрусталёв Е.Ю. Экономическая безопасность наукоемкого предприятия: методы диагностики и оценки // Национальные интересы: приоритеты и безопасность. 2010. № 13. С. 51-58.

17. Трошин Д.В. Онтология безопасности: парадигма существования // Национальные интересы: приоритеты и безопасность. 2014. № 23. С. 40-48.

18. Кини Р.Л., РайфаХ. Принятие решений при многих критериях: предпочтения и замещения. М.: Радио и связь, 1981. 560 с.

19. Трошин Д.В. Скаляризация векторных предпочтений: преодоление примитивизации // Эффективное антикризисное управление. 2013. № 3. С. 88-94.

20. Талеб Н.Н. Черный лебедь. Под знаком непредсказуемости. М.: КоЛибри, 2009. 528 с.

243.

ISSN 2311-8725 (Online) ISSN 2073-039X (Print)

Mathematical Methods and Models

A METHODOLOGICAL APPROACH TO ECONOMIC ENTITY'S SECURITY EVALUATION Dmitrii V. TROSHIN

Financial University under Government of Russian Federation, Moscow, Russian Federation [email protected]

Article history:

Received 20 May 2015 Accepted 4 June 2015

Keywords: security, model, risk event, damage, assessment, probability, interference, interest

Abstract

Subject The subject of the study is the methodological approach and system of formalized models to assess the security of an economic entity.

Objectives The study aims to investigate major stable relations in the sphere of security of an economic entity and to build an integral system of models for safety evaluation taking into account a variety of threats and their interactions.

Methods The study rests on the systems analysis, research of operations, probability theory, and utility theory.

Results I offer a mechanism for the integral evaluation of the security status of an economic entity represented by partial models implementing the mechanism, and make recommendations on implementing the stages of the mechanism. To assess safety, I consider total risk as a characteristic of the mixture of instances of threats. I also offer models to estimate damage resulting from a risk event, including threat avoidance using potential security and to assess risk over a long time horizon, a model of damage propagation considering the inter-influence of risk events based on the idea of the viral mechanism of risk exposure.

Conclusions and Relevance The distinctive feature of the proposed methodological approach and system models is a focus on the specifics of activities. The choice is in favor of more subtle multidimensional models and methods that take into account the relationships between the objects of the security problem enabling to make forecasts and using expert knowledge in many specific

© Publishing house FINANCE and CREDIT, 2015

References

1. Basalai S.I. Ekonomicheskaya otsenka posledstvii realizatsii ugroz i upravlenie ekonomicheskoi bezopasnost'yu otrasli natsional'noi ekonomiki [Economic evaluation of the aftermath of threats and management of the national economy's economic security]. Transportnoe delo Rossii = Transport Business of Russia, 2008, no. 4, pp. 13-15.

2. Vdovina S.B. [Tools for qualitative assessment of project risks]. Materialy Mezhdunarodnoi nauchno-prakticheskoi konferentsii Ekonomicheskaya bezopasnost'Rossii: problemy iperspektivy [Proc. All-Russia Sci. Conf. Economic Security of Russia: Problems and Prospects]. Nizhny Novgorod, Nizhny Novgorod State Technical University n.a. R.E. Alekseev Publ., 2013, 480 p.

3. Vlasenko M.N. Metodologiya obespecheniya ekonomicheskoi effektivnosti i bezopasnogo funktsionirovaniya khozyaistvuyushchikh sub"ektov v usloviyakh regional'nogo rynka: sistemnyi podkhod [A methodology to support the economic efficiency and safe operation of business entities under regional market conditions: a systems approach]. Natsional'nye interesy: prioritety i bezopasnost' = National Interests: Priorities and Security, 2012, no. 5, pp. 40-47.

4. Zimina L.E. [Enterprise security ethics as an integral part of economic security]. Materialy Mezhdunarodnoi nauchno-prakticheskoi konferentsii Ekonomicheskaya bezopasnost'Rossii: problemy i perspektivy [Proc. All-Russia Sci. Conf. Economic Security of Russia: Problems and Prospects]. Nizhny Novgorod, Nizhny Novgorod State Technical University n.a. R.E. Alekseev Publ., 2014, 492 p.

5. Il'in M.E., Fedorova L.A. Model' otsenki ustoichivosti razvitiya naukoemkikh proizvodstv aviatsionnoi promyshlennosti [A model to assess the sustainable development of science-intensive enterprises of the aviation industry]. Ekonomicheskii analiz: teoriya i praktika = Economic Analysis: Theory and Practice, 2014, no. 4, pp. 20-29.

6. Ilysheva N.N., Karanina E.V. Metodologicheskie aspekty formirovaniya, otsenki i sovershenstvovaniya sistemy strategicheskogo analiza i upravleniya biznes-riskami predpriyatiya [Methodological aspects of building, assessing and improving the system of strategic analysis and business risk-management of an enterprise]. Ekonomicheskii analiz: teoriya i praktika = Economic Analysis: Theory and Practice, 2014, no. 11, pp. 23-30.

7. Mashkov D.M. Instrumenty upravleniya riskami promyshlennykh predpriyatii [Risk management tools of industrial enterprises]. Agrarnyi nauchnyi zhurnal = Agricultural Scientific Journal, 2015, no. 2, pp. 88-93.

8. Razgonov S.A. Osnovnye osobennosti sistemy ekonomicheskoi bezopasnosti otrasli avtomobilestroeniya v sovremennykh usloviyakh [Major specifics of the system of economic security of the motor industry under modern conditions]. Transportnoe delo Rossii = Transport Business of Russia, 2010, no. 8, pp. 80-87.

9. Chuzhmarov A.I. Obespechenie ekonomicheskoi bezopasnosti predpriyatii kak osnovnoi faktor effektivnogo funktsionirovaniya otrasli promyshlennosti [Economic security of enterprises as a main factor of efficient functioning of the industry]. Available at: http://koet.syktsu.ru/vestnik/2006/2006-4/3.htm. (In Russ.)

10. Avdonin B.N., Strel'nikova I.A., Khrustalev E.Yu. Mekhanizmy snizheniya riska pri sozdanii vysokotekhnologichnoi naukoemkoi produktsii [Risk mitigation mechanisms when creating high-tech knowledge-based products]. Audit i finansovyi analiz = Audit and Financial Analysis, 2011, no. 5, pp.226-243.

11. Goloshchapova L.V. Formirovanie mekhanizma obespecheniya bezopasnosti ekonomicheskogo potentsiala predpriyatiya [Creating the mechanism to ensure the security of the economic potential of an enterprise].

Vektor nauki TGU. Seriya: Ekonomika i upravlenie = Vector of Science of TSU. Series: Economics and Management, 2012, no. 4, pp. 46-49.

12. Dadalko V.A., Pitul'ko S.Yu. Ekonomicheskaya bezopasnost'aerokosmicheskoi otrasli Rossii [The economic security of the aerospace industry of Russia]. Minsk, Information Computer Centre of Ministry of Finance of Republic of Belarus Publ., 2010, 268 p.

13. Innovatsionnye preobrazovaniya kak imperativ ustoichivogo razvitiya i ekonomicheskoi bezopasnosti Rossii [Innovation as an indispensable requirement for sustainable development and economic security of Russia]. Moscow, Ankil Publ., 2013, 688 p.

14. Makarov Yu.N., Khrustalev E.Yu. Ekonomicheskoe obespechenie bezopasnogo funktsionirovaniya i razvitiya raketno-kosmicheskikh proizvodstv [Economic and safe functioning and development of rocket and space industries]. Natsional'nye interesy: prioritety i bezopasnost' = National Interests: Priorities and Security, 2012, no. 5, pp. 28-39.

15. Tovstonoshenko V.N. Metodologicheskii podkhod k upravleniyu riskami na predpriyatiyakh raketno-kosmicheskoi promyshlennosti [A methodological approach to risk management at the rocket and space industry enterprises]. VestnikSibGAU = Bulletin of SibSAU, 2014, no. 1, pp. 225-229.

16. Khrustalev E.Yu. Ekonomicheskaya bezopasnost' naukoemkogo predpriyatiya: metody diagnostiki i otsenki [Economic security of knowledge-based enterprises: diagnosis and assessment]. Natsional'nye interesy: prioritety i bezopasnost' = National Interests: Priorities and Security, 2010, no. 13, pp. 51-58.

17. Troshin D.V. Ontologiya bezopasnosti: paradigma sushchestvovaniya [Ontology of security: a paradigm of existence]. Natsional'nye interesy: prioritety i bezopasnost' = National Interests: Priorities and Security, 2014, no. 23, pp. 40-48.

18. Keeney R.L., Raiffa H. Prinyatie resheniipri mnogikh kriteriyakh:predpochteniya i zameshcheniya [Decisions with Multiple Objectives: Preferences and Value Trade-offs]. Moscow, Radio i svyaz' Publ., 1981, 560 p.

19. Troshin D.V. Skalyarizatsiya vektornykh predpochtenii: preodolenie primitivizatsii [Scalarization of vector preferences: overcoming the primitivization]. Effektivnoe antikrizisnoe upravlenie = Effective Crisis Management, 2013, no. 3, pp. 88-94.

20. Taleb N.N. Chernyi lebed'. Pod znakom nepredskazuemosti [The Black Swan: The Impact of the Highly Improbable]. Moscow, KoLibri Publ., 2009, 528 p.