CC BY
54
Имитационная модель восприятия пропаганды населением
И.Н. Мощенко, А. С. Красников Южный федеральный университет, Ростов-на-Дону
Аннотация: Работа посвящена исследованию динамики восприятия отдельных блоков пропагандистских новостей населением. Предложен вероятностно-стохастический подход для имитационного моделирования. В качестве основного актора, описывающего ситуацию, взята вероятность положительной оценки правдивости новой информации отдельным субъектом. Для описания самого процесса формирования отношения к ней выбрана дискретно-событийная парадигма. Изменение уровня оценки происходит под влиянием случайных возмущений мнения индивидуума, испытываемых в дискретные моменты времени. Интуитивный пересчет после этого восприятия новости моделируется на основе теории Байеса принятия решений. Математически такой подход полностью совпадает с ранее использованным нами при численном анализе разрешения внутриличностных конфликтов. Выявленные тогда результаты адаптированы для исследования динамики восприятия пропагандистских новостей нейтральной частью населения. Которую составляют индивидуумы, оценивающими правдивость пропагандистской деятельности в целом нейтрально, на уровне У (по шкале от 0 до +1). Получено, что при оценке конкретных новостей такая нейтральность нарушается, в конечном итоге индивидуум считает новость либо полностью правдивой, либо ложной. Но она восстанавливается уже на уровне ансамбля всех новостей. Примерно половину из них индивид считает правдивыми, половину - ложными. Время до формирования окончательного восприятия конкретной новости зависит от степени ее важности для субъекта, причем минимум наблюдается при уровне значимости немного ниже максимального.
Модель учета социального окружения при разрешении внутриличностных конфликтов также была адаптирована для анализа восприятия пропагандистской информации. При этом получено, что оценки правдивости отдельных новостей соседей коррелируют. С течением времени в социуме образуются кластеры с однотипным восприятием. В идеальном случае, при отсутствии других влияний, в конечном итоге во всей исследуемой группе формируется одно мнение. Здесь опять же, для отдельных пропагандистских новостей нейтральность восприятия нарушается, но она восстанавливается на уровне ансамбля всех новостей.
Предложенные модели могут быть использованы для исследования не только нейтральной части населения, но и групп с любым уровнем оценки правдивости пропаганды в целом, как однородных, так и неоднородных по этому параметру. Кроме того, предложенный подход может послужить основой при исследовании воздействия агентов влияния (в информационном пространстве) и разработке стратегий пропагандистской деятельности. Ключевые слова: пропаганда, восприятие, в целом, отдельные новости, моделирование, вероятностно-стохастический подход, дискретно-событийное приближение, Байесова теория, многоагентный анализ, социальное окружение, кластеризация.
Пропаганда является неотъемлемой частью современной социально-политической жизни. Этот термин был введен католической церковью в 17 веке [1], но отдельные ее элементы наблюдались гораздо раньше,
практически сразу после расслоения социума и возникновения групп власти. Как отметил один из предтеч современной теории пропаганды (как инструмента демократической и корпоративной манипуляции народом) Эдвард Бернейс: «Активное согласие общественного мнения является непременным условием успеха любой деятельности монархического, конституционного, демократического или коммунистического правительства - по сути, оно и правительством-то является исключительно с согласия масс» [1]. Так еще в своде законов вавилонского царя Хаммурапи [2], разработанного в XVII в. до н.э. определенное внимание уделяется пропаганде легитимности царской власти. С демократизацией общества и развитием средств массовой информации роль пропаганды в жизни социума непрерывно возрастала.
В настоящий момент международное сообщество в области политики сильно поляризовано. И каждый участник активно пропагандирует свою деятельность и продвигает свои интересы. По некоторым вопросам противостояние пропаганд вышло на уровень информационной войны. Такая ситуация влияет и на внутреннюю политическую жизнь России. Здесь общественные движения расслоены, как по внутренним (отражение интересов различных слоев населения), так и внешним (влияние внешней иностранной пропаганды) причинам. Все это свидетельствует об актуальности основной задачи настоящей работы - исследования восприятия пропаганды населением.
Прежде чем перейти к объекту исследования, определимся с самим понятием «пропаганда». Это явление достаточно широко и многогранно. В конкретных работах авторы останавливаются на той или иной его стороне, поневоле сужая понятие. В литературе в настоящий момент нет устоявшегося мнения относительно определения этого термина, хотя общая канва в спектре определений просматривается [1,3-5]. В настоящей работе мы используем понятие, близкое к приведенным в [1,3]. Под пропагандой понимается
деятельность в средствах массовой информации специальных органов, оказывающих психологическое воздействие на население ради достижения своих социальных, политических, военных и других целей.
Возвращаясь к объекту исследования, отметим, что восприятие пропаганды населением имеет два аспекта: первый - глобальный, отношение к пропаганде в целом, как к явлению политической жизни. И второй -локальный: восприятие отдельных конкретных пропагандистских новостей. Конечно, эти две стороны взаимосвязаны. Глобальное отношение в настоящий момент сформировано под влиянием ранее полученных локальных пропагандистских сообщений. И наоборот, восприятие конкретных новостей во многом зависит от общих установок по отношению к пропаганде.
Осенью 2018 года для выявления уровня восприятия пропаганды (в глобальном смысле) в студенческой среде нами было проведено анкетирование в ДГТУ. В основу была положена ранее разработанная методика измерения когнитивной и аффективной составляющих установок по отношению к различным социальным процессам и явлениям (см. к примеру [6-8]). Некоторые полученные результаты приведены в [9]. Выявлено, в частности, что около 50% опрошенных отметили нейтральное отношение, как к проправительственной, так и оппозиционной пропаганде. По их мнению, вероятность достоверности этой пропаганды в целом примерно равна ^ [9].
Настоящая статья посвящена исследованию локального восприятия пропаганды именно этой, нейтральной частью населения. В работе представлена имитационная модель их отношения к конкретным пропагандистским новостям. В качестве численной характеристики восприятия мы использовали вышеупомянутую вероятность достоверности (дальше будем писать просто достоверность), только не пропаганды в целом, а конкретной новости. С учетом того, что привлекательность (в
I Инженерный вестник Дона, №4 (2018)
ivdon.ru/ru/magazine/archive/n4y2018/5572
вероятностном смысле) пропаганды в целом для этой части населения равна У, при оценке новости для них стоит задача в выборе одного из двух равнозначных вариантов: считать эту новость достоверной, или нет. Но это классический пример одного из вариантов внутриличностного конфликта [68]. И окончательный результат восприятия конкретной пропагандистской информации зависит от разрешения такого конфликта. В соответствии с чем, в основу проводимого исследования локального восприятия пропаганды положена ранее разработанная вероятностная модель внутриличностных конфликтов [10-12].
Предлагается следующий сценарий формирования отношения нейтральной части населения к конкретной пропагандистской информации. В начальный момент субъект оценивает ее достоверность также как и привлекательность пропаганды в целом, на уровне У. Потом через дискретные моменты времени под действием различных случайных факторов для субъекта изменяется глобальная привлекательность (в некотором диапазоне вокруг среднего значения У ). При этом субъект интуитивно пересчитывает достоверность конкретной оцениваемой информации. Этот этап моделируется на основе теории Байеса принятия решений в условиях неопределенности:
Здесь роль априорной вероятности Р(А) играет оценка достоверности информации на предыдущем этапе, ^(л) = 1 — - наоборот, оценка
вероятности ее недостоверности. Под апостериорной вероятностью Р(А\Б) понимается оценка достоверности на следующем этапе, после изменения глобальной привлекательности (достоверности) пропаганды. Она на этом этапе равнаР(В\А), а ей обратная соответственно = 1 -
(1)
:
Конечно, реально субъекты не пересчитывают достоверность информации по формуле (1). Как мы уже сказали, это происходит интуитивно, но зачастую принятие интуитивных решений в условиях недостаточной информации в целом совпадает с расчетами по Байесовской теории [10-11].
Математически модель (1) полностью идентична описанной в [10-12]. И результаты численной имитации процесса разрешения внутриличностных конфликтов вполне могут быть перенесены и для настоящего случая. Получается, что из-за флуктуации привлекательности пропаганды в целом, ситуация с выбором, считать конкретную новость достоверной или нет, разрешается в конечном итоге в ту или иную сторону. Оценка вероятности ее достоверности выходит на граничные значения, будь то ноль или единица.
На Рис. 1, взятом из [11], и адаптированном под нашу задачу, для примера приведена динамика оценки достоверности конкретной информации для пяти численных экспериментов. По горизонтальной оси показано модельное время (число дискретных шагов), по вертикальной - вероятность достоверности новости.
Рис. 1. График динамики оценки вероятности достоверности конкретной
пропагандистской новости.
Следует отметить, что время достижения граничных значений для оценки достоверности зависит от относительной ширины флуктуации
привлекательности А. Чем меньше случайные вариации, тем медленнее субъект приходит к выводу о полной достоверности или недостоверности информации. К примеру, при А=0.05 время достижения границы вероятности порядка 2800 шагов, а при А=0.2 - около 400 шагов [11]. При этом между задачей разрешения внутриличностного конфликта и проблемой оценки достоверности информации есть некоторое отличие. Опыт показывает, что внутриличностные конфликты в любом случае, в конце концов, разрешаются. Ситуация со смертью Буриданова осла немного утрирована. Здесь время достижения границы и есть время разрешения конфликта. Для оценки же достоверности информации это только первое время достижения границы. Вполне возможно дальнейшие колебания восприятия (в вероятностном смысле) новости, возврат вероятности во внутреннюю область, опять выход на границу и т.д.
Это отличие сказывается и на нарушении симметрии относительно нейтральной вероятности (уровня У ). Обе задачи по начальным значениям и средним значениям привлекательности имеют эту симметрию. При разрешении внутриличностных конфликтов она нарушается. Вероятность выбора конкретного варианта с течением времени становится 0 или 1. Но если эксперимент повторять много раз, симметрия опять восстанавливается, частоты выбора обоих объектов будут равны. Конечно, реально каждый конфликт разрешается один раз, без повторения. И симметрия восстанавливается только на пространстве всех решений.
Для задачи оценки достоверности пропагандистских новостей ситуация несколько иная. Здесь вышеотмеченное нарушение и восстановление симметрии наблюдается только по отношению ко времени первого выхода на границу диапазона вероятностей. Если же эксперимент продолжать, то в среднем симметрия относительно уровня вероятности У сохранится. Частота достижения верхней и нижней границы достоверности будет одинакова. Как показали эксперименты, после первого достижения границы вероятности,
решение примерно такое же время будет находиться в окрестности этой границы. Интервал перехода от одной границы к другой раза в два длиннее, чем время первого выхода на границу. А релаксации, установление в среднем симметрии относительно уровня % занимает на один - два порядка больше времени. Таким образом, для восстановление симметрии нужен достаточно длительный (теоретически до бесконечности) интервал. Но в реальности как раз его и нет. Любая новость воспринимается на протяжении конечного времени, потом ее затеняют другие события и новости. Кроме того, после первого достижения уровня достоверности единицы (или нуля), вступает в действие эффект психологической стабилизации выбора, известный как редукция когнитивного диссонанса. Он заключается в том, что после решения проблемы выбора субъект постфактум внутренне редуцирует свое представление о привлекательности объектов в пользу выбранного варианта [12]. И его уже тяжелее сдвинуть с этого представления случайными факторами.
Все это говорит о том, что восприятие пропагандистских новостей нейтральной частью населения полностью идет по сценарию разрешения внутриличностных конфликтов, с теми же закономерностями. При оценке конкретных новостей такая нейтральность нарушается, в конечном итоге индивидуум считает новость либо полностью правдивой, либо ложной, но она восстанавливается уже на уровне ансамбля всех новостей. Примерно половину из них индивид считает правдивыми, половину - ложными. Упомянутое выше время до первого выхода оценки достоверности на границу диапазона и есть время формирования восприятия.
Расчеты по теории Байеса (1) дают наилучшую оценку вариации вероятности достоверности воспринимаемой информации после изменения привлекательности пропаганды в целом. Интуитивно выбор субъекта не всегда соответствует этому. В литературе встречается мнение, что зачастую люди оценивают ситуацию более консервативно, чем предсказывает
Байесовская теория принятия решений [11]. Для нашей ситуации самым консервативным выбором будет прогноз типа «вчерашней погоды». Считать, что вероятность достоверности информации не изменится:
В реальности результат интуитивного пересчета находится где-то между (1) и (2). В соответствии с этим, наша модель была модернизирована. Мы предположили, что уровень консервативности принятия решения определяется важностью информации для субъекта [11]. При высокой значимости полученной новости он достаточно много уделяет ей времени и оценивает ее достоверность наилучшим возможным образом. Как мы уже говорили, такой интуитивный выбор описывается Байесовским приближением (см. (1)). Если же данная информация не важна для субъекта, он не изменяет своего мнения относительно ранее сделанного предположения (см. (2)). В модели влияние значимости новости мы учли в линейном приближении интуитивную оценку вероятности достоверности РГ(Л\Б) после изменения глобальной привлекательности пропаганды описывали следующим образом:
здесь Р(А), как и раньше, достоверность на предыдущем шаге, Р(А|В) есть апостериорная вероятность, посчитанная по Байесовской теории (1), Зн -оценка субъектом значимости для него информации, нормированная от 0 до 1.
Численные эксперименты с предложенной моделью показали, что с понижением уровня значимости полученной новости, время до окончательного принятия решения о ее полной достоверности или недостоверности (теоретически - время первого выхода соответствующей вероятности на границу) затягивается. Это при неизменной ширине флуктуаций привлекательности пропаганды в целом. Но на самом деле ширины флуктуаций также зависит от важности информации для субъекта.
РК(А\Б) = Р(Л).
(2)
Р(Л\Б) = (1-Зн) Р(Л) + Зн Р(Л\Б)
(3)
Если новость значима, то он акцентирует на ней внимание и флуктуации малы. И наоборот, при низкой значимости внимание рассеянное, что увеличивает ширину случайных возмущений мнения о пропаганде в целом.
Учитывая, что время окончательного формирования представления о достоверности новости обратно пропорционально величине флуктуаций, получим, что этот механизм влияния важности информации действует в противоположную сторону по сравнению с ранее описанным. Совместное действие этих двух механизмов приводят к тому, что минимальное время первого выхода оценки вероятности достоверности на границу наблюдается не при максимальной значимости новости, а при более отстраненном подходе. Этот результат хорошо коррелирует с известным психологическим фактом торможения сверхоценки значимости решения любой задачи [11].
Мы представили модель формирования оценки достоверности пропагандистской новости одним субъектом. Но в реальности такая оценка не проходит независимо. Всегда на нее влияет ближайшее социальное окружение человека. Учет такого влияния был произведен в многоагентом приближении, реализованном на пакете AnyLogic [12].
Роль агентов здесь играли субъекты, нейтрально (в среднем) воспринимающие достоверность пропаганды в целом, индивидуальное поведение которых описывалось также, как и в предыдущей модели. В дискретные моменты времени их представления о достоверности пропаганды в целом испытывали случайные возмущения (вокруг среднего значения У ). После чего каждый агент интуитивно пересчитывал свою оценку достоверности конкретной пропагандистской информации. Этот шаг, как и прежде аппроксимировался в рамках теории Байеса, по формулам (1) или (3). Кроме того время от времени каждый индивид сообщал случайному соседу (из ближайшего социального окружения) свою оценку рассматриваемой новости.
В модели сообщения посылались в случайные моменты времени, но с заданной средней интенсивностью. Агент, получивший это сообщение, пересматривал свою оценку достоверности локальной пропаганды. Переоценка описывалась в модели опять же Байесовской теорией (1). При этом роль априорной вероятности Р(Л) играла вероятность оценки до получения сообщения, апостериорной Р(Л\Б) - переоцененный уровень достоверности, условной вероятности Р(Б\Л) - не изменение глобальной достоверности (как ранее), а сообщенная оценка соседа. Отметим, что в действительности такая переоценка происходит интуитивно, теория Байеса используется нами как аппроксимация этого процесса. И здесь также справедливо все вышесказанное о большей степени консервативности реального выбора и необходимости учета значимости рассматриваемой конкретной информации по (2).
Численные эксперименты на разработанной модели показали следующий типичный сценарий формирования группового восприятия конкретной пропагандистской новости. Нейтральная часть населения (а в данной работе мы рассматриваем только ее), считает вероятность достоверности пропаганды в целом равной % (в среднем), в соответствии с чем и вновь появившуюся конкретную новость в первоначальный момент они оценивают на том же уровне. Функция распределения по респондентам вероятности достоверности этой информации линейчатая. С течением времени из-за флуктуаций восприятия пропаганды в целом она начинает расширяться. Оценка каждого респондента стохастически отходит от середины и перемещается к краям. Качественно она выглядит так, как изображено на Рис. 1, только теперь линии соответствуют не различным экспериментам, а отдельным респондентам. И в колебания восприятия конкретной новости дает также свой вклад влияние соседей. При этом, хотя флуктуации отношения к пропаганде в целом у каждого агента происходят независимо, колебания восприятия конкретной информации у соседей из
1
ближайшего социального окружения начинают коррелировать. Образуются кластеры с однотипным восприятием новости.
На Рис. 2 приведен скриншот отдельного момента эксперимента, соответствующего концу первого этапа формирования группового отношения к конкретной новости. В модели было общее число агентов 10 000, средняя оценка достоверности пропаганды в целом 1/2 , относительная ширина ее флуктуаций 10%, интенсивность общения с соседями в среднем 0,5 контакта за модельный шаг.
Рис. 2. Скриншот соответствующий концу первого этапа моделирования.
На рисунке слева представлено поле с агентами. Они расположены в узлах прямоугольной сетки. Для такого большого числа агентов это не видно, поле выглядит уже как сплошной прямоугольник с различной заливкой. Заливка получается за счет вышеупомянутой кластеризации и раскраски субъектов различным цветом, зависящим от их оценки новости. В частности, серым цветом обозначены агенты, считающие информацию полностью недостоверной (нулевая вероятность), а сиреневым - полностью достоверной. В правом верхнем углу показана функция распределения
:
респондентов по уровню оценки. По вертикали приведено число агентов, по горизонтали - вероятность достоверности новости.
К моменту, соответствующему скриншоту, существовавшая первоначально симметрия относительно уровня % практически для всех субъектов нарушена. Для них проблема выбора (считать новость достоверной или нет) уже близка к разрешению. Но на уровне ансамбля всех респондентов она еще сохранилась. Функция распределения симметрична. При этом за счет вышеотмеченной кластеризации образовался довольно большой набор мелких подгрупп с однотипной оценкой, конкретно - с вероятностью выбора близкой к 0 (отмечены темно-серым цветом) и к 1 (показаны сиреневой раскраской). На границах групп вероятность выбора может отличаться от этих значений.
Эта картинка «дышит» в процессе моделирования, происходит слияние подгрупп и образование новых, границы их смещаются. На втором этапе происходит медленное укрупнение таких подгрупп с уменьшением их числа. Процессы слияния превалируют. Начинается нарушение нейтральности уже всего ансамбля в целом. Скриншот, приведенный на Рис. 3, иллюстрирует эти изменения.
Рис. 3. Скриншот соответствующий второму этапу моделирования.
1
Здесь уже всего пять подгрупп с однотипным восприятием информации. В двух субъекты (их 54% от общего числа) оценивают новость как ошибочную. 44% исследуемых наоборот, считают ее достоверной, при этом они объединены в три подгруппы. Оставшиеся 2% приходятся на людей с промежуточной оценкой вероятности, от 0,1 до 0,9. В их ближайшее социальное окружение входят субъекты из обеих основных подгрупп. По перекосу функции распределения момент, описываемый скриншотом Рис. 3, находится вблизи границы второго этапа. Примерно до 20 % увеличение перекоса и укрупнение преобладающей подгруппы происходит достаточно медленно и хаотично.
Потом наступает третий этап, стохастичность временного поведения остается и здесь, но величина флуктуаций меньше, а скорость увеличения главной подгруппы гораздо больше. На Рис. 4 приведен скриншот, иллюстрирующий типичные особенности этого периода.
Рис. 4. Скриншот соответствующий третьему этапу моделирования.
Субъекты, оценивающие информацию как недостоверную, объединены в одну группу, объемом 82%. Противоположного мнения придерживается 17% людей (они сосредоточены в трех приграничных подгруппах). В дальнейшем их число уменьшается, и эти подгруппы исчезают. Как на
втором, так и на третьем этапах моделирования наблюдается нарушения нейтральность восприятия информации, не только на индивидуальном, но и на групповом уровнях. Эксперимент предсказывает в конечном итоге формирование одного мнения во всей исследуемой аудитории. Новость считают либо истинной, либо ложной. Но на уровне всех экспериментов симметрия относительно уровня достоверности % опять восстанавливается. Примерно половину новостей будут считать достоверными, а половину - нет.
Конечно, этот вывод справедлив, если индивиды рассматривают новость достаточно долго (теоретически до бесконечности), и в группе нет других влияний, кроме обусловленного социальным окружением с тем же нейтральным восприятием пропаганды в целом. Реально это время конечно и эксперимент надо ограничивать до исчезновения альтернативных мнений. А примерно 50% аудитории по- другому относятся к пропаганде как к политическому явлению в целом. Все это, конечно, влияет на формирование восприятия конкретной информации, и полученные нами результаты следует понимать, как тенденции, которые наблюдаются только для нейтральной части населения. Кратко их можно сформулировать следующим образом:
1. Несмотря на общую нейтральность восприятия пропаганды, по отношению к конкретным новостям на индивидуальном уровне она нарушается. Субъекты считают новости либо истинными, либо ложными. На уровне всех новостей нейтральность восстанавливается. Примерно половину новостей индивид считает достоверными, а половину - нет.
2. Влияние социального окружения с таким же восприятием пропаганды в целом приводит к кластеризации исследуемой аудитории для конкретной информации. Формируются подгруппы с однотипным отношением к этой новости. Здесь опять же происходит нарушение нейтральности на уровне фиксированной информации. Объемы подгрупп с положительным и отрицательным ее восприятием разные, а на пространстве всех новостей - уже в среднем одинаковые.
В заключение отметим, что разработанные модели могут быть использованы для исследования не только нейтральной части населения, но и групп с любым уровнем оценки правдивости пропаганды в целом, как однородных, так и неоднородных по этому параметру. Кроме того, предложенный подход может послужить основой при исследовании воздействия агентов влияния (в информационном пространстве) и разработке стратегий пропагандистской деятельности.
Работа выполнена по гранту ЮФУ № ВнГр-07/2017-20.
Литература
1. Бернейс Э. Пропаганда. М.: Hippo Publishing, 2010. 176 с.
2. Свод законов Хаммурапи. URL: hist.msu.ru/ER/Etext/hammurap.htm.
3. Крысько В. Г. Секреты психологической войны. URL: http://e-puzzle.ru/page.php?id=997.
4. Taylor P. M. Munitions of the mind: A history of propaganda from the ancient world to the present day. eISBN: 9781847790927. URL: manchesterhive.com/view/9781847790927/9781847790927.xml.
5. Smith B.L, Lasswell H.D. Propaganda, communication and public opinion. Vol. 2314. Princeton university press. 2015. 446 p.
6. Мощенко И.Н., Ярошенко А.Н., Мощенко О.А. Аффективные составляющие социальных установок студенчества по отношению к внутриличностным конфликтам Часть I. Инженерный вестник Дона, 2017, №1. URL: ivdon.ru/ru/magazine/archive/n1y2017/4300.
7. Мощенко И.Н., Ярошенко А.Н., Мощенко О.А. Аффективные составляющие социальных установок студенчества по отношению к внутриличностным конфликтам Часть II. Инженерный вестник Дона, 2017, №2. URL: ivdon.ru/ru/magazine/archive/n2y2017/4301.
8. Красников А.С., Артёмов В.Г., Мощенко И.Н. Индивидуальные аспекты эмоционального восприятия внутриличностных конфликтов
студенчеством. II Всероссийская научная конференция (с международным участием) молодых ученых (г. Ростов-на-Дону, 12-14 апреля 2018 г.). Сс. 183-187. URL:
rozmisly.ru/uploads/preprint/pdf/39.pdf_0d5bfc4f71.pdf.
9. Красников А.С., Мощенко И.Н. Пилотажное исследование восприятия населением пропаганды. I Всероссийская научная конференция (г. Ростов-на-Дону, 23-24 ноября 2018 г.). Сс. 133-136. URL: rozmisly.ru/preprint_issues/35/preprints.
10. Мощенко О.А., Мощенко И.Н. Модели внутриличностных конфликтов на основе теории Байеса. Актуальные проблемы моделирования проектирования и прогнозирования социальных и политических процессов в мультикультурном пространстве современного общества. Ростов-на-Дону: Фонд культуры и образования. 2017. с. 84-90.
11. Мощенко И.Н., Ярошенко А.Н., Мощенко О.А. Модельный анализ социальных аспектов внутриличностных конфликтов. Инженерный вестник Дона, 2017, №3. URL: ivdon.ru/ru/magazine/archive/N3y2017/4563.
12. Мощенко И.Н., Бугаян И.Ф., Мощенко О.А. Вероятностные модели внутриличностных конфликтов. Инженерный вестник Дона, 2017, №3. URL: ivdon.ru/ ru/magazine/archive/n3y2017/4530.
Referances
1. Bernays E.L. Propaganda [Propaganda]. M.: Hippo Publishing, 2010. 176 p.
2. Svod zakonov Xammurapi [Code of Hammurabi]. URL: hist.msu.ru/ER/ Etext/hammurap.htm.
3. Sekrety' psixologicheskoj vojny' [ Secrets of psychological warfare]. URL: http://e-puzzle.ru/page.php?id=997.
4. Taylor P. M. Munitions of the mind: A history of propaganda from the ancient world to the present day. elSBN: 9781847790927. URL: manchesterhive.com/view/9781847790927/9781847790927.xml.
5. Smith B.L, Lasswell H.D. Propaganda, communication and public opinion. Vol. 2314. Princeton university press. 2015. 446 p.
6. Moshchenko I.N., Yaroshenko A.N., Moshchenko O.A. Inzenernyj vestnik Dona (Rus), 2017, №1. URL: ivdon.ru/ru/magazine/archive/n1y2017/4300.
7. Moshchenko I.N., Yaroshenko A.N., Moshchenko O.A. Inzenernyj vestnik Dona (Rus), 2017, №2. URL: ivdon.ru/ru/magazine/archive/n1y2017/4301.
8. Krasnikov A.S., Artyomov V.G., Moshchenko I.N. II Vserossijskaya nauchnaya konferenciya (s mezhdunarodnym uchastiem) molodyx uchenyx (g. Rostov-na-Donu, 12-14 aprelya 2018 g.). Pp. 183-187. URL: rozmisly.ru/uploads/preprint/pdf/39.pdf_0d5bfc4f71.pdf. 8.
9. Krasnikov A.S., Moshchenko I.N. I Vserossijskaya nauchnaya konferenciya(g. Rostov-na-Donu, 23-24 noyabrya 2018 g.). Pp. 133-136. URL: rozmisly.ru/preprint_ issues/35/preprints.
10. Moshchenko O.A., Moshchenko I.N. Aktual'nye problemy modelirovaniya proektirovaniya i prognozirovaniya sotsial'nykh i politicheskikh protsessov v mul'tikul'turnom prostranstve sovremennogo obshchestva. Rostov-na-Donu: Fond kul'tury i obrazovaniya. 2017. Pp. 84-90.
11. Moshchenko I.N., Yaroshenko A.N., Moshchenko O.A. Inzenernyj vestnik Dona (Rus), 2017, №3. URL: ivdon.ru/ru/magazine/archive/N3y2017/4563.
12. Moshchenko I.N., Bugayan I.F., Moshchenko O.A. Inzenernyj vestnik Dona (Rus), 2017, №3. URL: ivdon.ru/ru/magazine/archive/n3y2017/4530.
