CC BY
86
МЕДИАСОЦИОЛОГИЯ
DOI: 10.14515/monitoring.2019.5.15 Правильная ссылка на статью:
Мисников Ю. Г., Филатова О. Г. Интернет-дискуссия как форма электронного участия: российская специфика //Мониторинг общественного мнения:Экономические и социальные перемены. 2019. № 5. С. 320—340. https://doi.org/10.14515/monitoring.2019.5.15. For citation:
Misnikov Y. G., Filatova O. G. (2019) Online discussion as a form of e-participation: Russian specifics. Monitoring of Public Opinion-.Economic and Social Changes. No. 5. P. 320—340.
https://doi.org/10.14515/monitoring.2019.5.15.
©
Ю. Г. Мисников, О. Г. Филатова
интернет-дискуссия как форма электронного участия: российская специфика
ИНТЕРНЕТ-ДИСКУССИЯ КАК ФОРМА ЭЛЕКТРОННОГО УЧАСТИЯ: РОССИЙСКАЯ СПЕЦИФИКА
МИСНИКОВ Юрий Георгиевич—PhD (political communications), аналитик Центра технологий электронного правительства, Университет ИТМО, Санкт-Петербург, Россия E-MAIL: [email protected] https://orcid.org/0000-0002-1948-619X
Филатова Ольга Георгиевна — кандидат философских наук, доцент кчафедры связей с общественностью в политике и государственном управлении Высшей школы журналистики и массовых коммуникаций, Санкт-Петербургский государственный университет, Санкт-Петербург, Россия E-MAIL: [email protected] https://orcid.org/0000-0001-9568-1002
ONLINE DISCUSSION AS A FORM OF E-PARTICIPATION: RUSSIAN SPECIFICS
Yury G. MISNIKOV1—PhD (Political Communications); Analyst, Center for E-Gov-ernment Technologies E-MAIL: [email protected] https://orcid.org/0000-0002-1948-619X
Olga G. FILATOVA2 — Cand.Sci. (Philos.); Associate Professor, Chair of Public Relations in Politics and Public Administration, Higher School of Journalism and Mass Communications E-MAIL: [email protected] https://orcid.org/0000-0001-9568-1002
1 ITMO University, St Petersburg, Russia
2 St Petersburg State University, St Petersburg, Russia
Аннотация. Авторский подход, изложенный в статье, предлагает теоретически и технологически обоснованные способы дискурс-анализа повседневных дискуссий граждан в интернете для понимания степени их делиберативно-сти и увязки результатов дискуссий с существующим политическим процессом. В качестве теоретической основы используется теория коммуникативной этики Юргена Хабермаса в рамках его модели делиберативной демократии, т.е. демократии, основанной на нормативной и морально-этической необходимости обсуждения различных точек зрения в публичном пространстве современного общества для их последующего сближения. Для тестирования предлагаемого авторами методологического подхода использовались интернет-дискуссии по вопросам уничтожения антисанкционных продуктов и повышения пенсионного возраста в России. Был проведен дискурс-анализ более пяти тысяч постов, сделанных участниками дискуссии на интернет-форумах в разных российских городах. Кодировался ряд важных параметров интернет-дискуссий с точки зрения их делиберативности. Согласно результатам исследования, анализ текущих интернет-дискуссий как делиберативных практик дает возможность выявить важные нюансы, касающиеся интерпретации значимых событий, которые трудно получить с помощью традиционных социологических методик исследования общественных настроений или с применением таких автоматизированных методов исследования, как анализ тональности высказываний вне прямой связи с их морально-этическим обоснованием. Эмпирические данные, полученные в результате дискурс-анализа, послужили основой для проведе-
Abstract. The paper offers conceptually and methodologically well-grounded approaches towards discourse analysis of people's everyday political discussions on the Internet with the aim to determine how deliberative such discussions are. The discourse ethics theory of Jurgen Habermas serves as the conceptual foundation of the study presented in the paper within his model of deliberative democracy, i.e. a democracy that advocates a need to discuss publicly different worldviews from the normative and ethical perspectives. The authors test the applicability of such an approach to online discussions focused on the politically charged topics of destroying the embargoed western food products and increasing retirement age in Russia. Over 5,000 comments posted on the discussion forums by residents of the cities of different type and size were coded and analyzed. The coding included the key deliberative features of internet-discussions. The research generates empirical evidence pointing out that the analysis of internet-discussions as online deliberative practices helps reveal certain essential aspects of people's interpretation of the publicly salient events that would be problematic to obtain through more traditional sociological methods to study social moods or computer-based text mining, such as sentiment-analysis, which do not necessarily include the moral and ethical justification of the analyzed utterances. These empirical datasets generated following the claim-based discourse-analysis were further fed, as an experiment, into the recurrent neural network in order to train it to predict positions of discourse participants in connection with the claims they made with the support of respective argumentation. The experiment demonstrates opportuni-
ния эксперимента по использованию алгоритмов глубинного машинного обучения реккурентной нейросети, с тем чтобы обучить ее предсказывать позиции участников дискуссий на основании их высказываний. Эксперимент выявил возможности, условия и ограничения применения технологий искусственного интеллекта для более глубокого понимания результатов общественных дискуссий.
Ключевые слова: электронное участие, интернет-дискурс, онлайн-дис-куссия, пенсионная реформа, методы исследования, дискурс-анализ, сенти-мент-анализ, нейронные сети, машинное обучение
Благодарность. Работа выполнена при поддержке РНФ, проект №18-1800360 «Электронное участие как фактор динамики политического процесса и процесса принятия государственных решений». Авторы благодарят студентов Даниила Волковского (СПбГУ) и Петра Бегена (Университет ИТМО) за участие в эмпирических исследованиях, которые представлены в данной статье.
ties, conditions and limitations of using the artificial intelligence technologies for better understanding of public debates.
Keywords: e-participation, Internet discourse, online discussions, pension reform, research methods, discourse analysis, sentiment analysis, neural networks, machine learning
Acknowledgments. The study is supported by Russian Science Foundation (RSF) as part of the project No. 18-18-00360 "E-participation as a factor of dynamics of political process and the process of government's decision-making". The authors are grateful to Daniil Volkovsky (St Petersburg State University student) and to Peter Begen (ITMO University student) for their participation in empirical studies presented in this article.
Введение
Электронное участие определяется как комплекс социальных практик, методов и инструментов, обеспечивающих электронное взаимодействие граждан и органов власти с целью учета мнения граждан в государственном и муниципальном управлении при принятии политических и управленческих решений. Анализ существующей литературы показывает, что электронное участие выступает важным компонентом современной системы государственного и муниципального управления. С одной стороны, интернет позволяет снизить барьеры вхождения граждан в дискурсивные практики, сделать диалог граждан и государства более интерактивным и интенсивным, что способствует повышению легитимности власти, росту институционального доверия, преодолению «демократического дефицита» и т. д. С другой стороны, участие граждан онлайн способно оказывать позитивное влияние и на качество принимаемых властью решений путем подклю-
чения делиберативных практик на этапе установления повестки дня. Но так ли это на самом деле? Все ли нормативно определяемые эффекты электронного участия следуют с неизбежностью на современном этапе цифровизации в России? Ниже мы попытаемся дать ответы на часть этих вопросов, сравнивая нормативные представления о демократии и гражданском участии с данными о реальном функционировании электронного участия в современной России. Такие данные удалось получить на примере анализ двух дискуссий на актуальные в России социально-политические темы.
Первая дискуссия была связана с социальными последствиями государственного решения об уничтожении продуктов, импортированных с Запада. Данное решение было принято в августе 2015 г. в форме указа Президента РФ, что спровоцировало публичные споры об эффективности, рациональности и моральности действий власти. Онлайн-обсуждения проводились обычными гражданами на различных медиаплатформах. Дискуссии модерировали владельцы электронных СМИ, чья лояльность по отношению к правительственным структурам разнилась. Вторая исследуемая дискуссия была вызвана законопроектом о повышении пенсионного возраста в России, опубликованном в 2018 г. Посты участников, а также их содержание, были закодированы и проанализированы специально обученными кодировщиками-студентами. Использовалась методика, разработанная Ю. Г. Ми^иковым [Misnikov, 2011] на основе концепции Ю. Хабермаса. Далее в статье будут рассмотрены методологические трудности анализа дискуссий в интернете и предложен авторский инструментарий для преодоления таких трудностей. Отдельное внимание в последней части статьи будет уделено современным возможностям изучения общественного мнения в интернете, которые представляют искусственный интеллект и нейронные сети.
Методологические и методические проблемы анализа дискуссий в интернете
Эмпирический анализ успешности дискурсивных практик электронного участия невозможен без использования специальной методики, ведь эти практики далеко не всегда имеют квантифицируемый результат, а представляют собой довольно разрозненные ветки обсуждений на многочисленных онлайн-платфор-мах. Сложность их анализа, связанная с большим объемом данных и техническим несовершенством существующих методик, зачастую заставляет отбрасывать или необоснованно упрощать этот важный в научном и практическом плане сегмент активности граждан в интернете. Причем анализ онлайн-дискурса является сложной задачей и для исследователей, и для его участников, и для тех, на ком лежит ответственность за принятие политических решений. Поэтому в настоящее время отсутствуют надежные и простые в использовании работниками органов власти и управления инструменты взаимодействия с общественностью для вовлечения граждан в процессы принятия решений (например, через общественные консультации и обсуждения). Как правило, все существующие системы такого вовлечения (например, «Активный гражданин» правительства Москвы) не предусматривают обсуждения и диалога, а основаны почти исключительно на принципе рейтингового голосования по уже предварительно сформированной властью повестке.
Происходит подмена понятия «мнение» поданным голосом без предварительного обсуждения вопроса, хотя известно, что такое обсуждение способно менять результаты голосования. Таким образом, принятие решений не учитывает информацию о мнениях и позициях других участников обсуждения. Также отсутствуют удобные и понятные инструменты и общие правила для совместного создания контента и дизайна, например, в сфере публичных услуг в рамках механизма прямого сотрудничества между органами управления и гражданами в контексте активно развивающейся на Западе парадигмы взаимодействия, известной как co-production, co-creation, collective intelligence (например, в сфере обсуждения направлений использования местных бюджетов). За рубежом создано множество различных приложений и платформ, способствующих проведению публичных дискуссий в интернете по общественно значимой проблематике. Это, к примеру, такие платформы и приложения, как Opinion Space и CAFB, California Report Card (CITRIS Data and Democracy Initiative), созданные в AutoLab Университета Беркли (Berkeley Laboratory for Automation Science and Engineering) на основе Collaborative Assessment and Feedback Engine. Эти платформы нацелены на использование технологий для улучшения и упрощения процесса вовлечения граждан с целью выражения ими своего мнения по вопросам социальной политики органов власти на уровне штата, включая функции динамической визуализации данных 1. Есть много разнообразных решений и инструментов, особенно с акцентом на визуализацию аргументов на основе лингвистических методов обработки (Natural Language Processing).
В последние несколько лет для изучения процессов формирования общественного мнения через дискурсивные формы его выражения в интернет-среде начали активно применяться алгоритмы глубокого машинного обучения нейросетей. К этому направлению, например, можно отнести и исследования в такой области искусственного интеллекта, как «аргументация и компьютинг», позволяющие устанавливать логическую взаимосвязь между утверждениями, сделанными участниками дискурса, с использованными средствами убеждения других участников в «правильности» таких утверждений [Snaith et al., 2010]. Все активнее развивается компьютерная лингвистика, семантические, смысловые исследования, широкое распространение получило применение нейронных сетей для сентимент-анализа.
При этом до сих пор отсутствует достаточно аргументированное и научно обоснованное понимание того, каким образом участники дискуссий формируют (и меняют) свое мнение в ходе дискуссий, реагируя на мнения других, и как происходит сближение или поляризация позиций. По сути, нет объясняющих моделей формирования общественного мнения дискурсивным путем. Например, ключевая для интернет-дискуссий концепция интерактивности (взаимодействие участников между собой в зависимости от смысла их комментариев) не реализована на практике. В тех случаях, когда ставится задача включить функцию дискуссий для принятия решений, ее реализация объективно сталкивается с многочисленными трудностями по причине непонимания правил и условий, которые бы способствовали
1 URL: http://citris-uc.org/connected-communities/project/the-collaborative-assessment-and-feedback-engine-cafe/, https://opinion.berkeley.edu/, http://californiareportcard.org/ (дата обращения: 18.10.2019).
участию граждан в таких дискуссиях. Системы и платформы, которые учитывают такие требования со стороны пользователей, и условия ведениями ими публичных дебатов, как правило, просто игнорируются.
Стоит упомянуть исследования петербургских социологов В. И. Дудиной и Д. И. Юдиной, касающиеся возможностей изучения общественного мнения через исследование интернет-коммуникации. В частности, в статье «Извлекая мнения из сети Интернет: могут ли методы анализа текстов заменить опросы общественного мнения?» [Дудина, Юдина, 2016] сравниваются результаты анализа онлайн-дискуссий и опросов общественного мнения, а также анализируются исследования изменения концепции общественного мнения под влиянием развития онлайн-коммуникации, осуществляемые американскими социологами [Cody et al., 2015]. Авторы аргументированно отвечают на вопрос «Может ли анализ интернет-контента заменить массовые опросы?», но не уделяют отдельного внимания тем эвристическим возможностям, которые предоставляет исследователям не интернет-контент в целом, а именно материал онлайн-дискуссий.
В целом понимание вышеуказанных методологических сложностей позволило нам предложить собственную методику исследования интернет-дискуссий и провести на ее основе несколько пилотных исследований, которые, как мы полагаем, могут быть полезны для коллег, изучающих данное проблемное поле.
Концепция исследования и предлагаемый инструментарий
В концептуальном плане мы предлагаем использовать апробированный и хорошо известный дискурсивный инструментарий, предложенный Юргеном Хабермасом. Коммуникацию и дискурс Ю. Хабермас рассматривает не просто как взаимодействие «как минимум двух способных говорить и действовать субъектов, вступающих (с помощью вербальных и невербальных средств) в межличностные отношения» [Хабермас, 2008: 11], но как взаимодействие, происходящее по поводу важных в общественном и политическом плане вопросов. Коммуникативное действие стороны предпринимают, чтобы в идеале достичь согласия по поводу какого-либо значимого для обоих субъектов вопроса. Если согласие невозможно в силу принципиальных различий принятых позиций, ключевым моментом является достижение максимального понимания друг друга. Ю. Хабермас подчеркивает, что коммуникация в таком действии ведется именно между субъектами, а не субъектом и объектом, то есть стороны обладают равным статусом и возможностями, поэтому ведут уважительный диалог на базе аргументации, и главным критерием, определяющим дискурс, являются условия «публичной, равноправной и непринужденной коммуникации, соблюдаемые в сократическом диалоге» [Хабермас, 2001: 76].
Теория этики дискурса Юргена Хабермаса включает концепцию базовых притязаний (запросов, заявлений) на подтверждение значимости высказываний в разговоре (basic validity claims) и последующее признание (согласие) или непризнание таких притязаний (несогласие) [Habermas, 1989; 1998]. Такие притязания, используемые участниками в ходе морально-ориентированных дискурсов для поиска «правды» и тем самым для лучшего понимания друг друга (не обязательно согласия друг с другом), представляют собой этически наиболее оправданную форму поли-
тической организации общества, свободного от принуждения [Habermas, 1992: 52; 1998: 233]. Концепция базовых притязаний является удобным аналитическим и методическим инструментом изучения делиберативности и диалогичности (интерактивности) интернет-дискурса, а именно: притязания на нормативную правоту, значимость второго типа (claims to normative rightness). С практической точки зрения задача состоит в выявлении притязаний, содержащихся в размещенных комментариях (постах), и их кодировке в целях определения как прагматичной составляющей дискурса, например, в форме рациональной аргументации, так и морально-этической, мировоззренческой позиции участников дискурса, претендующих в своих высказываниях на нормативную правоту. Наличие или отсутствие такой позиции показывает, является ли дискурс морально-ориентированным либо остается на уровне рационально-прагматичного обмена мнениями. Модель перехода от оригинального авторского текста к утверждению нормативной правоты с помощью рациональной аргументации концептуально можно представить в виде пирамиды дискурса (см. рис. 1).
Рисунок 1. Пирамида дискурса
Для тестирования данного методологического подхода нами была использована интернет-дискуссия, предметом которой стала петиция против Указа Президента Российской Федерации от 29.07.2015 г. № 391 «Об отдельных специальных экономических мерах, применяемых в целях обеспечения безопасности Российской Федерации». Петиция была размещена на сайте Change.org и вызвала многочисленные отклики. На основании данного Указа продукты из Европы, попадающие под антисанкционные меры, должны уничтожаться, это спровоцировало активные
публичные споры об эффективности, рациональности и моральности действий со стороны власти. Онлайн-обсуждения проводились обычными гражданами на различных медиаплатформах. Исследование было сконцентрировано на пяти онлайн-дискуссиях в различных интернет-СМИ (деловая газета «Взгляд», телеканал «Russia Today», телеканал «НТВ», Игровой форум, портал петиций Change.org) в 2015 г. Выбор конкретных онлайн-дискуссий объясняется следующими факторами. Во-первых, нужно было ограничиться общей суммой закодированных постов, не превышающей 500 комментариев, поскольку процесс кодирования содержания сообщений сложный, а также большое количество постов снижает качество дискуссий, в то время как уже около 100 комментариев достаточно для понимания сущности обсуждений. Во-вторых, так как в России нет официальных национальных и локальных платформ электронного участия для вовлечения граждан в делиберативные практики, мы сфокусировали внимание на заметных национальных СМИ, активно занимающихся распространением информации об уничтожении продуктов и привлекающих аудиторию. В-третьих, мы хотели выбрать разные медиа, которые бы включали телевидение и газеты, были бы национальными и международными, провластными и независимыми.
Состоявшиеся дискуссии позволили наполнить пирамиду дискурса реальным содержанием. На этапе проработки модели дискурса была поставлена задача проведения пилотного исследования использования методов машинного обучения для автоматизации некоторых процедур (см. рис. 2).
Обученная нейросеть, предлагает в зависимости от исходного текста (input X) варианты перехода от одного уровня к другому (output Y)
Обобщенный уровень морали / этики 5:
Мировоззренческая позиция, выраженная в
терминах За / Против, Хорошо / Плохо, Правильно / Неправильно, Верно / Неверно, Красиво / Некрасиво, Правда / Неправда и т.д.
Уровень прагматичной нормы 4: Притязания на значимость в виде утверждения нормативно-прагматического хаоактеоа
Уровень рациональной аргументации 3:
Интерактивная актуализация притязаний на нормативную значимость предыдущих текстов (постов) в виде мнения, выраженного через
Уровень текста 2: Укороченный оригинальный авторский текст, обеспечивающий лексическую и
семантическую достаточность с акцентом на
Уровень текста 1: Полный оригинальный
Рисунок 2. Пример пятиуровневого моделирования прагматично-морального дискурса (на примере анализа дискуссии об уничтожении санкционных продуктов)
Пример оригинального текста поста выглядит следующим образом:
«Если представить, что продукты не уничтожат, а отвезут куда-то на территорию России, то нас просто будут считать разбойниками с большой дороги, которые у бедных европейцев крадут кровно нажитое».
Обученный контент-анализу кодировщик анализирует данный текст и сокращает его до минимально возможного без потери смысла, убрав те части лексики, которые избыточны с точки зрения понимания основного смысла текста (предлоги, союзы, другое). При этом текст должен оставаться авторским, т. е. должен выглядеть естественным, просто и кратко написанным с использованием лексики автора (не допускается изменение текста). Ниже дан пример вычеркивания таких избыточных единиц лексики, необходимого для перехода с уровня 1 на уровень 2.
Уровень 1: Если представить, что продукты не уничтожат, а отвезут куда-то на территорию России, то нас просто будут считать разбойниками с большой дороги, которые у бедных европейцев крадут кровно нажитое.
Уровень 2: Если представить, что продукты не уничтожат, а отвезут куда-то на территорию России, то нас просто будут считать разбойниками с большой дороги, которые у бедных европейцев крадут кровно нажитое.
Или: Если продукты отвезут на территорию России, нас будут считать разбойниками, которые у европейцев крадут.
Уровень 3 фиксирует с помощью использования приемов рациональной аргументации акт согласия или несогласия с ранее высказанной точной зрения, то есть происходит актуализация притязания на значимость, если такое притязание имело место (что не обязательно). Такая актуализация важна как свидетельство наличия сетевой интерактивности — содержательной связи с предыдущими постами. Выделяется два типа актуализации факта согласия или несогласия:
1) целевая актуализация, когда (не)согласие направлено напрямую на конкретный пост либо с использованием таких встроенных функций, как «ответ», «цитата», либо в виде реакции (ответа) на непосредственно предшествующий пост;
2) контекстно-смысловая (логическая) актуализация, когда (не)согласие не адресовано конкретному посту напрямую, но такой пост (как правило, это один пост) может быть идентифицирован логически по смыслу или по другим признакам. Идентификация (не)согласий второго типа начинается с анализа содержания наиболее близких по времени размещения записей, охватывая, как правило, десять последних по отношению к данной записи постов.
Необходимость выявления согласия-несогласия дает возможность не только указать причины (аргументы) такого согласия-несогласия — «(Не)согласен, потому что...», но и дать свое видение вопроса в случае несогласия, выдвинув новое притязание и, соответственно, обосновав его, перейдя тем самым на четвертый уровень дискурса. Пятый уровень обобщает притязание на нормативную правоту до уровня моральной позиции, если это уместно и возможно (как правило, это так в диспутах на общественно-значимые темы) в формате, например, «Уничтожать продукты допускается», «Правильно, что продукты уничтожаются» или «Уничтожение продуктов не является кощунством» (как утверждалось в предыдущих постах).
Подробнее результаты исследования рассмотренной выше дискуссии представлены в наших предыдущих статьях и выступлениях на международных кон-
ференциях [Мисников и др., 2016; ^^ипоу et а1., 2016а; 2016Ь; М1эткоу et а1., 2017]. Полученные на них отклики позволяют утверждать, что концепция «базовых притязаний на правоту» подтвердила свою эффективность как аналитическое средство для оценки качества делиберативности онлайн-дискуссий и помогла охарактеризовать последние с точки зрения источника общественного мнения.
Наиболее интересны для дальнейшего исследования, на наш взгляд, результаты кодировки аргументации позиций участников дискуссий. Кодирование аргументации включало пять параметров:
1) субъективные выводы, анализ, умозаключения, рассуждения, обобщения, кроме заявлений без объяснений;
2) субъективные действия, рекомендации, предложения;
3) любые примеры, случаи, сравнения, события, даты, крылатые выражения;
4) объективные факты (повествовательные, количественные);
5) рисунки, иллюстрации.
Общий уровень аргументации был высок во всех дискуссиях. Отсылка к субъективным выводам, анализу, умозаключениям, обобщениям выступает наиболее общим алгоритмом рассуждения на всех пяти онлайн-обсуждениях. Почти каждый второй пост содержал какой-либо тип аргументации (47 %). Категория, коррелирующая с упоминаниями сравнений, случаев, событий (22 % от всех опубликованных сообщений), и группа постов, содержащих рекомендации, предложения, пожелания (16 %), находятся в середине пирамиды аргументации. Использование объективных фактов и иллюстраций как аргументов было зафиксировано меньше всего (10 % и 4 % соответственно).
Из-за повседневного характера политического обсуждения онлайн размышление приобретает свободную форму, не предполагающую предоставление сильных фактов и объяснений для примера, который нужно аргументировать. Это наиболее общий путь выражения мнения, основанного на изложении недоказанных и интерпретируемых по-своему индивидами фактов, который можно назвать «легким» типом аргументирования. Для доказательства нашей позиции обратимся к посту со следующим высказыванием: «Контрабандный ввоз в России как вариант избежать уплаты налогов — не грех, а уничтожение контрабанды — грех. Почему так?». Изречение выглядит как простое утверждение, не подтвержденное доказательством. Еще значение этого предложения содержит общее знание, позволяющее сделать логический вывод «причина — следствие», заявляя о том, почему продукты являются контрабандой (для уклонения от налогов) и зачем их надо уничтожить (потому что контрабанда). Некоторые возражения о том, что продукты могут быть перепроданы или утилизированы менее драматичными способами, очень распространены. Иногда такие выводы поддерживаются рекомендациями, сравнениями или отсылками на другие случаи, чтобы аргумент выглядел сильнее. Использование доказанных фактов не распространено, однако сложно вообразить дискуссии среди обычных граждан, где каждый участник преподносит факты.
На основании полученных результатов кодировки аргументации можно сделать ряд выводов. Первый из них связан с присутствием любого типа аргументирования, которое не является делиберативной характеристикой особой демократической важности. Напротив, это выступает как стандартное поведение в онлайн-
диспуте среди людей, которые заинтересованы в публичном обсуждении политики. Другой вывод заключается в том, что такая аргументация изначально присуща этому типу дискуссий.
Подытоживая, нельзя не отметить, что важность претензий на значимость как инструмента дискурс-анализа состоит в возможности структурирования записей постов таким образом, чтобы не только осуществить смысловой анализ путем выявления базового смыла и намерения текста записи, но и выявить интерактивную глубину межсубъектных солидарностей участников (в терминологии Хабермаса), то есть состава и размера групп, считающих какие-то важные для них позиции морально верными [Мисников, Филатова, 2015]. Преимущества такой «дискурсивной социологии» состоят в возможности тематической дезагрегации предпочтений до требуемого уровня. Особенность этого подхода — в фокусировании на выявлении не столько доминирующих позиций большинства, сколько на выявлении множественности позиций, включая тех, кто в меньшинстве. Мнения последних, если исходить из классической концепции демократии, не менее важны, чем позиции большинства.
Исследование интернет-дискурса по теме пенсионной реформы
В декабре 2017 г.—марте 2018 г. было продолжено тестирование методики в рамках пилотного исследования интернет-дискуссий, касающихся планов власти осуществить пенсионную реформу (поводом для дискуссии стала публикация законопроекта о повышении пенсионного возраста). Для анализа интернет-обсуждений, касающихся пенсионной реформы, были выбраны интернет-площадки одиннадцати разных по численности населения российских городов. Согласно классификации Минэкономразвития РФ, города подразделяются на крупнейшие, крупные, большие, средние и малые 2. Из каждой группы мы отобрали по два города, выявили их наиболее популярные интернет-площадки и проанализировали он-лайн-дискуссии по пенсионной тематике. Анализировались дискуссии в следующих городах: Санкт-Петербург и Волгоград (крупнейшие), Калининград и Севастополь (крупные), Братск и Нальчик (большие), Белореченск и Ханты-Мансийск (средние), Урюпинск и Снежинск (малые); отдельное внимание в исследовании уделялось Москве. Всего было проанализировано 5173 поста.
Прежде всего были получены данные о том, какое количество людей в процентном соотношении выступает за повышение пенсионного возраста, а какое — против. То есть, в отличие от предыдущего исследования, сначала сосредоточились на выявлении доминирующих позиций большинства. Затем эти данные сравнивались с результатами социологического опроса на аналогичную тему, проведенного Фондом «Общественное мнение» 3. Оказалось, что среди всех участников 11 онлайн-дискуссий против пенсионной реформы выступают 87,2 % и 12,8 % — «за».
Позиция «против» выше среднего показателя была зафиксирована в Москве, крупных, больших и малых городах. В крупнейших и средних городах показатель положительного отношения к пенсионной реформе выше среднего (см. рис. 3).
2 СП 42.13330.2011 Градостроительство. Планировка и застройка городских и сельских поселений. Актуализированная редакция СНиП 2.07.01—89 (с поправкой). М., 2011.
3 О пенсионном возрасте и отношении к идее его повысить // Портал ФОМ. 2018. URL: https://fom.ru/posts/14043 (дата обращения: 10.10.2019).
0« 10% 20% 30% 40% 50% 60% 70% 80% 90»1 100% ЗА «ПРОТИВ
Рисунок 3. Распределение позиций «за» и «против» на интернет-площадках разных по численности городов России (дискуссии о пенсионной реформе)
По результатам социологического опроса ФОМ, который проводился 26— 27 мая 2018 г. в 53 субъектах РФ (1500 респондентов), общее число людей, относящихся отрицательно к идее повышения пенсионного возраста, составляет 92,3 % 4. Этот показатель несколько отличается (хотя и незначительно) от показателя, полученного нами в ходе анализа онлайн-дискуссий (87,2 %). Получается, что участники интернет-обсуждений не так отрицательно относятся к пенсионной реформе, как участники опроса ФОМ. Следует учитывать различия в методах исследования. Большинство участников дискуссий оставляют по десять и более комментариев, что в значительной степени влияет на подсчет голосов. Например, наши данные по Москве практически полностью совпали с данными ФОМ, так как участники московского форума оставляли в основном всего лишь по одному комментарию (только один участник оставил более десяти комментариев).
Сравнение с социологическими данными, полученными в тот же период, дает основание сделать два важных заключения. Во-первых, граждане, участвующие в обсуждении проблемы, более мотивированы, а, возможно, и более информированы, чем среднестатистический участник социологического опроса. Высока вероятность того, что они демонстрируют более взвешенную позицию, чем просто общий негативный настрой, выявленный в результате репрезентативного социологического опроса. Во-вторых, несколько меньшая доля противников реформы указывает на наличие противоположных или нейтральных мнений, высказанных в ходе дискуссий, где представлены разные точки зрения, влияющие так или иначе на позиции их участников. Это является важным отличием от методики изучения общественного мнения через социологические опросы в рамках репрезентативных выборок, когда ответы респондентов не зависят друг от друга (оставляем за скобками влияние обыденного мнения и превалирующих общественных настроений).
Мы также исследовали активность участников дискуссий. Для нас важным было проверить, насколько соблюдается равенство участников в обсуждении и есть ли
4 Там же.
доминирующие участники дискуссии. Наша гипотеза заключалась в следующем предположении: большое количество людей, принимающих участие в обсуждении вопросов на интернет-площадках, пишет относительно небольшое количество постов и небольшая часть — много сообщений. В рамках исследования частоты размещения постов было установлено, что в дискуссиях с большим числом участников (от 35) на одного пользователя приходится от одного до трех постов, что говорит о своего рода демократичности данных дискурсов, однако если количество участников меньше 35, то количество постов, комментариев на одного человека может составлять от 8 до 15.
В ходе исследования активности участников мы выделили пять групп: малоактивные (1 пост), умеренно активные (2—3), активные (4—5), очень активные (6—9) и гиперактивные (более 10 постов). Далее исследовалась зависимость между активностью участников и формированием их позиции в отношении пенсионной реформы, то есть тестировалась гипотеза о связи позиции «за» или «против» с количеством комментариев, оставленных интернет-пользователями. Интересно, что больше всего позиций «за» зафиксировано у участников, выражавших свое мнение либо с помощью одного комментария (22 % от общего количества позиций «за», то есть малоактивных), либо с помощью десяти комментариев и больше (50% от общего количества позиций «за», то есть гиперактивных) (см. рис. 2).
Рисунок 4. Распределение позиций «за» среди участников онлайн-обсуждений (дискуссии о пенсионной реформе)
В случае выражения отрицательного отношения к пенсионной реформе ситуация отличается: в основном против реформы высказываются участники, разместившие один пост (15 % от общего количества позиций «против»), шесть—девять (16 %) и более десяти постов (55 %) (см. рис. 5). Можно предположить, что когда участник демонстрирует свое отношение к повышению пенсионного возраста, размещая всего один пост в дискуссии, то это говорит о том, что субъект онлайн-дискурса уверен в своей позиции и имеет четкое представление о ней. Другое дело обстоит
с теми, кто размещает десять постов и более с позицией «против». Вероятно, эти субъекты так возмущены повышением пенсионного возраста, что готовы размещать много постов, чтобы убедить других в своей позиции. И совсем не обязательно, чтобы каждый пост был конкретно против реформы, он может касаться и других тем, но сама их активность выступает как фактор убеждения (более 3/4 всех комментариев с позицией «против» принадлежат гиперактивным участникам).
1 комментарий
Рисунок 5. Распределение позиции «против» среди участников онлайн-обсуждений (дискуссии о пенсионной реформе)
Другое направление исследования было связано с гипотезой об интерактивности участников онлайн-дискурса. Интерактивность содержала следующие нормативы:
1) утверждения через прямой или косвенный ответ на другие сообщения и источнику дискуссии, положившей начало обсуждения с помощью механизмов согласия или несогласия с содержанием сообщения;
2) утверждения через прямой или косвенный ответ только на другие сообщения;
3) содержащие интерактивно выраженное несогласие, показывающее позиции «за» или «против» пенсионной реформы;
4) содержащие интерактивно выраженное согласие, показывающее позиции «за» или «против» пенсионной реформы.
Параметры интерактивности оценивались, только если согласие или несогласие были открыто выражены через обоснованные утверждения, чтобы показать взаимосвязь между двумя сообщениями. Обычно были другие интерактивные посты, не содержащие обоснование через согласие или несогласие или отклоняющиеся от темы пенсионной реформы, то есть раскрывающие позиции «за» или «против» (учитывались только эти две позиции). Остальные реакции были исключены из кодировки. Например, когда участники комментировали события, ссылаясь на такие источники, как статьи, петиции, ТВ, вместо того, чтобы выражать собственное мнение по теме.
Было установлено, что онлайн-обсуждения между гиперактивными пользователями (уровень интерактивности у гиперактивных участников—66,5 %) почти в три раза более интерактивны, чем онлайн-обсуждения малоактивных (уровень интерактивности у малоактивных участников около 24 % — см. рис. 6). Гиперактивные участники пишут на такие темы, как пенсионная реформа, пенсионные системы и пенсии в России, СССР и зарубежных странах, жизнь российских пенсионеров. К тому же, очень часто приводятся личные примеры из жизни людей, говорится о будущих негативных и позитивных последствиях принятия законопроекта, обсуждения не обходятся без многочисленных споров и оскорблений участников.
24 76
33,5
0% 20% 40% 60% В0% 100%
Поете интерактивом ■ Пост без интерактива
Рисунок 6. Уровень интерактивности участников дискуссий
В целом результаты исследования еще требуют дальнейшей верификации и интерпретации. Данный этап исследования прежде всего позволил сделать вывод о том, что мнения, зафиксированные вне рамок интернет-пространства, в целом совпадают с мнениями, полученными из обсуждений на интернет-платформах. Однако преимущество методики дискурс-анализа по сравнению с традиционным опросом заключается в возможности выявить аргументацию согласия или несогласия по конкретному вопросу (в данном случае по поводу пенсионной реформы). Позиция «за» или «против» может быть интуитивно ясна из текста, но дискурс-анализ позволяет обосновывать ее через механизмы согласия или несогласия с предыдущими постами, что важно в дальнейшем, в том числе при принятии политических решений.
Однако нельзя не учитывать, что выбор интернет-дискуссий для кодировки содержания комментариев очевидно накладывает много ограничений на результаты исследования, которое является экспериментальным, не в достаточной мере репрезентативным, так как невозможно установить, какие конкретно площадки должны выбираться для анализа, какое количество дискуссионных линий, участников должно быть, чтобы работа считалась репрезентативной. У нас пока
нет ответов на эти вопросы. К ограничениям репрезентативности результатов исследования можно отнести и невозможность стопроцентной идентификации кодировщиками заказных комментариев и бот-атак.
Машинное обучение для понимания процессов формирования общественного мнения через дискурсивные формы его выражения в интернет-среде
Массивы данных, использованные для дискурс-анализа, послужили основой для проведения эксперимента, связанного с глубинным машинным обучением нейросети, с тем чтобы сеть научилась предсказывать позицию участников дискуссий по отношению к пенсионной реформе («за», «против» или «нейтрально»). Целью эксперимента было выявление возможностей применения искусственного интеллекта для более глубокого понимания результатов общественных дискуссий.
Суть предлагаемого подхода заключается в использовании модели глубинного обучения (deep learning). В нашем случае ее цель состоит в предсказании прагматичных и моральных позиций в зависимости от (а) лексического и семантического содержания исходного текста (т. е. текст поста) и (б) его интерактивности (т. е. насколько глубоко основополагающий смысл размещенного текста связан с предыдущими постами и их содержательным смыслом, или насколько далеко такой смысл простирается вглубь дискурса). Любая сеть генерирует некий выходной результат игрек (выход Y) в зависимости от исходного материала икс (вход X). Для данного случая результатом Y является позиция, а материалом Х на входе служит текст поста (и его укороченная модификация) — входные данные Х ^м. рис. 2). Чтобы предсказать позицию Y, нейросеть обучается на специально сформированном для этой цели массиве обучающих данных (training set). В итоге формируются массивы данных, связывающих оригинальный авторский текст постов с неким обобщенным мнением. Такое связывание делается в виде пар, когда оригинальный текст (пост номер 1) связан с позицией номер А, оригинальный текст (пост номер 2) связан с позицией номер Б и так далее. Таких пар «текст — позиция» может быть много, но их количество ограничено тематическими рамками данного дискурса с соответствующим лингвистическим корпусом.
Количество таких пирамид равно количеству размещенных комментариев с содержательным смыслом (т. е. не все комментарии). Но в итоге формируются только две такие пирамиды, соответствующие позициям «за пенсионную реформу» и «против пенсионной реформы». Количество пирамид на промежуточных уровнях зависит от числа актуализированных притязаний на значимость. Практически невозможно выявить и формализовать (запрограммировать) все то множество взаимоотношений, которые возникают в ходе дискурса между текстами оригинальных постов, притязаниями и позициями. Но построенные вручную дискурсивные пирамиды и представляют собой тот обучающий массив данных, на основе которого можно обучать предсказывать позицию в рамках данного дискурса с точно очерченной тематической составляющей, касающейся пенсионной реформы.
В нашем эксперименте данные для машинного обучения (посты участников дискуссий) были размечены специально обученными кодировщиками тремя цифрами: 0 — категория «против», 1 — «за» и 2 — «нейтрально». В процессе ко-
дировки данных стало понятно, что для машинного обучения будет недостаточно того количества постов, которое использовалось для дискурс-анализа, и массив данных был увеличен почти в два раза. В качестве дополнительных источников были задействованы три форума, представляющие самые разные социальные группы: Woman.ru, Otzovik.com и KM.ru. Всего было закодировано 16 форумов, содержащих 10 592 постов, которые разместили 998 человек. Из всех постов: «за»—304 сообщения (3 % от общего числа); «против» — 2510 сообщений (24 %); «нейтральное отношение» — 7778 сообщений (73 %).
Данные были разделены на обучающую и тестовую выборки в соотношении 80/20, то есть 20 % всей совокупности данных использовались для финального тестирования обученной модели (тестовые данные не попадали в обучение модели, соответственно, модель «увидела» эти данные впервые при финальном тестировании).
Для машинного обучения использовалась рекуррентная нейронная сеть (Recurrent Neural Networks—RNNs) с LSTM-блоками (Long short-term memory— LSTM). Рекуррентные сети обладают возможностью использования внутренней памяти для обработки последовательностей произвольной длины, а LSTM-блоки (блоки с долго/краткосрочной памятью) адекватно решают задачи классификации и прогнозирования. Этот подход позволил нашей модели запоминать в ходе обучения предыдущие последовательности векторов для дальнейшего принятия решения и настройки весов на скрытых слоях нейронной сети.
В ходе пилотного исследования было использовано два подхода для построения выходного слоя:
— бинарная классификация (2814 высказываний: только категории «за» или «против»);
— классификация по трем категориям (10592 высказывания: три категории «за», «против» и «нейтральное отношение»).
В результате применения подхода с построением бинарной классификации («за» и «против») моделью были получены показатели точности примерно 89 %. Во втором случае, при использовании трех категорий, точность определения категории составила 78 %. Полученные показатели являются приемлемыми для выборок с малым размером данных.
Открытое тестирование показало, что высказывания, относящиеся к категории «нейтральное отношение», определяются с наиболее высокой вероятностью, чем высказывания, относящиеся к категориям «против» и «за», ввиду неравномерного распределения данных по категориям. Соответственно, для дальнейшей интерпретации результатов пилотного исследования необходимо его продолжение с большим количеством равномерно распределенных данных о высказываниях участников, а также следует опробовать иные методы машинного обучения и подходов к решению задач дискурс-анализа.
Для человека выявление перехода от лексики к семантике не является большой проблемой. Более сложно выявить актуализированный акт согласия или несогласия, но обученный кодировщик справляется с такой задачей достаточно легко. Здесь хорошо зарекомендовал себя инструментарий сентимент-анализа, то есть предсказание полярности текста (предложения), а именно: его принадлежность
какому-то классу или типу полярности, своего рода полюсу. В нашем случае такими полюсами полярности служат пары «за»—«против». Ключевой задачей здесь представляется создание обучающего концепта в области сентимент-анализа для классификация полярных сентиментов [Dai, Le, 2015; Maas et al., 2011]. Например, можно использовать методологию, основанную на использовании методов символического знания и аргументации в ходе глубинного обучения, когда определяется функция потери семантического смысла, чтобы связать результаты, выдаваемые нейросетью (в векторной форме) с существующими логическими ограничениями получения таких результатов (т. е. результат может не соответствовать логике) [Dai, Le, 2015; Maas et al., 2011]. Такая функция позволит определить, насколько близко нейросеть может удовлетворить условия таких ограничений и преодолеть их, сформировать понятные для человеческой логики многообъектные классификации и их структуру, например, в виде ранжиров, дерева целей, интеллект-карт.
Заключение
Важная цель проведенных исследований заключается в том, чтобы показать, что имеются дискуссии, которые могут рассматриваться как форма электронного участия в политике — они диалогичны, достаточно цивилизованы, рациональны, то есть дискурсивно делиберативны, а значит—демократичны, если мы принимаем концепцию Ю. Хабермаса. При этом важно, чтобы лица, принимающие решения, опирались на результаты научных исследований, учитывающих всю множественность и неоднозначность высказываемых в публичной сфере мнений по социально важным проблемам.
Однако лицам, принимающим решения в России, еще только предстоит научиться изучать результаты таких дискуссии и учитывать всю множественность и неоднозначность высказываемых в публичной сфере мнений при разработке государственной, региональной и муниципальной политики. Важно понимать, что делиберация является сложным социальным действием и требует знаний и усилий, и прежде всего — внимания к другому мнению. Делиберация должна быть процедурной, с четкими правилами участия в тех случаях, когда проводятся формальные публичные консультации с гражданами.
Это говорит о необходимости разнообразить не только инструментарий методов исследования публичных интернет-дискуссий, но прежде всего пересмотреть фундаментальные основы методологии и концептуальные подходы к планированию и организации таких исследований. Предполагается, что подобное переосмысление позволит также критически оценить формы общественного участия граждан как с технологической, так и с политолого-социологической точек зрения.
Протестировав авторскую методику дискурс-анализа, а также существующие инструменты машинного обучения нейросетей, мы выявили ряд особенностей российских интернет-дискуссий, предложили концептуальную методологическую модель, позволяющую анализировать интернет-дискуссии, и некоторые решения для использования искусственного интеллекта для более глубокого понимания результатов общественных дискуссий.
Опыт применения технологий искусственного интеллекта для дискурс-анализа показал адекватность применения рекуррентных нейросетей (RNNs) и нейросетей
на основе длительной кратковременной памяти (LSTM). Последние могут оказаться особенно эффективными для учета интерактивности постов (т. е. выявления траекторий и сценариев актуализации притязаний через согласие-несогласие между постами).
В дальнейшем алгоритмы машинного обучения могут быть положены в основу разработки специализированного приложения в помощь участникам дискуссий, не только информирующего их о ходе дискуссии, его трендах, но прежде всего стимулирующего сближение позиций по наиболее спорным вопросам. Основная задача будет состоять в информировании участников дискуссии о ее трендах, направленности, рациональности, чтобы была видна общая картина дискурса, с одной стороны, а с другой — чтобы участники видели в режиме (почти) реального времени, какую «нормативную правоту» они утверждают и какие морально-этические позиции они защищают сознательно или несознательно. Понимание того, каким образом размещаемые ими комментарии связаны с той или иной (рациональной и морально-мировоззренческой) позицией, позволит вести более осознанную и структурированную дискуссию, не обязательно стремясь к полному консенсусу (который и невозможен при демократии).
Необходимо продолжить изучать сам процесс коллективного формирования мнений через дискурс-анализ и выявлять проблемные моменты—а именно, при каких дискурсивных и социальных условиях происходит принятие другого мнения, чтобы разработать алгоритмы искусственного интеллекта, способствующие сближению наиболее полярных позиций. Но для этого предстоит сформировать систему и механизм автоматического замера расстояния между разными позициями, развивая таким образом теорию и практику делиберации в рамках ее процедурно-ориентированной модели с особыми правилами. Важная задача — сделать это привлекательным с точки зрения дизайна и интерфейса взаимодействия с системой и с минимальным вмешательством в ход обсуждения. Для этого надо продолжать экспериментирование с использованием разных моделей нейросетей и сбора данных для их обучения. В концептуальном плане следует разрабатывать теоретические подходы и подбирать эмпирический материал для выявления различий между прагматическими (этическими) и моральными моделями дискурсов, как их понимает Хабермас.
В свете лучшего понимания процедурной модели делиберации большие возможности предоставляют рассуждения Элиха Катца [Katz, 2017], который задается вопросом: является ли делиберативная демократия более желательной для общества, чем представительная демократия? По его мнению, эмпирические исследования дают как положительный, так и отрицательный ответ на этот вопрос.
Список литературы (References)
Дудина В. И., Юдина Д. И. Извлекая мнения из сети Интернет: могут ли методы анализа текстов заменить опросы общественного мнения? // Мониторинг общественного мнения : Экономические и социальные перемены. 2017. № 5. С. 63—78. https://doi.Org/10.14515/monitoring.2017.5.05.
Dudina V. I., ludina D. I. (2017) Mining opinions on the Internet: can text analysis methods replace public opinion polls? Monitoring of Public Opinion: Economic and Social Change. No. 5. P. 63—78. https://doi.org/10.14515/monitoring.2017.5.05. (In Russ.)
Мисников Ю. Г., Филатова О. Г. Подходы к изучению делиберативности интернет-дискуссий // Социальный компьютинг: основы, технологии развития, социально-гуманитарные эффекты» (ISC-15). Материалы Четвертой Международной научно-практической конференции / Отв. редактор Бродовская Е. В. Москва: МПГУ, 2015. Misnikov Y. G., Filatova O. G. (2015) Approaches to Studying the Deliberation of Online Discussions. In: Social computing: fundamentals, development technologies, social and humanitarian effects " (ISC-15). Materials of the Fourth International Scientific and Practical Conference. Ed, by E. V. Brodovskaya. Moscow: MPGU.
Мисников Ю. Г., Филатова О. Г., Чугунов А. В. Электронное взаимодействие власти и общества: направления и методы исследований // Научно-технические ведомости СПбГПУ. Гуманитарные и общественные науки. 2016. № 1. С. 52—60. Misnikov Y. G., Filatova O. G., Chugunov A. V. (2016) Electronic interaction between the authorities and society: areas and methods of researches. St. Petersburg State Polytechnical University Journal. Humanities and Social Sciences. No. 1. P. 52—60. (In Russ.)
Хабермас Ю. Вовлечение Другого. Очерки политической теории. СПб.: Наука. 2001. Habermas J. (2001) Die Einbeziehung des Anderen. Studien zur politischen Theorie. SPb: Nauka. (In Russ.)
Хабермас Ю. Отношения к миру и рациональные аспекты действия в четырех социологических понятиях действия // Социологическое обозрение. 2008. Т. 7. № 1. C. 1—24.
Habermas J. (2008) Weltbezüge und Rationalitätsaspekte des Handelns in vier soziologischen Handlungsbegriffen. Sociological Review. Vol. 7. No. 1. P. 1—24. (In Russ.)
Chugunov А., Filatova O., Misnikov Y. (2016a) Online discourse as a microdemocracy tool: towards new discursive epistemics for policy deliberation. In: ACM International Conference Proceeding Series. 9th International Conference on Theory and Practice of Electronic Governance, ICEGOV 2016; Montevideo; Uruguay. P. 40—49. https:// doi.org/10.1145/2910019.2910100.
Chugunov A., Filatova O., Misnikov Y. (2016b) Citizens' deliberation online as will-formation: the impact of media identity on policy discourse outcomes in Russia. In: Tambouris E. et al. (eds.) Electronic Participation. ePart 2016. Lecture Notes in Computer Science. Vol. 9821. Cham: Springer. P. 67—82. https://doi. org/10.1007/978-3-319-45074-2_6.
Cody E. M., Reagan, A.J., Mitchell L., Dodds, P.S., Danforth C. M. (2015) Climate change sentiment on Twitter: an unsolicited public opinion poll. PLOS ONE. Vol. 10. No. 8. https://doi.org/10.1371/journal.pone.0136092.
Dai A. M., Le Q. V. (2015) Semi-supervised sequence learning. In: Proceedings from the conference. Advances in Neural Information Processing Systems 28 (NIPS 2015). P. 3079—3087.
Habermas J. (1998) On the pragmatics of communication. Cambridge, MA: MIT Press.
Habermas J. (1989) The structural transformation of the public sphere: An inquiry into a category of bourgeois society. Cambridge: Polity Press.
Habermas J. (1992) Moral consciousness and communicative action. Cambridge: Polity Press.
Katz E. (2017) Nowhere to Go: Some Dilemmas of Deliberative Democracy. In: Kenski K., Jamieson K. H. (eds.) The Oxford Handbook of Political Communication. Oxford: Oxford University Press. https://doi.org/10.1093/oxfordhb/9780199793471.013.54.
Maas A.L, Daly R.E, Pham P.T, Huang D., Ng A.Y, Potts Ch. (2011) Learning word vectors for sentiment analysis. In: Proceedings of the 49th Annual Meeting of the Association for Computational Linguistics: Human Language Technologies-Volume 1, Association for Computational Linguistics, 2011. P. 142—150.
Misnikov Y. (2011) Public Activism Online in Russia: Citizens' Participation in Webbased Interactive Political Debate in the Context of Civil Society. Development and Transition to Democracy. PhD thesis. University of Leeds.
Misnikov Y., Chugunov A., Filatova O. (2017) Converting the outcomes of citizens' discourses in cyberspace into policy inputs for more democratic and effective government. In: Alois A. Paulin, Leonidas G. Anthopoulos, and Christopher G. Reddick (eds). Beyond Bureaucracy: Towards Sustainable Governance Informatisation. Springer Science and Business Media, Public Administration and Information Technology Book Series. 2017. P. 259—291. http://dx.doi.org/10.1007/978-3-319-54142-6_15.
Snaith M., Lawrence J., Reed C. (2010) Mixed Initiative Argument in Public Deliberation. In: De Cindio F., Macintosh A., Perabon, C. (Eds.) From e-participation to Online Deliberation, Proceedings of the Fourth International Conference on Online Deliberation. P. 2—13.
