CC BY
41
социология коммуникации
тематический ландшафт бот-пространства социальной сети «вконтакте»
Валерия Валентиновна Василькова (v.vasilkova@spbu.ru),
Наталья Игоревна Легостаева, Владимир Борисович Радушевский
Санкт-Петербургский государственный университет, Санкт-Петербург, Россия
Цитирование: Василькова В.В., Легостаева Н.И., Радушевский В.Б. (2019) Тематический ландшафт бот-пространства социальной сети «ВКонтакте». Журнал социологии и социальной антропологии, 22(4): 202-245. https://doi.Org/10.31119/jssa.2019.22.4.8.
Аннотация. Авторы предлагают рассматривать феномен социальных ботов не просто как одну из новейших манипулятивных технологий, но более масштабно — как новую коммуникативную технологию информационного влияния в пространстве социальных сетей, что предполагает выход на новый уровень исследования — анализ тематического разнообразия ботов в онлайн-сетевом пространстве, отражающего стремление различных социальных акторов к экспансии своих интересов. Такой подход реализуется в авторском исследовании, посвященном выявлению и анализу бот-сетей различной тематической направленности в информационном пространстве российской социальной сети «ВКонтакте». Дано описание разработанной авторами методики выявления ботнетов, фиксируемых в определенный период времени (февраль и октябрь 2018 г.). Выявлены зоны наиболее интенсивного применения бот-технологий в данной сети. Охарактеризованы структурные и функциональные особенности социальных ботов в различных тематических областях. Авторская методика позволила в заданный период обнаружить 42 ботнета, среди которых был выделен топ-10 ботнетов по максимальному количеству текстов в конкретном кластере текстов за определенный период, что позволило выявить зоны наиболее интенсивного использования бот-технологий. Данные ботнеты располагались в трех тематических областях — политической, маркетинговой, социального активизма. Причем в различных тематических областях ботнеты осуществляют различные функции: политические боты — информирования и мобилизации; маркетинговые — информирования, PR, привлечения клиентов; боты, связанные с гражданским активизмом, — информирование, мобилизация, обеспечение информационной прозрачности, гражданский контроль за чиновниками. Было зафиксировано наличие различных субъектов, действующих в бот-пространстве рассматриваемой социальной сети: бот-технологии актуальны для политических партий, различных компаний и организаций, групп гражданских активистов и т.д. Делается вывод об ограничениях и перспективах используемых в исследовании методик и их результатов для дальнейшего изучения бот-пространства онлайн социальных сетей.
Ключевые слова: социальные боты, функции ботов, ботнеты, структура ботне-тов, социальная сеть «ВКонтакте», методика выявления ботнетов.
Постановка проблемы
Социальные онлайн-сети в современном мире представляют собой не только новое пространство коммуникации, формирующее идеи, ценности, мнения, влияющие на позиции миллионов людей во всем мире, но и создают новую онтологию, меняя природу социального взаимодействия. Одной из важнейших характеристик коммуникации в социальных сетях является анонимность, позволяющая в том числе создавать субъекты коммуникации особой гибридной природы. В первую очередь речь идет о таком феномене, как социальные боты. В узком (технологически центрированном) смысле социальные боты понимаются как автоматизированные программные комплексы, которые имитируют поведение реальных пользователей социальных сетей (Boshmaf et al. 2011). В более широком смысле социальные боты понимаются как программы, которые автоматически создают контент и взаимодействуют с другими пользователями, продвигая данный контент (Ferrara et al., 2016). В этой трактовке к ним относятся не только ложные аккаунты, но и действующие в социальных сетях чат-боты, спам-боты, боты-сканеры, полуавтоматизированные боты-киборги и т.д. Авторы придерживаются второго подхода, так как «он позволяет более широко и диверсифицированно взглянуть на структурные, функциональные особенности социальных ботов, а главное — на цели их использования различными социальными субъектами» (Василькова, Легостаева, Радушевский 2019: 23).
Еще совсем недавно в фокусе внимания исследователей была преимущественно односторонняя оценка бот-технологий как инструмента злонамеренного искажения информационного пространства социальных сетей (прежде всего это связано с расследованием вмешательства в президентскую избирательную кампанию в США в 2016 г.). Новейшие информационные технологии, которые, казалось бы, в первую очередь должны были быть направлены на укрепление демократии социальных медиа, обернулись угрозами, способными подорвать информационную прозрачность в процессе обмена мнениями в социальных сетях. В результате именно «злонамеренные политические социальные боты» оказались в фокусе внимания большинства исследований, посвященных бот-технологиям (Hofeditz et al. 2019).
Однако расширение и диверсификация использования бот-технологий в социальных сетях побуждает исследователей более внимательно рассматривать те ситуации, в которых определенные субъекты информаци-
онного пространства скрываются под социальными ботами и при этом имеют своей целью существенно интенсифицировать свое информационное влияние в пространстве социальных сетей. В этом плане можно выделить два исследовательских вектора в академической литературе по проблемам социальных ботов: 1) анализ практик функционирования ботов, 2) анализ способов обнаружения ботов.
1. Анализ различных практик функционирования социальных ботов тематически структурируется в соответствии с различными сферами деятельности.
Наиболее масштабно представлены исследования бот-технологий в политике (см. обзор: Василькова, Легостаева 2019). Приоритетным здесь является анализ ботов в электоральных практиках разных стран (США, Великобритании, Японии, Бразилии, Венесуэле и др.) (Bessi, Ferrara 2016; Howard et al. 2017; Schäfer, Evert, Heinrich 2017; Arnaudo 2017; Forelle et al. 2015). Кроме того, политические боты рассматриваются как инструмент астротурфинга, манипуляции общественным мнением (Howard 2003; Ratkiewicz et al. 2011), пропаганды проправительственной точки зрения (Woolley 2016), делигитимации властных структур, поддержки оппозиционных сил (Pasquale 2015; Sia et al. 2016; Woolley, Howard 2018).
Другим направлением использования социальных ботов, нашедшим широкий отклик в литературе, является маркетинговая коммуникация. Социальные боты в коммерческих целях могут использоваться для оптимизации поисковых систем или для создания маркетингового спама (Ratkiewicz et al. 2011), для распространения рекламной информации или для помощи пользователям в сравнении цен на отдельные товары (так называемые shopping bots) (Rowley 2000; Khaled et al. 2007), убеждения пользователей купить что-то на определенном веб-сайте (Mitter et al. 2013).
Также существуют работы (правда, не столь многочисленные), посвященные разнообразным практикам использования бот-технологий для решения социальных проблем, таких как борьба с коррупцией (Arnaudo 2017), проблемы онлайн-эксплуатации детей (Woolley, Howard 2018: 73-74), поддержки прав человека (Velazquez et al. 2017), развития волонтерской деятельности (Savage et al. 2016), мобилизации граждан в кризисных ситуациях (Hofeditz et al. 2019) и др.
2. Анализ способов обнаружения ботов включает исследования, связанные с обоснованием и апробацией различных методик выявления социальных ботов.
Проведенный нами сравнительный анализ методов обнаружения ботов показал, что различные исследователи используют в своих работах схожие методы детектирования автоматизированных алгоритмов, но в раз-
личных комбинациях. В более ранних работах авторы уделяли больше внимания онлайн-методам, позволяющим с высокой точностью (85-90 %) вычислять фальшивые аккаунты, например онлайн-сервисы SybilRank и Souche (Cao et al. 2012), в последние годы авторы нередко используют метод автоматизированного обнаружения ботов (Botometer) (Bolsover, Howard 2018). К известным методам выявления ботов относятся метод частотного анализа размещаемых сообщений (Bolsover, Howard 2018; Howard, Kollanyi 2016), изучение статичных признаков ботов (наличие/ отсутствие уникальных фотографий профиля, количество друзей и подписчиков, наличие/отсутствие биографических сведений, дата создания аккаунта и т.д.) (Howard et al. 2018), метод анализа ближайшего онлайн-социального окружения (Varol et al. 2017), методы машинного обучения (Bessi, Ferrara 2016; Schäfer et al. 2017), статистический и семантический анализ контента (Dickerson et al. 2014), временные характеристики, связанные с активностью пользователей (Ferrara et al. 2016b; Haustei et al. 2016), а также комбинированный подход в использовании разных методов в одном исследовании (Stieglitz et al. 2017; Bolsover, Howard 2018).
Отечественные исследователи для выявления бот-профилей, так же как и зарубежные коллеги, используют анализ статичных характеристик профиля в сочетании с его активностью (Алымов, Баранюк, Смирнова 2016; Мартьянов 2016), нейросетевые технологии (Катасев, Катасева, Кирпичников 2015; Сачков, Назаров 2014), методы моделирования (Котенко, Коновалов, Шоров 2011). В.О. Чесноков для выявления ботов использует анализ графов ближайшего окружения и отмечает необходимость комбинированного подхода при изучении бот-профилей, сочетающий анализ бот-профилей и анализ контента (Чесноков 2017).
При этом среди исследований, посвященных проблемам социальных ботов, преобладают работы, рассматривающие отдельные тематические ботнеты или конкретную бот-технологию, используемую в определенной ситуации или для решения той или иной проблемы (например, резонансное по своим результатам исследование по изучению влияния ботов на политическую онлайн-дискуссию в социальной сети Twitter в период президентских выборов в США 2016 г. /Bessi, Ferrara 2016/).
Однако если рассматривать феномен социальных ботов не просто как одну из новейших манипулятивных технологий, но более масштабно — как новую коммуникативную технологию информационного влияния в пространстве социальных сетей, необходим, на наш взгляд, выход на следующий уровень исследования — анализ тематического разнообразия ботов в онлайн-сетевом пространстве, отражающего стремление различных социальных акторов к экспансии своих интересов.
В связи с этим целью исследования стала разработка методики выявления бот-сетей различной тематической направленности в рамках российской социальной сети «ВКонтакте» за определенный период и проведение пилотажного исследования с применением данной методики. Описание проведенного исследования задает структуру статьи и ее основные задачи: 1) описать авторскую методику выявления ботнетов в социальной сети «ВКонтакте», фиксируемых в определенный период времени; 2) охарактеризовать зоны наиболее интенсивного применения бот-технологий в рассматриваемой сети; 3) описать структурные и функциональные особенности социальных ботов в различных тематических областях.
Для обозначения предметного поля авторы считают возможным использовать понятие бот-пространства, под которым понимают системную совокупность бот-сетей различной тематической, целевой направленности и различной степени интенсивности функционирования в социальной сети. Оставляя за пределами статьи теоретическую работу по концептуализации этого понятия, отметим, что интерпретация феномена социальных ботов в категориальной парадигме пространства кажется нам достаточно продуктивной, поскольку позволяет описать нелинейный, многомерный характер функционирования бот-сетей в информационном поле социальной сети, а также показать взаимосвязь сетевой позиции ботнета и уровня его информационного влияния.
Метод
Тематическая структура бот-пространства социальной сети «ВКонтакте» конструировалась авторами с учетом существующих в современной литературе подходов к описанию практик использования бот-технологий. Исходя из этого были выделены три тематические зоны — политика, маркетинг, социальные проблемы. Авторами была разработана система индикаторов структурирования бот-пространства, включающая 1) субъектные индикаторы, 2) семантические индикаторы, 3) технологические индикаторы. В своей совокупности они структурируют бот-пространство как систему ботнетов, обладающих различными технологическими характеристиками функционирования и отражающих позиции субъектов, действующих в различных семантических полях и создающих эти ботнеты.
В частности, в сфере политики субъектными индикаторами могут выступать политики, политические партии, группы активистов, оппозиционеры и т.д., семантическими индикаторами — ключевые слова (ключи) для сбора данных (названия политических партий, ФИО политических деятелей, политические события или акции и т.д.). Технологическими индикаторами выступают тиражируемость сообщений, скорость распро-
странения контента, структура контента, специфика активности пользователей.
Эти индикаторы были использованы как основания для выборки данных по 44 тематическим ключам в рамках первого этапа исследования (формирование исходной базы данных)*. В частности, к политическим ключам были отнесены такие, как «власть», «администрация», «выборы», «президент», «Грудинин», «Собчак», «оппозиция», «митинг», «протест», «коррупция» и др.; к маркетинговым ключам — «купить», «скачай», «бесплатно», «цена», «Apple», «Google», «Samsung», «Сбербанк», «Яндекс», «Аэрофлот», «Мегафон», «ВТБ» и др.; к ключам в социальной сфере — «налог», «пенсия», «пособие», «школа», «медицина», «экология», «детский сад», «образование» и др.
Сбор данных был локализован двумя периодами — февраль и октябрь 2018 г. За февраль 2018 г. был собран массив данных, состоящий из 10 744 103 постов и комментариев с ключевыми словами, из них 7 634 936 постов и 3 109 167 комментариев. За октябрь 2018 г. был собран второй массив данных, состоящий из 23 350 241 постов и комментариев с исходными ключевыми словами, из них 15 697 341 пост и 765 900 комментариев. Таким образом, итоговый массив данных составил 34 094 344 публикаций (в том числе продублированных).
В рамках второго этапа для выявления ботнетов в структуре коммуникативного пространства социальной сети «ВКонтакте» была разработана авторская методика, которая отличается от существующих тем, что основным критерием выступает «тиражируемость контента» в сочетании с двумя другими заданными параметрами: 1) в сети должно быть не менее 10 ботов, 2) период распространения одного уникального текста — не более двух часов. Такой подход позволяет авторам выявлять связки ботов, которые формируют ботнет. Под ботнетами авторы понимают автоматический или полуавтоматический (с использованием оператора/ов) публикационный комплекс в социальной сети «ВКонтакте», который включает в себя 5 компонентов: технологические аккаунты (боты), места размещения текстов, тексты, программное обеспечение, опреатор/ы. Ботнет использует технологические аккаунты для согласованной публикации информационных материалов определенной тематической направленности в заданных местах размещения (Vasilkova, Legostaeva, Radushevskii 2018)**.
* Список ключей формировался с учетом частоты упоминания в текстах в социальной сети «ВКонтакте» в исследуемый период.
** Такая трактовка отличается от более узкого понимания ботнетов с позиций компьютерной безопасности как вируса, поражающего несколько компьютеров,
Авторская методика выявления структур ботнетов является комплексной и объединяет метод частотного анализа размещаемых сообщений, профайлинг бот-аккаунтов, включающий статичный и поведенческий анализ данных профиля пользователя, статистический анализ текстов с помощью построения временных гистограмм периода распространения контента с параллельной визуализацией графов соотношения «текст— автор», анализ структурной организации бот-сети, а также анализ контента текстов для определения тематики ботнета. Временные гистограммы позволяют увидеть скорость тиражирования текстов и классифицировать процесс как естественный (волнообразный график с фиксированными подъемами и спадами за длительный период времени) или искусственный (всплеск публикаций за короткий период времени). Ниже будет приведено описание 10 ботнетов, каждое из которых начинается со следующих параметров: количество ботов в ботнете, тираж одного уникального текста (публикации), скорость тиражирования одного уникального текста (публикации), количество уникальных текстов (публикаций), период анализа работы ботнета, количество продублированных текстов (публикаций) за исследуемый период, структура ботнета.
В ходе проведения исследования было использовано следующее программное обеспечение: ElasticSearch (сбор и хранение информации), Kibana, Tableau Desktop, Tableau Server (визуализация данных) и скрипты на PHP для скачивания информации, используя VK API, и ее обработки. По собранным данным были построены временные гистограммы, включающие в себя временной параметр распространения текста, а также визуализацию пары «тираж контента — число авторов» («count — authors»). Также были визуализированы графы соотношений «автор — текст», узлами которых являются авторы и тексты, а ребрами — взаимосвязь авторов и текстов.
Для выделения структур ботнетов из графов соотношений «автор — текст» были использованы алгоритмы кластеризации на базе библиотеки Natural для программной платформы Node.js, основанной на JavaScript. В результате автоматизированной обработки были выделены 42 структуры, представляющие ботнеты.
В процессе анализа контента, публикуемого этими 42 ботнетами, был сформирован массив данных, состоящий из 384 уникальных (непроду-блированных) текстов. Исходный массив данных был разделен на две базы данных текстов: первая включала все тексты с упоминаемыми в них
после чего с этих компьютеров он может проводить координированные Эо8/ ЭЭоЗ-атаки на серверы сайтов-мишеней.
Рис. 1. Визуализация кластеров текстов, публикуемых ботнетами. Узлы — тексты и униграммы, биграммы, триграммы. Ребра — взаимосвязь «текст — униграммы», «текст — биграммы», «текст — триграммы». Цветовая кодировка узлов отражает сформированные кластеры текстов
ссылками на источники информации, сайты и т.п., вторая — все тексты с исключенными из них ссылками на источники информации, сайты и т.п.
Третий этап исследования заключался в разбивке текстов на следующие семантические единицы: «униграммы», «биграммы», «триграммы», которая была реализована с помощью библиотеки Natural.
Результатом четвертого этапа стали сформированные кластеры текстов по каждому массиву данных. При построении графа, где узлами выступают тексты и семантические единицы, использовалась метрика «Class modularity» (рис. 1). Модулярность является мерой структуры сети, которая позволяет производить ее кластеризацию на основе связанности
между узлами с учетом направленности и веса ребер. Такой подход позволяет увидеть структурные взаимосвязи, которые отсутствуют в исходных данных. Расчет метрики «Class modularity» для каждого узла в представленных сетях производился на основе алгоритма, описанного в работе В.Д. Блондель и соавторов (Blondel et al. 2008). В результате автоматизированной классификации первой базы данных (с ссылками на источник) были сформированы 57 кластеров текстов. Вторая база данных (без ссылок на источник) позволила сформировать 43 кластера.
Пятый этап состоял из анализа контента текстов в кластерах, сформированных по двум массивам данных. Одним из результатов данного этапа стал вывод о том, что второй массив данных (без ссылок) в ходе реализации автоматизированной классификации с разбивкой текстов на семантические единицы давал меньше ошибок, которые выражались в том, что в одном кластере оказывались тексты, не связанные друг с другом одной темой*.
Для более точного формирования списка тем 43 кластеров текстов, опубликованных ботнетами, был проведен шестой этап исследования. Он был сосредоточен на анализе экстремумов — максимального количества уникальных текстов, опубликованных ботнетами, в конкретном кластере за определенный период. Например, ботнет bn55780 опубликовал 49 уникальных текстов за исследуемый период, bn59068 — 20 уникальных текстов, bn62371 — 17, bn65640 — 15, bn68335 — 15 и т.д. (см. прил.). Данный подход позволил авторам более точно определить тематическую направленность текстов. Результатом данного этапа исследования стал список 10 ботнетов и тем, которые были выявлены с помощью анализа контента текстов. По этим ботнетам можно охарактеризовать тематические зоны наиболее активного функционирования бот-технологий в социальной сети «ВКонтакте» за выбранный период исследования.
Результаты исследования
При характеристике десяти бонетов, попавших в область экстремума, мы будем придерживаться следующих параметров их описания: 1) структура ботнета, 2) его тематическая направленность, 3) функции ботнета. Также приводятся образцы и описание текстов. Использование данных параметров позволит определить специфику использования ботнетов
* В процессе ручного анализа первого датасета было обнаружено слияние разных тем в одном кластере, поскольку уникальные тексты сбивались по принципу не схожего контента, а наличия одинаковых ссылок на источник информации.
различными субъектами в различных тематических областях бот-пространства. Были визуализированы технологические аккаунты ботнета и графы взаимосвязи «автор — текст», в которых узлами сети выступают авторы (синий) и тексты (розовый), ребрами — взаимосвязи «текст — автор». Особая конфигурация графа свидетельствует о том, что мы имеем дело с закрытым публикационным комплексом, где одни и те же авторы тиражируют одни и те же тексты за короткий промежуток времени, что является типичным для структуры и работы ботнета.
Ботнет № 1 «Обманутые дольщики ЛенСпецСтроя» (Ьп55780)*
В ботнете работают 34 бота, тираж одного текста — 34, количество уникальных текстов — 54, количество продублированных текстов за исследуемый период — 1836. Первый период детектирования работы ботнета с 01.02 — 27.02.2018, второй период — с 28.10 — 31.10.2018, период распространения одного текста варьируется от 1 до 15 минут. Ботнет состоит из групп и реальных пользователей социальной сети «ВКонтакте», которые являются дольщиками и пайщиками (рис. 2, 3).
Ботнета посвящен борьбе обманутых дольщиков и пайщиков с недобросовестными застройщиками в Санкт-Петербурге и Ленинградской области.
Доминирующая функция ботнета — информирование участников и подписчиков групп ботнета о событиях и мероприятиях, организованных объединенной группой дольщиков ГК «ЛенСпецСтрой»: 1. «Группа дольщиков отправилась в Москву, чтобы заявить о своей проблеме в Минстрое, Генпрокуратуре, Совете Федерации и Администрации Президента РФ. Пока одни активисты пикетировали Генпрокуратуру, Совфед и Минстрой, другие поучаствовали в совещании Министерства строительства и ЖКХ, где чиновники под протокол огласили сроки проверки — с 19 февраля по 1 марта этого года». 2. «Всероссийская акция — митинг БЕЗДОМНЫЙ ДОЛЬЩИК — "ДОЛЬЩИКИ ВЫБИРАЮТ ЖИТЬ!" 3-4 марта 2018 года — это еще одна наша общая боевая операция в борьбе за свои дома, за право на оплаченное жилье, за будущее своих семей, за наши дома!». 3. «Суд обвиняет Астафьева (владельца строительной компании «ЛенСпецСтрой». — Авт.) в мошенничестве. Ущерб для обманутых им дольщиков недостроенного жилого комплекса «Ленинградская перспектива» оценивается в 482,3 млн руб. Недавно суд продлил Астафьеву срок предварительного заключения до февраля и арестовал его главбуха Елену Остроух...»
* Идентификатор (ID) ботнетов получен при работе алгоритма «Fast unfolding of communities in large networks» (см. прил.).
Рис. 2. Граф взаимосвязи «автор—текст» ботнета № 1 «Обманутые дольщики ЛенСпецСтроя». Узлами сети выступают авторы (синий) и тексты (розовый), ребрами — взаимосвязи «текст—автор»
яитй СПАСЕМ НАШ ДОМ-БЕЗДОМНЫЙ ДОЛЬЩИК
ил ма'
Информация Свежие новости
= ДОЛЬЩИКИ МУРИНО. ДОЛЬЩИКИ ЛЕНИНГРАДСКОЙ ОБЛАСТИ, дольщики ПЕТЕРБУРГА, ДОЛЬЩИКИ СЗФО, ДОЛЬЩИКИ РОССИИ
® www.BEZDOMNYDOLSHIK.riJ
@ СПАСЕМ НАШ ДОМ-БЕЗДОМНЫЙ ДОЛЬЩИК, Са... Подробнее
A АА
Рис. 3. Технологический аккаунт-группа (group/club) ботнета № 1 «Обманутые дольщики ЛенСпецСтроя»
/Л Включить уведомления ^ Рассказать друзьям
Пригласить друзей ^ Сохранить в закладках
Участники 520
Вторая функция ботнета — мобилизационная, когда участников сообщества призывают к активным действиям как в онлайн-, так и в оф-флайн-пространстве: 1. «//делайте репосты в группы разных ЖК своего региона// ВСТАВАЙ, СТРАНА ОГРОМНАЯ!...». 2. «Выходите на митинги и пикеты в своем городе, присылайте фото и видео для СМИ». 3. «Всех настоящих дольщиков нашего ЖК "Ленинградская перспектива" — "Квартал в Мурино", кто готов искренне бороться делами, ждем на митинге против ЛСС и за достройку нашего ЖК в субботу 10 февраля 2018 года с 9.30 до 16.30 в саду Сен-Галли на Лиговском пр., 62-64, а также приглашаем принять участие в наших официально согласованных акциях на 4 других площадках 10 и 11 февраля 2018 года.»
Ботнет № 2 «Павел Грудинин» (Ьп59068)
В ботнете работают 128 ботов, тираж одного текста — 128, количество уникальных текстов — 44, количество продублированных текстов за исследуемый период — 5632. Период детектирования работы ботнета — 03.02 — 28.02.2018, период распространения одного текста варьируется от 14 минут до 1 ч. 30 мин. Ботнет из групп (рис. 4, 5).
Тематическая направленность ботнета — описание деятельности российского политика, кандидата на пост Президента Российской Федерации на выборах 2018 г. от Коммунистической партии Российской Федерации (КПРФ).
Основная функция ботнета — информирование потенциальных избирателей о политической деятельности и политических предпочтениях Павла Грудинина: 1. «Павел Грудинин подчеркнул, что своей первоочередной задачей на посту Президента России считает борьбу с бедностью».
2. «Павел Грудинин также высказался в поддержку молодых специалистов».
3. «Павел Грудинин призвал освободить от должности вице-премьера по вопросам спорта, туризма и молодежной политики Виталия Мутко и других спортивных чиновников, не справившихся со своими обязанностями. По мнению Павла Грудинина, деньги надо вкладывать не столько в спорт высших достижений, сколько в развитие массового, прежде всего детско-юношеского, спорта». 4. «Павел Грудинин подчеркнул, что компаниям-застройщикам надо запретить продавать квартиры, когда строительство дома находится на стадии фундамента, а за невыполнение своих обязательств эти компании должны нести полную ответственность, в том числе имущественную».
Вторая функция — мобилизационная, призыв пользователей социальной сети к действиям в поддержку кандидата как оффлайн, так и онлайн: 1. «Для победы, по его словам, необходимо прежде всего 18 марта всем
Рис. 4. Граф взаимосвязи «автор—текст» ботнета № 2 «Павел Грудинин». Узлами сети выступают авторы (синий) и тексты (розовый), ребрами — взаимосвязи «текст—автор»
ПДС НПСР I
ПОСТОЯННО ДЕЙСТВУЮЩЕЕ СОВЕЩАНИЕ jSg НАЦИОНАЛЬНО ПАТРИОТИЧЕСКИХ СИЛ РОССИИ
ПДС НПСР Кемерово Новокузнецк Юрга
Региональная группа ПДС НПСР в Кемеровской области ,НАШ ВЫБОР Павел Грудинин.
Вступить в группу
Информация Свежие новости
Патриотических Показать полностью«.
Г\ Включить уведомления
Рассказать друзьям +(2) Пригласить друзей ¿V Сохранить в закладках
ijy https://pdsrpsr.rU/r/kemerovo (о) плп НППР Крмргпвп Hnnnnre
Рис. 5. Технологический аккаунт-группа (group/club) ботнета № 2 «Павел Грудинин»
прийти на избирательные участки и поддержать народного кандидата, а также обеспечить контроль за результатами голосования». 2. «Грудини-ну и КПРФ нужны наблюдатели https://www.youtube.com/watch?v=3YHYN MOKQ4g&feature=youtu.be». 3. Призыв к распространению информации "Слепаков спел Путину": «Прямо в телефоне с интернетом можно всё это найти и видеть. Если каждый разошлет хотя бы 10 людям, а те — другим 10-ти, то ТВ будет побеждено».
В ботнете работают 29 ботов, тираж одного текста — 29, количество уникальных текстов — 39, количество продублированных текстов за исследуемый период — 1131. Период детектирования работы ботнета — 02.02 — 28.02.2018, второй период — 03.10 — 31.10.2018, период распространения одного текста варьируется от 1 до 2 мин. Ботнет состоит из публичных страниц и пользователей (рис. 6-8).
Можно выделить две основные темы ботнета. В феврале 2018 г. тексты были ориентированы на освещение политической деятельности Ксении Собчак, это было связано с предстоящими выборами Президента в РФ 18 марта 2018 г. В октябре 2018 г. тексты на тему «Ксении Собчак» были связаны с ее светской жизнью.
Рис. 6. Граф взаимосвязи «автор—текст» ботнета № 3 «Ксения Собчак». Узлами сети выступают авторы (синий) и тексты (розовый), ребрами — взаимосвязи «текст—автор»
Ботнет № 3 «Ксения Собчак» (bn62371)
Информация Написать сообщение
— Добро пожаловать в фан-группу: V Дом 2. Сплетница /16+
1. Наш паблик не имеет соглашение или договоренность с Официальным сайтом dom2.ru, никакого отношения мы не имеем к нему. Показать полностью...
Подписчики 32989
№
Рис. 7. Технологический аккаунт-страница/паблик (page/public) ботнета № 3
«Ксения Собчак»
/ \ Включить уведомления
Рассказать друзьям • Ещё
Рис. 8. Технологический аккаунт-пользователь (user) ботнета № 3 «Ксения Собчак»
Главная функция ботнета — информирование: 1. «Ксения Собчак в обольстительном наряде предложила подписчикам поговорить о феминизме». 2. «Ксения Собчак раскритиковала наряд дочери Александра Малинина на балу дебютанток». 3. «Ксения Собчак, Светлана Лобода, Валерия и другие звезды поздравили "Муз-ТВ" с Днем рождения в стенах Кремля». 5. «Ксения Собчак на теледебатах облила водой Владимира Жириновского». 6. «Ксении Собчак посоветовали быть поближе к народу, а не ездить по выставкам флагманских смартфонов».
Ботнет № 4 «Политические новости на русском и украинском языках»
(ьп65640)
В ботнете работает 41 бот, тираж одного текста — 41, количество уникальных текстов — 30, количество продублированных текстов за исследуемый период — 1230. Основной период детектирования работы ботнета — 03.10 — 31.10.2018, период распространения одного текста максимально достигает от 2 до 24 секунд! Данный ботнет отличается сверхвысокой скоростью тиражирования публикаций. Ботнет состоит из групп (рис. 9, 10). Необходимо отметить, что названия технологических аккаунтов — групп данного ботнета замаскированы и большинство названий не связано с политическим или новостным контентом, например «Работа Красноярск», «Работа Нижний Новгород», «Отзывы о работодателях», «Отдам даром», «Размещение рекламы в соцсетях» и др.*
Ботнет работает в трех тематических полях политической направленности. При этом явно выражена позиция противостояния официальной власти (независимо от страны, о которой идет речь). Первая тематика связана с оппозиционным освещением новостей российской политики. Вторая тематика — с оппозиционным освещением новостей политики Украины. Третья тематика — с оппозиционным освещением новостей других стран. Необходимо отметить, что контент, публикуемый в данном ботнете, размещается как на русском, так и на украинском языках**.
* Такой прием используется в функционировании ботнетов (Но1е&12 е! а1. 2019), когда тематически смешанный контент становится своего рода «капсулой» для распространения целевой информации.
** Сложность детектирования данного ботнета состоит в том, что машинный классификатор текстов на кластеры относит тексты, сгенерированные этим бот-нетом, к двум разным кластерам, поскольку публикации осуществляются на двух языках: украинском и русском. По этой причине у исследователя может возникнуть ошибка в отнесении каждого кластера текстов к разным ботнетам. Такой ошибки помогает избежать структурный анализ ботнета.
Рис. 9. Граф взаимосвязи «автор—текст» ботнета № 4 «Политические новости на русском и украинском языках». Узлами сети выступают авторы (синий) и тексты (розовый), ребрами — взаимосвязи «текст—автор»
www farptinnk "пп
Рис. 10. Технологический аккаунт-группа (group/club) ботнета № 4 «Политические новости на русском и украинском языках»
Доминирующая функция ботнета — информирование: 1. «Роая плануе стршянину на Курилах: Япошя — проти Япошя заявила Росп' протест через плани проведення стршьб у райош Курильських островiв» («Россия планирует стрельбу на Курилах: Япония против и выразила протест России из-за планов проведения стрельб в районе Курильских островов». — Здесь и далее пер. авт.); 2. ««Кривавий торт для Путша»: смшивщв-ройян кинули за 1"рати Полщя в Санкт-Петебурзi затримала чотирьох активктав руху "Весна", яю влаштували акцiю протесту в честь дня народження президента Росп Володимира Путша...» ( «Кровавый торт для Путина»: смельчаков-россиян бросили за решетку. Полиция в Санкт-Петербурге задержала четырех активистов движения "Весна", которые устроили акцию протеста в честь дня рождения Президента России Владимира Путина»). 3. «Пвд Кабмшом ввдбуваеться акщя протесту профсшлок (ТРАНСЛЯЦ1Я) В щ хвилини пiд Кабiнетом Мiнiстрiв Украши вiдбуваеться акцiя протесту профсшлок, приурочена до мiжнародного дня боротьби з бвдшстю» («Под Кабмином проходит акция протеста профсоюзов (ТРАНСЛЯЦИЯ) В эти минуты под Кабинетом министров Украины проходит акция протеста профсоюзов, приуроченная к международному дню борьбы с бедностью»). 4. «В Николаеве митинговали против мэра. Одна из весомых причин митинга — сразу две платежки, пришедшие николаевцам: одна от ООО "Мкто для людей", вторая — от обслуживающей ранее ЖЭК». 5. «Витрати на безпеку пвд час вiзиту президента США Дональда Трампа до Велико! Британп у понад чотири рази перевищили витрати на весшля принца Гаррi i Меган Маркл» («Расходы на безопасность во время визита Президента США Дональда Трампа в Великобританию более чем в четыре раза превысили расходы на свадьбу принца Гарри и Меган Маркл»). 6. «Генпрокуратура Грузи пошформувала, що колишнш президент краши Михайло Саакашвт санкцюнував вбивство опозицшного пвдприемця Бадрi Патаркацишвт» («Генпрокуратура Грузии сообщила, что бывший президент страны Михаил Саакашвили санкционировал убийство оппозиционного предпринимателя Бадри Патаркацишвили»).
Ботнет № 5 «Новости Центризбиркома РФ» (Ьп68335)
В ботнете работает 26 ботов, тираж одного текста — 26, количество уникальных текстов — 12, количество продублированных текстов за исследуемый период — 312. Основной период детектирования работы ботнета — 01.02 — 26.02.2018, период распространения одного текста колеблется от 2 до 28 минут. Ботнет состоит из публичных страниц, групп (рис. 11, 12).
Рис. 11. Граф взаимосвязи «автор—текст» ботнета № 5 «Новости ентризбиркома РФ». Узлами сети выступают авторы (синий) и тексты (розовый), ребрами — взаимосвязи «текст—автор»
® ВЫБОРЫ 2018. Санкт-Петербург, Санкт-Петербург Подробнее
Рис. 12. Технологический аккаунт-событие (event) ботнета № 5 «Новости Центризбиркома РФ»
Главная тематическая направленность ботнета — политическая — выборы Президента РФ 18 марта 2018 г. Контент отражает официальную позицию Центризбиркома.
Основная функция ботнета — информирование (причем информация касается различных кандидатов в Президенты): 1. «Первый раунд теледебатов между кандидатами в Президенты России состоится во вторник на Общественном телевидении России, дискутировать будут сразу все кандидаты, кроме Владимира Путина, штаб которого оказался от бесплатного эфирного времени для дебатов на федеральных теле- и радиоканалах». 2. «Кандидат в Президенты России, сооснователь партии "Яблоко" Григорий Явлинский сообщил, что на плакатах в его поддержку появится слоган "Умный президент — богатая Россия"»; 3) «Кандидат в Президенты РФ от КПРФ Павел Грудинин на встрече с избирателями в Краснодаре в понедельник рассказал про "свои" дома в Латвии, о которых говорят на ТВ». 4. «Глава ЦИК России Элла Памфилова сообщила, что обратилась к министру образования Ольге Васильевой по поводу втягивания детей в предвыборную кампанию и взрослые политические игры...». 5. «Знают ли россияне организатора кампании за бойкот выборов? По данным исследования фонда "«Общественное мнение", 80% опрошенных россиян выбрали ответ "не знаю, затрудняюсь ответить", 17 % назвали имя Алексея Навального, 3 % выбрали "другой ответ"». 6. «Порядка 70 тысяч россиян, содержащихся в учреждениях уголовно-исполнительной системы, имеют право голоса и смогут принять участие в выборах Президента России 18 марта».
Ботнет № 6 «Новости жителей Кудрово» (Ьп71080)
В ботнете работают 15 ботов, тираж одного текста — 15, количество уникальных текстов — 19, количество продублированных текстов за исследуемый период — 285. Период детектирования работы ботнета — 05.02 — 28.02.2018 года, второй период — 09.10 — 26.10.2018 г., период распространения одного текста варьируется от 1 секунды до 1 ч. 41 мин. Ботнет состоит из публичных страниц и групп (рис. 13-15).
Основная тематическая направленность ботнета — социальные проблемы жителей Кудрово (экологические, жилищно-коммунальные, автотранспортные и т.д.)
Основная функция ботнета — информирование: 1. «Активисты подготовили письмо вице-губернатору Петербурга по Кудровскому проезду. Для принятия на баланс части проезда необходимо произвести его постановку на государственный кадастровый учет». 2. «Кудрово станет городом! Активисты рассказали о встрече с администрацией. Первая
Рис. 13. Граф взаимосвязи «автор—текст» ботнета № 6 «Новости жителей Кудрово». Узлами сети выступают авторы (синий) и текстов (розовый), ребрами — взаимосвязи «текст—автор»
Рис. 14. Технологический аккаунт-страница/паблик (page/public) ботнета №6 «Новости жителей Кудрово»
Информация Свежее новости .А, Включить уведомления
Рассказать друзьям
^ Группа жителей #Кудрово #Квартал #Вена #/1ондон #Австрийский квартал
#Новый #Оккервиль £Европейский #КудроаХаус ^Капитал #Весна *Весна-2 Пригпас^ь друзей
#Прогресс #Флэгман #Еернисаж #ЕерезоваяРоща и др
рядом: ^ Сохранить в закладках
спортивный комплекс #А|_ЕХМлеБ5 Показать полностью...
Участники 4010
Рис. 15. Технологический аккаунт-группа (group/club) ботнета № 6 «Новости жителей Кудрово»
половина встречи была посвящена вопросу о присвоении статуса города Кудрово». 3. «Экоактивисты обнаружили в Кудрово несанкционированную свалку». 4. «Опубликованные фрагменты технического задания по благоустройству и реконструкции зеленой зоны парка Оккервиль вызвали возмущение местных жителей».
Вторая функция ботнета — мобилизация подписчиков и участников групп к активным действиям в онлайн-пространстве, в частности призыв писать письма по указанным электронным адресам для решения социальных вопросов — осуждение прецедента сознательного завышения тарифов чиновниками и топ-менеджерами в Коми, благоустройства Кудровского проезда и др. (например, «Активисты подготовили письмо вице-губернатору Петербурга по Кудровскому проезду. Возьмите за основу письмо во вложении и направьте от себя сюда adm@gov.spb.ru.»).
Третья функция — гражданский контроль над деятельностью чиновников: 1) контроль совместно с администрацией Всеволожского района, правоохранительными органами, Росреестром и Кадастром за публичной кадастровой картой с целью предотвращения «подозрительных передвижений земли»; 2) контроль над строительной политикой в районе новостроек (например, «Сегодня глава региона Александр Дрозденко подписал
распоряжение о создании наблюдательного совета новостроек. В него войдут и чиновники, и жители территорий массовой застройки — Бугров, Мурино, Всеволожска, Кудрово и Нового Девяткино. Основная задача совета — выявлять и прогнозировать проблемы, которые могут возникнуть на территориях массовой застройки»); 3) контроль за распределением мест в детских садах (например, «На прошлой неделе губернатор Ленинградской области Александр Юрьевич Дрозденко торжественно открыл в Кудрово два новых детских сада — на ул. Венская, 140 мест, и Европейском пр., 21 на 110 мест... На сегодняшний день новый детский сад посещает не более 80 % детей. Аналогичная ситуация существует в Мурино, Новом Девяткино, Всеволожске и других поселениях. На уровне района ведется работа по подготовке нормативных документов, которые позволили бы освободить "виртуально занятые" места для реальных очередников»).
Ботнет № 7 «Новости об иностранных авиакомпаниях и о российской авиакомпании "Аэрофлот"» (bn68436)
В ботнете работают 27 ботов, тираж одного текста — 27, количество уникальных текстов — 24, количество продублированных текстов за исследуемый период — 648. Период детектирования работы ботнета — 02.10 — 31.10.2018, период распространения одного текста варьируется от 4 до 7 минут. Ботнета состои из публичных страниц (рис. 16, 17).
Ботнет представляет собой технологический аккаунт-пользователь с именем «Cofrance Sarl» с большим количеством репостов у себя на стене. Количество репостов в минуту варьируется от 3-8 публикаций. Особенность публикационной активности на стене этого технологического акка-унта состоит в том, что у всех репостов отсутствуют ре-репосты, лайки, комментарии и отмечается небольшое число просмотров — от 3 до 9 при достаточно большом количестве друзей — 905, что указывает на то, что мы имеем дело с полностью автоматизированной учетной записью.
Тематическая направленность ботнета № 7 связана с маркетинговой коммуникацией — рекламой новой продукции иностранных авиакомпаний, а также новостями авиакомпании «Аэрофлот», которые имеют характер PR-акций и продвижение бренда.
Основная функция данного ботнета — информирование: 1. «Бразильская компания «Helibras» поставила заказчику первый в мире вертолет делового класса Airbus ACH145 Line». 2. «Компания "Airbus Corporate Jets" (ACJ) выставила на авиасалоне NBAA (Национальная ассоциация деловой авиации) в США свой ACJ319, который обращает на себя внимание
Рис. 16. Граф взаимосвязи «автор—текст» ботнета № 7 «Новости об иностранных авиакомпаниях и о российской авиакомпании "Аэрофлот"». Узлами сети выступают авторы (синий) и текстов (розовый), ребрами — взаимосвязи «текст—автор»
Рис. 17. Технологический аккаунт-страница/паблик (page/public) ботнета № 7 «Новости об иностранных авиакомпаниях и о российской авиакомпании "Аэрофлот"»
полноразмерным комфортабельным пассажирским салоном». 3. «Компания "Gulfstream" объявила о поставке первого реактивного делового самолета G500». 4. «Компания "SAF Group", французский пользователь со штаб-квартирой в Альпах, во время выставки "Helitech" заказал 6 новых вертолетов Airbus для экстренной медицинской помощи, горноспасательных, высотных работ и пассажирских перевозок». 5. «Пять российских компаний вошли в список лучших работодателей мира журнала "Forbes". Среди них ОАК и "Аэрофлот"». 6. «Несмотря на жесткую конкуренцию на рынке авиаперевозок, российская авиакомпания "Аэрофлот" занимает лидирующую позицию. Подтверждением этого стала престижная премия "Business Traveller UK Reader Awards 2018"».
Ботнет № 8 «Реклама тренингов бизнес-сообщества "Бизнес Молодость"» (bn55103)
В ботнете работают 157 ботов, тираж одного текста — 157, количество уникальных текстов — 11, количество продублированных текстов за исследуемый период — 1727. Период детектирования работы ботнета — 08.02 — 28.02.2018, второй период — 06.10 — 28.10.2018, период распространения одного текста варьируется от 1 до 19 минут. Ботнет состоит из групп и публичных страниц (рис. 18-20).
Рис. 18. Граф взаимосвязи «автор—текст» ботнета № 8 «Реклама тренингов бизнес-сообщества «Бизнес Молодость». Узлами сети выступают авторы (синий) и тексты (розовый), ребрами — взаимосвязи «текст—автор»
Рис. 19. Технологический аккаунт-группа (group/club) ботнета №8 «Реклама тренингов бизнес-сообщества "Бизнес Молодость"»
ДЕЛЬТА
НОВАЯ ПРОГРАММА БМ
Программа для увеличения ЛИЧНОГО ДОХОДА
Рис. 20. Технологический аккаунт-страница/паблик (page/public) ботнета № 8 «Реклама тренингов бизнес-сообщества "Бизнес Молодость"»
Тематическая направленность ботнета — маркетинговая — реклама тренингов, семинаров по организации бизнеса и его продвижению в социальных сетях, организуемых коучерами и спикерами сообщества «Бизнес Молодость».
Основная функция ботнета — информирование подписчиков страниц и участников групп о предстоящих мероприятиях и знакомство пользователей социальной сети с контентом тренингов: 1. «Кстати, если уже хочешь измениться, то смотри сегодня в 20:00 онлайн мастер-класс с Михаилом Дашкиевым...». 2. «Смотрите завтра вебинар с Михаилом Дашки-евым, который как раз посвящен старту своего дела с минимальными вложениями или вовсе без них, и заработку первых денег в короткие сроки. Начало в 19:00 по МСК...». 3. «Эти 27 идей для создания постов в 1ш1а§гаш помогут вам регулярно пополнять ленту качественным контентом и получать больше лояльных клиентов.».
Еще одна функция — реализация рекламных тактик по привлечению клиентов: 1. «Регистрируйтесь и сразу получите список из 500 прибыльных ниш и 113 действий ведущих к быстрым деньгам!». 2. «Регистрируйся на наш легендарный бесплатный тренинг "КОКОН", который пройдет уже ПОСЛЕЗАВТРА, 17 октября.». 3. «Нажимай сюда, пора сделать это.».
Ботнет № 9 «Новости политической партии "Единая Россия" в Ульяновской области» (Ьп66476)
В ботнете работают 35 ботов, тираж одного текста — 35, количество уникальных текстов — 13, количество продублированных текстов за исследуемый период — 455. Период детектирования работы ботнета — 01.02 — 15.02.2018, второй период — 11.10 — 31.10.2018, период распространения одного текста варьируется от 20 сек. до 2 мин. Ботнет состоит из одного пользователя из Ульяновской области и 34 групп (рис. 21, 22).
Тематическая направленность ботнета — политическая — новости партии «Единая Россия» в Ульяновской области.
Основная функция ботнета — информационная: 1. «Губернатор Сергей Морозов представил Президенту России Владимиру Путину концепцию развития инфраструктуры спорта в Ульяновской области». 2. «Благодаря вниманию Президента России Владимира Путина, Министерства транспорта России и Росавтодора дороги в Ульяновской области стали заметно комфортнее, безопаснее, и большинство из них в полном объеме соответствуют современным требованиям». 3. «13 февраля депутат Законодательного Собрания, региональный координатор проекта партии "Единая Россия" "Российское село" Андрей Шадышков встретился с молодежью
Рис. 21. Граф взаимосвязи «автор—текст» ботнета № 9 «Новости политической партии "Единая Россия" в Ульяновской области». Узлами сети выступают авторы (синий) и тексты (розовый), ребрами — взаимосвязи «текст—автор»
Рис. 22. Технологический аккаунт-группа (group/club) ботнета № 9 «Новости политической партии "Единая Россия" в Ульяновской области»
Барышского района». 4. «Ульяновские партийцы примут участие в митинг-концерте в честь 75-летия победы в Сталинградской битве».
Ботнет № 10 «Итоги недели с профессором С. Сулакшиным»
(ьп65875)
В ботнете работает 41 бот, тираж одного текста — 41, количество уникальных текстов — 20, количество продублированных текстов за исследуемый период — 820. Период детектирования работы ботнета — 05.02 — 26.02.2018, период распространения одного текста варьируется от 5 до 9 минут. Ботнет состоит из групп (рис. 23, 24).
Тематическая направленность ботнета — политическая (причем выражена оппозиционная направленность — критика действующей власти в России).
Основная функция ботнета — информационная: 1. «В РОССИИ НЕТ СИСТЕМНОЙ ОППОЗИЦИИ. 21 марта 2018 г лидер КПРФ Г.А. Зюганов признал победу В.В. Путина на выборах Президента РФ и считает ее "очевидным фактом"...». 2. «Возникло ощущение, что по мере деградации
и- V
• 4
Рис. 23. Граф взаимосвязи «автор—текст» ботнета № 10 «Итоги недели с профессором С. Сулакшиным». Узлами сети выступают авторы (синий) и тексты (розовый), ребрами — взаимосвязи «текст—автор»
Рис. 24. Технологический аккаунт-группа (group/club) ботнета № 10 «Итоги недели с профессором С. Сулакшиным»
российской политической системы она начинает принимать решения, крайне контрпродуктивные для нее самой.». 3. «.Также на данный момент можно зафиксировать трудности в формулировании ТЗ на проект "трансфер власти" — перспективных решений не видно, власть пока тушит локальные политические "пожары"..». 4. «Сразу после грабежа пенсионеров (а точнее — параллельно с ним) активно раскручивается тема "дедолларизации" экономики. Практический смысл мероприятия ничем не отличается от пенсионной "реформы" — власть рассматривает валютные накопления граждан как свою добычу и не намерена ее упускать».
Выводы и дискуссия
В ситуации, когда фокус внимания исследователей социальных ботов смещается в сторону диверсификационного анализа бот-пространства, наша работа может считаться новаторской, поскольку в ней впервые представлен анализ политематического ландшафта российской социальной сети «ВКонтакте», включающий разработку методики выявления ботнетов разной тематической направленности и ее верификацию в рамках пилотажного исследования.
Разработанная авторами методика позволила в заданный период обнаружить 42 ботнета. Для характеристики тематической акцентуации
данной системы ботнетов при помощи методики автоматизированной классификации текстов был выделен топ-10 ботнетов по максимальному количеству текстов в конкретном кластере текстов за определенный период, что позволило выявить зоны наиболее интенсивного использования бот-технологий.
Ботнеты были описаны по следующим параметрам: 1) структура, 2) тематическая направленность, 3) функции.
Анализ структуры ботнетов продемонстрировал их достаточное разнообразие. Авторы получили набор ботнетов, имеющих разную структуру. Она комбинируется из пользователей (user), групп (group/club), публичных страниц (page/public), а также событий (event).
Тематическая направленность ботнетов представлена следующим образом: шесть из них относятся к политической сфере (обсуждение деятельности и политических предпочтений политиков, критика действующей власти в России и Украине, новости партий «Единая Россия», КПРФ, деятельность Цетризбиркома РФ), два ботнета принадлежат к сфере маркетинговой коммуникации (реклама продукции и услуг авиакомпаний, продвижение услуг организаций, работающих в сфере коучинга), два ботнета — к сфере поддержки гражданских инициатив (обманутые дольщики и пайщики, решение социальных проблем жителей Кудрово).
Обнаружено, что в различных тематических областях ботнеты осуществляют различные наборы функций: политические боты — информирования и мобилизации; маркетинговые — информирования, PR, привлечения клиентов; ботнеты, связанные с гражданским активизмом в сфере решения социальных проблем, — функции информирования, мобилизации, обеспечения информационной прозрачности, гражданского контроля за деятельностью чиновников.
Важным результатом исследования является зафиксированное авторами участие различных по уровню институционализации акторов, действующих в бот-пространстве исследуемой сети. Как было показано, бот-технологии актуальны для политических партий (например, «КПРФ»), различных компаний и организаций (например, «Аэрофлот», Центризбирком РФ), групп гражданских активистов (например, «Обманутые дольщики ЛенСпецСтроя») и т.д. При этом важно подчеркнуть, что проблема разработки методики идентификации, «привязки» определенного ботнета к тому или иному актору социальной сети — одна из самых спорных и вместе с тем одна из самых перспективных тем в изучении социальных ботов, о чем пишут многие исследователи. Авторы, в частности, использовали элементы методики сбора данных с помощью ручного аннотирования ботнетов (Manual Annotations) (Varol et al. 2017).
Однако эта методика является чрезвычайно трудо затратной и предполагает высокий уровень субъективности, что актуализирует необходимость разработки соответствующих процедур автоматизации. Можно предположить, что такие разработки специалистов в области компьютерных наук помогут социологам в дальнейшем более точно идентифицировать акторов бот-пространства той или иной социальной сети.
Безусловно, авторы отдают себе отчет в том, что любое (в том числе представленное) исследование бот-пространства социальной сети имеет ограничения, связанные с методикой выявления социальных ботов. Эти ограничения обусловлены выбором тематических ключей, определенным временным периодом и технологическими мощностями для обработки данных, что не позволяет осуществить полный анализ всех социальных ботнетов, действующих в социальной сети. В рамках статьи представлен лишь ситуационный срез бот-пространства сети «ВКонтакте», локализованный определенными временными и тематическими границами. Однако проведенное исследование показывает эвристические возможности разработанной методики, позволяющей не только исследовать политематический ландшафт социальной сети, но и выделить зоны наиболее интенсивного применения бот-технологий для расширения информационного влияния различных акторов сети.
Перспективы развития темы и совершенствования методики мы видим в следующих направлениях исследования: 1) расширение тематических ключей для формирования более масштабной исходной базы данных; 2) изучение динамики бот-пространства социальной сети «ВКонтакте» в зависимости от изменения социально-экономической, политической и культурной ситуации; 3) оптимизация методики выявления социальных ботов разного типа на различных участках тематического ландшафта исследуемой социальной сети, что позволит в дальнейшем зафиксировать количество и активность социальных ботов, используемых разными социальными акторами в различных тематических областях.
Выражение благодарности
Исследование выполнено в рамках гранта РФФИ № 18-011-00988 «Структура бот-пространства онлайн-социальных сетей: сетевой анализ». Исследования проведены с использованием оборудования ресурсного центра Научного парка СПбГУ «Центр социологических и интернет-исследований».
Литература
Алымов А.С., Баранюк В.В., Смирнов О.С. (2016) Детектирование бот-программ, имитирующих поведение людей в социальной сети «В^^акте».
International Journal of Open Information Technologies, 8: 55-60 [https://cyberlen-inka.ru/article/n/detektirovanie-bot-programm-imitiruyuschih-povedenie-lyudey-v-sotsialnoy-seti-vkontakte] (дата обращения: 08.09.2019).
Василькова В.В., Легостаева Н.И. (2019) Социальные боты в политической коммуникации. Вестник РУДН. Социология, 1: 126-129.
Василькова В.В., Легостаева Н.И., Радушевский В.Б. (2019) Социальные боты как инструмент развития гражданского участия. Мониторинг общественного мнения: Экономические и социальные перемены, 5: 19-42 [https://doi. org/10.14515/monitoring.2019.5.02] (дата обращения: 09.11.2019).
Катасев А.С., Катасева Д.В., Кирпичников А.П., Евсеева А.О. (2015) Ней-росетевая модель идентификации ботов в социальных сетях. Вестник технологического университета, 18(16): 253-256.
Котенко И.В., Коновалов А.М., Шоров А.В. (2011) Агентно-ориентирован-ное моделирование бот-сетей и механизмов защиты от них. Вопросы защиты информации, 3: 24-29.
Мартьянов Д.С. (2016) Политические боты как профессия. Политэкс, 12(1): 74-89.
Сачков И.К., Назаров А.Н. (2014). Автоматизация противодействия бот-атакам. T-Comm-Телекоммуникации и Транспорт, 8(6): 5-9 [https://cyberleninka. ru/article/n/avtomatizatsiya-protivodeystviya-bot-atakam] (дата обращения: 08.09.2019).
Чесноков В.О. (2017) Применение алгоритма выделения сообществ в информационном противоборстве в социальных сетях. Вопросы кибербезопас-ности, 1(9): 37-44.
Abokhodair N., Yoo D., McDonald D.W. (2015) Dissecting a Social Botnet: Growth, Content and Influence in Twitter. In: Proceedings of the 2015 ACM Conference on Computer Supported Cooperative Work and Social Computing (CSCW'15) [https://arxiv.org/pdf/1604.03627.pdf] (дата обращения: 08.09.2019).
Arnaudo D. (2017) Computational Propaganda in Brazil: Social Bots During Elections. Oxford, UK: Project on Computational Propaganda, 8 [http://blogs.oii. ox.ac.uk/politicalbots/wp-content/ uploads/sites/89/2017/06/Comprop-Brazil-1.pdf] (дата обращения: 08.09.2019).
Bessi A., Ferrara E. (2016) Social Bots Distort the 2016 US Presidential Election Online Discussion. First Monday, 21(11) [https://firstmonday.org/article/ view/7090/5653] (дата обращения: 08.09.2019).
Blondel V.D., Guillaume J.L., Lambiotte R., Lefebvre E. (2008) Fast unfolding of communities in large networks. Journal of statistical mechanics: theory and experiment, 10 [https://www.researchgate.net/publication/1913681_Fast_Unfolding_ of_Communities_in_Large_Networks] (дата обращения: 08.09.2019).
Bolsover G., Howard P. (2018). Chinese computational propaganda: Automation, algorithms and the manipulation of information about Chinese politics on Twitter and Weibo. Information, Communication & Society [https://www.tandfonline.com/ doi/full/10.1080/1369118X.2018.1476576] (дата обращения: 08.09.2019).
Boshmaf Y., Muslukhov I., Beznosov K., Ripeanu M. (2011) The Socialbot Network: When Bots Socialize for Fame and Money. In: Proceedings of the 27th Annual Computer Security Applications Conference [http://lersse-dl.ece.ubc.ca/ record/264/files/264.pdf] (дата обращения: 08.09.2019).
Cao Q., Sirivianos M., Yang X., Pregueiro T. (2012) Aiding the detection of fake accounts in large scale social online services. In: Proceedings of the 9th USENIX conference on Networked Systems Design and Implementation [https://www.usenix. org/system/files/conference/nsdi12/nsdi12-final42_2.pdf] (дата обращения: 08.09.2019).
Dickerson J.P., Kagan V., Subrahmanian V.S. (2014) Using sentiment to detect bots on Twitter: Are humans more opinionated than bots? In: Proceedings of the IEEE/ACM International Conference on Advances in Social Networks Analysis and Mining [https://dl.acm.org/citation.cfm?id=3191957] (дата обращения: 08.09.2019).
Ferrara E., Varol O., Davis C., Menczer F., Flammini A. (2016) The rise of social bots. Communications of the ACM, 59(7): 96-104 [https://www.researchgate.net/ publication/264123205_The_Rise_of_Social_Bots] (дата обращения: 08.09.2019).
Ferrara E., Varol O., Menczer F., Flammini A. (2016b) Detection of promoted social media campaigns. In: Proc. Intl. AAAI Conference on Web and Social Media [https://www.aaai.org/ocs/index.php/ICWSM/ICWSM16/paper/viewFile/13034/12789] (дата обращения: 08.09.2019).
Forelle M.C., Howard P.N., Monroy-Hernandez A., Savage S. (2015) Political bots and the manipulation of public opinion in Venezuela [https://arxiv.org/ pdf/1507.07109.pdf] (дата обращения: 08.09.2019).
Gorwa R., Guilbeault D. (2018) Unpacking the Social Media Bot: A Typology to Guide Research and Policy [https://arxiv.org/pdf/1801.06863.pdf] (дата обращения: 08.09.2019).
Haustein S., Bowman T.D., Holmberg K., Tsou A., Sugimoto C.R., Larivière V. (2016) Tweets as impact indicators: Examining the implications of automated "bot" accounts on twitter. Journal of the Association for Information Science and Technology, 67(1): 232-238.
Hofeditz L., Ehnis C., Bunker D., Brachten F., Stieglitz S. (2019) Meaningful use of social bots? Possible applications in crisis communication during disasters. In: Proceedings of the 27th European Conference on Information Systems (ECIS). Stockholm & Uppsala, Sweden [https://aisel.aisnet.org/ecis2019_rp/138/] (дата обращения: 08.09.2019).
Howard P.N. (2003) Digitizing the social contract: Producing American political culture in the age of new media. The Communication Review, 6(3): 213-245.
Howard P.N., Bolsover G., Kollanyi B., Bradshaw S., Neudert L.-M. (2017) Junk news and bots during the U.S. Election: What were Michigan voters sharing over Twitter? CompProp, OII, Data Memo. Oxford, UK: Project on Computational Propaganda [http://blogs.oii.ox.ac.uk/politicalbots/wp-content/uploads/
sites/89/2017/03/What-Were-Michigan-Voters-Sharing-Over-Twitter-v2.pdf] (дата обращения: 08.09.2019).
Howard P.N., Woolley S., Calo R. (2018) Algorithms, bots, and political communication in the US 2016 election: The challenge of automated political communication for election law and administration. Journal of Information Technology & Politics, 15(2) [https://www.tandfonline.com/doi/full/10.1080/193316 81.2018.1448735] (дата обращения: 08.09.2019).
Lee K., Eoff B.D., Caverlee J. (2011) Seven Months with the Devils: A Long-Term Study of Content Polluters on Twitter. In: Proceedings of the Fifth International AAAI Conference on Weblogs and Social Media [https://pdfs.semanticscholar.org/b4 33Z9952a73914dc7eacf3b8e4c78ce9a5aa9502.pdf] (дата обращения: 08.09.2019).
Lee K., Webb S., Hancheng G. (2014) The Dark Side of Micro-Task Marketplaces: Characterizing Fiverr and Automatically Detecting Crowdturfing. In: International Conference on Weblogs and Social Media (ICWSM) [http://students.cse.tamu.edu/ hge/papers/Lee_icwsm14.pdf] (дата обращения: 08.09.2019).
Mitter S., Wagner C., Strohmaier M. (2013) A categorization scheme for social bot attacks in online social networks. In: Proc.of the 3rd ACM Web Science Conference [http://markusstrohmaier.info/documents/2013_WebSci2013_Socialbots_Taxonomy. pdf] (дата обращения: 08.09.2019).
Pasquale F. (2015) The Black Box Society: The Secret Algorithms That Control Money and Information. Cambridge: Harvard University Press.
Rowley J. (2000) Product searching with shopping bots. Internet Research, 10(3): 203-214.
Sadeddin K.W., Serenko A., Hayes J. (2007) Online shopping bots for electronic commerce: The comparison of functionality and performance. International Journal of Electronic Business, 5(6): 576-589.
Savage S., Monroy-Hernandez A., Hollerer T. (2016) Botivist: Calling volunteers to action using online bots. In: Proceedings of the 19th ACM Conference on ComputerSupported Cooperative Work & Social Computing [https://sites.cs.ucsb. edu/~holl/pubs/Savage-2016-CSCW.pdf] (дата обращения: 08.09.2019).
Sia S., Woolley S., Monaco N., Howard P. (Forthcoming) A Comparative Study of Chinese Online Agents on Facebook — an Anti-Taiwan Independence Expedition.
Schäfer F., Evert S., Heinrich P. (2017) Japan's 2014 General Election: Political Bots, Right-Wing Internet Activism, and Prime Minister Shinzö Abe's Hidden Nationalist Agenda. Big data, 5(4): 294-309.
Stieglitz S., Brachten F., Berthele D., Schlaus M., Venetopoulou C., Veutgen D. (2017) Do social bots (still) act different to humans?-Comparing metrics of social bots with those of humans. In: International Conference on Social Computing and Social Media [https://www.researchgate.net/publication/317172975_Do_Social_Bots_ Still_Act_Different_to_Humans_-_Comparing_Metrics_of_Social_Bots_with_ Those_of_Humans] (дата обращения: 08.09.2019).
Vasilkova V., Legostaeva N., Radushevskii V. (2018) Botnets as an election campaign tool: a methodology for identification and analysis of network publication
activity. In: The Internet, Policy & Politics Conference. Oxford, UK [https://blogs.oii. ox.ac.uk/policy/ipp-conference/paper] (дата обращения: 08.09.2019).
Varol O., Ferrara E., Davis C.A., Menczer F., Flammini A. (2017) Online humanbot interactions: Detection, estimation, and characterization. In: Eleventh international AAAI conference on web and social media [https://www.researchgate. net/publication/314433388_Online_Human-Bot_Interactions_Detection_ Estimation_and_Characterization] (дата обращения: 08.09.2019).
Velazquez E., Yazdani M., Suarez-Serrato P. (2017) Socialbots supporting human rights. In: AIES '18 Proceedings of the 2018 AAAI/ACM Conference on AI, Ethics, and Society. New Orleans, LA, USA [http://www.aies-conference.com/2018/contents/ papers/main/AIES_2018_paper_30.pdf] (дата обращения: 08.09.2019).
Woolley S.C. (2016) Automating power: Social bot interference in global politics. First Monday, 21(4) [https://firstmonday.org/article/view/6161/5300] (дата обращения: 08.09.2019).
thematic landscape of the bot-space of the social network "vkontakte"
Valeria Vasilkova (v.vasilkova@spbu.ru), Natalia Legostaeva, Vladimir Radushevskii
Saint Petersburg State University, Saint Petersburg, Russia
Citation: Vasilkova V., Legostaeva N., Radushevskii V. (2019) Tematicheskiy landshaft bot-prostranstva sotsial'noy seti «VKontakte» [Thematic Landscape of the Bot Space of the Social Network "VKontakte"]. Zhurnal sotsiologii isotsialnoy antropologii [The Journal of Sociology and Social Anthropology], 22(4): 202-245 (in Russian). https://doi.org/10.31119/jssa.2019.22.4.8.
Abstract. The authors propose to consider the phenomenon of social bots not only as one ofthe latest manipulative technologies, but on a larger scale — as a new communicative technology of information influence in the space of social networks. This approach offers a new level of research — the analysis of the thematic diversity of bots in the online network space, reflecting the desire of various social actors to expand their interests. This approach is realized in the authors' study on the identification and analysis of botnets of various thematic focuses in the Russian social network "VKontakte". This article presents the methodology for identifying botnets in a certain period of time (February and October 2018) (1); the authors identified areas of the most intensive use of bot technologies in this network (2); the authors described the structural and functional features of social bots in various thematic areas (3). The authors' technique helped to detect 42 botnets in a given period and select the top 10 botnets by the maximum number of texts in a particular class of texts for a certain period. As a result, the authors identified
areas of the most intensive use of bot technologies. These botnets were located in three thematic areas — political, marketing, social activism. Moreover, in various thematic areas, botnets implement various functions: political bots provide information and mobilization functions, marketing bots represent information, PR, attracting clients functions, bots related to civic activism perform informing and mobilization functions, ensuring information transparency, civilian control over officials. As a result of the research, various actors were identified that operate in the bot space of the social network "VKontakte": bot technologies are relevant for political parties, various companies and organizations, groups of civic activists, etc. The authors conclude on the limitations and prospects of the methods used in the study and their results for further study of the bot space of online social networks.
Keywords: social bots, bot functions, botnets, botnet structure, VKontakte social network, botnet detection technique.
References
Abokhodair N., Yoo D., McDonald D.W. (2015) Dissecting a Social Botnet: Growth, Content and Influence in Twitter. In: Proceedings of the 2015 ACM Conference on Computer Supported Cooperative Work and Social Computing (CSCW'15) [https://arxiv. org/pdf/1604.03627.pdf] (accessed: 08.09.2019).
Alymov A.S., Baranyuk VV., Smirnov O.S. (2016) Detektirovanie bot-programm, imitiruyushchih povedenie lyudej v social'noj seti «VKontakte» [Detection of bot programs that mimic the behavior of people on the VKontakte social network]. International Journal of Open Information Technologies [International Journal of Open Information Technologies], 8: 55-60 [https://cyberleninka.ru/article/n/detektirovanie-bot-programm-imitiruyuschih-povedenie-lyudey-v-sotsialnoy-seti-vkontakte] (accessed: 08.09.2019) (in Russian).
Arnaudo D. (2017) Computational Propaganda in Brazil: Social Bots During Elections. Oxford, UK: Project on Computational Propaganda, 8 [http://blogs.oii.ox.ac.uk/ politicalbots/wp-content/uploads/sites/89/2017/06/Comprop-Brazil-1.pdf] (accessed: 08.09.2019).
Bessi A., Ferrara E. (2016) Social Bots Distort the 2016 US Presidential Election Online Discussion. First Monday, 21(11) [https://firstmonday.org/article/view/7090/5653] (accessed: 08.09.2019).
Blondel V.D., Guillaume J.L., Lambiotte R., Lefebvre E. (2008) Fast unfolding of communities in large networks. Journal of statistical mechanics: theory and experiment, 10 [https://www.researchgate.net/publication/1913681_Fast_Unfolding_of_ Communities_in_Large_Networks] (accessed: 08.09.2019).
Bolsover G., Howard P. (2018). Chinese computational propaganda: Automation, algorithms and the manipulation of information about Chinese politics on Twitter and Weibo. Information, Communication & Society [https://www.tandfonline.com/doi/full/ 10.1080/1369118X.2018.1476576] (accessed: 08.09.2019).
Boshmaf Y., Muslukhov I., Beznosov K., Ripeanu M. (2011) The Socialbot Network: When Bots Socialize for Fame and Money. In: Proceedings of the 27th Annual Computer Security Applications Conference [http://lersse-dl.ece.ubc.ca/record/264/files/264.pdf] (accessed: 08.09.2019).
Cao Q., Sirivianos M., Yang X., Pregueiro T. (2012) Aiding the detection of fake accounts in large scale social online services. In: Proceedings of the 9th USENIX conference on Networked Systems Design and Implementation [https://www.usenix.org/system/files/ conference/nsdi12/nsdi12-final42_2.pdf] (accessed: 08.09.2019).
Chesnokov V.O. (2017) Primenenie algoritma vydeleniya soobshchestv v infor-macionnom protivoborstve v social'nyh setyah [Application of the community allocation algorithm in information warfare on social networks]. Voprosy kiberbezopasnosti [Cybersecurity issues], 1(9): 37-44 (in Russian).
Dickerson J.P., Kagan V., Subrahmanian V.S. (2014) Using sentiment to detect bots on Twitter: Are humans more opinionated than bots? In: Proceedings of the IEEE/ACM International Conference on Advances in Social Networks Analysis and Mining [https:// dl.acm.org/citation.cfm?id=3191957] (accessed: 08.09.2019).
Ferrara E., Varol O., Davis C., Menczer F., Flammini A. (2016) The rise of social bots. Communications of the ACM, 59(7): 96-104 [https://www.researchgate.net/ publication/264123205_The_Rise_of_Social_Bots] (accessed: 08.09.2019).
Ferrara E., Varol O., Menczer F., Flammini A. (2016b) Detection of promoted social media campaigns. In: Proc. Intl. AAAI Conference on Web and Social Media [https:// www.aaai.org/ocs/index.php/ICWSM/ICWSM16/paper/viewFile/13034/12789] (accessed: 08.09.2019).
Forelle M.C., Howard P.N., Monroy-Hernandez A., Savage S. (2015) Political bots and the manipulation of public opinion in Venezuela [https://arxiv.org/pdf/1507.07109. pdf] (accessed: 08.09.2019).
Gorwa R., Guilbeault D. (2018) Unpacking the Social Media Bot: A Typology to Guide Research and Policy [https://arxiv.org/pdf/1801.06863.pdf] (accessed: 08.09.2019).
Haustein S., Bowman T.D., Holmberg K., Tsou A., Sugimoto C.R., Lariviere V. (2016) Tweets as impact indicators: Examining the implications of automated "bot" accounts on twitter. Journal of the Association for Information Science and Technology, 67(1): 232-238.
Hofeditz L., Ehnis C., Bunker D., Brachten F., Stieglitz S. (2019) Meaningful use of social bots? Possible applications in crisis communication during disasters. In: Proceedings of the 27th European Conference on Information Systems (ECIS). Stockholm; Uppsala [https://aisel.aisnet.org/ecis2019_rp/138/] (accessed: 08.09.2019).
Howard P.N. (2003) Digitizing the social contract: Producing American political culture in the age of new media. The Communication Review, 6(3): 213-245.
Howard P.N., Bolsover G., Kollanyi B., Bradshaw S., Neudert L.-M. (2017) Junk news and bots during the U.S. Election: What were Michigan voters sharing over Twitter? CompProp, OII, Data Memo. Oxford, UK: Project on Computational Propaganda [http:// blogs.oii.ox.ac.uk/politicalb ots/wp-content/uploads/sites/89/2017/03/What-Were-Michigan-Voters-Sharing-Over-Twitter-v2.pdf] (accessed: 08.09.2019).
Howard P.N., Woolley S., Calo R. (2018) Algorithms, bots, and political communication in the US 2016 election: The challenge of automated political communication for election law and administration. Journal of Information Technology & Politics, 15(2) [https://www.tandfonline.com/doi/full/10.1080/19331681.2018.144873 5] (accessed: 08.09.2019).
Katasev A.S., Kataseva D.V., Kirpichnikov A.P., Evseeva A.O. (2015) Nejrosetevaya model' identifikacii botov v social'nyh setyah [A neural network model for identifying
bots on social networks]. Vestnik tekhnologicheskogo universiteta [Bulletin of the Technology University], 18(16): 253-256 (in Russian).
Kotenko I.V., Konovalov A.M., Shorov A.V. (2011) Agentno-orientirovannoe modelirovanie bot-setej i mekhanizmov zashchity ot nih [Agent-based modeling of botnets and defense mechanisms against them]. Voprosy zashchity informatsii [Information Security Issues], 3: 24-29 (in Russian).
Lee K., Eoff B.D., Caverlee J. (2011) Seven Months with the Devils: A Long-Term Study of Content Polluters on Twitter. In: Proceedings of the Fifth International AAAI Conference on Weblogs and Social Media [https://pdfs.semanticscholar.org/b433/9952a7 3914dc7eacf3b8e4c78ce9a5aa9502.pdf] (accessed: 08.09.2019).
Lee K., Webb S., Hancheng G. (2014) The Dark Side of Micro-Task Marketplaces: Characterizing Fiverr and Automatically Detecting Crowdturfing. In: International Conference on Weblogs and Social Media (ICWSM) [http://students.cse.tamu.edu/hge/ papers/Lee_icwsm14.pdf] (accessed: 08.09.2019).
Martyanov D.S. (2016) Politicheskie boty kak professiya [Political bots as a profession]. Politeks [Polytex], 12(1): 74-89 (in Russian).
Mitter S., Wagner C., Strohmaier M. (2013) A categorization scheme for social bot attacks in online social networks. In: Proc.of the 3rd ACM Web Science Conference [http:// markusstrohmaier.info/documents/2013_WebSci2013_Socialbots_Taxonomy.pdf] (accessed: 08.09.2019).
Pasquale F. (2015) The Black Box Society: The Secret Algorithms That Control Money and Information. Cambridge: Harvard University Press.
Rowley J. (2000) Product searching with shopping bots. Internet Research, 10(3): 203-214.
Sachkov I.K., Nazarov A.N. (2014) Avtomatizaciya protivodejstviya bot-atakam [Automation of counteraction to bot attacks]. T-Comm-Telekommunikacii i Transport [T-Comm-Telecommunications and Transport], 8(6): 5-9 [https://cyberleninka.ru/ article/n/avtomatizatsiya-protivodeystviya-bot-atakam] (accessed: 08.09.2019) (in Russian).
Sadeddin K.W., Serenko A., Hayes J. (2007) Online shopping bots for electronic commerce: The comparison of functionality and performance. International Journal of Electronic Business, 5(6): 576-589.
Savage S., Monroy-Hernandez A., Hollerer T. (2016) Botivist: Calling volunteers to action using online bots. In: Proceedings of the 19th ACM Conference on ComputerSupported Cooperative Work & Social Computing [https://sites.cs.ucsb.edu/~holl/pubs/Savage-2016-CSCW.pdf] (accessed: 08.09.2019).
Schäfer F., Evert S., Heinrich P. (2017) Japan's 2014 General Election: Political Bots, Right-Wing Internet Activism, and Prime Minister Shinzö Abe's Hidden Nationalist Agenda. Big data, 5(4): 294-309.
Sia S., Woolley S., Monaco N., Howard P. (Forthcoming) A Comparative Study of Chinese Online Agents on Facebook — an Anti-Taiwan Independence Expedition.
Stieglitz S., Brachten F., Berthele D., Schlaus M., Venetopoulou C., Veutgen D. (2017) Do social bots (still) act different to humans?-Comparing metrics of social bots with those of humans. In: International Conference on Social Computing and Social Media [https://www.researchgate.net/publication/317172975_Do_Social_Bots_Still_Act_
Different_to_Humans_-_Comparing_Metrics_of_Social_Bots_with_Those_of_Humans] (accessed: 08.09.2019).
Varol O., Ferrara E., Davis C.A., Menczer F., Flammini A. (2017) Online human-bot interactions: Detection, estimation, and characterization. In: Eleventh international AAAI conference on web and social media [https://www.researchgate.net/publication/314433388_ Online_Human-Bot_Interactions_Detection_Estimation_and_Characterization] (accessed: 08.09.2019).
Vasilkova V, Legostaeva N., Radushevskii V. (2018) Botnets as an election campaign tool: a methodology for identification and analysis of network publication activity. In: The Internet, Policy & Politics Conference. Oxford, UK [https://blogs.oii.ox.ac.uk/policy/ ipp-conference/paper] (accessed: 08.09.2019).
Vasilkova VV., Legostaeva N.I. (2019) Social'nye boty v politicheskoj kommunikacii [Social bots in political communication]. Vestnik RUDN. Sociologiya [Bulletin of the RUDN University. Sociology], 1: 126-129 (in Russian).
Vasilkova V.V., Legostaeva N.I., Radushevsky V.B. (2019) Social'nye boty kak instrument razvitiya grazhdanskogo uchastiya [Social bots as a tool to develop civic engagement]. Monitoring obshchestvennogo mneniya: Ekonomicheskiye i sotsialnye peremeny [Monitoring of Public Opinion: Economic and Social Changes], 5: 19-42 (in Russian).
Velazquez E., Yazdani M., Suarez-Serrato P. (2017) Socialbots supporting human rights. In: AIES '18 Proceedings of the 2018 AAAI/ACM Conference on AI, Ethics, and Society. New Orleans, LA, USA [http://www.aies-conference.com/2018/contents/papers/ main/AIES_2018_paper_30.pdf] (accessed: 08.09.2019).
Woolley S.C. (2016) Automating power: Social bot interference in global politics. First Monday, 21(4) [https://firstmonday.org/article/view/6161/5300] (accessed: 08.09.2019).
ОЧ и - - СО - -
о и - - -
РО со и - СО -
ЧО 1-Н и со
1-Н и - со - -
со со и -
оч 1-Н и со
1-Н и -
о и - - со
Ю СО и СО
04 го и со - -
1-Н СО и - со го - -
СО и -
V© ГО и 00 го го
и - - - о
00 »-н и
V© <ч и - СО -
ГО СО и - - СО - -
ю и 1Л со
1-Н ^ и о го -
о 1-Н и ю ю - - - го
СО со и - -
Тематический ьсластер \ Бонде ш о со г^ ю ю с Х> гл ю с XI о ю щ чо с XI 00 ЧО о сл ю й -О чо со ^ со чо с -О Гх Г- ст\ 00 чо с XI о СО о Й х> Ч© ^ чо чо Й -О СО со 00 чо й -О ю 00 ю чо й Оч 1П СО со о. й 00 чо 1Л го Г-Ч й -О (О о ю ю й -О со ^ ю й -О СО о ЧО й г^ Оч чо й (О со го СО чо й х> СО о ^ 00 чо й -О й -О га О-] ЧО й со ^ Оч ю й
Общий итог 00 in о со О со ON СЧ ГЧ N СЧ I-H iS VO m in <4 о о IN V© vo m ■Ч1 Ч1
"t CO -
и - -
00 CO и -
CO CO <J -
c30 <N
u <N
о CM -
<4 и <N
IT) rs и -
IN (J -
IN CO <J - -
<4 u со -
NO <J СП -
ON U <N
Tf У - -
u Ln
CO <J - (N - -
00 и (N
о - - СО
in <J (N
и (N - -
Тематический кластер \ Botnet ID о 00 IN in in Ö X) IN со <N VO Ö -D о ^ ЧО Ln VO С -О 00 ЧО о ON in с -о СП 00 С -О IN IN ON 00 vo Ö rO О OO о r^ G -D VO IN vo VO Ö Л in CO CO 00 VO с in tN 00 Ln vo с ON in CO CO IN с 00 ^o LTl (N Г-Ч с л ГЛ о in in с Л со LO IN с СО IN о VO с -О IN IN ON vo С -О СО со (N 00 чо Ö -О со о ^ со VO Ö гО [..... с Л CN (N Ov 4D с л t m ^f o\ in с -a
оч со и 40
О У - со 40
СО со и - ЧО
V© и СО ЧО
^ и - к
со со у 00
о\ и со 00
г^ и со - 00
о со и Оч
ш ГО и о\
Оч ГО и о
го и СО - 5
со о -
V© го у (Ч
со и го
00 и
40 со и 111
ГО со и ^
ю и ОО
у со № Г)
о и г)
со го и 1Л
Тематический кластер \ Войде ГО ОЧ о со 00 ч© с X 00 СО о о. ЧО Й -О о со й СО со о СО Й со Оч ^ со ЧО Й о ОО о Й -О 1Г> 'ф о й х> о ЧО ЧО г^ ЧО Й X оо со Г-Ч ЧО Й г£> чо ЧО оч ЧО Й -О ЧО Оч оо о Й -О ич и") ш ЧО Й -О со ЧО й со с^ со ЧО Й X ю чо [>. Й СО ЧО со ю Й -О оо ЧО ЧО Й X ЧО й -О Оч СО ^ ЧО ю Й X) оч со ю й о ЧО ш й Л « а й а § « а о
Общий итог СП СП СП СП СП СП (N CA <4 00 т
TP го <J "
о У fS
00 с*) <J гч
m rn u - рц
о m u м
t! г)
о t! СП
IN ГЯ и - СП
in <N и - - сп
r^ и (N СП
t^ en <J - СП
<N U
VO о
ON и (N t
(N U <4 - in
(N U in
cn о in
00 <J CN - in
и in
in и <N - in
о (N VC
Тематический кластер \ Botnet ID ON о СП со чо с -О 00 00 о IN ЧО с -О о IN (N t-s G -О СП (N О СП г^ с -О (N ON ^ (N ЧО С -О IN О со о г^ С -О LO Tf о с х> О ЧО ЧО IN ЧО С Х> 00 СП IN ^ ЧО Ö -О ЧО IN ЧО ON ЧО G X) ЧО ON СО О G X) LH Ш in ЧО с <N ЧО t^ Ö <N LH IN СП ЧО Ö X in IN ЧО t^ Ö X) CO ЧО CO LT) с <J\ 00 \o vo С Л 40 Tt< LTl t -С J5 ON 00 ЧО LO С ON <N тс u-> с л о ЧО Ln с Л 'S 3 Й | s vo а о
