CC BY
0
Юристъ-Правоведъ. 2024. № 4(111). - С. 136-140. Jurist-Pravoved. 2024. № 4(111). - Pp. 136-140.
Научная статья УДК 343.326:004:738
ПРОБЛЕМЫ РАДИКАЛИЗАЦИИ ПОЛЬЗОВАТЕЛЕЙ ПОСРЕДСТВОМ ОНЛАЙН-ПЛОЩАДОК
Карпика Анатолий Григорьевич
Ростовский юридический институт МВД России, Ростов-на-Дону, Российская Федерация [email protected]
Введение: популярность социальных онлайн-площадок среди широкого круга пользователей породила сравнительно новую проблему вовлечения в экстремистскую деятельность в дистанционном (бесконтактном) режиме. Способы, которыми экстремисты используют пространство онлайн-игр, форумов, сайтов знакомств становятся все более изощренными, что требует от профессиональных психологов, социологов и правоохранительных органов лучшего поиска уязвимостей и оценки угроз, как для игровых сообществ, так и для отдельных граждан. В статье исследуются популярные игровые и аналогичные интернет-площадки, их возможности и связанные с ними факты использования их в экстремистских целях.
Материалы и методы: из множества интернет-площадок на первом этапе были отобраны пользующиеся наибольшей популярностью ссылки, которые часто встречаются в различных источниках. На последующих этапах анализировались потенциальные и реальные возможности использования их для вовлечения в экстремистскую деятельность.
Кроме этого анализировались известные примеры и теоретически возможные результаты деятельности преступников, направленные на расширение круга потенциальных жертв.
Результаты исследования: проведен анализ социальных интернет-площадок, используемых для вовлечения в преступную деятельность, сформулирована проблема выявления связей игровых и экстремистских сообществ, преступников и законопослушных пользователей.
Выводы и заключения: на многих игровых (и аналогичных) платформах в той или иной мере присутствует экстремистский контент от стримов и мемов сомнительного содержания до призывов к насилию. Значительный объем этого контента связан с играми.
Социальные платформы и сообщества по своей природе не опасны. Они используются экстремистами, как и любая другая цифровая платформа.
Платформы игровых (и аналогичных) сервисов часто работают как сайты социальных сетей. Заинтересованные экстремистски настроенные лица способны использовать их для общения друг с другом и потенциальными кандидатами на вовлечение в экстремистскую деятельность.
Модерацию контента в режиме прямых трансляций проводить достаточно затруднительно.
Для формирования целостного представления о проблеме, необходимо рассматривать всю экосистему контента, связанного с играми на всех платформах, а не только традиционные игровые (и аналогичные) платформы.
Формирование неприятия подобного контента пользователями способно сократить потенциальную аудиторию латентных или явных экстремистских сообществ, что в свою очередь повысит эффективность противодействия их влиянию.
Ключевые слова: экстремизм, вовлечение в преступную деятельность, игровые платформы, социальные ресурсы, стриминговый контент, правоохранительная деятельность.
Для цитирования: Карпика А. Г. Проблемы радикализации пользователей посредством онлайн-площадок / А. Г. Карпика // Юристъ-Правоведъ : науч.-теоретич. и информац.-методич. журн. Ростов-на-Дону. 2024. № 4(111). - С. 136-140.
Original paper
PROBLEMS OF COUNTERACTING RADICALIZATION OF USERS ONLINE PLATFORMS Karpika Anatoly Grigorievich
Rostov Law Institute of the Ministry of Internal Affairs of Russia, Rostov-on-Don, Russian Federation
Introduction: the popularity of online social platforms among a wide range of users has given rise to a relatively new problem of involvement in extremist activity in a remote (non-contact) mode. The ways in
which extremists use the space of online games, forums, dating sites are becoming increasingly sophisticated, which requires professional psychologists, sociologists and law enforcement agencies to better search for vulnerabilities and assess threats, both for gaming communities and for individuals. The article examines popular gaming and similar Internet platforms, their capabilities and related facts of their use for extremist purposes.
Materials and methods: from a variety of Internet platforms, at the first stage, the most popular links were selected, which are often found in various sources. At subsequent stages, potential and real possibilities of using them for involvement in extremist activity were analyzed.
In addition, known examples and theoretically possible results of criminal activities aimed at expanding the circle of potential victims were analyzed.
Results of the study: an analysis of social Internet platforms used for involvement in criminal activity was conducted, the problem of identifying connections between gaming and extremist communities, criminals and law-abiding users was formulated.
Findings and conclusions: many gaming (and similar) platforms contain extremist content to varying degrees, from streams and memes of questionable content to calls for violence. A significant amount of this content is related to games.
Social platforms and communities are not dangerous by their nature. They are used by extremists, like any other digital platform.
Gaming (and similar) service platforms often operate as social networking sites. Interested extremist-minded individuals can use them to communicate with each other and potential candidates for involvement in extremist activity.
Moderation of content in live broadcast mode is quite difficult.
To form a holistic view of the problem, it is necessary to consider the entire ecosystem of content related to games on all platforms, and not just traditional gaming (and similar) platforms. Formation of aversion to such content by users can reduce the potential audience of latent or overt extremist communities, which in turn will increase the effectiveness of counteracting their influence.
Keywords: extremism, involvement in criminal activity, gaming platforms, social resources, streaming content, law enforcement.
For citation: Karpika A. G. Problems of counteracting radicalization of users online platforms / A. G. Karpika // Yurist-Pravoved : scientific-theoretical and information-methodical journal. Rostov-on-Don. 2024. № 4(111). - Pp. 136-140.
Противоречие современного мира заключается в том, что появляющиеся новые технологии одновременно несут в себе не только комфорт и удобство для человека, но и нередко содержат новые опасности для него. Действительно, как отмечает С.А. Воронцов, феномен экстремизма уходит вглубь веков, ведь принципом «цель оправдывает средства» отдельные люди руководствовались достаточно давно с исторической точки зрения. В качестве примера можно привести деятельность секты сикариев в Иудее, находящейся под властью Римской империи в I в. н. э. Члены секты боролись против представителей римской власти, а также с сотрудничающей с ними еврейской знатью. С течением времени данный феномен не оставался неизменным. Одновременно с развитием человечества он преображался с появлением каждого нового элемента научно-технического прогресса.
Относительно текущего состояния дел, согласно официально опубликованным данным Генеральной прокуратуры Российской Федерации, за период с 2018 по 2023 гг. (с января по ноябрь) отмечался рост экстремистских преступлений как количественно, так и в долевом выражении от общего количества зарегистрированных преступлений.
Популярность различных онлайн социальных площадок среди широко круга пользователей породило сравнительно новую проблему вовлечения в экстремистскую деятельность в дистанционном (бесконтактном) режиме [1]. Способы, которыми экстремисты используют пространство онлайн-игр, форумов, сайтов знакомств становятся все более изощренными, что требует от профессиональных психологов, социологов и правоохранительных органов лучшего поиска уязвимостей и оценки угроз как для игровых сообществ, так и для отдельных граждан. До сих пор отсутствует четкое определение и понимание того, что представляет собой игровая платформа, платформа, вовлекающая в игры, и платформа, где появляется контент, связанный с играми.
Рассмотрим основные традиционные игровые (и аналогичные) платформы, которые были созданы либо для игр, либо для игрового сообщества и которые потенциально могли быть связаны с экстремистскими видами деятельности. Основное внимание сосредоточим на платформах, так или иначе связанных с игровыми или аналогичными платформами
и формирующими соответствующий контент, например, посредством перекрестного обсуждения и репостинга.
Платформа Discord была создана как эффективное средство общения для геймеров, играющих совместно в видеоигры. Пользователи могут создавать публичные или частные серверы с форумами, функциями чата, аудио и видео с целью общения с единомышленниками. Многие из частных серверов имеют функцию автомодерации. Во всем мире Discord имеет почти 7 миллионов серверов, более 300 миллионов зарегистрированных счетов и более 140 миллионов активных пользователей в месяц, которые не только общаются на темы игр.
В сети созданы серверы для обсуждения тем, не связанных с играми (спорт, политика музыка). Всего по данным ресурса Disboard зарегистрировано 1 331 818 серверов Discord. Среди этого количества серверов абсолютное большинство содержит (по крайней мере, внешне) абсолютно легальный или почти легальный контент. Вместе с этим имеются ресурсы, посвященные обсуждению и уголовно наказуемых в большинстве стран мира тем и формированию у пользователей ресурсов соответствующих настроений.
Некоторые серверы являются частью цифровой крайне правой экосистемы, ориентированной как на граждан отдельных стран, так и на международную аудиторию. В этом принимают участие сотни частных серверов, создатели и посетители которых разделяют неонацистскую идеологию, крайне правые взгляды и публикуют человеконенавистнические мемы.
Так, активные пользователи уже закрытого сервера «8chan» перенесли свою идеологию на улицы и приняли участие в беспорядках с неонацистскими и расистскими лозунгами, происшедшими в городе Шарлоттсвилль (США). При этом, координация участников «правых беспорядков», организовалась с помощью серверов Discord. Платформа также использовалась группами «Boogaloo Boys», «QAnon», а также другими крайне правыми группами и отдельными лицами.
Пользователи, создающие серверы, могут добавлять теги, описывающие основную тему сервера, чтобы другие могли легче определить в каких серверах они могут быть заинтересованы. В настоящее время есть 3 634 сервера с тегом «Токсичные», 272 сервера, помеченные как «Правое крыто», 182, помеченный тегом «Ненависть», 222, помеченные как «Нацист-кий», несмотря на регулярные действия Discord по удалению таких ресурсов с платформы [2].
Поскольку это только общедоступные теги, количество серверов с ненавистным контентом, вероятно, будет намного больше, чем указывают эти цифры. Описания серверов иногда указывают, кому разрешено присоединиться, например, «кроме меньшинств», «кроме женщин», «кроме чернокожих».
Платформа Steam является крупнейшей цифровой распределительной платформой для компьютерных игр. Имеет более 130 миллионов ежемесячных активных пользователей. В дополнение к играм, узлы Steam содержат видеоконтент, форум для обсуждений произведений искусства, скриншотов, гидов и проведения «мастер-классов», пользовательских модификаций популярных игр.
Steam был замешан в атаке 2016 г. в Мюнхене, когда следствие выяснило, что будущий стрелок создавал в форумах темы, оправдывающие массовые расстрелы и распространял антимусульманские нарративы. В 2019 г. человек был арестован за то, что он разместил угрозы в отношении иудеев и задавал вопрос: «Хотите увидеть массовую стрельбу с количеством тел более 30 нечеловеков»? Как показывает исследование [3], Steam содержит значительное количество правых экстремистов и сторонников «белого превосходства», которые выражают свои взгляды на изображениях профиля, именах, биографических описаниях и на дискуссионных форумах.
Как и Discord, Steam также частично работает как сайт социальной сети, с дискуссионными форумами и высокой степенью вовлечения пользователей. Это позволяет дискуссиям беспрепятственно перемещаться между играми и политической идеологией.
Twitch - это платформа для прямой трансляции, которая имеет 10 миллионов активных стримеров. Пользователи, 70 % которых составляют лица в возрасте от 16 до 34 лет, смотрят в среднем 2 миллиарда часов прямых трансляций (стримов). Несмотря на первоначальную идею сервиса, состоящую в размещении прямых трансляций, связанных с игровым контентом, в настоящее время на платформе имеются стримы, посвященные широкому кругу тем, включая занятия на свежем воздухе, спорт, приготовление пищи, искусство и ремесло, музыка, животные, политические разговоры, подкасты и «просто разговоры».
Противодействие прямым трансляциям - достаточно сложное дело для полиции не только потому, что это происходит вживую, но и потому, что разговор сложнее нейтрализовать
мерами обнаружения, чем, например, текст, в котором можно искать ключевые слова. Более того, стримы могут просто исчезнуть после того, как они заканчиваются, что делает практически невозможным их анализ, если не наблюдать в режиме реального времени.
Twitch был замешан в незаконном финансировании правых экстремистов, которые зарабатывали деньги не только стримами прохождений видеоигр и распространением политических заявлений и сообщений, но и распространением дезинформации. Кроме этого, зрители, разделяющие ультраправые взгляды, жертвовали им значительные суммы денег.
Платформа Dlive, которая была создана в качестве альтернативы потоковой передаче на YouTube и Twitch, насчитывала в 2022 г. более 150 000 активных стримеров и заявляла о 6 миллионах активных пользователей, зафиксированных в апреле 2023 г. Подобно Twitch, Dlive распространяет разнообразный контент, а также проводит различные цифровые мероприятия и выступает как «координатор сообществ», публикующих другие виды контента.
Платформа частично геймифицирована, поскольку зрители получают вознаграждение за постоянное взаимодействие со стримерами с возможностью выиграть Lemon - платформенную валюту. Несмотря на то, что некоторые каналы, где господствовали правые экстремистские идеи и сторонники «белого превосходства были удалены, Dlive все еще считается «экстремистским убежищем» и «домом» для правых пропагандистских идей. В основном это связано с терпимой к подобным идеям политики модерации контента, пропагандирующего ненависть, антисемитизм, прославление нацизма и призывы к насилию.
Наряду с рассматриваемыми платформами существует множество более или менее специализированных игровых форумов. Например, на Reddit зарегистрировано более 30 миллионов участников, обсуждающих контент, связанный с играми, а на форуме MMORPG есть 1,3 миллиона комментариев только в общем дискуссионном форуме и сотни тысяч в других частях форума.
Несмотря на то, что ни один из этих форумов не был связан с экстремистскими действиями, исключать то, что между пользователями таких форумов и радикализированными людьми существует некоторое совпадение нельзя. Вместе с этим распространенность экстремистского контента на этих платформах трудно оценить. Также нелегко определить, использовались ли они для распространения пропаганды или усилий по подбору будущих кандидатов, подходящих для вовлечения в экстремистские сообщества. Тем не менее, теоретически эти форумы являются эффективным способом, чтобы охватить потенциально миллионы людей, заинтересованных в играх.
YouTube является крупнейшей видео-платформой в мире, создающей миллиард часов контента в день, включающего в себя прямые трансляции с возможностью для зрителей комментировать в режиме реального времени, а также предварительно записанный контент. Потенциально имеется несколько возможностей для экстремистски настроенных стримеров.
Во-первых, прямые трансляции, даже на крупной платформе, такой как YouTube, трудно модерировать в режиме реального времени, особенно, если видеоконтент замаскирован под кулинарный или игровой канал, и только произнесенное слово раскрывает определенную политическую идеологию.
Учитывая, что такие каналы, как Baklava Kitchen, притворяясь кулинарным каналом, но в действительности распространяя неонацистскую идеологию, все еще доступны на YouTube, игровой контент может использоваться аналогичным образом с целью сокрытия экстремистской направленности другим занятием.
Во-вторых, публикация контента на платформе, такой как YouTube, даже если впоследствии удаляется, может увеличить охват стримеров и потенциально побудить некоторых зрителей следовать за стримером к менее регулируемой платформе, такой как DLIVE.
В-третьих, игровой контент, непосредственно связанный с экстремистскими организациями, доступен на платформе. Например, для серии видеоигр Special Forces and Heimatdefender: Rebellion, связанной с немецкоязычным филиалом движения, можно найти видеоролики, доступные на YouTube. Это особенно тревожно, учитывая, что Heimatdefender был помещен в индекс опасного материала Германии. В целом, связь между платформами, связанными с игрой, и YouTube, составляет два года.
Самое главное, что эти ссылки могут также ассоциироваться с другими видео на основе видео рассматриваемого канала.
Таким образом, подведя итоги анализа, можно установить следующее:
1. Существует экстремистский контент почти на всех игровых (и аналогичных) платформах, от стримов до мемов сомнительного содержания и призывов к насилию. Значительный объем этого контента связан с играми.
2. Сами платформы по своей природе не опасны. Они используются экстремистами, как и любая другая цифровая платформа. Кроме того, подавляющее большинство контента на игровых (и аналогичных) платформах не связано с экстремизмом.
3. Платформы игровых (и аналогичных) сервисов часто работают в том числе и как сайты социальных сетей. Они поощряют обсуждение различных тем среди пользователей и проводят прямые трансляции по различным темам, включая политические и идеологические. Заинтересованные экстремистски настроенные лица используют эти платформы для общения друг с другом и потенциальными кандидатами на вовлечение в экстреамистскую деятельность, например, выражая свои взгляды через свои профили и посты.
4. Модерацию контента, особенно в режиме прямых трансляций, проводить в режиме реального времени затруднительно, особенно когда прямые трансляции проводятся на языках, отличных от русского или английского.
5. Для формирования целостного представления о проблеме необходимо рассматривать всю экосистему контента, связанного с играми на всех платформах, а не только традиционные игровые (и аналогичные) платформы.
6. Контент, формирующийся на игровых (прилегающих) платформах, часто выпускается или дублируется на других платформах, увеличивая охват целевой аудитории, сложность модерации или удаления противоправного контента.
СПИСОК ИСТОЧНИКОВ
1. Карпика А.Г., Лемайкина С.В. Вопросы обеспечения национальной безопасности в ки-берпространстве // Актуальные проблемы современного российского государства и права. Материалы ежегодной всероссийской научно-практической конференции. Калининград, 2022. № 8-3.
2. Шлегель Л. Использование экстремистами игровых платформ. URL: https://home-af-fairs.ec.europa.eu/system/files/2021-08/ran_extremists_use_gaming_platforms_082021_en.pdf (дата обращения: 29.05.2024).
3. «Это не игра: как Steam используется экстремистами». URL: https://archive.is/aP33d (дата обращения: 29.05.2024).
REFERENCES
1. Karpika A.G., Lemaikina S.V. Issues of Ensuring National Security in Cyberspace // Actual Problems of the Modern Russian State and Law. Proceedings of the Annual All-Russian Scientific and Practical Conference. Kaliningrad, 2022. № 8-3.
2. Schlegel L. Use of Gaming Platforms by Extremists. URL: https://home-affairs.ec.europa. eu/system/files/2021-08/ran_extremists_use_gaming_platforms_08202l_en.pdf (date of access: 29.05.2024).
3. «This is not a game: how Steam is used by extremists». URL: https://archive.is/aP33d (date of access: 29.05.2024).
ИНФОРМАЦИЯ ОБ АВТОРЕ
Карпика Анатолий Григорьевич, кандидат технических наук, доцент, доцент кафедры информационного обеспечения органов внутренних дел. Ростовский юридический институт МВД России. 344015, Российская Федерация, г. Ростов-на-Дону, ул. Еременко, 83.
INFORMATION ABOUT THE AUTHOR
Karpika Anatoly Grigorievich, PhD in Technical Sciences, Associate Professor, Associate Professor of the Department of Information Support of Internal Affairs Agencies. Rostov Law Institute of the Ministry of Internal Affairs of Russia. 83, Eremenko St., Rostov-on-Don 344015 Russian Federation.
