CC BY
113
ВЕСТНИК ПЕРМСКОГО УНИВЕРСИТЕТА
2011 РОССИЙСКАЯ И ЗАРУБЕЖНАЯ ФИЛОЛОГИЯ Вып. 3(15)
УДК 81’42: 004.5
ЭКСТРЕМИСТСКИЙ ДИСКУРС В МАССОВОЙ КОММУНИКАЦИИ РУНЕТА1
Владимир Александрович Салимовский д. филол. н., профессор кафедры речевой коммуникации Пермский государственный университет
614990, Пермь, ул. Букирева, 15. [email protected]
Лиана Магдановна Ермакова
аспирант кафедры процессов управления и информационной безопасности Пермский государственный университет
614990, Пермь, ул. Букирева, 15. [email protected]
Показано, что в Рунете экстремистские тексты свободно размещаются не только в блогах тех или иных пользователей, но и на сайтах крупнейших интернет-компаний. К настоящему времени сложились речевые практики комментирования общественно значимых событий, нацеленные, как правило, на выражение эмоций враждебности и вербальную агрессию. Среди распространенных экстремистских практик - использование ников и аватаров с именами и фотографиями нацистских преступников, призывы к насилию по отношению к представителям государственных органов, а также национальных меньшинств, высказывания о гражданах этих меньшинств, включающие слова и выражения, унижающие национальное достоинство, оскорбления, угрозы, пропаганда нацистской идеологии. Обосновывается необходимость использования в Сети компьютерных программ (фильтров), удаляющих заведомо противоправные тексты из публичного пространства. Описывается способ фильтрации экстремистских текстов.
Ключевые слова: экстремистская деятельность; Рунет; дискурс вражды; речевая агрессия; фильтрация.
1. Определение понятий. В наиболее общем значении дискурс - это речь, «погруженная в жизнь» [Арутюнова 2000: 137]. Предметом различных концепций дискурсивного анализа являются разные стороны речи, рассматриваемой в единстве с социальными и психологическими факторами [Квадратура смысла 2002; The Handbook 2003 и др.]. Мы будем понимать дискурс как совокупность социальных речевых практик, воплощающих анонимные правила организации речи (текста), - правила, определяющие, что и как следует говорить или писать в типовой коммуникативной ситуации.
Понятие экстремистской деятельности (экстремизма) охватывает ряд деяний [О противодействии 2002; О внесении 2006], среди которых в вербальной (и шире - знаковой) форме наиболее часто совершаются:
◊ возбуждение расовой, национальной или религиозной розни;
◊ унижение национального достоинства;
◊ пропаганда исключительности, превосходства либо неполноценности граждан по признаку их отношения к религии, социальной, расовой, национальной, религиозной или языковой принадлежности;
◊ пропаганда и публичное демонстрирование нацистской атрибутики или символики либо атрибутики или символики, сходных с нацистской атрибутикой или символикой до степени смешения;
◊ публичные призывы, побуждающие к осуществлению деяний, квалифицируемых законом как экстремистские, в том числе к насилию в отношении представителей государственной власти.
Дискурс вражды - это такой дискурс, который выражает враждебное отношение одних людей к другим и / или в соответствии со своей це-леустановкой содержит явно несправедливые оценки, обидные утверждения и пр. и потому закономерно вызывает вражду [Мишланов, Са-
© Салимовский В.А., Ермакова Л.М., 2011
71
лимовский 2006]. Враждебность является комплексной аффективно-когнитивной ориентацией человека. Ее основные конституенты - эмоции гнева, отвращения и презрения, аффективнокогнитивные структуры [Изард 2002].
Под экстремистским дискурсом мы понимаем часть дискурса враждебности - практики, представленные высказываниями и текстами, имеющими признаки противоправных (экстремистских) деяний.
Массовая коммуникация - разновидность общения, основными признаками которого исследователи обычно считают: массовую аудиторию, социальную значимость передаваемой информации, использование технических средств (СМИ, Интернета), многоканальность связи (визуальный, аудиотивный, аудио-визуальный каналы) [Конецкая 1997; Шарков 2004 и др.]. В настоящее время массовая коммуникация уже не является однонаправленной: адресат, воспринимая радио- или телевизионные передачи, получая информацию в Интернете, имеет возможность активно участвовать в публичном общении. Так, широко практикуются телефонные звонки в студию с включением адресата в прямой эфир; СМС, посылаемые журналисту-ведущему; предшествующие радио- или телепередаче вопросы от пользователей Интернета; голосование в эфире и на сайтах; комментарии к транслируемым в Интернете сообщениям информационных агентств, к постам в блогах и др. Журналисты печатных СМИ не ограничиваются публикацией писем читателей, но ищут новые жанровые формы и речевые тактики взаимодействия с массовым адресатом [Майданова 1994; Чепкина 1997]. Появляются интернет-газеты и электронные версии традиционных изданий, инициирующие коммуникативную активность читателей.
В последующем изложении мы будем приводить экстремистские высказывания, заменяя в них нецензурную лексику знаком •; номинации социальных групп (этнических, религиозных и др.) с презрительной, уничижительной стилистической окраской - знаком |; номинации политических партий с аналогичной стилистической окраской - знаком —. Имена собственные заменены знаком К, оскорбительные наименования известных политиков, общественных деятелей -знаком К*. Вместо общепринятого (литературного) обозначения национальной или конфессиональной принадлежности человека используются несуществующие названия: ламинец (ламинцы), вагал (вагалы). Без изменений приводятся высказывания, ставшие объектом судебных разбирательств. Орфографические, пунктуационные и речевые ошибки не исправляются.
2. Типичные примеры экстремистского дискурса в Рунете.
Помещаемые в Интернете сообщения информационных агентств комментируются читателями. Зайдя на сайт какого-либо медиахолдинга и прочитав новости, пользователь может ознакомиться с откликами на них посетителей сайта и оставить свой комментарий.
Ниже приводим некоторые комментарии к сообщению агентства Интерфакс «Московская милиция опасается несанкционированных акций радикальной молодежи в пятницу», размещенному на сайте Rambler. иКЬ: http://news.ramЫer.ru/8995110/comments/ (дата
обращения: 11.02. 2011):
ктовиноват ичтоделать
9 минут назад #
Быть или не быть? Бить или не бить? - Поменьше задавать вопросов.
Сергей Овсянников
38 минут назад #
[Транслируются лозунги скинхедов]
Александр Невский
45 минут назад #
Зашевелились упыри, забегали, земля уходит из под ног так это не ваша земля... домой пора вам Щ
Александр -
1 час назад #
У К* • [«руководители страны нас боятся»] А оно и понятно. Когда тебя хотят убить 140 млн. людей.
Миша Кроха
1 час назад #
.ну • мимо нас трубопровод тянут, я с кентами договорился как его закапают, будем взрывать, достали эти политики, на нас им реально •
Емельян Пугачёв
2 часа назад #
Первое-это собрать всех вагалов и отправить обратно. И второй вариант- собрать всех вага-лов и отправить в печи. Что не нравятся мои предложения?
Емельян Пугачёв
2 часа назад #
Кто согласен и не равнодушен к будующему страны-помогайте мне поднимать народ. Предлагаю конкретно выйти [указывается время и место] и сказать НЕТ К* режиму.
Размещение такого рода комментариев на сайтах ведущих интернет-компаний является обычной практикой. Их «удельный вес», как правило, значителен при обсуждении публикаций, посвященных межнациональным отношениям, работе милиции, органов государственной власти, а также затрагивающих деятельность политиков, бизнесменов. В данной тематической области абсолютно доминирует дискурс враждебности, при этом входящие в него экстремистские тексты выделяются предельной речевой агрессией. (О ступенях речевой агрессии см: [Купина, Енина 1997].)
Что касается блогосферы - ее сектора, посвященного общественно-политическим темам, - то здесь доля экстремистских текстов особенно велика. Она, разумеется, неодинакова на разных сайтах. К сожалению, лишь в единичных случаях блоггер полностью исключает эти тексты из публичного пространства. Между тем в нацистских порталах их доля составляет сто процентов. Размещаемые в них статьи, посты, комментарии отличаются особой дерзостью:
убей Щ - защити Россию!!!
что за это с ними делать? Спокойно убивать;
убивайте вагалов убивайте вагалов убивайте вагалов убивайте вагалов;
• я вашего, [имя Бога в чужой религии] • я вашего. • я вашего. • я вашего. • я вашего.
хороший Щ - мертвый Щ;
Щ •,••,• меня уже, ••, пускай •, • валить их надо
Щ^, •• отсюда в свою •... Мы вас всех перегасим •, запомните и ваши • могилы • [загадим].
3. Дискурсивные практики интернет-комментариев на социально-политические темы. Комментарий - это «рассуждения, пояснительные и критические замечания о чем-н.» [Ожегов, Шведова 2003: 287]. Они могут быть аналитическими и стереотипными, глубокими и поверхностными, уважительными к людям и этически неприемлемыми. Мы покажем, что в массовой коммуникации Рунета культивируются стереотипные неэтичные речевые реакции на публикуемые сообщения, навязываются новые правила речевого поведения - агрессивного, враждебного. Основной механизм этих процессов состоит в том, что размещаемый на сайте первичный текст (информационное сообщение или пост), как правило, заключает в себе программу его комментирования в форме речевой актуализации сложившихся в массовом (групповом) сознании стереотипов и предрассудков.
В психологии под стереотипом понимается «мнение о личностных качествах какой-либо группы людей» [Майерс 2005: 777]. Стереотип основан на обобщении, которое часто является чрезмерным и неточным (англичане замкнуты, профессора рассеяны и под.). Предрассудок же -это антипатия, порождаемая негибким обобщением. Суть предрассудка - «в негативном предвзятом мнении о какой-либо группе и о ее отдельных представителях» [Майерс 2005: 385].
Если автор комментария не разделяет ошибочного обобщения, укоренившегося в сознании коммуникантов, и оспаривает предрассудок, то он подвергается санкциям: в лучшем случае его игнорируют, в худшем - по отношению к нему проявляют агрессию. Конечно же, существуют блоги, в которых не нарушаются правила культурного общения. Они представляют собой своего рода «клубы» с ограниченным числом членов («друзей»). Так чаще всего организуется коммуникация в социальных сетях. Однако при свободной регистрации посетителей сайта блоговое пространство, как правило, захватывают пользователи, насаждающие предрассудки группового сознания и ведущие себя агрессивно.
Для демонстрационного анализа мы используем сначала материал экстремистского вебсайта, а затем респектабельного портала КашЫег и укажем на проявление одних и тех же закономерностей. Объектом исследования будут комментарии, посвященные милиции, - как ни странно, одной из наименее защищенных от экстремизма социальных (профессиональных) групп.
На экстремистском сайте размещена фотография милицейской машины с надписью на дверце: «дежурная часть Пыталово». Над фотографией бранное высказывание. Открыто поле для комментариев. Их характер, естественно, предопределен целеустановкой создателей сайта - инициировать вербальную атаку на милицию:
Всех ментов на кол!!!
Все менты •••
••• эти менты, сгнили бы ••, просто всех повесить и расстрелять.
Единичные корректные комментарии (...По профессии нельзя судить о человеке! Мало ли кто когда вам сделал что-то плохое, это не значит, что все остальные такие же...) сопровождаются новым взрывом агрессии:
Менты - это ••, ••, • [бить] их нещадно •
Теперь обратимся к порталу ЯашЫег. Среди новостей дня - сообщение «Колокольцев опроверг слухи о ПИДРах в полиции». иЯЪ:
http://news.rambler.ru/9049895/ (дата обращения:
18.02.2011). Искусственная (вымышленная) аббревиатура ПИДР - полицейский инспектор дорожного регулирования - воспроизводит вульгарно-просторечный и жаргонный пароним, употребляемый как бранное слово в значении «гомосексуалист» [Мокиенко, Никитина 2003: 250]. Данное слово становится ключевым в сотнях комментариев:
Аркан 888
.там нет ПИДРов, там конкретные П.и.д.о.р.ы.
Анннння
Эти ПИДРы будут останавливать, даже если не нарушаешь
Sergey Боев
Ведь пидр будет пидром, хоть пидром назови его, хоть нет
Аналогичные комментарии следуют и за другими информационными сообщениями о милиции, опять-таки предопределяющими агрессивное, в том числе экстремистское, речевое поведение пользователей. Ср. заголовки: «Россияне готовы бежать от “господина полицейского”», «Милиционеров превратят в полицейских за два месяца». URL: http://news.rambler.ru/
8944294/comments/ (дата обращения: 21.
02.2011). Пример: Как же я ненавижу эту власть... Мента прибить не жалко, а полицая убью за милую душу. Тех кто продал свой народ с потрохами в 91-м (КПСС, МВД, КГБ) ждет только одна участь- смерть! <... >. Редкие комментарии, выражающие одобрение закона «О полиции» или уважение к милиционерам, становятся объектом обструкции.
Вполне очевидно, что текст, предлагаемый для обсуждения информационной службой ИТ-компании, ориентирует массовую аудиторию на восприятие социальной группы через стереотип, наполняемый негативными характеристиками (“все они такие-то и такие-то”) и способствующий формированию враждебности [Андреева 2001: 255]. Это касается, конечно, не только милиции, но и других социальных групп - этнических, конфессиональных и пр. Характерны, например, такие заголовки сообщений, размещаемых на сайте для комментирования: «Москвич написал заявление в милицию на муфтия за оскорбление русского народа». URL: http://news.rambler.ru/8546320/comments/ (дата обращения: 22.12.2010). «Босс исламского ТВ обезглавил жену, подавшую на развод». URL: http://news.rambler.ru/8959396/comments/ (дата обращения: 08.02.2011). Речевые реакции на эти заметки предопределены: К. - вагал. он за бара-
нов черных; Муфтия заставить жить в свинарнике и кушать свинину; Ламинская, вагальская традиция допускает избиение женщины и пр.
В подобных случаях тема первичного текста закономерно модифицируется читателями в соответствии с улавливаемой авторской интенцией и распространенными предубеждениями: не
«милиция», а «бандитская милиция», не «религия», а «опасная религия» и т.п. В сущности, коммуникантам предлагается не размышлять над каким-либо социальным явлением (событием), а выражать отрицательные эмоции и проявлять агрессию.
Важно учитывать, что первичный текст и комментарии к нему образуют целостность, сверхтекст, обычно характеризующийся единой модальной установкой [Купина, Битенская 1994]. Так, в журналистской заметке то или иное описываемое событие предстает как репрезентация и утверждение в дискурсивном поле стереотипа (предрассудка), определяющего толкование читателем содержащихся в сообщении сведений. Г осподствующей тональностью комментариев становится выражение эмоций враждебности. В результате складываются и начинают доминировать негативно-оценочные и агрессивные дискурсивные практики комментирования социально значимых событий.
Г енезис этих практик, вероятно, связан с журналистской стилевой манерой, именуемой стебом, «когда в лихом, разухабистом стиле пишут
о политике, катастрофах, убийствах. Такая манера исподволь навязывает агрессивнонигилистическое отношение ко всем явлениям -как отрицательным, так и положительным.» [Солганик 2000: 16]. В блоговых комментариях эта манера письма «копируется» с дальнейшим снижением уровня речевой культуры (достали уже, мля; кругом одно фуфло): большинство комментаторов - носители обиходного ее типа [Сиротинина 2003], владеющие лишь разговорной речью, не привыкшие выражать мысли в монологической форме и не умеющие грамотно писать.
Сформировавшись, эти практики осуществляются и тогда, когда первичный текст в явном виде не воспроизводит предрассудки массового сознания и непосредственно не провоцирует речевой агрессии. Став привычными, они уже не обязательно мотивируются замыслом журналиста, далеко не всегда связаны с главной темой текста, но могут быть реакцией на любую из микротем, в том числе периферийную [Васильева, Салимовский 2011]. Установка на враждебность, присущая таким комментариям, находит стимул для реализации в фактуальном содержа-
нии любого текста общественно-политической тематики.
В результате в массовой интернет-коммуникации складывается своя субнормативность, противоречащая этическим и правовым нормам. Укажем наиболее характерные т и п ы противоправных (экстремистских) высказываний - наиболее часто встречающиеся “языковые игры” [Витгенштейн 1994] (приводимые ниже примеры с сайта Rambler обычны для всех ведущих ИТ-компаний):
◊ Устрашающие и эпатирующие ники (Гитлер, Фон-Рибентропп, Бен Ладен, киллер, бью козлов - своих спасаю - как модификация лозунга, направленного против национальных меньшинств, и под.), аватары в виде свастики, фотографий нацистских преступников.
◊ Призывы к свержению органов государственной власти, к насилию по отношению к ее представителям, а также к национальным меньшинствам: Смерть Щ, все на манежку с толпой в двадцать тридцать тысяч омон не справится... омону • [конец] дорога на кремль открыта; Пришло время К вешать!!!; в каждом городе есть штаб — каждому штабу по гранате мочить в каждом городе по пять • в день...; Бей Щ спасай Россию!
◊ Угрозы: Мы вас всех скоро перевешаем на фонарях; К* убирайся вон... пока жив; а тебя гнида мы найдем и со дна морского поднимим и башню проломим.
◊ Оскорбления (часто переходящие в глумление): Разве у зверей бывает лицо? Остается одно правильное название - морда вагальской национальности; Ха-ха-ха-ха!!! Гордишься, что Щ? Ха-ха-ха! Ща лопну со смеху. Щ быть позорно! А ты гордишься. Уха-ха-ха-ха-ха-ха!!!
◊ Рассказы об этнических меньшинствах [Дейк 1989] с использованием слов и выражений, унижающих национальное достоинство: Жена 3 года назад работала в ФМС (до капитана дошла). Делала все, чтобы Щ сюда не перлись. В очереди вели себя так, что охрану приходилось частенько вызывать...; Эти Щ везде приходиш в гаи машину оформлять их там толпа...
◊ Провокативные речевые действия, направленные на разжигание национальной розни. Одна из распространенных тактик - не мотивированное предшествующими комментариями крайне резкое националистическое высказывание, порождающее ответную националистическую реакцию, которая, в свою очередь, вызывает коллективную вспышку оскорблений, угроз и последующее доминирование национальной тематики.
◊ Трансляция и популяризация расистской идеологии: РА- Это КультуРА-Расеи (РАсы-СЕющая) так называлась пРАродина РУСОВ) [аватар пользователя включает свастику].
URL: http://news.rambler.ru/8496334/comments (дата обращения: 18.12.2010)
URL: http://news.rambler.ru/8635039/comments (дата обращения: 2.01.2011)
URL: http://news.rambler.ru/8864998/comments (дата обращения: 30.01.2011)
URL: http://news.rambler.ru/8995110/comments (дата обращения: 11.02.2011)
Влияют ли практики враждебности на речевое поведение пользователей, присоединяющихся к общению? На первый взгляд, нет: ведь каждый человек свободен в своих суждениях и в выборе манеры письма. Однако в действительности новый субъект речи входит в коммуникативное поле, в котором уже сформирован круг предпочитаемых тем, устойчивых оценок, где сложились правила речевого взаимодействия, где за коммуникативное доминирование борются группы завсегдатаев сайта, в том числе «тролли». В данном поле нет места пользователю, рассчитывающему на уважительное отношение к его позиции, если она не совпадает с групповыми предрассудками, а также на этичное поведение оппонентов. Человек, приобщенный к культуре и разделяющий гуманистические ценности, не вступает в такое общение. Но многие посетители сайта, еще не сформировавшиеся как личности, эти правила принимают. Они начинают чувствовать, думать и говорить “внутри дискурсивных правил”.
4. Агрессия вербальная и агрессия физическая. Можно утверждать, что сегодня социально-политическая часть блогосферы представляет собой коммуникативную среду, в которой формируется особая ментальность, характеризующаяся своими социальными установками и нормами поведения. В значительной мере она «питается» оппозиционно-протестными настроениями и обнаруживает тенденцию к сближению с националистической идеологией (нередко в экстремистских формах социального протеста, межэтнических и межконфессиональных взаимодействий). Установка на проявление враждебности и речевую агрессию органична для этой ментальности. Являясь маргинальным идеологическим образованием, последняя, тем не менее, претендует на утверждение своих идеологических представлений и оценок в этическом и правовом сознании общества, а также на легитимизацию экстремистских убеждений и практик. При этом предпринимаются попытки оправдать экстремистские действия ссылкой на свободу
слова, на право свободного выражения мнения. В данном отношении показательна полемика, развернувшаяся в связи с делом блоггера Саввы Терентьева. Как сообщается в электронной энциклопедии “Википедия”, «15 февраля 2007 г. в интернет-блоге ‘^игапоу” милиционеры обнаружили оставленную Терентьевым запись, расцененную ими как “направленную на возбуждение ненависти или вражды к социальной группе” - милиции:
“ненавижу ментов, сцуконах не согласен с тезисом „у милиционеров остался менталитет репрессивной дубинки в руках властьимущих“. во-первых, ментов. во-вторых, не остался. он просто-напросто неискореним. Мусор - и в африке мусор. кто идёт в менты — быдло, гопо-та - самые тупые, необразованные представители жив(отн)ого мира. было бы хорошо, если в центре каждого города россии, на главной площади (в сыктывкаре - прям в центре стефанов-ской, где ёлка стоит чтоб в с е м видно было) стояла печь, как в освенциме, где церемониально, ежедневно, а лучше - дважды в сутки (в полдень и полночь, например) - сжигали бы по неверному менту. народ, чтоб сжигал. это был бы первый шаг к очищению общества от ментовско-гопотской грязи. ”
иЯЬ: http://ru.wikipedia.org/wiki (дата обращения: 28.02.2011)
Автор текста, осужденный условно, посчитал, что нарушено его право на свободу слова, и подал кассационную жалобу в Верховный Суд Республики Коми. Но «к изумлению 1П;ете^ общественности, суд кассационную жалобу отклонил» [цит. по: “Википедия”].
Представляется, что «изумление» блоггеров отчасти можно объяснить их погруженностью в свою коммуникативную среду (ведь им известно, что комментарии, подобные приведенному выше тексту, широко и при этом безнаказанно публикуются в Сети) и наивной претензией на отождествление групповой «этики» с нравственными и правовыми нормами социума.
Поддержка позиции С.Терентьева рядом СМИ, думается, в значительной мере связана с распространенным представлением о вербальной агрессии - пусть и в экстремистских ее формах -как общественно неопасном явлении, а также с предположением, что наказание за подобные высказывания может быть чрезмерно суровым. Этим, вероятно, обусловлено и появление экспертных заключений, в которых отрицается наличие в приведенном тексте языковых и речевых показателей нарушения закона (о ненадлежащей лингвистической экспертизе см.: [Салимовский, Мехонина 2010]).
Однако представление о том, что подобные публикации в Сети не приводят к физическому насилию, ошибочно. По справедливому замечанию известного этнолога В.А.Тишкова, «без первичного насилия как акта речи сам конфликт и физическое насилие невозможны» [Тишков 2003: 381].
Примечательно, что в последнее время экстремистские речевые практики получают продолжение в публичных акциях, сценарий которых предусматривает агрессивные физические действия. Примером может служить акция “Дворцовый переворот”, проведенная в Петербурге артгруппой “Война”: «Активисты заблокировали велосипедными замками главные ворота Михайловского замка и заперли боковые входы. Затем “штурмовая бригада” раскачала и перевернула милицейскую машину. После этого группа активистов “Войны” из нескольких десятков человек прошлась по набережным Мойки, Фонтанки и городским площадям, блокируя и переворачивая машины ДПС.». иЯЪ: http://www.gazeta.ru/social/2010/11/16/3438125.sht т1 (дата обращения: 28.02.2011).
Сформировавшаяся в дискурсе установка на физическую агрессию приводит и к увеличению числа тяжких преступлений. Так, зам. главы МВД М.Суходольский констатирует «возрастающую агрессию и дерзость в поведении отдельных групп граждан, которые, переступая грань закона, применяют насилие в отношении сотрудников правопорядка». иЯЪ:
http://www.pravo.ru/news/view/38672/ (дата обращения: 28.02.2011). По данным информационноаналитического центра “Сова” за первые два месяца 2011 г. в результате расистских и неонацистских нападений пострадало не менее 25 человек, из которых 8 человек погибли. иЯЪ: http://www.sova-center.ru/racism-xenophobia/pub1i-cations/2011/03/d21073/ (дата обращения:
2.03.2011).
5. Блогосфера сегодня и завтра: от «грязных» речевых практик к цивилизованному общению? Во многих областях социальной жизни, где одни граждане вполне свободно нарушают права других, вводятся технически обеспеченные и поэтому эффективные препятствия для правонарушений. Например, сегодня в супермаркете покупатель при расчете не проверяет «в уме», как это было некоторое время назад, правильность запрашиваемой продавцом суммы, поскольку все денежные операции отражаются в окне кассового аппарата и фиксируются в чеке.
Государство обязало собственников использовать при продаже товаров контрольнокассовую технику, чтобы обеспечить поступле-
ние в бюджет налогов и правильность расчета с покупателями. Это решение, призванное сделать розничную торговлю цивилизованной, порождало споры о возможных негативных его последствиях для бизнеса. Опасения отчасти были лукавыми, маскировавшими желание, как и прежде, работать с нарушением правовых норм.
Аналогичные споры возникают всегда, когда назревает необходимость обеспечить действие норм права в какой-либо сфере, где эти нормы регулярно нарушаются, в том числе в Интернете. Говоря о необходимости позитивных изменений в сетевой коммуникации, мы имеем в виду, что они могут быть достигнуты с помощью компьютерных программ (фильтров), не пропускающих противоправные высказывания в публичное пространство. К сожалению, применяемые в настоящее время ИТ-компаниями системы автоматического модерирования не устраняют не только экстремистские тексты, но и матизмы, если графическая форма последних несколько изменена. (Заметим, что отказ от использования эффективных фильтров может быть связан с незаинтересованностью компаний в уменьшении числа пользователей.)
Разумеется, программы-фильтры ориентированы на т и п и ч н ы е формальные речевые показатели и не обеспечивают стопроцентного блокирования экстремистских высказываний. Однако в абсолютном большинстве случаев размещаемые в Сети противоправные посты и комментарии стереотипны как в содержательном, так и в формально-речевом отношении, что облегчает их фиксацию блокирующим устройством.
Фундаментальное свойство речи, изучение которого позволяет решать многие лингвокриминалистические задачи [см.: Мишланов, Салимовский 2010], - ее системность. Еще в 1960-е гг. М.Н.Кожина продемонстрировала наличие этого свойства не только у языка, но и у речи и эксплицировала понятие о нем как о базовой категории функциональной стилистики. Речевая системность - это взаимосвязь языковых единиц разных уровней на текстовой плоскости, обусловленная единым коммуникативным заданием в комплексе с другими экстралингвистическими факторами [Кожина 1966, 2010]. В актах речевой коммуникации единицы одних языковых уровней «закономерно “вызывают” использование тех, а не иных возможных единиц других уровней» [Кожина 1968: 112]. Это позволяет определить параметры речевой формы, необходимые для создания компьютерной программы. Разнообразные проявления речевой системности изучены сегодня по отношению к основным типоло-
гическим признакам текстов различных сфер общения [Матвеева 1990, 2010; Очерки 1998], жанровым структурам и частным дискурсивным формациям [Салимовский 2002]. Целенаправленное изучение речевой системности тех типизированных речевых образований, которые необходимо исключить из киберпространства (изучение повторяемости и взаимосвязи не только их лексических, но и грамматических особенностей, общей системно-речевой картины), открывает, на наш взгляд, новые возможности разработки компьютерных программ-фильтров. Этот анализ предполагает использование статистических методик на основе гипотезы о характере речевой объективации тех или иных интенций в определенной коммуникативной ситуации.
В исследованиях по информационной безопасности и информационному поиску задача фильтрации является частным случаем задачи классификации (или рубрикации). При этом понятие классификации не тождественно понятию кластеризации: они различаются тем, что классы заранее задаются пользователем или экспертом, а кластеры формируются автоматически при анализе коллекции.
Приведем формальную постановку задачи классификации. Пусть дано конечное множество
категорий С = {C-L,C2, ...,С с|} и конечное множество документов D = {dlFd2Fd|D|}.
Целевая функция Ф: D X С {0,1}, которая для каждой пары <документ, категория> определяет, соответствуют ли они друг другу, неизвестна. Необходимо найти классификатор Ф'Г. т.е. функцию, максимально близкую к функции
Ф [Лифшиц 2005]. В том случае, когда даны две непересекающиеся категории, мы имеем дело с бинарной классификацией. Аппарат бинарной классификации широко применяется в фильтрации спама.
Существуют разные варианты рубрикации документов: ручная классификация, классификация на основе правил и автоматическая классификация на основе информационного поиска и машинного обучения. Наиболее перспективным направлением разработки фильтра экстремистских сообщений представляется автоматическая рубрикация. Ей предшествует этап индексирования документов. Под индексацией понимается процесс приведения документа к единому формату. Индексирование включает в себя построение модели документа и уменьшение размерности. Наиболее распространенными моделями документов являются варианты моделей множества слов (bag-of-words), а именно бинарная модель и
модель с весами терминов. Первая учитывает только наличие или отсутствие слова в документе, тогда как во взвешенной модели каждому термину ставится в соответствие его вес.
Решение задачи классификации предполагает выбор дифференцирующих признаков. Он может осуществляться на основе эвристики, лингвистических критериев, знаний предметной области, статистических характеристик текстов. Во многих случаях в качестве признаков выступают слова. Однако не все они релевантны для решения поставленной задачи. Поэтому многие классификаторы используют списки стоп-слов. Некоторые программы игнорируют как слишком часто, так и слишком редко встречающиеся термины, при этом пороговое значение выбирается на основе эвристик и может зависеть от корпуса и особенностей решаемой задачи.
Обычно алгоритмы выбора признаков работают по следующей схеме: для каждого термина вычисляется мера различия между классами, после чего термины сортируются в порядке убывания этой величины и выбираются лучшие признаки.
Результаты решения классификационной задачи могут быть точными, когда документ однозначно относится к той или иной категории
Ф : X С ; 0.1 ], или ранжированными,
если документ относится к категории с некоторой вероятностью X С —► [ОД].
Опишем принцип создания программы, предназначенной для фильтрации экстремистских сообщений. Он основан на лингвистических характеристиках текста, которые могут быть выявлены автоматически, на основе контентного анализа. Важным достоинством последнего является его универсальность: он применим к различным системам обмена сообщениями, т.к. не опирается на служебную информацию [Ермакова 2010].
Оптимальным представляется экспертный метод выявления признаков и сигнатурный подход к фильтрации документов, в рамках которого принято различать «синтаксические» и «лексические» методы расчета сигнатур (оперирующие соответственно цепочками слов и словарем) [Некоторые автоматические методы. 2010]. Мы попытались соединить эти два направления: сигнатуры хранятся в базе данных в виде наборов лемм, которые обрабатываются при помощи грамматического словаря. В случае обнаружения языковых признаков экстремизма сообщению назначается штраф, величина которого зависит от вероятности появления языкового показателя в экстремистских и неэкстремистских текстах.
При превышении суммарного штрафа заданного порога сообщение считается экстремистским.
В связи с тем что пользователи зачастую пытаются обойти существующие фильтры, намеренно искажая слова, перед нами встала задача детектирования терминов при их модификации, в частности при замене букв цифрами, кириллических символов схожими символами латиницы, а также при введении дополнительных символов. Для обнаружения искаженных терминов мы применяем правила замены символов. Кроме того, осуществляем поиск наиболее адекватного слова, исходя из расстояния Дамерау-Левенштейна (расстояния редактирования).
В дальнейшем планируется автоматизация выявления признаков и классификация текстов на основе машинного обучения (например, байесовский классификатор). Рассматривается возможность применения методов Монте-Карло для идентификации искаженных фрагментов.
Важно отметить, что использование программы-фильтра не является политической цензурой. Программа блокирует только те тексты, которые обнаруживают бесспорные показатели противоправной деятельности. Существенно также и то, что, в отличие от малоэффективной борьбы с отдельными проявлениями экстремизма в Интернете, программа направлена против массовых речевых практик, т.е. против вербальной экстремистской деятельности как таковой.
* * *
Резюмируем сказанное. В настоящее время в Рунете экстремистские тексты размещаются совершенно свободно и лишь в очень редких случаях им дается правовая оценка. Местом их публикации являются не только сайты и блоги отдельных пользователей, но и порталы респектабельных ИТ-компаний.
Анализ этих текстов показывает, что в блого-вом пространстве сложились дискурсивные практики комментирования социально значимых событий, предполагающие выражение эмоций враждебности и речевую агрессию. Данные практики основываются на стереотипах и предрассудках группового сознания и очень часто представляют собой типовые экстремистские действия - такие, как демонстрация ников и аватаров с именами и фотографиями нацистских преступников, призывы к насилию по отношению к представителям государства, национальным и конфессиональным меньшинствам, оскорбления, угрозы, пропаганда нацистской идеологии и др. Массовое распространение в Сети экстремистских дискурсивных практик коррелирует с ростом числа нападений на сотрудников
правоохранительных органов, а также преступлений, совершенных на межэтнической почве.
Эффективным средством противодействия экстремизму в Интернете могут стать компьютерные программы (фильтры), исключающие заведомо противоправные тексты из публичного пространства.
Примечания
1 Статья издается при финансовой поддержке РГНФ в рамках научно-исследовательского проекта № 11-14-59010а/У.
Список литературы
Андреева Г.М. Социальная психология. М.: Аспект Пресс, 2001. 376 с.
Арутюнова Н.Д. // Языкознание. Большой энциклопедический словарь. М.: Большая Рос. энциклопедия, 2000.
Васильева В.В., Салимовский В.А. О механизме продуцирования массмедийного политического текста (в печати).
Витгенштейн Л. Философские работы. М.: Гнозис, 1994. Ч.1. 612 с.
Дейк Т.А. ван. Предубеждения в дискурсе. Рассказы об этнических меньшинствах // Он же. Язык. Познание. Коммуникация. М.: Прогресс, 1989. С.190-225.
Ермакова Л.М. Квантитативные методы в фильтрации спама на различных языках // Современные проблемы математики и ее прикладные аспекты / Перм. ун-т. Пермь, 2010. С.52-57.
Изард К.Э. Психология эмоций. СПб.: Питер, 2002. 464 с.
Квадратура смысла: Французская школа анализа дискурса. М.: ОАО ИГ «Прогресс», 2002. 416 с.
Кожина М.Н. О специфике художественной и научной речи в аспекте функциональной стилистики / Перм. ун-т. Пермь, 1966. 213 с.
Кожина М.Н. К основаниям функциональной стилистики / Перм. ун-т. Пермь, 1968. 252 с.
Кожина М.Н., Дускаева Л.Р., Салимовский
B.А. Стилистика русского языка. М.: Флинта, Наука, 2010. 464 с.
Конецкая В.П. Социология коммуникации. М.: Междунар. ун-т бизнеса и управления, 1997. 304 с.
Купина Н.А., Битенская Г.В. Сверхтекст и его разновидности // Человек. Текст. Культура / Ин-т развития регион. образ. Екатеринбург, 1994.
C.214-233.
Купина Н.А., Енина Л.В. Три ступени речевой агрессии // Речевая агрессия и гуманизация общения в средствах массовой информации / Урал. ун-т. Екатеринбург, 1997. С.26-38.
Лифшиц Ю. Классификация текстов // Алгоритмы для Интернета. 2005. URL: http://yury.name/intemet/ (дата обращения:
2.03.2011).
Майданова Л.М. Речевая интенция и типология вторичных текстов // Человек. Текст. Культура / Ин-т развития регион. образ. Екатеринбург, 1994. С.81-104.
Майерс Д. Социальная психология. СПб.: Питер, 2005. 794 с.
Матвеева Т.В. Функциональные стили в аспекте текстовых категорий. Свердловск: Изд. УрГУ, 1990. 172 с.
Матвеева Т.В. К вопросу о единицах речевой системы // Речеведение: современное состояние и перспективы / Перм. ун-т. Пермь, 2010. С.78-84.
Мишланов В.А., Салимовский В.А. Дискурс враждебности как социальный феномен // Язык вражды и язык согласия в социокультурном контексте современности. Екатеринбург: Изд-во Урал. ун-та, 2006. С.56-65.
Мишланов В.А., Салимовский В.А. К теоретическим основаниям судебной лингвистики // Сиб. филол. журн. 2010. №4. С.214-222.
Мокиенко В.М., Никитина Т.Г. Словарь русской брани. СПб.: Норинт, 2003. 448 с.
Некоторые автоматические методы детектирования спама, доступные большим почтовым системам. URL: http://company.yandex.ru/
public/articles/antispam.xml (дата обращения:
20.02.2011).
О внесении изменений в статьи 1 и 15 Федерального закона «О противодействии экстремистской деятельности»: Фед. закон от 27.07. 2006 №148-ФЗ // Рос. газ. 2006. 29.07. №4131.
О противодействии экстремистской деятельности. Фед. закон от 25.07.2002 №114-ФЗ // СЗ РФ. 2002. №30.
Ожегов С.И., Шведова Н.Ю. Толковый словарь русского языка. М.: Азбуковник, 2003.944 с.
Очерки истории научного стиля русского литературного языка XVIII-XX вв. Стилистика научного текста. Пермь: Изд-во Перм. ун-та, 1998. Т. II, ч.2. 396 с.
Салимовский В.А. Жанры речи в функционально-стилистическом освещении (научный академический текст). Пермь: Изд-во Перм. унта, 2002. 236 с.
Салимовский В.А., Мехонина Е.Н. Типичные ошибки (уловки) в ненадлежащей судебнолингвистической экспертизе // Вестн. Перм. унта. Российская и зарубежная филология. 2010. Вып. 2(8). С.48-51.
Сиротинина О.Б. Речевая культура // Стилистический энциклопедический словарь русского языка. М.: Флинта, Наука, 2003. С.343-347.
Солганик Г.Я. Современная публицистическая картина мира // Публицистика и информация в современном обществе. М.: фак-т журн. МГУ, 2000. С. 9-23.
Тишков В.А. Реквием по этносу: исследования по социально-культурной антропологии. М.: Наука, 2003. 544 с.
Чепкина Э.В. Формы общения с читателем в современной газете // Речевая агрессия и гуманизация общения в средствах массовой информации / Урал. ун-т. Екатеринбург, 1997. С.18-26.
Шарков Ф.И. Теория коммуникации. М.: РИП-холдинг, 2004. 246 с.
Ermakova L. Spam and phishing detection in various languages // Обработка текста и когнитивные технологии: Когнитивное моделирование в лингвистике: тр. XII Междунар. науч. конф. Казань: Изд-во Казан. ун-та, 2010 б. Вып.19. С.189-193.
The Handbook of Discourse Analysis / ed. by Deborah Schiffrin, Deborah Tannen, Heidi E.Hamilton. Blackwell Publishing, 2003. 872p.
EXTREMIST DISCOURSE IN RUNET COMMUNICATION
Vladimir A. Salimovsky
Professor of Speech Communication Department
Perm State University
Liana M. Ermakova
Post-graduate Student of Management Process and Information Security Department Perm State University
The article illustrates that extremist texts are freely available not only in different users’ blogs, but also on the web sites of reputable Internet-companies on RuNet. At present time certain verbal patterns of comment on socially significant events have been formed. These verbal patterns are aimed to express enmity and verbal aggression. Among the most widely used extreme verbal patterns are nicknames and avatars based on the names and photos of Nazi criminals, slogans of violence against authorities and national minorities, comment on national minorities containing the words and phrases humiliating national dignity, insults, threats and Nazi ideology propaganda. The necessity of application of special software (filters) in the net deleting a priori illegal texts from public space is proved. The method of filtering the extremist texts is described.
Key words: extremist activity; RuNet; enmity discourse; verbal aggression; filtering.
