CC BY
254
УДК 323.213 DOI: 10.24411/1817-9568-2019-10407
китайская система социального кредита:
взгляд снаружи и изнутри
трахтенберг Анна Давидовна,
Институт философии и права
Уральского отделения Российской академии наук,
кандидат политических наук, старший научный сотрудник,
Екатеринбург, Россия,
ORCID: 0000-0002-3530-9361,
E-mail: cskiit@yandex.ru
Статья поступила в редакцию 01.12.2019, принята к публикации 10.02.2020
Для цитирования: Трахтенберг А.Д. Китайская система социального кредита: взгляд снаружи и изнутри // Научный журнал «Дискурс-Пи». 2019. № 4 (37). С. 108-118. doi: 10.24411/1817-9568-2019-10407
Аннотация
В статье проведен анализ планов правительства КНР построения системы социального кредита, в рамках которой должна быть осуществлена интеграция баз данных, накопленных как органами власти, так и частными ^-компаниями. Показано, что внешняя реакция на создание системы социального кредита не совпадает с внутренней. За пределами Китая система социального кредита была воспринята как инструмент всеобъемлющего социального и политического надзора с применением искусственного интеллекта, социальных сетей, Интернета вещей и прочих новейших достижений в сфере информационных технологий. В самом Китае в системе социального кредита видят инструмент упреждающего управления через репутацию, призванный повысить уровень межличностного доверия, уровень доверия к власти и уровень управляемости общества. Воплощение данной системы на практике пока находится на уровне многочисленных (не менее 40) локальных пилотных проектов, в которых значительную роль играет усмотрение местных властей.
Автор приходит к выводу, что всеобъемлющая система социального кредита пока является скорее пропагандистским проектом, вселяющим оптимизм в граждан КНР и порождающим дистопические страхи в окружающем мире.
Ключевые слова:
технооптимизм, система социального кредита, цифровой авторитаризм, доверие, управление репутацией.
I 1 DiacouRBB-p Я ft
Шскурс ш
UDC 323.213 DOI: 10.24411/1817-9568-2019-10407
china's social credit system: look inside and out
Trakhtenberg Anna Davidovna,
Institute of Philosophy and Law
of the Ural Branch of the Russian Academy of Sciences,
Candidate of Political Sciences,
Senior Researcher,
Ekaterinburg, Russia,
ORCID: 0000-0002-3530-9361,
E-mail: cskiit@yandex.ru
Article received on December 1, 2019, accepted on February 10, 2020
To cite this article: Trahtenberg, A.D. (2019). Kitajskaya sistema social'nogo kredita: vzglyad snaruzhi i iznutri [China's social credit system: look inside and out]. Scientific Journal "Discourse-P", 4(37), 108-118. doi: 10.24411/1817-9568-2019-10407
Abstract
The article analyzes the plans of the PRC government to build a social credit system, within the framework of which the integration of databases accumulated by both authorities and private IT companies should be carried out. It is shown that the external reaction to the creation of a social credit system does not coincide with the internal one. Outside of China, the social credit system was perceived as an instrument of comprehensive social and political surveillance using artificial intelligence, social networks, the Internet of things, and other latest advances in information technology. In China itself, the system of social credit sees a tool of preemptive management through reputation, designed to increase the level of interpersonal trust, the level of trust in government and the society manageability. The implementation of this system in practice is still at the level of numerous (at least 40) local pilot projects, in which the discretion of local authorities plays a significant role.
The author concludes that the comprehensive system of social credit is still rather a propaganda project that instills optimism in the citizens of China and generates dystopic fears in the surrounding world.
Keywords:
techno-optimism, social credit system, digital authoritarianism, trust, reputation management.
Введение
Применительно к информационным технологиям (в отличие от атомной энергетики или генной инженерии) массовое «технологическое воображаемое» в основном носит позитивный характер. Культурная значимость информационных технологий настолько велика, что они превратились в главный позитивный символ технического прогресса. Вокруг электронных средств коммуникации с момента их возникновения складывается мифология «секулярного миллениа-ризма» (Carey, 1992), порождающая «риторику разрыва» с прошлым, устаревшим и неправильным состоянием (Hecht, 2012). Именно на основе риторики разрыва (и под влиянием идеологии нового государственного менеджмента) в девяностые годы XX века сформировалась концепция «электронного/цифрового правительства», предполагающая, что внедрение информационных технологий в государственное управление позволит превратить жесткие вертикальные бюрократические структуры в гибкое, интегрированное по горизонтали и оперативное «государство по требованию» (подробнее см. Трахтенберг, 2017). Современная концепция цифрового правительства предполагает предоставление гражданам «суперсервисов», то есть комплексов услуг, ориентированных по жизненным ситуациям и оказываемых в проактивном режиме, то есть переход от «государства по требованию» к государству, действующему на опережение. Такой подход к оказанию гражданам услуг подается как нечто безусловно положительное и как новое достижение технического прогресса.
Ни о каком значимом общественном сопротивлении переходу к электронному правительству говорить не приходится. Главной проблемой для его разработчиков традиционно выступает не сопротивление, а недостаточная популярность и востребованность новых форм взаимодействия с органами власти у граждан.
На общем технооптимистическом фоне, связанном с информатизацией государственного управления, резко выделяются технопессимистические ожидания, связанные с планами правительства КНР по созданию «системы социального кредита». Представление об освещении этих планов в самых авторитетных изданиях могут дать заголовки из журнала «The Economist»: «Китай изобретает цифровое тоталитарное государство» (Feng, 2016) и «Китайская цифровая диктатура» (Kefferpütz, 2016). Эти заголовки с теми или иными вариациями транслируются во всех мировых СМИ, включая отечественные (см., например: Гордеев, 2016; Евтушенко, 2016).
Чем обусловлен этот взрыв технопессимизма и насколько он соответствует реальности? Эти проблемы будут рассмотрены нами в настоящей статье.
Система социального кредита в «черном зеркале» мировых СМИ
В 2014 году Государственным советом КНР была утверждена «Программа создания системы социального кредита (2014-2020)», в которой была поставлена задача на основе всех продуцируемых с использованием информационных технологий данных сконструировать систему оценки поведения граждан, так, чтобы «оправдавшие доверие пользовались всеми благами, а утратившие доверие не могли сделать ни шагу» (Ковачич, 2017).
I 1 DiacouRBB-p Я ft
Шскурс ш
Заявление о намерении правительства КНР создать систему социального кредита породило целую серию статей в ведущих мировых СМИ, в которых КНР обвиняли в намерении реализовать на практике оруэлловский кошмар и создать государство тотального надзора.
Для молодых читателей, незнакомых с оруэлловским Большим Братом, использовалась ссылка на британский сериал «Черное зеркало», в котором оцениваются возможные последствия внедрения новых информационных технологий. В 2016 году в 1 серии третьего сезона сериала было показано общество, в котором граждане постоянно выставляют друг другу оценки через социальные сети, тем самым формируя рейтинг друг друга. В результате воцаряется тотальное лицемерие, а любое проявление искренних чувств чревато падением «под откос» (как и называется серия). Подчеркнем, что в «Черном зеркале» полностью отсутствовала политическая составляющая: было показано «общество надзора», а не «государство надзора», однако СМИ, как правило, не интересовали столь тонкие различия.
Журнал «Wired» не так давно попытался проследить истоки этой волны публикаций. По мнению автора «Wired» источником стал блог одного из активистов «Американского союза в защиту гражданских свобод» Дж. Стенли, который в октябре 2015 года опубликовал сообщение «Кошмарная китайская система рейтингования граждан - предупреждение для американцев» (Matsakis, 2019).
Картина, которую рисовал Дж. Стенли (а затем воспроизвели значительно более авторитетные издания), была ужасающей: в Китае намерены объединить все доступные источники/базы данных о гражданах, как государственные, так и частные, включая данные из социальных сетей, кредитную историю и историю покупок, чтобы на основе неких таинственных алгоритмов рассчитывать рейтинг каждого гражданина и регулировать его допуск к общественным благам. Более того: на рейтинг будет влиять не только поведение самого гражданина, но и поведение его друзей и знакомых.
Скромное сообщение в блоге получило мощный резонанс. Китайские планы срезонировали с собственно американскими страхами, что новые информационные технологии приведут к появлению «государства надзора» и легко позволят обойти те гарантии свободы слова, которые содержатся в Конституции США (Balkin & Levinson, 2006; Hu, 2017). Система социального кредита была воспринята как инструмент всеобъемлющего социального и политического надзора (surveillance) с применением искусственного интеллекта, социальных сетей, Интернета вещей и прочих новейших достижений в сфере информационных технологий.
Китай превратился в «черное зеркало» американского массового и элитного сознания, на которое были спроецированы собственные страхи и тревоги, связанные с бесконтрольным развитием информационных технологий. Особо острое беспокойство вызывало то, что для создания системы социального кредита один монстр - государство - намерен объединить усилия с другими монстрами - национальными и транснациональными IT-компаниями, накопившими огромные массивы информации о пользователях Сети.
Насколько эти страхи и тревоги обоснованны, и в чем, собственно говоря, выражается (или будет выражаться) китайский цифровой авторитаризм?
Система социального кредита в документах
государственного стратегического планирования КНР
Впервые о социальном кредите в Китае заговорили в 2003 году на III пленуме КПК шестнадцатого созыва. Тогдашний председатель КПК Ху Цзиньтао назвал систему социального кредита необходимым условием развития современной рыночной экономики (подробнее см. Creemers, 2016). В 2007 году появились «Некоторые замечания канцелярии Госсовета КНР о создании системы социального кредита». Задача была сформулирована достаточно скромно: «используя международный опыт, совершенствовать системы скоринга в области кредитования, налогообложения, выполнения контрактов, качества продукции» (Ковачич, 2017).
После того как в 2012 году председателем КПК стал Си Цзиньпин, концепция социального кредита вышла далеко за пределы банковского сектора. Но при всей амбициозности поставленных задач анализ «Программы создания системы социального кредита (2014-2020)» заставил такого крупнейшего ее исследователя, как С. Дай сделать вывод, что она представляет собой не единую стратегию, а скорее «мешанку» (hodge-podge) административных и правовых инициатив (Dai, 2018, с. 13). Инициативы разделены на четыре группы: «государственная честность», «деловая честность», «судебное доверие» и «общественная честность».
Появление терминов «честность» и «доверие» в английском (и русском) тексте не должно удивлять: как указывают специалисты-синологи (не только С. Дай, но и Ш. Ахмед, А. Лян, Р. Кримерс, а также Б. Кивачич), смысл китайского «дайкуан» далеко не сводится к экономическим отношениям. Это слово имеет ярко выраженную моральную составляющую и может переводиться еще и как «авторитет» и «доверие», причем подразумеваются и соответствующие добродетели: честность, надежность, добросовестность, искренность и даже любезное поведение. В этом смысле китайское слово «кредит» можно сравнить с русским словом «долг», значение которого также выходит за пределы финансов.
Поэтому систему социального кредита одновременно можно истолковать и как систему присвоения общественного авторитета (или лишения такового). Ее официальная цель состоит в том, чтобы повысить доверие граждан друг другу через управление репутацией. Такую систему «упреждающего» управления через репутацию (Dai, 2018) одни исследователи (Song, 2019) связывают с конфуцианством с его акцентом не на хорошие институты, а на добродетельных чиновников. Другие, наоборот, - с воинствующе антиконфуцианским маоизмом (Hoffman, 2019) с его ленинской целью «построения нового человека». Однако в целом все согласны, что система социального кредита глубоко укоренена в китайской административной традиции.
За счет интеграции баз данных, накопленных властью и бизнесом, система социального кредита призвана повысить и уровень межличностного доверия, и уровень доверия к власти, и уровень управляемости общества.
Система социального кредита глазами граждан КНР
Именно так ее цель понимают сами китайцы, о чем свидетельствуют результаты проведенного Дж. Костка социологического исследования (было
I 1 тасоиавв-р Ж А
Шскурс ш
опрошено 2209 человек и проведено 17 фокусированных интервью) (Kostka, 2019). К удивлению исследовательницы, респонденты решительно отказывались видеть в системе социального кредита ущемление своих прав. В той мере, в какой они вообще слышали про эту систему (а уровень осведомленности оказался весьма невелик - сталкивались с социальным кредитом на личном опыте не более 7 % опрошенных), они были склонны видеть в ней инструмент поддержки честных и добросовестных граждан. 80% участников опроса в той или иной мере поддержали идею оценки имеющегося у гражданина уровня общественного авторитета и вызываемого им доверия. Чем выше был уровень образования опрошенных и чем лучше их материальное положение, тем охотнее они выражали свою поддержку (что полностью противоречило стандартному представлению о том, что высокий уровень образования и доходов предполагает рост ценности личных свобод).
Примерно такой же вывод сделали журналисты С. Мистреану («Foreign Policy») (Mistreanu, 2018) и Н. Ган («South China Morning Post») (Gan, 2019) после посещения с интервалом примерно в год городского уезда Жунчэн в провинции Шаньдун, опыт которого по внедрению системы социального кредита популяризируется как образцовый.
Уезд Жэнчун - очень небольшой по китайским меркам. Все его 670 тысяч жителей получили стартовый капитал 1000 баллов. Этот капитал может увеличиваться или уменьшаться в зависимости от той информации, которая поступает в единый информационный центр из муниципальных, коммерческих, правоохранительных, судебных органов в единый информационный центр и, согласно отчетам уездной администрации, обрабатывается с помощью технологии big data. Утверждается, что единый информационный центр анализирует 160 тысяч различных параметров из 142 учреждений. Гражданам присваивается рейтинг от ААА до D (всего пять вариантов), в соответствии с которым их поощряют (например, выдают без залога в аренду велосипед или опять же без залога кладут в больницу) или ограничивают. По данным информационного центра, к высшей группе А+++ относится 90% городского населения, не совершавших никаких зафиксированных правонарушений.
На практике ситуация выглядела не вполне так, как в отчетах уездной администрации. С. Мистреану пришла к выводу, что большинство населения города не слышало о системе социального кредита, а те, кто слышал, относятся к ней, как к очередной административной инициативе, только косвенно связанной с их повседневной жизнью. Н. Ган, в свою очередь, заключил, что определенное внимание на рейтинг обращают в основном сотрудники государственных учреждений и государственных же предприятий. Что касается частного бизнеса, то мясник, официально отмеченный за честность в торговле, заявил: «Лучший рейтинг - это мое лицо, а не то, что чиновники пишут в своих бумагах».
Конечно, журналистские зарисовки не могут заменить социологические исследования, но определенные выводы они сделать позволяют. Возникает впечатление, что эффективность системы социального кредита находится вне зоны интересов как заказчиков, так и разработчиков. Такая ситуация типична для многих, если не для большинства проектов в сфере информатизации государственного управления. Существующие методы определения эффектов от внедрения информационных технологий в лучшем случае позволяют оценить внутреннюю
эффективность (efficiency), т. е. насколько рачительно израсходованы выделенные на тот или иной проект средства, однако практически не в состоянии дать оценки его реальной пользе (efficacy) для конечных потребителей. Эксперты даже говорят о «парадоксе электронного правительства» (Bertot & Jaeger, 2008; Castelnovo, 2010; Salvodelli, Codagnone & Misuraca, 2012), связанном со сложностями, порождаемыми попытками найти доказательства его реальной полезности.
В результате возникает простор для исполнительского усмотрения на местах. На основе замещения цели (повышения уровня общественного и межличностного доверия) средствами (внедрением информационных систем сбора, интеграции и анализа данных о гражданах) можно успешно отчитываться перед вышестоящими органами, не слишком беспокоясь о том, как воспринимают и используют систему социального кредита граждане.
Заключение
В настоящее время в КНР имеется не менее 40 «кредитных городов» (Ahmed, 2018, с. 63), в которых систему пытаются построить на муниципальном уровне, формулируя критерии сбора и оценки данных на свой страх и риск. Такая ситуация во многом является следствием традиционного китайского подхода к внедрению социальных инноваций в соответствии с формулой Дэн Сяопина: «переходить реку, ощупывая камни», предполагающей поощрение конкуренции пилотных проектов с целью в последующем отобрать наиболее эффективный (Воропаев, 2011; Heillman, 2008).
Примерно по такой же схеме конкурируют между собой ведомства, разрабатывающие собственные кредитные системы и ограничивающие доступ к собственным базам данных.
И хотя китайские власти очень активно взаимодействуют с ведущими национальными IT-компаниями, все же рейтинговые системы таких лидеров китайского IT-рынка, как «Alibaba» (система «Сезам Кредит»), «Weibo» и «Tencent» (платежная система «WeChat Wallet») существуют автономно от государства и осуществляют, как считает С. Дай, скорее функции банковского скоринга и поощрения лояльности, чем социального, а тем более - политического контроля (Dai, 2018).
Общую ситуацию специалисты описают как «острова данных» (Ding, 2019, с. 39), что вполне объяснимо. Проект системы социального кредита, как любой масштабный государственный проект, страдает от традиционных проблем, связанных с наличием множества акторов с несовпадающими интересами. Этим, в частности, можно объяснить «мешанку» в «Программе создания системы социального кредита (2014-2020)», и такую же «мешанку» в процессе ее реализации. Всеобъемлющая система социального кредита пока является скорее пропагандистским проектом, вселяющим оптимизм в граждан КНР и порождающим дистопические страхи в окружающем мире.
Список литературы
1. Воропаев, Д.С. (2011). Китайская модель политической модернизации в контексте феномена коинволюции цивилизаций. М.: Издатель A.B. Воробьев.
I 1 oibcourbb-p Ж ft
Шскурс ш
2. Гордеев, А. (2016). Цифровая диктатура: как в Китае вводят систему социального рейтинга. Ежедневная деловая газета РБК. Взято с https://www. rbc.ru/business/11/12/2016/584953bb9a79477c8a7c08a7
3. Евтушенко, А. (2016). Двойка за поведение: В Китае нашли новый способ следить за населением. Lenta.ru. Взято с https://lenta.ru/articles/2016/12/12/ chinarating/
4. Ковачич, Л. (2017). Большой брат 2.0. Как Китай строит цифровую диктатуру. Московский Центр Карнеги. Взято с http://carnegie.ru/ commentary/71546
5. Трахтенберг, А.Д. (2017). «Электронное правительство» как идеологический конструкт: как работает риторика разрыва? Научный ежегодник Института философии и права Уральского отделения РАН, 17(2), 41-58.
6. Ahmed, Sh. (2018). Automating carrot and stick process. AI, China, Russia, and the Global Order: Technological, Political, Global, and Creative Perspectives. A Strategic Multilayer Assessment (SMA) Periodic Publication. Взято с https://nsiteam.com/social/wp-content/uploads/2018/12/AI-China-Russia-Global-WP_FINAL.pdf
7. Balkin, J.M., & Levinson, S.V. (2006). The Processes of Constitutional Change: From Partisan Entrenchment to the National Surveillance State. Yale Law School Faculty Scholarship Series. Research Paper No 120. Взято с https:// digitalcommons.law.yale.edu/cgi/viewcontent.cgi?article=1230&context=fss_ papers
8. Bertot, J.C., & Jaeger, P.T. (2008). The E-Government Paradox: Better Customer Service Doesn't Necessarily Cost Less, Government Information Quarterly, 25/2, 846-860.
9. Carey, J.W. (1992). Communication as Culture: Essays on Media and Society. N.Y., Psychology Press.
10. Castelnovo, W. (2010). Is there an e-government paradox? In D.O' Donnel (Ed.), Proceedings of the 10th European Conference on eGovernment (pp. 90-98). Limerick: Academic Publishing.
11. Creemers, R. (2016). Disrupting the Chinese State: Internet plus, New Actors and New Factors. Asiascape: Digital Asia, 5, 169-197.
12. Dai, X. (2018). Toward a Reputation State: The Social Credit System Project in China. Working Paper. Взято с https://ssrn.com/abstract=3193577
13. Ding, J. (2018). The Interests Behind China AI Dream. AI, China, Russia, and the Global Order: Technological, Political, Global, and Creative Perspectives. A Strategic Multilayer Assessment (SMA) Periodic Publication. Взято с https:// nsiteam.com/social/wp-content/uploads/2018/12/AI-China-Russia-Global-WP_ FINAL.pdf
14. Feng, J. (2016). China Invents the Digital Totalitarian State. The Economist. Взято с https://www.economist.com/briefing/2016/12/17/china-invents-the-digital-totalitarian-state
15. Gan, N. (2019). The complex reality of China's social credit system: hi-tech dystopian plot or low-key incentive scheme? South China Morning Post. Взято с https://www.scmp.com/print/news/china/politics/article/2185303/hi-tech-dystopia-or-low-key-incentive-scheme-complex-reality
16. Hecht, G. (2012). Being Nuclear: Africans and the Global Uranium Trade. Cambridge, MA: The MIT Press.
17. Heilmann, S. (2008). From Local Experiments to National Policy: The Origins of China's Distinctive Policy Process. The China Journal, 59, 1-30.
18. Hoffman, S. (2019). China's Tech-Enhanced Authoritarianism. Testimony before the House Permanent Select Committee on Intelligence Hearing on "China's Digital Authoritarianism: Surveillance, Influence, and Political Control". Взято с https://www.anu.edu.au/events/china's-tech-enhanced-authoritarianism
19. Hu,M. (2017).Fromthe National Surveillance Stateto the Cybersurveillance State. Annu. Rev. Law Soc. Sci, 13, 161-180.
20. Kefferpütz, R. (2016). China's Digital Dictatorship. The Economist. Взято с https://www.economist.com/leaders/2016/12/17/chinas-digital-dictatorship
21. Kostka, G. (2019). China's Social Credit System and Public Opinion: Explaining High Levels of Approval. New Media and Society, 21(7), 1565-1593.
22. Matsakis, L. (2019). How the West Got China's Social Credit System Wrong. Wired. Взято с https://www.wired.com/story/china-social-credit-score-system/
23. Mistreanu, S. (2018). Life Inside China's Social Credit Laboratory. Foreign Policy. Взято с https://foreignpolicy.com/2018/04/03/life-inside-chinas-social-credit-laboratory
24. Savoldelli, A., Codagnone, C., & Misuraca, G. (2012). Explaining the eGovernment paradox: An analysis of two decades of evidence from scientific literature and practice on barriers to eGovernment. In ICEGOV '12 (pp. 287-296). Albany, New York, United States, October 22-25.
25. Seifert, J.W., & Chung, J. (2009). Using E-Government to Reinforce Government Citizen Relationships: Comparing Government Reform in the United States and China. Social Science Computer Review, 27(1), 3-23.
26. Song, B. (2019). The West May Be Wrong About China's Social Credit System. New Perspective Quarterly, 36(1), 33-35.
References
1. Ahmed, Sh. (2018). Automating carrot and stick process. AI, China, Russia, and the Global Order: Technological, Political, Global, and Creative Perspectives. A Strategic Multilayer Assessment (SMA) Periodic Publication. Retrieved from https://nsiteam.com/social/wp-content/uploads/2018/12/AI-China-Russia-Global-WP_FINAL.pdf
2. Balkin, J.M., & Levinson, S.V. (2006). The Processes of Constitutional Change: From Partisan Entrenchment to the National Surveillance State. Yale Law School Faculty Scholarship Series. Research Paper No 120. Retrieved from https:// digitalcommons.law.yale.edu/cgi/viewcontent.cgi?article=1230&context=fss_ papers
3. Bertot, J.C., & Jaeger, P.T. (2008). The E-Government Paradox: Better Customer Service Doesn't Necessarily Cost Less, Government Information Quarterly, 25/2, 846-860.
4. Carey, J.W. (1992). Communication as Culture: Essays on Media
I 1 тасоиавв-р Ж А
Шскурс ш
and Society. N.Y., Psychology Press.
5. Castelnovo, W. (2010). Is there an e-government paradox? In D.O' Donnel (Ed.), Proceedings of the 10th European Conference on eGovernment (pp. 90-98). Limerick: Academic Publishing.
6. Creemers, R. (2016). Disrupting the Chinese State: Internet plus, New Actors and New Factors. Asiascape: Digital Asia, 5, 169-197.
7. Dai, X. (2018). Toward a Reputation State: The Social Credit System Project in China. Working Paper. Retrieved from https://ssrn.com/abstract=3193577
8. Ding, J. (2018). The Interests Behind China AI Dream. AI, China, Russia, and the Global Order: Technological, Political, Global, and Creative Perspectives. A Strategic Multilayer Assessment (SMA) Periodic Publication. Retrieved from https://nsiteam.com/social/wp-content/uploads/2018/12/AI-China-Russia-Global-WP_FINAL.pdf
9. Evtushenko, A. (2016). Dvoika za povedenie: V Kitae nashli novyi sposob sledit' za naseleniem [A poor for behavior: In China, they found a new way to monitor the population]. Lenta.ru. Retrieved from https://lenta.ru/articles/2016/12/12/ chinarating/
10. Feng, J. (2016). China Invents the Digital Totalitarian State. The Economist. Retrieved from https://www.economist.com/briefing/2016/12/17/china-invents-the-digital-totalitarian-state
11. Gan, N. (2019). The complex reality of China's social credit system: hi-tech dystopian plot or low-key incentive scheme? South China Morning Post. Retrieved from https://www.scmp.com/print/news/china/politics/article/2185303/ hi-tech-dystopia-or-low-key-incentive-scheme-complex-reality
12. Gordeev, A. (2016). Cifrovaya diktatura: kak v Kitae vvodyat sistemu social'nogo reitinga [Digital dictatorship: how China introduces a social rating system]. EjednevnayadelovayagazetaRBK. Retrieved from https://www.rbc.ru/bus iness/11/12/2016/584953bb9a79477c8a7c08a7
13. Hecht, G. (2012). Being Nuclear: Africans and the Global Uranium Trade. Cambridge, MA: The MIT Press.
14. Heilmann, S. (2008). From Local Experiments to National Policy: The Origins of China's Distinctive Policy Process. The China Journal, 59, 1-30.
15. Hoffman, S. (2019). China's Tech-Enhanced Authoritarianism. Testimony before the House Permanent Select Committee on Intelligence Hearing on "China's Digital Authoritarianism: Surveillance, Influence, and Political Control". Retrieved from https://www.anu.edu.au/events/china's-tech-enhanced-authoritarianism
16. Hu, M. (2017) From the National Surveillance State to the Cybersurveillance State. Annu. Rev. Law Soc. Sci, 13, 161-180.
17. Kefferputz, R. (2016). China's Digital Dictatorship. The Economist. Retrieved from https://www.economist.com/leaders/2016/12/17/chinas-digital-dictatorship
18. Kostka, G. (2019). China's Social Credit System and Public Opinion: Explaining High Levels of Approval. New Media and Society, 21(7), 1565-1593.
19. Kovachich, L. (2017). Bol'shoy brat 2.0. Kak Kitay stroit tsifrovuyu diktaturu [Big Brother 2.0. How China is building a digital dictatorship]. Moskovskij Centr Karnegi. Retrieved from http://carnegie.ru/commentary/71546
20. Matsakis, L. (2019). How the West Got China's Social Credit System
Wrong. Wired. Retrieved from https://www.wired.com/story/china-social-credit-score-system/
21. Mistreanu, S. (2018). Life Inside China's Social Credit Laboratory. Foreign Policy. Retrieved from https://foreignpolicy.com/2018/04/03/life-inside-chinas-social-credit-laboratory
22. Savoldelli, A., Codagnone, C., & Misuraca, G. (2012). Explaining the eGovernment paradox: An analysis of two decades of evidence from scientific literature and practice on barriers to eGovernment. In ICEGOV '12 (pp. 287-296). Albany, New York, United States, October 22-25.
23. Seifert, J.W., & Chung, J. (2009). Using E-Government to Reinforce Government Citizen Relationships: Comparing Government Reform in the United States and China. Social Science Computer Review, 27(1), 3-23.
24. Song, B. (2019). The West May Be Wrong About China's Social Credit System. New Perspective Quarterly, 36(1), 33-35.
25. Trakhtenberg, A.D. (2017). «Elektronnoye pravitel'stvo» kak ideologicheskiy konstrukt: kak rabotayet ritorika razryva? [E-government as an ideological construct: how does rupture talk function?] Nauchnyy yezhegodnik Instituta filosofii iprava Ural'skogo otdeleniya RAN, 17(2), 41-58.
26. Voropaev, D.S. (2011). Kitaiskaya model' politicheskoi modernizacii v kontekste fenomena koinvolyucii civilizacii [The Chinese model of political modernization in the context of the phenomenon of co-involution of civilizations]. M.: Izdatel' A.B. Vorob'ev.
