CC BY
19С©4 ТЕОРИЯ УПРАВЛЕНИЯ -^D
СКУРКО Елена Вячеславовна,
кандидат юридических наук, старший научный сотрудник Института научной информации о общественным наукам (ИНИОН) РАН, e-mail: [email protected]
ФОРМИРОВАНИЕ И РИСКИ ФУНКЦИОНИРОВАНИЯ «ЗОН ЗНАНИЙ» В РОССИИ В УСЛОВИЯХ ГЛОБАЛИЗАЦИИ И МЕЖДУНАРОДНОЙ ИНТЕГРАЦИИ В СВЕТЕ НАЦИОНАЛЬНОЙ СТРАТЕГИИ РАЗВИТИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА НА ПЕРИОД ДО 2030 ГОДА
Исследование выполнено при финансовой поддержке РФФИ в рамках научного проекта № 18-29-15014 «Эффективность правового регулирования процессов формирования «зоны знаний» интеграционных объединений государств (на примере сравнительно-правового исследования ЕС и ЕАЭС)».
Аннотация. В целях обеспечения национальных интересов и реализации стратегических национальных приоритетов, в т.ч. в области научно-технологического развития, Указом Президента РФ была утверждена Национальная стратегия развития искусственного интеллекта на период до 2030 года. В силу того, что в настоящее время как на национальном уровне, так и в рамках межгосударственных интеграционных объединений, в международном праве как спонтанно, так и целенаправленно формируются различного рода, в т.ч. «цифровые», «зоны знаний», которые могут быть в целом охарактеризованы как относительно изолированные системы «банков данных» и/или социальных сетевых структур, в которых частично или полностью реализуется правовой принцип «свободы движения знаний» и которые в современных условиях в существенной части не могут быть достаточно основательно «верифицированы», будь то в части объективности содержания информации, будь то в части установления круга лиц, действующих в них субъектов, в т.ч. для правовой сферы и целей правового регулирования, статья обращена к анализу актуальных проблем, в т.ч. управления рисками в связи с развитием систем и технологий искусственного интеллекта, а также их роли в формировании и функционировании цифровых зон знаний в Российской Федерации, а также в рамках процессов международной интеграции с ее участием.
Ключевые слова: национальная стратегия, искусственный интеллект, управление рисками, «зона знаний», правовая политика, правовое регулирование, международная экономическая интеграция, научно-техническое сотрудничество, международное сотрудничество в сфере культуры и образования.
SKURKO Elena Vyacheslavovna,
PhD in Law, senior researcher, Institute of scientific information in the social Sciences
(INION) of the RAS
FORMATION AND RISKS OF FUNCTIONING «KNOWLEDGE ZONES» IN RUSSIA IN THE CONTEXT OF GLOBALIZATION AND INTERNATIONAL INTEGRATION
IN THE LIGHT OF THE NATIONAL STRATEGY FOR THE DEVELOPMENT OF ARTIFICIAL INTELLIGENCE FOR THE PERIOD UNTIL 2030
ОБРАЗОВАНИЕ И ПРАВО № 11 • 2019
The study was performed with financial support RFBR, research project No. 18-29-15014 «Efficiency of legal regulation of processes of formation of «zones of knowledge» integration associations of the States (for example, comparative legal studies, the EU and the EAEC)».
Annotation. In order to ensure national interests and implementation of strategic national priorities, including the issues in the field of scientific and technological development, the Decree of the President of the Russian Federation approves the national strategy for the development of artificial intelligence during the period up to 2030. Due to the fact that in contemporary circumstances both at the national level and within the framework of international integration processes, at the level of international law, either spontaneously or deliberately there are forming various kinds of «knowledge zones» (including «digital»), which can generally be characterized as a relatively isolated systems of «data banks» and/or social networks, which are partly or fully based on the legal principle of «free movement of knowledge», and that nowadays those systems could not been quite thoroughly «verified» as to whether the information content is correct, or as to the persons acting within the systems, including legal sphere and the goals for legal regulation development, the article is addressed to analyses the issues concerned risk management in connection with the development of artificial intelligence systems and technologies, including their role in the formation and functioning of the digital «knowledge zones» in the Russian Federation and in terms of international integration processes with its participation. The research is funded by RFBR according to the research project № 18-2915014.
Key words: national strategy, artificial intelligence, risk management, "knowledge zone», legal policy, legal regulation, international economic integration, scientific and technical co-operation, international cooperation in the field of culture and education.
В целях обеспечения ускоренного развития искусственного интеллекта в Российской Федерации и проведения научных исследований в области искусственного интеллекта, Указом Президента РФ от 10 октября 2019 г. № 490 была утверждена Национальная стратегия развития искусственного интеллекта на период до 2030 г. [1]. Проблематика развития искусственного интеллекта в России, как это подразумевается, входит в комплекс вопросов развития в стране цифровой экономики, прежде всего, а также коррелирует стратегии развития информационного общества в России [2], иным президентским и правительственным стратегиям, проектам и планам, в т.ч. в плане научно-технологического развития России, и ряду др.
В Стратегии вводится понятие «искусственный интеллект - комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека. Комплекс технологических решений включает в себя информационно-коммуникационную инфраструктуру, программное обеспечение (в т.ч., в котором используются методы машинного обучения), процессы и сервисы по обработке данных и поиску решений».
К технологиям искусственного интеллекта, согласно Стратегии, относятся, в т.ч., такие как
компьютерное зрение, обработка естественного языка, распознавание и синтез речи, интеллектуальная поддержка принятия решений; перспективы развития технологий искусственного интеллекта подразумевают, в частности: автоматический дизайн физических объектов, решение задач на основе незначительных объемов данных, обработка информации на основе новых типов вычислительных систем, интерпретируемая обработка данных и др., причем к т.н. «смежным областям» использования искусственного интеллекта Стратегия относит технологические решения, в которых искусственный интеллект будет использоваться в качестве обязательного элемента, включая, например, робототехнику и проч.
По мнению разработчиков Стратегии, ее реализация с учетом сложившейся ситуации на глобальных рынках, в т.ч. на рынке искусственного интеллекта, становится необходимым условием для вхождения России в число мировых лидеров в области искусственного интеллекта и, как следствие, технологической независимости и конкурентоспособности страны.
Целями развития искусственного интеллекта Стратегия определяет обеспечение роста благосостояния и качества жизни населения Российской Федерации, обеспечение национальной безопасности и правопорядка, достижение устойчивой конкурентоспособности отечественной экономики.
Вместе с тем, изучение Стратегии в целом неизбежно приводит к общему выводу о том, что
ОБРАЗОВАНИЕ И ПРАВО № 11 • 2019
искусственный интеллект представляется, с одной стороны, как система обслуживающая, в т.ч. бытовые потребности населения, т.е. «повседневность», - и, соответствующим образом, с другой стороны, требует для своего собственного развития вложений, причем не только и не столько материально-финансовых, в т.ч. со стороны государства, но и человеческих ресурсов, т.е. т.н. «человеческого капитала». Вместе с тем, вне поля Стратегии остается ряд важных вопросов философского и мировоззренческого характера, а именно: каким образом, например, развитие систем искусственного интеллекта может или должно способствовать интеллектуальному развитию человека, с одной стороны; с другой стороны - каковы могут быть последствия применения результатов деятельности искусственного интеллекта не по прямому назначению, - и, т.е. по назначению, не предусмотренному для такого рода деятельности, с учетом того, что субъектом в данном случае может выступать как субъект права, так и, в силу технических характеристик, собственно система искусственного интеллекта либо ее часть и т.п.
Иными словами, в логике современного технологического развития, с учетом динамики развития систем и технологий искусственного интеллекта, необходимо признать, что в самом ближайшем будущем, в т.ч. в правовой сфере, государственной политике, международных отношениях, придется учитывать, что вокруг отдельных систем искусственного интеллекта (или их частей), в особенности, если таковые будут подключены, либо иным способом иметь выход в цифровые информационно-коммуникационные сети и системы, в т.ч. (и главным образом) Интернет, вокруг них, если и не целенаправленно, то во всяком случае спонтанно, будут формироваться некие самобытные «зоны знаний», с собственным «контентом» и «правилами сообщества», с собственной прикладной ценностью, внутренней логикой и «смыслами», возможно полностью недоступными человеческому восприятию.
Эти и иные вопросы - отнюдь не праздные, как это может показаться на первый взгляд. Действительно, не случайно в отечественном правоведении в последние годы все более отчетливо обозначаются проблемы развития подходов в правовом регулировании в связи с развитием технологий, в том числе в сфере искусственного интеллекта. Так, констатируется, что внедрение технологий искусственного интеллекта в реальном секторе экономики становится все более широким, приобретает массовый характер, в связи с чем закономерно встает вопрос анализа проблематики юридической ответственности за работу искусственного интеллекта [3]; специали-
ОБРАЗОВАНИЕ И ПРАВО № 11 • 2019
сты обращают внимание, кроме того, на актуальные потребности правового обеспечения искусственного интеллекта [4], и уже сегодня, как отмечается, развитие искусственного интеллекта, соответствующие научно-технические разработки требуют определенной реакции со стороны уголовно-правовой доктрины [5] и т.д.
С точки зрения правовой политики это означает, что особенное внимание должно сегодня уделяться рискам в фокусе правового регулирования [6], в особенности в сфере искусственного интеллекта, проблематике управления рисками в праве в связи с развитием и распространением соответствующих технологий. Ю.А. Тихомиров определяет риски в праве как «вероятное наступление события и совершения действий, влекущих негативные последствия для реализации правового решения и могущее причинить ущерб регулируемой им сфере» [7], причем для правового риска в концепции Ю.А. Тихомирова прослеживается «причинная зависимость между нормативной моделью и реальностью, в виде каналов прямых и обратных связей, иными словами, опасное отклонение от норм права» [7].
Риски в связи с развитием систем и технологий искусственного интеллекта в нашем представлении могут быть как минимум связаны с проблематикой фальсификаций и злоупотреблений правом в сферах цифровых «зон знаний», развивающихся с опорой на искусственный интеллект, а также вытекающими из этого угрозами для прав человека, общественных интересов и государственной безопасности.
Действительно, в форматах различного рода «зон знаний», уже сегодня функционирующих и активно развивающихся в цифровой среде, в т.ч. Интернет, вне зависимости от того, формируются ли такие системы спонтанно или целенаправленно, кто прямо или косвенно выступает лицом-администратором той или иной системы и т.п., приходится обратить особое внимание на то, что всякий анализ или подход к управлению рисками в данной, той или иной системе, должен принимать в расчет, что, не говоря о самом ближайшем будущем, современные системы, опирающиеся на простейшие формы и технологии в сфере искусственного интеллекта оказываются способны не просто анализировать предпочтения пользователей, но и предлагать собственные рекомендации, с учетом личности пользователя, а кроме того, не исключено, в обозримой перспективе окажутся в состоянии по итогам «самообучения» вносить коррективы в данные, предлагающиеся пользователям, по собственному «усмотрению». Так, актуализируется проблематика разработки не только и не столько технических, сколько юридических средств и методов, позво-
ливших бы, в потенциале, противодействовать соответствующей возникающей группе рисков в связи с ростом «зон знаний» вокруг «точек роста», образуемых информационными системами или их частями, основывающимися на технологиях искусственного интеллекта.
Эффективным в указанной связи оказывается развитие международного сотрудничества, в т.ч. при формировании «зон знаний» в рамках интеграционных объединений государств разного уровня. Международное сотрудничество при формировании «зон знаний», развитие непосредственных связей в научно-технической кооперации, вопросах образования и культуры на уровне как публичных органов и институтов, так и гражданского общества, отдельных физических и юридических лиц, с одной стороны, снижает роль и функции, перенимаемые искусственными интеллектуальными системами вследствие недостаточной активности лиц, действующих в физическом пространстве; с другой - межгосударственное сотрудничество позволяет оптимизировать управление рисками в сфере работы искусственного интеллекта, распределить их между различными государствами, а также комплексно определить ответственность за работу искусственного интеллекта, в т.ч. для частных лиц.
Определенный интерес с обозначенных позиций представляют подходы, выработанные в форме рекомендаций ОЭСР, а именно: Рекомендациями по управлению критическими рисками [8] и Рекомендациями по искусственному интеллекту [9].
Так, Рекомендации по управлению критическими рисками ОЭСР требуют принимать во внимание, что, во-первых, граждане и организации государства рассчитывают на его готовность оперативно реагировать на широкий спектр возможных кризисных ситуаций; во-вторых, решение проблем, вызванных критическими рисками, подразумевает развитие широкого партнерства с применением знаний, навыков и разнообразных ресурсов, имеющихся как у публичных, так и у частных лиц, а кроме того, в системах международного (межгосударственного) сотрудничества и взаимодействия на различных уровнях, что, в совокупности, способствует поддержанию (все) общей готовности, а также упреждению ситуаций рисков. Соответствующим образом государствам рекомендуется сформировать и поддерживать функционирование комплексного, в т.ч. включающего трансграничный компонент, механизма для управления рисками, который выступал бы в качестве основы для обеспечения национального устойчивого развития [8].
Рекомендации по искусственному интеллекту ОЭСР обращают внимание на то, что, при-
знавая, что искусственный интеллект обладает потенциалом для повышения благосостояния людей, содействия стабильному росту глобальной экономики, развития инноваций и повышения производительности, а кроме того, в плане содействия реагированию на ключевые глобальные вызовы, с одной стороны, общественные преобразования, которые может повлечь развитие систем и технологий искусственного интеллекта, с другой стороны, могут иметь неоднозначные последствия как внутри отдельного общества, так и между различными (со) обществами, особенно в отношении экономических показателей, конкуренции, изменений на рынке труда, роста неравенства, а также последствий для демократии и прав человека, в т.ч. в вопросах конфиденциальности и защиты персональных данных, цифровой безопасности и ряде др. В этой связи государствам, а также иным, в т.ч. частным лицам, работающим в сфере искусственного интеллекта, рекомендуется ориентироваться в своей деятельности на следующие принципы: устойчивость развития и благосостояние; антропоцентричность ценностей и социальная справедливость; прозрачность и объ-яснимость; надежность и безопасность; ответственность [9].
Для Российской Федерации, как представляется, сегодня сохраняется необходимость отчасти (до) определить, а также дополнительно уточнить ряд позиций и положений, в т.ч. при проведении правовой политики в части отношения к проблематике развития систем и технологий искусственного интеллекта. В особенности конструктивным стало бы привлечение ресурсов, которые открывают международное сотрудничество, в т.ч. в научно-технической сфере, образовании и культуре, при развитии и функционировании «зон знаний», формируемых целенаправленно, с учетом прав человека и законных интересов граждан, в т.ч. на межгосударственном уровне, а также в рамках интеграционных объединений с участием России, в особенности в ЕАЭС, которые были бы ориентированы в числе прочего и в особенности на управление рисками в связи с ростом технологий и систем искусственного интеллекта.
Список литературы:
[1] Указ Президента РФ от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации» [Электронный ресурс]. -2019. - URL: http://publication.pravo.gov.ru/ Document/View/0001201910110003 (дата обращения: 01.12.2019).
[2] Указ Президента РФ от 9 мая 2017 г. № 203 «О Стратегии развития информационного общества в Российской Федерации на 2017 - 2030 годы» // СЗ РФ. - 2017. - № 20. - Ст. 2901.
ОБРАЗОВАНИЕ И ПРАВО № 11 • 2019
[3] Лаптев В.А. Понятие искусственного интеллекта и юридическая ответственность за его работу // Право. Журнал ВШЭ. - 2019. - № 2. - С. 79-102.
[4] Шестак В.А., Волеводз А.Г. Современные потребности правового обеспечения искусственного интеллекта: взгляд из России // Всеросс. криминологический журнал. - 2019. - Т. 13. - № 2. - С. 197-206.
[5] Кибальник А.Г., Волосюк П.В. Искусственный интеллект: вопросы уголовно-правовой доктрины, ожидающие ответов // Вестник Нижегородской академии МВД России. - 2018. - № 4 (44). - С. 173-178.
[6] Тихомиров Ю.А. Риск в фокусе правового регулирования // Право и современные государства. - 2017. - № 6. - С. 9-23.
[7] Тихомиров Ю.А. Риск в праве: природа и причины // Право и современные государства. -2016. - № 6. - С. 9-19.
[8] Recommendation of the Council on the Governance of Critical Risks 0ECD/LEGAL/0405 [Электронный ресурс]. - 2014. - URL: https:// legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0405 (дата обращения: 01.12.2019).
[9] Recommendation of the Council on Artificial Intelligence 0ECD/LEGAL/0449 [Электронный ресурс]. - 2019. - URL: https://legalinstruments. oecd.org/en/instruments/OECD-LEGAL-0449 (дата обращения: 01.12.2019).
Spisok literatury:
[1] Ukaz Prezidenta RF ot 10 oktyabrya 2019 g. № 490 «O razvitii iskusstvennogo intellekta v Rossijskoj Federacii» [Elektronnyj resurs]. - 2019. -URL: http://publication.pravo.gov.ru/Document/
View/0001201910110003 (data obrashcheniya: 01.12.2019).
[2] Ukaz Prezidenta RF ot 9 maya 2017 g. № 203 «O Strategii razvitiya informacionnogo obshchestva v Rossijskoj Federacii na 2017 - 2030 gody» // SZ RF. - 2017. - № 20. - St. 2901.
[3] Laptev V.A. Ponyatie iskusstvennogo intellekta i yuridicheskaya otvetstvennost' za ego rabotu // Pravo. Zhurnal VShE. - 2019. - № 2. - S. 79-102.
[4] Shestak V.A., Volevodz A.G. Sovremennye potrebnosti pravovogo obespecheniya iskusstvennogo intellekta: vzglyad iz Rossii // Vseross. kriminologicheskij zhurnal. - 2019. - T. 13. -№ 2. - S.197-206.
[5] Kibal'nik A.G., Volosyuk P.V. Iskusstvennyj intellekt: voprosy ugolovno-pravovoj doktriny, ozhidayushchie otvetov // Vestnik Nizhegorodskoj akademii MVD Rossii. - 2018. - № 4 (44). - S. 173178.
[6] Tihomirov Yu.A. Risk v fokuse pravovogo regulirovaniya // Pravo i sovremennye gosudarstva. -2017. - № 6. - S. 9-23.
[7] Tihomirov Yu.A. Risk v prave: priroda i prichiny // Pravo i sovremennye gosudarstva. - 2016.
- № 6. - S. 9-19.
[8] Recommendation of the Council on the Governance of Critical Risks OECD/LEGAL/0405 [Elektronnyj resurs]. - 2014. - URL: https:// legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0405 (data obrashcheniya: 01.12.2019).
[9] Recommendation of the Council on Artificial Intelligence 0ECD/LEGAL/0449 [Elektronnyj resurs].
- 2019. - URL: https://legalinstruments.oecd.org/en/ instruments/OECD-LEGAL-0449 (data obrashcheniya: 01.12.2019).
ЮРКОМ ПАНИ
^^ www.law-books.ru
Юридическое издательство «ЮРКОМПАНИ» издает научные журналы:
• Научно-правовой журнал «Образование и право», рекомендованный ВАК Министерства науки и высшего образования России (специальности 12.00.01,12.00.02), выходит 1 раз в месяц.
• Научно-правовой журнал «Право и жизнь», рецензируемый (РИНЦ, Е-1лЬгагу), выходит 1 раз в 3 месяца.
V
f
ОБРАЗОВАНИЕ И ПРАВО № 11 • 2019
