CC BY
96УДК 342.95
DOI https://doi.org/10.17308/vsu.proc.law.2020.3/3005
ПРАВОВЫЕ ОСНОВЫ ПРИМЕНЕНИЯ И ПРАКТИКИ ВНЕДРЕНИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА ПРИ ОСУЩЕСТВЛЕНИИ СУДЕБНОГО КОНТРОЛЯ*
Е. В. Ширеева
Национальный исследовательский Нижегородский государственный университет имени Н. И. Лобачевского Поступила в редакцию 11 августа 2020 г.
Аннотация: рассматриваются вопросы правового регулирования и практики внедрения искусственного интеллекта при осуществлении судебного контроля в зарубежных странах и Российской Федерации. Выявлены на основе «лучшей зарубежной практики» основные формы использования искусственного интеллекта в указанной сфере. Сформулированы перспективы и проблемы их внедрения в российскую правовую действительность при осуществлении судебного контроля. На основе анализа зарубежного опыта разработан примерный план внедрения технологий искусственного интеллекта при осуществлении судебного контроля. Ключевые слова: правовое регулирование, судебный контроль, информационные технологии, искусственный интеллект.
Abstract: discusses the issues of legal regulation and practices of introducing artificial intelligence in the implementation of judicial control in foreign countries and the Russian Federation. The main forms of using artificial intelligence in this area have been identified based on the «best foreign practices». The prospects and problems of their implementation into the Russian legal reality in the course of judicial control are formulated. Based on the analysis of foreign experience, an approximate plan for the introduction of artificial intelligence technolo-oo gies in the implementation of judicial control has been developed.
Key words: legal regulation, judicial control, information technology, artificial intelligence.
CN
° Последние три года в Российской Федерации активно формируется, а в некоторой части и реализуется законодательное регулирование отно-
-шений, возникающих в связи с развитием цифровой экономики, в числе
30 которых особое место отводится государственному управлению, включающему контрольно-надзорную деятельность1.
* Исследование выполнено при финансовой поддержке РФФИ в рамках научного проекта № 20-011-00584 «Концепция правового регулирования использования информационных технологий в сфере государственного контроля и надзора в условиях «цифровой экономики»».
1 Программа «Цифровая экономика Российской Федерации» : утв. распоряжением Правительства РФ от 28 июля 2017 г. № 1632-р // Официальный сайт Правительства РФ. URL: http://static.government.ru/media/files/9gFM4FHj4PsB79I5v7 yLVuPgu4bvR7M0.pdf (дата обращения: 15.05.2020).
© Ширеева Е. В., 2020
Ведущими российскими учеными отмечается, что в сфере правового регулирования появились отношения, субъектами которых стали «цифровые личности»; отношения, связанные с юридически значимой идентификацией личности в виртуальном пространстве; возникающие в связи Г" с реализацией прав человека в «цифровом пространстве»; связанные с . применением робототехники; с использованием информационных баз данных; сопряженные с реализацией государственных функций в вирту- р альном пространстве и их переводом в цифровую форму и др.2 Безуслов- $ но, отношения, связанные с применением информационных технологий, о отличаются стремительным развитием, что формирует перед юриди ческим сообществом новые вызовы, которые требуют серьезной оценки а возможности и разумности применения информационных технологий в 0 современных российских реалиях. Одним из таких вызовов в настоящее ы время является применение информационных технологий при осущест- 0 влении судебного контроля. Н
=1
Правовое регулирование использования информационных г
технологий при осуществлении судебного контроля р
и
В Российской Федерации базовым документом, регулирующим вопро- е
сы внедрения информационных технологий в целом в деятельность судов $
является Концепция развития информатизации судов до 2020 г., которая я
направлена на формирование единого информационного пространства х
федеральных судов и мировых судей, а также электронного правосудия. =,
В Концепции отмечалась эффективность использования государствен- а
ной автоматизированной системы «Правосудие», а также были сформу- и
лированы основные направления развития информационных сервисов Г
электронного правосудия: подача документов в суд в электронном виде; н
е
применение юридически значимого электронного судебного документе- д
р
оборота (электронная регистрация производства по делу; дистанционное е
отслеживание этапов рассмотрения дела; автоматическое уведомление участников судопроизводства о месте, дате и времени рассмотрения судебного дела; видео-, аудиофиксация хода судебного заседания; рассмотрение судебных дел с использованием видео-конференц-связи; ознакомление с материалами дела в электронном виде; выдача судебных актов в виде электронного документа); обеспечение интернет-трансляций открытых судебных заседаний; развитие системы информационного взаимодействия Верховного Суда РФ, федеральных судов (федеральных судов общей юрисдикции и федеральных арбитражных судов), мировых судей, органов судейского сообщества и системы Судебного департамента в электронном (цифровом) виде; развитие межведомственного электронного взаимодействия, в том числе со следственными, правоохранительными и иными государственными органами; ведение электронного архива; получение актуальной и достоверной аналитической информации
31
2 См.: Хабриева Т. Я., Черногор Н. Н. Право в условиях цифровой реальности // Журнал рос. права. 2018. № 1. С. 94-96.
в режиме реального времени; автоматическая проверка подлинности (аутентификация) участников судебного процесса; возможность оплаты госпошлины через электронные платежные системы3. Следует отметить, что многое из сформулированных направлений было реализовано в деятельности судов. Кроме того, зарубежными экспертами достаточно высоко оцениваются возможности указанной системы, аналогов которой, по территориальной распределенности системы, в мире не так много.
Однако в настоящее время широко востребованными в различных отраслях цифровой экономики являются более «умные» технологии — это технологии искусственного интеллекта (далее — ИИ), которые способны решить многие практические вопросы и оказать положительное влияние на различного вида судебную деятельность. Так, по мнению В. В. Момо-това, внедрение ИИ в судебную деятельность может обеспечить: «а) повышение качества и эффективности судебной деятельности; б) повышение эффективности судебной защиты прав и законных интересов граждан, организаций, органов государственной власти; в) снижение конфликтности, повышение правосознания; г) создание систем прогнозирования изменения судебной нагрузки в зависимости от изменения законода-тельства»4. К. Ронсин, В. Лампос, А. Метрепьер считают, что применение ИИ «представляется потенциально желательным по совершенно разным причинам как для лиц, занимающихся государственной судебной политикой, так и для специалистов в области частного права»5. Основными преимуществами инструментов, основанных на ИИ, являются разрешение судебной неопределенности, избежание долгого и дорогостоящего судебного процесса6, его прозрачность и предсказуемость, а также унификация прецедентного права7. Д. А. Фурсов отмечает, что «роботизация необходима для совершенствования научного управления обществом в 00 таком его сегменте, который именуется правосудной деятельностью... Z Решение этих задач позволит ... поднять правосудие на качественно но-q вый уровень и по глубине аналитики, и по параметрам справедливости, см
о _
см
3 Концепция развития информатизации судов до 2020 года : утв. постановле-
-нием Президиума Совета судей Российской Федерации от 19 февраля 2015 г.
32 № 439. URL: http://ivo.garant.rU/#/document/71062432/paragraph/2:0 (дата обраще--ния: 15.05.2020).
4 Момотов В. Искусственный интеллект в суде не будет нейтрален к человеку // Сайт «Legal.Report». URL: legal.report/viktor-momotov-iskusstvennyj-intellekt-v-sude-ne-budet-nejtralen-k-cheloveku/ (дата обращения: 15.05.2020).
5 Приложение I — Углубленное исследование по вопросу использования ИИ в судебных системах, в частности в приложениях на основе ИИ, обрабатывающих судебные решения и данные к Европейской этической хартии об использовании искусственного интеллекта в судебных системах и окружающих их реалиях : принята на 31-м пленарном заседании ЕКЭП (Страсбург, 3—4 декабря 2018 г.). Страсбург, 2018. С. 36.
6 См.: Там же.
7 См.: Там же. С. 16.
и по степени открытости в деятельности всех органов судебной власти»8. Р. Р. Исмаилов полагает, что ИИ способствует значительному уменьшению негативного воздействия таких факторов, как усталость и эмоциональная нестабильность, а также минимизирует коррупционные риски9. ^ П. М. Морхат в качестве преимуществ применения технологий ИИ видит § возможность снижения масштабов проблемы доступа населения к правосудию и реформирования всей системы судопроизводства и юридической р практики в целом10. е Следовательно, одним из перспективных направлений развития и § использования ИИ, которое позволит эффективно реализовывать задачи — и достигать цели, установленные процессуальным законодательством, а является его применение в различных видах судебной деятельности, ко- о торая включает в себя судебный контроль. ы На законодательном уровне в Российской Федерации вопросы разви- о тия ИИ, его основные принципы и направления развития и использова- Н ния, а также цели и задачи использования изложены в Национальной §
СГ
стратегии развития искусственного интеллекта на период до 2030 г.11 ^
Но среди приоритетных направлений использования технологий ИИ в и
социальной сфере указано лишь повышение качества предоставления е
государственных и муниципальных услуг, а также снижение затрат на е
их предоставление. Возможность применения робототехники и ИИ в раз- и
личных видах судебной деятельности в Стратегии не рассматривается. х
В свою очередь в таких странах, как США, Китай, Великобритания12,
Южная Корея13, Франция14, Япония, на законодательном уровне регла- а
ментируется возможность применения роботехнологий в правовом сек- ^
8 Фурсов Д. А. Цифровые технологии и современное правосудие // Право и за- н кон в программируемом обществе (к 100-летию со дня рождения Даниела Белла) : д сб. науч. статей / Т. Я. Хабриева [и др.] ; отв. ред. В. В. Лазарев. М., 2020. С. 215. е
9 См.: Исмаилов Р. Р. Судебное толкование и искусственный интеллект // Пра- и во и закон в программируемом обществе / отв. ред. В. В. Лазарев. С. 217. ;
10 См.: Морхат П. М. Правосубъектность искусственного интеллекта в сфере права интеллектуальной собственности : гражданско-правовые проблемы : дис. ... д-ра юрид. наук. М., 2018. С. 217-221. -
11 О развитии искусственного интеллекта в Российской Федерации (вместе с 33 «Национальной стратегией развития искусственного интеллекта на период до _ 2030 года») : указ Президента РФ от 10 октября 2019 г. № 490. URL: http://www. consultant.ru/document/cons_doc_LAW_335184/ (дата обращения: 30.05.2020).
12 Industrial Strategy: Artificial Intelligence Sector Deal. URL: https://assets. publishing.service.gov.uk/government/uploads/system/uploads/attachment_data/ file/702810/180425_BEIS_AI_Sector_Deal_4_.pdf (дата обращения: 30.05.2020).
13 Закон Южной Кореи о содействии развитию и распространению умных роботов от 28 марта 2008 г. № 9014 // Сайт «Робоправо». URL: https://robopravo.ru/ zakon_iuzhnoi_koriei_2008 (дата обращения: 30.05.2020).
14 Инициативы Франции в сфере робототехники 2013 года // Сайт «Робоправо». URL: https://robopravo.ru/initsiativy_frantsii_v_sfierie_robototiekhniki_2013 (дата обращения: 30.05.2020).
торе в широком смысле, включая судебную систему. Более конкретные предложения по содействию применения ИИ в судебном управлении, обеспечению интеллектуальности судебной системы и судебных возможностей (сбор доказательств, анализ дел, изучение и анализ юридических документов) сформулированы в Плане развития искусственного интеллекта нового поколения 2017 г. в Китае15, а также в Плане Национальной стратегии искусственного интеллекта 2016 г. США16 — машинный анализ судебной практики, идентификация и обобщение доказательств, формирование позиции по делу. В связи с этим в данных государствах имеется некоторый накопленный опыт использования технологий ИИ в отличие от России, анализ применения которых позволит сделать выводы о возможности их заимствования для российской действительности.
Первоочередным моментом в данном вопросе являются принципы использования ИИ в рассматриваемой сфере. На международном уровне с 2018 г. действует Европейская этическая хартия об использовании искусственного интеллекта в судебных системах и окружающих реалиях. Данная Хартия закрепляет пять важных принципов использования ИИ:
«1) принцип уважения основополагающих прав: обеспечить разработку и внедрение инструментов и услуг, основанных на искусственном интеллекте, соответствующих основным правам;
2) принцип недискриминации: определенным образом препятствовать развитию или усилению любой дискриминации между отдельными лицами или группами лиц;
3) принцип качества и безопасности: при обработке судебных решений и данных необходимо использовать сертифицированные источники и нематериальные данные с применением моделей, разработанных на междисциплинарной основе, в безопасной технологической среде;
^ 4) принцип прозрачности, беспристрастности и достоверности: сделать методы обработки данных доступными и понятными, разрешить проведение внешнего аудита;
° 5) принцип контроля пользователем: избежать предписывающего
сч подхода и позволить пользователю выступать в роли информированного лица, ответственного за свой выбор»17.
34 _
15 План развития нового поколения искусственного интеллекта от 8 июля 2017 г. № 35 // Официальный сайт Государственного совета Китая по печати и распространению. URL: http://www.gov.cn/zhengce/content/2017-07/20/con-tent_5211996.htm (дата обращения: 30.05.2020).
16 The national artificial intelligence research and development strategic plan, October 2016. URL: https://www.nitrd.gov/PUBS/national_ai_rd_strategic_plan.pdf (дата обращения: 30.05.2020).
17 Европейская этическая хартия об использовании искусственного интеллекта в судебных системах и окружающих их реалиях : принята на 31-м пленарном заседании ЕКЭП (Страсбург, 3—4 декабря 2018 г.). URL: https://rm.coe.int/ ethical-charter-en-for-publication-4-december-2018/16808f699c (дата обращения: 30.05.2020).
Указанные принципы фактически исключают основные правовые риски нарушения прав и законных интересов человека и гражданина при его применении и могут быть взяты за основу до момента разработки в российском законодательстве.
Зарубежная практика внедрения ИИ в судебную деятельность
Следует отметить, что в юридической терминологии государств, прак- е
тика внедрения ИИ которых будет рассмотрена, понятие судебного кон- в
троля в понимании российского права не встречается. В связи с этим в ста- °
тье будет приведена данная практика в целом к судебной деятельности. р
В настоящее время во всем мире в судебной деятельности применя- в
ется «слабый» («прикладной») ИИ, который представляет собой робота, В
выполняющего работу путем считывания данных из окружающей среды, е
взаимодействия с внешними источниками и адаптации своего поведе- о
ния18. Данный подход является правильным, так как «сильный» ИИ, спо- g
собный к самообучению и развитию в такой важной сфере может пред- Ы
ставлять какую-либо опасность причинения вреда человеку. п
Наиболее распространенной формой применения ИИ в большинстве M
стран (США, Китай, Великобритания, Нидерланды, Германия, Фран- н
ция, Австралия, Польша и др.), в том числе России, является система н
электронного документооборота в судах. В Великобритании посредством я
ИИ осуществляется также поиск информации в юридических архивах, ^
необходимость которого связана, в первую очередь, с особенностями пре- р
цедентного права. В Латвии ИИ используется для автоматизированного к
сбора, обработки и формирования судебной статистики. По данным экс- к
пертной оценки и отчетам19 указанные формы применения ИИ в работе х
проявили себя исключительно с положительной стороны и позволили по- е
высить качество и эффективность судебной деятельности. р
В США действуют «роботы-адвокаты», которые готовят первичную н
документацию для предоставления в государственные органы. Это по- . зволяет оптимизировать финансовые и временные затраты лиц, обращающихся в судебные органы. Распространенным в США является также
использование систем машинного обучения (статистическая обработка_
прежней информации для вычисления на ее основе базовых характе- 35
ристик нового). В частности, судьями при вынесении решения по делу-
и определении срока заключения обвиняемого используется система Compas, которая посредством различных компьютерных алгоритмов дает оценку возможности совершения обвиняемым повторного аналогичного правонарушения. На основании данной оценки судьи могут увеличить
18 ГОСТ Р ИСО 8373-2014. Роботы и робототехнические устройства. Термины и определения. URL: https://docinfo.ru/gost-r-iso/gost-r-iso-8373-2014/ (дата обращения: 09.06.2020).
19 См., например: Online dispute resolution for low value civil claims. URL: https://www.judiciary.uk/wp-content/uploads/2015/02/0nline-Dispute-Resolution-Final-Web-Version1.pdf (дата обращения: 09.06.2020).
либо уменьшить срок заключения обвиняемому. Однако об эффективности данной системы в полной мере говорить не приходится. Согласно результатам эксперимента Дартмутского колледжа лишь в 65 % данная система дает обоснованное и справедливое решение20.
И, наконец, последними, самыми дискуссионными и неоднозначными по экспертной оценке формами применения ИИ в судебной деятельности являются «прогнозирование судебных процессов» (либо «предсказательное производство») и «электронные суды». «Прогнозирование судебных процессов» более активно реализуется в США, Великобритании, Китае, Франции, Южной Корее. Оно представляет собой систему, которая фактически на основании существующей базы судебных прецедентов выдает судье наиболее вероятное решение по делу, рассматриваемому в первой инстанции, а во Франции настоящая система применяется и в апелляционных судах. «Электронные суды» действуют в Великобритании, Нидерландах и Латвии, посредством которых рассматриваются однородные малозначительные судебные дела — мелкие споры, налоговые споры, связанные с социальным обеспечением или бракоразводным процессом, фактически без участия судьи, лишь посредством робота. При оценке «прогнозирования судебных процессов», в частности, французскими экспертами выявлены искажения и неуместные результаты, выдаваемые роботизированной программой21. По итогам функционирования «электронных судов» лабораторией Киберюстиции Монреаля установлено, что их применение возможно в досудебных и судебных разбирательствах в рамках компьютеризированного процесса урегулирования незначительных споров22.
Таким образом, исходя из мировой практики, применение ИИ в целом в судебной деятельности возможно в формах: 1) информационно-оо аналитических систем; 2) роботов — помощников судей для облегчения о: вынесения решений; 3) роботов-адвокатов для составления простой доку-о ментации для граждан; 4) автономных систем, самостоятельно выносящих решение по делу.
о
Перспективы и проблемы применения искусственного интел- лекта при осуществлении судебного контроля в России
36 Решение данного вопроса в полной мере осложняется отсутствием единого научного подхода к понятию судебного контроля. Так как в настоящей статье не ставится целью разрешение научной дискуссии отно-
20 Приложение I — Углубленное исследование по вопросу использования ИИ в судебных системах, в частности в приложениях на основе ИИ, обрабатывающих судебные решения и данные к Европейской этической хартии об использовании искусственного интеллекта в судебных системах и окружающих их реалиях : принята на 31-м пленарном заседании ЕКЭП (Страсбург, 3—4 декабря 2018 г.). Страсбург, 2018. С. 46.
21 Там же. С. 39.
22 Там же. С. 39—40.
сительно понимания судебного контроля, то для выявления возможных форм применения ИИ при осуществлении судебного контроля будет использоваться более общее его определение как деятельности по проверке законности действий органов власти. 1
Международный опыт в условиях российской правовой действитель- . ности при осуществлении судебного контроля представляется возможным применять лишь в части использования ИИ в первых трех формах. Использование полностью автономных систем для вынесения решений
в рамках контрольной деятельности судов на настоящем этапе развития о
ИИ является не совсем разумным по следующим причинам: 1) неодно значные результаты функционирования таких систем в зарубежных а государствах; 2) сложность дел, рассматриваемых судами в рамках кон- о трольной деятельности. Однако первичным шагом внедрения системы «электронных судов» может стать их апробация в деятельности мировых судей в порядке приказного судопроизводства, так как категории дел,
=1
го
рассматриваемые в порядке приказного судопроизводства, являются од- §
нородными, простыми с точки зрения процессуального порядка и существа дела.
Применение ИИ в форме информационно-аналитических систем при осуществлении судебного контроля возможно: 1) для совершен- е ствования существующей системы электронного документооборота судов; Я 2) анализа и подборки судебных решений; 3) поиска информации в юри- х дических архивах; 4) сбора и обработки судебной статистики; 5) формирования отчетов о деятельности судов; 6) формирования состава суда с К учетом нагрузки и специализации судьи. Ключевой проблемой в данном и направлении может стать проблема координации сбора судебных ре- 1 шений между различными уровнями судов.
Международный опыт применения ИИ в форме робота — помощника д судьи для облегчения вынесения решений требует своего переосмысле- е ния по следующим причинам. Согласно главе 7 Конституции РФ23 правосудие в Российской Федерации осуществляется только судом в лице судьи, которым является гражданин Российской Федерации, т. е. человек. Кроме того, в своей деятельности судья является независимым и подчиняется только Конституции РФ и федеральному закону. Соответственно, влияние на решение судьи робота-помощника относительно сроков заключения обвиняемого либо формирование им решения по делу не кор-релируется с принципом независимости судей. Следует также отметить, что право динамично, как и общественные отношения, которые оно регулирует, высшими судами систематично пересматриваются толкования норм. В связи с этим могут возникнуть проблемы увеличения ложных корреляций систем ИИ. Таким образом, применение ИИ в форме робота -
=i
TD
CD
X
X
37
23 Конституция Российской Федерации : принята всенародным голосованием 12 декабря 1993 г. с изменениями, одобренными в ходе общероссийского голосования 01.07.2020 // Официальный интернет-портал правовой информации. URL: http://www.pravo.gov.ru (дата обращения: 07.07.2020).
помощника судьи для облегчения вынесения решения возможно: 1) для составления протокола судебного заседания посредством обработки естественного языка и машинного обучения; 2) автоматизированного формирования судебных решений и иных процессуальных документов; 3) расчета суммы компенсаций морального вреда и материального ущерба по делу, что поспособствует правовой определенности и формированию единой судебной практики по данному вопросу. Одной из проблем в данном направлении может стать проблема соблюдения иерархии решений судов при создании рекомендации для судьи ИИ.
Применение ИИ в форме робота - помощника участников судебного процесса при осуществлении судебного контроля возможно: 1) для составления процессуальных документов и исковых заявлений по однородным малозначительным простым делам; 2) в качестве роботов-адвокатов, которые могут дать предварительную оценку разрешения существа спора; 3) в качестве чатботов, которые могут использоваться на сайтах судов: а) для информирования сторон о ходе судебного разбирательства; б) для оказания им правовой помощи и поддержки при обращении в суд или в ходе судебного разбирательства — консультация по поводу документов, которые необходимо предоставить в суд; помощь в определении подсудности и подведомственности дел; урегулирование споров в режиме онлайн. Это позволит повысить осведомленность граждан о судебной системе, деятельности судов, сформировать единые подходы в правоприменительной деятельности, а также повысить качество деятельности судов. Однако ключевой неминуемой проблемой в данном направлении станет проблема информационной безопасности и защиты персональных данных.
Рассмотрев проблемы правового регулирования и выявив возможные формы применения ИИ при осуществлении судебного контроля, в качестве итога необходимо сформулировать этапы его внедрения. Российски-о ми учеными частично был разработан примерный план внедрения ИИ ° в судебную деятельность, состоящий из двух основных этапов: 1) авто-сч матизации рутинных действий судьи и участников процесса (например, внедрение программ по формированию различных процессуальных документов); 2) передачи некоторых видов дел на рассмотрение ИИ24. Однако с учетом проведенного анализа международного опыта внедрения технологий ИИ в данную сферу этапы требуют уточнения и представляются следующими:
1. Закрепление в законодательстве Российской Федерации необходимости содействия развитию ИИ в судебной деятельности, а также интеграция и адаптация принципов использования ИИ в судебных системах, изложенных в Европейской этической хартии. Внедрение ИИ в форме
со
О!
38
24 См. подробнее: Нанба С. Б. § 3. Роботизация и судебная система // Юридическая концепция роботизации / отв. ред. Ю. А. Тихомиров, С. Б. Нанба. М., 2019. С. 137.
информационно-аналитических систем при осуществлении судебного контроля.
2. Внедрение роботов — помощников судей для облегчения вынесения решения при осуществлении судебного контроля и роботов — помощников участников судебного процесса.
3. Внедрение «электронных судов» и технологий «прогнозирования судебных процессов» по однородным и простым в разрешении с точки зрения процессуального порядка и существа спора делам.
Национальный исследовательский Нижегородский государственный университет имени Н. И. Лобачевского
ШирееваЕ. В., кандидат юридических наук, старший преподаватель кафедры административного и финансового права юридического факультета
E-mail: [email protected]
Lobachevsky State University of Nizhny Novgorod
Shireeva E. V., Candidate of Legal Sciences, Senior Lecturer of the Administrative and Financial Law of the Law Faculty Department
E-mail: [email protected]
39
