CC BY
3
ПРАВОВЫЕ АСПЕКТЫ ЦИФРОВИЗАЦИИ ПРАВОТВОРЧЕСКОЙ ДЕЯТЕЛЬНОСТИ ОРГАНОВ ПУБЛИЧНОЙ ВЛАСТИ
Сарапкина Е.Н.1
Ключевые слова: правотворчество, цифровые технологии, правовая экспертиза, антикоррупционная экспертиза, коррупциогенный фактор, машиночитаемый формат, большие данные, машинное обучение, верификация.
Аннотация
Цель работы: совершенствование научно-методической базы юридической техники законодательства.
Методы исследования: системный и экспертный анализ, сравнительно-правовой и формально-юридический методы.
Результаты: исследованы вопросы обеспечения качества и эффективности правотворческой деятельности, проанализированы возможности и правовые проблемы использования современных цифровых технологий в процессе разработки и принятия правовых актов, проведения правовых и антикоррупционных экспертиз, оценки регулирующего и фактического воздействия правовых актов; определены основные направления устранения правовых и технических ограничений применения цифровых технологий в правотворческой деятельности; сформулирована концептуальная модель трансформации правотворческого процесса с учетом внедрения цифровых технологий.
В целях повышения качества разрабатываемых региональных и муниципальных нормативных правовых актов, обеспечения мониторинга и контроля процесса подготовки проектов актов, сокращения временных и организационных издержек предложено на базе системы федеральных регистров и государственных реестров Минюста России организовать разработку новой федеральной государственной информационной системы, позволяющей унифицировать правотворческую практику субъектов Российской Федерации и муниципальных образований.
DOI: 10.24412/1994-1404-2024-3-188-199
Введение
Развитие цифровых технологий существенным образом изменяет общественные отношения, влияет на развитие законодательства, определяет необходимость внедрения электронных сервисов и платформенных решений в сферу государственного и муниципального управления.
В соответствии с частью 2 статьи 12 Федерального закона от 27.07.2006 № 149-ФЗ «Об информации, информационных технологиях и о защите информации»2 государственные органы, органы местного само-
управления в соответствии со своими полномочиями участвуют в разработке и реализации целевых программ применения информационных технологий; создают информационные системы и обеспечивают доступ к содержащейся в них информации на русском языке и государственном языке соответствующей республики в составе Российской Федерации.
В соответствии с Указом Президента Российской Федерации от 07.05.2024 № 309 «О национальных целях развития Российской Федерации на период до 2030 года и на перспективу до 2036 года»3 одним из направлений национальных целей развития Россий-
2 Собрание законодательства РФ. 31.07.2006. № 31 (Часть I). Ст. 3448.
3 Официальный интернет-портал URL: http://pravo.gov.ru, 07.05.2024.
правовой информации.
1 Сарапкина Елена Николаевна, заместитель начальника отдела нормативных правовых актов ФБУ «Научный центр
правовой информации при Министерстве юстиции Российской Федерации», соискатель ученой степени Российского государственного университета правосудия, г. Москва, Российская Федерация.
Е-mail: [email protected]
ской Федерации на период до 2030 года и на перспективу до 2036 года определена цифровая трансформация государственного и муниципального управления, экономики и социальной сферы.
Характерной чертой цифровой трансформации является ее регламентирование актами государственного стратегического планирования и правовыми актами федеральных органов исполнительной власти.
Мероприятия по цифровой трансформации системы государственного управления включены в федеральный проект «Цифровое государственное управление»4 национальной программы «Цифровая экономика Российской Федерации»5 и реализуются в рамках государственной программы «Информационное общество»6 в целях:
1) обеспечения нового уровня предоставления услуг в цифровом виде, необходимых для повышения качества жизни граждан и развития бизнеса;
2) обеспечения органов государственной власти и органов местного самоуправления эффективными механизмами автоматизации своей деятельности, а также межведомственного информационного оборота;
3) повышения качества осуществления государственными органами и органами местного самоуправления возложенных на них функций, уменьшения издержек при их осуществлении;
4) создания системы управления данными, в том числе сбора, хранения, обработки и распространения данных.
Одним из ключевых условий реализации мероприятий цифровой трансформации является необходимость оптимизации системы разработки правовых актов, издаваемых органами публичной власти и местного самоуправления.
Паспорт национальной программы «Цифровая экономика Российской Федерации»7 (в части федерального проекта «Нормативное регулирование цифровой среды») включает:
1) поэтапную автоматизацию отдельных процессов нормотворчества;
4 Паспорт федерального проекта «Цифровое государственное управление», утвержденный Президиума Правительственной комиссии по цифровому развитию, использованию информационных технологий для улучшения качества жизни и условий ведения предпринимательской деятельности 28.05.2019. URL: https://digital.gov.ru
5 Паспорт национальной программы «Цифровая экономика Российской Федерации», утвержденный президиумом Совета при Президенте Российской Федерации по стратегическому развитию и национальным проектом 04.06.2019. URL: https://digital.gov.ru
6 Постановление Правительства Российской Федерации от 15.04.2014 № 313 «Об утверждении государственной программы Российской Федерации «Информационное общество» // Официальный интернет-портал правовой информации. URL: http://pravo.gov.ru, 24.04.2014.
7 Паспорт национальной программы «Цифровая экономика Российской Федерации», утвержденный президиумом Совета при Президенте Российской Федерации по стратегическому развитию и на-
циональным проектом 04.06.2019. URL: https://digital.gov.ru
2) формирование правоприменительной практики, включая:
а) внедрение механизмов формирования и использования машиночитаемых норм;
б) использование возможностей современных и перспективных технологий искусственного интеллекта, обработки больших данных, технологий распределенных реестров и других перспективных технологий.
Применение цифровых технологий в правотворчестве
Внедрение и использование современных цифровых технологий в органах публичной власти характеризуется качественным изменением системы публичного управления, направленным на повышение эффективности ее осуществления.
Существенное значение в сфере цифровизации государственного управления отводится цифровым технологиям в целях совершенствования правотворческой деятельности. Технологические решения должны оптимизировать и упростить процесс подготовки и принятия правовых актов, обеспечить повышение качества, эффективности и прозрачности правотворческой деятельности.
Под передовыми цифровыми технологиями понимается Интернет вещей, искусственный интеллект и машинное обучение, технологии на принципах распределенного реестра (блокчейн), «облачные» компьютерные сервисы и вычисления, «умные» комплексы и устройства, большие данные, виртуальная и дополненная реальность, системы кибербезопасности, цифровые двойники, цифровые технологические платформы (агрегаторы) и связанные с ними иные технологии [9, 8, 21, 10].
На сегодняшний день одним из наиболее перспективных технологических решений является применение современных интеллектуальных систем, основанных на обучении больших объемов данных.
В Национальной стратегии развития искусственного интеллекта на период до 2030 г.8 отмечается, что в настоящее время в мире происходит ускоренное внедрение технологических решений, разработанных на основе искусственного интеллекта, в различные отрасли экономики и сферы общественных отношений.
В Концепции подчеркивается, что развитие технологий искусственного интеллекта ставит серьезные вызовы перед правовой системой Российской Федерации, системой государственного управления и обществом в целом. Они обусловлены определенной степенью автономности действий систем искусственного интеллекта в решении поставленных задач и их неспособностью непосредственно воспринимать этические
8 Указ Президента Российской Федерации от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации // Официальный интернет-портал правовой информации. URL: http:// pravo.gov.ru, 11.10.2019.
и правовые нормы, учитывать их при осуществлении каких-либо действий.
В связи с этим в научной среде все чаще обсуждается вопрос определения степени внедрения и сферы применения цифровых технологий, а также объема делегирования правотворческих функций искусственному интеллекту [4, 2, 10, 20].
Большинство экспертов сходятся во мнении, что искусственный интеллект может использоваться для интеллектуальной поддержки в принятии решений, автоматизации отдельных процессов правотворчества и принятия решений, а также выполнять техническо-вспомогательную роль в правоприменительном процессе.
Интеллектуальные инструменты и сервисы могут повысить скорость принятия решений, сократить количество рутинных операций, повысить качество правотворческой деятельности, ускорить процессы, связанные с анализом данных и обработки информации, минимизировать издержки, а отсутствие человеческого фактора субъективности, эмоциональных составляющих может положительно сказаться на принимаемых решениях.
При этом невозможно полностью автоматизировать правотворчество и правоприменение. Интеллектуальные инструменты и сервисы должны играть второстепенную роль в этих сферах деятельности.
Направления трансформации правотворческой деятельности целесообразно определять исходя из возможности автоматизации отдельных стадий правотворческого процесса. Для разных стадий процесса характерны определенные виды деятельности, которые могут быть автоматизированы или в которые могут быть внедрены отдельных технологические решения.
Цифровые технологии широко применяются на стадии подготовки проекта правового акта, его общественного обсуждения, экспертной оценки, принятия и опубликования правового акта.
В рамках анализа моделей внедрения цифровых технологий в правотворческий процесс представляется возможным выделить следующие сферы их использования:
1) разработка прогнозов и планов правотворческой деятельности;
2) создание проекта нормативного правового акта;
3) проведение экспертиз проектов нормативных правовых актов (правовой, антикоррупционной, экологической и др.);
4) размещение проектов нормативных правовых актов на официальных сайтах для проведения независимой антикоррупционной экспертизы, оценки регулирующего воздействия, прохождения общественного обсуждения, публичных слушаний;
5) использование усиленной квалифицированной электронной подписи при визировании, согласовании проектов нормативных правовых актов, подписании протоколов, подписании правовых
актов, созданных в форме электронных документов9;
6) систематизация правовых актов в электронной форме;
7) формирование единой цифровой среды для взаимодействия участников регуляторной деятельности;
8) электронное официальное опубликование нормативных правовых актов органами публичной власти;
9) обеспечение доступа заинтересованным лицам к принятым правовым актам;
10) размещение информации о деятельности органов публичной власти на официальных сайтах10;
11) проведение мониторинга и оценки фактического воздействия правового акта.
Практика автоматизированного принятия решений в современных условиях во многом сводится к алгоритмической обработке данных с использованием технологий больших данных и искусственного интеллекта [18].
Применение технологий больших данных (big data)11 направлено на поиск, сбор, обработку больших объемов информации, анализ информации с использованием специально разработанных алгоритмов, предоставление статистической информации по заранее определенным критериям.
По свидетельствам специалистов, уже сейчас алгоритмы, стоящие за ботами big data, могут найти закономерности и связи, отыскание которых было бы практически невозможным для человека [19].
Применение подобных технологий позволяет отслеживать процесс разработки, обсуждения и принятия правовых актов, проводить оценку поступивших предложений к проектам правовых актов, выявлять
9 Федеральный закон от 06.04.2011 № 63-Ф3 «Об электронной подписи» // Собрание законодательства РФ. 11.04.2011. № 15. Ст. 2036; постановление Правительства Российской Федерации от 09.02.2012 № 111 «Об электронной подписи, используемой органами исполнительной власти и органами местного самоуправления при организации электронного взаимодействия между собой, о порядке ее использования, а также об установлении требований к обеспечению совместимости средств электронной подписи» // Собрание законодательства РФ. 20.02.2012. № 8. Ст. 1027; постановление Правительства Российской Федерации от 13.08.1997 № 1009 «Об утверждении Правил подготовки нормативных правовых актов федеральных органов исполнительной власти и их государственной регистрации» // Собрание законодательства РФ. 18.08.1997. № 33. Ст. 3895.
10 Федеральный закон от 09.02.2009 № 8-ФЗ «Об обеспечении доступа к информации о деятельности государственных органов и органов местного самоуправления» // Собрание законодательства РФ. 16.02.2009. № 7. Ст. 776.
11 Большие данные (big data): обширные наборы данных — главным образом, по таким характеристикам данных, как объем, разнообразие, скорость генерации и/или изменчивость, — которые требуют использования технологии масштабирования для эффективного хранения, обработки, управления и анализа // ГОСТ Р 59277-2020. Системы искусственного интеллекта. Классификация систем искусственного интеллекта: национальный стандарт Российской Федерации: утверждён и введён в действие приказом Федерального агентства по техническому регулированию и метрологии от 23.12.2020 № 1372-ст. // СПС «КонсультантПлюс».
проблемные процедурные моменты, проводить анализ оценки регулирующего воздействия, моделировать последствия принятия правовых норм.
Использование больших данных при разработке нормативных правовых актов сопряжено с необходимостью формирования баз данных, содержащих в машиночитаемом виде существующие правила. Непосредственно трансформация в машиночитаемый вид предопределена использованием машинного обучения, в частности, технологии обработки естественного языка [10].
Внедрение технологий машинного обучения в правотворческий процесс связано с возможностью анализа содержания текстов правовых актов, определения их регулятивной пригодности, выявления противоречий и несоответствий законодательства, корруп-циогенных факторов, прогнозирования направлений развития законодательства, анализа данных судебной и правоприменительной практики, устранения пробелов в правовом регулировании.
Д.В. Бахтеев определяет машинное обучение как современный класс методов технологии искусственного интеллекта, с помощью которого решение задачи происходит не напрямую, а индуктивно, через процесс обучения на множестве сходных задач (прецедентов). Такие методы необходимы в случаях, когда имеются большие данные, но обнаружить в них связи и закономерности экспертными или классическими математическими методами крайне затруднительно или в принципе невозможно [1].
В самом общем виде машинное обучение представляет собой категорию алгоритмов, позволяющих на основе приема входных данных и с использованием статистического анализа формировать наиболее точные прогнозы относительного итогового результата [10].
Для целей повышения эффективности традиционных юридических технологий прогнозируется использование искусственного юридического интеллекта (data mining (интеллектуальный анализ (добыча) данных, обнаружение знаний в базе данных), нейронные сети, экспертные системы) [20].
В целях повышения качества правовых актов и обеспечения эффективности правового регулирования в правотворчестве актуально использование экспертных систем, предназначенных для решения интеллектуальных задач.
Использование интеллектуальных сервисов в экспертной деятельности создает возможности анализа, мониторинга, приведение актов в соответствие с действующим законодательством, устранения коррупци-огенных факторов и потенциальных коррупционных рисков, правовых дефектов, что значительно снижает издержки на проведение экспертиз, повышает их скорость и качество.
Процесс проведения экспертиз представляется возможным автоматизировать благодаря программам, использующим технологию анализа больших данных, направленных на прогнозирование различных процессов, в том числе оценки фактического воздействия.
Справедливо утверждение, что анализ проекта нормативного правового акта с использованием искусственного юридического интеллекта целесообразно проводить в качестве первоначальной стадии экспертизы. На последующем этапе его оценка должна осуществляться человеком с обязательным учетом результатов предварительной экспертизы, проведенной искусственным юридическим интеллектом [10].
М.В. Залоило отмечает, что в алгоритмах искусственного юридического интеллекта должна быть воспроизведена мыслительная работа эксперта или субъекта правового мониторинга [6].
В рамках антикоррупционной экспертизы для обнаружения коррупциогенных факторов и для моделирования ситуаций применения того или иного нормативного правового акта может применяться нейронная сеть [6].
Искусственные нейронные сети как основную форму реализации искусственного интеллекта можно рассматривать как программные или программно-аппаратные комплексы простых вычислительных единиц (искусственных нейронов, обработчиков данных), способных обмениваться друг с другом сигналами и при достаточно развитой структуре и настроенной логике взаимодействия решать сложные задачи на основе машинного обучения. Технологическую специфику искусственных нейронных сетей, отличающую их от обычных программ, составляет простота каждого индивидуального элемента сети (искусственного нейрона), их взаимозаменяемость и взаимосвязь [1].
Данная система может использоваться при проведении анализа коррупциогенности правовых актов и их проектов, позволит обрабатывать значительный массив данных, моделировать и прогнозировать коррупционные риски, способствовать оперативному выявлению и устранению типичных коррупциогенных факторов.
Внедрение технологий больших данных и машинного обучения, иных интеллектуальных систем в правотворческую деятельность имеет свои положительные аспекты, но вместе с тем, при разработке новых технологических решений, следует учитывать их ограниченные возможности и потенциальные риски.
Д.В. Бахтеев и Л.В. Тарасова к комплексу потенциальных рисков интеграции систем искусственного интеллекта относят опасность некорректного обучения, программирования системы искусственного интеллекта, вносимых в неё данных, в результате которого ошибки и искажения человека-разработчика могут быть ретранслированы и на решения, принимаемые системой [2].
Предлагается выработать понимание возможных рисков распространения технологии. Опасности применения систем искусственного интеллекта могут быть вызваны одной из двух причин: ошибками самой системы или неверным её использованием (ошибка целепо-лагания) [1].
В рамках научно-прикладных исследований внимание уделяется также проблеме алгоритмической прозрачности и подотчетности.
Отмечается, что алгоритмы могут быть сложными и непонятными, что делает процесс принятия решений непрозрачным. Чтобы решить эту проблему, необходимо разработать механизмы проверки и аннотаций, которые обеспечат прозрачность алгоритмов искусственного интеллекта и объяснят логику принятых решений [15].
Авторами обозначены две группы методов обеспечения подотчетности и прозрачности алгоритмов: 1) технические методы — проверка программного обеспечения, криптографические обязательства, доказательства с нулевым разглашением, справедливый случайный выбор; 2) юридические методы — сокращение неоднозначности или двусмысленности в законодательстве; введение при судах и иных органах публичной власти позиции постоянного эксперта по объяснению применения права алгоритмами как рекомендательного органа; необходимость разработки законодательства в сфере алгоритмической подотчетности без установления требований о полной прозрачности алгоритмов и свободном доступе к ним [10].
Необходимо выработать оптимальную модель внедрения цифровых технологий в правотворчество, направленную на качественную трансформацию процесса разработки и принятия правовых актов, основанную на автоматизации отдельных операций и предусмотреть механизмы минимизации возможных недостатков применяемых технологических решений.
Повышению эффективности правотворческого процесса способствуют также использование онлайн-платформ для формирования и выдвижения правотворческой инициативы, общественного обсуждения проектов правовых актов, проведения общественной и независимой экспертиз проектов, официального электронного опубликования (обнародования) правовых актов, раскрытия информации о деятельности органов публичной власти.
Примерами таких платформ являются: система обеспечения законодательной деятельности (URL: https:// sozd.duma.gov.ru); Официальный интернет-портал правовой информации (URL: http://pravo.gov.ru), обеспечивающий официальное опубликование правовых актов, иные сетевые издания органов публичной власти федерального, регионального и муниципального уровнях; интернет-сайт «Российская общественная инициатива» (URL: https://www.roi.ru); Федеральный портал проектов нормативных правовых актов (URL: https:// regulation.gov.ru) — для размещения информации о подготовке федеральными органами исполнительной власти проектов нормативных правовых актов и результатов их общественного обсуждения; официальные сайты органов государственной власти субъектов РФ и органов местного самоуправления.
Открытость и доступность информации о деятельности государственных органов и органов местного
самоуправления является одним из основных конституционных принципов государства.
Доступность информации о деятельности государственных органов и органов местного самоуправления обеспечивается размещением указанными органами на официальных сайтах информации о своей деятельности, распространением правовой информации, включая официальное опубликование изданных правовых актов и их проектов12.
Информационное право как одна из наиболее динамично развивающихся отраслей российского права и его институты, включая институт электронного опубликования, сейчас переживают революционные изменения. Наиболее характерными для отрасли информационного права, учитывающими ее специфику, наряду с общеотраслевыми и межотраслевыми принципами права, являются такие принципы-постулаты, как: свободное обращение информации, открытость или публичность информации, баланс информационных интересов личности, общества и государства при приоритетности интересов личности [13].
Опубликование на официальных сайтах органов публичной власти нормативных правовых актов в электронном виде в правотворчестве относится к информационным (цифровым) технологиям [12], обеспечивающим широкую доступность правовой информации. В этом направлении требуется развитие и совершенствование уже имеющихся институтов и, в частности, института электронного официального опубликования нормативных правовых актов [3].
Оценивая преимущества электронного опубликования правовых актов (скорость передачи информации, удобство хранения и доступность информационных ресурсов, возможность неограниченного копирования и тиражирования правовой информации), эксперты не обошли вниманием проблемы обеспечения безопасности функционирования электронных ресурсов [20], обеспечения аутентичности информации, устранения технологических и иных ошибок, которые могут приводить к неправильному прочтению нормативного правового акта и даже к искажению воли законодателя [14].
В связи с этим обосновывается необходимость закрепления соответствующего правового регулирования и механизма обеспечения официального опубликования нормативного правового акта в электронном виде, обеспечения достоверности и аутентичности представляемой информации, доверия к системе официального электронного опубликования, а также разработки соответствующих средств правового регулирования в сфере использования новых информационных технологий [14].
12 Федеральный закон от 09.02.2009 № 8-ФЗ «Об обеспечении доступа к информации о деятельности государственных органов и органов местного самоуправления» // Собрание законодательства РФ. 16.02.2009. № 7. Ст. 776.
С учетом динамики трансформации правотворчества в юридической литературе обсуждаются также вопросы безопасности цифровых технологий, ответственности, правосубъектности, защиты персональных данных необходимости снятия правовых ограничений, создания благоприятного правового режима для возникновения и развития цифровых технологий13.
Разработка технологий машиночитаемого права
При алгоритмизации правотворчества важнейшее значение придается формированию цифрового юридического языка. Одной из задач национальной программы «Цифровая экономика Российской Федерации» является внедрение механизмов формирования и использования машиночитаемых норм.
В Концепции развития технологий машиночитаемого права14 систематизируется представления о технологиях машиночитаемого права, определены основные сферы их применения (стандартизация и сертификация, сделки в машиночитаемом формате, контрольная (надзорная) деятельность, судопроизводство и производство по делам административных правоотношений, а также нормотворчество).
Целями Концепции являются систематизация представлений о методах и сферах перспективного развития технологий машиночитаемого права и подготовка предложений по стимулированию развития технологий машиночитаемого права.
По мнению разработчиков Концепции, машиночитаемое право представляется одним из эффективных способов непротиворечивого изложения правовых норм с целью повышения удобства правоприменения для государства, предпринимательского сообщества и граждан.
Машиночитаемое право включает в себя нормы права, которые изложены на формальном языке — на языках программирования и разметки текста.
Как отмечает В.А. Лаптев, согласно концепции машиночитаемого права и автоматизации права, математические алгоритмы будут способны анализировать нормы права, изложенные на формальном языке (в виде компьютерного кода), и вырабатывать машинное решение — формулировать условия договора, проекты судебного акта, законопроекты и т. д. [11].
Речи не идет о полной замене машиночитаемыми нормами норм, написанных естественным языком, а лишь предлагается внедрить их как формулу логического контроля в целях исключения юридических оши-
13 Цифровизация правотворчества: поиск новых решений: монография / Д.А. Пашенцев, М.В. Залоило, О.А. Иванюк, А.А. Головина под общей редакцией доктора юридических наук, профессора Д.А. Па-шенцева; Институт законодательства и сравнительного правоведения при Правительстве Российской Федерации. М. : Инфра, 2019. 234 с.; Вайпан В.А. Основы правового регулирования цифровой экономики // Право и экономика. 2017. № 11. С. 5—18.
14 URL: http://economy.gov.ru>material/file/31_15092021.pdf.
бок, допускаемых государственными органами в их правоприменительной практике [11].
Концепция развития технологий машиночитаемого права является дорожной картой по внедрению технологических решений в правовую среду.
Внедрение машиночитаемого права, как ожидается, позволит с применением технологий искусственного интеллекта усовершенствовать юридическую технику составления нормативных правовых актов, оптимизировать используемые юридические конструкции, разрабатывать более эффективное правовое регулирование [7].
Кроме того, развитие и применение технологий машиночитаемого права способствует:
1) обеспечению реализации национальных приоритетов и достижению целевых показателей цифровой трансформации органов публичной власти;
2) обеспечению достижения целей регуляторной реформы;
3) определению возможных сфер правового регулирования, подлежащих автоматизации;
4) автоматизации разработки и применения правовых актов;
5) интеграции машиночитаемых норм в информационные системы органов публичной власти;
6) обеспечению исполнения машиночитаемых норм без участия человека;
7) разработке единых технических основ и юридических принципов машиночитаемого права;
8) оптимизации отдельных этапов экспертно-ана-литических исследований в рамках правотворчества;
9) упрощению поиска и обработки правовых актов;
10) оперативному обеспечению доступа к актуальной правовой информации и правоприменительной практике;
11) повышению точности и снижению рисков ошибок, возникающих при ручной обработке;
12) оперативному внесению изменений в действующее законодательство;
13) созданию новых правовых технологий и сервисов сфере правотворчества.
Однако роботизация правотворческого процесса наряду с положительным эффектом устранения (самоустранения) пробелов таит в себе некоторые риски, которые нельзя игнорировать, но пока можно предвидеть и учесть при разработке соответствующих автоматизированных систем [7].
В Концепции к рискам применения технологий машиночитаемого права отнесены: автоматическое исполнение норм права, изложенных на формальном языке, в том числе в случае изменения норм права, изложенных на естественном языке; неверная квалификация произошедших событий в связи с сокращением участия человека в правоприменении; сложность перевода норм-принципов в машиночитаемый вид.
В связи с эти отмечается необходимость сформировать механизмы защиты от вышеуказанных рисков. Такими механизмами являются: отсутствие приоритета норм, изложенных на формальном языке, над нормами на естественном языке; экспертный и общественный контроль за соответствием норм права, изложенных на формальном языке, нормам, содержащимся на естественном языке; представление физическому лицу права отказаться от принятия автоматических решений по вопросам, затрагивающим его права и законные интересы; создание механизма оперативного реагирования на обращения физических лиц в случае некорректного применения норм машиночитаемого права в автоматическом режиме.
В юридической литературе продолжают обсуждаться проблемы и перспективы алгоритмизации права, перевода норм права в машиночитаемый вид, возможности существующих языков, формирования концепции цифрового закона.
У юристов возникают сомнения в возможностях цифрового языка, связанные со следующим:
1) недостаточностью четкости и точности формулировок, которые могут привести к правовым неточностям;
2) затруднением интерпретации норм законодательства ввиду многозначности цифрового языка;
3) созданием пробелов в регулировании новых технологий, связанных с опережением изменений в технической сфере правовых норм;
4) отсутствием стандартизации в использовании юридических терминов;
5) неправильной интерпретацией юридических терминов алгоритмами, что приведет к юридическим ошибкам;
6) необходимостью адаптации к частым изменениям правовых норм;
7) сложностью автоматического перевода юридических документов;
8) необходимостью защиты данных, конфиденциальной информации и обеспечением соблюдения прав и свобод граждан при применении цифровых технологий.
По мнению Председателя Конституционного Суда Российской Федерации В.Д. Зорькина, кажется фантастическим предложение специалистов «упаковать» законы в программный код с целью обеспечения стройности, определенности и однозначности содержания нормативных актов. И хотя, скорее всего, сторонники такого подхода преувеличивают его возможности и недооценивают вариативность общественных отношений, подлежащих регулированию, саму эту идею нельзя отбрасывать 15.
15 Зорькин В.Д. Право в цифровом мире. Размышление на полях Петербургского международного юридического форума // Российская газета. 30.05.2018. № 7578 (115).
Тем не менее уже сейчас появляются нормативные правовые акты, полностью сформированные в машиночитаемом виде, например, цифровые административные регламенты.
Министерство цифрового развития, связи и массовых коммуникаций Российской Федерации проводит работу по созданию конструктора цифровых регламентов. Конструктор цифровых регламентов — инструмент, позволяющий провести разработку, согласование и государственную регистрацию машиночитаемых административных регламентов предоставления государственных и муниципальных услуг16.
Поэтому на первый план выходит необходимость формирования строгих требований к данным, алгоритмам и используемым ими информационным системам. И прежде всего это касается достоверности [5], проверяемости, возможности оперативного вмешательства в работу таких систем и исправления вероятных ошибок [16].
Основные направления создания регуляторной среды для нормотворчества
В целях совершенствования российской правовой системы Правительством Российской Федерации в 2017 году была разработана Концепция поэтапной цифровизации правовой системы.
На основных этапах предлагаемой цифровизации предполагалось17:
1) выявление устаревших, неработающих, а также неэффективных норм в массиве правовых актов и актов правоприменения;
2) создание «электронных кодексов», «единых нормативных документов», различные части которых принимаются различными уровнями власти в соответствии с их компетенцией (создание государственных электронных справочно-право-вых систем: действующие нормы предлагалось каталогизировать в духе «качественного нормотворчества», а в будущем онлайн-кодексы должны стать официальным местом публикации новых норм);
3) создание автоматизированной системы поддержки правовых решений на основе искусственного интеллекта;
4) разработка системы управления рисками для компьютерного анализа судебных актов на предмет ошибок и коррупционной составляющей.
Полная реализация предлагаемого проектного офиса потребовала бы изменений всего правотворчества, выработки единой стратегии органами публичной власти в сфере интеграции цифровых техноло-
16 Официальный сайт Минцифры России. URL: https://www. economy.gov.ru/material/news
17 Правительство обсуждает использование искусственного
интеллекта в правовой сфере // Газета «Коммерсант». 2017. URL: https://www.kommersant.ru/doc/3466185
гий, преодоления цифрового неравенства регионов и муниципальных образований. В итоге, в результате проводимой цифровизации правовой системы, было реализовано внедрение современных технологий с использованием нейросетей и машинного обучения в правотворческий процесс; электронный документооборот; оптимизация судопроизводства.
Несмотря на динамичное развитие информационных технологий и их применение в сфере государственного управления, необходима дальнейшая оптимизации порядка подготовки проектов правовых актов, повышение скорости правотворчества и качества разрабатываемых правовых актов, автоматизация отдельных процессов правотворчества, снижение временных и организационных издержек.
В рамках реализации федерального проекта «Цифровое государственное управление» национальной программы «Цифровая экономика» в 2019 году Министерство экономического развития Российской Федерации анонсировало создание единой цифровой платформы законопроектов, которая охватывает все стадии рассмотрения проектов в режиме реального времени.
В 2023 году началось пилотное тестирование государственной информационной системы «Национальная единая среда взаимодействия участников нормотворче-ского процесса (ГИС «Нормотворчество»)», разработанной в рамках реализации федерального проекта «Цифровое государственное управление». ГИС «Нормотворчество» планируется запустить с 1 октября 2024 года.
Основной целью внедрения ГИС является повышение качества разрабатываемых нормативных правовых актов за счёт внедрения цифровых сервисов, а также сокращение сроков, в течение которых документы должны быть созданы и внесены на рассмотрение в Правительство Российской Федерации (проекты федеральных законов, правовых актов Правительства Российской Федерации, ведомственных актов, включая те акты, по которым требуется решение Правительства Российской Федерации).
В соответствии с постановлением Правительства Российской Федерации от 11.09.2024 № 1230 «Об утверждении Положения о государственной информационной системе «Национальная единая среда взаимодействия участников нормотворческого процесса»18 основными задачами ГИС «Нормотворчество» являются:
а) формирование единой среды информационного взаимодействия пользователей ГИС «Нормотворчество» в процессе подготовки и согласования проектов правовых актов в рамках реализации основных функций ГИС «Нормотворчество»;
б) обеспечение подготовки текстов проектов правовых актов в электронном структурированном виде;
в) обеспечение мониторинга своевременности подготовки и внесения проектов правовых актов в Пра-ви тельство Российской Федерации с помощью инстру-
18 Официальный интернет-портал правовой информации. URL: http://www.pravo. gov.ru, 13.09.2024.
ментов визуальных интерактивных пользовательских интерфейсов;
г) обеспечение интеграционного взаимодействия и информационного обмена ГИС «Нормотворчество» с внешними информационными системами и официальными сайтами в информационно-телекоммуникационной сети «Интернет».
Новая информационная система позволит создать единое электронное рабочее пространство для всех участников процесса разработки правовых актов с использованием отечественного программного обеспечения, адаптированного под законотворческий процесс. В ней разработчики проектов актов смогут привлекать к проработке документов соавторов и экспертов. В системе будут автоматически формироваться изменения к содержанию текстов, фиксироваться варианты альтернативных формулировок. На платформе планируется осуществлять межведомственное согласование, после чего проекты актов будут направляться на портал regulation.gov.ru для общественного обсуждения. Помимо этого, она позволит вести мониторинг процесса подготовки проектов федеральных законов, постановлений, распоряжений, приказов и других правовых актов на всех этапах их разработки и согласования19.
Несмотря на положительный потенциал ГИС, для повышения эффективности государственного управления и оптимизации нормотворчества, внедрение и сопровождение этой системы сопряжено с решением целого ряда сложных задач и проблем: обеспечение безопасности данных, соблюдение конфиденциальности информации, масштабирование, необходимость модернизации, интеграция с внешними информационными системами.
Кроме того, учитывая интенсивность регионального и муниципального нормотворчества20 и наличие проблем с качеством и эффективностью правовых актов, важной задачей, требующей постоянного внимания, является улучшение процесса разработки правовых актов органов государственной власти субъектов Российской Федерации и органов местного самоуправления.
В целях повышения качества разрабатываемых региональных и муниципальных нормативных правовых актов, обеспечения мониторинга и контроля процесса подготовки проектов актов, сокращения временных и организационных издержек представляется це-лес образным на базе системы федеральных регистров и государственных реестров Минюста России организовать разработку новой федеральной государственной информационной системы, позволяющей унифи-
19 Официальный сайт Правительства Российской Федерации. URL: http://government.ru/docs/52677/
20 По состоянию на сентябрь 2024 года на портале «Нормативные правовые акты в Российской Федерации» размещено свыше 16 млн нормативных правовых актов и других сведений, их них свыше 2 млн актов органов государственной власти субъектов Российской Федерации и свыше 13 млн актов органов местного самоуправления (ежегодный объем прироста составляет примерно 1 млн актов). URL: http://pravo-minjust.ru, http://право-минюст.рф.
цировать правотворческую практику субъектов Российской Федерации и муниципальных образований.
Создание и развитие новой информационной системы соответствует полномочиям Минюста России в части обеспечения единства информационно-правового пространства в Российской Федерации, методико-пра-вового обеспечения ведения федеральных регистров, системного мониторинга законодательства субъектов Российской Федерации, организации работы по систематизации законодательства Российской Федерации.
При ведении федеральных регистров и государственных реестров обеспечивается деятельность по поддержанию нормативных правовых актов в актуальном состоянии, а также предоставление дополнительных сведений (экспертные заключения Минюста России и территориальных органов Минюста России, экспертные заключения уполномоченных органов государственной власти субъектов Российской Федерации на муниципальные акты, решения судов; информация о мерах прокурорского реагирования, принятых в отношении правовых актов и иная информация)21.
Новое платформенное решение может использоваться как реальный инструмент нормотворчества, включающий полноценный сервис правового обеспечения и мониторинга правоприменения, призванный обеспечить эффективность и автоматизацию процессов разработки, экспертизы, принятия, опубликования, вступления в силу и прекращения действия нормативного правового акта, обеспечения доступности верифицированной правовой информации.
При создании данной информационной системы важно заложить в ее основание требования по унификации и единообразию при подготовке нормативных правовых актов, модель унифицированного формата правового акта, а также возможность ее открытости и масштабирования в части расширения круга пользователей (органов государственной власти, прокуратуры и судебных органов), возможность интеграции с иными информационными системами.
21 Постановление Правительства РФ от 29.11.2000 № 904 «Об утверждении Положения о порядке ведения федерального регистра нормативных правовых актов субъектов Российской Федерации» // Собрание законодательства РФ. 04.12.2000. № 49. Ст. 4826; постановление Правительства РФ от 10.09.2008 № 657 «О ведении федерального регистра муниципальных нормативных правовых актов» // Собрание законодательства РФ. 22.09.2008. № 38. Ст. 4301; приказ Минюста России от 04.03.2021 № 27 «Об организации работы по ведению федерального регистра нормативных правовых актов субъектов Российской Федерации и федерального регистра муниципальных нормативных правовых актов» // Официальный интернет-портал правовой информации. URL: http://www.pravo.gov.ru
Литература
Решение указанных задач потребует создание правовых сервисов на основе высоких информационных технологий и интеллектуальных инструментов.
Заключение
Таким образом, рассмотрен комплекс теоретических и практических вопросов, связанных с особенностями воздействия цифровых технологий на правотворческую деятельность, преимуществами и рисками использования цифровых технологий в указанной сфере.
Применение современных цифровых технологий способно повысить эффективность правотворческой деятельности, автоматизировать отдельные этапы правотворческого процесса, оптимизировать законодательство, в части выявления устаревших и дублирующих норм права, коллизий, устранения избыточных требований, коррупциогенных факторов, обеспечения эффективности правового регулирования и прозрачности управленческой деятельности.
Широкое внедрение цифровых технологий требует разработки соответствующего правового регулирования, концептуальных правовых актов, призванных создать возможности для появления более эффективной системы публичного управления в сфере правотворческой деятельности; усовершенствования юридической техники составления нормативных правовых актов; оптимизации используемых юридических конструкций; создания единообразных методик проведения разных видов экспертиз; создания единой формализованной системы требований к правовым актам; разработке единых технических основ и юридических принципов машиночитаемого права; корректировки правил разработки и опубликования нормативных правовых актов.
В целях совершенствования публичного управления, повышения качества разрабатываемых региональных и муниципальных нормативных правовых актов, автоматизации отдельных процессов разработки, принятия, опубликования правовых актов, мониторинга правоприменения предложено создание новой федеральной государственной информационной системы на базе системы федеральных регистров и государственных реестров Минюста России.
При создании данной информационной системы должны быть созданы условия для использования инструментов интеллектуализации основных процессов правотворчества в целях обеспечения взаимодействия между всеми участниками правотворческой деятельности, возможности интеграции с иными информационными системами, обеспечения доступности верифицированной правовой информации.
1. Бахтеев Д.В. Концептуальные основы теории криминалистического мышления и использования систем искусственного интеллекта в расследовании преступлений : дис____д-ра юрид. наук: 5.1.4. / Бахтеев Дмитрий Вале-
рьевич; [Место защиты: ФГБОУ ВО «Уральский государственный юридический университет имени В.Ф. Яковлева»]. Екатеринбург, 2022. 504 с.
2. Бахтеев Д.В., Тарасова Л.В. Применение искусственного интеллекта в деятельности арбитражных судов РФ: перспективные направления и проблемы // Вестник Костромского государственного университета. 2020. Т. 26. № 4. С. 249—254.
3. Гайворонская Я.В. Совершенствование правотворчества в условиях цифровизации: юридико-технические аспекты // Пробелы в праве в условиях цифровизации сб. науч. тр. / Под общ. ред. Д.А. Пашенцева, М.В. За-лоило. М. : Инфотропик Медиа, 2022. С. 113—138.
4. Жмакин Г.Н. Искусственный интеллект в судебном процессе // Вестник гражданского процесса. 2024. № 2. С. 301—318.
5. Булгакова Е.В. Методы анализа и принципы систематизации данных, используемых при подготовке и принятии юридических решений // Информационное право. 2016. № 4. С. 29—33.
6. Залоило М.В. Некоторые вопросы цифровизации процедур оценки проектов нормативных правовых актов // Российское государствоведение. 2018. № 4. С. 138—149.
7. Залоило М.В. Перспективы применения цифровых технологий в устранении правовых пробелов: риски законотворческой и технологической сингулярности // Пробелы в праве в условиях цифровизации : сборник научных трудов / Д.Р. Алимова, С.А. Афанасьева, Л.Т. Бакулина и др.; под общ. ред. Д.А. Пашенцева, М.В. Залоило. М. : Инфотропик Медиа. 2022. 472 с.
8. Зенин С.С., Кутейников Д.Л., Япрынцев И.М. Большие данные в законодательном процессе // Актуальные проблемы российского права. 2020. № 9. С. 19—31.
9. Карцхия А.А. Гражданско-правовая модель регулирования цифровых технологий : автореф. дис. ... д-ра юрид. наук: 12.00.03 / Карцхия Александр Амиранович; [Место защиты: ФГБОУ ВО Российская государственная академия интеллектуальной собственности]. М., 2019. 44 с.
10. Концептуальная модель применения цифровых технологий в законодательном процессе в Российской Федерации : монография / С.С. Зенин, О.С. Ижаев, Д.Л. Кутейников, И.М. Япрынцев; Тюменский государственный университет, Институт государства и права. Тюмень, 2022. 137 с.
11. Лаптев В.А. Пути развития цифрового правосудия в России в сфере арбитражного судопроизводства // Вестник экономического правосудия Российской Федерации. 2023. № 5. С. 168—187.
12. Липень С.В. Информационные технологии в правотворческой деятельности // Lex Russica. 2019. № 8. С. 111 — 120.
13. Ловцов Д.А. Эффективность правовых эргасистем в инфосфере // Правовая информатика. 2020. № 1. С. 4—14.
14. Макаренко Т.Н., Сарапкина Е.Н. Оптимизация официального опубликования нормативных правовых актов в электронном виде // Правовая информатика. 2023. № 3. С. 97—110.
15. Назаров Н.А. Обеспечение качества данных при автоматизированном принятии решений в государственном управлении // Журнал российского права. 2024. Т. 28. № 5. С. 140-155.
16. Минбалеев А.В., Петровская О.В. Проблемы реализации принципа достоверности информации в условиях цифровой трансформации // Российский юридический журнал. 2022. № 4 (145). С. 20—28.
17. Пашенцев Д.А. Основные направления влияния современных цифровых технологий на развитие права // Право и образование. 2019. № 7. С. 4—9.
18. Талапина Э.В. Автоматизированное принятие решений в государственном управлении: теоретический разбор возможностей // Журнал российского права. 2022. Т. 26. № 11. С. 60—73.
19. Талапина Э.В. Искусственный интеллект и правовые экспертизы в государственном управлении // Вестник Санкт-Петербургского университета. 2021. Право. Т. 12. Вып. 4: 865—881.
20. Цифровизация правотворчества: поиск новых решений : монография / Д.А. Пашенцев, М.В. Залоило, О.А. Ива-нюк, А.А. Головина; под общей редакцией доктора юридических наук, профессора Д.А. Пашенцева; Институт законодательства и сравнительного правоведения при Правительстве Российской Федерации. М. : Инфра-М, 2019. 234 с.
21. Ягофарова И.Д. Цифровые технологии в правотворческой деятельности: теоретико-правовой аспект // Пролог: журнал о праве. 2021. № 2. С. 4—13.
SECTION:
PUBLIC (CONSTITUTIONAL) LAW
LEGAL ASPECTS OF DIGITALISATION OF LAW-MAKING OF PUBLIC AUTHORITIES
Elena Sarapkina, Deputy Head of the Department of Legal Regulations of the Scientific Centre for Legal Information under the Ministry of Justice of the Russian Federation, external Ph.D. student at the Russian State University of Justice, Moscow, Russian Federation. Е-mail: [email protected]
Keywords: law-making, digital technologies, legal assessment, anti-corruption assessment, corruptogenic factor, machine-readable format, big data, machine learning, verification.
Abstract
Purpose of the work: improving the research and methodological basis of legislative legal technique. Methods used in the study: system and expert analysis, the comparative legal and formal legal methods. Study findings: questions of securing the quality and efficiency of law-making were examined. Possibilities for and legal problems of using modern digital technologies in working out and adoption of legal regulations, performing legal and anticorruption assessments, evaluation of regulating and factual impact of legal enactments were analysed. The main ways for removing the legal and technical limitations for using digital technologies in law-making were identified. A conceptual model for the transformation of law-making considering the implementation of digital technologies was put forward.
With a view to raising the quality of drafted regional and municipal legal regulations, monitoring and controlling the process of preparing draft regulations, reducing time and organisational costs, it was proposed to organise the development of a new federal government information system based on the system of federal and government registers of Russia's Ministry of Justice which would allow to unify the law-making practice of the subjects of the Russian Federation and municipal formations.
References
1. Bakhteev D.V. Kontseptual'nye osnovy teorii kriminalisticheskogo myshleniia i ispol'zovaniia sistem iskusstvennogo intellekta v rassledovanii prestuplenii : dis. ... d-ra iurid. nauk: 5.1.4. Bakhteev Dmitrii Valer'evich; [Mesto zashchity: FGBOU VO "Ural'skii gosudarstvennyi iuridicheskii universitet imeni V.F. lakovleva"]. Ekaterinburg, 2022. 504 pp.
2. Bakhteev D.V., Tarasova L.V. Primenenie iskusstvennogo intellekta v deiatel'nosti arbitrazhnykh sudov RF: perspekt-ivnye napravleniia i problemy. Vestnik Kostromskogo gosudarstvennogo universiteta. 2020. T. 26. No. 4. Pp. 249-254.
3. Gaivoronskaia la.V. Sovershenstvovanie pravotvorchestva v usloviiakh tsifrovizatsii: iuridiko-tekhnicheskie aspekty. Probely v prave v usloviiakh tsifrovizatsii sb. nauch. tr. Pod obshch. red. D.A. Pashentseva, M.V. Zaloilo. M. : Infotropik Media, 2022. Pp. 113-138.
4. Zhmakin G.N. Iskusstvennyi intellekt v sudebnom protsesse. Vestnik grazhdanskogo protsessa. 2024. No. 2. Pp. 301-318.
5. Bulgakova E.V. Metody analiza i printsipy sistematizatsii dannykh, ispol'zuemykh pri podgotovke i priniatii iur-idicheskikh reshenii. Informatsionnoe pravo. 2016. No. 4. Pp. 29-33.
6. Zaloilo M.V. Nekotorye voprosy tsifrovizatsii protsedur otsenki proektov normativnykh pravovykh aktov. Rossiiskoe gosudarstvovedenie. 2018. No. 4. Pp. 138-149.
7. Zaloilo M.V. Perspektivy primeneniia tsifrovykh tekhnologii v ustranenii pravovykh probelov: riski zakonotvorcheskoi i tekhnologicheskoi singuliarnosti. Probely v prave v usloviiakh tsifrovizatsii : sbornik nauchnykh trudov. D.R. Al-imova, S.A. Afanas'eva, L.T. Bakulina i dr.; pod obshch. red. D.A. Pashentseva, M.V. Zaloilo. M. : Infotropik Media. 2022. 472 pp.
8. Zenin S.S., Kuteinikov D.L., lapryntsev I.M. Bol'shie dannye v zakonodatel'nom protsesse. Aktual'nye problemy rossiiskogo prava. 2020. No. 9. Pp. 19-31.
9. Kartskhiia A.A. Grazhdansko-pravovaia model' regulirovaniia tsifrovykh tekhnologii : avtoref. dis____d-ra iurid. nauk:
12.00.03. Kartskhiia Aleksandr Amiranovich; [Mesto zashchity: FGBOU VO Rossiiskaia gosudarstvennaia akademiia intellektual'noi sobstvennosti]. M., 2019. 44 pp.
10. Kontseptual'naia model' primeneniia tsifrovykh tekhnologii v zakonodatel'nom protsesse v Rossiiskoi Federatsii : monografiia. S.S. Zenin, O.S. Izhaev, D.L. Kuteinikov, I.M. lapryntsev; Tiumenskii gosudarstvennyi universitet, Institut gosudarstva i prava. Tiumen', 2022. 137 pp.
11. Laptev V.A. Puti razvitiia tsifrovogo pravosudiia v Rossii v sfere arbitrazhnogo sudoproizvodstva. Vestnik eko-nomicheskogo pravosudiia Rossiiskoi Federatsii. 2023. No. 5. Pp. 168-187.
12. Lipen' S.V. Informatsionnye tekhnologii v pravotvorcheskoi deiatel'nosti. Lex Russica. 2019. No. 8. Pp. 111-120.
13. Lovtsov D.A. Effektivnost' pravovykh ergasistem v infosfere. Pravovaia informatika. 2020. No. 1. Pp. 4-14.
14. Makarenko T.N., Sarapkina E.N. Optimizatsiia ofitsial'nogo opublikovaniia normativnykh pravovykh aktov v elektron-nom vide. Pravovaia informatika. 2023. No. 3. Pp. 97-110.
15. Nazarov N.A. Obespechenie kachestva dannykh pri avtomatizirovannom priniatii reshenii v gosudarstvennom up-ravlenii. Zhurnal rossiiskogo prava. 2024. T. 28. No. 5. Pp. 140-155.
16. Minbaleev A.V., Petrovskaia O.V. Problemy realizatsii printsipa dostovernosti informatsii v usloviiakh tsifrovoi trans-formatsii. Rossiiskii iuridicheskii zhurnal. 2022. No. 4 (145). Pp. 20-28.
17. Pashentsev D.A. Osnovnye napravleniia vliianiia sovremennykh tsifrovykh tekhnologii na razvitie prava. Pravo i obrazovanie. 2019. No. 7. Pp. 4-9.
18. Talapina E.V. Avtomatizirovannoe priniatie reshenii v gosudarstvennom upravlenii: teoreticheskii razbor vozmozh-nostei. Zhurnal rossiiskogo prava. 2022. T. 26. No. 11. Pp. 60-73.
19. Talapina E.V. Iskusstvennyi intellekt i pravovye ekspertizy v gosudarstvennom upravlenii. Vestnik Sankt-Peter-burgskogo universiteta. 2021. Pravo. T. 12. Vyp. 4: 865-881.
20. Tsifrovizatsiia pravotvorchestva: poisk novykh reshenii : monografiia. D.A. Pashentsev, M.V. Zaloilo, O.A. Ivaniuk, A.A. Golovina; pod obshchei redaktsiei doktora iuridicheskikh nauk, professora D.A. Pashentseva; Institut zakonod-atel'stva i sravnitel'nogo pravovedeniia pri Pravitel'stve Rossiiskoi Federatsii. M. : Infra-M, 2019. 234 pp.
21. lagofarova I.D. Tsifrovye tekhnologii v pravotvorcheskoi deiatel'nosti: teoretiko-pravovoi aspekt. Prolog: zhurnal o prave. 2021. No. 2. Pp. 4-13.
