CC BY
15
УНИВЕРСИТЕТА
O.E. Кугафина (МПОА)
Андрей Анатольевич СОБЕНИН,
доцент кафедры уголовно-процессуального права Университета имени О.Е. Кутафина (МГЮА), кандидат юридических наук, доцент [email protected] 125993, Россия, г. Москва, ул. Садовая-Кудринская, д. 9
Искусственный интеллект в уголовной юстиции Российской Федерации и Китайской Народной Республики: важность государственно-правового
регулирования
Аннотация. В статье проведен анализ использования искусственного интеллекта в сфере уголовного судопроизводства. Обсуждается существующий дискурс между юридическими и техническими знаниями, все более нарастающий дисбаланс между юридическим и техническим подходами в обосновании применения профессионального искусственного интеллекта. Использование технологий распознавания лиц в уголовном судопроизводстве, внедрение перспективных систем мониторинга и анализа больших данных, полученных в сети Интернет, использование ChatGPT при производстве по уголовному делу создают значительные риски в достижении назначения уголовного судопроизводства. Представляется интересным и заслуживающим внимания опыт внедрения искусственного интеллекта в сферу уголовной юстиции в Китайской Народной Республике — одном из передовых государств в этой области. Обозначен круг проблем, которые предстоит решить Российской Федерации, связанных с неправильной интерпретацией искусственным интеллектом судебных решений, неспособностью давать оценочные суждения, возможной предвзятостью алгоритмов, избирательностью данных, процессуальной формой вынесения приговоров, снижением уровня доверия населения к системе вынесения судебных решений, постановленных с помощью искусственного интеллекта.
Ключевые слова: уголовное судопроизводство, уголовная юстиция, искусственный интеллект, алгоритмы работы, большие данные, система распознавания лиц, помощник судьи, централизованная система искусственного интеллекта, ChatGPT, Российская Федерация, Китайская Народная Республика.
DOI: 10.17803/2311-5998.2024.113.1.048-056
© Собенин А. А., 2024
УНИВЕРСИТЕТА Искусственный интеллект в уголовной юстиции
имени o.e. кутафина(мгюа) Российской Федерации и Китайской Народной Республики
Andrey A. SOBENIN,
Assodate Professor of the Department of Criminal Procedure Law of the Kutafin Moscow State Law University (MSAL), Cand. Sci. (Law), Associate Professor [email protected] 9, ul. Sadovaya-Kudrinskaya, Moscow, Russia, 125993
Artificial Intelligence in the Criminal Justice of the Russian Federation and the People's Republic of China: the Importance of State Legal Regulation
Abstract. The article analyzes the use of artificial intelligence in the field of criminal proceedings. The existing discourse between legal and technical knowledge and the increasingly growing imbalance between legal and technical approaches in justifying the use of professional artificial intelligence are discussed. The use of facial recognition technologies in criminal proceedings, the introduction of promising systems for monitoring and analyzing big data obtained on the Internet, and the use of ChatGPT in criminal proceedings create significant risks in achieving the purpose of criminal proceedings. The experience of introducing artificial intelligence into the field of criminal justice in the People's Republic of China as one of the leading states in this field seems interesting and noteworthy. A range of problems are outlined that the Russian Federation also needs to solve, related to the incorrect interpretation of court decisions by artificial intelligence, the inability to make value judgments, possible bias of algorithms, selectivity of data, the procedural form of sentencing, a decrease in the level of public confidence in the system of making court decisions made with the help of artificial intelligence. Keywords: criminal proceedings, criminal justice, artificial intelligence, work algorithms, big data, face search system, assistant judge, centralized artificial intelligence system, ChatGPT, Russian Federation, People's Republic of China.
В течение последних десяти лет в мировом академическом сообществе специалистов уголовного права и уголовного судопроизводства ведется беспрецедентно острая дискуссия по поводу использования искусственного интеллекта (ИИ), которая в основном затрагивает такие важные вопросы, как возможности ИИ при привлечении к уголовной ответственности, риски и возможности участия ИИ в судебной сфере, а также возможные перспективы вынесения приговоров с помощью ИИ.
Строго говоря, текущие юридические исследования в области ИИ показывают определенную разобщенность, которая характеризуется отсутствием глубокой интеграции между системой юридического дискурса и технического дискурса по вопросу использования ИИ. Эту проблему можно обозначить следующим образом: «Те, кто понимают технологии, не понимают право, а те, кто понимают право, не понимают технологии». Нашей целью является показать, как стремительно
□
< гп
□ П ЛП
□ К шТ
I?
Г ш
□ ET
ПЦ <
Д0
□ Р
ПО ш
□ И
ш> ш-Ц
о И ШИ
ПТШ>
>
в М УНИВЕРСИТЕТА
4-—^ и мени О. Е. Кугафи на (МПОА)
развиваются возможности применения ИИ в сфере уголовного судопроизводства и так же стремительно растет дилемма обоснования его использования с точки зрения существующих правовых теорий.
Сегодня в области ИИ принято различать несколько научно обоснованных классификаций. Некоторые исследователи ИИ разделяют его в зависимости от степени решаемых задач на общий и специальный, последний может достигать более узкого набора целей (например, соревноваться в компьютерных играх или управлять автомобилем).
Для решения задач в области уголовного судопроизводства для нас более важна классификация ИИ, в основе которой лежит область его применения. Это деление подразумевает обычный и профессиональный ИИ. Обычный ИИ в сфере уголовного судопроизводства предполагает прямое применение технологии ИИ в таких сферах уголовно-процессуальной деятельности, которые не требуют специального программирования, достаточно простое применение технологий, которые использовались в других областях жизнедеятельности.
К этой категории можно отнести технологии ИИ, которые уже используются в судах: преобразования речи в текст при подготовке протоколов судебных заседаний1, оцифровка материалов уголовного дела и ряд других функций. Традиционный ИИ в своей основе имеет следующие характеристики:
1) получил масштабное развитие в общих областях жизнедеятельности социума;
2) его можно легко перенести из социально-экономических областей в судебную сферу без привлечения специальных юридических процедур, которые подтвердили бы возможные пути адаптации. Внедрение такого типа ИИ в судебную сферу не влияет на качественное изменение его функционального назначения;
3) этот тип ИИ в основном выполняет вспомогательную функцию в уголовной сфере, но при этом не может вмешиваться в сущностное содержание уголовно-процессуальной деятельности — принятие решения.
В судебном производстве применение обычного ИИ имеет большие перспективы. Это поможет освободить судей от увеличивающейся нагрузки в сфере организационно-распорядительных полномочий, повысить эффективность судебных разбирательств, а также эффективно коррелировать ситуацию с постоянно увеличивающимся количеством поступающих для рассмотрения уголовных дел и материалов. Причина, по которой обычный ИИ сможет достичь хороших результатов, заключается главным образом в том, что в общих областях жизнедеятельности уже существуют относительно совершенные технологии и их внедрение непосредственно в судопроизводственную сферу не требует большого количества дополнительных и специализированных обновлений алгоритмов.
Профессиональный искусственный интеллект — это ИИ, который уникален для судебной и прокурорско-следственной сферы и требует привлечения специальных юридических познаний. К этой категории можно отнести различные системы
1 Нужно заметить, что возможности технологии искусственного интеллекта по преобразованию речи в текст еще недостаточно используются при производстве предварительного расследования в ходе составления протоколов следственных и иных процессуальных действий.
УНИВЕРСИТЕТА Искусственный интеллект в уголовной юстиции 5Э1
имени o.e. кугафина(мгюа) Российской Федерации и Китайской Народной Республики
помощи при вынесении процессуальных решений, в том числе приговоров, и системы предупреждения судей в «умных судах»2.
Профессиональный искусственный интеллект обладает следующими характеристиками:
1. Он уникален для уголовно-процессуальной сферы и не привнесен напрямую из областей жизнедеятельности, в которых получил широкое распространение. Разработка алгоритмов для уголовной юстиции ориентирована на специальный запрос в специфической сфере деятельности, а технологии, реализуемые профессиональным ИИ, не существуют в общих областях, что приводит к необходимости заново изобретать последовательность алгоритмов вместо непосредственного использования существующих.
2. Юридическая логика профессионального ИИ доминирует над алгоритмической логикой. Профессиональный ИИ ориентирован на решение специфических задач уголовной юстиции. Правовая логика является основой решения задач всей уголовно-процессуальной деятельности. Алгоритмами здесь являются инструменты интеллектуализации юридической логики.
3. Профессиональный ИИ получил свое историческое развитие намного позже, чем общий ИИ, и говорить о совершенстве таких технологий пока не приходится. Профессиональный ИИ пока не получил ожидаемых результатов. Причина этого феномена кроется в том, что профессиональный ИИ требует глубокой интеграции юридических и технических знаний, а также должен найти точку баланса в конфликте сил между профессиональным и техническим дискурсом. Очевидно, что нынешний профессиональный ИИ не достиг желаемой глубокой интеграции указанных знаний.
Проблемы правового регулирования использования искусственного интеллекта в технологиях распознавания лиц в уголовном судопроизводстве уже неоднократно обсуждались в уголовно-процессуальной доктрине. Отмечалось несовершенство применяемых технологий, в фокус внимания ставились вопросы к алгоритмам использования таких программ, недостаткам возможности раскрытия первичного кода. На наш взгляд, квинтэссенцией возникшего дискурса является использование систем распознавания в сфере уголовного судопроизводства без учета специфики уголовно-процессуальной деятельности. Один из последних примеров судебной практики наглядно показывает, к каким последствиям это может привести. ор
Так, 16.02.2023 гражданина Цветкова задержали сотрудники транспортной полиции аэропорта Домодедово, когда он прилетел из командировки. Основа- °т
нием для задержания послужила программа системы распознавания лиц, которая установлена во всех аэропортах Российской Федерации. Модуль интеллектуальной обработки цифрового видеоизображения показал, что Цветков похож на человека, обвиняемого в особо жестоком убийстве трех женщин и одного мужчины, совершенных группой лиц в августе 2002 г в г Москве и Подмосковье.
Алгоритм интеллектуальной обработки цифрового видеоизображения показал
□
□ "О П О
сходство изображения лица Цветкова с фотороботом разыскиваемого подозре- ОИ
ваемого около 50—60 %. И ш
Ш> О-И
2 Термины «умный суд», «интеллектуальный суд», <«та|1-суд» здесь используются как
синонимы, отражающие единое функциональное назначение. СТВ>
>
в М УНИВЕРСИТЕТА
L-—и мени О. Е. Кугафи на (МПОА)
Неоднократно судимый Алешин, обвиняемый в совершении этого же преступления, опознал в Цветкове подельника по фотороботу 20-летней давности, а потом подтвердил это на очной ставке. При этом Алешин на следственных действиях постоянно рассказывал про наколки на пальцах своего подельника в виде кельтского креста, которых у Цветкова никогда не было.
Постановлением Останкинского районного суда г Москвы от 18.02.2023 Цветков был заключен под стражу3. В судебном решении суд сослался на следующие обстоятельства: в материалах, представленных следователем в обоснование ходатайства, имеется достаточно данных об имевшем место событии преступления и об обоснованности подозрения в причастности Цветкова к инкриминируемому ему деянию, о которых свидетельствуют представленные в суд материалы в своей совокупности.
В процессе производства предварительного расследования стороной защиты были представлены дополнительные доказательства, подтверждающие алиби обвиняемого: фотографии, документы, командировочные, которые сохранились в научной организации. Из материалов следовало, что Цветков в дни совершения преступлений находился в командировке в Костромской области и физически не мог присутствовать на месте совершения преступления.
Постановлением Замоскворецкого районного суда г. Москвы от 11.12.2023 мера пресечения Цветкову была изменена на запрет определенных действий4.
Этот пример из судебной практики также порождает дискурс о возможных пределах использования системы распознавания лиц в уголовном судопроизводстве. Исследования, проведенные в передовых странах по использованию ИИ, показывают о значительных пробелах в алгоритмах программ распознавания, которые разработчики стараются не афишировать.
Например, ввиду особой уязвимости детей, к обработке их биометрических данных, в том числе лицевых изображений, должен быть применен критерий более строгой необходимости и тест на пропорциональность по сравнению со взрослыми.
По мере того, как ребенок растет, точность биометрического соответствия снижается. Риск вероятности неправильного совпадения увеличивается, когда изображения лица, сделанные в молодом возрасте, сравниваются более чем через пять лет после их сбора.
Современные технологии для распознавания лиц гарантируют надежное совпадение, когда ребенку было не менее шести лет в момент получения биометрического изображения лица, если изображение было получено не позднее пяти лет назад. В целом исследования показывают, что точность технологии распознавания лиц значительно ниже для детей младше 13 лет.
Старение, т.е. прохождение значительного времени между съемками изображения при его сравнении с настоящими фотографиями, отрицательно влияет на
3 Комплексная информационная система судов общей юрисдикции г. Москвы // URL: https://mos-gorsud.ru/rs/ostankinskij/services/cases/criminal-materials/details/f6f95cd0-afa7-11ed-8faf-b3e4e4d112dc?partidpant=%D0%A6%D0%B2%D0%B5%D1%82%D00/oBA0/oD0% BE%D0%B2+%D0%90%2C (дата обращения: 31.01.2024).
4 Комплексная информационная система судов общей юрисдикции г. Москвы.
УНИВЕРСИТЕТА Искусственный интеллект в уголовной юстиции
имени o.e. кугафина(мгюа) Российской Федерации и Китайской Народной Республики
точность технологий распознавания лиц. Научные исследования показывают, что нельзя сделать вывод о надежности алгоритма сравнения при сроке давности фотоизображений более пяти лет То же самое справедливо и для изображений лиц пожилых людей по сравнению с изображениями, сделанными более 5 лет назад5.
Однако еще большие риски несет использование программ традиционного ИИ в судебной деятельности. Даже в передовых странах, где технологии ИИ достигли значимых результатов, простой их перенос из сферы общественной жизни в судопроизводство представляет скрытую опасность.
Приведем пример из судебной практики, который имел место в 2023 г. в Соединенных Штатах Америки. Так, истец Роберто Мата подал в суд на авиакомпанию Avianca, заявив, что он получил травму, когда металлическая тележка для подачи еды ударила по его колену во время полета в международный аэропорт Кеннеди в Нью-Йорке.
Представители авиакомпании Avianca попросили федерального судью Ман-хэттена отказать в удовлетворении гражданского иска, представители Маты возражали против этого, представив письменные объяснения на десяти листах, в которых цитировалось более полдюжины соответствующих судебных решений из судебной практики по подобным делам. Это были гражданские дела «Мартинес против Delta Air Lines», «Зичерман против Korean Air Lines» и, конечно же, «Вар-гезе против China Southern Airlines», с детальным обсуждением федерального закона и «влиянием автоматического приостановления срока исковой давности».
Но при рассмотрении судебного спора возникла одна сложность: никто — ни представители авиакомпании, ни даже сам председательствующий по делу, не смогли найти эти судебные решения или цитаты из этих решений, приведенные и обобщенные в письменных объяснениях. Это произошло потому, что программа искусственного интеллекта ChatGPT придумала их.
Адвокат Стивен А. Шварц из фирмы Levidow & Oberman показал суду в письменных показаниях, что он использовал программу искусственного интеллекта ChatGPT для подготовки своей позиции по гражданскому делу. Господин Шварц, который занимается юридической практикой в Нью-Йорке в течение трех десятилетий, сказал судье П. Кевину Кастелю, что у него не было намерения обманывать
суд или авиакомпанию. Также он отметил, что он никогда не использовал ChatGPT
г 6 гД
и поэтому не знал о возможности того, что его содержимое может быть ложным6. □ П
Процессуальное законодательство Российской Федерации устанавливает ¡=¡m
обязанность для лиц, участвующих в деле, добросовестно пользоваться процессуальными правами, что подразумевает и необходимость предоставления суду достоверной информации, однако не устанавливает за невыполнение этой □ ЕС
обязанности мер процессуальной ответственности. П-С
□ 0
5 Facial recognition technology: fundamental rights considerations in the context of law □□ enforcement // URL: https://rm.coe.int/facial-recognition-technology-fra-coe-meeting-july-2020-/ ¡ И 16809eee8b) (дата обращения: 31.01.2024).
6 Mata v. Avianca, Inc., No. 1:2022cv01461 — Document 55 (S.D.N.Y. 2023) // URL: https:// ШЦ law.justia.com/cases/federal/district-courts/new-york/nysdce/1:2022cv01461/575368/55/ (дата
обращения: 31.01.2024). СТША
□
>
в М УНИВЕРСИТЕТА
L-—и мени О. Е. Кугафи на (МПОА)
Только умышленное введение суда в заблуждение (обман) путем предоставления недостоверной информации лицами, содействующими осуществлению правосудия, а также путем фальсификации доказательств лицами, участвующими в деле, и их представителями влечет уголовную ответственность.
Ответственность за обман суда (умышленное введение в заблуждение) предусмотрена Уголовным кодексом РФ, в том числе ст. 303 (за фальсификацию доказательств по гражданскому, административному делу лицом, участвующим в деле, или его представителем, а также доказательств по делу об административном правонарушении участником производства по делу об административном правонарушении или его представителем, или за фальсификацию доказательств по уголовному делу лицом, производящим дознание, следователем, прокурором или защитником), ст. 307 (за заведомо ложные показания, заключение эксперта, специалиста или неправильный перевод).
Однако законодательством РФ не предусмотрено никакой ответственности за введение суда в заблуждение при помощи специальных информационно-технологических программ, в том числе на основе искусственного интеллекта ChatGPT.
Надо сказать, что Китайская Народная Республика достигла значительных успехов в разработке и применении программ ИИ.
В июле 2016 г. Главное управление Центрального комитета Коммунистической партии Китайской Народной Республики и Главное управление Государственного совета Китая опубликовали Концепцию национальной стратегии развития информатизации, в которой была поставлена цель построения «умного суда», повышения уровня информатизации принятия дел, судебного разбирательства, исполнения судебных решений, надзора, а также содействия обеспечению правопорядка и правосудия.
В июле 2017 г. Государственный совет опубликовал План развития искусственного интеллекта нового поколения и предложил трехэтапную стратегию. 11.03.2021 в Четырнадцатом пятилетнем плане национального экономического и социального развития Китайской Народной Республики и начертания долгосрочных целей до 2035 года, принятом Всекитайским собранием народных представителей, были выдвинуты требования по усилению работы по внедрению «умных судов» в стране.
Государственный совет Китайской Народной Республики заявил о своем намерении внедрить искусственный интеллект в китайскую систему уголовного правосудия, включая вынесение уголовных приговоров.
На сегодняшний день уже в 86 % судов по всей стране созданы залы судебных разбирательств с высокой степенью цифровизации, все быстрее появляются различные типы интеллектуального оборудования для обслуживания судебных процессов. Широкое распространение получили интеллектуальная система обработки дел Шанхайского суда (проект 206), интеллектуальная система вынесения решений судьи Жуй Пекинского суда, система больших данных Legal Mirror суда Гуйчжоу.
Однако этот план вызвал ряд тревожных вопросов и проблем, в том числе связанных с неправильной интерпретацией ИИ судебных решений, неспособностью ИИ давать оценочные суждения, возможной предвзятостью алгоритмов, на которых построена работа ИИ, и их неопределенным качеством, избирательностью
УНИВЕРСИТЕТА Искусственный интеллект в уголовной юстиции
имени o.e. кугафина(мгюа) Российской Федерации и Китайской Народной Республики
данных, используемых ИИ, процессуальной формой вынесения приговоров с помощью ИИ, снижением уровня доверия населения к системе вынесения приговоров, постановленных с помощью ИИ.
По указанным причинам положительное значение ИИ в достижении цели по принципу «то же дело, тот же приговор» не следует переоценивать, как и надеяться на однозначный эффект при его применении.
По результатам научной дискуссии рядом ученых-процессуалистов сделан вывод о том, что китайским разработчикам следует проявлять большую осторожность при интеграции ИИ в процесс вынесения приговоров. Искусственный интеллект следует использовать не как субъекта уголовно-процессуальной деятельности, принимающего решения, а только в качестве «помощника», предоставляющего информацию судьям и помогающего им выносить судебные решения. Окончательное решение в любом случае должно оставаться в руках судей.
Более того, алгоритмы должны быть прозрачными, чтобы судьи могли контролировать их работу. Предлагается создание специального комитета, действующего под надзором Верховного народного суда Китайской Народной Республики, который будет гарантировать качество судебных данных, используемых ИИ, и управлять централизованной системой ИИ при вынесении приговоров. Эти меры будут способствовать максимально эффективному использованию судебных данных и внедрению справедливой, точной и эффективной системы вынесения приговоров.
6. Сушина Т. Е., Собенин А. А. Перспективы и риски использования искусствен-
□
БИБЛИОГРАФИЯ
1. Андреева О. И., Иванов В. В., Нестеров А. Ю., Трубникова Т. В. Технологии распознавания лиц в уголовном судопроизводстве: проблема оснований правового регулирования использования искусственного интеллекта // Вестник Томского государственного университета. — 2019. — № 449. — С. 201—212.
2. Ермакова Е. П. Этапы информатизации судов в КНР: версии 1.0, 2.0, 3.0 и 4.0 // Евразийский юридический журнал. — 2022. — № 10 (173). — С. 43—47.
3. Драгилев Е. В., Драгилева Л. Л., Дровалева Л. С., Паламарчук С. А. Информатизация судебной системы Китая // Юридическая наука. — 2022. — № 8. —
С. 54—59. ОП
4. Кубасов И. А., Лекарь Л. А. Внедрение перспективных систем мониторинга °т и анализа больших данных, полученных в сети Интернет, для обеспечения деятельности оперативных подразделений МВД России // Труды Академии
управления МВД России. — 2023. — № 3 (67). — С. 154—161. □ ЕЕ
5. Реховский А. Ф. Использование искусственного интеллекта в уголовном процессе Китая // Технологии XXI века в юриспруденции : материалы Третьей международной научно-практической конференции. Екатеринбург, 21 мая По 2021 г / отв. редактор Д. В. Бахтеев. — Екатеринбург : Уральский гос. юрид. унт, 2021. — С. 69—77.
Ш> ШЦ
ного интеллекта в уголовном судопроизводстве // Российский следователь. — 2020. — № 6. — С. 21—25.
СТВА
>
в М УНИВЕРСИТЕТА
L-—и мени О. Е. Кугафи на (МПОА)
7. Химичева О. В., Андреев А. В. Некоторые замечания о принципах использования технологий искусственного интеллекта в уголовном судопроизводстве России // Вестник экономической безопасности. — 2021. — № 2. — С. 240—243.
8. Hang Zhen (ISM). Artificial intelligence intervention in sentencing mechanism: dilemma, orientation and deconstruction
Щ) // Journal of Chongqing University (Social Science edition)
(first published online 18/12/2020). — URL: https://doi.org/10.11835/j. issn.1008-5831.fx.2020.12.003.
9. Shi J. Artificial Intelligence, Algorithms and Sentencing in Chinese Criminal Justice: Problems and Solutions // Crim Law Forum 33, 121—148 (2022). — URL: https:// doi.org/10.1007/s10609-022-09437-5.
10. Yujie Zhang (Ж1/и). Judicial Application on Sentencing Algorithms: Logic, Difficulties and Procedure Responses (ШвьмЭДШйЙ^ЙШШ: ii-t!^
(2021) // 3 Oriental Law (Ж^Й^) 187—194.
11. Weidong Ji (ВДЖ). Changes of Judicial Power in AI Era 2^," (2018) // 1, Oriental Law (ЖЙЙ) 125 —132.
12. ZhangX. China's mode of electronic reform for court records // Правоведение. — 2022. — Т. 66. — № 4. — С. 360—370. — URL: https://doi.org/10.21638/ spbu25.2022.401.
