CC BY
366УДК 340 DOI: 10.31249/rgpravo/2021.01.09
ИВАНОВА А.П.1 ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ В СФЕРЕ ПРАВА И ЮРИДИЧЕСКОЙ ПРАКТИКЕ: ОСНОВНЫЕ ПРОБЛЕМЫ И ПЕРСПЕКТИВЫ РАЗВИТИЯ. (Обзор).
Аннотация. В обзоре рассматриваются вопросы применения искусственного интеллекта в правовых системах и влияние ИИ на юридическую профессию. Анализируется использование искусственного интеллекта в деятельности юристов, в том числе судей, и государственных органов.
Ключевые слова: искусственный интеллект; правовое регулирование; машинное обучение; отправление правосудия онлайн.
IVANOVA A.P. Artificial intelligence in the field of law and legal practice: The main problems and prospect of development. (Review).
Abstract. The review examines the use of artificial intelligence in legal systems and the impact of AI on the legal profession. The article analyzes the use of artificial intelligence in the activities of lawyers, including judges, and government agencies.
Keywords: artificial intelligence; legal regulation; machine learning; online administration of justice.
На сегодняшний день исследователи успешно применили технологию ИИ для автоматизации таких сложных действий, как игра в шахматы, перевод языков и вождение транспортных средств. Когда инженеры автоматизируют деятельность, в которой
РАН.
1 А.П. Иванова, младший научный сотрудник Отдела правоведения ИНИОН
задействованы когнитивные функции мозга, это принято описывать как применение искусственного интеллекта [3, р. 1308].
Вопреки распространенному мнению технологии ИИ нельзя отождествлять с машинами, обладающими способностью к мышлению. Современный ИИ дает результаты, обнаруживая закономерности в данных и используя знания, правила и информацию, специально закодированные людьми в формы, которые могут быть обработаны компьютерами [2, р. 238]. Благодаря этому ИИ может давать удивительно хорошие результаты, сравнимые с результатами, полученными при реализации когнитивных функций человеческого мозга.
Однако ИИ успешно работает лишь в некоторых сферах, где есть абсолютно правильные или неправильные ответы, различимые паттерны, структуры и где быстрый поиск и вычисления дают преимущества по сравнению с человеческим познанием [Ibid., р. 238]. Вычислительные механизмы, используемые искусственным интеллектом, существенно отличаются от механизмов человеческого мышления [3, р. 1308].
Современные технологии ИИ, как правило, лучше всего подходят для тех видов деятельности, где есть базовые паттерны и правила, формализованные однозначные ответы. Однако в концептуальных, абстрактных областях, где преобладает ценностный подход и необходима интуиция, технологии искусственного интеллекта малоприменимы.
В области права применение искусственного интеллекта предполагает использование компьютерных и математических методов в целях усовершенствования законов. Еще в 1600-х годах Готфрид Лейбниц проводил исследования на тему того, как математические формализмы могут улучшить закон. В последнее время начиная с середины ХХ в. наблюдается активное развитие исследований, в которых идеи компьютерных наук и технологии искусственного интеллекта находят свое применение в области права. В 1970-1990-е годы многие из ранних проектов в области искусственного интеллекта и права были сосредоточены на формальном моделировании юридических аргументов в компьютерной форме и компьютерном моделировании законодательства и правовых норм [3, р. 1327].
К числу пионеров в области искусственного интеллекта и права относятся Энн Гарднер, Л. Торн Маккарти, Кевин Эшли, Радбуд Винкельс, Маркет Серго, Ричард Сасскинд, Генри Прак-кен, Роберт Ковальски, Эдвина Рисланд, Кинчо Лоу, Карл Бран-тинг, Майкл Генезерет, Роланд Вогл, Джованни Сартор, Рональд Стэмпер, Кэрол Хафнер и многие другие выдающиеся исследователи. Начиная с 2000-х годов все большее значение в сфере ИИ и права приобретают методы машинного обучения. Компьютерные системы с поддержкой искусственного интеллекта постепенно начали проникать в различные аспекты правовой системы.
Практикующие юристы выполняют множество юридических задач, включая консультирование клиентов, проработку юридических позиций, составление договоров, ведение судебных разбирательств и другие виды деятельности [3, р. 1329]. Некоторые из этих действий, как правило, механические и рутинные, способны выполнять компьютеры с поддержкой искусственного интеллекта, например проверку документов при подготовке к судебному разбирательству. В середине 2000-х годов большое развитие получили прогностическое кодирование и технический анализ.
Прогностическое кодирование - общее название класса компьютерных методов проверки документов, которые направлены на автоматическое разграничение документов на релевантные и нерелевантные применительно к конкретному судебному разбирательству [Ibid., р. 1330]. В последнее время технологии прогностического кодирования используют методы ИИ, такие как машинное обучение и представление знаний, чтобы помочь автоматизировать данный вид деятельности.
Однако важно понимать пределы автоматизированного прогностического кодирования. Зачастую окончательное решение о релевантности определенных документов принимает именно человек, поскольку компьютерное программное обеспечение не способно принимать решения, связанные с пониманием законов, политики и других абстрактных конструкций. Автоматизированные системы прогностического кодирования скорее используются для фильтрации тех документов, нерелевантность которых очевидна.
Существуют и другие примеры использования машинного обучения в деятельности, которой традиционно занимались исключительно юристы-люди: в случае массовых обзоров контрак-
тов (например, при проведении процедуры due diligence в рамках слияния), обобщения документов (document assembly) и юридических исследований [3, p. 1331]. Но и в этих случаях ИИ выполняет наиболее простые и понятные задачи, в более сложных ситуациях конечный продукт (например, письменный договор о слиянии) создается человеком.
Еще одним применением машинного обучения в юридической практике является прогнозирование правовых результатов. Одна из функций, которую адвокаты традиционно выполняют для клиентов, заключается в анализе и оценке рисков судебного разбирательства. Все чаще адвокаты и другие лица, заинтересованные в определенном исходе судебных дел, используют системы машинного обучения для прогнозирования результатов разбирательства [Ibid., p. 1332].
Таким образом, в настоящее время ИИ с гораздо большей вероятностью сможет автоматизировать юридическую задачу, обладающую базовой структурой или моделью, которую он может использовать. Однако юридические задачи, которые требуют абстрактного мышления, эмоционального интеллекта человека, вряд ли могут быть автоматизированы, учитывая пределы современных технологий ИИ.
Еще один аспект ИИ и права связан с использованием автоматизированных систем при отправлении правосудия [Ibid., p. 1333]. Например, когда судья принимает решение об освобождении обвиняемого в уголовном преступлении под залог до суда, он должен оценить степень вероятности бегства обвиняемого или совершения им повторного преступления. Поэтому на сегодняшний день судьи все чаще используют системы ИИ, которые могут дать количественную оценку рисков побега или совершения нового преступления. Как правило, эти системы используют алгоритмы машинного обучения, которые на основании прошлых данных о преступлениях делают прогноз о поведении обвиняемого при освобождении его под залог.
Однако в настоящее время создание ИИ, способного в полной мере осуществлять правосудие, не представляется возможным. Мозг судьи (человека) выполняет огромный объем когнитивной работы при разрешении спора. И часть этой работы заключается в том, чтобы забыть предрассудки или пересмотреть
ценности для эффективного преодоления конфликта, либо для того, чтобы способствовать эволюции правовой системы и человечества в целом или, в некоторых случаях, для сохранения статус-кво.
Судьи должны быть чувствительны к контексту, к смягчающим обстоятельствам в отдельных случаях и к изменениям социальных норм с течением времени, это позволяет им гибко применять правовые нормы. Хотя человеческая контекстуализация может быть внедрена в систему искусственного интеллекта во время проектирования или обучения, последняя все равно не сможет воспроизвести человеческую контекстуализацию во время применения алгоритмического правила, особенно если это применение должно происходить во временном, географическом и культурном контексте. Судьи-люди обладают уникальной способностью наблюдать за правовой эволюцией и обеспечивать, чтобы судебная система государства «шла в ногу со временем». Искусственный интеллект может быть последовательным, однако ему не хватает гибкости, присущей людям, чтобы выйти за пределы своих инструкций и применить «здравый смысл» для адаптации к новым ситуациям [2, р. 238].
Поскольку судьи-люди живут в реальном мире и усваивают социальные нормы, эти нормы формируют и подкрепляют их рассуждения. Следовательно, в отличие от систем ИИ, судьи-люди способны объяснить ход своих рассуждений, в результате которых они пришли к тому или иному решению. В связи с этим решения, принимаемые людьми, представляются более легитимными по сравнению с решениями алгоритмов.
Таким образом, идея алгоритмизированного суда требует тщательной и осознанной разработки, при которой необходим учет принципов справедливости, беспристрастности и эффективности, сочетание их со статистическими методами изучения данных. «Это не просто вопрос обеспечения точности и совершенства технической системы, а скорее учет фундаментально несовершенного, дискриминационного и несправедливого мира, в котором возникают эти системы, и структурного и исторического наследия, в котором эти системы применяются» [1, р. 87].
Цифровизация судебной системы уже произошла во всем мире в разных формах и на разных уровнях, однако автоматизация судебной системы с помощью ИИ и машинного обучения все еще
находится на начальной стадии своего развития и внедрения. Канада, Соединенное Королевство, Ирландия и даже суд Европейского союза уже используют системы электронной подачи документов, онлайн-конференции и системы прогнозирования. Однако лидирует по автоматизации судебной системы КНР, у которой уже есть несколько интернет-судов в городах Ханчжоу, Пекин и Гуанчжоу. Суды работают на основе больших данных, технологии блокчейн и ИИ выполняет значительный объем судейской работы.
Например, интернет-суд Пекина может автоматически создавать юридические документы для судей. На основании собранных данных и находящихся в хранилище документов он создает шаблоны и стандартизированные документы, которые в дальнейшем используются судьями при решении отдельных дел. Это делает процесс принятия решений более быстрым и последовательным. Кроме того, в июле 2019 г. в Пекинском интернет-суде появился судья с искусственным интеллектом, который мог ответить на 82 консультационных вопроса.
Все три интернет-суда являются судами первой инстанции в пределах юрисдикции своих городов и могут рассматривать споры, связанные с онлайн-продажей товаров и услуг, кредитованием, владением и нарушением авторских и смежных прав, и некоторые другие виды споров [1, р. 88]. Однако даже в этих интернет-судах процесс принятия решений лежит непосредственно на судье-человеке, а система ИИ лишь помогает справиться с повторяющимися стандартизированными задачами.
Также технологии ИИ используются в сфере различных государственных льгот. Часто правительственные учреждения программируют системы, которые на основании ряда правил и критериев решают, когда заявление на получение льгот должно быть одобрено, а когда нет [3, р. 1333]. Это позволяет государственным служащим значительно быстрее обрабатывать заявки.
Еще одно важное применение ИИ связано с полицейской деятельностью. Полиция использует технологию ИИ в двух основных направлениях: 1) прогнозирование, т.е. использование технологии машинного обучения для выявления закономерностей на основании данных о прошлых преступлениях и определения предполагаемого места, а также времени совершения будущих преступлений; 2) технологии распознавания лиц. Кроме того, полиция
регулярно сканирует места массового скопления людей с целью идентификации лиц, находящихся в розыске. Наконец, технологии ИИ применимы и в деятельности граждан, не занимающихся юриспруденцией профессионально, однако пользующихся определенными правовыми средствами, - сотрудников компаний, предпринимателей. К примеру, многие организации используют специализированные экспертные системы, содержащие исчерпывающие сведения о правовом регулировании деятельности компании.
Вместе с тем есть несколько важных проблем в области ИИ и права, заслуживающих внимания. Одна из них связана с потенциальной тенденциозностью алгоритмического принятия решений. Если правительственные чиновники используют машинное обучение или другие модели искусственного интеллекта для принятия важных решений, влияющих на жизнь или свободу людей (например, вынесение уголовных приговоров), важно определить, справедливо ли и одинаково ли относятся к людям лежащие в их основе компьютерные модели. Нередко высказывались предположения о том, что компьютерные модели, изучающие закономерности на основе данных, могут быть слегка предвзяты по отношению к определенным группам ввиду предубеждений, заложенных в этих данных [3, р. 1335].
Системы ИИ могут давать необъективные результаты из-за (1) предвзятости, присутствующей в наборах обучающих данных и кодирующейся в дизайне системы; (2) технической односторонности, возникающей из-за ограничений системы, таких как потеря контекста и упрощенные формулировки, сопровождающие попытки перевести реальность в код, и (3) эмерджентной субъективности, возникающей из-за взаимодействия пользователя с конкретными группами населения [2, р. 240].
Технические сбои и преднамеренное вмешательство недобросовестных лиц также представляют угрозы в работе систем ИИ. Системы ИИ в сфере права, особенно в судебной системе, могут стать объектом хакерских атак со стороны лиц, непосредственно вовлеченных в судебный процесс и иных заинтересованных лиц. Конечно, судьи-люди также могут быть подвержены влиянию угроз, взяток или внутренних предрассудков, однако это принципиально отличается от полного контроля, который недобросовестные лица могут получить над взломанной системой.
Еще одна современная проблема, связанная с ИИ и правом, обусловлена интерпретируемостью систем искусственного интеллекта и прозрачностью того, как они принимают свои решения. Часто системы ИИ спроектированы таким образом, что лежащие в их основе механизмы не поддаются разъяснению даже создавшими их программистами.
Последний вопрос связан с потенциальными проблемами, связанными с предубеждениями к автоматизированному принятию решений. Существуют опасения, что решения, принятые с использованием ИИ, могут казаться безусловно нейтральными, объективными и точными, хотя на деле это не совсем так. Например, если судья получает автоматизированный отчет, в котором указывается, что вероятность повторного правонарушения в соответствии с моделью машинного обучения равна 80,2%, такой прогноз приобретает ореол непогрешимости и нейтральности. Однако судьи (и правительственные чиновники) могут ненадлежащим образом полагаться на эту ложную точность, не принимая во внимание пределы ИИ, связанные с ним неопределенности, субъективные решения, которые были приняты при создании системы.
Таким образом, современные системы ИИ способны давать отличные результаты, используя шаблоны, правила и эвристические прокси, которые позволяют им принимать решения в определенных, узких контекстах. Однако современные технологии ИИ имеют свои ограничения. Они не умеют работать с абстракциями, пониманием смысла, переносом знаний из одной деятельности в другую и обработкой полностью неструктурированных или открытых задач. Большинство задач, с которыми ИИ справляется успешно (например, шахматы, мошенничество с кредитными картами, обнаружение опухолей), связаны с высокоструктурированными областями, где есть формализованные ответы и сильные базовые паттерны, которые могут быть алгоритмически обнаружены. Знание сильных и слабых сторон современных технологий ИИ имеет решающее значение для понимания искусственного интеллекта в сфере права. Это позволяет иметь реалистичное представление о том, где искусственный интеллект, вероятно, повлияет на практику и отправление правосудия, а где, что не менее важно, - нет.
Список литературы
1. Arias P.C. Artificial intelligence & machine learning: А model for a new judicial system? // Revista internacional jurídica y empresarial. - Madrid, 2020. - N 3. -P. 81-91.
2. Crootof R. «Cyborg justice» and the risk of technological-legal lock-in // Columbia law review forum. - New York, 2019. - Vol. 119, N 7. - P. 233-251.
3. Surden H. Artificial intelligence and law: An overview // Georgia state university law review. - Atlanta, 2019. - Vol. 35, N 4. - P. 1305-1337.
