CC BY
711
УДК 34.023 ББК 67.05
Искусственный интеллект: правовые аспекты
А.А. Васильев1, Д. Шпопер2
'Алтайский государственный университет (Барнаул, Россия) 2Поморская академия в Слупске (Слупск, Польша)
Artificial Intelligence: Legal Aspects
AA. Vasilev1, D. Szpoper2
'Altai State University (Barnaul, Russia), 2Pomeranian University in Slupsk (Slupsk, Poland)
Рассматриваются юридические аспекты использования технологии искусственного интеллекта. Отмечается слабое нормативное регулирование применения искусственного интеллекта в России с учетом активного и повсеместного внедрения данной технологии в различных сферах жизни. Разработки в сфере искусственного интеллекта поднимают очень серьезные вопросы этического и правового порядка. Среди юридических вопросов требуют решения такие вопросы, как природа искусственного интеллекта, наличие правосубъектности, проблема ответственности за вред, причиненный искусственным интеллектом, влияние на юридическую профессию и т.п. Особое внимание в работе уделено необходимости выработки юридического понятия искусственного интеллекта в целях построения эффективной модели правового регулирования. По итогам исследования предложены следующие признаки искусственного интеллекта: наличие технического устройства или киберфизи-ческой системы; способность к принятию, обработке и передаче информации; способность к автономной работе; самообучение на основе анализа информации и приобретенного опыта; самосознание; мышление и способность к принятию самостоятельных решений.
Ключевые слова: право, технологии, цифровая экономика, искусственный интеллект, роботы, разум.
DOI 10.14258/izvasu(2018)6-03
The article deals with the legal aspects of the use of artificial intelligence technology. The authors note a weak regulatory control of the use of artificial intelligence in Russia, taking into account the active and widespread introduction of this technology in various spheres of life. Developments in the field of artificial intelligence raise very serious ethical and legal issues. Among legal issues, such as the nature of artificial intelligence, the existence of a legal personality, the problem of liability for damage caused by artificial intelligence, the impact on the legal profession, etc., need to be addressed. Particular attention is paid to the need to develop a legal concept of artificial intelligence in order to build an effective model of legal regulation. Following the results of the study, the authors proposed the following features of artificial intelligence: the presence of a technical device or cyberphysical system; ability to receive, process and transfer information; ability to work autonomously; self-learning based on the analysis of information and experience; self-awareness; thinking and the ability to make independent decisions.
Key words: law, technology, digital economy, artificial intelligence, robots, mind.
Научно-техническая революция в XXI в. приобрела новые очертания в сфере цифровых технологий. В сфере программирования одним из достижений стали разработки в сфере искусственного интеллекта и робототехники [1, с. 41-76; 2, с. 40-65; 3, с. 173]. При серьезном потенциале в использовании искусственного интеллекта в различных областях жизне-
деятельности остаются слабо изученными этические и правовые аспекты использования искусственного интеллекта. Без преувеличения можно утверждать, что правовые системы на текущий момент безнадежно отстали от развития технологии искусственного интеллекта. Более того, реальное применение искусственного интеллекта практически не обеспече-
но должной международно-правовой и национальной нормативной основой. Вопросы использования «умных роботов» лишь спорадически регулируются в отдельных государствах мира — Германии, Южной Корее, Франции. В ЕС принята резолюция «Нормы гражданского права о робототехнике» от 16 февраля 2017 г. Единственным исключением в России выступает так называемый «закон Гришина» — проект федерального закон «О робототехнике», разработанный юридической фирмой Dentons [4]. В плане работы Государственной Думы Российской Федерации на 2018 г. запланировано рассмотрение вопроса о разработке проекта закона о робототехнике. Фактически термин «искусственный интеллект» встречается всего лишь в трех нормативных правовых актах стратегического характера в сфере развития цифровой экономики. Что симптоматично, в одном из этих документов в качестве задачи на 2019 г. поставлено решение вопросов правового регулирования при использовании робототехники и искусственного интеллекта. При этом искусственный интеллект уже активно внедряется в различные сферы жизнедеятельности человека: беспилотные летательные аппараты, беспилотный наземный транспорт, нейронные сети для работы в сфере бухучета, прогнозирования диагноза больных, выполнения целого ряда юридических услуг (составление договоров, исков и прочих документов).
Среди юридических аспектов использования искусственного интеллекта можно назвать следующие:
Во-первых, отсутствует четкая юридическая дефиниция искусственного интеллекта, что сдерживает решение иных юридических вопросов: правосубъектность искусственного интеллекта, ответственность за вред, причиненный при использовании искусственного интеллекта, технические регламенты работы искусственного интеллекта. Для должного определения можно бы было опереться на понимание искусственного интеллекта в специальных науках.
При этом само словосочетание «искусственный интеллект» довольно часто встречается в правовых актах России стратегического характера в сфере развития цифровых технологий. Но определений данного понятия в российском законодательстве нет до сих пор. Так, в программе «Цифровая экономика Российской Федерации», утвержденной Распоряжением Правительства РФ от 28 июля 2017 г., технология искусственного интеллекта обозначена как одна из приоритетных сквозных технологий для решения вопросов обработки больших данных, распознавания объектов и интеллектуального поиска.
Во-вторых, возникает вопрос о возможности признания за искусственным интеллектом качеств субъекта права [5, с. 51]. Здесь возможно два варианта. В первом случае искусственный интеллект понимается всего лишь как техническое сред-
ство с правовым режимом вещи. Во втором случае за ним признается статус электронного лица по аналогии с юридическим лицом через использование приема правовой фикции. И тот и другой случае не в полной мере адекватны. Квалификация искусственного интеллекта как объекта права не учитывает наличия некой субъектности — способности к мышлению и принятию самостоятельных решений. Во втором случае поднимается более глубокий вопрос мировоззренческого порядка: искусственный интеллект — это личность, подобная человеку. От решения данного вопроса зависит модель правового регулирования, начиная с возможности вступления в правоотношения и до возложения на такой интеллект юридической ответственности. При этом очевидно, что для приобретения статуса субъекта права искусственным интеллектом необходимо наличие такого качества, как воля. Искусственный интеллект волевой способностью не обладает. Поэтому наделение правосубъектностью искусственного интеллекта в любом случае будет фикцией.
Соответственно третий аспект применения искусственного интеллекта поднимает проблему ответственности за вред, причиненный таким интеллектом. В юридической литературе обсуждаются различные модели возложения деликтной ответственности:
— обладатель прав на устройство, снабженное искусственным интеллектом;
— разработчик программного обеспечения;
— оператор, обслуживающий искусственный интеллект.
Вполне обсуждаемым выглядит возможность применения к искусственному интеллекту конструкции источника повышенности ответственности, при которой возмещение за вред, причиненный таким объектом, наступает без учета вины собственника объекта.
Следует отметить, что искусственный интеллект ставит вопрос о судьбе самой юридической профессии. Искусственный интеллект вполне способен выполнять типичные юридические действия по заданному алгоритму: составление сделок, исковых заявлений и пр. Крупные компании в России, в том числе Сбербанк, ВТБ, планируют широко использовать нейронные сети для такого рода работы. Естественно, в принципе заменить человека искусственный интеллект не может, поскольку не рассчитан на решение нестандартных ситуаций с учетом сугубо человеческих свойств — таких как совесть, справедливость, милосердие и пр. Хотя ведущие разработчики в сфере искусственного интеллекта серьезно заявляют о том, что загруженные базы данных (законодательство, судебная практика, док-тринальные источники) для нейронных сетей позволят искусственному интеллекту сформулиро-
вать и применить принципы права. Американские исследователи полагают на основе эксперимента по анализу решений ЕСПЧ искусственным интеллектом, что он способен предсказывать решения судов. В 79% случаев искусственный интеллект смог предсказать решение ЕСПЧ на основе изучения материалов дела [6]. В России ряд крупных корпораций тестируют нейронные сети на предмет выполнения искусственным интеллектом тех же видов работы, что и профессиональные юристы. В рамках Петербургского юридического форума 2018 г. состоялось состязание нейронной сети и юриста-практика.
Таким образом, краткий обзор сфер и вопросов, связанных с применением искусственного интеллекта, ставит с непреложностью вопрос о приоритетном разрешении проблемы определения понятия «искусственный интеллект» и его фиксации в правовых текстах. При этом следует обратить внимание на ряд осложнений в решении данного вопроса:
— в науке отсутствует общепринятое определение базового термина «естественный (человеческий) интеллект», который воспринимается как ведущее свойство человеческой природы. При этом интеллект зачастую связывают с таким свойством, как мышление;
— в специальной литературе нет единства в понимании искусственного интеллекта и наряду с этим термином используют такие понятия, как «машинное обучение», «нейронные сети» и т.п.
Следует отметить, что ученые различают два термина: «слабый искусственный интеллект» и «сильный искусственный интеллект». Слабый искусственный интеллект понимается как умная машина для решения частных задач (например, разработка сценариев для кинофильмов), тогда как сильный искусственный интеллект используется для решения широкого спектра задач [7, с. 43-44].
В многообразии определений искусственного интеллекта можно выделить следующие основные направления:
— искусственный интеллект как система, которая действует подобно человеку с аналогичными когнитивными способностями;
— искусственный интеллект как система (устройство), обладающая хотя бы одним из свойств человеческого разума;
— искусственный интеллект как сверхразум, как система, превосходящая интеллектуальные способности человека [8, с. 56];
— искусственный интеллект как научное направление, изучающее возможность и использование систем (устройств) для моделирования человеческого мышления (машинное обучение).
Интересное определение предлагают А.В. Понкин и А.И. Редькина: «искусственный интеллект — это искусственная сложная кибернетическая компью-
терно-программно-аппаратная система (электронная, в том числе — виртуальная, электронно-механическая, био-электронно-механическая или гибридная) с когнитивно-функциональной архитектурой и собственными или релевантно доступными (приданными) вычислительными мощностями необходимых емкостей и быстродействия». Эта кибернетическая система обладает рядом свойств: субстантивость (субъектность и способность совершенствоваться); высокоуровневая способность воспринимать информацию, принимать решения и их исполнять, анализировать собственный опыт; способность адаптироваться к внешней среде, выполнять когнитивные функции (творческие, аналитические), способность к самосознанию [9, с. 94-95].
Близкого определения придерживается П.М. Морхат: «искусственный интеллект — это полностью или частично автономная самоорганизующая (самоорганизующаяся) компьютерно-аппаратно-программная виртуальная (virtual) или киберфизическая (cyber-physical), в том числе био-кибернетическая (bio-cybernetic), система (юнит), наделенная/обладающая способностями и возможностями:
— антропоморфно-разумных мыслительных и когнитивных действий, таких как распознавание образов, символьных систем и языков, рефлексия, рассуждение, моделирование, образное (смыслопо-рождающее и смысловоспринимающее) мышление, анализ и оценка;
— самореферентности, саморегулирования, самоадаптирования под изменяющиеся условия, самоограничения;
— самоподдержания себя в гомеостазе;
— генетического поиска (genetic algorithm — эвристический алгоритм поиска, с сохранением важных аспектов „родительской информации" для „последующих поколений" информации), накопления информации и опыта;
— обучения и самообучения (в том числе — на своих ошибках и своем опыте); самостоятельной разработки и самостоятельного применения алгоритмов самоомологации;
— самостоятельной разработки тестов под собственное тестирование, самостоятельного проведения самотестирований и тестирований компьютерной и, при возможности, физической реальности;
— антропоморфно-разумного самостоятельного (в том числе творческого) принятия решений и решения задач и проблем» [5, с. 69].
В законодательстве ряда зарубежных стран предприняты попытки определения термина «искусственный интеллект» [10, с. 48]. Так, в резолюции Европарламента «нормы гражданского права о робототехнике» от 17 февраля 2017 г. отмечается необходимость выработки общих понятий терминов «киберфизические системы», «умные автономные роботы» с учетом таких признаков, как:
1) способность быть автономными и обмениваться данными;
2) способность к обучению на основе приобретенного опыта;
3) наличие минимальной физической поддержки;
4) способность адаптации к внешней среде;
5) отсутствие жизни.
В Южной Корее еще в 2008 г. был принят закон «О содействии развитию и распространению умных роботов». В законе предлагается следующее определение умного робота: механическое устройство, которое способно воспринимать окружающую среду, распознавать обстоятельства, в которых оно функционирует, и целенаправленно передвигаться самостоятельно.
Анализ существующих подходов к понятию «искусственный интеллект» позволяет выделить следующие признаки:
— наличие технического устройства (киберфизи-ческой системы), способной воспринимать информацию и ее передавать;
— определенная степень автономной работы без человеческого участия (субъектность) при отсутствии жизни такой системы;
— способность к анализу, обобщению информации, выработке интеллектуальных решений на основе изученных данных (мышление), самосознанию;
— способность к обучению, самостоятельному поиску информации и принятию на основе этой информации решений.
Библиографический список
1. Келли К. Неизбежно. 12 технологических трендов, которые определяют наше будущее. — М., 2017.
2. Росс А. Индустрии будущего. — М., 2017.
3. Шваб К. Четвертая промышленная революция. — М., 2018.
4. РОБОПРАВО: Исследовательский центр проблем регулирования робототехники и искусственного интеллекта [Электронный ресурс]. — URL: http:// robopravo.ru/.
5. Архипов В.В., Наумов В.Б. Искусственный интеллект и автономные устройства в контексте права: о разработке первого в России закона о робототехнике // Труды СПИИРАН. — 2017. — № 6.
6. Aletras N., Tsarapatsanis D., Preo^iuc-Pietro D., Lampos V. Predicting Judicial Decisions of the European
Court of Human Rights: A Natural Language Processing Perspective, Peer J Computer Science [Электронный ресурс]. — URL: https://peerj.com/articles/cs-93/.
7. Морхат П.М. Искусственный интеллект. Правовой взгляд. — М.,2017.
8. Бостром Н. Искусственный интеллект. Этапы. Угрозы. Стратегии. — М., 2016.
9. Понкин А.В., Редькина А.И. Искусственный интеллект с точки зрения права // Вестник РУДН. Сер. : Юридические науки. — 2018.
10. Огородов Д.В. Проблемы этической и правовой регламентации систем искусственного интеллекта (робототехники) : обзор круглого стола IP Форума // Журнал Суда по интеллектуальным правам. — 2018. — № 19.
