CC BY
49
open q access научные исследования, посвященные вопросам обеспечения бдд open q access
УДК 342.951 DOI 10.53039/2079-4401.2021.6.4.003
БКК 67.401 © А.В Капустин, Ю.А. Березовский, 2021
Научная специальность: 12.00.14 - Административное право; административный процесс
ВОПРОСЫ ИСПОЛЬЗОВАНИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА ПРИ ЭКСПЛУАТАЦИИ ВЫСОКОАВТОМАТИЗИРОВАННЫХ ТРАНСПОРТНЫХ СРЕДСТВ
Андрей Викторович Капустин,
заместитель начальника отдела ФКУ «Научный центр БДД МВД России» Контакты: ул. Поклонная, д. 17, Москва, Россия, 121170
E-mail: [email protected]
Юрий Александрович Березовский,
научный сотрудник отдела ФКУ «Научный центр БДД МВД России» Контакты: ул. Поклонная, д. 17, Москва, Россия, 121170
E-mail: [email protected]
Аннотация. В статье затронуты вопросы, касающиеся правового регулирования участия в дорожном движении высокоавтоматизированных транспортных средств с использованием искусственного интеллекта.
Ключевые слова: искусственный интеллект, высокоавтоматизированное транспортное средство, безопасность дорожного движения, Государственная инспекция безопасности дорожного движения
QUESTIONS OF THE USE OF ARTIFICIAL INTELLIGENCE IN THE OPERATION OF HIGHLY AUTOMATED VEHICLES
Andrey V. Kapustin,
deputy head of department Federal public establishment «Scientific State Institution of Road Safety of the Ministry of the Interior of the Russian Federation» Contacts: ul. Poklonnaya, d. 17, Moscow, Russia, 121170
Yuri A. Berezovsky,
senior researcher Federal public establishment
«Scientific State Institution of Road Safety of the Ministry of the Interior of the Russian Federation»
Contacts: ul. Poklonnaya, d. 17, Moscow, Russia, 121170
Abstract. The article deals with issues in the field of road safety in terms of legal regulation of participation in road traffic of highly automated vehicles using artificial intelligence.
Keywords: artificial intelligence, highly automated vehicle, road safety, state road safety inspectorate
Для цитирования: Капустин А.В., Березовский Ю.А. Вопросы использования искусственного интеллекта при эксплуатации высокоавтоматизированных транспортных средств // Современная наука, 2021. № 4. С. 21-24. DOI: 10.53039/2079-4401.2021.6.4.003
Развитие информационных систем, которые призваны облегчить человеку возможность принимать решение, берет начало с 50-х годов ХХ века. В этот период появляются экспертные системы, описывающие алгоритм действий по выбору решения в различных ситуациях и условиях. В дальнейшем экспертные решения эволюционировали в машинное обучение, которое позволяет информационным системам самостоятельно формировать правила и находить решения на основе анализа зависимостей с помощью встроенных наборов дан-
ных (исключая заранее составленный человеком перечень возможных решений), что, в свою очередь, позволяет утверждать о зарождении искусственного интеллекта.
Существует легальное определение термина «искусственный интеллект». Под ним понимается комплекс технологических решений, позволяющих имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее разработанного алгоритма) для получения результата при выполнении конкретных задач, кото-
OPEN Q ACCESS
рые сопоставимы с результатами интеллектуальной деятельности человека [1].
Искусственный интеллект как комплекс технологических решений включает в себя информационно-коммуникационную инфраструктуру, программное обеспечение (которое зависит от машинного обучения), процессы и сервисы по обработке данных и поиску решений. Искусственный интеллект используется и применяется при разработке и внедрении нового вида транспортного средства -высокоавтоматизированного транспортного средства (далее - ВАТС).
ВАТС - транспортное средство, выпущенное в обращение на территории Евразийского экономического союза, допущенное к участию в дорожном движении на территории Российской Федерации, в конструкцию которого внесены изменения, связанные с его оснащением автоматизированной системой вождения [2].
Следует заметить, что вопросы применения искусственного интеллекта в рамках эксплуатации ВАТС в нынешней конъюнктуре развития международного и российского права не решены. Отчасти это объяснятся тем, что правовые системы на текущий момент отстали от развития технологии искусственного интеллекта. Более того, реальное применение искусственного интеллекта практически не обеспечено должной международно-правовой и национальной законодательной основой.
Юридические вопросы применения искусственного интеллекта касаются в первую очередь его природы, а именно наличия правосубъектности. На сегодняшний день не решена проблема определения ответственности за ущерб, причиненный искусственным интеллектом.
Разработчики машинного обучения стараются на должном уровне внедрить в систему искусственного интеллекта базовые механизмы анализа допустимых действий с последующим анализом ситуации, не заложенной в исходный код программного обеспечения. Однако возникает необходимость четкого определения, является ли искусственный интеллект субъектом правоотношений, или же это всего лишь источник повышенной опасности, ответственность за который будет нести собственник.
В настоящее время не всегда непосредственный причинитель ущерба несет ответственность. Так, за работника ответственность может нести работодатель, за ребенка - родители, вместо владельца вещи вред может возмещать ее производитель и т.д.
Вместе с тем системы искусственного интеллекта обладают достаточно сложной архитектурой, состоящей из нескольких программно-аппаратных
OPEN Q ACCESS
комплексов, либо могут быть созданы с использованием открытых исходных кодов, и определение разработчика и владельца становится довольно затруднительным.
В случае принятия искусственным интеллектом неверного решения в конкретной ситуации в связи с ошибкой в расчетах возникает вопрос о том, кто понесет ответственность за просчет искусственного интеллекта и справедливо ли возлагать ответственность на компанию-разработчика, экс-плуатанта или пользователя.
В таком контексте проблема определения юридической ответственности при причинении вреда беспилотником приобретает новое направление, поскольку возникает вопрос о правосубъектности искусственного интеллекта электронного лица.
В феврале 2017 года Европарламент принял резолюцию «Нормы гражданского права о робототехнике», в которой приведены рекомендации для Европейской комиссии относительно норм гражданского права о робототехнике.
В резолюции затронуты вопросы ответственности за вред, причиненный роботом, а также предложено разработать общепринятые и универсальные определения терминов «кибернетические системы», «автономные системы», «умные автономные роботы», а также их подкатегории; говорится о необходимости создания системы регистрации продвинутых роботов и стимулирования исследовательских программ. Отдельным разделом выделены вопросы этических принципов, права интеллектуальной собственности, стандартизации, безопасности и защищенности.
Также отмечается, что автомобильный сектор использования робототехники больше всего нуждается в разработке правил как на уровне Евросоюза, так и в мировом, глобальном отношении.
В резолюции указано на необходимость учесть в ходе законодательного урегулирования:
возможность создания обязательной системы страхования;
частичное освобождение от ответственности производителя, разработчика или пользователя-робота;
создание общего компенсационного фонда для всех умных роботов либо для каждой их категории;
в перспективе наделение роботов особым правовым статусом, наиболее продвинутые роботы будут создаваться как электронные лица и нести ответственность за причиненный ущерб в случае принятия решения автономно [3].
Важность решения подобных вопросов обосновывается тем, что изменения, связанные с раз-
SCIENTIFIC RESEARCH, DEDICATED TO ROAD SAFETY
open Q access НАУЧНЫЕ ИССЛЕДОВАНИЯ, ПОСВЯЩЕННЫЕ ВОПРОСАМ ОБЕСПЕЧЕНИЯ БДД open 9 access
витием робототехники, с большой степенью вероятности затронут все слои общества.
На сегодняшний день научным сообществом всего мира выделяются два вида искусственного интеллекта: слабый и сильный. Данные термины отражают способность искусственного интеллекта к совершению каких-либо задач [4].
«Слабый искусственный интеллект» - специализированное программное обеспечение, запрограммированное на решение определенных частных задач (управление ВАТС).
«Сильный искусственный интеллект» - многопрофильное специализированное программное обеспечение, запрограммированное и сконструированное на решение широкого спектра задач, способное в дальнейшем приобрести возможность мыслить и осознавать себя как отдельную личность.
Вместе с тем введение беспилотных транспортных средств и приравнивание их к транспортным средствам как нового источника повышенной опасности представляется не совсем верным, поскольку особенностью ответственности за причинение вреда источником повышенной опасности является то, что она наступает независимо от вины его владельца.
По крайней мере, в процессе становления беспилотных транспортных систем на дорогах общего пользования необходимо выбрать иной подход к ответственности владельца. Регламентация гражданско-правовой ответственности в результате причинения вреда беспилотным транспортным средством требует расширить систему деликтов в гражданском праве.
Помимо специального деликта, характеризующего причинение вреда источником повышенной опасности, необходимо добавить новый вид деликта, состоящего из группы обязательств по возмещению вреда, причиненного в результате использования беспилотных систем. Особенностью данного вида деликта станет принципиально новое средство причинения вреда - беспилотник под управлением искусственного интеллекта.
Существуют следующие основные модели определения ответственности за действия устройства под управлением искусственного интеллекта, повлекшие за собой наступление вредных последствий:
модель, в рамках которой устройство искусственного интеллекта рассматривается как принципиально невиновный инструмент реального исполнителя правонарушения;
модель естественных вероятных последствий, которая предполагает, что устройство искусственного интеллекта реализует действия, являю-
щиеся естественным, логически закономерным и вероятным последствием его программирования, в рамках этой модели предусматривается, что лицо, программировавшее машину, проявило преступную небрежность;
модель прямой ответственности непосредственно самого устройства искусственного интеллекта за его действия.
Очевидно, что принятие и реализация этих моделей предполагают применение различных законодательных подходов и мер. Сравнение правосубъектности искусственного интеллекта с правосубъектностью юридического или физического лица юридически и фактически не вполне корректно, поскольку предполагается, что за деятельностью последнего стоят конкретные люди, и юридическое лицо не может совершать действия независимо от этих людей.
Таким образом, наделение устройства искусственного интеллекта некоторыми ограниченными правами и обязанностями может осуществляться для достижения определенных целей в той или иной сфере, а не для наделения в целом полной правосубъектностью. При наделении устройств искусственного интеллекта определенными квазиправами речь идет не о предоставлении им реальных прав, а, скорее, о юридической фикции, направленной на упрощение применения действующих законов, несмотря на отсутствие у него свойств реальной личности.
К настоящему моменту в мире сложились два основных подхода к правовому регулированию искусственного интеллекта [5].
Первый, нередко именуемый юридическим или легалистским (legalistic approach), состоит в том, чтобы исходить из существующей правовой системы и формулировать перечни проблемных вопросов, возникающих из-за использования роботов и связанных с ответственностью, конфиденциальностью, кибербезопасностью.
Второй подход (условно его можно назвать технологическим) предусматривает движение от технологических изменений: появление беспи-лотников, роботов-личных помощников, экзоске-летов и т.д.
Сторонники технологического подхода настаивают на вторичности права. Примером такого подхода может служить Стратегия в области искусственного интеллекта, предложенная французским синдикатом «Syntec Numérique». Стратегия предусматривает, что искусственный интеллект не требует специальной правовой базы, он проникнет во многие сферы, поэтому общий закон принимать не стоит, так как технологий много, и они имеют серьезные различия [6].
OPEN Q ACCESS
По мнению сторонников технологического подхода, достаточным будет страхование ответственности роботов за их действия, когда от экономического эффекта использования робота в специальный фонд должен отчисляться процент, и ущерб, нанесенный роботом, будет покрываться из накопленной суммы [7].
С точки зрения приверженцев легалистского, более консервативного подхода, правильным будет возложение ответственности за действия робота на активировавшего его человека [7]. Сторонники технологического подхода возражают против этого, так как в странах, принявших за основу легалистский подход, затормозится развитие робототехники и произойдет серьезное экономическое отставание от других государств [6]. Предметом правового регулирования в исследуемой сфере может быть как сама технология, так и сфера ее применения. Правовые нормы или нормы технического регулирования могут быть относительно легко адаптированы к вновь возникающим технологиям, поскольку нормы не привязаны к какой-либо конкретной технологии. Но и у этого подхода есть свои ограничения.
Резюмируя все вышесказанное, можно отметить, что разработки в области искусственного интеллекта, внедрение его в систему управления транспортных средств затрагивают ряд серьезных вопросов юридического и этического порядка и потребуют пересмотра основных отраслей и институтов права (режим правовой ответственности, режим налогообложения, регулирование подконтрольности и подотчетности, а также прав интеллектуальной собственности, режим электронной коммерции в части функционирования торговых ботов и т.д.). При этом необходимо обеспечить баланс между интересами общества и отдельных индивидов, в том числе безопасность и необходимость развития инноваций в интересах общества.
Возможно, в будущем потребуется создание самостоятельного института права, уникального по своей сути и содержанию, отличного от традиционного антропоцентристского подхода.
OPEN Q ACCESS
Такой правовой институт потребует создания совершенно новых архетипов и принципов. В рамках указанного института целесообразно предусмотреть отличное от традиционного понимание субъекта, основанное на симбиозе технических и иных характеристик искусственного интеллекта, а также альтернативные виды ответственности, такие, как деактивация и перепрограммирование устройств, управляемых искусственным интеллектом.
Литература:
1. Указ Президента Российской Федерации от 10 ноября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации» // СПС «Консультант Плюс» (дата обращения: 04.08.2021).
2. Постановление Правительства Российской Федерации от 26 ноября 2018 г. № 1415 «О проведении эксперимента по опытной эксплуатации на автомобильных дорогах общего пользования высокоавтоматизированных транспортных средств» // СПС «Консультант Плюс» (дата обращения: 04.08.2021).
3. Шапсугова М.Д. Искусственный интеллект в предпринимательском праве // Modern science, 2019. № 8-2. С. 167-173.
4. URL: http://www.rb.ru/story/narrow-general-super-ai (дата обращения: 17.03.2021).
5. Агибалова Е.Н. Юридическая ответственность при применении систем искусственного интеллекта // Материалы второй Всероссийской научно-практической конференции. Государство, право и общество: вопросы теории и практики, 2020. С.15-24.
6. Филипова И.А. Трансформация правового регулирования труда в цифровом обществе. Искусственный интеллект и трудовое право: монография. Национальный исследовательский Нижегородский государственный университет им. Н.И. Лобачевского, 2019.
7. Филипова И.А. Правовое регулирование искусственного интеллекта: регулирование в России, иностранные исследования и практика // Государство и право, 2018. № 9. С. 79-88.
SCIENTIFIC RESEARCH, DEDICATED TO ROAD SAFETY
