CC BY
5Юридический вестник ДГУ. 2024. Т. 52, № 4 (72). Law Herald of DSU, 2024, vol. 52, no. 4 (72). Научная статья УДК/UDC 349
DOI: 10.21779/2224-0241-2024-52-4-144-151
Проблемы и перспективы правового регулирования искусственного интеллекта
и робототехники
Л.В. Магдилова
Дагестанский государственный университет (ДГУ), г. Махачкала, Российская Федерация, [email protected]
Аннотация. В статье проведен анализ законодательства в области правового регулирования искусственного интеллекта, обозначены основные риски и преимущества его применения для общества, а также направления вовлечения общественности в дискуссию о формировании законодательства и робототехнике. Анализ международного опыта показывает, что существуют разнообразные подходы к правовому регулированию робототехники. Российский вариант развития искусственного интеллекта и робототехники предполагает государственное участие в финансировании данного направления через национальные проекты и государственные программы. Рассматривая основные направления и модели регулирования искусственного интеллекта и робототехники, необходимо отметить принятие специализированного законодательства, регулирующего использование роботов в определенных областях и отраслях деятельности, в том числе в здравоохранении, транспорте, сельском хозяйстве, авиалогистике и т.п. Совершенствование существующего законодательства к требованиям времени по развитию искусственного интеллекта и робототехники должно идти по таким направлениям, как определение ответственности за ущерб и действия; обеспечение защиты персональных данных; создание безопасных способов взаимодействия; предупреждение и предотвращение использование инновационных технологий в преступных целях.
Ключевые слова: сквозные технологии, электронное лицо, робот, этика, регуляторные песочницы, инновации, интеллектуальные устройства
Для цитирования: Магдилова Л.В. Проблемы и перспективы правового регулирования искусственного интеллекта и робототехники // Юридический вестник ДГУ. 2024. Т. 52, № 4 (72). С. 144-151. DOI: 10.21779/2224-0241-2024-52-4-144-151
Original article
Problems and Prospects of Legal Regulation of Artificial Intelligence and Robotics Larisa V. Magdilova
Dagestan State University (DSU), Makhachkala, Russian Federation, [email protected]
Abstract. The article analyzes the legislation in the field of legal regulation of artificial intelligence, identifies the main risks and benefits of its application for society, as well as the directions of public involvement in the discussion on the formation of legislation and robotics. The analysis of international experience shows that there are various approaches to the legal regulation of robotics. The Russian version of the development of artificial intelligence and robotics assumes state participation in the financing of this direction through national projects and state programs. Considering the main directions and models of regulation of artificial intelligence and robotics, it is necessary to note the adoption of specialized legislation regulating the use of robots in certain areas and industries, including healthcare, transport, agriculture, aviation logistics, etc. Improvement of the existing legislation to meet the requirements of the time for the development of artificial intelligence and robotics should go in such directions as determining the responsibility for damage and actions; ensuring the protection of personal data; creating safe ways of interaction; prevention and prevention of the use of innovative technologies for criminal purposes.
Keywords: end-to-end technologies, electronic person, robot, ethics, regulatory sandboxes, innovation, smart devices
For citation: Magdilova L.V. Problems and Prospects of Legal Regulation of Artificial Intelligence and Robotics. Yuridicheskii vestnik DGU = Law Herald of DSU, 2024, vol. 52, no. 4 (72), pp. 144-151. DOI: 10.21779/22240241-2024-52-4-144-151. (In Russ.).
В настоящее время искусственный интеллект (далее - ИИ) и взаимосвязанные технологии развиваются экспоненциально, при этом оказывая огромное влияние на различные области деятельности человека и общества - от образования и развлечений до медицины и промышленности. Интеллектуальные устройства стали неотъемлемой со-
ставляющей современного промышленного производства для автоматизации однообразных или наисложнейших задач с высокой точностью и эффективностью. Также ИИ широко применяется в медицине при проведении сложных операций и хирургических вмешательств, минимизируя риски ошибок. Сфера услуг использует роботов для обу-
чения, ухода за пожилыми людьми, в торговле. Широкое распространение получили роботы в быту, появилось понятие «умный дом», где используется технология интернет-вещей для взаимодействия бытовых приборов между собой без вмешательства человека.
Развитие ИИ и робототехники приводит к необходимости совершенствования информационного законодательства, которое должно учитывать все современные тенденции и вызовы, брать вектор на опережение запросов общества и государства в эффективном правовом регулировании сферы общественных отношений, где субъектами становятся робот и человек. Существующие традиционные нормы права1 и принципы правового регулирования могут оказаться недостаточными или неприменимыми к современным реалиям. Появляется необходимость разработки новых правовых механизмов, учитывающих юридические особенности ИИ и робототехники и обеспечивающие баланс интересов личности и общества в инновациях и безопасном удовлетворении потребностей.
Актуальность темы исследования обусловлена рядом трендов правового регулирования ИИ и робототехники.
Во-первых, возникает необходимость определения правового статуса ИИ и роботов. В последнее время этому аспекту посвящено значительное количество научных работ2, когда ИИ и роботы приравни-
1 Об информации, информационных технологиях и о защите информации: Федеральный закон от 27.07.2006 г. № 149-ФЗ. Доступ из справ.-правовой системы «Кон-сультантПлюс»; О персональных данных: Федеральный закон от 27.07.2006 г. № 152-ФЗ. Доступ из справ-правовой системы Гарант; Об утверждении государственной программы Российской Федерации «Информационное общество»: Постановление Правительства Российской Федерации от 15 апреля 2014 г. № 313 // Собр. законодательства Рос. Федерации, 2014, № 18, ст. 2159; 2015, № 9, ст. 1341; 2017, № 9, ст. 1366; № 15, ст. 2214; 2019, №1, ст. 55; № 15, ст. 1743; 2021, № 52, ст. 9181; 2023, № 8, ст. 1350; № 19, ст. 3457; 2024, № 8, ст. 1136; О Стратегии развития информационного общества в Российской Федерации на 2017-2030 годы: Указ Президента РФ от 09.05.2017 г. № 203. Доступ из справ.-правовой системы «КонсультантПлюс»; О развитии искусственного интеллекта в Российской Федерации" (вместе с "Национальной стратегией развития искусственного интеллекта на период до 2030 года"): Указ Президента РФ от 10.10.2019 г. № 490 (ред. от 15.02.2024). Доступ из справ.-правовой системы «КонсультантПлюс».
2 Перспективные направления правового регулирования искусственного интеллекта / A.B. Минбалеев, Т А.Полякова, М.Б. Добробаба, И.М. Рассолов, С.Г. Чу-букова и др. Саратов, 2023; Цифровое право: учебник / Д. Ален, Л.В. Андреева, A.B. Белицкая, B.C. Белых, O.A. Беляева, Е.Е. Богданова, O.A. Городов, О.С. Гринь, Т. Диана, MA. Егорова, И.В. Ершова, Л.Г. Ефимова, С.С. Зенин, С.Ю. Кристоф, H.H. Литвинова, М.В. Мажорина,
A.B. Минбалеев, И.Е. Михеева, ДА. Петров, В.Ф. По-пондопуло и др. Москва, 2023; Трансформация информационного права / ТА. Полякова, A.B. Минбалеев, В.Б. Наумов, Ю.М. Батурин, С.А. Агамагомедова, И.С. Бой-ченко, Е.В. Виноградова, А.К. Дубень, Е.С. Зиновьева,
B.Б. Исаков, ГГ. Камалова, П.У. Кузнецов, И.А. Кравец, Р.Н. Ключко, C.B. Маликов, Е.В. Михайлова, Е.В. Пере-
ваются к юридическим лицам, или вводится понятие «электронного лица», учитывающего все особенности их создания и эксплуатации.
Во-вторых, исследованию подлежат проблемы определения ответственности за действия ИИ и робототехники. Законодатель рассматривает особенности определения ответственности для создателя, собственника, самого ИИ или робота. Но так как программное или техническое устройство по существующему российскому законодательству не может нести ответственность, то меры взысканий или наказаний ложатся на плечи производителя или обладателя робототехнического интеллектуального устройства. Чаще всего этот аспект рассматривается с точки зрения имущественной ответственности.
В-третьих, правовые нормы должны опираться на апробированные этические нормы, формируемые в процессе распространения ИИ и робототехники. Сюда можно отнести такие этические аспекты, как сохранение человеческого достоинства, недопущение дискриминации и защита репутации и конфиденциальности данных.
В-четвертых, при рассмотрении правового регулирования ИИ и робототехники необходимо учитывать, что их работа основана на системах искусственного интеллекта. Здесь требуется особое регулирование, которое учитывает прозрачность алгоритмов, предотвращение предвзятости и обеспечение управления со стороны человека.
В-пятых, формирование цифрового (информационного) общества предполагает гармонизацию национальных законодательств стран, принятие унифицированных нормативно-правовых актов, способствующих повышению эффективности правового регулирования робототехники и искусственного интеллекта.
Основным объектом настоящего исследования являются информационно-правовые отношения, возникающие в сфере разработки и эксплуатации искусственного интеллекта и робототехники. Предметом выступают правовые и этические нормы российского и зарубежного законодательства, регулирующие искусственный интеллект и робототехнику.
В связи с обозначенными аспектами актуальности, объектом и предметом основной целью является анализ существующих норм правового регулирования ИИ и робототехники и формирование предложений по его совершенствованию.
Нормативную базу исследования составляет Распоряжение Правительства РФ от 19.08.2020 г. № 2129-р «Об утверждении Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники на период до 2024 г.» и Указ Президента РФ от 10.10.2019 г. № 490 (ред. от 15.02.2024) «О развитии искусственного интеллекта в Российской Федерации» (вместе с «Национальной стратегией развития искусственного
пелица, ТВ. Пашнина, О.В. Петровская, А.Н. Прокопенко и др. Москва, 2023; Минбалеев A.B. Перспективные векторы развития международного и национального регулирования искусственного интеллекта и робототехники // Университетские правовые диалоги "Право цифровой среды": материалы Международной научно-практической конференции. Москва, 2020. С. 69-75.
Юридический вестник ДГУ. 2024. Т. 52, № 4 (72). Law Herald of DSU, 2024, vol. 52, no. 4 (72). интеллекта на период до 2030 года»), а также федеральные законы и подзаконные акты, составляющие ядро информационного законодательства1.
В качестве теоретической основы послужили работы известных ученых в области информационного и цифрового права, таких как И.Л. Бачило, Т.А. Полякова, В.А. Копылова, В.Н. Лопатин, М.М. Рассолов, Ю.М. Батурин, H.H. Ковалева, Г.Г. Камалова, Л.К Терещенко, A.A. Тедеева, A.A. Чеботарева, С.Г. Чубукова, В.Б. Наумова, A.A. Смирнова, М.Б. Добробаба. Наибольшее значение для понимания сущности правового регулирования искусственного интеллекта и робото-
1 Об экспериментальных правовых режимах в сфере
цифровых инноваций в Российской Федерации: Федеральный закон от 31.07.2020 г. № 258-ФЗ. URL:
https://www.consultant.ru/document/cons_doc_LAW_35873
8/; Об установлении экспериментального правового режима в сфере цифровых инноваций и утверждении Про-
граммы экспериментального правового режима в сфере цифровых инноваций по эксплуатации высокоавтоматизированных транспортных средств: Постановление Правительства РФ от 09.03.2022 г. № 309. URL: https://base.garant.ru/403712648/; Об установлении экспериментального правового режима в сфере цифровых инноваций и утверждении Программы экспериментального правового режима в сфере цифровых инноваций "Аэрологистика": Постановление Правительства Российской Федерации от 02.11.2023 № 1840. URL: https://www.garant.ru/products/ipo/prime/doc/407827355/;
Об установлении экспериментального правового режи-
техники оказали работы доктора юридических наук, профессора A.B. Минбалеева.
Внедрение систем искусственного интеллекта в социальную деятельность имеет ряд рисков и преимуществ. Среди преимуществ можно отметить: экономический рост и производительность, решение социальных проблем, научный и технологический прогресс. В то же время во все времена инновации несут в себе риски, такие как: безработица и социальное неравенство, угрозы безопасности, появление зависимости от технологий, дегуманизация общества (таблица 1).
Таблица 1
ма в сфере цифровых инноваций и утверждении Программы экспериментального правового режима в сфере цифровых инноваций по эксплуатации сельскохозяйственных беспилотных авиационных систем: Постановление Правительства Российской Федерации от 16.09.2023 г. № 1510. URL: https://www.garant.ru/ products/ipo/prime/doc/407572176/; Об установлении экспериментального правового режима в сфере цифровых инноваций и утверждении Программы экспериментального правового режима в сфере цифровых инноваций по направлению медицинской деятельности, в том числе с применением телемедицинских технологий и технологий сбора и обработки сведений о состоянии здоровья и диагнозах граждан: Постановление Правительства Российской Федерации от 18.07.2023 г. № 1164. URL: https://base.garant.ru/407415358/ (дата обращения: 01.10.2024).
Риски и преимущества применения ИИ и робототехники для общества
Риски
Безработица и социальное неравенство:
^ Замена рабочих мест роботами, особенно на производстве и в сфере обслуживания. Увеличение разрыва в доходах между высококвалифицированными специалистами п
низкоквалифицированными работниками
^ Необходимость адаптации системы образования п переквалификации работников.
Безопасность н этическое проблемы:
Непредвиденные последствия действий роботов, особенно с развитием искусственного интеллекта. Риск использования роботов в военных целях и для нарушения прав человека. Вопросы ответственности за действия роботов и этические дилеммы, связанные с их использованием.
Зависимость ог технологий:
Риск утраты определенных навыков и знаний из-за автоматизации. Уязвимость к кибераггакам и сбоям в работе робототехнических систем.
Дегуманизация общества:
Снижение уровня межтнчностного общения в связи с автоматизацией сферы услуг
Риск формирования -эмоциональной привязанности к роботам: и подмены ими реальных человеческих отношений._
Преимуществу
задач, повышение и производительности
Экономический рост и производительность: ^ Автоматизация эффективности труза.
Сощанпе новых рабочих мест в сфере разработки, производства и обслуживания роботов.
^ Снижение проп-зводственнык затрат, что может привести к снижению цен для потребителей. Решение социальных проблем:
Роботы могут выполнять опасные, тяжелые или монотонные работы, освобождая людей для более творческих и интеллектуальных задач. Помощь в уходе за больными, пожилыми людьми и людьми с ограниченными возможно стяни. •/ Решение проблем нехватки рабочей силы в
определенных отраслях. Научный и технологический прогресс: ^ Стимулирование развития новых технологий в области искусственного интеллекта, машинного обучения, сенсорики и других областях. Расширение возможностей человека в исследовании космоса, океана и других труднодоступных сред.
Вопрос законодательного регулирования технологий искусственного интеллекта является острым. И.А. Филипова исследует проблему конституционно-правового регулирования в части соблюдения следующих гарантий: «Права человека и соответствующие условия информационного общества, необходимость закрепления ряда новых прав и установление отдельных запретов на применение технологий искусственного интеллекта и нейро-технологий» [1]. В своем исследовании Ю.М. Батурин и C.B. Полубинская рассматривают проблему правового режима ИИ: «На данном этапе развития для роботов (искусственного интеллекта) следует устанавливать правовой режим, а правовым статусом они смогут обладать только в будущем, когда приобретут реальную автономность и смогут осуществлять собственный свободный выбор поведения» [2]. По мнению Е.М. Кологерманской, «необходимо проведение унификации на уровне федерального закона, регулирующего общие положения ИИ» [3]. O.A. Верхозина отмечает: «Основы правовой системы, учитывающие существование искусственного интеллекта, нужно начинать строить с определения парадигмы взаимодействия выстраивания правовых и нравственно-этических основ взаимодействия между искусственным и естественным интеллектами» [4]. Т.А. Полякова и Г.Г. Камалова делают вывод: «Важно научное осмысление существующих проблем развития искусственного интеллекта с информационно-правовых позиций в целях обоснования правовой политики в рассматриваемой области» [5].
Многие страны предпринимают меры по разработке законов и других актов, призванных регламентировать ИИ и риски, связанные с его использованием. Так, первый такой закон в мире уже принят Европарламентом 13.03.2024 г.1 Основной идеей регулирования является применение риск-ориентированного подхода: ИИ-технологиям будут присваивать категории риска, включая неприемлемую (в этом случае технология будет запрещена), высокую, среднюю и низкую. Акт еще должен одобрить Европейский совет.
В России также предпринимаются шаги по законодательному регулированию технологий ИИ. Так, с 2022 года в Москве действует экспериментальный режим (регуляторная песочница) в отношении разработки и внедрения технологий искусственного интеллекта2.
Формирование моделей правового регулирования робототехники отличается в разных странах. Важно учитывать вовлечение граждан и общества
1 Европарламент утвердил первый в мире закон об ИИ. URL: https://rg.ru/2024/03/14/evroparlament-utverdil-pervyj-v-mire-zakon-ob-ii.html (дата обращения: 01.10.2024).
2 О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации - городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона "О персональных данных": Федеральный закон от 24 апреля 2020 г. № 123-Ф3. URL: https://base.garant.ru/73945195/ (дата обращения: 01.10.2024).
в обсуждение вопросов использования роботов в различных сферах, отношение к этому процессу различных групп, рассматривать пути решения существующих проблем на основе комплексного подхода. В этой связи необходимо обеспечить доступность информации, в том числе на разных языках страны и мира, в различных форматах представления, а также учитывать потребности людей с ограниченными возможностями. Также необходимо представлять альтернативные точки зрения на пути разработки и использования робототехники, создавать площадки для обсуждения и равноправного диалога между различными субъектами. Важно осуществлять подобные мероприятия на постоянной и долгосрочной основе, что позволит бесшовно внедрять нормы права, связанные с регулированием отношений в области искусственного интеллекта и робототехники.
Среди основных направлений вовлечения общественности в дискуссию можно назвать: образование и информирование: интерактивные форматы, взаимодействие с масс-медиа, гражданское участие (рис. 1).
Развитие искусственного интеллекта и робототехники показывает, что эти направления имеют значительный потенциал для изменения многих аспектов деятельности, в том числе производства, транспорта, здравоохранения, сельского хозяйства, образования и государственного управления. Наряду с преимуществами возникают риски, которые грозят безопасности, установлением ответственности и нарушением этических норм. Эти технологические вызовы требуют создания эффективной правовой базы, которая будет способствовать внедрению инноваций (введение экспериментальных правовых режимов), а также обеспечивать защиту интересов личности, общества и государства.
Уточнение понятия «робот» с точки зрения права является сложной задачей, требующей учета множества функций, форм и направлений применения данных устройств. Существующие определения, которые используются в технических, социологических и научных обсуждениях, не совсем подходят для формулирования понятия «робототехника» с правовой точки зрения. Для правовой характеристики необходимо учитывать такие аспекты, как автономность, интерактивность, физическую или виртуальную форму, целевое назначение.
Понятие робота несколько отличается от искусственного интеллекта и обычного механизма, так как обладает способностью активно воздействовать на окружающую среду, в том числе на человека, а также в непосредственных действиях с материальными объектами или акустическое воздействие речевых роботов. Робот рассматривается как объект - информационная система, управляемая искусственным интеллектом или оснащенная им, осуществляющая физическое воздействие на окружающую среду и (или) человека. Именно уточнение понятия «робот» через информационную систему позволяет рассматривать его в качестве объекта правоотношений. Признание правосубъектности за системами искусственного интеллекта
Юридический вестник ДГУ. 2024. Т. 52, № 4 (72). Law Herald of DSU, 2024, vol. 52, no. 4 (72).
1. ОБРАЗОВАНИЕ И ИНФОРМИРОВАНИЕ:
Публичные лекции и дискуссии:
• приглашение экспертов по робототехнике, праву, этике и социологии для обсуждения с общественностью актуальных проблем.
Онлайн-платформы:
• создание сайтов и форумов, где люди могли бы получить информацию о правовых аспектах робототехники, высказать свое мнение и принять участие в опросах.
Образовательные материалы:
• разработка доступных брошюр, инфографики, видеороликов, объясняющих сложные темы простым языком.
Школьные и университетские программы:
• включение основ робототехники и связанных с ней этических и правовых вопросов в образовательные программы.
2. ИНТЕРАКТИВНЫЕ ФОРМАТЫ:
Хакатоны и конкурсы:
• проведение мероприятий, где команды могли бы предложить свои решения правовых проблем, связанных с робототехникой.
Деловые игры и симуляции:
• создание реалистичных сценариев, позволяющих людям "примерить" на себя разные роли и принять участие в процессе принятия решений.
Художественные проекты
• стимулирование создания фильмов, спектаклей, произведений искусства, которые бы провоцировали размышления о будущем робототехники и ее влиянии на общество.
3. ВЗАИМОДЕЙСТВИЕ С МЕДИА:
Тематические публикации:
• популяризация темы правового регулирования робототехники в СМИ: статьи, интервью, репортажи.
Документальные фильмы и телепередачи:
• создание контента, доступно объясняющего сложные вопросы и демонстрирующего разные точки зрения.
Социальные сети:
• использование популярных платформ для распространения информации, проведения опросов, организации дискуссий.
4. ГРАЖДАНСКОЕ УЧАСТИЕ:
Общественные советы и экспертные группы:
• создание платформ, где представители общественности могли бы высказывать свои рекомендации и участвовать в разработке законодательных инициатив.
Петиции и общественные кампании:
• предоставление людям возможности публично выражать свою позицию по вопросам регулирования робототехники.
Рис. 1. Основные направления вовлечения общественности в дискуссию об ИИ и робототехнике
и робототехники остается пока лишь гипотетическим подходом. На данном этапе развития общественных отношений нет смысла изменять систему субъектов права, так как многие проблемы, в том числе проблему ответственности, можно решить с использованием уже известных инструментов. На сегодняшний момент ученые аргументируют данную точку зрения возникновением угроз для человека, несоблюдением этических регуляторов и ряд других факторов. Таким образом, искусственный интеллект и робототехника являются объектами правоотношений.
Само определение искусственного интеллекта нормативно закреплено в Национальной стратегии развития искусственного интеллекта на период до 2030 года1.
Анализ международного опыта показывает, что существуют разнообразные подходы к правовому регулированию робототехники. В Европейском Союзе принимаются директивы и регламенты, которые направлены на обеспечение безопасности, ответ-
1 Искусственный интеллект - это комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые с результатами интеллектуальной деятельности человека или превосходящие их. Комплекс технологических решений включает в себя информационно-коммуникационную инфраструктуру, программное обеспечение (в том числе в котором используются методы машинного обучения), процессы и сервисы по обработке данных и поиску решений.
ственности и защиты прав человека при использовании роботов. В США регулирование осуществляется через различные федеральные агентства, при этом особое внимание уделяется безопасности и эффективности определенных типов роботов. В Китае разработаны национальные стандарты и планы развития робототехники, делается упор на технологический прогресс и стандартизацию. В Японии осуществляются стратегические мероприятия по интеграции роботов в общество через национальные программы и законодательные акты. Российский вариант развития робототехники предполагает государственное участие в финансировании данного направления через национальные проекты и государственные программы.
Проведенный анализ позволил выделить гипотезы о существовании двух регуляторных векторов и трех моделей регулирования. Первый регуляторный вектор направлен на стимулирование развития индустрии посредством стратегического планирования. Этот вектор находит выражение в разработке и реализации различных стратегий, дорожных карт и концепций развития ИИ. Другой вектор направлен на непосредственное регулирование общественных отношений, возникающих в связи с использованием роботов и технологий ИИ, что предполагает разработку и принятие актов непосредственного действия в отношении конкретной разновидности роботов или сферы применения ИИ. Второй вектор представлен законами и подзаконными актами, к нему же можно отнести правоприменительную практику, в том числе судебные акты и разъяснения судов.
Несмотря на их названия, данные векторы важно не противопоставлять друг другу как «стимулирующий» и «регулирующий». Оба направления взаимообусловлены: в векторе актов непосредственного действия законы могут очень успешно выступать в качестве инструмента стимулирования развития индустрии. Вектор стратегического планирования может не только стимулировать развитие индустрии, но и в некоторой степени даже создать препятствия для ее совершенствования. В своей работе A.B. Незнамов выделяет три модели правового регулирования ИИ: «Существенную роль играют документы стратегического регулирования; вес имеют нормы непосредственного действия; гибридная модель, как комбинация двух векторов» [6].
К существенным признакам стратегической модели правового регулирования следует отнести: наличие комплексного ключевого документа, направленного на стратегическое планирование развития конкретной технологии; выстроенную систему стратегического планирования, когда основной стратегии или концепции предшествует правовое исследование и/или, что бывает чаще, когда на основе ключевого документа выстраивается целая ветка дополнительных стратегий; сопутствующие документам стратегического планирования атрибуты: анализ мирового и локального рынка, конкурентные преимущества страны, цели и задачи, ключевые мероприятия, контрольные точки. Большое количество стран выбирает стратегический путь регулирования инновационной области, среди них: Китай, Франция, Австрия, Италия. Испания, Канада, ОАЭ, Финляндия, Казахстан и Чехия, Китай, Франция.
Характерными чертами модели, основанной на создании норм непосредственного действия, являются: наличие нормативно-правовых актов, направленных на регулирование конкретной разновидности роботов или сферы применения ИИ; стремление создать необходимые правовые рамки для развития технологии, нежели ее жесткая правовая регламентация. Этот тезис отчетливо виден на примере Закона Эстонии о роботах-курьерах; попытка соблюсти баланс между интересами развития индустрии и интересами общества; причем в тех областях, где эти интересы друг другу противоречат, баланс выстраивается, как правило, в пользу содействия развитию технологии. Это видно на примере положения Закона Южной Кореи, приравнивающего интересы создания «Роботлэнда» к проектам государственной и общественной значимости с сопутствующим некоторым ограничением прав собственности частных лиц.
Гибридной модели присущи следующие типичные черты: наличие документов стратегического планирования сочетается с актами непосредственного действия или даже попытками комплексного регулирования отношений, связанных с использованием роботов или технологий ИИ; и нормы непосредственного действия, и документы стратегического планирования отличаются оригинальностью, их даже можно
1 Кодекс этики в сфере искусственного интеллекта. URL: https://ethics.a-ai.ru/assets/ethics_files/2023/05/12/ Ко-дeкc_этики_20_10_1.pdf; Кодекс роботов. Версия 0001. URL: https://robotiends.ru/pub/1730/kodeks-robotov.-versiya-0001 (дата обращения: 01.10.2024).
назвать комплексными (например, регламенты использования беспилотных летательных аппаратов сегодня есть во многих странах мира, и они достаточно схожи; в то время как инициатива комплексного регулирования всех видов роботов является достаточно самобытной), и выделить больший удельный вес зачастую бывает достаточно сложно; нормы непосредственного действия, однако, не всегда являются логичным продолжением документов стратегического планирования. Скорее, данные направления развиваются параллельно. Этим подчеркивается, что третья гибридная модель является, по сути, сочетанием (подчас случайным) первых двух моделей.
Рассматривая основные направления и модели регулирования робототехники, необходимо отметить принятие специализированного законодательства, регулирующего использование роботов в определенных областях и отраслях деятельности, в том числе в здравоохранении, транспорте, сельском хозяйстве, авиалогистике и т.п. Так, A.B. Минбалеев отмечает: «В наибольшей степени сегодня требуют решения вопросы обеспечения неприкосновенности частной жизни спортсменов и защиты их персональных данных о состоянии здоровья, регулирования процессов обработки больших данных в процессе использования ИИ» [7]. Эти направления актуальны и в других сферах деятельности. Особое значение автор придает совершенствованию законодательства о персональных данных в условиях развития искусственного интеллекта и нейронных сетей [8]. Т.В. Воротилина среди основных выводов в своем исследовании предлагает разработку и принятие единого нормативного правового акта в области ИИ [9], а П.Н. Коробец обосновывает законодательное решение проблем правосубъектности ИИ и робототехники, определения правовой природы и правового статуса [10].
Разрабатываются международные и национальные стандарты, обеспечивающие безопасность и эффективность робототехники (например, стандарты ISO и IEC). Важное значение приобретают этические нормы в виде принципов и кодексов поведения при использовании робототехники. Они разрабатываются усилиями специалистов из профессиональных ассоциаций и международными организациями1. В области международного взаимодействия необходима координация усилий разных стран и международных организаций для унификации стандартов и обмена опытом в области робототехники2.
2 The Global Partnership on Artificial Intelligence (Глобальное партнёрство по искусственному интеллекту, GPAI); Северо-Балтийское партнерство; Сингапур, Digital Economy Agreement (DEA); Меморандум о сотрудничестве в области ИИ США и Великобритании. В настоящий момент наблюдается тенденция к расширению международного сотрудничества в области ИИ. Страны вступают в многосторонние альянсы, а также заключают комплексные двусторонние договоры о сотрудничестве. Такой тренд можно объяснить стремлением достичь синер-гетического эффекта в сфере ИИ: слабые стороны отдельного государства будут дополняться сильными сторонами другого и наоборот. Кроме того, в мире наблюдается дефицит кадров. Практически в каждой национальной стратегии развития ИИ можно увидеть меры по наращиванию кадрового потенциала в сфере ИИ.
Юридический вестник ДГУ. 2024. Т. 52, № 4 (72). Law Herald of DSU, 2024, vol. 52, no. 4 (72).
Основными прогнозами в области законодательного регулирования и судебной практики можно назвать следующие:
1. Сфера применения ИИ будет все больше расширяться, в связи с чем потребность в ее комплексном регулировании станет расти. Мировая практика показывает, что меры для этого уже активно применяются.
2. Законодательное регулирование ИИ будет постепенно распространяться. В РФ оно пока носит фрагментарный характер. Законопроект об учете использования технологий ИИ и страхование ответственности касаются только участников экспериментального режима, однако в дальнейшем регулирование будет распространяться на более широкий круг субъектов.
3. В частности, должны быть урегулированы такие вопросы, как назначение ответственных лиц за обработку и использование данных; конфиденциальной и чувствительной информации, в частности, персональных данных и биометрии; применение ИИ в различных сферах (возможно отраслевое регулирование); механизмы компенсации при нарушении прав.
4. Ожидается также рост судебной практики по гражданским и иным спорам на 30-40%. Можно предположить, что в ближайшее время суды более детально будут рассматривать вопрос об интеллектуальных правах на произведения, созданные ИИ (или с помощью ИИ).
5. Ожидается также увеличение мер поддержки в виде грантов и льгот для разработчиков ИИ. Количество госзакупок может вырасти в 3-5 раз, а максимальные суммы контрактов - увеличиться на 40-50%.
При разработке правовых норм для регулирования отношений, связанных с робототехникой, возможно использование нескольких различных подходов, которые имеют свои преимущества и недостатки:
- разработка нормативного акта, посвященного правовому регулированию робототехники, что позволит наиболее полно и детально регламентировать данную сферу. Однако такой подход имеет риски дублирования существующих норм права, что может привести к правовым коллизиям;
- внесение изменений в существующее законодательство (гражданское, административное, уголовное и т.д.) с учетом особенностей робототехники. Данный подход позволит системно решать проблемы правовых институтов;
- передача ряда полномочий по регулированию робототехники профессиональным ассоциациям и альянсам, в том числе международным, что будет способствовать более эффективному реагированию на технологические изменения.
Рассмотренные подходы демонстрируют сложность выбора оптимального пути формирования законодательства по робототехнике, требуется тщательный и взвешенный подход к изменению правовых норм с учетом этики и соблюдения прав человека. Также необходимо учитывать, что повсеместное внедрение робототехники может привести к потере традиционных рабочих мест и структурным изменениям в экономике, а также встретить негативное отношение людей к использованию роботов.
Совершенствование существующего законодательства к требованиям времени по развитию робототехники должно идти по следующим направлениям:
- определение ответственности за ущерб и действия, произведенные роботом. В этом направлении должна рассматриваться имущественная ответственность, которую несут производитель, программист или пользователь;
- обеспечение защиты персональных данных, которые собираются в процессе использования роботов;
- создание безопасных способов взаимодействия человека и робота;
- предупреждение и предотвращение использования роботов в преступных целях.
Создание эффективной правовой системы для регулирования робототехники является комплексной и сложной задачей, требующей участия различных заинтересованных сторон (государства, бизнеса, собственников/владельцев, потребителей, международные организации, гражданское общество). Прогресс зависит от способности субъектов быстро и гибко адаптироваться к технологическим инновациям, совершенствования правовой базы, которая обеспечивает безопасность и защиту прав человека.
Международное сотрудничество в рамках объединений и альянсов, обмен опытом будут играть ключевую роль в гармонизации национальных законодательств, тем самым повышая эффективность применения правовых норм на практике. Это позволит минимизировать риски и негативные последствия, а также максимально использовать потенциал робототехники для удовлетворения потребностей общества.
Список источников
1. Филипоеа И. А. Искусственный интеллект и нейротехнологии: потребности в конституционно-правовом регулировании // Lex Russica. 2021. №9 (178). С. 119-130.
2. Батурин Ю. М., Полубинская С. В. Искусственный интеллект: правовой статус или правовой режим? // Государство и право. 2022. № 10. С. 141-154.
3. Кологерманская Е. М. Правовое регулирование технологий искусственного интеллекта и робототехники в сфере энергетики в Российской Федерации: проблемы и перспективы // Правовой энергетический форум. 2024. № 2. С. 29-38.
4. Верхозина О. А. Правовые и этические проблемы взаимодействия с искусственным интеллектом // Евразийский юридический журнал. 2023. № 4(179). С. 514-516.
5. Полякова Т. А., Камалова Г. Г. Проблемы формирования правовой политики в сфере применения технологии искусственного интеллекта // Правовая политика и правовая жизнь. 2023. № 1. С. 28-36.
6. Незнамов А. В. Правовые аспекты реализации Национальной стратегии развития искусственного интеллекта до 2030 года // Вестник Университета имени О.Е. Кутафина (МГЮА). 2019. № 12(64). С. 82-88.
7. Минбалеев А. В., Титова Е. В. Проблемы правового регулирования использования искусственного интеллекта в спортивной медицине // Человек. Спорт. Медицина. 2024. Т. 24, № S1. С. 108-114.
8. Минбалеев А. В., Проблемы правовой охраны персональных данных в процессе использования нейронных сетей / А. В. Минбалеев, Е. Э. Сторожакова // Вестник Университета имени О.Е. Кутафина (МГЮА). 2023. № 2(102). С. 71-79.
9. Воротилина Т. В., Коротченко А. В. Место искусственного интеллекта в правовой системе России // Юридический вестник Дагестанского государственного университета. 2024. Т. 49, № 1. С. 166-172.
10.Кобец П. Н. Искусственный интеллект: современные подходы по формированию понятийного аппарата и регулированию правоотношений в рассматриваемой сфере // Вестник Самарского юридического института. 2023. № 5(56). С. 30-37.
References
1. Filipova I. A. Iskusstvennyj intellekt i nejrotexnologii: potrebnosti v konstitucionno-pravovom reguli-rovanii [Artificial intelligence and neurotechnologies: needs in constitutional and legal regulation], Lex Russica [LexRussica], 2021, no.9 (178), pp. 119-130. (In Russ).
2. Baturin Yu. M., Polubinskaya S.V. Iskusstvennyj intellekt: pravovoj status ili pravovoj rezhim? [Artificial intelligence: legal status or legal regime?], Gosudarstvo iparvo [State and Law], 2022, no. 10, pp. 141-154. (In Russ).
3. Kologermanskaya E. M. Pravovoe regulirovanie texnologij iskusstvennogo intellekta i robototexniki v sfere e'nergetiki v Rossijskoj Federacii: problemy' i perspektivy' [Legal regulation of artificial intelligence and robotics technologies in the energy sector in the Russian Federation: problems and prospects], Pravovoj e'nergeticheskij forum [Legal Energy Forum], 2024, no. 2, pp. 29-38. (In Russ).
4. Verxozina O. A. Pravovy'e i e'ticheskie problemy' vzaimodejstviya s iskusstvenny'm intellektom [Legal and ethical problems of interaction with artificial intelligence], Evrazijskij yuridicheskij zhurnal [Eurasian Law Journal], 2023, no. 4 (179), pp. 514-516. (In Russ).
5. Polyakova T. A., Kamalova G. G. Problemy' formirovaniya pravovoj politiki v sfere primeneniya texnologii iskusstvennogo intellekta [Problems of formation of legal policy in the field of application of artificial intelligence technology], Pravovaya politika ipravovaya zhizn' [Legal Policy and Legal Life], 2023, no. 1, pp. 28-36. (In Russ).
6. Neznamov A. V. Pravovy'e aspekty' realizacii Nacional'noj strategii razvitiya iskusstvennogo intellekta do 2030 goda [Legal aspects of the implementation of the National Strategy for the development of artificial intelligence up to 2030], Vestnik Universiteta imeni O.E. Kutafina (MGYuA) [Bulletin of the O.E. Kutafin University (MGJA)], 2019, no. 12 (64), pp. 82-88. (In Russ).
7. Minbaleev A. V., Titova E. V. Problemy' pravovogo regulirovaniya ispol'zovaniya iskusstvennogo in-tellekta v sportivnoj medicine [Problems of legal regulation of the use of artificial intelligence in sports medicine], Chelovek. Sport. Medicina [Man. Sport. Medicine], 2024, vol. 24, no. S1, pp. 108-114. (In Russ).
8. Minbaleev A. V., Storozhakova E. E'. Problemy' pravovoj oxrany' personal'ny'x danny'x v processe is pol'zovaniya nejronny'x setej [Problems of legal protection of personal data in the process of neural networks], Vestnik Universiteta imeni O.E. Kutafina (MGYuA) [Bulletin of the University named after O. E. Kutafin (Moscow State Law Academy)], 2023, no. 2(102), pp. 71-79. (In Russ).
9. Vorotilina T. V., Korotchenko A. V. Mesto iskusstvennogo intellekta v pravovoj sisteme Rossii [Place of artificial intelligence in the legal system of Russia], Yuridicheskij vestnik Dagestanskogo gosudarstvennogo universiteta [Law Herald of Dagestan State University], 2024, vol. 49, no. 1, pp. 166-172. (In Russ).
10. Kobecz P. N. Iskusstvennyj intellekt: sovremenny'e podxody' po formirovaniyu ponyatijnogo apparata i regulirovaniyu pravootnoshenij v rassmatrivaemoj sfere [Artificial intelligence: modern approaches to the formation of conceptual apparatus and regulation of legal relations in this area], Vestnik Samarskogo yuridicheskogo instituta [Vestnik of Samara Law Institute], 2023, no. 5(56), pp. 30-37. (In Russ).
ИНФОРМАЦИЯ ОБ АВТОРЕ
Магдилова Лариса Владимировна, доцент кафедры информационного права и информатики Дагестанского государственного университета, кандидат экономических наук, доцент, г. Махачкала, Российская Федерация. E-mail: [email protected]
INFORMATION ABOUT THE AUTHOR
Magdilova Larisa Vladimirovna, Associate Professor, Department of Information Law and Informatics, Dagestan State University, Candidate of Economic Sciences, Associate Professor, Makhachkala, Russian Federation.
E-mail: [email protected]
Поступила в редакцию 19.10.2024 г.; одобрена после рецензирования 30.11.2024 г.; принята к публикации 06.12.2024 г.
Received 19.10.2024; approved after reviewing 30.11.2024; accepted for publication 06.12.2024
