CC BY
49УДК 347 ББК 67
DOI 10.24411/2073-3313-2020-10359
ОХРАНА РЕЗУЛЬТАТОВ ДЕЯТЕЛЬНОСТИ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА НА ЗАКОНОДАТЕЛЬНОМ УРОВНЕ
Мария Дмитриевна КРОПОВА, Евгения Юрьевна БИСЕР°ВА,
студентка 3-го курса Юридической школы студентка 3-го курса Юридическ°й школы
Дальневосточного федерального университета Дальнев°ст°чного федерального университета E-mail: [email protected]
Алина Викторовна ГУРЬЯНОВА, студентка 3-го курса Юридической школы Дальневосточного федерального университета
Научная специальность по публикуемому материалу: 12.00.03 — гражданское право;
предпринимательское право; семейное право; международное частное право
Аннотация. В статье предпринята попытка затронуть отдельные вопросы правового статуса искусственного интеллекта, рассмотрены вопросы отнесения искусственного интеллекта к субъекту или объекту правовых отношений.
Ключевые слова: интеллект, искусственный интеллект, право, субъект права, ответственность, правовая база.
Annotation. The article attempts to address certain issues of the legal status of artificial intelligence, considers the issues of the classification of artificial intelligence to the subject or object of legal relations.
Keywords: intelligence, artificial intelligence, law, subject of law, responsibility, legal framework.
Научный руководитель: С.С. Чекулаев, ассистент кафедры гражданского права и процесса Дальневосточного федерального университета
На каждом этапе развития социума реализуются разные сферы отношений данного социума. Все это приводит к тому, что изменения необходимо регламентировать, а, следовательно, законодательно закрепить.
В настоящее время общество актуализирует достаточно много различных вопросов, связанных с последними достижениями в науке и технике. В том числе это касается и правового статуса искусственного интеллекта. Современные аналитики просят не оставлять без внимания искусственный интеллект, так как естественным его результатом будет генезис нового типа организации социума.
Это означает, что интенсификация непосредственно самих технологий является актуальным вопросом для современного общества, что подчеркивается и в Стратегии развития инфор-
мационного общества в Российской Федерации на 2017 - 2030 годы1.
Данная Стратегия указывает на то, что интенсификация стоит наравне с обеспечением всеобщего доступа к информационному обществу и его технологиям. В настоящее время создаваемые технологии становятся доступными практическими каждому человеку. Следовательно, необходимость их законодательной регламентации очевидна.
Но необходимо помнить и о том, что переход от человека «природного» к «человеку техногенному», который пропагандируется в современном мире, должен пройти безопасно для каждого члена общества, не нанести вред целостности ценностных устоев современного социума и быть безопасным для самого государства. Однако нельзя упускать из вида и то, что ука-
ЗАКОН И ПРАВО • 07-2020
занные изменения все равно повлекут за собой трансформацию отношений внутри социума.
Для того чтобы решить вопрос о присвоении правового статуса субъекту искусственному интеллекту, необходимо вспомнить о том, что субъектом права является физическое или юридическое лицо, которое обладает автономией воли, может объективно оценивать окружающий мир, принимать определенные решения и оценивать их. Кроме того, субъект права имеет субъективные права и юридические обязанности. Искусственный же интеллект всем этим не обладает. Возможно, что искусственный интеллект может принимать решения без участия человека, но насколько они будут обоснованы?!
В современном законодательстве отсутствует закрепление регулирования ответственности в отношении искусственного интеллекта, что отрицательно сказывается на развитии рынка технологий и робототехники. Установление регламентированных параметров производительности в отношении искусственного интеллекта, рамок его ответственности, несение полноты ответственности непосредственно искусственным интеллектом за свое поведение должно быть обязательным. Возможно, роботам нужно присвоить статус физического или юридического лица, либо отнести к животным, а, может быть, они являются объектами. Все это должно решаться на уровне государства и законодательно регламентироваться. При этом необходимо помнить, что роботу контролирует человек, т.е. следует учитывать степень контроля человека над поведением искусственного интеллекта.
К сожалению, ни российское законодательство, ни законодательство других стран не содержат юридически полного закрепления определения понятий «искусственный интеллект», «электронное лицо», «робот»2.
Создан определенный правовой пробел, который, несмотря на то, что общество имеет и признало наличие искусственного интеллекта, никак не регламентирует его правовой статус.
Определение понятия «искусственный интеллект» (А1) в современных научных кругах является темой для дискуссий. Приведем точки зрения на определение данного понятия.
Г. С. Осипова искусственный интеллект (ИИ) относит к предмету компьютерных наук. То, что создано на основании ИИ, есть информационные технологии, которые позволяют выполнять разумные рассуждения и действия
при помощи определенных вычислительных систем и других искусственных устройств3. При этом идет противопоставление искусственного интеллекта естественному интеллекту человека и других животных организмов.
Но не стоит забывать о том, что искусственный интеллект есть не у всех роботов. Что же такое интеллект? Это то, что позволяет субъекту рассуждать, обучаться и принимать самостоятельные решения. На первоначальном этапе созданные людьми роботы абсолютно не имели интеллекта, они работали по заложенной в них людьми программе (алгоритму). Но дальнейшее развитие привело к тому, что современные роботы могут не только рассуждать, обучаться, но и принимать самостоятельные решения. Все это стало возможным за счет создания искусственного интеллекта.
То есть, мы видим, что роботу при осуществлении им производственно-хозяйственной деятельности присущи определенные элементы субъекта права. В то же время робот является объектом права. Он чье-то имущество (технология). Но гражданско-правовые науки отделяют субъект от объекта права. И все же не стоит забывать, что есть исторически доказанные факты, когда объект права становился субъектом (отмена рабства позволила рабам стать полноправными членами общества).
В ближайшее время А1-роботы будут рассматриваться исключительно в качестве объекта права согласно положениям ст. 128 ГК РФ об объектах гражданских прав4.
На рис. 1 представим юридические грани использования искусственного интеллекта.
И тот, и другой случай не в полной мере адекватны. Квалификация искусственного интеллекта как объекта права не учитывает наличие некой субъектности — способности к мышлению и принятию самостоятельных решений.
Во втором случае поднимается более глубокий вопрос мировоззренческого порядка: искусственный интеллект — это личность, подобная человеку?
От решения данного вопроса зависит модель правового регулирования: начиная с возможности вступления в правоотношения и до возложения на такой интеллект юридической ответственности.
Соответственно, третий аспект применения искусственного интеллекта поднимает проблему ответственности за вред, причиненный таким интеллектом.
ЗАКОН И ПРАВО • 07-2020
Юридические грани использования искусственного интеллекта
Отсутствует четкая юридическая дефиниция искусственного интеллекта
Возникает вопрос о возможности признания за искусственным интеллектом качество субъекта права
Для должного определения можно было бы опереться на понимание искусственного интеллекта в специальных науках
Искусственный интеллект понимается всего лишь как
техническое средство с правовым режимом вещи
За ним признается статус электронного лица по аналогии с юридическим лицом через использование приема правовой фикции
Рис. 1. Юридические грани использования искусственного интеллекта
По аналогии со ст. 1079 ГК РФ ответственность за деятельность, связанную с применением искусственного интеллекта как объекта повышенной опасности, несут лица, использующие данные интеллект5.
При этом под источником повышенной опасности понимается любая деятельность, осуществление которой создает повышенную вероятность причинения вреда из-за невозможности полного контроля за ней со стороны человека, а также деятельность по использованию, транспортировке, хранению предметов, веществ и других объектов производственного, хозяйственного или иного назначения, обладающих такими же свойствами (п. 18 постановления Пленума Верховного Суда России от 26 января 2010 г. № 1 «О применении судами гражданского законодательства, регулирующего отношения по обязательствам вследствие причинения вреда жизни или здоровью гражданина»)6.
В настоящее время вопрос об ответственности искусственного интеллекта возникает все чаще, и не только в нашем государстве. Это объясняется увеличением автономности роботизированных систем.
Современному праву уже известны случаи, когда был нанесен вред человеку в результате автономного решения, вынесенного искусственным интеллектом. Это всем известный инцидент в США, который произошел в результате столкновения автомобиля с фурой; при этом погиб водитель. Автопилотом Те81а была оценена окружающая обстановка и было принято решение, которое привело к столкновению и гибели че-ловека7.
Проводить параллель робота с физическим лицом тоже не правильно, так как у искусственного интеллекта отсутствует личностный элемент. Следовательно, роботы не могут проводить переговоры и участвовать в договорных отношениях.
Отсюда мы можем сделать вывод о том, что ни в одном государстве, в том числе и в России, в настоящее время нет законодательного закрепления норм ответственности роботов, а имеющиеся традиционные нормы гражданского, уголовного права недостаточны для этого.
В действующем законодательстве нет ответа на вопрос о том, как определить ущерб, который причинен роботом. К какой из сторон относится робот: к субъекту или объекту права? И кто несет ответственность — создатель или непосредственно сама технология?
Следовательно, несмотря на автономность искусственного интеллекта, мы не можем возложить на самого робота ответственность за действия или бездействие в случае, если действия или бездействие роботов вызвали причинение ущерба.
Тем не менее, когда приобретается система искусственного интеллекта, встроенная в другие товары (например, в автомобиль), маловероятно, что любые такие договорные исключения (например, между производителем автомобиля и поставщиком программного обеспечения искусственного интеллекта) могут быть успешно переданы покупателю автомобиля. Выходит, что правовое положение искусственного интеллекта и роботов в части ответственности неодноз-
ЗАКОН И ПРАВО • 07-2020
начно и с позиции ответственности создателей искусственного интеллекта.
Дж. Кингстон отмечает, что вопрос о том, могут ли системы искусственного интеллекта нести юридическую ответственность, зависит как минимум от трех факторов (см. рис. 2).
Мы согласны с ученым и считаем верным разделение ответственности.
На рисунке 3 составим схему ответственности за вред, причиненный искусственным интеллектом.
Факторы, от которых зависит юридическая ответственность робота
1. Существующие ограничения систем искусственного интеллекта, а также то, известны ли они и доведены ли эти сведения до покупателя
2. Является ли система искусственного интеллекта продуктом или услугой
3. Ответственность наступает за умышленное деяние (mens rea в английском праве) или за правонарушения строгой ответственности (strict liability offence)
Рис. 2. Факторы, от которых зависит юридическая ответственность робота
Факторы, от которых зависит юридическая ответственность робота
Ответственность за деятельность искусственного интеллекта несут:
Владелец AI
Разработчик (создатель) AI
Рис. 3. Факторы, от которых зависит юридическая ответственность робота
Следовательно, правовое регулирование охраны результатов деятельности искусственного интеллекта осуществляется в рамках гражданского права и регулируется ст. 1225 ГК РФ, поскольку искусственный интеллект в российском законодательстве является объектом, а не субъектом, и сам выступает определенным результатом деятельности, т.е. также попадает под охрану как результат интеллектуальной деятельности 8
В заключение отметим то, что одним из важнейших направлений развития российского права на сегодняшний день является регулирование искусственного интеллекта и «электронного лица», что требует также научного обоснования. Законодательное закрепление правового режима функционирования объектов искусственного интеллекта должно включать не только частноправовые, но и публично-правовые нормы в рамках существующих отраслей публичного права, что обусловливает необходимость совершенствования, прежде всего, административного
права и внесения соответствующих изменений в КоАП РФ.
1 Указ Президента РФ от 09.05.2017 г. № 203 «О Стратегии развития информационного общества в Российской Федерации на 2017 — 2030 годы» // СПС «Консультант Плюс»
2 Ястребов O.A. Правосубъектность электронного лица: теоретико-методологические подходы // Тр. Ин-та гос-ва и права РАН. 2018. Т. 13. № 2. С. 36—55.
3 Осипов Г.С. Искусственный интеллект: состояние исследований и взгляд в будущее // Новости искусственного интеллекта. 2016. № 1. С. 3—13.
4 Гражданский кодекс РФ (часть первая): Федеральный закон от 30.11.1994 г. № 51-ФЗ // СПС «Консультант Плюс»
5 Гражданский кодекс РФ (часть четвертая): Федеральный закон от 18.12.2006 г. № 230-Ф3 // СПС «Консультант Плюс»
6 Постановление Пленума Верховного Суда РФ от 26.01.2010 г. № 1 «О применении судами гражданского законодательства, регулирующего отношения по обяза-
ЗАКОН И ПРАВО • 07-2020
тельствам вследствие причинения вреда жизни или здоровью гражданина» // СПС «Консультант Плюс»
7 В США расследуют первое смертельное ДТП с Те81а на автопилоте // https://www.gazeta.ru/auto/2016/07/ 01_а_8351963^Мт1
8 Востром Н. Искусственный интеллект. Этапы. Угрозы. Стратегии. М.: Манн, Иванов и Фербер, 2016. 760 с.
Библиографический список
1. Гражданский кодекс РФ (часть первая): Федеральный закон от 30.11.1994 г. № 51-ФЗ // СПС «Консультант Плюс»
2. Гражданский кодекс РФ (часть четвертая): Федеральный закон от 18.12.2006 г. № 230-Ф3 // СПС «Консультант Плюс»
3. Указ Президента РФ от 09.05.2017 г. № 203 «О Стратегии развития информационного общества в Российской Федерации на 2017 — 2030 годы» // СПС «Консультант Плюс»
4. Постановление Пленума Верховного Суда РФ от 26.01.2010 г. № 1 «О применении судами гражданского законодательства, регулирующего отношения по обязательствам вследствие причинения вреда жизни или здоровью гражданина» // СПС «Консультант Плюс»
5. Бостром Н. Искусственный интеллект. Этапы. Угрозы. Стратегии. М.: Манн, Иванов и Фербер, 2016. 760 с.
6. В США расследуют первое смертельное ДТП с Tesla на автопилоте // https://www. gazeta.ru/auto/2016/07/01_a_8351963.shtml
7. Осипов Г.С. Искусственный интеллект: состояние исследований и взгляд в будущее // Новости искусственного интеллекта. 2016. № 1. С. 3—13.
8. Ястребов O.A. Правосубъектность электронного лица: теоретико-методологические подходы // Тр. Ин-та гос-ва и права РАН. 2018. Т. 13. № 2. С. 36—55.
ИЗДАТЕЛЬСТВО «ЮНИТИ-ДАНА» ПРЕДСТАВЛЯЕТ
Цветков В.Л. и др. Психология служебной деятельности.
Учебник для студентов вузов, обучающихся по специальности «Психология служебной деятельности». — 2-е изд., перераб. и доп. — М.: ЮНИТИ-ДАНА: Закон и право, 2019. — 351 с.
ISBN 978-5-238-03162-0
Учебник разработан в соответствии с требованиями Федерального государственного образовательного стандарта высшего профессионального образования третьего поколения по специальности 3705.02 «Психология служебной деятельности». Рассмотрены основы психологической работы в органах внутренних дел. Основное внимание уделяется таким вопросам, как психологическая подготовка сотрудников ОВД, технологии психологической помощи и психологической реабилитации сотрудников ОВД, организация психологической работы в ОВД.
Для курсантов, студентов вузов, психологов, а также всех интересующихся проблемами практической психологии.
ЗАКОН И ПРАВО • 07-2020
