CC BY
377
УДК 347:004.8
Морхат Петр Мечиславович
кандидат юридических наук Арбитражный суд Московской области constitution88@gmail.com
ПРАВОСУБЪЕКТНОСТЬ ЮНИТА ИСКУССТВЕННОГО ИНТЕЛЛЕКТА: НЕКОТОРЫЕ ГРАЖДАНСКО-ПРАВОВЫЕ ПОДХОДЫ
В статье показана актуальность возможного юридического конструирования и признания определённой специфической правосубъектности систем искусственного интеллекта. Автор рассматривает тенденции, модели и проблемы определения правосубъектности юнита искусственного интеллекта. В статье рассмотрена правосубъектность юнита искусственного интеллекта, соотносимая с правосубъектностью человека, показаны основания для сопоставления и последствия применения такого подхода. Автор делает вывод, что термин «юридическая фикция» применительно к правосубъектности юнита искусственного интеллекта отражает лишь юридическую природу (исходя из одного лишь основания выделения такой природы), но не объясняет сущности такой правосубъектности. Автор представляет свой собственный научный концепт интерпретации правосубъектности «электронное лицо» как особого технико-юридического образа.
Ключевые слова: искусственный интеллект, юнит искусственного интеллекта, электронное лицо, правосубъектность, гражданское право, информационное право, правосубъектность юнита искусственного интеллекта.
В настоящее время всё более актуальной становится тема возможного юридического конструирования и признания определённой специфической правосубъектности систем искусственного интеллекта. В рамках данной статьи будут рассмотрены некоторые тенденции, модели и проблемы правосубъектности искусственного интеллекта.
Тенденции и существующие походы к наделению юнита искусственного интеллекта правосубъектностью.
Маршал Уиллик в своем исследовании, проведенном в 1983 году, указывал, что по мере развития технологий, позволяющих более полно взаимодействовать человеку и компьютеру, возможно размытие границ между инструментом (в качестве которого выступает как раз компьютер) и оператором, управляющим им [8, с. 6].
Сейчас, по прошествии более чем трёх десятилетий, нельзя говорить о хоть сколько-нибудь значимом размывании этих границ, однако вопрос правосубъектности системы искусственного интеллекта приобретает актуальность в силу иных причин и факторов. Так, современные технологии позволяют добиваться всё более независимого поведения юнитов искусственного интеллекта.
И если юнит искусственного интеллекта является по-настоящему автономным и способен к самообучению, становится всё более сложно приписывать последствия его поведения (действия) его создателю [1, с. 1477].
Хавьер Эредиа отмечает, что сейчас юнит искусственного интеллекта не имеет самосознания и может существовать только зависимо от физического или юридического лица, создавшего его либо пользующегося результатами его деятельности, однако события и технологии развиваются быстро, и, возможно, в будущем возникнет вопрос о том, если ли у электронного лица не только обязанности и функции, но и «права» [3].
Тим Малган указывает, что, в целом, существует четыре основных подхода к определению правосубъектности «цифровых существ» (то есть, юнитов искусственного интеллекта) с точки зрения права:
- концепция исключительной правосубъектности («exclusivism»), согласно которой только биологические человеческие существа могут выступать как субъекты или лица с самостоятельной правосубъектностью;
- концепция минимальной инклюзивности («minimal inclusivism»), согласно которой цифровое существо может быть автономным агентом, но не правоспособным агентом или лицом с самостоятельной правосубъектностью;
- концепция умеренной инклюзивности («moderate inclusivism»), согласно которой цифровое существо может быть автономным агентом или правоспособным агентом, но не лицом с самостоятельной правосубъектностью;
- концепция полной инклюзивности («extreme inclusivism»), согласно которой цифровое существо может быть лицом с самостоятельной правосубъектностью, наделенным правами человека и имеющим значимые интересы [5, с. 11].
Кроме того, существуют подходы к наделению юнитов искусственного интеллекта правосубъектностью, схожей с человеческой, правосубъектностью юридических лиц, а также ограниченной правосубъектностью животных.
При этом, если попытки расширения прав животных объясняются практическими идеями защиты животных (от жестокого обращения), то попытки наделения правосубъектностью иных сущностей являются, по-видимому, следствием необходимости решения проблемы их категоризации в рамках правового пространства [1, с. 1476].
Следует остановиться и на таком аспекте.
Мария Хосе Сантос Гонсалес указывает, что развитие технологий в сфере искусственного интеллекта и робототехники может приводить к воз-
280
Вестник КГУ ^ № 3. 2018
© Морхат П.М., 2018
никновению следующих проблем, которые невозможно решить при помощи действующего ныне законодательства:
- многофункциональность роботов, которые могут быть задействованы в самых разных сферах;
- возникновение новых ситуаций, определяемых существенными характеристиками технологий искусственного интеллекта;
- юниты искусственного интеллекта не обладают интуицией, самосознанием и не способны действовать в рамках этических норм (то есть самостоятельно делать нравственный выбор и быть связанными нравственными ограничениями), в силу чего, выполняя различные задачи, традиционно исполняемые человеком, могут способствовать возникновению и росту культурной, экономической, социальной и правовой напряжённости;
- человеческая эмпатия к роботу, которая способствует развитию социальных рисков;
- решения, принимаемые роботами, могут привести к изменению поведения в социуме, в том числе, в контексте возможной правосубъектности робота, схожей с правосубъектностью человека [2, с. 27-28].
И, на наш взгляд, эти проблемы могут существенно усугубиться в случае скороспелого и необдуманно обширного наделения робота правами, аналогичными правам человека.
При этом необходимо учитывать, что изменения, в рамках которых признаётся правосубъектность новых субъектов, как правило, связаны с изменениями культурных и экономических реалий, а не являются результатами какого-либо предварительного планирования. Аналогичным образом и сдвиги в распределении юридических прав и обязанностей обычно становятся результатом социального давления, а не беспристрастного генерального планирования общества [8, с. 5].
При этом наделение юнитов искусственного интеллекта правами, аналогичными человеческим, в результате «давления» со стороны общества и общественных настроений видится весьма маловероятным, а с чисто экономической точки зрения это нецелесообразно. Тем не менее, рассмотрим этот вопрос более подробно.
Правосубъектность юнита искусственного интеллекта, схожая с правосубъектностью человека.
Всё более затруднительным становится различение деятельности человека и компьютера, если судить по конечному ее продукту, и компьютеры уже доказали свою способность к выполнению функций, изначально относимых к исключительно человеческим. А возрастающее сходство между людьми и машинами в конечном счете может потребовать необходимость юридического признания юнита искусственного интеллекта в качестве «лица» [8, с. 5].
При этом возникает серьезная проблема определения критериев, по которым агент может наделяться соответствующими правами и обязанностями.
Стивен Руза выделяет три категории технологий искусственного интеллекта следующего поколения:
- архитектура компьютера, которая воплощает в себе умственные процессы, основанные на обратной инженерии человеческого мозга;
- программное обеспечение, которое имитирует определённые паттерны человеческого мышления из биологических процессов, происходящих в мозге и в природе в целом;
- нейронное протезирование, моделируемое на существующих участках мозга, которые функционируют в мозге человека или в сочетании с ним [7, с. 7].
В случае применения всех этих видов технологий проблема правосубъектности искусственного интеллекта, аналогичная человеческой, будет все более актуализироваться.
Патрик Хаббард указывает, что система искусственного интеллекта может в рамках данной концепции претендовать на следующее:
- на то, чтобы иметь определенные способности: хотя она не является человеком, может утверждаться, что она обладает теми же способностями, что и человек, чтобы считаться правосубъектной; что она является, по сути, эквивалентом человека, так как не только способна взаимодействовать с миром, однако обладает необходимым интеллектом и уровнем психологического развития, чтобы быть (признаваться) сущностью, обладающей самосознанием;
- на то, чтобы иметь определенные права: если человек и машина равны по своим возможностям, они оба имеют равные права, необходимые для того, чтобы реализовывать свои возможности в качестве автономного существа, и при этом машина не должна рассматриваться в таком случае как собственность, потому что это тогда сделает ее рабом [4, с. 407].
Современный рационалистический подход к человеческой уникальности с точки зрения права на правосубъектность основан, главным образом, на способности человека к сложному мышлению и коммуникации [4, с. 418].
Кроме того, существует подход, в рамках которого существенную роль играет наличие сознания и самосознания. Однако он является спорным в некоторых своих аспектах. Если рассматривать человеческое тело, которое осуществляет дыхательные функции, но линия электроэнцефалограммы является полностью ровной, а прогнозы на восстановление сознания отсутствуют, живым и обладающим определенной (пусть и ограниченной) правосубъектностью, то юнит искусственного интеллекта явно способен делать большее по сравнению с ним [8, с. 9].
Вестник КГУ ^ № 3. 2018
281
И если на законодательном уровне будет принят определенный стандарт наличия (фиксации) определенной степени сознания и интеллекта у субъекта для того, чтобы он мог быть признан способным реализовывать права и осуществлять некоторые обязанности, то это расширит возможности для признания правосубъектности юнитов искусственного интеллекта [8, с. 9].
Если рассматривать возможность наделения правосубъектностью с точки зрения автономии, то, как указывает Мафальда Миранда Барбоза, на основании этой характеристики нельзя проводить какие-либо точные аналогии с людьми, в том числе, по причине того, что автономность юнита искусственного интеллекта является технологической и основана на определенных алгоритмах, а не является проявлением нравственного выбора, как это происходит у человека [1, с. 1482].
Кроме того, исследователи отмечают также, что притязания на наделение каких-либо субъектов соответствующими правами и обязанностями возникают только в рамках сообщества автономных лиц, поскольку у человека, находящегося в изоляции, нет необходимости беспокоиться по поводу отношения к нему или о взаимодействии с другими людьми. И требование лица о его праве на личность предполагает взаимные отношения с другими людьми, которые признают это право, а также заявляют о своих собственных правах на личность. И в свете этого значимы вопросы относительно значения общества и взаимодействия с ним искусственного агента для того, чтобы такой агент также мог считаться членом этого общества [4, с. 423-424].
Правосубъектность юнита искусственного интеллекта, схожая с правосубъектностью юридического лица.
Более 150 специалистов в области права и робототехники подписали открытое письмо к Европейской комиссии, в котором было отмечено, что создание правового статуса электронного лица для автономных, непредсказуемых и самообучаемых роботов оправдано некорректным утверждением о том, что ответственность за ущерб, причиненный действиями робота, невозможно доказать. И с правовой и этической точки зрения наделение робота правосубъектностью неуместно независимо от модели правосубъектности:
- неуместно в рамках модели правосубъектности человека (физического лица), поскольку робот в таком случае будет наделен правами человека, такими, как право на достоинство, на гражданство, которые в таком случае будут противопоставляться правам человека;
- неуместно в рамках модели правосубъектности юридического лица, поскольку она подразумевает существование людей за юридическим лицом, которые руководят им, что не относится к роботу [6].
Последняя указанная модель правосубъектности юнита искусственного интеллекта видится более вероятной и достаточно корректной, так как представляет собой лишь юридическую фикцию, которая не может повлечь за собой каких-либо социальных потрясений, а может быть направлена только на упрощение правового регулирования некоторых взаимоотношений и некоторых видов деятельности.
Маршал Уиллик в 1983 году предсказал, что когда весь бизнес одной фирмы будет компьютеризирован, организация и компьютер будут представлять собой одну сущность [8, с. 9]. На наш взгляд, до этого еще, как минимум, достаточно далеко, исходя из технологических соображений, как максимум -пока невозможно обеспечить достижение целей деятельности юридических лиц посредством использования юнитов искусственного интеллекта.
Однако нельзя исключать создание в будущем неких гибридных форм субъектов права, сочетающих в себе одновременно особенности и функции юридических лиц и электронных лиц.
В любом случае, полагаем, что термин юридическая фикция применительно к правосубъектности юнита искусственного интеллекта отражает лишь юридическую природу (и то исходя из одного лишь основания выделения такой природы), но не объясняет сущность такой правосубъектности.
Согласно нашему авторскому определению, разработанному по результатам проведённого исследования, электронное лицо - это технико-юридический образ (обладающий некоторыми признаками юридической фикции по аналогии с юридическим лицом), отражающий и воплощающий конвенционально (условно) специфическую правосубъектность юнита искусственного интеллекта, гетерогенную в зависимости от функционально-целевого назначения и возможностей такого юнита и в силу этого аппроксимированную к конкретному целеполаганию производства и задействования такого юнита.
При этом, по мнению Патрика Хаббарда, опыт наделения правосубъектностью организаций может иметь значение при рассмотрении вопроса о правосубъектности юнитов искусственного интеллекта. Например, необходимо проявлять особую осторожность в предоставлении такой правосубъектности искусственным агентам в форме автономного права и способности осуществлять контроль над ресурсами таким образом, который будет оказывать сильное влияние на окружающий мир [4, с. 435].
Библиографический список
1. Barbosa M.M. Inteligencia artificial, e-persons e direito: desafios e perspetivas // Revista Jurídica Luso-Brasileira. - 2017. - № 6. - P. 1475-1503.
2. González M.J.S. Regulación legal de la robótica y la inteligencia artificial: retos de futuro // Revista Jurídica de la Universidad de León. - 2017. - № 4. - P. 25-50.
282
Вестник КГУ ^ № 3. 2018
3. Heredia J. Inteligencia Artificial, automatización y robots. Primeros pasos legales (II). [Электронный ресурс]. - Режим доступа: https://www.eae. es/actualidad/faculty-research/inteligencia-artificial-automatizacion-y-robots-primeros-pasos-legales-ii. -09.05.2017. (дата обращения: 24.04.2018).
4. Hubbard F.P. «Do androids dream?»: personhood and intelligent artifacts // Temple Law Review. - 2011. - Vol. 83. - P. 405-474.
5. Mulgan T. Corporate Agency and Possible Futures. [Электронный ресурс]. - Режим доступа: https ://link. springer.com/content/ pdf/10.1007%2Fs 10551-018-3887-1.pdf (дата обращения: 24.04.2018).
6. Open letter to the European commission artificial intelligence and robotics. [Электронный ресурс]. -Режим доступа: http://www.robotics-openletter.eu (дата обращения: 24.04.2018).
7. Roosa S.B. The Next Generation of Artificial Intelligence in Light of In re Bilski // Intellectual Property & Technology Law Journal. - 2009. March. -Vol. 21. - № 3. - P. 6-10.
8. WillickM.S. Artificial intelligence: Some Legal Approaches and Implications // AI Magazine. -1983. - Vol. 4. - № 2. - P. 5-16.
References
1. Barbosa M.M. Inteligencia artificial, e-persons e direito: desafios e perspetivas // Revista Jurídica Luso-Brasileira. - 2017. - № 6. - P. 1475-1503.
2. González M.J.S. Regulación legal de la robótica y la inteligencia artificial: retos de futuro // Revista Jurídica de la Universidad de León. - 2017. - № 4. -P. 25-50.
3. Heredia J. Inteligencia Artificial, automatización y robots. Primeros pasos legales (II). [EHlektronnyj resurs]. - Rezhim dostupa: https://www.eae.es/ actualidad/faculty-research/inteligencia-artificial-automatizacion-y-robots-primeros-pasos-legales-ii. -09.05.2017. (data obrashcheniya: 24.04.2018).
4. Hubbard F.P. «Do androids dream?»: personhood and intelligent artifacts // Temple Law Review. -2011. - Vol. 83. - P. 405-474.
5. Mulgan T. Corporate Agency and Possible Futures. [EHlektronnyj resurs]. - Rezhim dostupa: https ://link. springer. com/content/ pdf/10.1007%2Fs10551-018-3887-1.pdf (data obrashcheniya: 24.04.2018).
6. Open letter to the European commission artificial intelligence and robotics. [EHlektronnyj resurs]. -Rezhim dostupa: http://www.robotics-openletter.eu (data obrashcheniya: 24.04.2018).
7. Roosa S.B. The Next Generation of Artificial Intelligence in Light of In re Bilski // Intellectual Property & Technology Law Journal. - 2009. March. -Vol. 21. - № 3. - P. 6-10.
8. Willick M.S. Artificial intelligence: Some Legal Approaches and Implications // AI Magazine. -1983. - Vol. 4. - № 2. - P. 5-16.
Вестник КГУ _J № 3. 2018
283
