CC BY
179
УДК 343.346.2
Цирит Ольга Александровна Татьянина Анна Николаевна Балтийский федеральный университет имени Иммануила Канта
Юридический институт Olga-39@list.ru ATatyanina12@yandex.ru Tsirit Olga Tatyanina Anna Immanuel Kant Baltic Federal University
law Institute Russia, Kaliningrad
О НЕКОТОРЫХ ВОПРОСАХ УГОЛОВНОЙ ОТВЕТСТВЕННОСТИ ЗА ДТП С УЧАСТИЕМ БЕСПИЛОТНОГО АВТОМОБИЛЯ Аннотация: авторы анализируют различные уровни автоматизации беспилотных автомобилей и предлагают возможных субъектов уголовной ответственности в каждом случае. В статье отмечается необходимость внесения изменений в законодательство, касающихся случаев кибератаки беспилотных автомобилей, а также необходимость создания индивидуального алгоритма для выбора поведения автомобиля в той или иной экстренной ситуации. Ключевые слова: беспилотные автомобили, дорожно-транспортное происшествие, транспортные средства, уголовная ответственность, неправомерное завладение транспортным средством.
ABOUT SOME QUESTIONS OF CRIMINAL RESPONSIBILITY FOR
ACCIDENT WITH THE PARTICIPATION OF AN UNMANNED VEHICLE
Annotation: the authors analyze various levels of automation of unmanned vehicles
and offer possible subjects of criminal liability in each case. The article notes the
need to amend the legislation relating to cases of cyber attacks by unmanned
461
vehicles, as well as the need to create an individual algorithm for choosing the behavior of a car in a particular emergency.
Key words: unmanned vehicles, traffic accident, vehicles, criminal liability, misappropriation of a vehicle.
Научно-технический прогресс не стоит на месте, его достижения позволяют решать все более и более сложные задачи. В некоторых странах не только вовсю используются беспилотные автомобили, но и зафиксированы случаи ДТП (некоторые - с летальным исходом).
Краткий исторический аспект: еще в конце 1970-х годов в Японии началась разработка в области беспилотных автомобилей, а в 1987-1995 годах в Европе реализовывался проект "Прометей" (эксперименты по управлению беспилотными автомобилями). Итог проекта - путешествие из Мюнхена в Копенгаген (1600 км) на машине Mercedes-Benz S-класса. Автомобиль совершал маневры по обгону других машин, но полностью исключить человеческий фактор не удалось [2, с. 30].
На сегодняшний день такие компании как Ford [5] и Volkswagen [6] проводят испытания беспилотников четвертого уровня (об уровнях автономии беспилотного автомобиля речь пойдет чуть позднее). Если же говорить о России, то на данный момент активно проводятся испытания. В середине мая 2017 года Яндекс Такси провело испытания беспилотного автомобиля [7], а в мае 2018 года 5 беспилотных автомобилей (три легковых и два грузовика) прошли испытания на специально подготовленном участке трассы Новороссийск — Керчь [8].
Более того, Постановление Правительства РФ от 26.11.2018 N 1415 "О проведении эксперимента по опытной эксплуатации на автомобильных дорогах общего пользования высокоавтоматизированных транспортных средств" (вместе с "Положением о проведении...) [1] установило проведение на территории Москвы и Республике Татарстан эксперимента с
462
BPH)
высокоавтоматизированными транспортными средствами с 1 декабря 2018 г. по 1 марта 2022 г.
Исходя из вышесказанного, надо констатировать, что ввод беспилотных автомобилей в эксплуатацию неизбежен, в связи с этим необходимо опережающее правовое регулирование, в частности, мы коснемся вопросов уголовной ответственности за ДТП с участием беспилотного автомобиля.
В этой связи, перед нами возникли следующие проблемы:
1. Существует несколько классификаций автоматизиции управления транспортного средства, но в нашей работе мы бы хотели затронуть только самую распространенную систему, разработанную международным сообществом автомобильных инженеров ^АЕ J3016), в которой изложены шесть уровней автономии беспилотных автомобилей:
1) уровень 0 - отсутствие автоматизации - управление исключительно водителем (но существует система уведомлений);
2) уровень 1 - включающий помощь водителю - наличие адаптивного круиз-контроля (и других автоматизированных систем);
3) уровень 2 - частично автоматизированный - водитель осуществляет мониторинг окружающей среды и обязан экстренно реагировать, если система не справляется самостоятельно; при повороте руля/нажатии педали тормоза управление переходит к водителю;
4) уровень 3 - условно автоматизированный - система принимает решения самостоятельно (например, может сменить маршрут), берет весь процесс вождения на себя, водитель рассматривается скорее как резерв управления (должен быть готов взять управление на себя);
5) уровень 4 - высоко автоматизированный - автомобиль может ехать полностью самостоятельно, обращается к человеку лишь в нестандартной ситуации (как раз автомобили уровня 4 сейчас тестируются в Москве и Республике Татарстан, о чем мы говорили выше);
6) уровень 5 - абсолютно автоматизированный - автомобилю не нужен руль, сидение водителя может разворачиваться в обратном направлении;
463
автомобиль полностью управляется автоматически, не передавая управление человеку ни в какой ситуации (со стороны человека требуется лишь запуск системы и указание пункта назначения) [9].
Сразу возникает вопрос: можно ли считать машину на каждом уровне беспилотным автомобилем? Законодательно не закреплено, что следует понимать под беспилотником; в российском законодательстве закреплено лишь понятие "высокоавтоматизированное транспортное средство". Незнамов А.В. подчеркивает проблему терминологии: часто для описания одних и тех же машин используют совершенно разные слова [3]. В данной работе мы сделаем акцент на уголовной ответственности, поэтому лишь обозначим данную проблему. На наш взгляд, под беспилотным автомобилем следует понимать транспортное средство, оборудованное системой автоматического управления, которое может передвигаться без участия человека.
Следовательно, для каждого уровня автоматизации следует определить свой субъект (или субъекты) уголовной ответственности, потому что, например, если мы говорим об уровне ноль, то вопрос об ответственности разработчика не возникает. С другой стороны, что делать в ситуации, когда у нас присутствует смешанное участие человека и системы в процессе вождения?
В США приняты отдельные законодательные акты, которые регламентируют испытания и передвижения беспилотных автомобилей (на уровне ряда штатов, например, Флорида, Невада и т.д.). В штате Аризона пытались принять закон, регулирующий использование беспилотников, но так и не смогли ответить на вопрос, кто же должен нести уголовную ответственность [10].
А вот в штате Калифорния ответственность за нарушение ПДД остается за водителем в независимости от режима, в котором находился автомобиль. Водитель всегда должен находиться за рулем и быть готовым взять управление на себя [11].
В Германии был разработан и одобрен закон, определяющий использование беспилотного автомобиля. Там также закреплено обязательное
464
нахождение за рулем водителя, который должен быть готов взять управление на себя, а в каждом беспилотном автомобиле должен быть установлен черный ящик (для фиксации хода поездки и установления виновного) [4, с. 19].
В марте 2018 года беспилотный автомобиль компании Uber сбил насмерть женщину, которая переходила дорогу вне пешеходного перехода. Судя по видеозаписи, женщина внезапно вышла из неосвещенной области на проезжую часть перед автомобилем. Беспилотник нарушил ограничение по скорости (двигался со скоростью 38 миль в час вместо 35 миль в час), не пытался затормозить самостоятельно [12]. Женщина скончалась в больнице от полученных травм. Компанию Uber не стали привлекать к уголовной ответственности, и одним из доводов послужило то обстоятельство, что видеозапись происшествия может неточно отражать произошедшее [13].
Исходя из вышесказанного, мы считаем необходимым использование черного ящика в каждом беспилотном автомобиле, дабы с более высокой вероятностью установить виновника аварии. Общее правило можно сформулировать следующим образом: если произошел сбой в системе, а водитель не предвидел и не мог предвидеть возможности наступления общественно опасных последствий (невиновное причинение вреда), то в данном случае ответственность будет нести разработчик, но, если произошел сбой, а водитель не следил за ситуацией на дороге - ответственность несет водитель.
2. Следующей проблемой являются киберугрозы. Известно, что хакеры несколько раз взламывали автомобили компании Tesla [14] - им удалось получить удаленный доступ к аудиосистеме, стеклоочистителям, рулевому управлению, трансмиссии и даже тормозам.
Учёные из Технологического института Джорджии в США предоставили отчет об исследовании киберфизических угроз, связанных со взломом транспортных средств, подключённых к Интернету. Они выяснили, что даже небольшая хакерская атака (которая коснется 10% беспилотных автомобилей
465
BPH)
Манхэттена), может стать причиной пробок и затруднить работу спасательных служб [15].
Специалисты компании Argus (специализируется на средствах киберзащиты для автомобилей) считают, что требуются различные решения для разных частей автомобиля, и для полной защиты они все должны стать единым целым [16].
Мы, в этой связи, считаем необходимым внести изменения в Постановление Пленума Верховного Суда РФ от 09.12.2008 N 25 (ред. от 24.05.2016) "О судебной практике по делам о преступлениях, связанных с нарушением правил дорожного движения и эксплуатации транспортных средств, а также с их неправомерным завладением без цели хищения", а именно в п. 23, где под неправомерным завладением транспортным средством предлагаем понимать ситуацию, когда некое лицо взламывает беспилотный автомобиль, поскольку в таком случае водитель также лишается возможности распоряжаться транспортным средством по своему усмотрению.
3. Нельзя забывать о том, что беспилотный автомобиль крайне уязвим, что он теряется в условиях плохой погоды, магнитных бурь. Для визуализации беспилотники используют лидар или видеокамеру, которые в условиях плохой погоды практически не работают, что, по сути, ведет к "слепоте" автомобиля, а магнитная буря может поразить спутниковую навигацию и электронные блоки для обработки GPS-сигнала [17].
Беспилотный автомобиль, как показывают исследования, крайне легко дезориентировать, т.к. компьютер не может распознать нестандартную обстановку. Ученые из Вашингтона провели следующий эксперимент: они навесили на знаки "Стоп" полоски бумаги и стикеры Love и Hate («Любовь» и «Ненависть»). И полоски, и стикеры заставили беспилотник думать, что перед ней находится знак с ограничением в 45 миль в час (в 73,3% случаев!) [18].
Более того, не всем людям нравится, что постепенно беспилотные автомобили вводятся в эксплуатацию. Например, местные жители в Аризоне совершили ряд нападений (зафиксировано более 20 случаев) на беспилотные
466
автомобили компании Waymo. Информация о том, что беспилотному автомобилю сложно интерпретировать "испорченные" знаки, находится в публичном доступе, и люди могут специально изменять их. Что делать в таком случае?
На наш взгляд, вышесказанное еще раз подтверждает необходимость на данном уровне технического прогресса наличие водителя в беспилотном автомобиле. В случае форс-мажорных обстоятельств (таких, как, например, плохая погода или магнитная буря) или нестандартных для автомобиля, но типичных для водителя ситуациях (например, ситуация с испорченным знаком), водитель должен будет взять ситуацию в свои руки.
4. Нельзя забывать о возникающих этических проблемах. Исследователи из Массачусетского технологического института создали сайт The Moral Machine, где пользователи могли выбирать, как поступать беспилотному автомобилю в различных гипотетических ситуациях: например, пожертвовать одной девочкой-пассажиром или тремя пешеходами (одной девочкой, одним мужчиной-врачом и одной полной женщиной).
Тест прошло более 2 миллиона человек из 233 стран, и исследователи пришли к следующим выводам [19]:
1. Три основных результата: люди обычно «спасают» людей, а не животных; молодых вместо старых; а также большие группы вместо малых.
2. Результаты разнятся в зависимости от стран. Исследователи разделили страны на три категории: "восточные", "западные" и "южные". Например, южные страны чаще всего «спасали» молодых людей, особенно в сравнении с восточными — жители этих стран часто выбирали спасение для пожилых.
Интересен следующий психологический феномен: Жан-Франсуа Бонефон говорит о том, что люди в целом поддерживают мысль о том, что в критической ситуации автомобиль должен врезаться в стену или еще как-либо пожертвовать водителем, чтобы спасти большее число пешеходов, но при этом эти же люди хотят ездить в автомобилях, которые защищают водителя любой ценой [20].
Специалисты Германии закрепили этические нормы для беспилотных автомобилей, запретив искусственному интеллекту принимать решения, которые могут спасти жизни одних людей, причинив ущерб другим [4, с. 19]. Они сформулированы следующим образом:
1) материальный вред приоритетнее, чем вред, нанесенный физическому
лицу;
2) исключается всякая классификация людей, например, по возрасту и
3) ответственность за вред несет производитель.
На наш взгляд, существующие нормы на данный момент сформулированы таким образом, что водитель обязательно должен контролировать ситуацию, поэтому говорить об этической проблеме пока преждевременно. Но если мы говорим об автомобиле уровня 5 - в котором, даже не предусмотрен руль для водителя, а кресло разворачивается в противоположную сторону - то тут действительно встает вопрос, как урегулировать данную проблему. Изначально из приведенных исследований и аргументов, мы пришли к выводу, что в каждой стране следует закрепить свой алгоритм, свой набор ситуаций и решений, которые должен принять беспилотный автомобиль, исходя из моральных устоев каждой страны. Но что, если в какой-либо стране в беспилотный автомобиль будет заложен алгоритм, где пожертвовать пассажирами более приемлемый вариант, а гражданина этой страны данная ситуация не устраивает? На данный момент, если происходит какая-то необычная ситуация, которая может привести, например, к летальному исходу, решение принимает именно водитель, и, на наш взгляд, мы должны сохранить за ним такое право. Но и ответственность в случае такой ситуации должен нести именно водитель, несмотря на то, что он никак не участвует в процессе вождения.
В нашей работе мы пришли к следующим выводам:
1. Для каждого уровня автоматизации следует определить свой субъект (или субъекты), который будет нести уголовную ответственность. Если
т.д.;
468
произошел сбой в системе, а водитель не предвидел и не мог предвидеть возможности наступления общественно опасных последствий (невиновное причинение вреда), то в данном случае ответственность будет нести разработчик, но, если произошел сбой, а водитель не следил за ситуацией на дороге - ответственность несет водитель.
2. Необходимо использовать в каждом беспилотном автомобиле черный ящик для точного установления виновника аварии.
3. Внести предложенные нами изменения в Постановление Пленума Верховного Суда РФ от 09.12.2008 N 25 (ред. от 24.05.2016) "О судебной практике по делам о преступлениях, связанных с нарушением правил дорожного движения и эксплуатации транспортных средств, а также с их неправомерным завладением без цели хищения", чтобы в случае кибератаки была возможность привлечь виновное лицо к уголовной ответственности.
4. На данном этапе констатируем необходимость наличия водителя в беспилотном автомобиле и его участие в процессе вождения в экстренных условиях.
5. В будущем необходимо создание индивидуального алгоритма для беспилотного автомобиля уровня 5, который будет касаться выбора поведения автомобиля в той или иной экстренной ситуации, но так как алгоритм будет действовать, исходя из тех решений, которые заложит водитель, именно водитель в случае ДТП понесет уголовную ответственность (если это была не кибератака, не сбой системы и не вина пешехода/иного участника).
1. Постановление Правительства РФ от 26.11.2018 N 1415 "О проведении эксперимента по опытной эксплуатации на автомобильных дорогах общего пользования высокоавтоматизированных транспортных средств (вместе с "Положением о проведении эксперимента по опытной эксплуатации на автомобильных дорогах общего пользования высокоавтоматизированных
Список литературы:
транспортных средств")" // Опубликован 27.11.2018 на официальном интернет-портале правовой информации, http://www.pravo.gov.ru.
2. Кабалдин Ю.Г., Киселев А.В., Шатагин Д.А. и др.; под ред. Ю. Г. Кабалдина. Беспилотное транспортное средство с интеллектуальной системой диагностики и управления для условий Крайнего Севера и Арктики: монография — Нижний Новгород: НГТУ, 2017. - 127 с.
3. Незнамов А.В. Правила беспилотного вождения: об изменениях Венской конвенции о дорожном движении // Закон. 2018. N 1. [Электронный ресурс]. Доступ из справ.- правовой системы «Консультант плюс».
4. Коробеев А.И., Чучаев А.И. Беспилотные транспортные средства: новые вызовы общественной безопасности // Lex russica. 2019. N 2. С. 9-28.
5. Компания Ford испытала беспилотники четвертого уровня // URL: https://www.drive.ru/news/ford/59510186ec05c40e2fD0001e.html (дата обращения 18.11.2019).
6. Volkswagen запустил четвертый уровень тестирование беспилотных автомобилей // URL: https://driveboom.ru/carnews/499/ (дата обращения 19.11.2019).
7. Иду по приборам: Яндекс.Такси испытало беспилотный автомобиль // URL: https://yandex.ru/blog/company/idu-po-priboram-yandeks-taksi-ispytalo-bespilotnyy-avtomobil (дата обращения 19.11.2019).
8. Сам себе рулевой: как проходили испытания российских машин-беспилотников // URL: https://ria.ru/20180508/1520123737.html (дата обращения 17.11.2019).
9. SAE J3016. Taxonomy and definitions for terms related to on-road motor vehicle automated driving systems. Warrendale: Society of Automotive Engineers;
10. Нам нужно менять законодательство для беспилотных авто // URL: https://rb.ru/opinion/bespilotnoe-pravo/ (дата обращения 16.11.2019).
2014.
11. Калифорния разработала правила для испытателей автомобилей-беспилотников на дорогах общего пользования // URL: https://news.drom.ru/28550.html (дата обращения 18.11.2019).
12. Робот не виноват: беспилотник Uber не мог избежать летального ДТП // URL: https://hitech.vesti.ru/article/803363/ (дата обращения 17.11.2019).
13. Uber освободили от уголовной ответственности за ДТП, когда беспилотник насмерть сбил женщину // URL: https://www.fontanka.ru/2019/03/06/073/ (дата обращения 19.11.2019).
14. Хакеры против автопилотов: почему умный автомобиль - это опасно // URL: https://www.autonews.ru/news/59afac259a79471c3db23861 (дата обращения 11.11.2019).
15. Учёные впервые оценили опасность массового взлома беспилотных авто // URL: https://nauka.vesti.ru/article/1197132 (дата обращения 22.04.2019).
16. Автопилот (беспилотный автомобиль) // URL: http : //www. tadviser.ru/index.php/Статья : Автопилот_(беспилотный_автомобиль) (дата обращения 12.11.2019).
17. Это не шутки - беспилотные маршрутки // URL: https://www.pressreader.com/ (дата обращения 13.11.2019).
18. Электронику автомобилей-беспилотников обманули при помощи наклеек // URL: https://news.drom.ru/54438.html (дата обращения 15.11.2019).
19. MIT опубликовал результаты теста: в нём нужно было выбирать, кого может спасти, а кого сбить беспилотная машина // URL: https://vc.ru/future/49236-mit-opublikoval-rezultaty-testa-v-nem-nuzhno-bylo-vybirat-kogo-mozhet-spasti-a-kogo-sbit-bespilotnaya-mashina (дата обращения 17.11.2019).
20. Автопилот (беспилотный автомобиль) // URL: http : //www. tadviser.ru/ index.php/Статья : Автопилот_(беспилотный_автомобиль) (дата обращения 12.11.2019).
