CC BY
173
по себе достаточными для обеспечения такого улучшения, или потребуются некоторые другие реформы, чтобы осуществить такое изменение.
Список литературы
1. Beauchamp T., Childress J. Principles ofbiomedical ethics: marking its fortieth anniversary. - Mode of access: https://www.bioethics.net/2019/10/principles-of-biomedical-ethics-marking-its-fortieth-anniversary/ (first downloaded 28.02.2020).
2. Public health ethics and covid-19: the ethical dimensions of public health decisionmaking during a pandemic / Munthe Ch., Thompson A., Wild V., Ballantyne A. et al.. - Mode of access: https://www.researchgate.net/publication/340875089_Pub lic_Health_Ethics_and_Covid-19_The_ethical_dimensions_of_public_health_decisi on-making_during_a_pandemic (first downloaded 20.04.2020).
3. Reis E. Did bioethics matter? A history of autonomy, consent, and intersex genital surgery // Medical law review. - N.-Y., 2019. - Vol. 27, N 4. - P. 658-674.
2020.04.011. СОКОЛОВА М.Е. БПЛА: ТЕХНОЛОГИЯ, ЭТИКА, ПРАВО.
Аннотация. Применение технологий искусственного интеллекта (ИИ) в военном деле вызвало к жизни новые этические и правовые проблемы. Один из примеров - широкое использование в ударных целях беспилотных летательных аппаратов (БПЛА) -боевых дронов для точечного поражения целей. Философский анализ этих проблем должен опираться на всесторонний анализ фактов и технологических реалий.
Ключевые слова: искусственный интеллект в военном деле; военная этика; дроны; роботизированное оружие.
Широкое использование в военных целях беспилотных летательных аппаратов (БПЛА) - дронов для разведки, патрулирования, поражения целей, совершения диверсий - породило новые этические коллизии и противоречащие друг другу подходы к применимости норм традиционной военной этики в условиях новых технологических реалий. Глубинный философский анализ этих проблем должен опираться на понимание технологической стороны вопроса.
Историю использования современных БПЛА в локальных конфликтах, начиная с середины XX в., принято отсчитывать с мо-
мента запуска немцами во время Второй мировой войны беспилотного аппарата FX-140. По мере совершенствования средств обнаружения разведывательных самолетов и ракетно-зенитных комплексов интерес к относительно небольшим по размерам беспилотникам нарастал все больше, поскольку это давало возможность выполнить боевую задачу и избежать человеческих потерь. Во второй половине XX в. дроны использовались прежде всего для разведывательных целей, сбора информации, а впоследствии и для нанесения точечных ударов и антитеррористических атак -США во время войны во Вьетнаме, Израилем - в военной операции против Ливана и на территории Египта, Судана, в Секторе Газа. Великобритания также использовала беспилотники на территории ряда стран [6].
В начале XXI в. одним из главных регионов для боевого применения беспилотников стал Ближний Восток, где они - помимо ведения разведки и мониторинга боевых действий - стали выполнять и задачи огневой поддержки сухопутного контингента с воздуха и нанесения точечных ракетных ударов. Так, в операциях американских вооруженных сил в Афганистане и затем в Ираке часто использовались средневысотные БПЛА, прежде всего MQ-1 «Predator» («Хищник»), оснащенные с 1992 г. противотанковыми управляемыми ракетами «Hellfire» [6]. Именно этот беспилотник в 2002 г. нанес удар с воздуха по внедорожнику, предположительно принадлежавшему одному из сторонников Аль-Каиды [6]. После этого беспилотная авиация стала все больше превращаться в реальную угрозу для терроризма. Военные дроны использовались на территории Пакистана, Афганистана и Йемена для «целевых убийств», т.е. для запланированных убийств граждан этих государств, подозреваемых в причастности к террористической деятельности.
Такое использование ударных дронов получило громкий общественный резонанс в последние десятилетия в связи с выступлениями в СМИ и журналистско-правозащитными расследованиями гибели при атаках дронов невинных людей. В 2015 г. в СМИ появилось несколько интервью с бывшим американским оператором беспилотных летательных аппаратов Брэндоном Брайантом, в котором он рассказал о своей работе в 2006-2011 гг. в центре на территории США, во время военных операций на Ближнем Востоке,
Афганистане. Брайант считает, что все операторы проходят через опыт моральной девальвации насилия. Он рассказал о том, с чем он был не согласен в своей работе, о сложностях с которыми ему пришлось столкнуться, о гибели гражданских лиц, среди которых возможно были и дети [10].
***
Появились и серьезные научные исследования о новых этических и правовых проблемах с использованием боевых дронов в перспективе традиционной военной этики.
Как отмечает сербский исследователь Александр Фатич, традиционно военная этика была этикой военных как особой профессиональной социальной группы со своей собственной системой моральных норм, ценностей и представлений. Ее нормы допускали убийство других людей, насилие, что, казалось бы, запрещено нормами общей социальной этики. Но поскольку речь идет о легитимации права на убийство не в мирные дни, а в ситуации военных действий, военная этика является неотъемлемой частью морального арсенала общества и ее нормы регулируют область важных социальных отношений. Ведь сражаясь на войне и присутствуя лично на поле боя, военные подвергают свою жизнь риску и опасности, проявляют военную доблесть и защищают интересы своей страны, выступая от ее имени. Рискуя собственной жизнью, они получают социально-легитимное основание отнимать чужие жизни. Современные же дистанционные технологии дают возможность эффективно действовать без риска и потерь среди воинского состава, но в то же самое время подрывают социальную легитимность и авторитет тех норм военной этики, которым военные традиционно следовали всю историю человечества. Использование дронов дает возможность избавить от риска собственных солдат, ограничиваясь лишь финансовыми затратами при повышении эффективности и инструментальной оправданности операций. Однако это коренным образом меняет моральный характер военных операций и делает их не легитимными с точки зрения традиционной профессиональной этики военных, поскольку участвующим в военных операциях больше не требуется проявлять такие традиционные качества, как героизм, мужество, самопожертвование, уважение к врагу [11, с. 354]. Оператор беспилотника не может точно идентифцировать на видео конкретного человека, поэтому, по словам эксперта ООН
Ф. Алстона, отсутствие визуального контакта между оператором беспилотника и целью в целом делает убийство менее эмоциональным и, соответственно, более легко осуществимым, поскольку цель видится оператором лишь как обезличенные пиксели на экране монитора [9]. В то же время этим объясняется значительное количество жертв среди мирного населения при атаках, осуществляемых с беспилотных летательных аппаратов.
Операторы видят цель, и результаты своих действий на экране, находясь за много тысяч километров от театра военных действий, мест, где проводятся специальные военные операции. Но всё происходящее для них носит эффект компьютерной игры, технологической операции. В остальном же эти люди ведут жизнь обычных служащих, могут приезжать утром в офис на работу и уезжать вечером домой, строить карьеру, менять работу и пр.
Обучение операторов дронов больше похоже на обучение математике и компьютерному моделированию, а не на обычную длительную подготовку солдат. Они следуют технологике, из которой выпадает человеческое измерение. Осуществление насилия и убийства здесь не требует проявления тех солдатских качеств, которые формируются в результате специальной подготовки, обучения и боевого опыта. Все это формирует нечувствительность к убийствам и разрушениям и чувство полной безнаказанности [11, с. 357]. При этом эти люди понимают, что решение о поражении принимается на основании информации, им самим не доступной, операции проводятся зачастую в сложных быстро меняющихся обстоятельствах, неблагоприятных погодных условиях. Порой трудно предусмотреть случайные обстоятельства, что может привести к ошибкам и, как следствие этого, случайным жертвам, которых могло бы не быть [1]. Они в роли сталкеров, но при этом сами ничем не рискуют.
Все это является источником стрессов для операторов, которые остро ощущают противоречие между непосредственной виртуальной включенностью в боевую ситуацию и технологической безопасностью своих действий. В результате у них формируется сложный психологический комплекс: с одной стороны, моральная девальвация насилия, а с другой - вина и ощущения легитимизации несолдатского поведения. Такое искажение прежних этических
норм военной профессии не может не беспокоить общество и самих военных.
Правда, сегодня операторы дронов всё же подвергаются вполне реальным опасностям, даже не присутствуя физически на поле боевых действий. Так, противник может обнаружить пункт управления беспилотниками и нанести по нему ракетный удар. Социальные сети тоже часто дают возможность вычислить операторов и организовать их убийство [1]. Или создать такую психологическую атмосферу, чтобы у них развилась паранойя, учитывая высокий процент психологических отклонений и болезней среди представителей этой профессии. Этим они расплачиваются за профессиональное раздвоение личности и постоянные переходы от одной морали к другой в течение одного дня, что является сильным эмоциональным испытанием для любого человека [11, с. 355].
Об этических вопросах использования дронов в военных целях высказываются не только управляющие ими операторы, но и разработчики технологий, алгоритмов. Так, известный российский разработчик алгоритмов Артур Хачуян, генеральный директор компании «Tazeros Global Systems», подчеркнул, что для него важно, чтобы сотрудники его компании впоследствии не стали использовать свой профессиональный опыт для создания алгоритмов для убийства людей и ни сам он в качестве руководителя компании, ни его компания никогда не будут заниматься такими разработками, хотя и могут принимать участие в разработке дронов для патрулирования [8]. Не только Хачуян, но и другие разработчики дронов
считают, что нужно запретить применение ударных дронов [1].
***
Привлекли внимание общества и специалистов к этическим сторонам использования ударных беспилотников и обращения родственников потерпевших в суды. Так, в 2012 г. родственники погибших в Йемене в результате ударов с беспилотных летательных аппаратов имама Анвара Авлаки, его 16-летнего сына Абдулрахма-на, Самир Хана, имевших американское гражданство, подали в суд на министра обороны США, главу ЦРУ и двух высших офицеров, обвиняя их в нарушении конституционных прав этих лиц, поскольку ситуация является нарушением основных прав всех граждан США, в том числе права не быть лишенным жизни без законного судебного процесса [4].
В январе 2014 г. британский суд отклонил иск пакистанца Нура Хана, чей отец Малик Дауд Хан был убит вместе с сорока другими жителями во время атаки беспилотного аппарата США в марте 2011 г. Суд посчитал, что истец просит вынести приговор в отношении США, а подобной юрисдикцией британский суд не обладает [9].
Важное значение для оценки и этических и правовых аспектов применения беспилотников в этой ситуации имеет сбор доказательной базы. Данные неправительственных и правозащитных организаций корректируют утверждение о том, что беспилотники позволяют уменьшить количество «сопутствующих жертв» т.е. жертв среди мирного населения, по сравнению с последствиями бомбовых ударов. Так, неправительственная американская организация New America собрала данные, свидетельствующие о том, что «целевые убийства», направленные на точечное уничтожение террористов, в действительности сопровождаются большим количеством жертв среди мирного населения. По ее данным на территории Пакистана с 2004 по 2014 г. беспилотниками было нанесено 368 ударов, в результате которых погибло 2040-3240 человек, из которых 258-307 жертв из гражданского населения [9].
По данным Британского Бюро журналистских расследований с 2004 по 2015 г. в Пакистане было 2471-3983 убитых в результате 420 атак с беспилотных летательных аппаратов, из них 423965 мирных жителей и 172-207 детей. Причем из 2379 убитых лишь 84 человека были членами Аль-Каиды, что составило лишь 3,5% от общего числа погибших [9]. Также в 2013 г. эта организация начала проект «Называя убитых» / Naming the Dead», целью которого является составление списков имен и кратких биографий людей, погибших в результате атак беспилотников в Пакистане [9].
Правозащитная британская организация Reprieve периодически направляет запросы о нарушениях прав человека в Совет по правам человека ООН на основе жалоб людей, потерявших членов семей, в том числе детей, в результате атак беспилотников. 23 апреля 2015 г. президент США Б. Обама извинился за атаку, совершенную американским беспилотником в январе 2015 г. в Пакистане, которая унесла жизни нескольких десятков человек [9].
Само по себе боевое использование беспилотных летательных аппаратов мало чем отличается от использования боевых са-
молетов и не противоречит нормам действующего международного права. Прямого запрета на военное применение беспилотных летательных аппаратов не существует. Поэтому. как считают эксперты, необходимость правового регулирования здесь связана не с самим фактом использования беспилотников, а с юридическими основаниями их использования в военных кампаниях, проводимых армиями стран - членов НАТО на территории Афганистана, Ливана, Пакистана, Йемена, Сирии, Ливии, что противоречит нормам современного международного права, а также с многочисленными случаями силовых злоупотреблений, приводящим к жертвам среди мирного населения. Любая деятельность, связанная с военным использованием БПЛА, должна проводиться в соответствии с нормами международного гуманитарного права, а также правового регулирования прав человека [9].
Для правовой регламентации использования дронов в военных целях в настоящее время необходим всесторонний анализ юридических последствий этих операций [9]. Тем более что сегодня практически любой разведывательный БПЛА можно доработать в ударный вариант и применение беспилотных аппаратов для невоенных целей будет лишь интенсифицироваться, а разделить
военные и невоенные действия будет все сложнее.
***
Уже сейчас понятно, что на земле - на дорогах - будущее принадлежит автомобилям-беспилотникам. Именно автопилоты, а не водители-люди, будут определять более высокий уровень дорожной безопасности. Если этот уровень будет достаточно высоким, страховые компании неизбежно поддержат эту ситуацию и теперь уже будут брать больше денег с водителей-людей, а не с автопилотов. Если аварий будет больше от людей, чем от автопилотов, то общественное мнение изменится в пользу беспилотников, и уже сами люди будут просить запретить водить людям. Соответственно изменится и фокус этических дискуссий - речь будет идти уже о том, запретить ли водить людям [2].
Скорее всего на такой же основе рано или поздно и в небе в пользу беспилотников буден решен вопрос о том, можно ли доверить принятие решения о поражении цели не оператору дрона, а самому БПЛА. Люди делегируют этому оружию право на убийство, выбор целей и право самостоятельно вести воздушные бои. Та-
кое устранение человека радикально разрешит этические коллизии, связанные с работой операторов боевых дронов и общественным резонансом от разоблачений1. Пока же против этого выступают многие известные люди, в частности Стивен Хокинг подписал открытое письмо с требованием запретить программам (и дронам) [9].
Порочность этой ситуации заключается в том, что всё равно, кто-то же будет решать, как разделить весь мир на «хороших» и «плохих» парней, и против кого будет направлено оружие боевых дронов, а также кому в руки попадет эта технология. Ведь по причине общедоступности и легкости управления дронами, такое оружие может быть использовано не только в антитеррористических, но и в террористических целях.
Остается уповать на то, что, несмотря на всю высокотехноло-гичность летающих беспилотников, они вполне уязвимы, как и любая техника, и против этой технологии предлагается целый арсенал способов успешной борьбы, начиная от самых сложных технологических методов, вплоть до курьезных предложений ловли небольших коптеров другими с помощью сетей [1]. Порой речь даже идет об очень экзотичных и высокоинтеллектуальных способах разборки с летающими мини-драконами пустыни, как это предложил в своем рассказе «Зенитные комплексы Аль Эфесби» известный российский писатель Виктор Пелевин [1].
Его герой в разные периоды своей жизни - то интеллектуал, то политтехнолог / маркетолог, то неудачливый брокер, то икона, на которую молятся молодые московские пиарщики, то секретный агент, помогающий пуштунским племенам бороться с дронами. Пришелец из все более удаляющегося от нас советского мира (притягательного и невыносимого одновременно) - гений и лишний человек в «одном флаконе».
1 Так, например, в Пакистане специально обученная нейронная сеть вычленяла из массива big data, полученных через доступ к базе мобильных разговоров, паттерны террористической активности, на основе этого дроны уничтожали живые цели. Команду дронам здесь давал человек. который ориентировался на указания нейронной сети. Как известно, человек не может проверить результаты нейронной сети, потому что не в состоянии проанализировать такие огромные массивы данных [9]. Фактически здесь решение, убивать или нет, было делегировано программе, люди же стали лишь передаточным звеном между двумя технологиями, контакт которых может происходить и без участия и контроля людей.
Каждое жизненное «дело» героя - интересно и глубоко, опасно близко к гениальности, но каждое из них наталкивается на непреодолимое препятствие, неумолимо подвинутое ему судьбой. Гениальность рушит баланс, столь заботливо охраняемый посредственностью, и есть род гениев, регулярно получающих возвратный пинок от судьбы. Он одновременно и современный Леонардо да Винчи, создающий секретный антитехнологический код, и вечная инкарнация дружественного и надежного старшего белого брата, этакого пост-советского «товарища Сухова», выводящего народы пустыни на дорогу прогресса (в данном случае антипрогресса). В облике загадочного Аль Эфесби с бородой, окрашенной хной, герой с помощью баллончика краски покрывает песчаную почву пустыни под Кандагаром таинственными крипто-сутрами, «заглядевшись» на которые суперсовременные дроны вынуждены мобилизовать все ресурсы системы для разгадки их смысла. Так и не найдя последней, они теряют управление и падают камнем вниз. Словом, не только человечество, но и мир роботов похоже ожидают непростые времена в нелегкой взаимной схватке двух ветвей эволюции - машины и человека.
Список литературы
1. Боевые дроны: правовые, морально-этические и научные вопросы // НЛОМИР. Интернет-журнал. - 2015. - 30 ноября. - Режим доступа: https://nlo-mir.ru/tech/ 37572-boevye-drony-pravovye-moralnojeticheskie-i-nauchnye-voprosy.html (Дата обращения: 10.06.2020).
2. Будущее беспилотников: мифы и этический выбор. - Режим доступа: https:// vc.ru/transport/99093-budushchee-bespilotnikov-mify-i-eticheskiy-vybor (Дата обращения: 10.06.2020).
3. Левич П. Дроны и этика будущего. Интервью // Сайт любителей дронов DroneFlyers.ru/ - 2016/ - 27.06. - Режим доступа:_http://droneflyers.ru/2016/06/ 27/drony-i-etika-budushhego-intervyu-s-petrom-levichem/ (Дата обращения: 10.06.2020).
4. На США подали в суд за удары беспилотников // BBC. - 2012. - 19 июля. -Режим доступа: https://www.bbc.com/russian/international/2012/07/120719_us_ drone_killings_case (Дата обращения: 10.06.2020).
5. Пелевин В. Ананасовая вода для прекрасной дамы. - М.: Эксмо, 2010. - 352 с.
6. Рунов, Е.А. Применение БПЛА в войнах и вооруженных конфликтах. Краткий исторический обзор // Молодой ученый. Режим доступа: https://moluch.ru/ archive/282/63517/ (Дата обращения: 18.06.2020).
7. Солис Г. Современная война: в кого целится беспилотник? - Режим доступа: https://www.bbc.com/russian/mobile/science/2012/07/120719_drones_modern_war _solis.shtml (Дата обращения: 20.06.2020).
8. Хачуян А. Как за нами следят через большие данные? - Режим доступа: https://www.youtube.com/watch?v=S0_YIKMzFMk (Дата обращения: 10.06.2020).
9. Холиков И.В., Сазонова К.Л. Международно-правовая ответственность в контексте правовой регламентации военного использования беспилотных летательных аппаратов. - Режим доступа: https://russiandrone.ru/publications/mezhdu narodno-pravovaya-otvetstvennost-v-kontekste-pravovoy-reglamentatsii-voennogo-ispolzovaniya-be/ (Дата обращения: 10.06.2020).
10. HARDtalk Brandon Bryant - Former US Drone Operator. - Mode of access: https://www.youtube.com/watch?v=_U2kPuQ9TxE (last download: 19.06.2020).
11. Fatic A. The ethics of drone warfare. - Mode of access: https://www. semantic scholar.org/paper/The-ethics-of-drone-warfare-Fatic/362e9532e934d8eed50c2de299 a1e0c8fd90a12a (last download: 19.06.2020).
© Соколова М.Е., 2020
2020.04.012. ХОФФМАНН Т. ЭВРИСТИКА В ПРАВОВОМ ПРИНЯТИИ РЕШЕНИЙ.
HOFFMANN T. Heuristics in legal decision-making // Acta Baltica his-toriae et philosophiae scientiarum. - Tallinn, 2020. - Vol. 8, N 1. -P. 62-71.
Ключевые слова: уклонение; эвристика; принятие правовых решений; теория рационального выбора.
Автор статьи - Томас Хоффманн - доктор юридических наук (PhD in law), профессор частного права в Таллинской правовой школе Таллинского технического университета. Он закончил и получил степень доктора юридических наук в Гейдельбергском университете. После принятия в Немецкую коллегию адвокатов он работал ассоциированным адвокатом (юристом) в фирме Noerr LLP в киевском и берлинском офисах; был научным сотрудником в Институте восточноевропейского права в Киле; в качестве DAAD-лектора1 работал в Тартуском университете. Исследования Гофмана посвящены сравнительному частному праву, в первую очередь закону о банкротстве, международному частному праву, контрак-
1 Немецкая служба академических обменов (нем. Deutscher Akademischer Austauschdienst, сокр. DAAD).
