CC BY
193DOI: 10.17805/ggz.2018.5.2
Этико-психологические аспекты коммуникации человека и робота
Ф. Г. Майленова Институт философии РАН
В статье рассматриваются этико-психологические аспекты коммуникации современного человека с машинами с искусственным интеллектом. Если сегодня мы рассматриваем роботов как помощников человека, призванных освободить нас от тяжелой рутинной работы, то как изменится соотношение сил, когда роботы обретут полноценный интеллект, который, скорее всего, будет превосходить человеческий по множеству параметров? В настоящее время все чаще можно услышать, что роботы лишают людей рабочих мест, причем не только на производстве, но и в сфере интеллектуального труда. Автор изучает вопрос о том, насколько обоснованы такие опасения.
Каким образом нужно программировать роботов, чтобы они не повредили человеку? Как законодательно будут регулироваться конфликты в обществе, в котором акторами будут не только люди, но и человекоподобные роботы? Каким образом тесное общение с умными машинами скажется на психологии человека, на его ментальности? Какими вырастут дети, которых будут воспитывать няни-роботы?
Все это привело к появлению этики роботов — новой ветви философии. Ученые, которые специализируются на этике роботов, занимаются тем, что составляют своды этических правил для будущих роботов, ибо теперь уже всем инженерам ясно, что без учета этики взаимодействие с роботами может превратиться в самую настоящую антиутопию.
Ключевые слова: этика роботов; биоэтика; искусственный интеллект; интерфейс мозг-компьютер; этика коммуникации; андроид; гуманитарная экспертиза
Ethical and Psychological Aspects of Human-Robot Communication
F. G. Maylenova Institute of Philosophy, Russian Academy of Sciences
The article deals with ethical and psychological aspects of contemporary human communication with artificial intelligence machines. If today we consider
21
robots as humans' assistants that are designed to free us from heavy routine work, how will the balance offorces change when robots acquire a fully-fledged intellect that is likely to outperform the human one in a multitude of parameters? Nowadays, more and more people declare that robots take people's jobs and will soon replace us not only in manufacturing but also in the sphere of intellectual labor. The author explores the question of how justified these fears are.
How should robots be programmed so that they do not damage a human being? How will the conflicts in a society be regulated by law where actors are not only people but also humanoid robots? How will close communication with intelligent machines affect human psychology and mentality? What kind of children will grow up if they are brought up by robotic nannies?
All these issues have entailed the emergence of a new branch of philosophy — robot ethics. Scientists who specialize in the ethics of robots are engaged in framing ethical rules for future robots, because now it is clear to all engineers that without consideration of ethics, interaction with robots can turn into a real antiutopia.
Keywords: robot ethics; bioethics; artificial intelligence; brain-computer interface; communication ethics; android; humanitarian expertise
ВВЕДЕНИЕ
Умные механизмы, помогающие человеку в его жизни, существуют давно, и с каждым годом их становится все больше, при этом большинство из них уже сложно называть просто машинами. Роботы, оснащенные искусственным интеллектом, все больше внедряются в нашу жизнь, становясь незаменимыми помощниками в доме и на производстве, и они перестают восприниматься нами просто как механизмы, так как, постоянно взаимодействуя с ними, мы наделяем их человеческими свойствами характера и испытываем по отношению к ним различные эмоции. Каким будет будущее человека, в котором роботы будут не только делать домашнюю работу, но и ухаживать за стариками, нянчить детей, с ними можно будет играть, дружить и даже вступать в сексуальные отношения? Появление робота, способного испытывать (или все же имитировать?) эмоции можно считать качественно новым шагом в жизни человека с роботами. Как будет строиться коммуникация человека с работами с искусственным интеллектом, который уже сегодня превосходит наш по многим своим параметрам? Не вытеснит ли он со временем интеллект человеческий? Уже сегодня раздаются голоса, что роботы отнимают у людей рабочие места и вскоре заменят нас не только на производстве, но и в сфере умственного труда. Насколько обоснованы такие опасения?
Надо ли нам бояться «восстания машин» или, наоборот, стоит быстрее внедрять их в нашу повседневную жизнь и использовать возможности мощ-
22
ных компьютеров для усиления человеческого мозга, создав интерфейс мозг-компьютер? Коммуникация с роботами уже началась, и нам предстоит осмыслить новые реалии нашей жизни, а также последствия взаимодействия с искусственным интеллектом.
РАЗМЫВАНИЕ ГРАНИЦ НАШЕЙ ЧАСТНОЙ ЖИЗНИ
Впрочем, мы уже, почти незаметно для себя, начали общаться с роботами — программы с искусственным интеллектом постоянно ждут нас в сети. И, хотя это взаимодействие не очень похоже на диалог с живым человеком, время от времени возникает ощущение, что они все же одушевленные...
На сегодняшний день наши «отношения с роботами пока довольно поверхностные — как с продавцом за прилавком» (Еременко, 2016а: Электронный ресурс), так как большей частью сетевые роботы знают именно о наших покупках, которые мы совершаем онлайн. Правда, этот продавец не совсем обычный: он обладает абсолютной памятью, помнит не только все наши совершенные покупки, но и те, которые мы только намеревались сделать и передумали, и все это постоянно анализирует, знает наши вкусы и предпочтения лучше нас самих и постоянно предлагает нам то, что мы вероятнее всего купим, даже если и не планировали — будь то товары, услуги, билеты, обучающие семинары, кино, музыка. Реклама в Интернете давно стала «адресной», так как ни один шаг, совершенный нами в Сети, не исчезает бесследно. Таким образом, наша частная жизнь, которая сегодня по большей частью отражается в социальных сетях, находится под постоянным наблюдением сетевых роботов, и подобное размывание границ нашей частной жизни может привести к последствиям, о которых полезно поразмыслить заранее. Например, так называемые «умные дома», наполненные вещами, которые могут общаться между собой через Интернет, роботы-помощники в доме и в саду — все это очень быстро становится реальностью. Между тем для того чтобы робот был эффективным помощником, его необходимо будет снабдить информацией (достаточно подробной) о тех людях, с которыми ему предстоит взаимодействовать. Знание привычек, режима сна и питания, особенностей здоровья, музыкальных вкусов и сексуальных предпочтений — все, что составляет нашу частную жизнь, включая наших друзей и близких и наших (порой непростых) взаимоотношений с ними. Очевидно, ему будут известны все секреты, и даже если в него будет встроена программа, запрещающая разглашать конфиденциальную информацию, никогда нельзя полностью исключать возможность взлома, так как эта информация должна будет где-то храниться, а, следовательно, при необходимости к ней можно будет получить доступ: как на законных основаниях в медицинских целях либо по решению
суда, так и с преступными намерениями с целью шантажа, обогащения или уничтожения репутации.
«Каждый раз, когда домашний робот будет заходить к вам в комнату, он будет записывать вас, в каком бы виде вы ни были. И отправлять в базу данных. Основной спор идет о том, что делать с этими данными. Приемлемо ли пускать робота в дом? Как безопасно хранить такую информацию? Необходимо ли ее сразу уничтожать? Если робот узнал кого-то в доме, может ли он доложить об этом в полицию?» — размышляет П. Еременко в статье «Всевидящий дрон и тостер с мозгами. Как роботы изменят будущее» (там же). Как сочетать бдительность и соблюдение роботом правила невмешательства в частную жизнь, каким будет алгоритм принятия решений в сложных ситуациях, например, когда ссорятся члены семьи или кто-то кому-то угрожает физической расправой в присутствии робота, сможет ли робот отличать реальную опасность от обычной ссоры или истерики?
Эти вопросы становятся все более актуальными, так как в наших взаимоотношениях с миром появляется новый актор — с собственным интеллектом и определенной свободой воли, имеющий над нами некоторую власть (разумеется, в рамках, заданных его программой). В отличие от человека, способного перепутать, забыть или не обратить внимания на какие-то события, робот будет замечать и записывать все, что он увидел и услышал и к тому же все помнить. Каково будет человеку общаться с таким партнером? Станут ли эти роботы для нас ближайшими друзьями или, постепенно делегируя им все больше функций, мы превратимся в инфантильных существ, неспособных позаботиться о себе самостоятельно и потому полностью зависимых от умных, работящих и неутомимых роботов, которые, возможно, станут презирать нас за нашу беспомощность, подобно россумским универсальным роботам К. Чапека, а потом и вовсе решат занять наше место в жизни?1
Не за горами день, когда в домах появятся не только роботы-помощники по хозяйству, но и звери-роботы и даже дети-роботы. Эти роботы будут жить в наших домах, знать наш распорядок дня и все наши привычки, скрашивать наше одиночество. Возможно, они смогут петь, рассказывать истории и вообще окажутся в целом неплохими собеседниками. Возникает непростой вопрос: какое место эти роботы займут в нашей эмоциональной жизни, если общение с ними будет становиться все теснее (а оно, по всей вероятности, станет)?
1 См. научно-фантастическая пьесу Ки.К (сокр. Rossumovi univerzdlní гоЪоИ / «Россум-ские универсальные роботы»), написанную К. Чапеком в 1920 г. (Чапек, 1976).
ЭМОЦИОНАЛЬНЫЕ ОТНОШЕНИЯ С РОБОТАМИ
Способности и желанию человека общаться с неодушевленными предметами как с одушевленными посвящено исследование профессора Карлтон-ского университета (Оттава, Канада) Дж. Миллара «Этическое программирование беспилотных машин» (Jason Millar: Электронный ресурс). Например, люди, играющие в видеоигры, воспринимают персонажей игры так, как будто у них есть собственные намерения и желания, и испытывают во время игры такие же чувства, как при общении с реальными людьми. А если взять роботов, которые умеют говорить и улыбаться, Siri, например? Мы бессознательно антропоморфизируем Siri и начинаем относиться к нему как к человеку, может даже чуть лучше, чем к человеку, потому что нам кажется, что он, в отличие от ненадежных приятелей, нас не предаст и не обманет... В результате человек не только способен испытывать эмоциональную привязанность к роботу, он может даже любить его и страдать о нем, если вдруг с ним что-то случится. И, несомненно, мы будем нежны и открыты со своим ребенком-роботом, зверем-роботом, любовным партнером-роботом. И будем общаться с ним не как с умной машиной, хорошо знающей свое дело, а как с близким существом.
Кроме доверия своих секретов, которое может легко обернуться дополнительной уязвимостью людей, живущих с роботами, есть еще один непростой момент: умные и эмоциональные роботы могут не просто развлекать и скрашивать одиночество, но и заменить собой общение с живыми людьми.
Игрушечный тюлень PARO, снабженный искусственным интеллектом, используется в домах престарелых в Японии. Он ведет себя как живой, когда его гладят. И у тех, кто с ним общается, поднимается настроение — так что игрушка несомненно полезная, даже терапевтическая. И есть еще и робот PEPPER, который может стать не просто милой игрушкой, но и другом, и с каждым годом появляются все более совершенные и умные устройства, способные даже не имитацию эмоций.
Но наличие робота, пусть и самого умного и милого, не может быть решением проблемы одиночества — пока что это представляется очевидным.
Далеко не все эксперты уверены, что при прочих равных человек будущего выберет живого человека, а не робота. По мнению профессора социологии Массачусетского университета Ш. Теркл, с роботами общаться намного проще, чем с человеком. В своей книге «Одинокие вместе» (Turkle, 2012) она пишет, что роботы помогают нам избежать всех тех сложностей, которые неизбежны при коммуникации с людьми. Общение с роботом может оказаться очень комфортным из-за его логичности, предсказуемости и отсутствия неприятных эмоций, которые нам нередко демонстрируют живые люди. Бесконфликтное общение с умным, образованным, отлично воспитанным,
25
приятным во всех отношениях собеседником, к тому же симпатизирующим вам — за такое многие готовы платить немалые деньги!
Нельзя сбрасывать со счетов и другие причины увлечения роботами, причем экономического характера, которые часто фигурируют в дискуссиях о тех же роботах-сиделках и зачастую преувеличиваются, скрывая под собой более глубокие социальные проблемы. Дж. Саллинс III, специалист в области компьютерной этики из Калифорнии, видит причины увлечения роботами-сиделками в Японии прежде всего в том, что в стране очень большое количество пожилых людей и все меньше молодежи (увы, это справедливо не только относительно Японии). Также он отмечает, что часто повторяющийся экономический аргумент несколько надуман, так как, по его мнению, гораздо дешевле было бы нанимать сиделок из Филиппин, которые с радостью переедут работать в Японию. Но это означает, что появятся новые социальные проблемы, которые никто решать не желает, поэтому их стараются не поднимать (БиШш, 2012: Электронный ресурс; см. также: Еременко, 2016Ь: Электронный ресурс).
Среди специалистов по этике роботов существуют разные точки зрения по поводу роботов-сиделок, но все они сходятся в том, что роботы не должны полностью заменить людей.
ДЕТИ, ВОСПИТАННЫЕ РОБОТАМИ, ИЛИ НОВЫЕ МАУГЛИ Современные дети, в отличие от взрослых, особенно стариков, которые росли и прожили основную часть своей жизни без компьютеров и роботов, пришли в мир, где уже есть Интернет, компьютеры, роботы и для них все это — естественная среда. В развитых странах домашние роботы развлекают детей в отсутствие родителей, а в недалеком будущем роботы смогут гораздо больше: накормить, проверить уроки, уложить спать, предварительно прочитав сказку. А чем плоха прогулка с роботом, который всегда поможет: и защитит, и проследит, чтобы малыш не упал, не промок, а подросток не курил, не связался с плохой компанией? Родители, которым вечно не хватает времени на своих детей, будут счастливы иметь такого помощника! Но однажды мы можем обнаружить, что роботы не просто помогают нам, а воспитывают наших детей, и какими вырастут дети, воспитанные роботами? Ведь большую часть своего времени они будут общаться с машинами (пусть и очень умными, эффективными и доброжелательными), а стало быть, все меньше времени (а возможно, и желания!) у них останется на общение со сверстниками, учителями, родителями — с людьми, с которыми еще надо научиться взаимодействовать, и такие дети «пропустят» очень важные уроки понимания, человечности. Это может радикально изменить психику детей, которые
26
впоследствии не смогут нормально общаться с людьми, понимать их эмоции, строить близкие отношения...
По мнению британского эксперта по робототехнике профессора Н. Шарки, существует прямая зависимость между увеличением числа роботов и уменьшением непосредственного общения между людьми. Причем это касается как социальных роботов, способных общаться с человеком — домашних помощников, воспитателей, медперсонал, — так и различных автоматов и систем, заменяющих людей, например, беспилотных автомобилей. Но особенно негативно это отразится на детях. Мы рискуем получить новых маугли каменных джунглей, полагает Шаркли, которые просто не найдут общего языка с другими людьми уже во взрослой жизни. Кроме того, есть риск, что повзрослевшие дети, воспитанные роботами, просто забросят своих родителей, так как у них не будет сформировано чувство родства и близости с ними (Watson, 2013: Электронный ресурс). Эти опасения, увы, не беспочвенны, так как на примере современных подростков мы видим, что порой они предпочитают общение с виртуальными персонажами видеоигр живой коммуникации с друзьями и родственниками, и эта тенденция не может не тревожить.
ЗАКЛЮЧЕНИЕ
Роботы с искусственным интеллектом, будучи созданы человеком и по подобию человека, несут в себе как наши достоинства, так и пороки, причем зачастую в преувеличенном виде... Пока еще наши создания не научились сепарироваться от человека, самое время заранее принять все меры, чтобы искусственный интеллект оставался дружественным по отношению к нам. Человек — существо не только разумное, но и чувствующее, и эмоции всегда играли огромную роль в нашей жизни. Каким станет эмоциональная жизнь человека, когда он начнет тесно общаться с роботами, что мы приобретаем, а что теряем вследствие внедрения искусственного интеллекта, предстоит задуматься сейчас как инженерам-проектировщикам роботов, так и гуманитариям.
СПИСОК ЛИТЕРАТУРЫ
Еременко, П. (2016a) Всевидящий дрон и тостер с мозгами. Как роботы изменят будущее [Электронный ресурс] // Сноб. 30 декабря. URL: https://snob.ru/entry/103426 [архивировано в WavbackMachinel (дата обращения: 30.09.2018).
Еременко, П. (2016b) «Это отличный рецепт, чтобы получить ад на Земле». Киберфилософы о своей работе [Электронный ресурс] // Сноб. 21 де-
кабря. URL: https://snob.ru/entry/102666 [архивировано в WavbackMachinel (дата обращения: 30.09.2018).
Чапек, К. (1976) R.U.R. (Rossum's Universal Robots) // Чапек К. Собр. соч. : в 7 т. М. : Художественная литература. Т. 4 : Пьесы. 608 с. С. 123-202.
Jason Millar [Электронный ресурс] // Carleton University. URL: https://carleton.ca/philosophy/people/jason-millar/ [архивировано в WavbackMachinel (дата обращения: 30.09.2018).
Sullins, J. P. (2012) Robots, love, and sex: The ethics of building a love machine [Электронный ресурс] // IEEE Transactions on Affective Computing. Vol. 3. No. 4: October — December. P. 398-409. URL: http://people.ict.usc.edu/ ~gratch/CSCI534/Readings/Ethics-of-robot-sex.pdf [архивировано в Wavback Machinel (дата обращения: 30.09.2018). DOI: 10.1109/T-AFFC.2012.31
Turkle, S. (2012) Alone together: Why we expect more from technology and less from each other. N. Y. : Basic Books. xvii, 360 p.
Watson, P. J. (2013) Professor: Robots to patrol cities by 2040 [Электронный ресурс] // Alex Jones' Infowars. July 25. URL: https: //infowars. com/pro-fessor-robots-to-patrol-cities-by-2040/ [архивировано в WaybackMachinel (дата обращения: 30.09.2018).
Дата поступления: 1.10.2018 г.
Майленова Фарида Габделхаковна — доктор философских наук, ведущий научный сотрудник сектора гуманитарных экспертиз и биоэтики Института философии Российской академии наук. Адрес: 109240, Россия, г. Москва, ул. Гончарная, д. 12, стр. 1. Тел.: +7 (495) 697-90-67. Эл. адрес: farida. mailenova@gmail .com
Maylenova Farida Gabdelkhakovna, Doctor of Philosophy, Leading Researcher, Department of Humanitarian Expertise and Bioethics, Institute of Philosophy, Russian Academy of Sciences. Postal address: Bldg. 1, 12, Goncharnaya St., 109240 Moscow, Russian Federation. Tel.: +7 (495) 697-90-67. E-mail: fa-rida.mailenova@gmail.com
ORCID: 0000-0003-0812-3518
Researcher ID: U-9231-2018
Для цитирования:
Майленова Ф. Г. Этико-психологические аспекты коммуникации человека и робота [Электронный ресурс] // Горизонты гуманитарного знания. 2018. № 5. С. 21-28. URL: http://journals.mosgu.ru/ggz/article/view/854 (дата обращения: дд.мм.гггг). DOI: 10.17805/ggz.2018.5.2
