CC BY
65
политические науки
Панкратова Лилия Сергеевна ЭТИЧЕСКИЕ ПРОБЛЕМЫ И ПОЛИТИКА ...
УДК 323
DOI: 10.26140/anie-2019-0804-0094
ЭТИЧЕСКИЕ ПРОБЛЕМЫ И ПОЛИТИКА РЕГУЛИРОВАНИЯ ВНЕДРЕНИЯ ТЕХНОЛОГИЙ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В СЕРВИСЫ ОНЛАЙН-ЗНАКОМСТВ
© 2019
Панкратова Лилия Сергеевна, кандидат социологических наук, старший преподаватель кафедры социологии культуры и коммуникации Санкт-Петербургский государственный университет (199034, Россия, Санкт-Петербург, Университетская наб., д. 7/9, e-mail: l.s.pankratova@spbu.ru)
Аннотация. В статье представлен анализ нравственно-этических рисков и угроз взаимодействий на современных сервисах онлайн-знакомств, работающих на основе систем искусственного интеллекта и роботизированных технологий, выделяются и рассматриваются возможности политико-правового и общественного регулирования разработки и внедрения «умных» технологий в сфере частной жизни. На основе современных теорий рационализации общества (теория макдональдизации Дж. Ритцера) концептуализируется специфика организация эротико-эмо-циональных отношений в виртуальном пространстве, проблематизируются деонтологические основы деятельности индустрии онлайн-знакомств. Современная индустрия онлайн-знакомств трактуется как система организации массовых романтических «встреч», ориентированная на знакомство большого количества людей в ограниченные сроки времени. На основе анализа эмпирических кейсов приложений онлайн-знакомств, функционирующих на базе систем искусственного интеллекта, выделены следующие этические проблемы: агрегирования и использования персональных данных клиентов, ограничения автономности решений пользователей, необъективности и предвзятости искусственного интеллекта. Обосновывается необходимость обсуждения и поиска адекватных решений данных проблем как со стороны общественно-политических институтов, профессионального сообщества, так и широкой общественности. Деонтологическое кодирование процессов создания и применения систем искусственного интеллекта направлено на соблюдение таких нравственно-этических принципов, как: обеспечение автономности решений и действий пользователей; безопасность использования; защита частной жизни и данных; прозрачность работы технологии; дизайн систем свободных от алгоритмических пристрастностей и необъективности, принимающий во внимание культурную специфику общества. Одной из основных задач наднациональных и государственных политических институтов оказывается разработка соответствующей нормативно-правовой базы, призванной минимизировать не только технологические, но и этические риски.
Ключевые слова: системы искусственного интеллекта, деонотологическое кодирование, этическая политика, сервисы онлайн-знакомств, алгоритмическая необъективность и предвзятость.
ETHICAL PROBLEMS AND REGULATION POLICY OF ARTIFICIAL INTELLIGENCE TECHNOLOGIES IMPLEMENTATION IN ONLINE DATING SERVICES
© 2019
Pankratova Liliia Sergeevna, candidate of sociological sciences, Senior Lecturer, Department of Sociology of Culture and Communication Saint Petersburg State University (199034, Russia, St. Petersburg, Universitetskaya nab., 7/9, e-mail: l.s.pankratova@spbu.ru)
Abstract. The article presents an analysis of the moral and ethical risks and threats of interactions on modern online dating services that are based on artificial intelligence systems and robotic technologies, identifies and considers the possibilities of political, legal and social regulation of the development and implementation of "smart" technologies in the field of private life. On the basis of modern theories of rationalization of society (the theory of McDonaldization of J. Ritzer), the specifics of organizing erotic and emotional relationships in a virtual space are conceptualized, the deontological foundations of the online dating industry are problematized. The modern industry of online dating is interpreted as a system of organizing massive romantic "meetings", focused on meeting a large number of people in limited time periods. Based on the analysis of empirical cases of online dating applications that operate on the basis of artificial intelligence systems, the following ethical problems are identified: aggregation and use of personal data of clients, limitations on the autonomy of users' decisions, artificial intelligence bias. The necessity of discussing and searching for adequate solutions to these problems both on the part of socio-political institutions, the professional community, and the general public is substantiated. Deontological coding of the processes of creation and application of artificial intelligence systems is aimed at observing such ethical principles as: ensuring the autonomy of decisions and actions of users; safety; privacy and data protection; transparency of technology; design of systems free from algorithmic biases, taking into account the cultural specifics of society. One of the main tasks of global and state political institutions is the development of an appropriate regulatory framework designed to minimize not only technological, but also ethical risks.
Keywords: artificial intelligence systems, deonotological coding, ethical policy, online dating services, algorithmic bias.
Обеспечение демографической безопасности и сохранение института семьи в качестве основной единицы социальной структуры общества являются одними из приоритетных задач современной российской государственной политики. Усилия государственных институтов направлены как на социально-экономическую поддержку уже сложившихся союзов, так и формирование у населения представлений о привлекательности и важности семейного образа жизни [1-2]. Последнее имеет особую актуальность в настоящее время в условиях происходящих глобальных кардинальных культурных трансформаций в сфере интимных и эротико-эмоцио-нальных отношений — сексуальной, семейной и тендерной революций [3]. Выполнение функций социального института семьи (социализации, экономической, пси-
хоэмоциональной и проч.) возможно вне рамок зарегистрированных официальных отношений. Либерализация сексуальной морали, постепенное исчезновение двойных стандартов в вопросах полового поведения, супружеских обязанностей и родительства для мужчин и женщин, возрастание роли интимности (эмоциональной, интеллектуальной, физической близости) в качестве основного мотива для образования пары приводят к структурным и содержательным изменениям процесса создания социальных связей в частной жизни.
В то время как внимание экспертов и государства привлекает вопрос поддержания устойчивости семьи, ключевым проблемным моментом в обществе, на наш взгляд, оказывается возникновение и институциона-лизация собственно пары (от знакомства до начала со-
Pankratova Liliia Sergeevna
ETHICAL PROBLEMS AND REGULATION .
political sciences
вместного проживания, момента установления постоянных отношений). Перед индивидом стоит проблема того где и как найти партнера. Данные опросов, проведенных Всероссийским центром изучения общественного мнения (ВЦИОМ), демонстрируют доминирование среди населения успешности использования личных, частных (друзья, родственники) и профессиональных (коллеги по работе, учебе) социальных сетей в поиске второй половины — 35% и 26% респондентов соответствующими способами нашли своих партнеров [4]. При этом набирающим популярность, особенно среди молодежи и молодых взрослых (представителей возрастных групп 18-35 лет), альтернативным пространством для романтических знакомств становится интернет (социальные сети, сайты и приложения знакомств, прочее) [5]. Согласно информации, опубликованной на сайтах ведущих сервисов данных услуг, количество зарегистрированных пользователей по состоянию на август 2019 года составляет более 445 млн. во всем мире в социальной сети знакомств Badoo (11 млн. посещений в месяц в российском сегменте по состоянию на январь 2019 года в соответствии с аналитическими отчетами компании SimilarWeb [6]), более 40 млн. в системе Mamba (количество посещений в месяц в Рунете также превышает 10 млн. [6]).
Романтические знакомства в интернете, несмотря на дистанционную форму коммуникативного взаимодействия, сопряжены с разнообразными рисками для пользователей. По результатам глобального исследования (32 страны, включая Россию) клиентов онлайн-сер-висов для поиска партнера, реализованного в августе 2017 года компанией B2B International и «Лабораторией Касперского», основные опасения более чем у половины респондентов касаются: ненадежности защиты или ненадлежащего использования кем-либо персональных данных, размещенных в профиле; мошенничества в сети (например, вымогательство денег); обмана со стороны человека (предоставление ложных сведений о себе в онлайн общении) или технологии (общение в переписке с интернет-ботом, а не реальным человеком) [7]. Дальнейшее развитие социальных сетей, приложений для знакомств в борьбе за потребителя идет в том числе по пути внедрения новых методов, алгоритмов эффективного подбора кандидата/кандидатки, работающих на основе искусственного интеллекта. Однако, суть данных технологий заключается в работе с большими данными (big data), а именно сбором и анализом персональной информации зарегистрированных пользователей в социальных сетях и мобильных приложениях (social media mining): внешности, антропометрических данных по фотографиям; увлечений, музыкальных предпочтений исходя из того набора треков, который размещен у вас в профиле или вводятся вами в поисковый запрос и т.д.
Подобный вектор модернизации схем работы сервисов онлайн-знакомств — агрегирование и использование большого объема информации о пользователях (в том числе той, которую они не стремились делать общедоступной) с помощью технологий искусственного интеллекта, а также роботизация романтического общения — позволяет говорить о растущей уязвимости индивида в коммуникативном пространстве сети интернет. В этой связи актуализируются вопросы об этических принципах, культурных нормах и ценностях, определяющих процессы разработки и применения систем искусственного интеллекта и роботизированных технологий в индустрии онлайн-знакомств. Особого внимания заслуживают проблемы и возможности политико-правового регулирования в сфере обеспечения информационной безопасности граждан.
Проблемное поле этических аспектов использования систем искусственного интеллекта в сфере частной жизни, а именно индустрии онлайн-знакомств, фактически находится на стадии формирования в течение текущего десятилетия в рамках междисциплинарного научного дискурса, что обусловлено активным развити-
ем данной отрасли услуг в различных регионах мира и внедрение «умных» технологий. Одно из основных направлений исследований сфокусировано на выявлении и понимании ключевых рисков и угроз (психологических, безопасности и проч.), с которыми сталкиваются пользователи дейтинговых ресурсов и возможностям их преодоления [8; 9]. Вопросы алгоритмической предвзятости, ведущей к дискриминации и исключению на сайтах для романтических интеракций, имеют прикладной характер для их разработчиков и требуют, как трактовки и интерпретации в рамках гуманитарных наук, так и анализа с позиции наук об информационных технологиях [10; 11]. Предлагаются научные обоснования необходимости этической политики в отношении сервисов знакомств в Интернете [12]. Несмотря на накопленный теоретический и эмпирический материал, концептуализация этических аспектов сегмента онлайн-знакомств в рамках социально-политического дискурса проведена в недостаточной степени, особенно в рамках отечественного научного поля.
Цель настоящей работы заключается в выявлении, концептуализации и проблематизации этических аспектов деятельности индустрии онлайн-знакомств в связи с тенденцией внедрения технологий искусственного интеллекта в современные сервисы, а также рассмотрении направлений и возможностей ее деонтологического кодирования в современном российском обществе.
В интернете возможно использовать как специализированные (сайты и приложения для знакомств), так и иные коммуникативные ресурсы (социальные сети, форумы, онлайн-игры с общими чатами), позволяющие пользователям осуществлять поиск потенциальных партнеров, выстраивать коммуникацию, направленную на установление долгосрочных или краткосрочных романтических и/или сексуальных отношений. Современные сайты и приложения для поиска второй половинки отличаются разнообразием, а рынок онлайн-знакомств сегментирован. Соответственно социально-демографический портрет пользователей различных ресурсов может заметно отличаться. Одним из ключевых оснований для позиционирования сервисов является цель, то есть результат, который пользователям предлагается достичь посредством общения на том или ином ресурсе — построение «серьезных» отношений, поиск сексуального партнера, обсуждение общих интересов. При этом наряду с крупными игроками (Badoo, Mamba, Tinder), распространение получают нишевые ресурсы, предлагающие интернет-пространства для знакомства представителей конкретных социальных групп, обладающих культурными особенностями, то есть преобладают социокультурные основания дифференциации рынка — для последователей определенного вероисповедания (православных «Прихожане.ру», мусульман «Nikah.su»), по сексуальным предпочтениям (например, сексуальной ориентации «Hornet»), по этнической принадлежности (например, для татар «Anaem»), социально-экономическому положению («Luxy»), по интересам («Автодруг»).
Для концептуализации и выработки понимания того, каким образом сервисы онлайн-знакомств (ре)организу-ют социальную реальность представляется целесообразным обратиться к теории макдональдизации общества, предложенной современным американским социологом Джорджем Ритцером [13]. Предлагаемая логика рассмотрения вектора развития общества — рост формальной рационализации во всех сферах жизни, в том числе частной — позволяет определить принципы, лежащие в основе функционирования данных сайтов и приложений, а также паттернов коммуникативного поведения их пользователей. Рационализация предполагает эффективную организацию деятельности социальных субъектов для достижения поставленных целей: выбор оптимальных средств для решения задачи; просчитываемость (количественное измерение успешности и качества); предсказуемость (единообразие и понятность алгоритма дей-
политические науки
Панкратова Лилия Сергеевна ЭТИЧЕСКИЕ ПРОБЛЕМЫ И ПОЛИТИКА ...
ствий); контроль (регламентация и управление действиями человека) [14]. Рационализация интимной жизни как тенденция современности заметна в повседневном и научном дискурсах о поиске романтического, сексуального, брачного партнера в реальном и виртуальном пространствах [15]. Дискурс, с одной стороны, отражает реальность, а, с другой — участвует в ее конструировании. Нередко описание представлений и опыта подбора, выбора второй половинки в интернете осуществляется индивидами в экономических терминах, метафорах рынка, законах маркетинга: определение сцены как брачного рынка, личного профиля как витрины магазина; проведение оценки собственной стоимости на рынке онлайн-знакомств, а также стоимости потенциальных кандидатов; поиск стратегий продвижения себя в сети и т.д. Поиск романтического партнера на специализированных ресурсах построен в соответствии с алгоритмом потребления товаров в магазине («relationshopping») [16; 17]. Таким образом, индустрия онлайн-знакомств предстает как система организации массовых романтических «встреч», то есть позволяет знакомить большое количество людей в ограниченные сроки времени.
Использование систем искусственного интеллекта и роботизированных технологий на платформах онлайн-знакомств становится все более отчетливым трендом развития данной индустрии (активное распространение чат-ботов, возможностей распознавания лиц, анализ персональной информации в социальных сетях и т.д.), отражающим логику макдональдизации романтических отношений в современном обществе. Интересным и показательным примером является американское приложение онлайн-знакомств Artificial Intelligence Matchmaking Service (AIMM), название которого можно перевести на русский язык как «Сервис поиска пары на основе искусственного интеллекта». Приложение было запущено в 2017 году, к настоящему времени работает исключительно на мобильной операционной системе iOS и является одним из первых подобного рода ресурсов в мире, основанных на устной коммуникации между человеком (пользователем) и технологией (приложением). AIMM позиционируется как персонализированная программа подбора партнера для серьезных, долгосрочных романтических отношений, или выражаясь проще — онлайн сваха. Целевой аудиторией для приложения являются социально состоявшиеся мужчины и женщины в возрасте 30-40 лет, которые имеют представление о своих планах на будущее и, по всей видимости, испытывающие желание создать семью, вступить в брак. Системы искусственного интеллекта, по задумке разработчика приложения Кевина Тимэна (Kevin Teman), призваны позволить технологии осуществлять обоснованный автоматизированный подбор партнеров, а также выступать медиатором и консультантом в интеракции между клиентами. В задачи приложения, выполняющего социальную роль свахи, входит составление профиля клиента посредством проведения серии интервью с пользователем, отбор потенциальных кандидатов для свидания, организация знакомства между заинтересованными и подходящими друг другу клиентами, консультирование по вопросам романтической коммуникации, сексуальных отношений, отслеживание процесса формирования пары. AIMM позволяет в отличие от традиционных сервисов онлайн-знакомств мужчинам и женщинам не заниматься самопрезентацией (создание текстового и визуального контента личного профиля, страницы), первичной социальной фильтрацией и коммуникацией с пользователями ресурса.
Для реализации социокоммуникативных задач в приложении AIMM используются следующие технологии:
• Суперкомпьютер IBM Watson, распознающий естественный язык благодаря встроенным системам искусственного интеллекта, что позволяет осуществлять вербальную коммуникацию между пользователем и сервисом: проводить интервьюирование, консультирование
клиента.
• Технологии искусственного интеллекта для распознавания лиц и эмоций. Имеющиеся материалы позволяют предположить, что данные средства используются на этапах сбора информации о пользователе, наполнении «профиля» клиента посредством автоматической обработки визуального контента на аккаунтах в социальных сетях, в смартфоне/планшете клиента и проч., а также при коммуникации «лицом-к-камере телефона» (например, считывании эмоций при опросе о впечатлениях от общения/свидания с подобранным приложением кандидатом), при подборе партнера/партнерши для учета антропометрических характеристик человека. Именно в связи с применением инструментов для доступа к персональной информации особенно актуализируются этические, а порой и правовые риски, нередко приводящие к нарушению сервисом доступа к данным о частной жизни пользователя (их сбором, использованием и хранением).
• Анализ персональной информации (social data mining) является необходимым условием для автоматизированного подбора партнеров в приложении, алгоритмы которого основаны, как и в современном интернет-маркетинге, на предсказательной аналитике и рекомендательных системах. Собственно, потенциальный партнер определяется на основе схожести личностных черт, предпочтений и жизненных ориентаций (общие хобби, одинаковые вкусы в музыке, еде, близкие планы на будущее и т.д.) пользователя. Незамысловатость подхода к формированию пары вызывает удивление и сомнения в его эффективности. Наиболее этически уязвимым является вопрос операционализации и кодирования сексуальной морали, эротико-эмоциональной культуры — ценностей, норм и паттернов интимных, романтических отношений. Отвечают ли заложенные в алгоритмах приложения гендерные и сексуальные нормы потребностям, представлениям и ожиданиям клиентов или технология «навязывает» систему социокультурных координат, принуждая к определенным сценариям романтических и интимных отношений, осуществляя контроль за их исполнением? Так, в одном из отзывов об AIMM автор указывает на алгоритмическую необъективность систем распознавания (женщина была идентифицирована как мужчина), а также жесткую и традиционную систему гендерных ролей и соответствующих сценариев романтического поведения, заложенных в основу алгоритмов сервиса — мужчина-охотник и женщина-добыча [18].
• Персонализированный маркетинг по мысли создателя приложения призван редуцировать чувства тревожности и неуверенности, вызываемые высоким уровнем конкуренции на ресурсах, работающих в духе «relationshopping», за счет автоматического и более точного подбора системами искусственного интеллекта ограниченного круга кандидатов (2-4 человека на выбор) для клиента. Но, с одной стороны, адекватен ли данный подход логике современного макдональдизированного мира, когда большое количество потенциальных знакомств в сжатые сроки фактически признается фактором, повышающим шансы найти вторую половинку? Примеров успешных пар сайт приложения не приводит. А с другой — позволяет ли личный маркетинг преодолеть этические проблемы макдональдизированной индустрии онлайн-знакомств или вновь воспроизводит их через реализацию принципов контроля, предсказуемости, про-считываемости и эффективности в алгоритмах работы систем искусственного интеллекта? Приведенные выше свидетельства подтверждают, что AIMM воспроизводит современную логику рационализации онлайн-зна-комств. При этом следует учитывать слова основателя и главного исполнительного директора европейского приложения знакомств «Once» Джин Майер о том, что бизнес не заинтересован в разработке алгоритма подбора идеального партнера, т.к. это грозит потерей клиентов, приносящих деньги [19].
Этические проблемы агрегирования и использова-
Pankratova Liliia Sergeevna
ETHICAL PROBLEMS AND REGULATION .
political sciences
ния персональных данных клиентов, ограничения автономности решений пользователей, необъективности и предвзятости искусственного интеллекта требуют обсуждения и поиска адекватных решений как со стороны общественно-политических институтов, профессионального сообщества, так и индивида. Мировой опыт свидетельствует о росте важности в общественно-политической повестке дня вопросов этики в отношении разработки, внедрения и использования систем искусственного интеллекта в различных сферах жизни, в том числе в индустрии онлайн-знакомств. Деонтологическое кодирование процессов создания и применения систем искусственного интеллекта направлено на соблюдение таких нравственно-этических принципов, как: обеспечение автономности решений и действий пользователей; безопасность использования; защита частной жизни и данных; прозрачность работы технологии; дизайн систем свободных от алгоритмических при-страстностей и необъективности, принимающий во внимание культурную специфику общества. Одной из основных задач наднациональных и государственных политических институтов оказывается разработка соответствующей нормативно-правовой базы, призванной минимизировать не только технологические, но и этические риски (Указ Президента РФ «О развитии искусственного интеллекта в Российской Федерации» [20]; Руководство по этики в отношении искусственного интеллекта Европейского парламента [21]; конференции Организации Объединенных Наций). Однако, вопрос о степени вмешательства государства, например, в деятельность сервисов онлайн-знакомств, остается дискуссионным [22]. Институты гражданского общества, в частности общественные и экспертные некоммерческие и неправительственные организации, такие как например Международная организация по стандартизации (International Organization for Standardization) способны осуществлять мониторинг соблюдения и нарушения этических принципов работы соответствующих ресурсов, а также разрабатывать стандарты, в соответствии с которыми могут использоваться услуги, основанные на работе систем искусственного интеллекта и роботизированных технологий. Для минимизации этических рисков представляется целесообразным создание и внедрение этического кодекса провайдеров услуг в индустрии он-лайн-знакомств. При этом важной задачей является формирование культуры (нравственных принципов, установок, норм) использования, взаимодействия клиентов на ресурсах для романтических отношений с учетом особенностей развития современной информационно-коммуникативной среды.
Активное развитие индустрии онлайн-знакомств в России и в мире сопряжено с тенденцией внедрения в них систем искусственного интеллекта и роботизированных технологий. Сопутствующие риски информационной, физической и психологической безопасности, а также значимость этических оснований и принципов работы «умных» систем, оказывающих все большее влияние на частную жизнь людей, требуют участия различных социально-политических субъектов в регулировании посредством разработки и внедрения политико-правовых и социокультурных норм взаимодействия человека и технологии. Для разработки обоснованной и адекватной этической политики необходима дальнейшая концептуализация деонтологических основ социального кодирования существования взаимодействия в информационно-коммуникативной среде, проведения комплексного междисциплинарного исследования для понимания современных процессов и проблем.
СПИСОК ЛИТЕРАТУРЫ:
1. Указ Президента Российской Федерации от 09.10.2007 г. № 1351 «Об утверждении Концепции демографической политики Российской Федерации на период до 2025 года». URL: http://kremlin.ru/ acts/bank/26299 (Дата обращения: 09.08.2019)
2. Распоряжение Правительства Российской Федерации от 25 августа 2014 г. № 1618-р «Обутверждении Концепции государствен-
ной семейной политики в России на период до 2025 года». URL: http:// static.government.ru/media/files/MyVeIiu5Nu8.pdf (Дата обращения: 09.08.2019)
3. Кон И.С. Три в одном: сексуальная, гендерная и семейная революции //Журнал социологии и социальной антропологии. 2011. №1. С. 51-65.
4. Пресс-выпуск № 2229 от 13.02.2013. «Где найти свою вторую половинку?» //Всероссийский центр изучения общественного мнения. URL: https://wciom.ru/index.php?id=236&uid=1191 (Дата обращения: 28.08.2019)
5. Панкратова Л.С. Сексуальные ценности и практики молодежи в меняющемся мире // Ростовский научный журнал. 2019. №1. С. 380-388.
6. Топ-10 самых популярных сайтов знакомств Рунета // Netobserver.ru. URL: https://netobserver.ru/top-10-samyih-populyarnyih-saytov-znakomstv-runeta/(Дата обращения: 28.08.2019)
7. Dangerous liaisons: is everyone doing it online? // Kaspersky daily. URL: https://www.kaspersky.com/blog/online-dating-report/ (Дата обращения: 28.08.2019)
8. Sorell T., Whitty M. Online romance scams and victimhood // Security Journal. 2019. Vol. 32. Issue 3. P. 342-361.
9. Albury K., Burgess J., Light B., Race K., Wilken R. Data cultures of mobile dating and hook-up apps: emerging issues for critical social science research //Big Data & Society. 2017. P. 1-11.
10. Hutson J., Taft J.G., Barocas S., Levy K. Debiasing desire: addressing bias & discrimination on intimate platforms // Proceedings of the ACM on Human-Computer Interaction — CSCW. 2018. Vol. 2. Issues CSCW. Article 73. 18p. [Электронный ресурс] URL: http://delivery.acm. org/10.1145/3280000/3274342/cscw073-hutson.pdf?ip=83.102.216.48&i d=3274342&acc=0PENT0C&key=4D4702B0C3E38B35%2E4D4702B0 C3E38B35%2E4D4702B0C3E38B35%2E9F04A3A78F7D3B8D&_acm __=1573626950_7da1c9aa88dff2f632b3b965cc5fb4d4 (дата обращения 11.10.2019).
11. Magdin M., Benko L., Koprda S. A case study of facial emotion classification using affdex // Sensors (Basel). 2019. Vol. 19. Issue 9. Электронный ресурс] URL: https://www.ncbi.nlm.nih.gov/pmc/articles/ PMC6539883/(дата обращения 13.10.2019).
12. Berlin R. The professional ethics of online dating: need for guidance // Journal of the American Academy of Child and Adolescent Psychiatry. 2014. Vol. 53. Issue 9. P. 935-937.
13. Ритцер Дж. Макдональдизация общества 5. М.: Издательская и консалтинговая группа «Праксис», 2011. 592 с.
14. Дмитриев Т.А. Осовременивая Макса Вебера: макдональдиза-ция, новые средства потребления и современная социальная теория // Ритцер Дж. Макдональдизация общества 5. М.: Издательская и консалтинговая группа «Праксис», 2011. С. 13-37.
15. Oyer P.E. Everything I ever needed to know about economics I learned from online dating. Boston: Harvard Business Review Press, 2014.
16. Heino D.B., Ellison N.B., Gibbs J. Relationshopping: investigating the market metaphor in online dating // Journal of Social and Personal Relationships. 2010. Vol. 27 (4): 427-447.
17. Finkel E.J., Eastwick P.W., Karney B.R., Reis H.T., Sprecher S. Online dating: a critical analysis from the perspective ofpsychological science //Psychological Science in the Public Interest. 2012. Vol. 13 (1). P. 3-66.
18. AIMM // Product Hunt. [Электронный ресурс] URL: https://www. producthunt.com/posts/aimm (дата обращения 01.08.2019).
19. Beckman B.L. What will online dating be like in 2030? //Mashable. [Электронный ресурс] URL: https://mashable.com/article/future-on-line-dating/(дата обращения 17.08.2019).
20. Указ Президента РФ от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации». [Электронный ресурс] URL: http://static.kremlin.ru/media/events/files/ru/AH4x6HgKWA NwVtMOfPDhcbRpvd1HCCsv.pdf (дата обращения 01.11.2019).
21. EU guidelines on ethics in artificial intelligence: Context and implementation. [Электронный ресурс] URL: https://www.europarl.europa. eu/RegData/etudes/BRIE/2019/640163/EPRS_BRI(2019)640163_EN.pdf (дата обращения 11.10.2019).
22. Smith A.D. Social media and online dating service providers: re-examining the new face of romance // International Journal of Business Information Systems. 2012. Vol. 9. № 2. P. 127-148.
Статья публикуется при поддержке гранта Президента РФ (проект № МК-3510.2018.6)
Статья поступила в редакцию 16.09.2019 Статья принята к публикации 27.11.2019
