CC BY
165
Эпистемология и философия науки 2019. Т. 56. № 4. С. 183-199 УДК 167.7
Epistemology & Philosophy of Science 2019, vol. 56, no. 4, pp. 183-199 DOI: DOI: 10.5840/eps201956475
Искусственный интеллект и искусственная социальность: новые явления и проблемы для развития медицинских наук*
Резаев Андрей Владимирович - доктор философских наук, профессор.
Санкт-Петербургский государственный университет. Российская Федерация, 199034, Санкт-Петербург, Университетская наб., д. 11; e-mail: a.rezaev@spbu.ru
Трегубова Наталья Дамировна - кандидат социологических наук, ассистент.
Санкт-Петербургский государственный университет. Российская Федерация, 199034, Санкт-Петербург, Университетская наб., д. 11; e-mail: n.tregubova@spbu.ru
Статья ориентирована на приглашение к профессиональной дискуссии философов, теоретиков и методологов науки, представителей медицинских наук о возможности и действительности искусственного интеллекта в медицине. Конкретная цель работы состоит в том, чтобы выявить и сформулировать принципиальные вопросы, проанализировать основные теоретические и методологические направления анализа проблем развития искусственного интеллекта в медицинских науках. Первый раздел статьи предлагает определение понятий искусственного интеллекта и «искусственной социальности». Второй раздел представляет обзор ключевых тенденций развития медицины. После этого авторы сосредотачиваются на двух проблемах, возникающих в связи с внедрением искусственного интеллекта в медицину. Первая - возможный пересмотр принципов западной медицины. Вторая - изменение содержания и форм медицинского образования. В заключение подведены итоги обсуждения данных проблем. Ключевые слова: искусственный интеллект, искусственная социальность, философия науки, медицинские науки, науки о жизни, медицинское образование
* Статья подготовлена при поддержке РНФ, проект № 18-18-00097 «От искусственного интеллекта к «искусственной социальности»: повседневность цифрового общества на пересечении технологических и социальных трансформаций».
© Резаев А.В. 183
© Трегубова Н.Д.
Artificial intelligence
and artificial sociality:
new phenomena and problems
for medical and life sciences advance
Andrey V. Rezaev -
DSc in Philosophy, professor. Saint Petersburg State University. 11 Universitetskaya Embankment, Saint Petersburg, 199034, Russia; e-mail: a.rezaev@spbu.ru
Natalia D. Tregubova -
PhD in Sociology, Assistant. Saint Petersburg State University. 11 Universitetskaya Embankment, Saint Petersburg, 199034, Russia; e-mail: n.tregubova@spbu.ru
The paper aims to formulate theoretical and methodological foundations as well as basic research questions for studying intervention of artificial intelligence in everyday life of medical and life sciences in the 21 century. It is an invitation for professional philosophical, theoretical and methodological discussion about the necessity and reality of artificial intelligence in contemporary medical/life sciences and medicine. The authors commence with a proposition of their definitions of 'artificial intelligence' (AI) and 'artificial sociality' (AS). The next section of the paper deals with a review of basic trends in medical/life sciences and medicine. In what follows the authors debate two problems related to incorporation of AI in reality of current medicine. The first is the potential revision of the principles developed in western medicine; the second is the alteration of the contents and forms of medical education. The authors theorize the dynamic interplay between structural expansion and cultural contraction of medicine and life sciences in current practices of higher education and explore how this introduces an essential tension between the necessity and reality for medical professionals to work with AI. The paper shows that attending to institutional dynamics serves as a critical and timely extension of disciplinary/cross/anti-disciplinary critiques of science and medicine, not only since the current inclusion agenda of the AI in medicine may do little to address the real concerns of a medical profession in the XXI century but also because it may inadvertently undermine the institutional recognition and epis-temic acceptance of new anti-disciplinary vista for studying AI per se. In conclusion the authors underline basic outcomes of the discussion and propose further routes for inquiry and research. Keywords: artificial intelligence, artificial sociality, philosophy of science, medical sciences, life sciences, medical education
В последние годы область медицинских наук претерпела значительные изменения. Одно из важнейших - и наиболее сложных для осмысления - направлений изменений связано с технологиями развития искусственного интеллекта (ИИ).
Применение искусственного интеллекта в медицине не сводится к хранению данных. Наличие доступных в медицине алгоритмов также означает возможности манипуляции символами, что проявляется в разработке инструментов, обрабатывающих изображения, тексты, схемы, генеалогические древа, записи пациентов. Это, в свою очередь, дает возможность искусственному интеллекту формулировать утверждения о состоянии здоровья пациента и советовать возможные способы лечения. Кроме того, ИИ может вести мониторинг
процессов в человеческом теле 24 часа в сутки и выдавать его результаты врачам для принятия решения.
Каким образом и в каких направлениях искусственный интеллект будет внедряться (уже внедряется) в медицину? Это открытый вопрос, и большую часть последствий предстоит ощутить только в будущем. Готова ли медицинская наука применять ИИ таким образом, чтобы это пошло на пользу ее развитию? Готовы ли медицинские работники проявить достаточный профессиональный интерес в данном направлении? Какие области медицины будут полностью заменены искусственным интеллектом (если будут)? Смогут ли врачи будущего работать в кооперации с ИИ (если да - как именно)? Как возможность круглосуточного мониторинга процессов в человеческом теле с помощью «искусственного врача» или «врача в сотрудничестве с ИИ» на протяжении всей жизни пациента повлияет на медицинское обслуживание? В медицинском обучении какого рода нуждается общество в эпоху ИИ? Какие проблемы ИИ привносит в преподавание и изучение медицины?
Некоторые из этих вопросов уже были сформулированы, для них были предложены предварительные ответы и решения. Другие, в лучшем случае разрабатываются в рамах экспериментов и пилотных программ. Нет сомнений, что дело здесь не в дефиците научного развития медицины - дело в нехватке новых теоретических и методологических оснований для ответа на вопросы о необходимости, возможности и действительности включения искусственного интеллекта в медицинскую сферу. Каким мог бы быть подход к поиску ответов на эти вопросы - подход, выходящий за рамки знакомых уловок воображения и рецептов прошлого?
Цель настоящей статьи состоит в том, чтобы выявить и сформулировать принципиальные вопросы, проанализировать основные теоретические и методологические направления проблем искусственного интеллекта в медицине. Иными словами, данная статья предлагает постановку проблемы, а не ее окончательное - или даже предварительное - решение1.
Отправной точкой наших теоретико-методологических рассуждений является следующее утверждение:
1) Интернет и искусственный интеллект затронут все аспекты медицинских наук;
2) онлайн-культура и ИИ выдвигают на первый план новую реальность человеческих взаимодействий - «искусственную социальность», изменяющую сферу взаимодействий «врач-пациент»;
3) медицинские науки и науки о жизни превращаются в деятельность по обработке информации, которая является «коньком» ИИ.
1 Некоторые из тезисов, развиваемые в настоящей статье, были, в краткой форме, сформулированы в [Rezaev, Yablonsky, 2019].
Мы начнем поиск «правильных» вопросов об ИИ в медицине с определений базовых понятий - искусственного интеллекта и «искусственной социальности». Далее будет предложен обзор ключевых тенденций развития медицины. После этого мы сосредоточимся на двух конкретных проблемах, возникающих в связи с внедрением искусственного интеллекта в медицину. Первая - возможный пересмотр принципов западной медицины. Вторая - изменение содержания и форм медицинского образования. В заключение мы подведем предварительные итоги обсуждения искомых проблем.
Искусственный интеллект и «искусственная социальность»: определение понятий
Сравнение определений, представленных в современных словарях и энциклопедиях [English Oxford Living Dictionaries; Encyclopedia Britannica; Merriam-Webster], показывает, что «искусственный интеллект» понимается двояко - как область исследований особого поведения машин и как само это поведение, отличительная особенность которого состоит в выполнении задач / имитации поведения, обычно связываемого с применением интеллекта (часто - человеческого интеллекта). Примерами служат визуальное восприятие, распознавание речи, принятие решений, перевод с одного языка на другой, умение делать обобщения, способность учиться на собственном опыте.
Что обеспечивает искомое поведение? Каковы базовые характеристики агентов, которые помещаются под рубрику «искусственный интеллект»? Сформулируем, в первом приближении, рабочее определение искусственного интеллекта и выделим его сущностные черты.2
Искусственный интеллект представляет собой ансамбль разработанных и закодированных человеком рационально-логических, формализованных правил, которые организуют процессы, позволяющие имитировать интеллектуальные структуры, производить и воспроизводить целерациональные действия, а также осуществлять последующее кодирование и принятие инструментальных решений вне зависимости от человека.
Данное определение выделяет пять ключевых характеристик ИИ:
Искусственный интеллект - это не продукт, не устройство, а ансамбль (гармоничная совокупность) правил, которые организуют некоторый процесс.
В другой работе мы более подробно останавливаемся на определении искусственного интеллекта, характеризуя его взаимосвязи с другими теоретическими конструктами: см. [Резаев, Трегубова, 2019]
2
ИИ как процесс создан человеком, представляет собой результат человеческой, и никакой иной (биологической, трансцедентальной, асоциальной и т.д.), деятельности.
ИИ представляет собой ансамбль правил, закодированных для решения инструментальных задач и достижения определенных целей.
Инструментально закодированные правила организуют активность (деятельность), которая имитирует интеллектуальные структуры Homo sapiens.
Сымитированные структуры в состоянии участвовать в последующем кодировании, обучаться и принимать инструментальные решения, в том числе без участия и вне зависимости от человека.
Здесь следует сделать оговорку: рассуждать об искусственном интеллекте как о едином феномене возможно только на высоком уровне абстракции, что мы и попытались сделать в «рабочем определении». Различные технологии ИИ по-разному включаются в профессиональную сферу и в повседневные взаимодействия, и на уровне конкретных эмпирических исследований (например, в исследованиях науки и технологий) мы имеем дело с разными «искусственными интеллектами», объединенными, зачастую, лишь названием. Кроме того, границы того, что следует именовать «искусственным интеллектом», подвижны, они не раз менялись за последние полвека. Таким образом, концептуальное напряжение между абстрактной сущностью ИИ и его конкретными и разнообразными воплощениями представляет собой одно из базовых затруднений в анализе и в предсказании направлений развития ИИ и его влияния на общество. Это, безусловно, справедливо и для медицины.
Одна из основных тенденций в развитии искусственного интеллекта заключается в том, что он становится все более социальным: агенты, изначально ориентированные на решение инструментальных задач, становятся средой и участниками человеческих взаимодействий. В техническом отношении практически все ключевые решения в ИИ (были придуманы в 1970-80-е гг. Однако ранее не было технических возможностей для реализации данных решений; кроме того (и отчасти по причине того), ранее агенты ИИ не пронизывали повседневную жизнь людей.
Внедрение искусственного интеллекта в повседневную жизнь общества изменяет социальную среду существования человека. Более того, искусственный интеллект обусловливает возникновение принципиально новых явлений - появление «искусственной социальности» (см. также [Rezaev, Tregubova, 2018]). Термин «искусственная социальность» вводится в научный оборот благодаря деятельности группы ученых под руководством Т. Мальша [Malsch, 1998]. Мальш понимает искусственную социальность как коммуникативную сеть, в которой наряду с людьми, иногда и вместо людей, участвуют другие агенты (искусственный интеллект), а средой для
взаимодействия является Интернет. Мы предлагаем несколько иное, более широкое определение искусственной социальности:
Искусственная социальность представляет собой эмпирический факт участия агентов ИИ в социальных взаимодействиях в качестве активных посредников или участников этих взаимодействий.
Ключевая тенденция становления искусственной социальности состоит в следующем: сегодня направления и методы в разработках искусственного интеллекта настолько тесно переплетены с возможностями его внедрения в повседневную жизнь общества, что ИИ не может существовать вне искусственной социальности. Это касается не только правовых, этических, экономических и прочих ограничений: дело в его сущностных характеристиках. Деятельность агентов ИИ зависит - все в большей степени - от действий людей, взаимодействующих с этими агентами и между собой.
Приведем два примера в пользу данного тезиса из области медицины.
Первый пример - постановка диагноза искусственным интеллектом по магнитно-резонансным томографиям пациентов. Каким образом программы, распознающие изображения, достигли такой эффективности в постановке диагноза, что зачастую превосходят специалистов-медиков? Такие программы «учатся» на базах данных, содержащих тысячи изображений, для которых диагноз был уже поставлен и впоследствии подтвержден (или опровергнут). Без обучения на больших массивах данных эта разновидность алгоритмов не будет эффективной - по сути, их работа даже не будет выглядеть осмысленной. Создание баз данных, в свою очередь, является продуктом деятельности множества людей: от медиков-профессионалов до тех, кто занимается переводом изображений в цифровой формат. Таким образом, работа ИИ стала возможной только благодаря аккумуляции информации, а она - благодаря общественному разделению труда, а также возникновению онлайн-среды с небывалыми ранее возможностями обмена данными.
Второй пример - проблема «зловещей долины» (uncanney valley) при создании роботов. Проблема заключается в том, что люди положительно относятся (и готовы взаимодействовать) с теми агентами, которые либо очень на них похожи, либо похожи до определенной степени. Если сходство значительное, но неполное, то агент вызывает отвращение и неприязнь. Поэтому задача создания человекоподобного робота в какой-то момент сталкивается с препятствием: чем точнее робот имитирует движение и речь человека, тем большее отторжение вызывает. В области медицины в связи с этим возникает вопрос: в каких именно сферах агенты ИИ смогут заменить медика при взаимодействии с пациентом и как они должны выглядеть? Ясно, что для робота-хирурга, робота, сообщающего человеку поставленный диагноз, и робота-сиделки способы ответа на поставленные вопросы будут различаться (даже если ответы окажутся сходными).
Медицина в XXI веке:
краткий обзор ключевых тенденций
В профессиональной литературе о медицине была неоднократно сформулирована идея о том, что XXI в. - это время трансформации здравоохранения и медицинского обслуживания. При этом следует не забывать о том, что медицинская наука меняется постоянно, и старые «волны» трансформаций (связанные, например, с усилением специализации), накладываются на новые, что приводит иногда к их взаимному усилению, иногда - к движению вспять.
На протяжении истории медицины основные изменения в технологиях и науке влекли за собой изменения в способах оказания медицинской помощи, и настоящее время - не исключение. Так, авторы монографии «The Western Medical Tradition, 1800 to 2000» утверждают, что в XXI в. «ожидания людей от медицины и медицинских работников изменятся» [Bynum et al., 2006, p. 535]. Они также полагают, что будущее западной медицинской традиции «может временами казаться неопределенным, ее возможность отвечать ожиданиям людей и удовлетворять их надежды - сомнительной, ее авторитет - вызывать вопросы» [ibid.]. В своих рассуждениях они не одиноки: те же идеи занимают центральное место в [Harris, 1995]. В предисловии к книге отмечается, что «современные представления о том, что представляют здоровье и болезнь, а также методы медицинского вмешательства, радикально изменятся уже в ближайшем будущем» [ibid., p. ix].
К новейшим тенденциям в развитии медицины следует отнести, во-первых, распространение «дистанционной экспертизы» - использования мобильных приложений и онлайн-консультаций с врачами, которые не предполагают личного общения и становятся все более доступными. Во-вторых, это доказательная (evidence-based) медицина; в-третьих - подъем биомедицины. Примечательно, что оба эти направления перемещают фокус медицинского анализа с тела как целого на генетический уровень [Rose, 2007]. В-четвертых, все большее распространение получает использование алгоритмов анализа данных для постановки предварительного диагноза, который, однако, принимается или отвергается врачом, продолжающим нести моральную и юридическую ответственность. Наконец, особого внимания заслуживает тенденция к самостоятельной постановке диагноза рядовыми гражданами, не имеющими специального медицинского образования, чему способствует, с одной стороны - наличие колоссального числа информации онлайн, с другой - распространение «умных» устройств, собирающих информацию о самочувствии своих пользователей.
Хотя разные авторы по-разному видят развитие системы здравоохранения и медицинской профессии, большинство сходится в трех ключевых утверждениях. Во-первых, это утверждение о том, что ме-
дицина в XXI в. будет и должна отличаться от медицины индустриальной эпохи XX в. Во-вторых, медицина и здравоохранение, доминирующие ранее и, в значительной степени, осуществляемые по сей день, более не отвечают потребностям людей. Незначительных корректировок то там, то здесь уже недостаточно, теперь «сработают» только фундаментальные изменения. Наконец, третье и самое важное для нас утверждение: «представляется, что возникновение "интеллектуальной сети" (intelligent network) станет ключевым механизмом трансформации системы здравоохранения» [Harris, 1995, p. ix].
Размышляя о последнем тезисе, следует выделить два существенных вопроса. Во-первых, что именно гарантирует, что революционные изменения в изучении и преподавании медицины будут иметь место? Представляется, что ответ очевиден: это исключительный рост производительности компьютеров и совершенствование программного обеспечения при стабильном снижении затрат в совокупности с проникновением онлайн-культуры в повседневную жизнь общества. Второй вопрос затрагивает более сложный аспект: почему практически невозможно предугадать, по какому из множества путей пойдет развитие ИИ и его применение в медицине? Однако и здесь ответ нетрудно отыскать: причина кроется в недостатке понимания и воображения относительного того, как обучать/социализировать ИИ таким образом, чтобы он мог встраиваться в человеческое общество.
Представить анализ - или даже обзор - всех исследовательских проблем, связанных с внедрением искусственного интеллекта в медицину, - задача для отдельной монографии. В данной статье мы ограничимся рассмотрением лишь двух сюжетов - принципов западной медицины и форм медицинского образования.
Принципы западной медицины
Ключевым аспектом фундаментальных изменений в организации системы здравоохранения и медицинского обслуживания является изменение в принципах западной медицины, регулирующих медицинскую профессию. В рамках данной статьи не представляется возможным детальное рассмотрение самого термина «западный» и его значения в отношении к медицине. Мы соглашаемся с аргументацией использования этого термина, разработанной в [Вупит et а1., 2006, 1-6].
Один из главных принципов западной медицины заключается в том, что взаимодействие между доктором и пациентом построены на основании субъект-объектных отношений, где доктор выступает активным субъектом, а пациент является объектом, над которым совершаются манипуляции. Этот принцип приводит к тому, что хирурги, как правило, не проводят операции близким родственникам или друзьям, так как врачам необходимо взаимодействовать с деперсонализированным объектом. Врач стоит перед необходимостью поддер-
живать отсутствие эмоций в процессе проведения операции, видеть не человека, но объект, состоящий из определенного количества плоти и крови.
Второй принцип, вытекающий из первого, предполагает, что врач имеет безусловный авторитет: его/ее слова не подлежат сомнению, и пациент должен беспрекословно следовать врачебным предписаниям.
Третий принцип предполагает, что медицинское знание основано на научном знании и лабораторных экспериментах. Иными словами, без науки нет медицины, поэтому ее и следует именовать «медицинской наукой».
Список принципов и представлений, направлявший медицину в прошлом и направляющий сегодня, может быть продолжен. Однако в данной статье мы бы хотели сосредоточиться на трех базовых принципах, сформулированных выше, и соотнести их с «искусственной социальностью», в условиях которой взаимодействуют врачи и пациенты.
Совместимы ли принципы западной медицины с «искусственной социальностью»? В поисках теоретических оснований
Даже беглый взгляд на профессиональную литературу о современном искусственном интеллекте (как в естественных, так и в социальных науках) позволяет зафиксировать серьезные противоречия в понимании того, что искусственный интеллект привносит в общество. Отчасти проблема заключается в методологии. «Трюк» многих теоретиков состоит в распознавании некоторого тренда развития ИИ в настоящем, расчете возможных последствий этого тренда, а затем - в экстраполяции результатов на картинку будущего, нарисованную вокруг данных последствий. Так создаются представления о технологическом прогрессе, укорененном в трендах сегодняшнего дня, сформулированные как возможные - иногда как неизбежные. Данная стратегия была популярна во времена дискуссий о «постиндустриальном обществе», «мировой глобализации», «коммуникативной революции» и т.п.
Проблема «анализа трендов» заключается в том, что он атеорети-чен и полностью лишен сравнительно-исторической перспективы. Исследователи руководствуются одним-двумя предположениями вместо того, чтобы разрабатывать теорию в явном виде. Одним из них является пессимистичный взгляд на влияние ИИ на общественное развитие, преобладающий в социальных науках. Другой, оптимистичный, взгляд главенствует в литературе по инженерным и естественным наукам.
Их оптимизм исходит из предположения о дальнейших успехах в развитии науки и технологий (особенно биогенетики), способных решить насущные проблемы людей. По существу, и оптимизм, и пессимизм служат тем же целям, что и социальная теория. Эти ценностно-нагру-женные ориентации предоставляют общий взгляд на мир, концентрирующий внимание и активность исследователей на нескольких ключевых проблемах. От социальной теории они отличаются тем, что являются имплицитными и не сформулированы в виде рациональной аргументации.
Мы полагаем, что для более точных, более содержательных объяснений будущего искусственного интеллекта научные взгляды должны быть основаны на прочных теоретических конструкциях и подкреплены сравнительно-историческим анализом. Цель данного раздела статьи - наметить пути к изучению ИИ и «искусственной социальности» в социальных науках в связи с медицинской профессией.
Для начала рассмотрим классическую веберовскую теорию рационализации, отсылающую к возрастающему господству Homo sapiens над природной и социальной средой и предполагающую увеличение роли рациональной научной мысли. Макс Вебер указал на влияние индустриального режима производства на процессы рационализации личной жизни и социальных процессов в целом. При этом ключевыми инструментами человека на пути к господству над природой и социальной жизнью являются наблюдение, эксперимент и разум/интеллект, которыми тот руководствуется для достижения желаемых целей. Если ранее, на протяжении практически всей истории человечества, рационализация приводила к росту населения, то в развитом индустриальном обществе обнаруживаются другие интересы и потребности. Марвин Харрис, культурный антрополог, наиболее последовательно разработавший принципы культурного материализма, показал, что быстрые темпы роста населения в развитом индустриальном обществе остановились, но приведшие к этому спаду социокультурные практики шли нога в ногу с рационализацией [Harris, 1981, 76-97].
Карл Маркс, другой классик социальных наук, показал, что в индустриальных обществах люди оказываются отчуждены от природы, труда, других людей и самих себя. Источник отчуждения - крайности в разделении труда и специализации. На этом этапе рабочие выполняют конкретные, очень ограниченные роли, что приводит к невозможности применения полного человеческого потенциала (эмоционального и интеллектуального). По существу, работа есть не что иное, как средство поддержания жизнедеятельности, вынужденная деятельность, не творческая и не приносящая удовлетворение. Специализация получила название «болезни» индустриальной эпохи. Общество становится все более комплексным и взаимосвязанным, но при этом все
больше отдаляется от ощущения общей цели. Все, включая людей, становится составной частью расширяющейся общественной машинерии.
Другая проблематика, обратившая на себя внимание классиков социологии, заключается в развитии науки как особого вида человеческой деятельности. Современная наука неуклонно превращается в «технонауку», в которой чистая инструментальность отождествляется с исследовательской деятельностью. В сущности, современная наука движима не столько поиском истины, сколько требованием немедленной отдачи. Тем не менее, как подчеркивает социология знания, техническая инструментальность каждодневной работы и содержательная истинность научной мысли являются разными сторонами знания. Поль Вилирьо выразил это следующим образом: «Считается, что в основании экспериментальных наук лежит "эксперимент", хотя сейчас мы видим пренебрежение мыслительными, аналоговыми операциями в угоду инструментальным и цифровым, якобы развивающим познание» [Вирилио, 2002, 11].
Наконец, следует выделить исследования Мишеля Фуко о генеалогии современной медицины [Фуко, 1998]. Работы Фуко содержат важное указание: технологический детерминизм в анализе истории медицины должен быть пересмотрен, т.к. эпистемологические переходы могут предшествовать технологическим, и именно изменения в структурах представлений делают возможными повсеместное внедрение тех или иных технологий в тот или иной момент времени.
Таким образом, ситуация появления искусственного интеллекта на сцене социальных изменений обладает собственной внутренней логикой и легитимностью. Она может быть «вписана» в линии теоретизирования об обществе, которые возникли еще в XIX и XX вв. В частности, профессионализация (рационализация) медицины и влекомый ею пересмотр отношений врача и пациента - история старая, как XX в. [Starr, 1982] Появление новых технологий можно рассматривать как очередной «виток» рационализации / специализации / существования современной эпистемы, и такое рассмотрение, несомненно, объяснит нам нечто. Тем не менее вовсе не очевидно, что такое рассмотрение является наиболее продуктивным. Не является ли оно, напротив, депроблематизацией проблемной ситуации?
Рассмотрим данный вопрос на примере трех принципов западной медицины, выделенных в предыдущем разделе.
Изменились ли классические принципы взаимодействия между врачом и пациентом в период компьютерной революции? Насколько релевантно в XXI в. рассматривать принципы взаимодействия «доктор-пациент» в терминах субъект-объектных отношений? Исходя из тенденций рационализации / специализации, ответ будет, безусловно, положительный, и появление опосредующих технологий только добавляет ему убедительности. Но что происходит, когда посредник между врачом и пациентом сам является относительно автономным
агентом? Становится ли на место классического субъекта конгломерат врача и ИИ? Происходит ли полное замещение врача искусственным интеллектом и полная «объективизация» пациента через сеть «умных» устройств, собирающих информацию о множестве людей? Или, напротив, единственной ролью врача становится участие в субъект-субъектном взаимодействии, до конца не устранимом из человеческих отношений, - в сообщении диагноза, сборе данных о субъективном самочувствии, контактах с родственниками больного? Каждый из этих вариантов возможен. Представляется, что для оценки их правдоподобности необходима социальная теория искусственного интеллекта, воплощенного в агентах, отличных от человека, однако способных вступать во взаимодействия с людьми.
Сохранится ли за врачом безусловный авторитет? Возможно, технологии ИИ только укрепят врачебный авторитет: в конце концов, пока только люди несут моральную и юридическую ответственность за неправильную постановку диагноза, и внедрение алгоритмов, ставящих диагноз, только подчеркивает этот факт. Но также возможно, что в условиях а) наличия информации в онлайн-среде, аккумулирующей опыт многих поколений медиков, б) развития новых алгоритмов поиска и анализа данных и в) распространения гад-жетов, собирающих, в числе прочего, информацию о состоянии организма, фигура врача как безусловного авторитета уйдет в прошлое. Уже существуют боты-юристы и боты-психологи - что препятствует развитию ботов-медиков? То, по какому пути пойдет развитие медицины - к усложненной специализации или к деспециализации, - будет зависеть от характера взаимодействия человека и ИИ в сочетании с макросоциальной динамикой рынков труда и институтов медицинского образования. И вполне можно представить, что в сравнительно-исторической перспективе некоторые страны и регионы выберут один путь, некоторые - другой.
Верно ли, что в эпоху ИИ без науки по-прежнему нет медицины? С одной стороны, искусственный интеллект является продуктом развития современной науки, одним из ее величайших достижений и - в некотором отношении - воплощением рациональности. С другой стороны, продукт работы самого ИИ - действие / предсказание, которое может быть эффективным с практической точки зрения, но является «непрозрачным» и невоспроизводимым (часто - даже для своих создателей). Иными словами, мы имеем дело с предсказанием без объяснения. А это, в свою очередь, противоречит идее научного знания и существующим процедурам научного исследования. Не подошли ли мы к постнауке, к тому, что наукой порождено, но ей самой уже не является?
Проблема преподавания медицины в эпоху искусственного интеллекта
Направления развития искусственного интеллекта в медицине зависят, не в последнюю очередь, от самих медицинских работников. В связи с этим возникает еще одна, не менее важная, проблема: как изменится медицинское образование в эпоху ИИ?
В настоящее время новые способы преподавания и обучения в медицине представляют серьезный предмет для дискуссии среди профессионалов. Согласие, однако, проявляется в признании того, что внедрение новых методов исследования и преподавания в медицинских вузах - куда более сложный процесс, нежели изменения в содержании преподаваемых предметов. Основная задача при этом - отличить консервативные (относительно постоянные) элементы процесса образования и медицинских практик от эфемерных, легко изменяющихся. Вопрос заключается в том, что должно «храниться» в человеческом разуме, а что можно отдать на откуп искусственному интеллекту и онлайн-помощникам.
Одна из наиболее важных проблем состоит в преподавании методологии научного исследования. Существующий подход к обучению имплицитно предполагает, что все исследования в медицине относятся к контрольно-экспериментальному типу, опуская такие важные элементы научной (и медицинской в целом) активности, как интуитивные суждения, творческое мышление, различные методы решения проблем (problem solving) и т.д. Поэтому то, как природа научного исследования отражена в современных концепциях обучения в медицине и науках о жизни, может быть подвергнуто критике по двум основаниям. Во-первых, наука рассматривается как формальное, ин-струменталистское, логическое предприятие по поиску и открытию нового знания; при этом творческим, интуитивным и прагматическим аспектам научных открытий отводится незначительное место. Во-вторых, поддержание идеализированного образа естественных наук обесценивает тип мышления, свойственный социальным, поведенческим, эволюционным исследованиям и гуманитарному знанию, где контролируемый эксперимент менее распространен, явления имеют более комплексную природу, а вопросы о функциях и эмпирических проявлениях ставятся в иной форме.
Следующим аспектом обсуждения является оценка в преподавании. Не существует преподавания без оценивания. Оно может быть имплицитным и неструктурированным, но все в процессе преподавания (сознательно или неосознанно) подвергается оценке. Оценивание любого вида предполагает то, что будет измеряться. Сегодня в преподавании и обучении медицине предмет измерения определяется целями преподавания. Является ли целью заучивание наизусть
названий частей человеческого тела? Или знание свидетельств, которые легли в основу теории существований вирусов? Все это может быть измерено. Однако если мы поставим задачу научить студентов, как мыслить об аномалиях в человеческих телах и умах, то оценка становится более сложной. Еще труднее поддается измерению цель подготовки честного, дружелюбного, отважного и рассудительного медика, которого нельзя заменить алгоритмом, но который способен применять ИИ в своей практике. В этом случае результаты практически не поддаются измерению человеком из-за огромного числа переменных и интерпретаций. И именно здесь на помощь могут прийти технологии, основанные на алгоритмах. Чем более эмоциональный и качественный характер носят цели, тем труднее оценивание, поэтому именно искусственный интеллект внесет свою лепту в оценивании преподавания и обучения в медицине.
Наконец, возникает вопрос о профессиональном чтении. Сегодня в медицине, как и во всех сферах академической жизни, универсально принятым идеалом профессиональной литературы является учебник, энциклопедия, исследовательская статья и монография. Будет ли так в эпоху искусственного интеллекта? Являются ли статьи в журналах и монографии наилучшими источниками знаний во времена, когда студенты, интерны, практикующие врачи и специалисты сталкиваются с постоянной нехваткой времени? Или необходимо развивать более совершенную, постоянно обновляемую технологическую систему получения знаний и информации из постоянно растущего объема данных для тех, кто стремится «держать руку на пульсе» и поспевать за развитием знаний в медицине? Искусственный интеллект может стать решением данной проблемы.
Можно заметить, что обсуждение новых форм и нового содержания преподавания медицины связано с тем, принимаем мы или отвергаем принципы западной медицины, определяющие методологию исследования, ключевые качества врача и источник его/ее авторитета. Подводя итоги, обратим внимание на два парадоксальных вывода, следующих из размышления над вопросами о преподавании медицины в эпоху ИИ.
Во-первых, там, где искусственный интеллект берет на себя функцию «строгой науки», на первый план выходят социальные и гуманистические соображения. Может показаться противоречием, что искусственный интеллект привлекает все больше внимания к гуманитарным и социальным дисциплинам, таким как философия, этика, юриспруденция, социология. Однако данная тенденция существует и будет проявляться в дальнейшем в медицинских науках.
Во-вторых, внедрение искусственного интеллекта в медицину порождает проблемы в медицинском образовании, которые, видимо, способен разрешить только сам искусственный интеллект. Это касается как оценки преподавания, так и формирования актуального круга профессионального чтения.
Вместо заключения
В осмыслении проблем внедрения искусственного интеллекта в медицину не следует ожидать быстрых и простых решений. Не собираемся их предлагать и мы. Вместо этого мы попытались указать на «зазор» между существующими теориями и атеоретическими предсказаниями, а также формами и методами обучения в медицине, с одной стороны, и вопросами медицинской практики, с другой стороны. Данный «зазор» возникает именно в связи с развитием искусственного интеллекта и формированием новой социальной среды -искусственной социальности.
Представляется, что реальное внедрение технологий ИИ подчеркивает, прежде всего, необходимость включения в медицину как строго научного метода, так и различных форм решения проблем, используемых при рассмотрении вопросов, связанных со здоровьем, окружающей средой и другими биосоциальными элементами, требующих оценочных суждений и этических соображений, вероятностных оценок и выбора приоритетов в принятии решений.
Кроме того, развитие медицины в эпоху искусственного интеллекта побуждает нас по-новому подойти в проблеме сотрудничества человека и ИИ, поставленной еще на заре возникновения новых технологий ^скШег, 1960]. Но как именно должен быть организован такой симбиоз? В каких формах? Какая - новая - специализация возникнет в медицинской науке? И по каким линиям специализации пройдет разделение между различными группами людей и машин? Все это - новые вопросы, контуры ответов на которые возникают на наших глазах. И мы полагаем, что специалисты в области медицинских и биологических наук, врачи, медицинские работники и преподаватели медицины могли бы извлечь здесь действительную пользу от кооперации с философами и социальными учеными.
Благодарности
Авторы выражают благодарность Валентину Старикову, Дмитрию Жихаревичу и Анастасии Ивановой за обсуждение проблем искусственного интеллекта в медицине со стороны социальной теории, а также П.К. Яблонскому и Е.Г. Соколовичу за погружение в детали изменений в медицинской профессии и помощь в организации проведения эмпирических исследований.
Список литературы
Вирилио, 2002 - Вирилио П. Информационная бомба. Стратегия обмана. М.: Гнозис: Прагматика культуры, 2002. 192 с.
Резаев, Трегубова, 2019 - Резаев А.В., Трегубова Н.Д. «Искусственный интеллект», «онлайн-культура», «искусственная социальность»: определение понятий // Мониторинг общественного мнения: экономические и социальные перемены. 2019. № 6. (В печати)
Фуко, 1998 - Фуко М. Рождение Клиники. М.: Смысл, 1998. 310 с.
Bynum et al., 2006 - Bynum W.E., Hardy A., Jacyna S., Lawrence Ch., Tansey E.M. The Western Medical Tradition, 1800 to 2000. Cambridge: Cambridge University Press, 2006. 630 pp.
Encyclopedia Britannica - Encyclopedia Britannica. Artificial Intelligence. URL: https://www.britannica.com/technology/artificial-intelligence (дата обращения: 16.09.2019)
English Oxford Living Dictionaries - English Oxford Living Dictionaries. Artificial Intelligence. URL:https://en.oxforddictionaries.com/definition/artificial_intelli-gence (дата обращения: 16.09.2019)
Harris, 1995 - Health and the New Media. Technologies Transforming Personal and Public Health / Ed. by L.M. Harris. Mahwaw, New Jearsey: Lawrence Erlbaum Associates, 1995. 280 pp.
Harris, 1981 - Harris M. America Now: The Anthropology of a Changing Culture. New York: Simon & Schuster, 1981. 208 pp.
Lickider, 1960 - Lickider J.C.R. Man-Computer Symbiosis. IRE Transactions on Human Factors in Electronics, vol. HFE-1, pp. 4-11, March 1960.
Malsch, 1998 - Sozionik: Soziologische Ansichten über Künstlicher Sozialität / Ed. by T. Malsch. Berlin: Edition Sigma, 1998. 393 pp.
Merriam-Webster - Merriam-Webster. Artificial Intelligence. URL: https://www. merriam-webster.com/dictionary/artificial%20intelligence (дата обращения: 16.09.2019)
Rezaev, Tregubova, 2018 - Rezaev A.V., Tregubova N.D. Are Sociologists Ready for 'Artificial Sociality'? Current Issues and Future Prospects for Studying Artificial Intelligence in the Social Sciences // Monitoring of Public Opinion: Economic and Social Changes. 2018. No. 5. P. 91-108.
Rezaev, Yablonsky, 2019 - Rezaev A.V., Yablonsky P.K. Artificial Intelligence in Medicine: Preparing for the Confirmed Inevitable. Theoretical and Methodological Considerations // Proceedings of the 23rd World Multi-Conference on Systemics, Cybernetics and Informatics (WMSCI' 2019), Orlando, 2019. P. 15-18.
Rose, 2007 - Rose N. The Politics of Life Itself: Biomedicine, Power, and Subjectivity in the Twenty-First Century. Princeton: Princeton Univ. Press, 2007. 368 pp.
Starr, 1982 - Starr P. The Social Transformation of American Medicine. N.Y.: Basic Books, 1982. 514 pp.
References
Bynum, W.E., Hardy, A., Jacyna, S., Lawrence, Ch., Tansey, E.M. The Western Medical Tradition, 1800 to 2000. Cambridge: Cambridge University Press, 2006, 630 pp.
Encyclopedia Britannica. Artificial Intelligence. [https://www.britannica.com/ technology/artificial-intelligence, accessed on: 16.09.2019]
English Oxford Living Dictionaries. Artificial Intelligence. [https://en.oxforddic-tionaries.com/definition/artificial_intelligence, accessed on: 16.09.2019]
Foucault, M. Rozhdenie Kliniki. [The birth of the Clinique]. Moscow: Izdatel'stvo «Smysl», 1998, 310 pp. (In Russian)
Harris, L.M. (ed.) Health and the New Media. Technologies Transforming Personal and Public Health. Lawrence Erlbaum Associates, 1995, 280 pp.
Harris, M. America Now: The Anthropology of a Changing Culture. New York: Simon & Schuster, 1981, 208 pp.
Lickider, J.C.R. "Man-Computer Symbiosis", IRE Transactions on Human Factors in Electronics, vol. HFE-1, pp. 4-11, March 1960.
Malsch T. (ed.) Sozionik: Soziologische Ansichten über Künstlicher Sozialität. Berlin: Edition Sigma, 1998, 393 s.
Merriam-Webster. Artificial Intelligence. [https://www.merriam-webster.com/dic-tionary/artificial%20intelligence, accessed on: 16.09.2019]
Rezaev, A.V. & Tregubova, N.D. "Are Sociologists Ready for 'Artificial Sociality'? Current Issues and Future Prospects for Studying Artificial Intelligence in the Social Sciences", Monitoring of Public Opinion: Economic and Social Changes, 2018, no. 5, pp. 91-108.
Rezaev, A.V. & Tregubova N.D. "Artificial Intelligence, On-line Culture, Artificial Sociality: Definition of the Terms", Monitoring of Public Opinion: Economic and Social Changes, 2019, no. 6. (In print). (In Russian)
Rezaev, A.V. & Yablonsky, P.K. "Artificial Intelligence in Medicine: Preparing for the Confirmed Inevitable. Theoretical and Methodological Considerations", Proceedings of The 23rd World Multi-Conference on Systemics, Cybernetics and Informatics (WMSCI2019). Orlando, 2019. P. 15-18.
Rose, N. The Politics of Life Itself: Biomedicine, Power, and Subjectivity in the Twenty-First Century. Princeton: Princeton University Press, 2007, 368 pp.
Starr, P. The Social Transformation of American Medicine. New York: Basic Books, 1982, 514 pp.
Virilio, P. Informacionnaja bomba. Strategija obmana. [The Information Bomb. Strategy of Deception]. Moscow: Gnozis, Pragmatika kul'tury, 2002, 192 pp. (In Russian)
