CC BY
70
ТЕМА НОМЕРА: К 100-ЛЕТИЮ ФИНАНСОВОГО УНИВЕРСИТЕТА
DOI: 10.26794/2226-7867-2019-9-2-6-10 УДК 316.422.6(045)
информационные технологии как социальный вызов xxi века
Тюриков Александр Георгиевич,
д-р соц. наук, профессор,
руководитель Департамента социологии, истории и философии, Финансовый университет, Москва, Россия agtyurikov@fa.ru
Большунов Андрей Яковлевич,
канд. психол. наук, доцент, директор Центра социальной экспертизы и развития,
Финансовый университет, Москва, Россия
andrey.bolshunov.1955@gmail.com
Аннотация. Статья посвящена анализу информационных технологий, информационного интеллекта как вызовам развитию человечества. Цель работы - раскрыть и описать взаимосвязь информационно-коммуникационных и социальных преобразований в мире. Задачей данной статьи является анализ тех вызовов и угроз, с которыми столкнется человечество с глобальным внедрением искусственного интеллекта. В статье выявлено, что, казалось бы, прогрессивное внедрение искусственного интеллекта производит действия, обратные тем, которые ему приписываются, и они имеют негативные последствия для развития человечества. Авторы обосновывают объективную потребность переосмысления роли образования и просвещения как базового ресурса в минимизации негативного воздействия на человека современных информационно-коммуникационных технологий. Ключевые слова: экзогенные и эндогенные вызовы; искусственный интеллект; информационно-коммуникационные технологии; эвентуальный продукт и pharmacon; человеческая субъектность
INFORMATION TECHNOLOGY As A sOCIAL CHALLENGE OF THE XXI CENTURY
Tyurikov A. G.,
Doctor of Sociology, Professor, Head of the Department of Sociology, History and Philosophy, Financial University,
Moscow, Russia
agtyurikov@fa.ru
Bolshunov A. Y.,
Cand. Sci. (Psychology), Associate Professor, Director of the Center for social expertise and development,
Financial University, Moscow, Russia
andrey.bolshunov.1955@gmail.com
Abstract. The article is devoted to the analysis of information technologies, information intelligence as a challenge to the development of humankind. The purpose of the work is to reveal and describe the relationship between information and communication and social transformations in the world. The task of this article is to analyse the challenges and threats that humanity will face the global introduction of artificial intelligence. We revealed that the seemingly gradual introduction of artificial and intelligence produces actions that are reversed by those that are attributed to it and they have negative consequences for the development of humankind. The authors substantiated the actual need to rethink the role of education and enlightenment as a basic resource in minimising the negative impact on humans of modern information and communication technologies.
Keywords: exogenous and endogenous challenges; artificial intelligence; information and communication technologies; eventual product and pharmacon; human subjectivity
ТЕМА НОМЕРА: К 100-лЕТИЮ ФИНАНСОВОГО УНИВЕРСИТЕТА
ПОСТАНОВКА ПРОБлЕМЫ
Глубина, скорость и охват проникновения информационно-коммуникативных технологий и искусственного интеллекта в нашу жизнь выдвигают множество новых вызовов перед человечеством. В научном и публичном пространстве идет активная дискуссия о том, что мы стоим на пороге принципиального выбора между будущими возможностями искусственного интеллекта и его опасностями, причем не столько технического, сколько гуманистического и мировоззренческого характера. Экспертное мнение в целом едино: эти процессы необратимы, они приобретают глобальный масштаб и обусловливают формирование нового социального устройства в мире. В этой связи закономерно встают вопросы: останется ли место человеку в этом искусственно-информационном пространстве и сможет ли общество справиться (управлять) этой новой реальностью?
ВЫЗОВ - ОТВЕТ
По мнению А. Дж. Тойнби, «схема Вызова-и-Ответа наиболее пригодна при исследовании генезиса цивилизаций»... В ритме [истории] каждый последующий такт является следствием нового вызова .Вызов побуждает к росту. Ответом на вызов общество решает вставшую перед ним задачу, чем переводит себя в более высокое и более совершенное. состояние. Отсутствие вызовов означает отсутствие стимулов к росту и развитию. Новые вызовы, побуждая к новым творческим ответам, активизируют новые творческие меньшинства. В последовательности успешных ответов на вызовы, составляющих процесс роста, творческое меньшинство, его инициатива, энергия, решительность, обеспечивающие ему победы, рекрутируется из индивидуумов с самым разным социальным опытом, с разными идеями и идеалами» [1]. Неспособность общества ответить на вызовы ведет, по Тойнби, к его деградации, распаду и гибели. Чтобы ответить на вызов, нужно, прежде всего, его осознать, «отрефлексировать».
А. Дж. Тойнби определяет вызов как «испытание». Подчеркнем: вызовами являются только такие «испытания», пройти которые общество может лишь ценой изменений. Или, по-другому: вызовами являются обстоятельства, распорядиться которыми люди не могут не изменившись. В этом суть вызовов — в отличие от задач, лимитирующих факторов и даже
проблем. Ответить на вызовы, оставшись таким, каково оно есть, общество не может. При этом, если общество не может ответить на вызовы и распорядиться возникшими обстоятельствами со смыслом, эти обстоятельства становятся довлеющей над ним силой, предопределяющей последующую судьбу общества.
Мы различаем четыре типа вызовов, представленных в таблице. Уточним понятия «эвентуальный продукт» и '^агтасоп", поскольку они играют ключевую роль в обсуждении вызова информационных технологий. Под эвентуальными продуктами (возможными в определенных обстоятельствах, возникающими в зависимости от ситуации и свойств объекта) мы понимаем объективные последствия наших действий, не входящие в содержание поставленных целей.
Например, в экологии, никто не ставил целей «разогреть Землю», подорвать существование биоценозов, исчерпать невосполнимые запасы природных ископаемых и т.п. Напротив, целью было развивать человечество за счет использования ресурсов.
Это указывает на главную характеристику эвентуальных продуктов: действуя с объектом, мы «вводим в игру» его свойства, взаимосвязи этих свойств. Захваченный действием объект ведет себя, сообразуясь не с нашими намерениями, но в соответствии со своей «специфической логикой специфического предмета» (К. Маркс), что находит выражение в эвентуальных продуктах наших действий.
Действием «вводится в игру» не только объект, но и человек, общество. Соответственно, мы всегда имеем дело с особым классом эвентуальных продуктов — не предусматриваемыми гуманитарными последствиями той деятельности, в которую люди вовлечены, выражающимися в том, какими и кем они становятся в этой деятельности.
Древнегреческое понятие "рЬагтасоп" (снадобье, в то же время являющееся ядом) актуализировано Ж. Дерридой как средство, призванное возместить недостаток каких-либо способностей, преодолеть какую-либо ограниченность людей, но наносящее «бумерангом» непоправимый ущерб тому, недостаток чего возмещается [2]. Например, калькулятор, несомненно, расширяет наши способности к счету. Но когда в школах разрешили пользоваться калькуляторами, дети утратили способность к устному счету. Проблема в том, что, считая
гуманитарные НАУКИ. ВЕСТНИК финансового УНИВЕРСИТЕТА ♦ 2'2019
Таблица / Table
Типы современных вызовов / Types of modern challenges
Экзогенные вызовы Эндогенные вызовы
Вызовы характера угроз Вызовы типа природных катаклизмов, происходящих по независимым от человека причинам Угрозы, являющиеся эвентуальными продуктами человеческой деятельности (примером является современный экологический кризис)
Вызовы характера искушений, соблазнов Примером является потребительский бум в России в начале 90-х гг., который разрушал общество и людей. Этот вызов является экзогенным, поскольку изобилие товаров не было результатом экономического развития СССР - изобилие пришло к нам извне Вызовы типа РЬшгтасоп [2]. Информационные технологии, по мнению авторов, являются вызовом этого типа, и характеру этих вызовов посвящена значительная часть статьи
в голове, ребенок осваивает логику, механизмы операций с числами, вследствие чего понимает, как и почему «4х3 = 12». Когда же он считает посредством калькулятора, он осваивает нечто другое — как и какие нажимать кнопки. Вследствие этого ему нечего ответить на вопрос, почему «4*3 = 12», ведь это произошло не в его голове и сделано не им.
Ж. Деррида отмечает, что рharmacon:
• «производит действия, обратные тем, которые ему приписываются» и «несет гибель» [2]. Люди, думая, что посредством pharmacon устраивают свою жизнь, на деле разрушают себя и свою жизнь. Причем разрушают, не замечая этого до момента «встречи с реальностью»; замечают, когда «уже поздно»;
• имеет характер соблазна, а не угрозы. «Он бесконечно обещает себя, ускользает благодаря потайным дверям, блестящим как зеркала и открывающимся в лабиринт»;
• «вводит в диалог определенную форму господства» [2]. Люди, поскольку их способности экстериоризированы в различных устройствах и отчуждены от них, оказываются во все более глубокой зависимости от этих устройств. Например, многочисленные прогнозы (и факты) свидетельствуют, что массы современных людей окажутся совершенно несостоятельными в условиях масштабных техногенных катастроф — у них нет навыков выживания, они неспособны жить вне условий, предоставляемых им современными технологиями. Но дело не только в катастрофах. Исследование, проведенное «Лабораторией Касперского» (https://www.kaspersky.com/blog/stay-tuned-герог^), показало, что «две трети (71%) вла-
дельцев цифровых гаджетов в России смотрят на экран устройства, просто чтобы избежать общения с другими людьми» (https://sterlegrad. ш/society/106535-kak-smartfony-vПyayut-na-nas-specialisty-vyyasnili-chto-dve-treti-rossiyan-izbegayut-zhivogo-obscheniya.html). В ситуациях живого общения люди чувствуют себя дискомфортно, и это является следствием того, что социальные сети и гаджеты представляют собой pharmacon общения. При этом «зависимость людей от девайсов доходит до абсурда. Так, например, 36% опрошенных признались, что пользуются навигатором на устройстве, даже когда знают дорогу, 18% смотрят в гаджет, чтобы притвориться, что заняты, когда не хотят с кем-то разговаривать» [1];
• «сбивая нормальное и естественное..., оказывается врагом живого вообще» [2];
• «производит игру видимости, благодаря которой он выдает себя за истину» [2]. Понятие '^агтасоп" связано с концепцией симу-лякров. Ж. Бодрийяр отмечает: «Симулякр не ложь, скрывающая истину, а истина, скрывающая, что ее нет» [3]. Так ИИ (искусственный интеллект) выдает себя за нечто, превосходящее человеческий разум и способное полностью заменить его; на деле же ИИ — всего лишь устройство, позволяющее реализовать технологическое содержание интеллектуальной деятельности, но абсолютно «равнодушное» к ее смыслам, формам, даже целям: это все остается в ведении людей, но, увы, людей, мышление которых разрушено pharmacon. Ведь в образуемом pharmacon симулякре мышления «речь идет уже не об имитации, не о дублировании, даже не о пародии. Речь идет
ТЕМА НОМЕРА: К 100-ЛЕТИЮ ФИНАНСОВОГО УНИВЕРСИТЕТА
о субституции, подмене реального знаками реального, то есть об операции апотропии всякого реального процесса его операциональной копией.». Это «мир, очищенный от всякой угрозы смысла» [3];
• характеризуется фундаментальной двойственностью, является «местом раздвоения» и создает «движение и игру, которые соотносят противоположности друг с другом, переворачивают их и заставляют их переходить одну в другую (душа/тело, добро/зло, внутри/ снаружи, память/забвение, речь/письмо и т.д.).
ИКТ (информационно-коммуникационные технологии) имеют выраженный характер pharmacon, причем такого масштаба, с которым человечество еще не встречалось в своей истории. Проиллюстрируем это обстоятельство. Еще в 1993 г. Вернор Виндж писал о слиянии людей и машин, в котором людям будет отведена незавидная служебная роль: «В постчеловеческом мире [слияния людей и машин] останется множество ниш, в которых эквивалентная человеческой автономность будет востребована: встроенные системы в самоуправляющихся устройствах, автономные демоны низшей функциональности в более крупных разумных существах. Некоторые из таких человеческих эквивалентов могут использоваться исключительно для цифровой обработки сигналов» [4]. Иначе говоря, люди, по мнению В. Винджа, станут элементами информационно-технических систем, и их проявления будут ограничены их функциональностью в этих системах. Насколько реальны очерченные В. Винджом угрозы? Ведь «мозги» (не люди!), находящиеся в постоянном "connect" с искусственным интеллектом, интегрированные в искусственный интеллект, уже становятся реальностью (и именно это В. Виндж называет сверхчеловеческим интеллектом).
Характерная для pharmacon двойственность обнаруживает себя в прогнозах противоположного характера — с одной стороны, В. Виндж, с другой — вера, что ИКТ освободят креативность человека от рутинных аспектов деятельности.
Можно в очерченной двойственности усматривать ситуацию выбора, перед которым человечество поставлено ИКТ — ограниченная функциональность «человеческих эквивалентов» или освобожденная креативность. Но дело в том, что этот выбор мы делаем в последствиях pharmacon, суть которых в том, что ИИ выво-
дит из игры мудрость. П. Слотердайк замечает: «Мудрость не зависит от степени технического покорения мира; напротив, последняя предполагает, что необходима первая, особенно тогда, когда прогресс науки и техники ведет к безумным последствиям» [5]. Технологии сами по себе не делают нас ни мудрыми, ни совершенными. В традиционных культурах ставка делается на мудрость, в нашу эпоху — на интеллект. Но вот в чем незадача: интеллект есть и у животных, а мудрость — это достояние исключительно человека. Интеллект — это способность решать задачи,сообразительность, изобретательность. Мудрость — искусство обращения со смыслами (поступков, событий, вещей, жизни, мира). Чтобы решать задачи, совесть, к примеру, не надобна. А в постижении смысла поступка без совести не обойтись.
В работах по нейрокомпьютерам часто встречается утверждение, что нейросети копируют работу мозга и тем самым воспроизводят механизмы мышления человека. Так ли это? Например, в обучении нейросетей им предлагаются образцы, которые машиной воспринимаются как совокупности признаков, позволяющих отнести образец к определенному классу объектов.
Вопрос: способны ли нейросети (ИИ) «осваивать» смыслы? ИИ в лучшем случае будет иметь дело с «объективирующими формами сознания» смыслов, «предполагая», что существуют некие объектные признаки свободы, мудрости и т.п., позволяющие очертить классы феноменов, именуемые этими терминами.
Очевидно, что в том слиянии людей и машин, о котором пишет В. Виндж, способность людей к обращению с первичными смыслами не будет востребована: во взаимодействии с машиной она окажется не функциональной и, как следствие, не войдет в число тех способностей, которыми будут располагать порождаемые этим слиянием «человеческие эквиваленты».
В случае ИИ суть обсуждаемого pharmacon состоит в ликвидации, элиминации человеческой субъектности: человек и общество в целом выводятся из игры как субъект, — субъектность присваивается ИИ. С этим связаны все мифы и страхи «информационного общества». Иллюстрацией является ставший культовым образ «матрицы». Психиатры и психотерапевты насчитывают от 8 до 15 новых видов душевных расстройств, появлением которых мы обязаны информационным технологиям. Эти расстрой-
ГУМАНИТАРНЫЕ НАУКИ. ВЕСТНИК ФИНАНСОВОГО УНИВЕРСИТЕТА ♦ 2'2019
ства, как правило, имеют характер зависимостей, сопровождаемых страхами остаться без "connect", а также восприятия жизни как реа-лити-шоу, в котором все подстроено (запрог-раммированно).
Существенно, что вызовы информационных технологий, в отличие, например, от экологического кризиса, имеют форму не столько угрозы, сколько искушения, соблазна: кто первым создаст ИИ, станет властелином мира.
ОТВЕТ НА ВЫЗОВ ИКТ ЛЕЖИТ В СФЕРЕ ПРОСВЕЩЕНИЯ И ОБРАЗОВАНИЯ
Ответ на вызов состоит в том, чтобы, овладев таким специфическим обстоятельством, как ИКТ, распорядиться им «со смыслом» и восстановить, тем самым, свою субъектность. Возвращение к мудрости должно совершиться в первую очередь в образовании.
1. Образование и просвещение должны строиться как институт субъектности, как практика заботы о себе как о Человеке. Оно должно состоять, соответственно, в тех изменениях, благодаря которым участники образовательного процесса (не только ученики, но и учителя!) получают доступ к Истине и Правде, Совершенству и Благу. Компетен-
ции — только часть этих изменений, причем не самая важная.
2. «Человеческая культура возникает и разворачивается в игре, как игра», и «проявления общественной деятельности человека все уже пронизаны игрою» [2]. Образование должно строиться как социальная (социокультурная) система, поддерживающая четыре базовых типа игр:
• игры в субъектность (способность распорядиться условиями и содержанием образовательного процесса);
• игры в индивидуальность (исключительность, незаменимость);
• игры в «самость» (самоощущение, самооценка, самосознание, саморазвитие и т.п.);
• игры в человечность (социальные системы являются системами признания, верификации человечности индивида), где суть образования как социальной системы в том, что она открывает, опосредствует доступ к участию в мире людей.
Мы говорим об образовании и просвещении, которыми осуществляется не воспроизводство «произволов», а производство субъектности по отношению к вызовам времени, включающим все угрозы и искушения эпохи.
СПИСОК ИСТОЧНИКОВ
1. Тойнби А. Дж. Постижение истории. Пер. с англ. Жаркова Е. Д. М.: Айрис-пресс; 2010. 640 с.
2. Деррида Ж. Диссеминация. Пер. с франц. Кралечкина Д. Екатеринбург: У-Фактория; 2007. 608 с.
3. Бодрийяр Ж. Симулякры и симуляция М.: ПОСТУМ; 2016. 240 с.
4. Виндж В. Технологическая сингулярность. URL: http://modernlib.net/books/vindzh_vernor/ tehnologicheskaya_singulyarnost/read.
5. Слотердайк П. Критика цинического разума. Пер. с нем. Перцева А. Екатеринбург: У-Фактория; М.: ACT МОСКВА; 2009. 800 с.
REFERENCES
1. Toynbee A. J. A study of history. Trans. from English. Moscow: Iris-Press; 2010. 640 p. (In Russ.).
2. Derrida J. Dissemination. Trans. from French. Ekaterinburg: U-Factoriya; 2007. 608 p. (In Russ.).
3. Baudrillard J. Simulacra et simulation. Trans. from French. Moscow: POSTUM; 2016. 240 p. (In Russ.).
4. Vinge V. Technological singularity. URL: http://modernlib.net/books/vindzh_vernor/tehnologicheskaya_ singulyarnost/read. (In Russ.).
5. Sloterdijk P. Der Zynischen Vernunft [Critique of cynical reason]. Trans. from German. Ekaterinburg: U-Faktoriya, Moscow: ACT MOSCOW; 2009. 800 p. (In Russ.).
