CC BY
10
Воробьёв Андрей Денисович
andre23.10@bk.ru
Тульский государственный педагогический университет им. Л.Н. Толстого Институт инновационных образовательных практик (магистратура, 1 курс) Научный руководитель: д. филос. н, проф. Ю.В. Назарова
ДИЛЕММЫ ЧЕТВЁРТОЙ ПРОМЫШЛЕННОЙ РЕВОЛЮЦИИ
Vorobyov Andrey Denisovich
Tula State Lev Tolstoy Pedagogical University Institute of Innovative Educational Practices (Master's Course, 1st year) Research Supervisor: Yu.V. Nazarova, Doctor of Philosophy, Professor
DILEMAMS OF THE FOURTH INDUSTRIAL REVOLUTION
Аннотация: в статье авторы пытаются сделать философско-этический, аксиологический анализ тенденций развития цифровых технологий и общества. Научная новизна работы обоснована применением метода построения моральных дилемм с целью выявления и анализа достоинств и недостатков возможных сценариев цифрового будущего. В заключении были выявлены экзистенциальные угрозы для человечества, которые будут вызовами в цифровой эпохе.
Ключевые слова: четвертая промышленная революция, трансгуманизм, моральные дилеммы, этика ИИ, цифровая экономика.
Abstract: the article attempts to make a philosophical-ethical and axiological analysis of trends in the development of digital technologies and society. The scientific novelty of the work is founded on the application of the method of constructing moral dilemmas in order to identify and analyze the advantages and disadvantages of possible scenarios of the digital future. In conclusion, the article has identified existential threats to humanity that will be challenges in the digital age.
Keywords: fourth industrial revolution, transhumanism, moral dilemmas, AI ethics, digital economy
Введение
Современное общество переживает цифровую трансформацию, которая предполагает не только цифровизацию экономики, но и принципиальное изменение представлений о человеке и обществе. Масштабы этих изменений еще только предстоит оценить, однако, в современной философской литературе уже сейчас даются социальные, философско-антропологические, нравственные и культурные прогнозы будущего (теория экзистенциальных рисков Н. Бострома, концепция информационного общества Л. Флориди и т.д. [1; 2]). В основном оценка
происходящих трансформаций происходит в контексте философии трансгуманизма, которая предполагает активное развитие новейших технологий, а именно биоинженерии и искусственного интеллекта. В то же самое время технологический прогресс создает актуальные моральные дилеммы, раскрывающие конкретные риски грядущих перемен. Конкретизация и осмысление таких дилемм становятся особенно актуальными в контексте стремительного развития новых технологий, последствия которых кажутся рискованными даже для самих разработчиков
[3].
Целью исследования является моделирование наиболее важных моральных дилемм четвертой промышленной революции. В этой связи в исследовании ставятся следующие задачи:
1) определить тенденции четвёртой промышленной революции;
2) охарактеризовать цифровую экономику и её влияние на трансформацию общества;
3) сконструировать моральные дилеммы, показав этические противоречия технократического будущего для человека;
4) предложить возможные варианты разрешения дилемм.
Научная новизна статьи заключена в целостном этико-философском
подходе к оценке перспектив четвертой промышленной революции и прогнозированию ее последствий. В результате формулируется ряд моральных дилемм, раскрывающих экзистенциальные риски будущего, предлагается этико-аксиологический алгоритм их разрешения.
Четвертая промышленная революция и проблема морали
XXI век ознаменован массовой цифровизацией, компьютеризацией, автоматизацией производства и т.д. Говоря о перспективах будущего человечества, мы проанализируем последствия развития технологий с этико-философской точки зрения. Цифровое общество формирует и диктует социальные тренды и уклад жизни, поэтому обратимся к данному понятию. Цифровое или информационное общество - общество, в котором большинство работающих занято производством, хранением, переработкой и реализацией информации, особенно высшей ее формы - знаний [12].
В данный момент происходит формирование цифрового общества, в котором трансформируются экономика, образование, коммуникации, культура, наука, мораль и даже религии. Появляются новые философские представления об обществе и человеке. Так, известный философ Л. Флориди, говорит о формировании инфосферы; этот термин включает в себя представления об обществе не как о совокупности общественных отношений, а как о новом информационном пространстве, агентами которого являются все информационные единицы, а не только человек, что предполагает принципиально новый подход к понятию человека (вместо которого философ вводит термин «инфорг»), и, вместе с тем, иные понятия
о морали, смерти и жизни [3]. Философ Н. Бостром пишет о том, что приоритетом является сохранение разумной формы жизни, причем, под разумной жизнью может подразумеваться искусственный интеллект, который должен обладать теми же правами, что и человек разумный [2]. В целом такие представления характерны для философии трансгуманизма, которая декларирует совершенствование человека, продление жизни, трансформацию человеческого тела в условиях активного развития новейших технологий [8].
Один из главных идеологов цифровизации Клаус Шваб ожидает, что эта эпоха будет отмечена прорывами в таких областях, как робототехника, искусственный интеллект, нанотехнологии, квантовые вычисления, биотехнологии, интернет вещей, децентрализованный консенсус, беспроводные технологии пятого поколения, 3D-печать и полностью автономные транспортные средства [4].
Очевидно, что трансгуманизм является идеологической основой четвертой промышленной революции. Тем не менее, несмотря на, казалось бы, этически оправданную цель - улучшение и упрощение жизни человека, существуют следующие сомнения в безопасности происходящих процессов:
1. Трансгуманистическое мировоззрение, лежащие в основании современного технологического прогресса, не имеет альтернативы на данный момент.
2. Трансгуманистические ценности и принципы формируют этико-правовую базу новых технологий.
3. Последствия внедрения цифровой экономики сомнительны с точки зрения морали.
Цифровая экономика в цифровом обществе
Цифровая экономика (веб-, интернет-экономика, электронная экономика) - экономическая деятельность, осуществляемая с помощью электронных сетей (цифровых телекоммуникаций), связанная с электронным бизнесом и электронной коммерцией и производимыми и сбываемыми ими цифровыми товарами и услугами. Расчёты за услуги и товары цифровой экономики производятся зачастую цифровой валютой [6]. Данная модель представляет собой цифровизацию производств и в целом всех сфер жизни людей. Так сегодня популярными становятся цифровые валюты, криптовалюты, правительства некоторых стран даже легализуют их. Человек, находящийся в такой экономической системе будет переходить от привычного материального пространства в виртуальное.
Клаус Шваб предлагает концепцию четвёртой промышленной революции, которая, по его мнению, будет беспрецедентной для человеческой истории [13]. Но существуют ли какие-то угрозы технологического прогресса для общества в такой системе? На этот счёт
идёт довольно много споров, так как одна часть общества является безоговорочными сторонниками технократии, другая же с опаской смотрит на наступление цифрового общества. И это создает ряд моральных дилемм для общества.
Моральные дилеммы цифрового общества
Моральная дилемма - это гипотетическая конфликтная ситуация, когда участник эксперимента, представляющий себя главным действующим лицом, должен выбрать один из возможных вариантов действиям. Решение такой дилеммы связано с трудным моральным выбором [8]. Дилеммы цифровизации касаются двух аспектов: 1) свободы и принуждения в отношении цифровизации (является ли всеобщая цифровизация принуждением? будут ли выпадать из общества те люди, которые откажутся принимать цифровизацию? дает ли цифровизация приоритет людям и государствам?); 2) границ власти технологий (как много власти можно отдать технологиям? могут ли технологии контролировать людей? будет ли управлять миром тот, кто будет управлять технологиями?).
Рассмотрим подробнее две из возможных дилемм.
Цифровизация делает жизнь человека проще и свободнее -искусственный интеллект отбирает личную свободу у человека.
Повсеместная цифровизация и ИИ формируют дилемму о свободе воли человека в таком будущем, так как он может быть ограничен в своих правах и свободах рамками цифрового контроля. Сегодня все шире стали применяться сканирование лица, биометрические, цифровые базы данных о миллионах пользователях. Это делает человека более уязвимым, потому что возможна утечка личных данных в глобальный интернет, или правительства стран могут устанавливать более жесткий контроль и цензуру в рамках кибер-безопасности. Такие тенденции могут привести к трансформации политических режимов и наступлению цифрового тоталитаризма. Подобный образ будущего изображен в японском аниме-сериале «Психопаспорт», который показывает светлое технологическое будущее Японии, которое на деле является антиутопией. С развитием технологий люди разработали систему искусственного интеллекта «Сивилла», которой доверили принятие решений о национальной безопасности, о будущем. Данная система определяла способности и психические показатели человека. У каждого гражданина есть психопаспорт, который замеряет коэффициент преступности, при повышении которого человек подлежал уничтожению, так как представлял угрозу для общества как потенциальный преступник. Уровень преступности в Японии снизился, но какой ценой? В большей степени такое общество несправедливо и несвободно, и в конечном счёте потерпело бы крах. Но при этом же цифровизация и ИИ упрощают жизнь людей. Технологии помогают сократить время людей при покупках,
оформлении документов, получении справок, в целом снижают административно-бюрократическую нагрузку. Внедрение искусственного интеллекта в медицину помогает проведению сложных операций.
Роботизация освободит человека от монотонного труда -роботизированная экономика создаст социально-экономические проблемы для общества.
Также четвёртая промышленная революция предполагает вымещение человеческого и машинного труда роботами. Но к чему это может привести? С одной стороны, это ведёт к глобальной перестройке экономической формации - переходу к так называемому посттрудовому обществу. Это понятие, характеризующее возможное преодоление трудоцентричности современного общества (общества труда), которое входит в противоречие с развитием трудосберегающих технологий, автоматизацией и роботизацией производства, а также моральной критикой узкого продуктивистского понимания человеческой деятельности [11]. Социальная жизнь человека в таком мире теоретически должна стать более свободной во всех отношениях: у него появится больше времени для творчества, саморазвития и развлечений. Для самого производства это будет означать повышение производительности, снижение издержек и преодоление кризисов перепроизводства. Но, с другой стороны, внедрение роботизации может просто вызвать дисбаланс и разрушение экономики, так как она создаст огромные массы безработных, ряд профессий просто исчезнет. Массовая безработица вызовет тяжелый кризис в мировых масштабах. Возможный сценарий роботизированного будущего был презентован командой Sberai. Презентация стала довольно громкой и вызвала бурную реакцию в социальных сетях [5].
Возможные способы разрешения рассмотренных дилемм? Вычленение этических проблем цифровизации и их формулировки в форме дилемм позволяют:
актуализировать наиболее значимые проблемы, показать плюсы и минусы ситуации, определить альтернативные пути принятия решений, провести сравнительный анализ противоположных решений. На наш взгляд, для разрешения дилемм необходимы следующие шаги: - сама постановка дилемм и их публичное обсуждение, гуманитарная экспертиза дилемм цифровизации.
По сути, необходим институт гуманитарной экспертизы, где ситуации дилемм будут комплексно рассматриваться специалистами в области экономики, социологии, права, психологии и философии.
Гуманитарно-философская оценка дилемм должна включать в себя этический и аксиологический анализ последствий возможных решений,
Воробьёв А.Д.
Vorobyov A.D.
который будет осуществляться средствами прикладной и профессиональной этики и аксиологического мониторинга.
Аксиологический мониторинг (исследование ценностей) поможет понять ценностные трансформации, происходящие в цифровом обществе, разработать этические алгоритмы, которые лягут в основу программ искусственного интеллекта.
Поскольку современные методы прикладной этики являются средством профилактики этических проблем, их использование в системе гуманитарной экспертизы может стать действенным способом предупреждения экзистенциальных рисков искусственного интеллекта и поможет в контроле процессов цифровизации и разрешении дилемм четвертой промышленной революции.
Заключение
Подводя итоги нашей работы, отметим, что четвёртая промышленная революция будет продолжаться и станет вызовом для нас, а возможно и катастрофой для человеческой расы, если не вести более сбалансированную политику в отношении цифровизации и норм цифрового общества.
Главные угрозы цифровизации, которые мы выделили в ходе работе: потеря личной свободы человека и экономическая незащищенность людей в цифровом обществе. Общество будущего будет нуждаться в регулировании цифровых социальных норм посредством «цифровых законов», кодексов, защищающих права личности.
Литература
1. Bostrom N. Transhumanist Values // Review of Contemporary Philosophy. - 2005. - Vol. 4, May. - URL: https://nickbostrom.com/ethics/values (кта обращения: 01.09.2023).
2. Floridi L. The Fourth Revolution - How the infosphere is reshaping human reality. - Oxford : Oxford University Press, 2014. - 272 p.
3. Pause Giant AI Experiments: An Open Letter // Future of Life Institute. - URL: https://futureoflife.org/open-letter/pause-giant-ai-experiments/ (дата обращения: 01.09.2023).
4. Schwab, Klaus, «Четвертая промышленная революция: что это значит, как реагировать» - URL: https://www.weforum.org/agenda/2016/01/the-fourth-industrial-revolution-what-it-means-and-how-to-respond/ (дата обращения 25.02.2024)
5. Будущее 2035+: Кастовое общество победившего цифрофашизма и виртуальных личностей // РИА Катюша. - URL: https://katyusha.org/oczifrovka/budushhee-2035-ot-sbera-kastovoe-obshhestvo-pobedivshego-czifrofashizma-i-virtualnyix-
lichnostej.html?ysclid=lmjnf2y5rh792924711 (дата обращения 15.09.2023).
6. Глоссарий.т, URL: http://www.glossary.ru/cgi-bin/gl sch2.cgi?RRlylig9! qutusoqg (дата обращения 11.09.2023).
7. Куне Р., Тучина М.Е. Второй международный конгресс «Глобальное будущее 2045» (Нью-Йорк, июнь 2013 г.) // Философские науки. - 2013. - № 12. - С. 125-136. - URL: https://www.phisci.info/jour/article/view/1599/1531 (дата обращения: 07.09.2023).
8. Моральная дилемма // Большая психологическая энциклопедия. - URL: https://rus-big-psyho.slovaronline.com/1552 (дата обращения
14.09.2023).
9. Назарова Ю.В. Этика искусственного интеллекта в современной России: актуальные проблемы и тенденции развития // Тульские гуманитарные ведомости. - 2020. - № 2. - С. 14-23. - URL: https://tsput.ra/fb//hum/2020/№2°/o20(34)/13/mdex.html (дата обращения
22.02.2024).
10. Назарова Ю.В., Анищенко О.С. Новая цифровая этика в виртуальном пространстве: дилеммы контроля и этической экспертизы // Тульские гуманитарные ведомости. - 2019. - № 4. - Т.1. - С. 23-31. - URL: https://tsput.ru/fb//hum/2019/4(32)T1/23/index.html (дата обращения 22.02.2024).
11. Посттрудовое общество // Большая российская энциклопедия. -URL: https://bigenc.ru/c/posttrudovoe-obshchestvo-cc0154?ysclid=lmjm7aiwux80246659 (дата обращения 17.09.2023).
12. Цифровое общество: Коллективная монография / Павлинов И.А., Валейко В.П., Скодорова Л.К. и др. - Тирасполь: Изд-во Приднестровского университета, 2017. -152 с.
13. Шваб К. COVID-19 Великая перезагрузка // URL: https://www.rulit.me/books/covid-19-velikaya-perezagruzka-read-640275-1.html (дата обращения 06.09.2023).
