CC BY
4УДК 11:62 (075.8)
DOI: 10.31249/sci s/2023.04.03
Никитина Е.А. *
ЕСТЕСТВЕННОЕ И ИСКУССТВЕННОЕ В СОЦИОБИОТЕХНИЧЕСКИХ СИСТЕМАХ
Nikitina E.A.
NATURAL AND ARTIFICIAL IN SOCIOBIOTECHNICAL SYSTEMS
Аннотация. Цель статьи - выявление противоречий, возникающих в процессе формирования отношения «субъект-среда» в сложных социобиотехнических системах в аспекте соотношения естественного и искусственного. Основные тенденции развития человеческой цивилизации выражаются в создании сложных систем, объединяющих объекты разной природы, и все чаще подобные системы называют социобиотехническими системами. Данные системы соразмерны человеку, т.е. человекомерны, ведь они создаются для человека, и, естественно, включают человека. В числе таких систем - медико-биологические системы, экологические, крупномасштабные системы цифровой экономики, здравоохранения, информационные системы, организационно-технические системы. Целеполагающая деятельность человека объединяет в этих системах биологические, социальные и технологические компоненты, которые функционируют как единое целое. В цифровом
* © Никитина Елена Александровна - доктор философских наук, доцент, профессор кафедры гуманитарных и социальных наук ФГБОУ ВО «МИРЭА -Российский технологический университет». Москва, Российская Федерация, [email protected] , ORCID 0000-0002-7779-2718
Nikitina Elena Alexandrovna - DSc in Philosophy, Assoc. Professor, Professor, Department of Humanities and Social Sciences, MIREA - Russian Technological University. Moscow, Russia, [email protected] , ORCID: 0000-0002-7779-2718
обществе процесс саморазвития данного вида систем происходит на основе сетевой информационно-коммуникационной технологической среды, роль которой будет со временем возрастать. Этому способствует развитие нейротехнологий и искусственного интеллекта, промышленного Интернета, технологий беспроводной связи, технологий виртуальной и дополненной реальностей, распространение цифровых двойников. В статье обоснована значимость субъект-ориентированной методологии изучения трансформации сложных саморазвивающихся систем. Показано, что одним из существенных противоречий, присущих развитию этих систем, является противоречие между естественным и искусственным, которые различаются по способу возникновения (происхождения), существования (функционирования) и исчезновения (утилизации).
Ключевые слова: сложность; социобиотехнические системы; естественное; искусственное; субъект; методология науки.
Abstract. The main trends in the development of human civilization are expressed in the creation of complex systems that combine objects of different natures. These systems are increasingly called socio-biotechnological systems. These systems are proportional to man, that is, they are human-based, they are created for man, and include man. Such systems include medical and biological systems, environmental systems, large-scale systems of the digital economy, healthcare, information systems, organizational and technical complexes. Goal-setting human activity combines biological, social and technological components in these systems, which function as a single whole. In the information society, the self-development of such systems is carried out through the information and communication technological environment, which is network-based. At the same time, the role of this technological information and communication infrastructure will only increase with the development of such technologies of the information society as big data, neurotechnology and artificial intelligence, industrial Internet, wireless communication technologies, virtual and augmented reality technologies, digital twins. One of the significant contradictions inherent in the development of these systems is the contradiction between the natural and the artificial, which differ in the method of emergence (origin), existence (functioning) and disappearance (utilization). The purpose of the article is to identify the formation of the "subject-
environment" relationship in complex socio-biotechnical systems in terms of the relationship between the natural and the artificial.
Keywords: complexity; sociobiotechnical systems; natural; artificial; subject; methodology of science.
Введение
Методология исследования сложных саморазвивающихся человекомерных систем сталкивается с рядом трудностей, и одна из них связана с определением источников возникновения внутренних противоречий системы, порождающих критические ситуации и риски. Особую значимость эта проблема приобретает в контексте развития социальной оценки техники. В.Г. Горохов, размышляя над реализацией системного подхода в сфере социальной оценки техники, подчеркивал, что в социальной оценке техники необходимо комбинировать системотехнический и социально-системный способы рассмотрения [Горохов, 2012, с. 500]. Это важно подчеркнуть: необходим не только системотехнический, но и социально-системный подход, так как в сложных социобиотехнологических системах [Ефременко, Яницкий, Ермолаева, 2019], включающих человека, т.е. человекомерных системах, воспроизводство системой самой себя, поддержание своего существования и саморазвитие осуществляется на основе рефлексивной и рекурсивной деятельности субъекта (субъекта-индивида, коллективного субъекта, социального субъекта).
На значимость изучения формирования наблюдателя в сложных системах обращают внимание в своих трудах В.И. Ар-шинов и В.Г. Буданов: можно «исследовать сложность таких систем на основе конвергенции системного и сетевого подходов, но при этом в поле зрения не попадут важные эмерджентные процессы, связанные с формированием наблюдателя в таких системах» [Аршинов, Буданов, 2017, с. 58-59]. Другими словами, в предмет исследования не будет включен субъект деятельности с его постоянной рекурсией и соотнесением деятельности и ее результатов с целями, ценностями.
Действительно, в методологическом отношении изучение динамики данных систем должно опираться на субъект-ориентированные подходы, ведь создается данный вид систем человеком в
процессе активно-преобразующей практической деятельности. В процессе становления человеческой цивилизации природа вовлекалась в целеполагающую деятельность человека, преобразовывалась, трансформировалась в соответствии с существующими естественными и возникающими искусственными потребностями человека, приобретала искусственные характеристики и свойства, изначально миру не присущие. Управление жизнедеятельностью современного общества во многом представляет собой управление сложными системами разного рода: организационно-техническими системами, включающими технические средства и людей (персонал), обеспечивающих выполнение цели. Основоположник отечественной философии техники П.К. Энгельмейер даже полагал, что философия техники может объяснить генезис всей культуры, так как человек - существо техническое. Культура создается целепо-лагающей деятельностью человека. Всякая, любая активность человека, утверждал Энгельмейер, включает технический этап, поэтому техническое творчество является ключом к пониманию многих видов творчества.
Постепенно сформировалась искусственная реальность, к которой, в расширенной трактовке, относятся все продукты и результаты человеческой деятельности, вся материальная, социальная и духовная культура, созданная человеческим трудом и творчеством. При этом особенность искусственно создаваемой среды состоит в том, что она сама по себе не содержит внутреннего, изначально ей присущего источника движения и саморазвития. В движение искусственно созданную среду приводит человек. В то время как естественная среда, природа, не включенная в деятельность человека, имеет начало «в самой себе», ведь все, что существует «по природе», имеет начало и источник движения «в самом себе».
Другими словами, естественное и искусственное различаются прежде всего по способу возникновения (происхождения).
Соответственно, исследование существующих в настоящее время социобиотехнических систем с необходимостью должно учитывать особую роль субъекта в динамике данного вида систем. В этой связи выявляется ограниченность акторно-сетевого подхода, не учитывающего в принципиальном отношении особенности субъекта (наблюдателя) в процессе саморазвития системы. В со-
циобиотехнических системах включенный в них субъект деятельности «функционирует» в единстве со средствами и объектами деятельности. В таких «сложных саморазвивающихся системах трансформация обеспечивается», как подчеркивал В.С. Стёпин, «именно целенаправленным движением системы к новому уровню организации» [Стёпин, 2018, с. 35].
В таком случае есть основания полагать, что именно противоречия между естественным и искусственным, возникающие в процессе формирования отношения «субъект-среда» в сложных социобиотехнических системах, порождают ряд рисков.
Для подтверждения этого предположения обратимся к тем условиям, в которых проблемные ситуации сформировались.
Технологизация естественного и «социализация» технического
Функционирование и саморазвитие биосоциотехнических систем в современном развитом информационном обществе, находящемся на этапе цифровой трансформации основных сфер жизнедеятельности общества, осуществляется на основе сетевой информационно-коммуникационной технологической инфраструктуры. При этом принципиальную значимость имеет рефлексивная деятельность субъекта (субъекта-индивида, коллективного субъекта, социального субъекта) [Никитина, 2018].
В чем проявляется саморазвитие в сложных системах? Изменения происходят, прежде всего, в управлении системой, появлении новых уровней организации и блоков управления. Изменения проявляются также в появлении новых подсистем. В системе «возникают новые параметры порядка, новые типы прямых и обратных связей» [Стёпин, 2018, с. 34].
В чем состоит цифровая трансформация экономики? Прежде всего в развитии технологий, порождающих новые виды реальностей - виртуальную и дополненную, в широком распространении больших данных (big data), промышленного Интернета, беспроводной связи, цифровых двойников. Собственно, разработка перечисленных выше технологий и есть проявление трансформации блока управления, которая способствовала усложнению организации и управления в системе.
Так, одним из направлений развития цифровой экономики является создание цифровых двойников, представляющих собой виртуальную цифровую модель объекта любой природы: биологической, социальной, технической. Цифровой двойник синхронизируется с реальным объектом и в дальнейшем функционирует одновременно с ним в режиме реального времени.
Существуют различные цели и технологии создания цифровых двойников. В частности, с помощью датчиков, которые устанавливаются на физическом объекте (оборудовании, автомобиле, нефтедобывающей платформе и др.) и собирают данные о состоянии объекта, а далее эти данные передаются цифровой виртуальной копии объекта. Цифровая копия объекта может быть представлена на компьютере с помощью наглядной 3D-модели, содержащей ту же самую информацию, что и реальный физический объект. Благодаря цифровому двойнику можно удаленно, дистанционно контролировать, оптимизировать работу реального физического объекта, узнавать о неполадках и их причинах быстрее, чем это мог бы сделать человек, находящийся рядом с объектом. Так, например, компания Tesla с помощью цифрового двойника электрокара может удаленно провести диагностику работы проданного автомобиля, определить необходимость технического обслуживания и произвести с помощью программного обеспечения необходимые настройки его работы. Разработка цифровых двойников улучшает управление экономической сферой, повышает эффективность технологических процессов и прибыльность бизнеса, создает возможность для долгосрочного планирования и прогнозирования.
Появление цифровых двойников свидетельствует о качественно новом этапе взаимодействия человека и техники. История развития техники показывает определенную направленность, которая нашла выражение в росте целенаправленности в использовании человеком материалов, что способствовало росту рациональности и полезности техники. Постепенно техника специализировалась в предметном и функциональном отношении. Особенность современного этапа ее развития состоит в том, что в условиях оснащения техносферы интеллектуальными системами управления и обработки информации техника включается в социальное взаимодействие. Происходит своеобразная «социализация» техники и технологий.
Действительно, применение интеллектуальных технологий позволило решить многие проблемы социального взаимодействия путем автоматизации рутинной деятельности человека, существенно повлияло на структуру социального пространства и социального времени. Вместе с тем острой стала проблема освоения человеком новых, быстро меняющихся технологий, адаптации к новому технологическому укладу. Информационно-технологическая среда профессиональной деятельности и повседневной жизни человека усложнилась, количество информации, которую нужно воспринять, понять и усвоить для адаптации к новым условиям, возросло. Наблюдается взрывной рост числа информационных продуктов.
Более того, дальнейшее стирание в данном типе сложных систем границ между естественным и искусственным со всей очевидностью показало проблемы, возникающие вследствие различия способов существования (функционирования) естественного и искусственного и способов их исчезновения (утилизации). Одним из проявлений этих различий стали так называемые культурные лаги и проблемы синхронизации функционирования различных компонентов социобиотехнических систем. Естественное и искусственное развиваются по разным законам.
В связи с этим, в контексте функционирования сложных че-ловекомерных систем, в частности организационно-технических систем, которыми насыщена жизнедеятельность общества, хотелось бы обратить внимание на чувствительную и недостаточно исследованную проблему, связанную с разными способами исчезновения (утилизации) естественного и искусственного в таких системах. Эта тема сложна, многогранна, и один из ее аспектов -жизнедеятельность и существование человека в мире сложных систем, созданных им же самим. Так, например, одна из проблем состоит в том, что у каждой из этих систем, в частности, организационно-технических, включающих человека, т.е. сочетающих естественное и искусственное, существует свой жизненный цикл, свое системное время, свое соотношение между внутренними и внешними потребностями системы. Существует востребованность этой системы другими системами, с которыми она взаимодействует. Но в какой-то момент достигнутая системой устойчивость начинает разрушаться под воздействием определенных факторов,
и система начинает распадаться, разваливаться, наступает период ее исчезновения (утилизации). Именно в этот период проявляется одна из проблем, связанных с различием в способах исчезновения (утилизации) естественного и искусственного в рамках таких систем, и она нуждается в комплексном социально-гуманитарном исследовании. Это реальная проблема.
И в этом отношении справедливо утверждение, что трансформация крупных технических систем требует «скоординированных согласованных действий разработчиков технологий, социальных практиков и разнообразных социальных институтов с учетом господствующих в данном обществе социокультурных ценностей» [Горохов, 2012, с. 494].
Гуманизация техники возможна на основе изучения социальных механизмов ее развития, обсуждения и установления социальных пределов технологическим изменениям и общественного контроля над техническим развитием, ведь все научно-технические достижения, новые технологии существенно влияют на социальную и культурную жизнь, на человека [Горохов, 2015].
Итак, усложнение и развитие информационно-технологической структуры современного общества, с одной стороны, способствовало решению многих проблем общественного развития, но вместе с тем появились новые риски и проблемы. В частности, в новой информационно-технологической среде коммуникации обострилась проблема понимания и доверия. Между тем, доверие -необходимое условие взаимодействия людей.
В современном обществе возникла потребность в новом способе управления сложной цифровой технологической средой, в новом, более простом и понятном способе коммуникации человека и техники, которую создает современная цивилизация в процессе инновационной деятельности.
Данная потребность сформировалась во многом под влиянием тенденций развития индустрии 4.0, цифровой трансформации основных сфер жизнедеятельности общества, следствием которых становится персонализация, обращенность функционирования социальных институтов к индивиду, благодаря цифровым технологиям, обеспечивающим возможность доставки информации непосредственно конкретным потребителям. В обществе функционирование экономических, политических и других социальных институтов
нацелено на взаимодействие с конкретным человеком. Цифровые технологии включаются в социальное взаимодействие, становятся частью социального действия и утрачивают качество ценностной нейтральности.
Одним из новых способов интеграции человека с информационно-технологической средой социального взаимодействия постепенно становятся нейротехнологии. В условиях возрастания информационной нагрузки нейротехнологии призваны улучшить адаптацию человека к информационно-технологической среде цифрового общества, а также увеличивать производительность и эффективность мышления человека. Так, распределенный и ассоциативный характер хранения информации в нейронных сетях коррелирует с коммуникативным характером и интерсубъективностью познания; нейронные сети адаптивны.
Существенное влияние на социальные представления начинают оказывать цифровые экосистемы, такие как маркет-плейсы, объединяющие производителей товаров и услуг с потенциальными клиентами. «Яндекс» разрабатывает единую экосистему сервисов: такси, доставка, музыка, голосовой помощник и т.п. Масштабные экосистемы возникают вокруг житейских, повседневных потребностей человека.
Цифровые экосистемы экономики возникают в результате цифровых преобразований процессов производства, распределения, обмена и потребления. Цифровые экосистемы могут быть представлены как цифровая форма системы экономических связей и отношений субъектов.
Необходимо отметить высокий уровень адаптивности цифровых экосистем, которые могут быть рассмотрены как саморазвивающиеся сложные системы, где эволюционно формируется управление различными видами деятельности человека. Возникают новые уровни в иерархии, новые подсистемы, новые уровни интеграции.
Одна из проблем, возникающих в экосистемах и относящихся к различиям в способах функционирования естественного и искусственного, является проблема влияния экосистем на социальные представления [Емельянова, 2016]. Она состоит в том, что цифровые технологии начинают оказывать «организующее, стимулирующее либо ограничивающее воздействие на социальное
поведение» [Грунвальд, Ефременко, 2021, с. 44]. В исследованиях отмечается, что перевод межличностных взаимодействий и коммуникации в цифровой формат, постоянное использование этого формата программирует определенный «набор социальных правил и базовых ценностей», которые автоматизируются, т.е. могут быть перенесены в системы, детализируются и функционируют на постоянной основе [Грунвальд, Ефременко, 2021, с. 45].
И можно только согласиться с К.К. Колиным, утверждающим, что инженеры-исследователи должны «более четко понимать социогуманитарные последствия практического использования разработок. Создаваемые ими новые устройства, системы и технологии должны быть «человекомерными» и удовлетворять требованиям социальной экологии. Они должны быть биосферно совместимыми с естественной природой, т.е. не нарушать гармонию жизненно важных природных экосистем нашей планеты» [Колин, 2022, с. 52].
Естественное и искусственное в коллективном субъекте
Информацию, значимую для самоорганизации социобиотех-нических систем, создаваемых в результате конструктивной, творческой деятельности общества, генерирует именно человек. Соответственно, в теоретико-методологическом отношении свою продуктивность показали субъект-ориентированные подходы к изучению этих процессов, основанные на социально-гуманитарной рациональности.
Саморазвитие в социобиотехнических системах сопряжено с коммуникацией между подсистемами. В сложной системе, в которой коммуникация осуществляется посредством информационно-коммуникационной инфраструктуры, связывающей различные подсистемы, возникает вопрос не только о взаимопонимании людей друг с другом, но и понимании ими принципов функционирования цифровых сетевых технологий и цифровой среды. В сложной естественно-искусственной среде одним из условий жизнеспособности системы является, на наш взгляд, коммуникативная совместимость разноприродных составляющих системы. Достижение такой коммуникативной совместимости подсистем возможно в процессе рефлексивной деятельности коллективного субъекта, который может
функционировать в системе как социальный институт, социальная группа или же другая устойчивая общность (научное сообщество и др.).
Коллективный субъект выполняет ряд функций, важных для воспроизводства и развития сложной системы: он является хранителем коллективной и социальной памяти, способов решения задач познания и деятельности, способов адаптации субъекта-индивида к реальности. Коллективный субъект «играет важную роль в производстве, сохранении и передаче определенных типизаций, таких как образцы взаимодействия с людьми, способы предметно-практической деятельности и др.» [Никитина, 2021, с. 126].
Вместе с тем в условиях цифрового общества «коллективный субъект эволюционирует в направлении гибридного, сетевого, и, в определенной степени, распределенного коллективного субъекта» [Никитина, 2021, с. 127].
Принципиальную значимость для понимания процессов саморазвития приобретает исследование герменевтических аспектов коммуникации в сложной системе. Решение задачи предполагает сравнение информационной деятельности человека с информационными возможностями технических средств, выявление их преимуществ и недостатков. Такое сравнение возможно осуществить на основе системно-информационного и информационно-технологического подходов. Но, вместе с тем, на основе этих подходов, опирающихся на инженерно-технологическую рациональность, непросто выделить и исследовать проблематику целенаправленного развития системы, проблематику рефлексивной, оценочной деятельности субъекта. И здесь необходимо обратить внимание на то, что в цифровом обществе социализация претерпевает качественные изменения и становится техносоциализацией, так как экзистенцию, экзистенциальные противоречия и ситуации человек переживает уже в цифровой среде. Кроме того, в цифровой среде начинают формироваться социальные представления, социальные практики, в ней происходит институционализация стереотипов, передаваемых следующим поколениям.
В чем состоит положительное влияние интеллектуальных систем на субъектность? В.К. Финн обращает внимание на то, что интеллектуальные системы выполняют просветительскую функцию и повышают, благодаря интеллектуальным интерфейсам,
средний уровень интеллектуальности личности, объединяют, благодаря инженерии знаний, личное и внеличностное знание. Интеллектуальные системы повышают логическую культуру личности, усиливают умственную деятельность и поддерживают творческую деятельность человека [Финн, 2006, с. 122-123].
Вместе с тем существует немало рисков, связанных с ростом применения интеллектуальных систем и технологий. Так, число причин, мотивирующих человека развивать интеллектуальные способности, сокращается в условиях, когда часть интеллектуальных задач делегирована техническим устройствам и успешно ими решается. Растут риски разрушения субъектности и единства сознания, т.е. способности субъекта интегрировать и критически оценивать разнородную информацию, необходимую для целепола-гающей деятельности.
Каковы же перспективы естественного интеллекта? В контексте социальной ответственности разработчиков интеллектуальных информационных технологий и систем целесообразно, как представляется, сформулировать проблему экологии естественного интеллекта. Под естественным интеллектом понимается совокупность способностей человека: «способность к выделению существенного в знаниях, к целеполаганию и планированию поведения, к отбору знаний, способность извлекать следствия из фактов и знаний, способность принимать решения аргументированно, способность к рефлексии, познавательное любопытство и потребность находить объяснения, способность к синтезу процедур познания, к обучению и использованию памяти, к созданию целостной картины предмета мышления» и т.д. [Финн, 2006, с. 89].
Возникает вопрос: какие мероприятия будут способствовать сохранению естественного интеллекта человека, существующего в мире сложных человекомерных систем цифрового общества? Прежде всего, это развитие природоподобных технологий искусственного интеллекта (нейронные сети, эволюционные вычисления и т.д.); далее - контролируемое развитие гибридного, смешанного человеко-машинного интеллекта; интеллектуальная оценка техники на основе комплексных тестов, охватывающих различные типы интеллекта (социальный интеллект, эмоциональный интеллект и т.д.) в рамках антропологии техники.
Заключение
Таким образом, обращение к предпосылкам и условиям возникновения противоречий в процессе формирования отношения «субъект - среда» в сложных социобиотехнических системах показало, что одним из существенных противоречий, присущих развитию этих систем, является противоречие между естественным и искусственным, которые различаются по способу возникновения (происхождения), существования (функционирования) и исчезновения (утилизации). Обоснована значимость субъект-ориентированной методологии изучения трансформации сложных саморазвивающихся систем.
Уменьшение или предотвращение негативных последствий научно-технического прогресса требует разработки определенных социально-гуманитарных технологий в рамках социальной оценки техники, создания технологии социального формирования и социального проектирования новой техники на ранних этапах. Важно при этом видеть различие социально-гуманитарного, инженерно-технологического, логико-математического типов рациональности.
Список литературы
Аршинов В.И., Буданов В.Г. Системы и сети в контексте парадигмы сложности // Вопросы философии. - 2017. - № 1. - С. 50-61.
Горохов В.Г. Оценка техники как прикладная философия техники и новая научно-техническая дисциплина // Гений Шухова и современная эпоха : материалы международного конгресса. - Москва : Издательство МГТУ им. Н.Э. Баумана, 2015. - С. 241-249.
Горохов В.Г. Технические науки: история и теория (история науки с философской точки зрения) : монография. - Москва : Логос, 2012. - 512 с.
Грунвальд А., Ефременко Д.В. Цифровая трансформация и социальная оценка техники // Философия науки и техники. - 2021. - Т. 26, № 2. - С. 36-51.
Емельянова Т.П. Социальные представления: история, теория и эмпирические исследования. - Москва : Издательство Института психологии РАН, 2016. -476 с.
Ефременко Д.В., Яницкий О.Н., Ермолаева П.О. О социобиотехнических системах // Вопросы философии. - 2019. - № 5. - С. 138-147.
Колин К.К. Социогуманитарные аспекты инженерной деятельности в XXI в. // Науковедческие исследования. - 2022. - № 2. - С. 41-53.
Никитина Е.А. Коллективный субъект в сложных человекомерных системах: интеллект или сумма технологий? // Философия науки и техники. - 2021. -Т. 26, № 1. - С. 122-130.
Никитина Е.А. Принцип единства индивидуальных, коллективных и социальных когнитивных структур и мультиагентная парадигма // Философия и общество. - 2018. - № 1 (86). - С. 116-118.
Стёпин В.С. О методологии исследования сложных развивающихся систем // Философия и социология техники XXI веке. К 70-летию В.Г. Горохова / под общей редакцией И.Ю. Алексеевой, А.А. Костиковой, А.Ф. Яковлевой. -Москва : Аквилон, 2018. - С. 30-40.
Финн В.К. Интеллектуальные системы и общество : сборник статей / пре-дисл. Д.А. Поспелова, Д.Г. Лахути, В.Б. Тарасова. - Изд. 2-е. - Москва : КомКни-га, 2006. - 352 с.
References
Arshinov V.I., Budanov V.G. Systems and networks in the context of the complexity paradigm // Questions of Philosophy. - 2017. - N 1. - P. 50-61. (In Russ.)
Emelyanova T.P. Social Representations: History, Theory, and Empirical Research. - M.: Publishing house of the Institute of Psychology of the Russian Academy of Sciences. 2016. - 476 p. (In Russ.)
Efremenko D. V., Yanitsky O.N., Ermolaeva P.O. On socio-biotechnical systems // Questions of Philosophy. - 2019. - N 5. - Pp. 138-147. (In Russ.)
Finn V.K. Intelligent systems and society: collection of articles / Preface. YES. Pospelova, D.G. Lahuti, V.B. Tarasova. Ed. 2 nd. - Moscow: KomKniga, 2006. -352 p.
Gorokhov V.G. Assessment of technology as an applied philosophy of technology and a new scientific and technical discipline // Shukhov's genius and the modern era. Materials of the international congress. - M.: Publishing house of MSTU im. N.E. Bauman, 2015. - pp. 241-249. (In Russ.)
Gorokhov V.G. Technical sciences: history and theory (history of science from a philosophical point of view): monograph / V.G. Gorokhov. - M.: Logos, 2012. -512 p. (In Russ.)
Grunwald A., Efremenko D. V. Digital transformation and social assessment of technology // Philosophy of science and technology. - 2021. - T. 26. - N 2. - P. 36-51. (In Russ.)
Kolin K.K. Socio-humanitarian aspects of engineering activity in the 21 st century // Scientific research. - 2022. - No. 2. - Pp. 41-53. (In Russ.)
Nikitina E.A. Collective subject in complex human-dimensional systems: intelligence or the sum of technologies? // Philosophy of science and technology. -2021. - T. 26. - N 1. - Pp. 122-130. (In Russ.)
Nikitina E.A. The principle of unity of individual, collective and social cognitive structures and the multi-agent paradigm // Philosophy and Society. - 2018. -N 1 (86). - pp. 116-118. (In Russ.)
Stepin V.S. On the methodology for studying complex developing systems // Philosophy and sociology of technology in the XXI century. To the 70 th anniversary of V.G. Gorokhov // Under the general editorship of I.Yu. Alekseeva, A.A. Kostikova, A.F. Yakovleva. - M.: Aquilon, 2018. - Pp. 30-40. (In Russ.)
