CC BY
30
УДК 11
DOI: 10.37482/2687-1505-V247
МАРТИН Эллен, PhD, научный сотрудник Лондонского университета (Лондон, Великобритания). Автор 15 научных публикации*
ORCID: https://orcid.org/0000-0001-9489-9931
МЕТАФИЗИЧЕСКИЙ РАЗРЫВ: КРИТИЧЕСКИЙ АНАЛИЗ ИДЕИ ТЕХНОЛОГИЧЕСКОЙ СИНГУЛЯРНОСТИ
Следующий этап в развитии человеческой истории часто рассматривается представителями футурологии и теоретиками трансгуманизма как глобальная технологическая сингулярность. Основная задача данной работы заключается в том, чтобы показать, что идея возможности технологической сингулярности является результатом тотальной зависимости человека от техники, что стала причиной метафизической мутации сознания. Автор уделяет внимание концепции технологической сингулярности, согласно которой экспоненциальный рост искусственного интеллекта и нанотехнологий откроет момент необратимых изменений для человечества. Представлен краткий сравнительный анализ русского космизма и трансгуманистических космических видений. Рассматриваются трансгуманистические взгляды о метафизике личности, сознании и сингулярности. На основе критики трансгуманистической теории личностной идентичности сделан вывод о несостоятельности попыток ее сторонников свести понятие личности только к разуму. Утверждается, что вера в возможность технологической сингулярности и постсингулярного мира во многом является результатом тотальной зависимости человека от технологий, когда технологии стали претендовать на роль преобразующего фактора во всех сферах его жизни. В условиях растущей зависимости индивида от технологий зазор между человеком и техникой заполняется искусственным интеллектом, принимающим на себя роль субъекта. Возникновение идеи взрыва искусственного сверхразума является следствием происходящей глобальной трансформации во всех сферах жизни, когда стираются грани между реальностью и виртуальным миром. Автор связывает появление понятия технологической сингулярности с метафизическим разрывом, т. е. разрывом между человеческим сознанием как человеческой сущностью и существованием в мире техносферы, где индивид передает свою роль субъекта технике. Бесконтрольно ускоряющийся технический прогресс ведет не к господству машинного сверхразума, а к тотальному экзистенциальному обессмысливанию и антропологической катастрофе.
Ключевые слова: искусственный интеллект, проблема сознания, технологическая сингулярность, технологический прогресс, трансгуманизм, космические видения трансгуманизма.
*'Адрес: Senate House, Malet St, London, WC1E 7HU, United Kingdom; e-mail: [email protected]
Для цитирования: Мартин Э. Метафизический разрыв: критический анализ идеи технологической сингулярности // Вестн. Сев. (Арктич.) федер. ун-та. Сер.: Гуманит. и соц. науки. 2023. Т. 23, № 2. С. 112-122. DOI: 10.37482/2687-1505-V247
Определение технологической сингулярности
Техносфера сформировала для современного человека глобальную искусственную среду существования, где научно-технические инновации стали панацеей, предлагающей ответы на все человеческие проблемы и новые перспективы для человечества. Представители трансгуманизма, главные теоретики технологической сингулярности (ТС), считают, что одной из таких перспектив является ТС - момент в истории человечества, когда люди будут неизбежно вытеснены искусственным интеллектом и нанотехнологическими инновациями и наступит время постсингулярной метафизической реальности, где будет господствовать искусственный интеллект (ИИ), или сверхразум.
ТС принято определять как гипотетическое событие, в котором ИИ достигает способности рекурсивного самосовершенствования или автономного создания более мощной версии, что в конечном итоге может привести к интеллектуальному взрыву. Впервые термин «сингулярность» не в математическом смысле, а в контексте технологического прогресса использовал в 1957 году Джон Ньюманн [1].
Основной аргумент был изложен в статье И. Дж. Гуда: «Пусть сверхразумная машина будет определена как машина, которая способна намного превзойти интеллектуальные способности любого человека, каким бы умным он ни был. Поскольку проектирование машин является одним из видов интеллектуальной деятельности, сверхразумная машина могла бы создавать еще более совершенные машины, и тогда несомненно произошел бы "взрыв интеллекта", а человеческий разум остался бы позади. Основная идея заключается в том, что машина, которая умнее человека, будет проектировать машины лучше, чем человек» [2, с. 31].
Современную интерпретацию понятия ТС предложил математик и писатель-фантаст Вернон Виндж. В на-чале 1980 годов он использовал термин «сингулярность» в связи развитием так называемых умных машин: «Мы скоро создадим разум, превосходящий наш собственный. Когда это
произойдет, человеческая история достигнет своего рода сингулярности, интеллектуального перехода, столь же непроницаемого как пространственно-временной узел в центре черной дыры, и мир пойдет далеко за пределы нашего понимания» [3, с. 10]. В последующей статье Виндж расширил свою концепцию и ввел понятие ТС [4].
Значительные достижения в области вычислительной техники и кибернетических технологий в 1980-х годах стимулировали интерес к идее быстрого научно-технического прогресса. Стремительное технологическое развитие подтверждало понимание того, что приближается своего рода тревожный разрыв, когда машинный интеллект становится опасным для человека. Об этом заявлял Ганс Моравец. В книге «Дети Разума» он применил закон Мура против появляющейся робототехники и технологии искусственного интеллекта. Данный закон, названный в честь одного из основателей корпорации Intel Гордона Мура, является результатом наблюдения, согласно которому число транзисторов на кристалле интегральных схем удваивается примерно каждые два года [5, с. 115]. Моравец, сосредоточившись на разработке искусственного интеллекта, пришел к выводу, что в начале XXI века произойдет «пожар разума» в этой сфере [6, с. 62-68]. Считается, что с момента формулирования в 1965 году закон Мура доказал свою точность [7, с. 206-207]. Однако на данный момент не существует единого мнения относительно срока его действия. Есть лишь утверждения исследователей, что невозможно уменьшить размер электронных схем ниже определенного атомного веса [8].
Когда Виндж впервые использовал понятие «сингулярность» в 1993 году в докладе «Приближающаяся технологическая сингулярность: как спастись в постчеловеческую эпоху», было неясно, в какой модальности он применял этот термин: как математик или писатель-фантаст. Однако даже в своих научных исследованиях он ссылается на авторов научной фантастики 1960-1980 годов [4, с. 13].
Истоки возникновения понятия технологической сингулярности
Технический прогресс XIX века, вызванный промышленной революцией, дал импульс развитию философских воззрений о технологическом прогрессе. Понятие «сингулярность» рассматривалось как взаимодействие телеологии и позитивизма, развитие которого происходит в периоды быстрого прогресса. Философы часто изображали исторический процесс как восходящую кривую позитивности, где количество силы и интеллекта увеличивается, когда человеческая история прогрессирует к определенной точке [9, с. 242-243]. Таким образом, сингулярность - это движение к прогрессу через силу и энергию. Один из вопросов здесь -с какой скоростью происходит подобное увеличение силы и как влияет прогресс на человечество. Некоторые исследователи стали изображать скорость прогресса как возрастающее ускорение в математическом смысле и вне антропологического контекста. Именно здесь появляется концептуальное понятие технологической сингулярности.
Наиболее четко выраженным предшественником концепции сингулярности в западной философской мысли является теологический взгляд Гегеля на историю. В «Феноменологии духа» он описывает восхождение истории и культуры к идеалу абсолютного знания.
История человечества прошла несколько этапов технического прогресса: от сельскохозяйственного через индустриальный к нынешнему научно-техническому прогрессу. Но какой будет следующий сдвиг парадигмы и каковы его последствия для человечества?
Модель Р. Курцвейла
Курцвейл считает, что следующий сдвиг парадигмы будет в век информационного создания, который он рассматривает как неизбежное слияние мышления человека с интеллектом небиологических существ, создающихся посредством технологических инноваций. Американский футуролог прогнозирует, что сингулярность произойдет в 2048 году, потому что линейная тенденция информационно-техноло-
гических инноваций начала достигать «колена кривой» - точки, где становится заметным экспоненциальный тренд. Курцвейл определяет сингулярность как «будущий период, в течение которого темпы технологических изменений будут настолько стремительными, а их воздействие настолько глубоким, что человеческая жизнь будет необратимо преобразована» [10, с. 7]. Согласно его мнению, эффект ТС будет настолько мощным, что исчезнут грани между человеком и машиной, между физическим и виртуальным миром. «Сингулярность позволит нам превзойти эти ограничения наших биологических тел и мозга <. > не будет постсингулярного разграничения между машинами и людьми» [10, с. 9]. Курцвейл утверждает, что прогресс в медицине позволил бы нам постоянно заменять проблемные органы, продлевая жизнь.
Метафизические импликации трансгуманистического видения
Идея ТС претендует на сходство с религиозной эсхаталогией. По мнению Дж. Динер-штейна, профессора культурологии, прогресс секуляризовал бы концепцию христианского искупления, изобретя идею будущего как своего рода метафизической реальности, где все утопические мечты человечества исполнятся [11, с. 569-595]. ТС претендует на содержательное решение конечной судьбы человеческой личности и всего сущего за пределами этого мира, т. е. в постсингулярном мире.
Такое видение можно сравнить с концепцией Гегеля, который изобразил человечество как инструмент, с помощью которого Абсолют (Абсолютный дух) достиг полного самопознания. Похожим образом Курцвейл убеждает людей в возможности превзойти себя, став постчеловеческими существами, которые приобретут трансцендентные способности. Согласно ему и другим трансгуманистам (например, Н. Бострому), постулирующим неизбежность технологической сингулярности, люди по сути являются органическим мозгом, который со временем сделает возможным появление «богоподобных» существ. Движущей силой истории служит императив: высшая
цель Вселенной - сделать себя полностью осознанной. Для Курцвейла Гегель был прав во многих отношениях, но ошибался в следующем: Альфа не стала Омегой, конечная цель не достигнута и Абсолют еще не стал само-со-знательным.
Огромную инаковость еще предстоит пробудить, ассимилировавшись с божественным интеллектом. Если глубинный космический телос смог зародить самосознательное человечество, то тот же самый телос может быть стимулирован технологическими инновациями. Роль нанотехнологий в дискурсе технологической сингулярности.
Антропологические конфигурации
Современные теоретики ТС утверждают, что экспоненциальный рост искусственного интеллекта, а также развитие конвергентных технологий, обладающих эффектом эмер-джентности (нано- и инфотехнологий), откроет момент необратимых изменений для человечества. Нанотехнологии сегодня имеют возможность не только восстанавливать нарушенные функции организма, но и вмешиваться в саму телесность человека. Появляется возможность для создания генетически модифицированных людей. Нанотехнологии стали реальностью, но то, что возможно произвести или достигнуть с их помощью, представляет благодатную почву как для сюжетов технологического рая, так и для отражения чувства экзистенциального страха и ужаса, как, например, в сценариях «серой слизи» конца света. Основатель нано-технологий Эрик Дрексель ввел термин «серая слизь» в монографии «Двигатели творения» [12]. Он сделал попытку описать экспоненциальную способность самовоспроизводящихся наномашин: «Каждая копия будет создавать новые копии. Таким образом, первый репликатор собирает копию за тысячу секунд, два репликатора создадут еще два за следующие тысячу секунд... » [12, с. 154-154]. Дрексель высказал тревожную гипотезу, согласно которой вышедшие из-под контроля наномашины самовоспроизводятся в геометрической прогрессии, поглощая всю материю на своем пути.
В видениях будущего, когда возможно достигнуть продления жизни с помощью на-нотехнологий, человек представляется иным существом, потому что нанотехнологии таким образом вмешиваются в его телесность, что могут трансформировать его непредсказуемо. Колин Милберн отмечает: «...постчеловеческие тела в нанонарративах никогда на бывают стабильными, никогда не идеализируются, никогда не бывают нормативными, не имеют телесных пределов; пределы постчеловеческой телесности также широки, как и на-новизуальное воображение. Нановидение нарушает конфигурации человеческого тела, перестраивая тела без привязки к формам, данной природой и культурой. Нановидение -это активный инструмент постчеловеческой инженерии» [13, с. 51].
Хотя Милберн говорит конкретно о на-нотехнологиях, можно увидеть сходство и актуальность его рассуждений с дискурсом ТС. Непостижимые явления проявляются через дестабилизацию гендерных норм и тела человека. Фантастические явления показывают то, что может быть следствием ТС для человека.
Согласно утверждениям ученого Джэро-ма Ланье, сингулярность позволит «оживить» умирающих людей путем загрузки сознания в компьютер, где они продолжат свое существование. Иными словами, он считает, что для продолжения жизни после физической смерти следует отказаться от физических тел и загрузить разум в виртуальную реальность [14]. Развитие нанотехнологий, когнитивных наук, занимающихся разработкой ИИ и созданием моделей человеческого мозга, грозит размытием граней между человеческим и живым нечеловеческим миром, между человеческим сознанием и запрограммированным информационным носителем, а также изменением традиционного понимания смерти. Неудержимый технический прогресс и вмешательство искусственного интеллекта, претендующего на роль субъекта (человека), приводит к антропологической ломке.
Космизм и космические видения трансгуманистов
По мнению теоретиков ТС, эволюция в процессе технического развития непременно приведет к трансформации сознания, кульминацией которой и станет ТС, в результате чего все будет организовано сетью научно-технических знаний, но никто не знает, каким будет постчеловечество. Большинство трансгуманистических видений будущего основано на предвидении некоей формы космического будущего, требующего отказа от идеи человека и человеческого существования в его нынешней форме. Например, трансгуманизм утверждает, что человечество находится на пороге быстрых эволюционных изменений в результате появления новых технологий.
Трансгуманисты отвергают естественные, природные ограничения: «Стремясь к постчеловечеству, мы выступаем за рациональное использование науки и технологий для устранения ограничений продолжительности жизни, интеллекта, личной жизненной свободы и опыта <... > Будущее принесет освобождение от Земли... и место обитания Космоса» [15]. В трансгуманистических представлениях самопроизводящиеся нанотехнологии и самосовершенствующийся машинный интеллект в процессе продолжающейся эволюции стирают грани между органическим и техническим, культурным и физическим. Главный акцент делается на ИИ, сверхразум как движую силу, имеющий трансцендентные способности. Курцвейл представил идею того, что «разум в конечном итоге наполнит всю Вселенную и решит всю судьбу космоса» [10, с. 263; 16, с. 258-260]. Согласно взглядам американского футуролога и других трансгуманистов, космос пришел к самосознанию через человечество. В конечном итоге люди достигнут такого уровня эволюционного развития, что превзойдут самих себя, создавая модусы сознания и технологии, которые сделают возможной космическую самореализацию.
Истоки представлений о космическом будущем восходят к философии русского космизма. В конце XIX века сторонники этой школы решали проблему смысла существования че-
ловечества во Вселенной. Основатель религиозного направления русского космизма Н.Ф. Федоров развил идею воскрешения мертвых, которая основывалась на соединении христианской веры во всеобщее воскресение и веры в науку. Важность освоения Космоса для жизни он связывал с идеей бессмертности. Ведь после воскрешения мертвых места на Земле всем не хватит. Федоров верил, что наука достигнет такого уровня развития, что сможет управлять атмосферными процессами.
В трансгуманистическом мировоззрении путь к совершенствованию человечества и преодолению бессмертия никак не связан с идей духовно-нравственного преображения. В отличие от современного трансгуманистского космизма, русский космизм отличал примат духовно-нравственных идей. Космическое назначение человека основывалось на его ответственности перед мирозданием.
Проблема сознания.
Метафизическая обремененность
В дискурсе ТС вопрос о сознании является одной из самых сложных проблем. Н. Бостром утверждает, что «.. .мы, в конечном итоге, достигнем точки, когда мозги, занимающиеся исследованием искусственного интеллекта, сами станут искусственным интеллектом. Вопрос в том, будем ли мы по-прежнему жить в человеческом мире, когда ИИ преобладает над нами?» [17]. Он говорит о полной трансформации сознания, когда человеческое сознание нельзя будет отличить от ИИ. Но возможна ли такая трансформация?
Бостром указывает на потенциальные опасности, «ведь постсингулярный мир еще предстоит открыть» [17]. Философ считает, что одним из возможных решений этой проблемы является программирование ИИ информацией о человеческих ценностях. Д. Чалмерс также поднимает вопрос о необходимости внедрять в ИИ ценности: «Потенциальные последствия интеллектуального взрыва заставляют нас серьезно задуматься о ценностях морали и о сознании личности» [18, с. 11].
Ответы на эти вопросы зависят от решения вопроса о том, что такое феномен человеческого
сознания и человеческое «Я». Является ли интеллект источником добродетелей? Ведь человек с высокоразвитым уровнем интеллекта может быть очень жестоким и безнравственным. Что является источником сознания? Несмотря на многочисленные научные исследования мозга, когнитивная наука не может понять природы человеческого сознания и человеческого «Я».
В философской мысли существует несколько концепций «Я» (И. Г. Фихте, Э. Гуссерль, М. Бубер, Ж.П. Сартр и др.). Основоположником «я-концепции» был И. Фихте. Он понимал человеческое самосознание как первичный метафизический факт, посредством анализа которого можно найти путь к космической тотальности, которая есть Абсолют. Сначала происходит осознание себя, а потом - процесс демаркации и отношения с другими.
Проблема «Я» существует только в сознании человека. «Я» является доминантой в антропологическом построении, разделяющей одушевленный и неодушевленный мир, человеческий и нечеловеческий мир. «Я» выполняет важную функцию в построении онтологической картины мира, демаркации мира на «я» и «другие». Сознание определяет способ человеческого бытия и является одной из важнейших основ развития личности. Феофан Затворник утверждал, что сознание - существенное свойство человека: «Это такое свойство, по коему человек, утверждая свое собственное бытие и бытие вещей вне себя, отличает их от себя, а себя от них, говорит себе - я, а не они, а о тех - они, а не я. Оно получает название самопознания, когда обращается внутрь, к себе исключительно» [19, с. 255]. Метафизическую природу сознания нельзя объяснить эмпирически. Сущность человека не в разуме, а в сознании, которое дано ему как метафизическая привилегия и обремененность. Метафизическая обремененность - это заложенная Богом задача духовного становления. У человека есть свобода и воля. Сознание дано для того, чтобы у него была совесть, чтобы отличать добро от зла, патологию от нормы. Сознание придает смысл происходящему, а значит оно критично по своей природе.
С точки зрения теоретиков ТС, для того чтобы сознание перестало отличать себя от ИИ, необходимо решить вопрос о метафизике личностной идентичности.
Метафизика личностной идентичности
Обсуждение теорий личностной идентичности стало одной из основных тем среди теоретиков ТС (Moore, Parft, Hughes, Kurzweil). Метафизика личностной идентичности в пространственном измерении сводится к вопросу: какую добродетель как неотъемлемое качество «Я» трансформирующийся человек должен сохранить и продолжить с течением времени. Курцвел спрашивает: «Так кто я? Поскольку я все время меняюсь, неужели я всего лишь образец? Что если кто-то копирует этот образец? Я оригинал или копия? Возможно я только материал, как упорядоченный, так и хаотичный набор молекул, из которых состоит мое тело и мозг» [10, с. 383]. Каким образом теоретики ТС решают проблему сознания и личности? Вот, что пишет Бостром: «Реконструкция мозга -это процесс передачи интеллекта от биологического мозга к компьютеру. Один из способов сделать это может состоять в том, чтобы сканировать синаптическую структуру мозга, а затем выполнить те же вычисления на электронном носителе <...> В загружаемом файле может быть виртуальное (смоделированное) тело, те же ощущения и те же возможности, что и не-моделированное тело <...> Загрузки не должны быть ограничены виртуальной реальностью и могут взаимодействовать с людьми извне и даже с роботами, чтобы работать и исследовать физическую реальность <...> Преимущества загрузки будут включать: неподверженность биологическому старению; возможность перезагрузки, если что-то случиться <...> Для сохранения личности не имеет большого значения, реализованы ли вы на кремниевом чипе внутри компьютера или в этом сером комке внутри вашего черепа» [20, с. 17-18].
Сознание не тождественно интеллекту. То, о чем пишет Бостром, никакого отношения к личности не имеет. Личность не является бестелесной. В традиционном представлении она тождествен-
на мыслящему человеку, у которого есть внутреннее чувство, делающее его способным мечтать и грезить. Мыслить может человек, машина вычисляет. Животное не мыслит, оно реагирует на окружающие раздражители. Человек - это субъективность, рождающая аффект, что не может сделать машина. Понятие личности прежде всего предполагает не биологическую, а ментальную и духовную сущность человека. Личность - это не только мысли, обусловленные практической необходимостью, это еще и внутренний мир, состоящий из иллюзий и воспоминаний.
Метафизический разрыв.
Метафизическая мутация сознания
Метафизический разрыв - это прежде всего разрыв между человеческой сущностью и существованием. Существование человека в современном мире определяется миром техносферы, где на его проблемы существуют технологические решения, которые принимаются зачастую вне контекста духовно-нравственных императивов. Следует отметить, что в современной западной философской мысли, а именно в рамках постфеноменологии (философское направление, появившиеся на Западе в 1990-х годах), элиминируется доминирующая роль человека по отношению к технике. Такой подход ведет к утверждению идеи того, что индивид настолько глубоко взаимодействует с техникой, что теряет свою субъективность. Но, как отмечалось выше, сущность человека не в технике и не в научно-техническом прогрессе, а в сознании, которое дано от Бога. В секулярном обществе вера в Бога заменяется рациональностью, верой в науку и технику. Запад уверенно пошел по пути рационализма и прогресса. Обмирщение веры на Западе, о котором в начале прошлого века заявил Ф. Ницше, положило начало метафизическому разрыву. Современный западный человек живет в отрыве от своей сущности. Теоретики трансгуманизма и постгуманизма активно постулируют идею преодоления дихотомии «человеческое и нечеловеческое», в т. ч. между человеческим «Я» и техникой. Эта идея нашла яркое выражение в «Манифесте Киборга» Д. Харауэй, которая в своем эссе предлагает посмотреть на реальность глазами бионического существа, представляющего
собой симбиоз человека и робота [21]. Киборг -это образ существа, в котором стираюся грани между человеческим сознанием и технической культурой. Киборги лишены сущности, поскольку они бесконечно трансформируемые конструкции. Один из главных постулатов - это преодоление метафизической дихотомии «природа и техника» в пользу технического, материального единства. У киборгов нет метафизики, это феномен природно-технического гибрида, способного технически проектировать реальность вне всякого контекста человеческого сознания.
Вера в Бога определяет смысл существования. Бог ограничивает нас от самих себя, от саморазрушения. Нет ничего бесконечного, в т. ч. и технократического прогресса. Все имеет свой смысл. Мы сегодня живем в мире, где много прогресса, много событий, но мало смысла. Пустота бессмыслия заполняется техническим. За нас решает ИИ, лишенный це-леполагания. Например, в современном мире киберфизические системы могут быть встроены в производственные процессы, а в виртуальной среде они способны отслеживать диги-тальное присутствие человека. Современные технологии ИИ создают реальные риски подчинения человеческой воли «умным» технологическим решениям, когда ИИ принимает решения, а индивид их выполняет. Мы добровольно передаем свои функции человеческого субъекта технологиям.
Современные технологии обладают способностью психо-эмоционального и ментального воздействия на человека, навязывая идеалы и ценности, часто не имеющие ничего общего с традиционными моральными ценностями. Технологический комфорт породил проблему духовной деградации и деформации многих духовно-нравственных ценностей, на которых традиционно строились человеческие отношения и понимание жизни. Разрушительный потенциал технологий немецкий философ Г. Йонас метафорически определил как этический тупик, как «освобожденный Прометей» [22, с. 185]. Он отмечал, что современность оказалась неспособ-
ной в должной мере решить вопрос о смысле жизни. Эта проблема имеет антропологические и онтологические корни, современная западная философия перепутала научную и методологическую абстракцию с реальностью.
Господство рационализма в секуляризированной Европе привело к утверждению сциентистского понимания человека. Научно-технический прогресс редуцировал человека к объекту, лишенному онтологической привилегии, данной от Бога. Разум не способен на веру, ибо ему нужны доказательства. Господство разума и рациональности привело к отказу от веры. Мировоззрение основано на вере, когда человек уверен в правильности своего миропонимания и адекватности своих действий и устремлений. Если разум способен менять критерии истины, сомневаться, то религиозное сознание лишено таких метаний, потому что существует вера в Бога, который есть истина. Что происходит, когда сознание человека редуцируется к интеллекту в техногенной среде? Тогда техника заменяет реальность, потому что сознание в технике не нуждается, а интеллекту она необходима, т. к. это его среда обитания. Благодаря сознанию мы живем во времени, понимая свою конечность. Бессмертие исключает сингулярность. Как утверждает Ж. Деррида: «Незаменимость дается, доставляется... смертью. В этом смысле смерть обуславливает мою незаменимость, мою сингулярность и мою ответственность. Только смертный может быть ответственным. Смертность представляет собой возможность сингулярности и ответственности...» [23, с. 41]. Для того, чтобы воспринимать реальность глазами киборга (как это предлагает Д. Харауэй), поверить в технологическое бессмертие и постсингулярный мир, необходимо отключить сознание или привести его в состояние метафизической мутации, когда происходит обезличивание.
Выводы
Любые предположения относительно возможности и особенно последствий ТС являются спекулятивными. Научная фантастика дискурсивно опирается на «реальный мир» и научные понятия, которые сами иногда ее
цитируют, чтобы лучше проиллюстрировать свои домыслы. Как сказал бы Ж. Бодрияйр, научная фантастика и собственно сама наука являются «симулякрами третьего порядка» и, следовательно, больше неразличимы [24, с. 26-27].
Трансгуманисты имеют тенденцию рассматривать сингулярность как гипотетическое событие, как онтологический феномен и вне антропологического контекста. Ошибка трансгуманистов, постулирующих идею неизбежности ТС и постсингулярного мира в том, что они претендуют на обладание онтологией жизни, поверив, что человечество может существовать без Бога.
Физик-теоретик Басараб Николеску (Париж) считает, что «экспоненциальное поведение не означает сингулярность с математической точки зрения. Технологическая сингулярность используется как метафора, идейная основа того, что называется трансгуманизмом» [25, с. 45]. Технологический мир, где господствует нечеловеческий разум означает нейтральное общество, лишенное гендерных, социальных и биологических границ. Почему человечество поднимает вопрос о рекурсивном самовоспроизводстве машинного интеллекта? Означает ли это, что индивид настолько стал зависим от технологий, что «добровольно» отдает свои функции субъекта технологии, превращая ее из объекта в феномен «человек-техника»? Если понимать технику как посредника в отношениях человека с окружающим миром, то в рамках такой интерпретации зазор между человеческим и нечеловеческим будет заполняться ИИ, принимающим на себя роль субъекта. Бесконтрольно ускоряющийся технический прогресс ведет не к господству машинного интеллекта как сверхразума, а к тотальному экзистенциальному обессмысливанию и антропологической катастрофе.
Человеческое сознание придает смысл происходящему. Для того, чтобы понимать его, необходимо критически мыслить. Когда сознание человека перестанет критически воспринимать происходящее, тогда зазор между
человеческим и нечеловеческим окончательно заполнится симулятивной культурой. ИИ, который является субъектом в виртуальной реальности, влияет на мировосприятие, превращая все в симуляцию. Такое мировоззрение ведет к тому, что все воспринимается как сплошная
Список литературы
культура. Это обман, являющийся следствием метафизической мутации сознания. Он создал культурный мем - информацию, которая как трансгрессивная сила стремится к репликации и распространению, вступает в борьбу с реальностью за обладание человеческим сознанием.
1. Ulam S. John von Neumann 1903-1957 // Bull. Am. Math. Soc. 1958. Vol. 64, № 3, pt. 2. Р. 1-49.
2. Good I.J. Speculation Concerning the First Ultraintelligent Machine // Adv. Comput. 1966. Vol. 6. P. 31-88.
3. Vinge V. First Word // Omni. 1983. Vol. 5, № 4. P. 10-16.
4. Vinge V. The Coming Technological Singularity: How to Survive in the Post-Human Era // Vision 21: Interdisciplinary Science and Engineering in the Era of Cyberspace. NASA Lewis Research Center, 1993. Р. 11-22.
5. Moore G.E. Cramming More Components onto Integrated Circuits // Electronics. 1965. Vol. 38, № 8. P. 114-117.
6. Moravec H. Mind Children: The Future of Robot and Human Intelligence. Cambridge: Harvard University Press, 1988. 214 p.
7. Disco C., van der Meulen B. Getting New Technologies Together: Studies in Making Sociotechnical Order. N.Y.: Walter de Gruyter, 1998. 373 p.
8. Wu J., Shen Y.-L., ReinhardtK., Szu H., DongB. A Nanotechnology Enhancement to Moore's Law // Appl. Comput. Intell. Soft Comput. 2013. Art. № 426962. DOI: 10.1155/2013/426962
9. LovejoyA.O. The Great Chain of Being: A Study of the History of an Idea. Cambridge: Harvard University Press, 2005. 408 p.
10. Kurzweil R. The Singularity Is Near: When Humans Transcend Biology. N.Y.: Viking, 2005. 652 p.
11. Dinerstein J. Technology and Its Discontents: On the Verge of the Posthuman // Am. Q. 2006. Vol. 58, № 3. P. 569-595.
12. Drexler K.E. Engines of Creation. Garden City: Doubleday, 1986. 298 p.
13. Milburn C. Nanovision: Engineering the Future. Durham: Duke University Press, 2008. 292 p.
14. Lanier J. Jason Lanier on Staying Human. 2010. URL: http://www.zocalopublicsquare.org/2010/01/26/you-are-not-a-gadget-by-jaron-lanier/books/readings (дата обращения: 09.05.2022).
15. More T. The Extropian Principles 2.5. July 1993. URL: https://www.aleph.se/Trans/Cultural/Philosophy/princip. html (дата обращения: 09.05.2022).
16. KurzweilR. The Age of Spiritual Machines: When Computers Exceed Human Intelligence. N.Y.: Viking, 1999. 400 p.
17. Bostrom N. On Superintelligence and the Future of AI. 3 December 2019. URL: https://www.freethink.com/ series/uprising/future-of-ai-superintelligence (дата обращения: 09.05.2022).
18. Chalmers D.J. The Singularity: A Philosophical Analysis // J. Conscious. Stud. 2010. № 17. P. 7-65.
19. Феофан Затворник. Начертание христианского нравоучения. М., 2010. 689 с.
20. Bostrom N. The Transhumanist FAQ. A General Introduction. Version 2.1. Oxford: World Transhumanist Association, 2003. 56 p.
21. Haraway D. A Manifesto for Cyborgs: Science, Technology, and Socialist Feminism in the 1980s // Soc. Rev. 1985. Vol. 5, № 2. P. 65-107.
22. Jonas H. The Imperative of Responsibility: In Search of an Ethics for the Technological Age. Chicago: University of Chicago Press, 1985. 263 p.
23. Derrida J. The Gift of Death. Chicago: University of Chicago Press, 1995. 115 p.
24. Baudrillard J. Simulacra and Simulation. Ann Arbor: University of Michigan Press, 1994. 164 p.
25. Nicolescu B. Technological Singularity - The Dark Side // Transdiscipl. J. Eng. Sci. 2016. Vol. 7. P. 43-48. DOI: 10.22545/2016/00076
References
1. Ulam S. John von Neumann 1903-1957. Bull. Am. Math. Soc., 1958, vol. 64, no. 3, pt. 2, pp. 1-49.
2. Good I.J. Speculation Concerning the First Ultraintelligent Machine. Adv. Comput., 1966, vol. 6, pp. 31-88.
3. Vinge V First Word. Omni, 1983, vol. 5, no. 4, pp. 10-16.
4. Vinge V The Coming Technological Singularity: How to Survive in the Post-Human Era. Vision 21: Interdisciplinary Science and Engineering in the Era of Cyberspace. NASA Lewis Research Center, 1993, pp. 11-22.
5. Moore G.E. Cramming More Components onto Integrated Circuits. Electronics, 1965, vol. 38, no. 8, pp. 114-117.
6. Moravec H. Mind Children: The Future of Robot and Human Intelligence. Cambridge, 1988. 214 p.
7. Disco C., van der Meulen B. Getting New Technologies Together: Studies in Making Sociotechnical Order. New York, 1998. 373 p.
8. Wu J., Shen Y.-L., Reinhardt K., Szu H., Dong B. A Nanotechnology Enhancement to Moore's Law. Appl. Comput. Intell. Soft Comput., 2013, vol. 2013. Art. no. 426962. DOI: 10.1155/2013/426962
9. Lovejoy A.O. The Great Chain of Being: A Study of the History of an Idea. Cambridge, 2005. 408 p.
10. Kurzweil R. The Singularity Is Near: When Humans Transcend Biology. New York, 2005. 652 p.
11. Dinerstein J. Technology and Its Discontents: On the Verge of the Posthuman. Am. Q., 2006, vol. 58, no. 3, pp. 569-595.
12. Drexler K.E. Engines of Creation. Garden City, 1986. 298 p.
13. Milburn C. Nanovision: Engineering the Future. Durham, 2008. 292 p.
14. Lanier J. Jason Lanier on Staying Human. 26 January 2010. Available at: https://www.zocalopublicsquare. org/2010/01/26/you-are-not-a-gadget-by-jaron-lanier/books/readings/ (accessed: 9 May 2022).
15. More T. The Extropian Principles 2.5. July 1993. Available at: https://www.aleph.se/Trans/Cultural/Philosophy/ princip.html (accessed: 9 May 2022).
16. Kurzweil R. The Age of Spiritual Machines: When Computers Exceed Human Intelligence. New York, 1999. 400 p.
17. Bostrom N. On Superintelligence and the Future of AI. 3 December 2019. Available at: https://www.freethink. com/series/uprising/future-of-ai-superintelligence (accessed: 9 May 2022).
18. Chalmers D.J. The Singularity: A Philosophical Analysis. J. Conscious. Stud, 2010, no. 17, pp. 7-65.
19. Theophan the Recluse. Nachertanie khristianskogo nravoucheniya [An Outline of Christian Morality]. Moscow, 2010. 689 p.
20. Bostrom N. The Transhumanist FAQ. A General Introduction. Version 2.1. Oxford, 2003. 56 p.
21. Haraway D. A Manifesto for Cyborgs: Science, Technology, and Socialist Feminism in the 1980s. Soc. Rev, 1985, vol. 5, no. 2, pp. 65-107.
22. Jonas H. The Imperative of Responsibility: In Search of an Ethics for the Technological Age. Chicago, 1985. 263 p.
23. Derrida J. The Gift of Death. Chicago, 1995. 115 p.
24. Baudrillard J. Simulacra and Simulation. Ann Arbor, 1994. 164 p.
25. Nicolescu B. Technological Singularity - The Dark Side. Transdiscipl. J. Eng. Sci., 2016, vol. 7, pp. 43-48. DOI: 10.22545/2016/00076
DOI: 10.37482/2687-1505-V247
Ellen Martin
University of London;
Senate House, Malet St, London, WC1E 7HU, United Kingdom;
ORCID: https://orcid.org/0000-0001-9489-9931 e-mail: [email protected]
METAPHYSICAL GAP: A CRITICAL ANALYSIS OF THE IDEA OF A TECHNOLOGICAL SINGULARITY
The next stage in the development of human history is often described by futurists and the proponents of transhumanism as a global technological singularity. The main objective of this paper is
to show that the idea of the possibility of a technological singularity is a result of the total dependence of mankind on technology, which caused the metaphysical mutation of consciousness. The article examines the concept of technological singularity, according to which the exponential growth of artificial intelligence and nanotechnologies will usher in a moment of irreversible change for humanity. The paper presents a brief comparative analysis of Russian cosmism and transhumanist cosmic visions. The author investigates transhumanists' views on the metaphysics of personality, consciousness and singularity as well as demonstrates the incoherence of the attempt to reduce the notion of personality to intelligence only. It is argued here that the belief in the possibility of a technological singularity and a postsingular world is largely a result of humankind's total dependence on technology that challenges to transform all aspects of human life. In the face of a growing dependence of mankind on technology, the gap between a human being and technology is being filled by artificial intelligence, which takes on the role of the subject. The idea of an explosion of superintelligence is a consequence of the ongoing global transformation in all spheres of life, when the lines between the real and the virtual worlds are blurred. The author links the emergence of the idea of a technological singularity with a metaphysical break, i.e. a gap between human consciousness as a human essence and existence in the world of the technosphere, where a human being transfers his/her role as a subject to technology. The uncontrollably accelerating technological progress leads not to the dominance of the machine supermind, but to existential meaninglessness and anthropological catastrophe.
Keywords: artificial intelligence, problem of consciousness, technological singularity, technological progress, transhumanism, transhumanist cosmic visions.
Поступила 19.09.2022 Received 19 September 2022
Принята 05.04.2023 Accepted 5 April 2023
Опубликована 20.04.2023 Published 20 April 2023
For citation: Martin E. Metaphysical Gap: A Critical Analysis of the Idea of a Technological Singularity. Vestnik Severnogo (Arkticheskogo) federal'nogo universiteta. Ser.: Gumanitarnye i sotsial'nye nauki, 2023, vol. 23, no. 2, pp. 112-122. DOI: 10.37482/2687-1505-V247
