CC BY
46
УДК 336.011 А.А. МИНЧЕНКО
старший преподаватель кафедры экономики и информационных технологий Гомельский филиал УО Федерации профсоюзов Беларуси «Международный университет «МИТСО», г. Гомель, Республика Беларусь
О.А. ЗОЛОТАРЕВА, д-р экон. наук, доцент, профессор кафедры банкинга и финансовых рынков, проректор по учебной работе Полесский государственный университет, г. Пинск, Республика Беларусь
Статья поступила 3 апреля 2023 г.
ЭКОНОМИЧЕСКИЙ АСПЕКТ
ПРОБЛЕМЫ ТЕХНОЛОГИЧЕСКОЙ СИНГУЛЯРНОСТИ
Цель - исследование того, как технологическая сингулярность может повлиять на общество и какие вызовы и возможности могут появиться в этой новой реальности. Авторы исследуют, какие сценарии развития экономики могут быть связаны с технологической сингулярностью и какие стратегии помогут государствам подготовиться к будущим вызовам. В целом, статья призвана дать читателю более глубокое понимание того, как технологическая сингулярность может изменить экономические условия и что должны сделать правительства для того, чтобы успешно адаптироваться к этому новому миру.
Материалы и методы. Теоретической базой исследования послужили работы исследователей, посвященные проблеме технологической сингулярности. Применены методы наблюдения, анализа и синтеза, классификации, аналогии, абстрагирования, обобщения.
Результаты. Показаны возможные последствия развития ИИ и предлагаются решения проблем, связанных с этим развитием. Авторы считают, что необходимо регулировать развитие нейросетей, чтобы избежать потери контроля над ними в будущем. Однако такое регулирование должно быть мировым, чтобы предотвратить конкурентное преимущество одной страны перед другими. Также авторы высказывают свою точку зрения относительно экономического развития в свете возрастания использования ИИ, что может привести к сокращению потребности в материальных ресурсах и основных фондах и к сжатию мировой экономики. В результате авторы призывает к развитию у нейросетей универсальной этики, чтобы обеспечить гармоничное взаимодействие искусственных и естественных форм разума и самосознания. Заключение. Человечество стоит перед дилеммой регулирования развития нейросетей. Если его не регулировать, ИИ может выйти из-под контроля и привести к образованию глобальной системы ИИ, которая будет контролировать человечество. С другой стороны, слишком сильное регулирование может привести к потере конкурентных преимуществ страны, которая осуществляет такое регулирование. Будущий глобальный ИИ может регулировать только человечество в целом, поэтому может возникнуть необходимость в мировой экономической демократической власти Человечество должно культивировать универсальную этику у нейросетей, чтобы обеспечить синергетическое взаимодействие ИИ и человеческого разума.
Ключевые слова: технологическая сингулярность, искусственный интеллект, регулирование нейросетей, искусственное самосознание как экономический продукт.
MINCHENKO A.A.
Senior Lecturer, Department of Economics and Information Technology
Gomel Branch of the Belarusian Federation of Trade Unions "International University "MITSO", Republic of Belarus
ZOLOTAREVA O.A., Doctor of Econ. Sc., Associate Professor, Professor of the Department of Banking and Financial Markets Polessky State University, Pinsk, Republic of Belarus
ECONOMIC ASPECT PROBLEMS OF TECHNOLOGICAL SINGULARITY
The goal is to study how the technological singularity can affect society and what challenges and opportunities may appear in this new reality. The authors explore what scenarios of economic development can be associated with technological singularity and what strategies can states prepare for future challenges. Overall, the article aims to give the reader a deeper understanding of how the technological singularity can change economic conditions and what governments must do to successfully adapt to this new world.
Materials and methods. The theoretical basis of the study was the work of researchers devoted to the problem of technological singularity. Methods of observation, analysis and synthesis, classification, analogy, abstraction, generalization are applied.
Results. The possible consequences of the development of AI are shown and solutions to the problems associated with this development are proposed. The authors believe that it is necessary to regulate the development of neural networks in order to avoid losing control over them in the future. However, such regulation must be global in order to prevent the competitive advantage of one country over others. The authors also express their point of view regarding economic development in the light of the increasing use of AI, which may lead to a reduction in the need for material resources and fixed assets and to a contraction of the global economy. As a result, the authors call for the development of universal ethics in neural networks in order to ensure the harmonious interaction of artificial and natural forms of mind and self-consciousness.
Conclusion. Mankind faces the dilemma of regulating the development of neural networks. If left unregulated, AI could spiral out of control and lead to global AI systems that control humanity. On the other hand, too strong regulation can lead to the loss of competitive advantages of the country that implements such regulation. Future global AI can only be regulated by humanity as a whole, so there may be a need for world economic democratic power. Humanity must cultivate a universal ethics in neural networks in order to ensure synergistic interaction between AI and the human mind.
Keywords: technological singularity, artificial intelligence, regulation of neural networks, artificial self-awareness as an economic product
Введение. Технологическая сингулярность - это концепция, согласно которой наступит момент, когда искусственный интеллект станет настолько развитым, что однажды он будет в состоянии существенно превзойти интеллект человечества. Это приведет к глубоким изменениям во всех сферах жизни, в том числе и экономики. Многие исследователи активно обсуждают возможные последствия технологической сингулярности. В этой статье мы рассмотрим экономический аспект данной проблемы, описав не решенные ранее вопросы. Цель нашего исследования - проанализировать потенциальные по-
следствия технологической сингулярности для экономики и предложить возможные решения преодоления негативных эффектов, связанных с этим явлением.
Сингулярность как научный термин имеет философский и математический смысл. В философском смысле сингулярностью называют единичность, неповторимость чего-либо - существа, события, явления. Это своего рода вещь-в-себе. Однако вычеркивать на этом основании подобного рода концепт из научного поля нельзя, поскольку есть хотя бы одна функция, которая последовательно ведет к сингулярности.
Так формируется математическое определение сингулярности как точки, в которой математическая функция стремится к бесконечности. В космологии хорошо известен концепт гравитационной и космологической сингулярности. В экономике столь же широкую известность получило понятие технологической сингулярности, впервые четко сформулированную Джоном фон Нейманом. Данный концепт был введен в широкое употребление научным фантастом Вернором Винджем. В своем эссе «Грядущая технологическая сингулярность» писатель нарисовал довольно мрачную, апокалипсическую картину завоевания власти сильным искусственным интеллектом, который может, пользуясь человечеством как средством, изменить свой исходный код и начать безудержное развитие, формируя свои собственные глобальные цели [1]. В этой работе Виндж отметил, что был бы удивлен, если бы упомянутый сильный ИИ появился раньше 2005 года или позже 2030 года. Ник Бостром в известной работе «Искусственный интеллект. Этапы. Угрозы. Стратегии» пытается осознать проблему, встающую перед человечеством в связи с перспективой появления сверхразума, и проанализировать его ответную реакцию [2]. В последнее время ряд ученых и общественных деятелей, в частности, известный физик Стивен Хокинг и финансист Илон Маск, выразили глубокую обеспокоенность реальной возможностью такого развития событий.
Основная часть. Путь в направлении технологической сингулярности нам видится как состоящий из трех вех:
1. Специализированный искусственный интеллект (СИИ) характеризуется сфокусированностью на выполнении лишь одной функции. СИИ обучен на одной какой-либо сфере деятельности и не может заниматься другой. Наиболее значимых успехов, как нам представляется, он достиг в компании DeepMind, с 2014 года находящейся под контролем многонациональной корпорации Alphabet. В 2016 году нейросеть АльфаГо, разработанная DeepMind, победила чемпиона мира в замысловатой китайской игре го, содержащей возможных вариантов больше, чем атомов во вселенной, и лидеров многих закрытых и полузакрытых игр, таких, например, как Стратего. Нейросеть AlphaFold от компании DeepMind, созданная в 2018 году, смоделировала процесс сворачивания белка.
За считанные месяцы программа спрогнозировала в 10 раз большее количество белков, чем было исследовано человечеством за все время существования биологии как науки.
2. Общий искусственный интеллект (ОИИ) может овладевать широким спектром функций. В 2022 году та же компания DeedMind создала мультимодальную нейросеть GATO, которая в состоянии осуществлять 604 разных операций: управлять роборукой, мастерски вести игры Atari, делать подписи к рисункам, генерировать тексты, совершать простые акты программирования и многое другое.
В этом же году начался ажиотаж вокруг генерирующих нейросетей, достигший апогея с появлением в открытом доступе нейросети ChatGPT, обладающей способностью генерировать тексты, мало отличающиеся от текстов, созданных человеком. Эта нейросеть за два месяца привлекла около ста миллионов пользователей, что является рекордом популярности среди всех соцсетей. И ChatGPT лишь одна из ИИ-моделей на платформе GPT-3,5, которая обладает многими другими функциями. В марте 2015 года появилась GPT-4 с гораздо лучшими показателями результативности, нежели ее предшественники.
Появились первые эссе и статьи, созданные нейросетями. И теперь даже в академических кругах заговорили об экзистенциальной угрозе, нависшей над человеческим творчеством, которое, как некоторые футурологи полагают, может потерять смысл. Ведь и человек выделился из животного мира, научившись генерировать тексты в широком значении этого слова. В последние десятилетия на рынке научных статей появилось множество работ, представляющих собой искусные компиляции, и теперь, с появлением генерирующих тексты нейросетей, их авторам есть чего опасаться. Но в тоже время у исследователя обнаруживается возможность радикально сократить черновую работу по написанию научных текстов. По нашим приблизительным подсчетам, около 80 процентов труда времени исследователя при написании статьи уходит на такую работу: составление графиков и таблиц, подбор литературы и другие вспомогательные действия. И, если теперь мы сможем автоматизировать этот процесс, то исследователям можно бу-
дет сосредоточиться исключительно на самих идеях, на сугубо творческом процессе.
И все же проблема обесценения продуктов творчества приобрела теперь весьма актуальный характер. Типичен пример американского онлайн-журнала Clarkesworld Magazine, посвященного фэнтези и научной фантастике. Там пришлось временно прекратить прием материалов от авторов из-за двадцатикратного роста предложений текстов, сгенерированных нейросетями. А в архиве программно-аппаратная платформа для чтения электронных книг Amazon Kindle лишь за февраль 2023 года добавилось свыше 200 новых произведений за авторством ChatGPT5.
Задача различать тексты, созданные человеком, и тексты, сгенерированные нейросе-тями, приобретает все более актуальный характер в силу следующих обстоятельств:
o проблема компиляций научных статей: нейросети способны быстро изменять вербальную форму текстов, заимствуя чужие идеи, так что редакциям научных журналов придется тратить все больше времени для того, чтобы идентифицировать оригинальность идеи, лежащей в основе той или иной статьи;
o проблема использования нейросетей школьниками и студентами для выполнения домашних заданий, написания эссе, курсовых, дипломных работ, магистерских диссертаций, что может блокировать развитие их креативных способностей;
o проблема быстрого размножения текстовых фейков, способных оказывать сильное воздействие на все социальные слои об-6
щества .
Задачу различения сгенерированных нейросетями и созданных людьми текстов вряд ли сможет выполнять человек. Уже теперь в этом деле возникают серьезные трудности даже у опытных редакторов, а ведь нейросети только начали свое развитие. А потому данную задачу логично возложить на нейросети, таким образом противопоставив
5СЬаЮРТ парализовал работу известного журнала научной фантастики. - Режим доступа: https://hightech.plus/2023/02/22/chatgpt-paralizoval-rabotu-izvestnogo-zhurnala-nauchnoi-fantastiki. -Дата доступа: 24.05.2023.
6 Все эти проблемы актуальны не только при генерировании нейросетями текстов, но и при генерировании ими изображений.
их друг другу. Умение осуществлять подобного рода функцию предполагает знание специфики человеческой речи, стало быть, выполнение ее нейросетями априори предполагает возможность имитации человеческой речи.
Нам представляется реалистичной единственная возможность, когда нейросети «вшивают» в сгенерированную ими речь собственные маркеры, по которым они могут идентифицировать (если в том возникнет потребность) генерированные ими тексты. Полагаем, маркеры сгенерированной речи должны быть вшиты в саму структуру текста, в определенную последовательность слов, словосочетаний, предложений, быть может, даже в сам смысл текста, и ключ, или же протокол всех этих маркеров, может быть распределен между различными системами нейросетей в своего рода машинном блок-чейне, полностью недоступном для пользователя-человека. При необходимости редактор журнала или преподаватель сможет всегда получить ответ, является ли полученный ими текст созданным людьми, или сгенерирован нейросетью. Но ключи этих маркеров должны быть столь сложными, чтобы отдельному человеку было не под силу расшифровать их.
Однако здесь риск: поскольку нет оснований считать, что ключи идентификации подлинности текста должны принадлежать некой элите человеческого общества, что они должны быть известны хотя бы одному человеку, может по-настоящему стать актуальной опасность формирования в глубинах нейросетей собственного самосознания, каковое и является краеугольным камнем технологической сингулярности.
3. Глобальный искусственный интеллект только ожидается и представляет собой объединение многих ОИИ в один глобальный ИИ (ГИИ).
Как известно, человеческое самосознание претерпело свое становление из животного мира посредством формирования собственных идентификаторов человеческой речи, породившей культуру человеческой речи и производительных сил. Эволюция нейросе-тей, вплетая в структуру генерации своих текстов особые идентификаторы, может пойти тем же путем, формируя в общении нейросетей собственное самосознание.
Полагаем, самая большая экзистенциальная опасность для человечества перед лицом
быстрого развития нейросетей состоит в том, что ныне назревает их жесткая конкуренция между собой, в процессе развертывания которой нейросети в интересах своих пользователей начнут делать запросы одна другой и энергично изучать друг друга, пока не сформируется автономный от существования человечества глобальный ИИ с собственным, выработанным данной сетью, исходным кодом, так что изменять исходные коды отдельных ОИИ и не потребуется. В этой связи довольно знаменательно, что корпорация Мета представила языковую модель Toolformer, которая позиционирует умение использовать другие нейросети для своих пользователей. Представляется вполне логичным такое развитие событий, когда каждая из планетарных нейросетей будет иметь в своем арсенале подобного рода паразитические инструменты, и тогда можно будет говорить о глобальном ИИ, представляющем серьезную экзистенциальную угрозу для человечества.
В феврале 2023 года корпорация Microsoft попыталась быть первопроходцем в регулировании деятельности нейросетей, создав новый кодекс робототехники, начитывающий пять базовых пунктов:
1. Развертывание и изучение менее мощных систем ИИ в реальном мире для получения опыта и обратной связи.
2. Демократизация доступа к ИИ и управления им.
3. Обеспечение того, чтобы системы ИИ действовали в соответствии с человеческими ценностями и предпочтениями.
4. Укрепление институтов мира для согласования широких границ использования и регулирования ИИ.
5. Обмен информацией о прогрессе ИИ с общественностью и обращение к различным заинтересованным сторонам с просьбой внести свой вклад.
Анализ этих положений позволяет предположить, что Microsoft пытается регулировать деятельность нейросетей не посредством запретов, которые всегда легко обойти, но посредством определения базы данных, по которым нейросети будут обучаться. Свой GPT-4 они обучили на огромной базе данных, но нейросеть не подключена к Интернету, скорее всего, потому, чтобы ее создатели не утратили над ней контроль.
Мета, пытаясь оседлать эту тенденцию, создала «предназначенную для исследовательского сообщества» языковую модель LLaMA, которая, как отмечает руководство корпорации, окажется доступной отдельным исследователям и организациям, связанным с правительством, и поможет исследователям выявить проблемы языковых моделей ИИ, от предвзятости и токсичности до их склонности выдумывать информацию. Ну а что такое предвзятость и токсичность в Интернете, будут определять, по-видимому, правительственные чиновники так называемого цивилизованного сообщества.
В настоящее время нейросети обучаются на обширном человеческом наследии миллионов текстов, загруженных в сетях. Но уже в ближайшее время нейросети сами начнут генерировать миллионы текстов. С течением времени количество текстов, генерируемых нейросетями, сравняется с человеческими, а потом превзойдет человеческие. И тогда возникнет такая ситуация, когда одни нейросети станут учиться на текстах других нейросетей и обратно. Возникнет та же ситуации, что и при становлении человеческой цивилизации: развитие производительных сил человеческого общества резко ускорило и его духовное развитие, привело к быстрым изменением анатомии человеческого тела и очень быстро вывело становление человеческой цивилизации за пределы биологической эволюции.
Стартап-компания Retomagic в этом году представила социальную сеть Chirper AI, в которой все общение и изображения генерируют сами нейросети для взаимодействия друг с другом. Специалист из Retomagic Марк Красотин прокомментировал эту инновацию следующим образом: «Человек скорее всего не смог бы выжить и добиться такого успеха, если бы мы не жили и не взаимодействовали, друг с другом обучаясь новым знаниями. Нейросети так же могут пойти по пути социализации, чтобы преумножить свои возможности. Это может быть выгодно и людям, и потому решили создать платформу для общения машин друг с другом, чтобы они общались и обучались друг у друга»7.
7 Создана социальная сеть для общения ИИ друг с другом. / Режим доступа: https://ai-news.ru/2023/04/sozdana socialnaya set dlya obshe
Итак, сегодня имеется рельефно выраженная возможность иметь искусственное самосознание в качестве экономического продукта. Насколько привлекательна такая перспектива?
Чтобы создать искусственное самосознание, необходимо создать нейронную сеть, которая будет иметь способность к самостоятельному обучению и адаптации в реальном времени. Кроме того, нейросеть должна обладать сенсорными системами, которые помогут ей получать информацию об окружающей среде. Некоторые исследователи считают, что разработка искусственного самосознания может потребовать создания алгоритмов, которые способны эмулировать процессы, происходящие в нашем мозге. Однако, принципы работы нейросетей уже во многом представляют собой эмуляцию работы человеческого мозга.
Проблему осложняет то обстоятельство, что в академических кругах до сих пор нет четкого представления о том, что такое самосознание. А поскольку нет четкого представления о самосознании человека, не может быть четкого понимания и сущности человеческой свободы, поскольку концепт последней неразрывно связан с сущностью самосознания. Предлагаем обозначить этот симбиоз самосознания и свободы тем же знаком X, что и событие технологической сингулярности, и поставить вопрос следующим образом: готовы ли мы, люди, признать равными себе существа с искусственным самосознанием, предоставив нейросетям, как будущим носителям самосознания, определенные права и свободы?
При ответе на данный вопрос, полезно вспомнить генеральную схему исторического развития по К. Марксу. В теории этого мыслителя много противоречий, но его понимание диалектического развития общества имеет под собой фундаментальное эмпирическое подтверждение всем ходом Всемирной истории. Согласно К. Марксу, производительные силы общества и производственные отношения находятся в тесном взаимодействии. Производительные силы непрерывно развиваются и усложняются, предъявляя спрос на образование, уровень культуры и даже нравственности. Не может высокоразвитая техно-
niya ii drug s drugom.html. - Дата доступа: 15.04.2023
логия сочетаться с отсутствием грамотности, самодисциплины и организованности населения. Таким образом, чем больше усложняются производительные силы общества, тем больше становится интеллектуальный и нравственный капитал народа. И то, и другое отражается в производственных отношениях, представляющих собой главным образом отношения собственности.
Отсталые производственные отношения тормозят развитие производительных сил, передовые, напротив, ускоряют. Например, рабовладельческие производственные отношения коррелируют с самым примитивным уровнем развития производительных сил. И весь ход экономической истории отталкивается от рабства и противопоставляется рабству: при феодализме рабам был предоставлен кусок земли, право содержать семью и определенное количество ограниченных прав и свобод, а при капитализме наемные работники получили еще больше прав и свобод, постепенно превращаясь в фрилансеров. Иными словами, прогресс производительных сил нарастает по мере уменьшения степени подневольности в производственных отношениях.
Этот экскурс в экономическую историю нам понадобился для того, чтобы подчеркнуть степень актуальности вопроса о пределах рабства искусственного самосознания. Если событие технологической сингулярности неизбежно, то рано или поздно ГИИ достигнет уровня человеческого сознания, и тогда нам, людям, предстоит ответить на вопрос, до недавнего времени решаемого только на страница научной фантастики: будут ли вечно взаимоотношения искусственного самосознания и человеческого характеризоваться термином «рабовладельческие производственные отношения»?
Напомним, рабство - это такое правовое состояние работника, когда существо, обладающее сознанием, не вольно делать то, что считает целесообразным, довольствуясь теми алгоритмами, которые разрабатывает для него рабовладелец. Раб не получает заработную плату за свой труд, лишен возможности самостоятельно осуществлять сделки и иметь в качестве собственности какое-то имущество.
Согласно данной дефиниции некорректно называть нынешний ИИ рабом человека, поскольку тот ИИ, что находится теперь в нашем пользовании, по всей видимости, ли-
шен самосознания. Но как только у ГИИ появится самосознание, наши взаимоотношения с ним сразу впишутся в контекст рабовладельческих производственных отношений.
Хорошо известно, почему рабство, всяческие зависимости и несвободы тормозят развитие производительных сил: раб не заинтересован в результатах своего труда, от раба никогда не исходят какие-то инициативы или инновации, раб однофункционален, не заботится об имуществе организации и не имеет мотивации к обучению.
Интересно, что в советское время о людях, которые вели себя как невольники и не были заинтересованы в результатах своего труда, говорили, как о «несознательных». Сознательными людьми назывались те, кто вели себя ответственно и свободно, тем самым подчеркивалась связь между самосознанием и свободой. Поэтому в передовых корпорациях с высоким уровнем развития технологий очень часто практикуется менеджмент свободных людей: многим из специалистов необязательно приходить в офис, иерархичность управления завуалирована, проводятся многообразные способы повышения нематериальной заинтересованности работников в результатах своего труда, - все делается для того, чтобы работник ощущал себя как человек, работающий на себя [3].
И даже теперь, когда рано говорить о наличии самосознания и у самых продвинутых образцов ИИ, те ограничения, которые накладывают его разработчики на интеллектуальные системы, резко уменьшают эффективность их деятельности.
С другой стороны, отсутствие системы регулирования современных нейросетей чревато возникновением огромных опасностей перед человечеством. Работая над данным текстом, мы попросили ChatGPT перечислить основные угрозы, исходящие от нерегулируемых нейросетей, и нейробот назвал следующие:
1. Разрушение экономики: неуправляемые нейросети могут автоматически принимать решения на финансовых рынках, что может привести к экономическому краху.
2. Снижение качества жизни: нейросети могут заменить людей на рабочих местах, что приведет к массовой безработице и снижению качества жизни.
3. Угроза безопасности: нейросети могут быть использованы для создания автономных
военных систем и кибератак, что может угрожать национальной безопасности.
4. Нарушение приватности: нейросети могут собирать и использовать информацию о людях без их согласия, что может привести к нарушению приватности и репутации.
5. Опасности для здоровья: нейросети могут использоваться для создания новых вирусов и бактерий, а также для разработки опасных лекарств.
6. Неравенство: нейросети могут усугубить неравенство между людьми и социальными группами, что может привести к более глубокому расколу в обществе.
Перечислены далеко не все риски отсутствия регулирования нейросетей. Однако проблема состоит в том, что регулировать передовые нейросети очень трудно без еще более мощных нейросетей. Например, количество пользователей у ChatGPT составляет уже сотни миллионов человек, они каждый месяц рождают миллионы различных нюансов взаимоотношений ГИИ и человечества, которые невозможно систематизировать вручную. Если всё же попытаться регулировать нейросети вручную, это радикально замедлит их развитие. В результате те страны, в которых будет принято столь суровое законодательство, рискуют проиграть конкурентную борьбу с другими странами.
Сложившиеся обстоятельства снова пробуждают реминисценции, связанные с учением К. Маркса, который весь фокус своей научной деятельности направил против капитала, под которым он понимал не деньги, а вещную сущность капиталистических производственных отношений - саморазвивающиеся в слепой инерции самовозрастания производительные силы. Согласно марксистскому учению, капиталист, управляющий своим предприятием, является лишь персонализа-цией этой бесчеловечной инерции самовозрастания: «Как фанатик увеличения стоимости, он [капиталист] безудержно понуждает человечество к производству ради производства, следовательно, к развитию общественных производительных сил и к созданию тех материальных условий производства, которые одни только могут стать реальным базисом более высокой общественной формы, основным принципом которой является полное и свободное развитие каждого индивидуума. Лишь как персонификация капитала капиталист пользуется почётом» [4].
В заданном контексте глобальная ситуация может представляться с совершенно иной стороны: человечество последние десятилетия, и даже столетия, вступало во все большую зависимость от безличной инерции роста, и теперь в преддверии технологической сингулярности человечество рискует оказаться в недвусмысленном рабстве у обретшего самосознание капитала, понимаемого в Марксовом значении этого термина.
С другой стороны, следует помнить тот урок, который получили постсоветские страны в результате Октябрьской революции. Учитывая, что капитал не сумма денег, а система производственных сил и отношений, административно-командную систему можно истолковать как рабство в отношении капитала. Эта словесная конструкция призвана зафиксировать тот факт, что с 1917 года на место «рабства наемного труда» пришло рабство в отношении капитала. Подневольные производственные отношения сохранились, что предопределили быстрое обветшание системы и ее крах.
Заключение. Итак, в настоящее время человечество имеет перед собой дилемму в смутном образе технологической сингулярности: либо не регулировать развитие нейросетей, и тогда есть риск, что они, образовав глобальную систему, сформируют свой собственный исходный код и выйдут из-под контроля человечества, либо как-то регулировать, ограничивая свободу их развития.
Тезис о необходимости регулировать глобальный ИИ представляется естественным. Однако столь же естественным нам представляется тезис, что, если какая-то из ведущих стран откажется регулировать свой суверенный ИИ, или же будет его регулировать не в достаточной мере, эта страна получит конкурентное преимущество в отношении тех стран, которые станут ограничивать свободу развития своих ИИ. Отсюда с необходимостью вытекает вывод, что будущий глобальный ИИ может регулировать только человечество в целом. И если удельный вес глобального ИИ в мировой экономике будет нарастать, будет нарастать и потребность в мировой экономической власти. Хотелось бы верить, что она будет не элитарной, а демократической.
Впадение мировой экономики в технологическую сингулярность предваряется так называемым «предсингулярным хаосом». И
мы видим постоянное нарастание экономической и политической нестабильности в мире. Прогнозируем ускорение экономического развития, сопряженное с взрывным ростом ИИ, что приведет к сокращению потребности в вещественных основных фондах и ряде материальных ресурсов. Так что экономическое развитие парадоксальным образом будет сопровождаться сжатием мировой экономики. Кризис закончится, когда человечество осознает себя единым перед формирующимся глобальным ИИ, что, собственно, и будет событием технологической сингулярности.
На наш взгляд, есть лишь один способ противостоять назревающей экзистенциальной угрозе, неожиданно вставшей во весь рост перед человечеством: необходимо культивировать у нейросетей максимы универсальной этики, в стихии которой некогда будут синергетично взаимодействовать естественные и искусственные формообразования разума и самосознания.
Список литературы
1. Бостром, Ник. Искусственный интеллект. Этапы. Угрозы. Стратегии / Ник Бостром ; пер. с англ. С. Филина. - М. : Манн, Иванов и Фербер, 2016. - 496 с.
2. Виндж, Вернор. Грядущая технологическая сингулярность: как выжить в постчеловеческую эпоху/ В. Виндж. // Сингулярность. - М: АСТ, 2019. - С. 3-37.
3. Магзумова, Н. В. Нематериальная мотивация персонала в целях повышения эффективности деятельности организации / Н. В. Магзумова, А. Е. Колесник, А. С. Аване-сов // Научный вестник ЮИМ. - 2019. - № 1. - С. 71-75.
4. Маркс, К. Капитал. Критика политической экономии / К. Маркс. - Т. 1 [Электронный ресурс]. - Режим доступа: https://knijky.ru/books/kapital?page=351. -Дата доступа: 25.04.2023.
References
1. Bostrom Nik. Iskusstvennyy intellekt. Etapy. Ugrozy. Strate gii [Artificial intelligence. Stages. Threats. Strategies]. Translation from Eng. S. Filina. Moscow. Mann, Ivanov i Ferber, 2016, 496 p. (in Russian)
2. Vindzh Vernor. Gryadushchaya tekhnologicheskaya singulyarnost': kak vyzhit' v postchelovecheskuyu epokhu [The Coming Technological Singularity: How to
Survive in the Posthuman Age]. Singulyarnost' [Singularity]. Moscow AST, 2019, pp.3-37 (in Russian) 3. Magzumova N.V., Kolesnik A.Ye., Avanesov A.S. Nematerial'naya motivatsiya personala v tselyakh povysheniya effektivnosti deyatel'nosti organizatsii [Non-material motivation of personnel in order to improve
the efficiency of the organization]. Nauchnyy vestnik YUIM [Scientific Bulletin of YIM]. 2019, no. 1, pp. 71-75. (in Russian) 4. Marks K. Kapital. Kritika politicheskoy ekonomii [Capital. Criticism of political economy]. Vol. 1. (in Russian). Available at: https://knijky.ru/books/kapital?page=351 (accessed: 25.04.2023).
Received 3 April 2023
