CC BY
29ФИЛОСОФИЯ
УДК 004.8
ПРОБЛЕМАТИКА ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В КОНТЕКСТЕ УЧЕНИЯ О НООСФЕРЕ
Сулейменов И. Э., Габриелян О. А., Витулёва Е. С.
Аннотация: В статье дан анализ возможных последствий прогнозируемой конвергенции систем искусственного интеллекта и телекоммуникационных сетей. Установлено, что системы искусственного интеллекта способны существенным образом повлиять на поведение надличностных информационных структур, что может привести к существенным трансформациям общественного сознания и социокультурного кода. Обоснованием такого вывода выступает нейросетевая модель ноосферы.
Ключевые слова: ноосфера, искусственный интеллект, социокультурный код, нейронная сеть, коммуникационное пространство.
Исследования, выполненные в Крымском Федеральном университете им. В.И. Вернадского [1], актуализировали многие положения учения о ноосфере. На данной основе в [2] была предложена нейросетевая модель ноосферы, в рамках которой индивиды рассматривались как аналоги биологических нейронов, а ноосфера в целом - как аналог головного мозга. Данная модель интересна тем, что она, в частности, позволяет дать естественнонаучную интерпретацию таким понятиям как «общественное сознание», «менталитет» и т.д. А именно, в философской литературе давно установлено, что общественное сознание есть системное свойство в том смысле, что оно не сводится к сознанию совокупности индивидов. Однако, смысл понятий такого рода до конца так и не был раскрыт на операциональном уровне.
Рассмотрение ноосферы (или ее относительно самостоятельных фрагментов, например, этносов) с точки зрения аналогии с нейронными сетями позволяет показать, что существует надличностный уровень переработки информации, только опосредовано связанный с памятью индивидов. Именно на этом уровне протекают процессы, определяющие особенности ментальности, особенности социокультурного кода того или иного народа и т.д. Несколько упрощая, можно сказать, что именно этот уровень переработки информации и порождает общественное сознание как таковое.
Сделанные в [2] выводы подтверждаются простыми иллюстративными моделями [3,4]. В отмеченных работах рассматривалась процедура голосования (например, в Совете по защите диссертаций). Было показано, что каждый из членов Совета может рассматриваться как аналог нейрона (при голосовании он де-факто преобразует массив получаемой информации в дискретную переменную: «За», «Воздержался», «Против»).
Решение, принимаемое каждым из членов Совета в реальных условиях, формируется не только на основании массива входной информации (например, сообщения диссертанта). В действительности члены Совета заметно влияют друг на друга: вполне реалистичной является ситуация, когда достойная диссертации получает голос «Против» из-за того, что диссертант является учеником оппонента и т.д. В результате члены Совета (при условии, что их взаимное влияние друг на друга превышает некий критический порог) формируют аналог нейронной сети; точнее схема голосующего Совета топологически эквивалентна схеме нейропроцессора Хопфилда [3,4].
Это означает, что в этом случае решение де-факто принимают не члены Совета, но сформированный ими аналог нейронной сети. Иначе говоря, заведомо существуют ситуации, когда коллективные эффекты превалируют над устремлениями индивидов: коммуникационная среда начинает подчинять себе пользователей. Очевидно, что по мере усложнения аналогов нейронных сетей, формируемых в социальных системах, эффекты такого рода только усиливаются.
В частности, бурное развитие телекоммуникационной индустрии де-факто уже привело к появлению нетривиальных человеко-машинных систем, например, сообществ, сформированных пользователями любой из социальных on-line сетей. Эти системы демонстрируют весьма нетривиальное поведение, которое не сводится к поведению отдельных пользователей, вплоть до того, что уже ставится вопрос о возможности появления «спонтанного интеллекта» как результата обмена информацией в такого рода системах [5].
Невзирая на простоту использованной модели [3,4], результаты этих работ уже заставляют существенным образом пересмотреть многие вопросы, затрагиваемые, например, в теории социального выбора: оказывается, что статистическое описание поведения голосующих индивидов не является до конца правомочным, так как необходимо принимать во внимание структуру существующих между ними связей.
Разумеется, рассматривать индивида по аналогии с отдельным нейроном сети допустимо далеко не всегда. Такая аналогия становится правомочной только при определенных условиях, в частности, когда поведение индивида может быть охарактеризовано совокупностью дискретных переменных, например, когда речь идет о поведении экономических агентов, покупающих или не покупающих конкретный товар. В этом случае также поведение потребителя описывается двоичной переменной, а их влияние друг на друга также является выраженным. При покупке товара любой человек в той или иной степени учитывает мнение окружающих, что позволяет показать, что система потенциальных покупателей на рынке также топологически эквивалентна нейропроцессору Хоп-филда. Это влияние является весьма значительным в силу соображений, высказанных Ж. Бодрийяром [6]. А именно, потребительская стоимость любого товара обладает двумя составляющими. Одна из них непосредственно связана с его функциональным назначением, а другая - отвечает использованию товара для демонстрации статуса обладателя.
Однако, указанные выше ограничения не являются существенными с точки зрения базовой концепции данной статьи. Действительно, если в диалог вступают два че-
ловека, то принято говорить, что идет обмен информацией между двумя индивидами. Однако, это является не более чем первым приближением. В действительности, имеет место обмен информацией между нейронами, составляющими головной мозг каждого из собеседников.
Продолжая эту логику, можно обосновать существование особой формы нейронной сети - глобальной коммуникационной сети, предельным случаем которой является ноосфера. Ее особенности определяются фундаментальными свойствами нейронных сетей произвольного типа. А именно, в теории нейронных сетей однозначно доказано, что их память является распределенной, в них невозможно указать отдельные «ячейки памяти». В этом отношении нейронную сеть часто уподобляют голограмме: каждый отдельный фрагмент голограммы восстанавливает тот же волновой фронт, что и исходная, но с ухудшенным качеством. На основании этой аналогии допустимо утверждать, что действительно существует определенный объем информации, который так или иначе присущ всем членам сообщества вместе, более того, можно предполагать, что именно на этой основе можно дать интерпретацию феномена коллективного бессознательного.
Для математического описания глобальной коммуникационной сети допустимо использовать имитационную модель, построенную по схеме, иллюстрируемой рис.1. Данная модель рассматривает нейронную сеть, состоящую из отдельных фрагментов. Предполагается, что плотность связей между нейронами, локализованными в пределах каждого из таких фрагментов является высокой, а плотность связей между нейронами, относящимися к различным фрагментам - низкой.
Рис.1. Схема имитационной модели, отражающей базовые свойства глобальной коммуникационной сети
С помощью данной модели, даже не прибегая к детальным вычислениям, легко показать, что существует вполне определенный объем информации, записанной в глобальную нейронную сеть. Она только опосредовано связана с той информацией, которая хранится в памяти индивидов. Значительная обособленность сознания каждого
отдельного человека определяется тем, что плотность связей между нейронами в пределах головного мозга существенно превышает плотность связей между нейронами, локализованным в коре головного мозга различных людей, но это не отменяет вывода о существовании глобальной коммуникационной сети.
С точки зрения проблематики искусственного интеллекта, вывод о существовании глобальной коммуникационной сети, предельным случаем которой является ноосфера в целом, важен по следующим причинам. Точно известно, что обмен информацией между элементами определенной природы (нейронами головного мозга человека) порождает вполне определенную информационную сущность - человеческое сознание. Закономерен вопрос - насколько такая информационная сущность уникальна?
Вопросы такого уровня требуют философского осмысления сущности информации как таковой [7]. По существу, человеческое сознание может рассматриваться как пример информационной сущности, которая приобретает нетривиальное поведение и становится относительно самостоятельной. Ее относительная самостоятельность не требует развернутых доказательств: хорошо известно, что в течение жизни определенная часть нейронов может отмирать, но это не оказывает определяющего влияния (по крайней мере, до некоторых пор) на функционирование головного мозга в целом.
С этой точки зрения допустимо заключить, что в глобальной коммуникационной сети могут пребывать информационные сущности иной природы, которые также обладают относительной самостоятельностью. Иллюстрацией к этому может служить любая научная теория (шире - парадигма в смысле Т. Куна [8]). Она заведомо представляет собой распределенную информацию (по крайней мере в том смысле, что ни один из членов научного сообщества не обладает всей полнотой информации) и действительно обладает относительной самостоятельностью (в частности, собственной логикой развития, которой часто подчиняются исследователи); сторонники данной теории могут уходить из жизни, но их место занимают новые и теория (парадигма) продолжает жить и т.д. С этой же точки зрения допустимо рассматривать и любой естественный язык, который также представляет собой самоорганизующуюся систему, развивающуюся по собственным законам, только опосредовано связанным с устремлениями индивидов. Очевидно, что с таких позиций известное выражение Умберто Эко - «это не мы разговариваем языком, это язык разговаривает нами» приобретает достаточно неожиданное звучание.
Информационных объектов такого рода можно обнаружить достаточно много. К ним, в том числе, можно отнести социокультурный код, более того, есть основания рассматривать его не просто как относительно самостоятельную информационную сущность, но как исполняемую программу, записанную в глобальную коммуникационную сеть. Доводом в пользу такого вывода является, в частности, существование диктата среды, который часто вынуждает людей поступать именно так, как этого ждут от них окружающие, причем даже тогда, когда это идет вразрез с их собственными интересами.
Возвращаясь к проблематике искусственного интеллекта, можно сделать следующий вывод, непосредственно касающийся дискуссии [9] относительно теста Тьюринга, в соответствии с которым интеллект идентифицируется на основании сопоставления с
интеллектом человека. Доводы Д. Серля, сформулировавшего концепцию так называемой «китайской комнаты», и утверждавшего, что машина способна пройти тест Тьюринга даже не «умея» мыслить, точнее, не воспринимая семантику языка, в этой дискуссии уже не могут рассматриваться как определяющие.
Проблема смещается в совсем другую плоскость: коль скоро до сих пор не раскрыта сущность интеллекта как такового, то вполне закономерен вопрос - а обязательно ли интеллект как таковой должен быть близок к человеческому? Иначе, вместо традиционного вопроса «Может ли машина мыслить?» следует рассматривать другой - «Обязательно ли интеллект должен ассоциироваться с человеческим?». (Отметим, что авторы многих работ, в частности, [9] уже вплотную приблизились именно к такой постановке вопроса.)
Подчеркнем, что данная проблема носит уже далеко не только философский характер. Действительно, создание систем искусственного интеллекта неизбежно приведет к актуализации любых сущностей, пребывающих в глобальном коммуникационном пространстве. Выражаясь несколько утрированно, «обитатели» ноосферы из некоей абстракции вполне могут стать частью повседневности. Это вытекает из очевидных соображений: подобно тому, как в последние десятилетия наблюдается отчетливая конвергенция вычислительных систем и средств связи (наглядной иллюстрацией здесь являются такие мессенджеры как УШег и WhatsApp), в обозримом будущем можно ожидать конвергенции систем искусственного интеллекта и телекоммуникационной индустрии. Такого рода тенденции также просматриваются вполне отчетливо. Так, существуют многочисленные приложения, построенные на нейронных сетях, обеспечивающие анализ информации о конкретных пользователях социальных онлайн сетей (например, в интересах поставщиков тех или иных услуг, повышения эффективности рекламы через интернет-рассылки и т.д.).
Совершенствование систем искусственного интеллекта может только усилить тенденции такого рода, в результате чего они неизбежно окажутся интегрированными с телекоммуникационными сетями. В свою очередь, в настоящее время данные сети теснейшим образом интегрированы с социумом, откуда вытекает, что искусственный интеллект неизбежно получит выход на надличностный уровень переработки информации. В этом смысле можно утверждать, что он станет фактическим посредником между информационными сущностями, пребывающими в ноосфере (или ее относительно самостоятельных фрагментов), и людьми, рис.2. Взаимодействие, а, следовательно, и взаимное влияние станет намного более тесным, нежели это имеет место сейчас, и вопрос о том, как именно оно будет протекать является далеко не тривиальным.
В этом контексте уместно подчеркнуть, что системы, обладающие, по крайней мере, признаками «нечеловеческого» интеллекта, в соответствии с выводами [10], уже существуют. Бюрократия прошла несколько стадий самоорганизации, что позволяет рассматривать административные системы как в значительной степени вышедшие из-под контроля Пользователя. Бюрократию, разумеется, нет смысла демонизировать (что подчеркивается, в частности, в [11]), однако равным образом нельзя согласится с точкой зрения М. Вебера и его последователей [12], в соответствии с которой административ-
ный аппарат представляет собой программно-аппаратный комплекс (выражаясь современным языком), алгоритм которого призван обеспечить максимально эффективное выполнение управленческих функций.
Наличие паразитных (т.е. не предусмотренных должностными инструкциями [13]) каналов передачи информации внутри административного аппарата инициирует процессы самоорганизации, которые приводят к тому, что возникает система, истинный «программный код» которой Пользователю не известен [10]. Как показывает пример, рассмотренный в [4,5], в действительности любая административная система перерождается в некий аналог нейронной сети, попытки программировать которую (в обычном смысле этого слова) обречены на неудачу. Наглядной иллюстрацией к этому является так называемый «режим ручного управления», к которому все чаще вынуждено прибегать высшее руководство различных стран мира, решая проблемы, которые, по идее, должны автоматически решаться на низовом уровне управленческой пирамиды. Образующийся аналог нейронной сети обладает некоторым подобием инстинкта самосохранения, нетривиальным поведением, выражающимся, например, в очевидном стремлении расширить свою «элементную базу», и другими признаками, сходными с теми, которыми обладают современные системы искусственного интеллекта.
Рассмотренный пример показывает, что, анализируя взаимодействие с надличностными информационными сущностями, неизбежно придется столкнуться с проявлениями форм нечеловеческого интеллекта (по крайней мере, заведомо уместно говорить о том, что надличностные информационные сущности обладают некоторыми признаками такового). Коль скоро прогнозируется очевидная конвергенция систем искусственного интеллекта и телекоммуникационных сетей, то отсюда вытекает вывод о том, что современный этап представляет собой своего рода точку бифуркации: в глобальном коммуникационном пространстве неизбежно будет протекать конкуренция «человеческого» и «нечеловеческого».
Fuc.2. Искусственный интеллект как связующее звено с надличностными информационными сущностями.
Следовательно, «стихийное» развитие систем искусственного интеллекта, в особенности, интегрируемых с телекоммуникационными сетями, сопряжено с вполне определенными опасностями.
В первую очередь, из этого следует, что необходимо отчетливое понимание последствий, к которым может привести развитие систем искусственного интеллекта, причем именно на уровне философского осмысления.
Это создаст необходимую основу для разработки возможных сценариев трансформации общества, позволяющих направить работы по созданию систем искусственного интеллекта по оптимальному пути, отвечающим интересам общества. Нужно также принимать во внимание, что «интересы общества» могут пониматься по-разному, особенно, если учесть, что геополитическое противостояние все в большей степени снова смещается в сторону научно-технической конкуренции.
Список литературы
1. Ноосферология: наука, образование, практика /[под ред. О. А. Габриеляна]. -Симферополь: «Феникс». 2008. - 464 с.
2. Сулейменов И. Э., Григорьев П. Е. Физические основы ноосферологии - Алма-ты: Изд-во Print Express. 2008. - 158 с.
3. Сулейменов И. Э., Панченко С. В., Габриелян О. А. Процедура голосования с точки зрения теории нейронных сетей // Ученые записки Крымского федерального университета имени В.И. Вернадского. Философия. Политология. Культурология. 2017. Т. 3. №. 1. С. 91-99.
4. Suleimenov I., Panchenko S., Gabrielyan O., Pak I. Voting procedures from the perspective of theory of neural networks // Open Engineering. 2016. № 6(1). P. 318321.
5. Chen J., Burgess P. The boundaries of legal personhood: how spontaneous intelligence can problematise differences between humans, artificial intelligence, companies and animals // Artificial Intelligence and Law. 2019 № 27. P. 73-92.
6. Бодрийяр Ж. К критике политической экономии знака. - М.: Библион-Русская книга, 2003. - 272 с.
7. Gabrielyan O.A., Vitulyova Ye. S., Suleimenov I. E. Multi-valued logics as an advanced basis for artificial intelligence // Wisdom. 2022, № 21(1). P. 170-181.
8. Кун Т. Структура научных революций. - М.: АСТ. 2020. - 320 с.
9. Горбачева А.Г. Тест Тьюринга: взгляд через призму современных компьютерных и сетевых технологий. // Вестник НГУЭУ. 2014. № (4) С. 322-330.
10. Сулейменов И.Э., Нуртазин А.А., Габриелян О.А., Шалтыкова Д.Б., Тасбулато-ва З.С., Панченко С.В. Бюрократия с точки зрения теории самоорганизации // Образовательные ресурсы и технологии. 2017. №. 2 (19). С. 36-44.
11. Смирнов С. Н. Российская бюрократия и ее роль в процессах модернизации // Мир России. 2009. Т. 18. № 4. С. 115-139.
12. Альпидовская М. Л. Концепция рациональной бюрократии индустриального общества М. Вебера //Финансы: теория и практика. 2007. - №. 2. С. 82-89.
13. Римский В. Л. Универсальные и коррупционные нормы взаимодействий в российской политике // Полис. Политические исследования. 2011. № 4. С. 104-116.
14. Сулейменов И. Э., Габриелян О.А., Седлакова З.З., Мун Г.А. История и философия науки. Алматы: Изд-во КазНУ. 2018. - 406 с.
Сведения об авторах
Сулейменов Ибрагим Эсенович, доктор химических наук, кандидат физико-математических наук, академик Национальной инженерной Академии Республики Казахстан E-mail: esenych@yandex.kz
Габриелян Олег Аршавирович - доктор философских наук, профессор, заведующий кафедрой философии Крымского федерального университета имени В.И.Вернадского, г. Симферополь E-mail: gabroleg@mail.ru
Витулева Елизавета Сергеевна - старший преподаватель, PhD докторант НАО «Алма-тинский Университет Энергетики и Связи имени Гумарбека Даукееува» E-mail: lizavita@list.ru
Suleimenov I. E., Gabrielyan O. A., Vituleva E. S.
PROBLEMS OF ARTIFICIAL INTELLIGENCE IN THE CONTEXT OF THE NOOSPHERE
Annotation: The article analyzes the possible consequences of the predicted convergence of artificial intelligence systems and telecommunications networks. It has been established that artificial intelligence systems can significantly affect the behavior of transpersonal information structures, which can lead to significant transformations of public consciousness and sociocultural code. The proof is the neural network model of the noosphere.
Key words: noosphere, artificial intelligence, sociocultural code, neural network, communication space.
References
1. Noosferologiya: nauka, obrazovanie, praktika (Pod red. O. A. Gabrielyana). -Simferopol: «Feniks». 2008. - 464 s.
2. Suleimenov I. E., Grigor'ev P. E. Fizicheskie osnovy noosferologii. - Almaty — Simferopol. 2008. - 158 s.
3. Suleimenov I. E., Panchenko S. V., Gabrielyan O. A. Procedura golosovaniya s tochki zreniya teorii nejronnyh setej // Uchenye zapiski Krymskogo federal'nogo universiteta imeni V.I. Vernadskogo. Filosofiya. Politologiya. Kul'turologiya. 2017. T. 3. №. 1. S. 91-99.
4. Suleimenov I., Panchenko S., Gabrielyan O., Pak I. Voting procedures from the perspective of theory of neural networks. // Open Engineering. 2016. № 6(1). P. 318-321.
5. Chen J., Burgess P. The boundaries of legal personhood: how spontaneous intelligence can problematise differences between humans, artificial intelligence, companies and animals // Artificial Intelligence and Law. 2019 № 27. P. 73-92.
6. Bodrijar ZH. K kritike politicheskoj ehkonomii znaka. - M.: Biblion-Russkay kniga. 2003. - 272 s.
7. Gabrielyan O.A., Vitulyova Ye. S., Suleimenov I. E. Multi-valued logics as an advanced basis for artificial intelligence // Wisdom. 2022, № 21(1). P. 170-181.
8. Kun T. Struktura nauchnyh revolyucij. - M.: AST, 2020. - 320 s.
9. Gorbacheva A.G. Test T'yuringa: vzglyad cherez prizmu sovremnnyh komp'yuternyh i setevyh tekhnologij. // Vestnik NGUEHU. 2014. №4. S. 322-330.
10. Sulejmenov I. EH. i dr. Byurokratiya s tochki zreniya teorii samoorganizacii // Obrazovatel'nye resursy i tekhnologii. 2017. №. 2 (19). S. 115-139.
11. Smirnov S. N. Rossijskaya byurokratiya i ee rol' v processah modernizacii // Mir Rossii, 2009. T. 18. № 4. S. 115-139
12. Al'pidovskaya M. L. Kontseptsiya ratsional'noy byurokratii industrial'nogo obshchestva M. Vebera // Finansy: teoriya i praktika. 2007. №. 2. S. 82-89.
13. Rimskij V. L. Universal'nye i korrupcionnye normy vzaimodejstvij v rossijskoj politike. // Polis. Politicheskie issledovaniya. 2011. № 4. S. 104-116.
14. Sulejmenov I. EH., Gabrielyan O.A., Sedlakova Z.Z., Mun G.A. Istoriya i filosofiya nauki. - Almaty: Izd-vo KazNU. 2018. - 406 s.
Suleimenov Ibragim Esenovich, Doctor of Chemical Sciences, Candidate of Physical and
Mathematical Sciences, Academician of the National Engineering Academy of the Republic
of Kazakhstan
E-mail: esenych@yandex.kz
Gabrielian Oleg Arshavirovich - Doctor of Philosophy, Professor, Head of the Department of
Philosophy of the Crimean Federal University named after V.I. Vernadsky, Simferopol
E-mail: gabroleg@mail.ru
Vituleva Elizaveta Sergeevna - Senior Lecturer, PhD doctoral student of NAO
«Almaty University of Energy and Communications named after Gumarbek Daukeeuva»
E-mail: lizavita@list.ru
