CC BY
2
ФИЛОСОФИЯ НАУКИ И ТЕХНИКИ
Антон Анатольевич Деникин
кандидат культурологии, доцент, профессор кафедры звукорежиссуры и музыкального искусства Института кино и телевидения ГИТР, Москва, Россия; (ЖСЮ Ш: 0000-0001-8101-7952 е-mail: [email protected]
Человеко-машинные взаимодействия и искусственный интеллект: к новому пониманию алгоритмических коммуникаций
УДК: 130.2; 316.77
DOI: 10.24412/2079-0910-2024-4-67-82
В статье анализируются человеко-машинные коммуникации, осуществляемые с помощью нейросетей искусственного интеллекта (ИИ). Утверждается, что программные алгоритмы ИИ становятся все более эффективными партнерами человека по коммуникациям не потому, что их возможности напоминают человеческие, а потому, что они работают с информацией иначе, нежели люди. В программных системах с использованием ИИ обработка данных не имеет ничего общего с человеческим пониманием и интерпретацией смыслов. Алгоритмы не интерпретируют информацию, они обрабатывают только данные, которые сами по себе не имеют смысла — это лишь последовательности цифр, цифровые разрядности. Компьютерная система на базе ИИ не видит человека в качестве партнера по коммуникации. Для компьютера пользователь — это лишь поставщик данных для объединения этих данных в цепочки (паттерны) с целью их последующей обработки. Чтобы успешнее управлять цифровыми процессами и существенно влиять на поведение машины (компьютера), человеку необходимо не ограничиваться ролью поставщика данных и потребителя готовой информации, но умело взаимодействовать с базой программных данных, иметь доступ к средствам визуализации/аурализации этих данных, тактильного управления этими данными. Возможность для каждого пользователя оказывать влияние на машинный обмен ассоциированными данными должна лечь в основу современных алгоритмических коммуникаций. Анализируются два направления в разработке алгоритмов ИИ: программно-символьное представление инструкций, которое использует символьную логику и обозначается как символический ИИ (англ. GOFAI), и искусственные нейронные сети, ИНС (англ. Artificial neural network, ANN),
© Деникин А.А., 2024
которые работают на статистических принципах и организуют различные формы «машинного обучения». Указывается, что задействование искусственных нейронных сетей ANN предпочтительнее, поскольку в этом случае алгоритмы ИИ определяются как специфический вид коммуникативного агента, с которым может взаимодействовать человек. Утверждается, что визуализация метаданных не только могла бы позволить человеку непосредственно взаимодействовать с алгоритмами ИИ, но и обновлять работу систем искусственного интеллекта с помощью процедур алгоритмического чтения. В нынешних условиях требуется использовать технические возможности алгоритмических коммуникаций не для того, чтобы мыслить, как машины, или использовать машины для облегчения трудозатрат на человеческое мышление, но для того, чтобы мыслить совместно с машинами и тем самым обогащать работу машин и расширять свои собственные человеческие возможности.
Ключевые слова: искусственный интеллект, человеко-машинные взаимодействия, алгоритм, алгоритмическая коммуникация, алгоритмическое чтение, постчеловеческая коммуникати-вистика, метаданные.
Введение
Технологии искусственного интеллекта (ИИ) стремительно входят в повседневную жизнь современного человека. Все больше людей взаимодействуют с различными системами ИИ: разговаривают с цифровыми ИИ-помощниками (Alexa от Amazon, Siri от Apple, «Алиса» от Yandex), получают рекомендации по проведению досуга от сетевых агрегаторов, работающих на базе ИИ (например, при выборе музыкальных концертов или кинофильмов), пользуются возможностями систем ИИ при написании писем, докладов, при сочинении музыки, обработке фотографий и даже для выполнения некоторых рабочих задач. Системы на базе ИИ научились неплохо имитировать человеческое общение, способны реагировать на слова и эмоции пользователей, выполнять поручения.
Вместе с тем нередки ошибки и сбои в человеко-машинных взаимодействиях. Хотя системы искусственного интеллекта способны учиться, запоминать поведение человека и оптимизировать свои ответные действия, тем не менее они могут не всегда правильно распознавать намерения пользователя и пользователь может испытывать сложности в общении с ИИ [Игнатьев, Спиридонова, 2022; Кудряшова, Грибов, 2023].
Причина этих ошибок, прежде всего, состоит в том, что «интеллектуальные» машины и люди оперируют информацией принципиально по-разному.
Во-первых, не все, что обсчитывает машина, доступно пользователю, и не все, что понимает человек, доступно «пониманию» машины. Это связано с тем, что нет какого-то общего «объективного» значения информации для программных алгоритмов и для человека. Способы использования информации основываются на свойственных каждой стороне возможностях «интерпретации» данных.
Во-вторых, компьютерная система на базе ИИ «не видит» человека в качестве партнера по коммуникации. Для компьютера пользователь — это лишь поставщик данных для объединения этих данных в цепочки (паттерны) с целью их последующей обработки. Реальный «партнер» по обмену цифровыми байтами для компьютера — это база ассоциированных данных. Человеку-пользователю кажется, что робот/компьютер разговаривает персонально с ним, но на самом деле поведение ро-
бота по отношению к человеку определяется взаимодействием машины с ассоциированными данными. Обсчет и ассоциирование новых вводимых в систему данных изменяет (обучает) компьютерный алгоритм, делая его более «интеллектуальным» и изменяя поведение машины.
Соответственно, само взаимодействие человека с компьютером (с программой/ алгоритмом) проблематично отнести к коммуникации. Человек надеется, что общается и обменивается информацией с роботом/компьютером, но на самом деле ему недоступна большая часть информации (данных), которыми оперирует машина.
В таком «урезанном» взаимообмене пользователь — вовсе не равноправный субъект коммуникативного акта, а лишь звено коммуникационных петель «обратной связи», наряду с другими действующими звеньями, такими как дополнительные источники данных, случайные перекрестные ассоциации данных, действия других пользователей, программные сбои и прочие.
Гипотеза этой статьи в том, что для успешной адаптации к стремительно набирающим мощь технологиям ИИ человек должен стремиться преодолеть неравенство между обработкой данных машинами и ограниченными человеческими возможностями.
Чтобы успешнее управлять цифровыми процессами и существенно влиять на поведение машины (компьютера), человеку необходимо умело взаимодействовать с базой программных данных, иметь доступ к средствам визуализации/аурализации этих данных, тактильного управления этими данными. Возможность для каждого пользователя оказывать влияние на машинный обмен ассоциированными данными должна лечь в основу современных алгоритмических коммуникаций. Это указывает на необходимость освоения человеком и задействования им новых постчеловеческих способов коммуникации.
В нынешних условиях требуется использовать технические возможности алгоритмических коммуникаций не для того, чтобы мыслить, как машины, или использовать машины для облегчения трудозатрат на человеческое мышление, но для того, чтобы мыслить совместно с машинами и тем самым обогащать работу машин и расширять свои собственные человеческие возможности.
Подходы в исследованиях человеко-машинных коммуникаций
Современные системы искусственного интеллекта, основанные на алгоритмах, машинном обучении и «больших данных» (англ. big data), все чаще воспринимаются как партнеры человека по коммуникации. Они не только облегчают людям работу с массивами разнообразной информации, но и сами между собой способны обмениваться данными без участия человека.
Так, например, известно, что интернет-боты являются авторами примерно 50% онлайн-трафика [Курашева, 2023]. Миллионы пользователей Twitter являются ботами [Около 48млн аккаунтов.., 2017], большинство поддельных аккаунтов Facebook создается автоматизированными программами [TAdviser..., 2022], и по меньшей мере 10% редактирования «Википедии» осуществляется с помощью учетных записей, контролируемых компьютерными ботами [Дмитриева, 2018].
В электронной почте Gmail автоматизированная система ИИ Smart Reply анализирует информацию входящих электронных писем и в автоматическом режиме
способна генерировать вполне адекватные ответы адресатам. А умные чат-боты в Интернете помогают пользователям заказывать билеты на поезда, назначать встречи, отвечают на вопросы, дают рекомендации и консультации. И делают это столь успешно, что кажется, будто эти программы знают предпочтения пользователей лучше, чем сами люди.
Но как алгоритмам это удается? Как алгоритмы ИИ взаимодействуют с человеком, не видя и не зная его лично?
Согласно словарю, алгоритм — это совокупность действий, правил для решения данной задачи [Ожегов, 2006, c. 21]. Алгоритм в целом описывается как «любая корректно определенная вычислительная процедура, на вход (input) которой подается некоторая величина или набор величин и результатом выполнения которой является выходная (output) величина или набор значений. Таким образом, алгоритм представляет собой последовательность вычислительных шагов, преобразующих входные величины в выходные» [Кормен и др., 2011, с. 46].
На практике программисты опираются на два направления в разработке алгоритмов ИИ: программно-символьное представление инструкций, которое использует символьную логику и обозначается как символический ИИ (англ. GOFAI), и задействование искусственных нейронных сетей, ИНС (англ. Artificial neural network, ANN), которые работают на статистических принципах и организуют различные формы «машинного обучения».
Каждый из этих методов создания ИИ имеет свои достоинства и недостатки.
Преимущество GOFAI заключается в последовательности выполнения задач машиной, предсказуемости и точности результатов вследствие автоматического выполнения программных инструкций. В таком случае робот на основе ИИ будет вести себя в целом в соответствии с заложенными программистами схемами поведения, и общение с таким роботом следует в русле общепринятых моделей коммуникации, подпадая под сферу компьютерно-опосредованной коммуникации (англ. Computer-mediated communication, CMC) [Thurlow et al, 2004; Carr, 2021].
В подходах GOFAI «интеллектуальность» алгоритма реализует модель представления его разработчиков о человеческом интеллекте, человеческом поведении. Машина имитирует поведение человека в коммуникациях с пользователями (хотя и весьма грубо), являясь еще одним средством передачи и обмена сообщениями.
В отличие от GOFAI, манипулирующей символами, нейронная сеть машинного обучения ANN не имеет предписанных пошаговых инструкций, которые указывают на то, как произвести вычисления и как вести себя с человеком. Сетевой ANN изучает входящие данные, обнаруживая в них закономерности, и опирается на них при выборе того или иного действия. При машинном обучении алгоритм не копирует человеческое поведение, но самообучается, опираясь на закономерности, обнаруживаемые алгоритмом в поступающих данных.
Это означает, что разработчики систем машинного обучения на базе ANN не обладают полным контролем за действием алгоритмов ИИ. Возможности работы алгоритма часто оказываются непредвиденными как для его разработчиков, так и для пользователей. Так, например, алгоритм AlphaGo из DeepMind на основе ANN вдруг побеждает чемпиона мира по играм Ли Седола в видеоигре Go [Шестоперов, 2016], или twitterbot от Microsoft Tay.ai вдруг начинает демонстрировать расистские и неонацистские замашки, хотя никто его этому не учил [Горохов, 2016].
В отличие от алгоритма GOFAI, где все шаги четко прописаны, строки ошибочного кода могут быть легко идентифицированы и исправлены, нейронная сеть ANN имеет лишь различные связи, которые мало что говорят о конкретной работе системы ИИ и о ее поведении. Самообучающиеся цифровые программы развиваются автономно, а их процедуры и выявленные шаблоны недоступны конечному пользователю для восприятия.
Это не вписывается в специфику компьютерно-опосредованной коммуникации (CMC), а рассматривается в рамках исследований человеко-машинной коммуникации (HMC) — развивающейся области исследования коммуникации, сосредоточенной на изучении «создания [и циркуляции] смыслов между людьми и машинами», сетевыми интеллектуальными агентами и человекоподобными роботами [Guzman, 2018, p. 1; Spence, 2019].
Особенность исследований человеко-машинной коммуникации (HMC) в том, что компьютеризированные системы ИИ определяются как активные нечеловекоподобные коммуниканты. Алгоритм ИИ — это не просто средство передачи человеческих сообщений, но и сам по себе специфический вид коммуникативного агента, с которым может взаимодействовать человек.
Такое понимание взаимодействия человека с техникой демонстрирует отход от антропоцентризма в отношении человеко-машинных коммуникаций и близко «нечеловеческому повороту» в гуманитарной науке [Grusin, 2015, p. vii]. Оно следует неоматериалистическим философиям, в соответствии с которыми окружающий «мир населен не активными субъектами и пассивными объектами, а живыми и, по сути, интерактивными материалами, телами человеческими и нечеловеческими [Bennett, 2015, p. 224].
Представляя машинного Другого как независимого агента, с которым человек общается и взаимодействует, постчеловеческая коммуникативистика [Деникин, 2023] актуализирует фундаментальные вопросы о роли машин в жизни человека, например, в чем заключается человеческая ответственность перед лицом технологического Другого; как человек должен реагировать на эту новую форму инаковости; как алгоритмический Другой может реагировать на человека. Если машины с ИИ все активнее участвуют в коммуникациях, означает ли это, что машины могут заменить собой людей или, по крайней мере, что они способны превзойти интеллект человека? И можем ли мы называть функционирование систем ИИ коммуникацией, если «логика» поведения машин скрыта в технологических слоях, недоступных для понимания обычными пользователями? Можем ли мы по-прежнему говорить о коммуникации, когда один из партнеров не понимает передаваемой информации?
Для того чтобы попытаться дать ответ на эти и многие другие ключевые для исследования ИИ вопросы, требуется пересмотр привычных методов изучения коммуникации и самого содержания коммуникации. Такие исследования могли бы внести большой вклад в науку и инженерию искусственного интеллекта.
Коммуникации людей с помощью алгоритмов ИИ: сложности и риски
Коммуникационные цифровые технологии конца XX и начала XXI в. стали чем-то большим, чем просто инструментами для общения и взаимодействия людей. Они стали коммуникационными агентами, являясь интегрированными и неотъемлемы-
ми частями современных социальных систем, частью нашего мира, частью человеческого перцептивного аппарата.
И люди, и машины могут получать, обрабатывать информацию. Машинное «познание», однако, существенно отличается от человеческого познания. Оно происходит значительно быстрее и в целом иначе, нежели в рамках биологически ограниченного человеческого восприятия. Поскольку человеческому мозгу требуется до 500 миллисекунд (полсекунды), чтобы «обработать» и осознать поступающие данные [Деан, 2018, c. 18], оно имеет доступ к реальности с большей задержкой, нежели компьютеризированные машины. Небиологические компьютерные алгоритмы могут обрабатывать больше информации и опережают человеческие биологические возможности. Вычислительные технологии работают так быстро, что аппарат восприятия человека просто не воспринимает большую часть процессов их работы.
Большинство алгоритмов искусственного интеллекта разработано на основе сложных нейронных сетей. Например, поисковая система Google — это ИИ, который анализирует множество приходящих данных из всех областей Интернета. Это делается с помощью процессов машинного сбора вводимой пользователями информации, «интеллектуального» анализа данных и машинной обработки, в результате чего алгоритмы группируют информацию в связанные кластеры. Каждый раз, когда какой-то пользователь вводит запрос в строку поиска Google, он тем самым добавляет данные в обширный архив, помогая сделать искусственный интеллект «умнее».
Виртуальные помощники Siri, Alexa, Cortana и Facebook работают таким же образом. Все поисковые запросы хранятся в обширной базе данных. Посредством обработки этих данных алгоритмы «пишут» правила, то есть алгоритмы «учатся» сами, накапливая терабайты данных.
Алгоритмы ИИ способны выявлять закономерности и корреляции в цифровых материалах, циркулирующих в Интернете, в действиях и поведении человека, в любой поступающей информации. Алгоритмы извлекают данные из информации, доступной онлайн (в текстах, документах, видео, блогах, файлах всех типов), а также из информации, предоставленной пользователями: их запросов, рекомендаций, комментариев, чатов и пр. Алгоритмы способны извлекать данные из информации об информации — метаданные, описывающие содержимое и свойства каждого документа, такие как его название, создатель, тема, описание, издатель, авторы, тип, формат, идентификатор, источник, язык и прочие.
По мере того как эти алгоритмы извлекают все больше новых элементов из поступающих данных, они учатся и создают модели для прогнозирования поведения людей. В сложных процессах передачи данных и машинного обучения данные начинают управлять операциями: уже не программисты, а сами данные определяют, что и как делать. Данные и интеллектуальные машины, обрабатывающие эти данные, начинают развивать симбиотические отношения — алгоритмические рекурсии [Ванькова, 2012; Харбанс, 2023], которые более не нуждаются в инструкциях как таковых, но лишь в большем количестве данных. Каждый раз, когда пользователь добавляет в Сеть свои фотографии или тексты, он поставляет новую информацию к огромному архиву знаний и данных. Пользовательские действия делают системы ИИ «умнее», не требуя для этого нового перепрограммирования.
Еще один пример на рекурсивные человеко-машинные взаимодействия — возможность использовать различные датчики для отслеживания и записи переменных данных, связанных с функционированием тела человека. Устройства, такие
как Fitbit и Apple Watch, содержат эти датчики, чтобы предоставлять пользователю интерактивные пользовательские данные для контроля за самочувствием человека. Каждый смартфон iPhone содержит барометр, трехосевой гироскоп, акселерометр, датчик приближения, датчик освещенности, биометрический сканер отпечатков пальцев, устройства определения местоположения, такие как цифровой компас, Wi-Fi, приемники сотовой связи, GPS и ГЛОНАСС. Эти датчики позволяют iPhone (и аналогичным устройствам) постоянно отслеживать, записывать, получать и передавать метаданные о своем пользователе. Эти данные передаются на управляющие серверы, работающие с помощью «глубокого обучения» (англ. Deep learning) и нейронных сетей [Гудфеллоу и др., 2017; Николенко и др., 2018].
Вместе с тем эти данные непосредственно влияют и на поведение пользователей: алгоритмические технологии начинают предопределять условия, в которых коммуницируют люди. Алгоритмы отчасти формируют поведение и влияют на человека, «подгоняя» возможности его коммуникации и познания под условия, заранее смоделированные машинами.
Основной риск в подобных машинно-человеческих «коммуникациях» связан с процессами упрощения при передаче данных. В результате интеллектуальные машины подталкивают людей к определенному самими машинами поведению. Так, если, к примеру, следуя ленте рекомендаций в социальных сетях, человек слушает только песни, похожие на те, которые он слушал раньше, или читает книги, похожие на книги, которые он читал раньше, то нового опыта он получать не будет. Если человек подписывается в Сети только на тех людей, с которыми он согласен, и читает посты, сообщения и новости в Интернете, похожие на те, которые он читал в прошлом, он не будет знать о мнениях других людей, и это ограничит его опыт [Lovink, 2007]. Рекурсивный цикл, используемый для того, чтобы сделать машины умными, потенциально может сделать людей менее умными из-за постоянного процесса фильтрации данных, не вписывающихся в статистическую модель, которые компьютерные алгоритмы сочтут недостойными внимания пользователя.
Более того, машины, опережая человека по скорости реакции, могут определять поведение, влиять на эмоции и разум человека посредством подспудно внедряемых в сознание шаблонов. В режиме прямой связи «интеллектуальные» машины получают возможность рассчитывать будущую реакцию человека, опираясь на мгновенный анализ пользовательских данных.
В этом смысле тревожные предсказания футуристов о «тотальном контроле» со стороны машин [Фукуяма, 2004; Baudrillard, 2002], казалось бы, находят свое подтверждение в современных техно-коммуникационных практиках.
Подобный перекос в сторону машинного управления в сетевых взаимодействиях стал возможен во многом благодаря тому, что человек оказался не готов выстраивать на равных коммуникации с машинами/алгоритмами. У сегодняшнего пользователя не имеется ни навыков, ни технических возможностей влиять на программные алгоритмы ИИ. Это значит, что доступ к прямому взаимодействию с метаданными (а через них и с алгоритмами ИИ) становится насущной задачей для успешного развития человеко-машинных коммуникаций.
Коммуникации алгоритмов ИИ против человеческих коммуникаций
Человеческая коммуникация — это обмен информацией между людьми, осуществляемый благодаря интерпретации и пониманию смысла этой информации.
В программных системах с использованием ИИ обработка данных не имеет ничего общего с человеческим пониманием и интерпретацией смыслов. Алгоритмы не интерпретируют информацию, они обрабатывают только данные, которые сами по себе не имеют смысла — это просто последовательности цифр, цифровые разрядности.
Алгоритмы ИИ в Интернете оперируют паттернами цифровых данных, которые кодируют содержание веб-страниц и включают в себя данные о том, как разные пользователи работали с этими страницами (обменивались контактами, переходили по ссылкам, проставляли твиты, лайки и пр.). Чтобы решить, какие веб-страницы вывести для пользователей, алгоритм не ориентируется на содержание текстов или изображений, но учитывает то, например, как часто на них были даны ссылки и кем, каков размер страницы, дата ее создания и т. д.
То есть сетевые алгоритмы ИИ функционируют благодаря обработке и сравнению данных о структуре и динамике человеческих коммуникаций в Сети. Они не копируют человеческий интеллект, не «изучают» сетевые тексты, но выступают в качестве партнеров по сортировке данных, в результате которой алгоритмы анализируют, компилируют и распространяют информацию без понимания ее контекстов, смыслов или интерпретаций. Алгоритмы учатся не думать, как люди, а участвовать в коммуникации, то есть предлагать инварианты информации, объединенной по определенным критериям.
Вот почему понятие «искусственный интеллект» применительно к современным интернет-помощникам и роботам неправомерно. Очевидно: то, что делает умный динамик Yandex, AlphaGo или автономный робот-помощник, не имеет ничего общего с человеческим интеллектом. Интеллект подразумевает понимание информации, но алгоритмы ИИ не имеют представления о смыслах данных, которые они обрабатывают.
Как пишет социолог Елена Эспозито, «...то, что мы можем наблюдать при взаимодействии с алгоритмами, не обязательно является искусственной формой интеллекта, а скорее искусственной формой коммуникации. <...> Современные алгоритмы машинного обучения настолько эффективны не потому, что они научились имитировать человеческий интеллект и понимать информацию, а скорее потому, что они отказались от попыток и амбиций сделать это и ориентированы на другую модель. Я утверждаю, что алгоритмы машинного обучения, использующие большие данные, искусственно воспроизводят не интеллект, а коммуникативные навыки, и делают они это, паразитически эксплуатируя участие пользователей в Сети» [Esposito, 2022, p. 2—3].
В результате взаимодействия с ИИ пользователь получает информацию, но доступа к метаданным, влияющим на подбор и подачу этой информации, не имеет. Данные, которые ассоциируют и сохраняют алгоритмы, вовсе недоступны восприятию пользователя в том виде, в котором с ними имеет дело машинный алгоритм.
Пользователи не только не имеют доступа к данным алгоритмов, но и не могут знать логику работы алгоритмов. Люди получают на экране лишь визуализированную информацию, которая приобретает значение для них, когда алгоритмические
взаимодействия уже завершены, а результаты представлены в определенном контексте.
Вот почему проблематично считать коммуникацией такой процесс взаимодействия между пользователями и программными алгоритмами. Во-первых, пользователь и алгоритм работают на разных уровнях обработки и интерпретации поступающих данных; во-вторых, алгоритмы не опосредуют обмен информацией между людьми, но, скорее, направляют этот обмен и управляют им. Они уже не медиа, не носители информации, но и не равноценные партнеры человека по коммуникации.
Что привносит машина в коммуникационный обмен? Она привносит дополнительный уровень знания, в котором задействованы данные о поведении, действиях, предпочтениях коммуницирующих сторон. Существенная задача для организации успешного взаимодействия пользователей и алгоритмов ИИ состоит в том, чтобы сделать информативными и доступными для человеческого восприятия процессы работы этих алгоритмов.
Чтобы обеспечить полноценную коммуникацию человека с машинами, работающими на основе нейросетевого ИИ, требуется технически реализованная визуализация метаданных, доступная для каждого пользователя. Чтобы приблизиться к коммуникации с машиной на равных, необходимо обеспечить пользователю полный доступ к оценке и изменению метаданных. Это возможно сделать с помощью визуализации и аурализации таких данных. Человек не может работать с битами и байтами непосредственно, но может работать с их визуализациями.
В случае если в процессе взаимодействия с машинным ИИ пользователи будут не только довольствоваться текстовой информацией, но интерпретировать ее и управлять циркуляцией метаданных, можно будет говорить об алгоритмических коммуникациях.
Новый способ коммуникации — алгоритмическая коммуникация — должен использовать визуализированные метаданные для уравнивания возможностей человека во взаимодействиях с машинами.
На пути к партнерскому взаимодействию человека и машинного ИИ: алгоритмическое чтение и интерпретация метаданных
Чтобы сделать компьютеризированные системы на базе алгоритмов ИИ партнерами человека по коммуникации, программная работа с метаданными должна быть понятной пользователям, доступна интерпретации, осмыслению и изменению. Требуется свободный доступ пользователей к достоверной информации о работе компьютеризированных машин. Если нейросети научились направлять и предугадывать действия человека, тогда человек должен научиться предугадывать и направлять действия алгоритмических процедур. Поэтому доступность техник визуализации данных становится существенной задачей для пользователей в нынешних условиях, когда машины все больше контролируют человеческое общение.
Ряд современных программных средств, например Tableau (www.tableau.com), Polymer (www. Polymer search.com), Sisense (sisense.com) и другие, позволяют уже сейчас реализовать задачу визуализации работы алгоритмов ИИ. Особенно актуальным становится решение задачи проецирования результатов визуализации метаданных непосредственно на сетчатку глаза пользователей. И в этом направлении
ведутся активные исследования [Томилин, Невская, 2010; Barfield, 2015; Brennesholtz, Stupp, 2008].
Визуализация метаданных могла бы не только позволить человеку непосредственно взаимодействовать с алгоритмами ИИ, но и, как указывает Д. Уэйнбергер, «обеспечить основу для нового способа анализа текста с использованием алгоритмических "провокаций"» [Weinberger, 2007, p. 168].
Непредвиденные пользовательские действия могут обновлять и обогащать работу систем искусственного интеллекта. Помимо того, что пользователи могут выступать как поставщики новых данных, они могут быть условием неопределенности этих данных. В цифровой коммуникации неопределенность усиливается благодаря нестереотипным действиям пользователей и случайным соединениям данных, приводя к возникновению их новых конфигураций.
Через взаимный обмен данными пользователи и алгоритмы ИИ могли бы совместно вносить изменения в ассоциируемые цепочки цифровых данных. Отсюда: задача алгоритмической коммуникации не в конкретизации смысла, не в обмене определенной информацией, но в увеличении и накоплении инвариантов данных.
В этих условиях должны быть подвергнуты изменению привычные методы работы человека с информацией. Актуальным становится не заучивание человеком готовой информации, а ситуативный выбор вариантов данных из их визуализированного набора.
Как указывает социолог Е. Эспозито, коммуникации с алгоритмами требуют «не объяснения, а прогнозирования, не выявления причинно-следственных связей, а поиска корреляций, не управления неопределенностью будущего, а обнаружения его структур (паттернов)» [Esposito, 2022, p. xiii].
Одно из наиболее значительных новшеств цифровых гуманитарных наук последнего времени — алгоритмическое чтение — существенно отличается от традиционного чтения текстов. С одной стороны, это все еще чтение, поскольку обращено оно к пользовательской интерпретации текстов и данных. С другой стороны, такое чтение опирается на активную, автономную роль алгоритмов, которые сами по себе не интерпретируют значения и не осмысливают информацию. Это синтез между человеческим и машинным, гибридизация между интерпретирующим чтением и алгоритмической обработкой текста, в результате чего машинный искусственный интеллект и пользователи оказываются созависимыми, становясь партнерами по коммуникации.
Выводы
Эволюция искусственного интеллекта и нейросетевых технологий обеспечивает людей возможностью создавать новые компьютеризированные машины по своему образу и подобию, имитируя функции человеческого мозга и придавая им человеческие характеристики.
Однако, как показывает это исследование, программные алгоритмы ИИ становятся все более эффективными партнерами человека по коммуникациям не потому, что их возможности напоминают человеческие, а потому, что они работают с информацией иначе, нежели люди.
Развитие технологий искусственного интеллекта в очередной раз ставит перед человечеством задачу переосмысления знания и, возможно, указывает на то, что знание не всегда предстает лишь как человеческое, но оно может быть человеко-машинным знанием. В век доминирующего влияния информации мыслить совместно с «интеллектуальными» машинами значит мыслить не только смыслами и значениями, но и инвариантами и паттернами данных.
Переход человека к постчеловеческому состоянию означает приспособление к окружающему миру, зависящему от цифровых данных. И последние научно-технические достижения, доминирование искусственного интеллекта можно рассматривать как продолжение процессов отчуждения человека от его природы и приспособление к алгоритмическому типу взаимодействия (и коммуникации).
Вместе с тем технологии искусственного интеллекта не должны превратить человека в машину. Человеческий интеллект — это сочетание когнитивных способностей, которые нельзя свести к алгоритмическому действию на основе распознавания ошибок. Это нечто более динамичное не с точки зрения увеличения объема обрабатываемых данных, а с точки зрения способности адаптироваться. Гибкость мышления, здравый смысл и интуиция — это то, что характеризует только человека как вид, и это черты, которые машина никогда не сможет приобрести. Существенной характеристикой сознания является его биологическое состояние бытия. Именно оно определяет одушевленное, живое человеческое существо, в отличие от его алгоритмических имитаций с помощью искусственного интеллекта.
Но поскольку человек способен усиливать действие искусственного интеллекта, а ИИ, очевидно, способен усиливать действия человека, неизбежным видится их равноправный технический симбиоз в процессе эволюции человеческой культуры.
Поэтому задачей успешного взаимодействия с алгоритмизированными машинами будет не создание все более человекоподобных машин, а предотвращение воспитания людей, похожих на искусственных. Исследователь К. Джилл пишет, что «самым ценным ресурсом, которым мы располагаем, является человеческий интеллект, другими словами, человеческие навыки, изобретательность и креативность. С другой стороны, машинный интеллект — это информация и вычисление данных. Именно благодаря симбиотическому балансу между человеческим интеллектом и машинным интеллектом мы можем достигать оптимальных решений проблем, которые наиболее важны для человечества» [Gill, 2016, p. 139].
Взаимодополняющие друг друга партнеры — человек и машина — могут обеспечить будущее человеческой коммуникации.
Поскольку в рамках исследований человеко-машинных коммуникаций технология рассматривается как «участник» [Gunkel, 2012] или «коммуникатор» [Guzman, Lewis, 2020], практики алгоритмической коммуникации открывают новое социальное понимание и культурные аспекты технологии ИИ. Внедрение искусственных агентов в качестве социальных акторов, возможно, повлечет изменение человеческого общения и самовосприятия.
Совершенствование процессов взаимодействия человека с системами искусственного интеллекта становится существенным условием оптимизации процессов компьютеризации и цифровизации в современной культуре.
Литература
Ванькова В.С., Мартынюк Ю.М., Хабаров Н.Н. Системы искусственного интеллекта. Часть I. Рекурсивно-логическое программирование: учебное пособие. Тула: Изд-во ТГПУ им. Л.Н. Толстого, 2012. 64 с.
Горохов П. Робот Microsoft всего за сутки стал антисемитом и сексистом // РИДУС. 2016. 24 марта. Режим доступа: https://www.ridus.ru/robot-microsoft-vsego-za-sutki-stal-antisemitom-i-seksistom-216297.html (дата обращения: 19.19.2024).
Гудфеллоу Я., Бенджио И., Курвилль А. Глубокое обучение = Deep Learning. M.: ДMК Пресс, 2017. 652 с.
Деан С. Сознание и мозг. Как мозг кодирует мысли / Пер. с. англ. И. Ющенко. M.: Карьера Пресс, 2018. 416 с.
Деникин А.А. Дискурсивные аспекты постчеловеческих коммуникаций // Цифровой ученый: лаборатория философа. 2023. Т. 6. № 4. С. 33-53. DOI: 10.32326/2618-9267-2023-64-33-53.
Дмитриева О. Хорошие боты: кто на самом деле редактирует Википедию // CHIP. 2018. 4 апреля. Режим доступа: https://ichip.ru/tekhnologii/khoroshie-boty-kto-na-samom-dele-redaktiruet-vikipediyu-185242 (дата обращения: 19.19.2024).
Игнатьев В.И., Спиридонова К.И. Взаимодействие «человек — социальный. робот»: через преодоление барьеров к гибридной коммуникации // Дискурс. 2022. Т. 8. № 6. С. 101-115. DOI: 10.32603/2412-8562-2022-8-6-101-115.
Кормен Т., Лейзерсон Ч., Ривест Р., Штайн К. Алгоритмы: построение и анализ / Пер. с англ. 2-е изд. M.: Изд. дом «Вильямс», 2011. 1296 с.
Кудряшова М.А., Грибов Н.А. Коммуникативный саботаж в диалогах «человек — машина» (на примере виртуального ассистента «Афина» на номере 900) // Вестник Череповецкого государственного университета. 2023. № 5 (116). С. 176-187. DOI: 10.23859/1994-0637-20235-116-14.
Курашева А. Почти половину всего трафика в рунете в 2022 году генерировали боты // Ведомости. 2023. 5 июня. Режим доступа: https://www.vedomosti.ru/technology/ articles/2023/06/15/980362-pochti-polovinu-trafika-v-runete-generirovali-boti (дата обращения: 19.19.2024).
Николенко С., Кадурин А., Архангельская Е. Глубокое обучение. СПб.: Питер, 2018. 480 с.
Ожегов С.И. Толковый словарь русского языка: 80 000 слов и фразеологических выражений. 4-е изд., доп. M.: ООО «А ТEMП», 2006. 938, [3] с.
Около 48 млн аккаунтов в Twitter оказались ботами // Коммерсантъ. 2017. 13 марта. Режим доступа: https://www.kommersant.ru/doc/3240954 (дата обращения: 19.19.2024).
Томилин М.Г., Невская Г.Е. Дисплеи на жидких кристаллах. СПб.: СПбГУ ИТMО, 2010. 108 с.
Фукуяма Ф. Наше постчеловеческое будущее: Последствия биотехнологической революции / Пер. с англ. M^. Левина. M.: ООО «Издательство АСТ»: ОАО «ЛЮКС», 2004. 349 с.
Харбанс Р. Грокаем алгоритмы искусственного интеллекта. СПб.: Питер, 2023. 368 с.
Шестоперов Д. Человечество проиграло в го. Нейросеть Google одержала решающую победу в го над человеком // ГАЗЕТА.РУ. 2016. 12 марта. Режим доступа: https://www.gazeta. ru/tech/2016/03/12/8119031/alphago-wins.shtml?ysclid=lstkdm9vu7490004469 (дата обращения: 19.10.2024).
Barfield W. Fundamentals of Wearable Computers and Augmented Reality. 2nd ed. Boca Raton: Chemical Rubber Company, 2015. 739 p.
Baudrillard J. Screened Out. Trans. Chris Turner. New York: Verso, 2002. 208 p.
Bennett J. Systems and Things. On Vital Materialism and Object-Oriented Philosophy // The Nonhuman Turn / Ed. R. Grusin. Minneapolis: University of Minnesota Press, 2015. Р. 223-239.
Brennesholtz M.S., Stupp E.H. Projection Displays. 2nd Edition. Wiley, 2008. 452 р.
Carr C.T. Computer-Mediated Communication: A Theoretical and Practical Introduction to Online Human Communication. Lanham, Maryland, U.S.: Rowman & Littlefield Publisher, 2021. 348 p.
Esposito E. Artificial Communication: How Algorithms Produce Social Intelligence. Cambridge, MIT Press., 2022. 200 p.
Gill K. Artificial Super Intelligence: Beyond Rhetoric // AI & Society. 2016. Vol. 31. No. 2. No. 137-143. DOI: 10.1007/s00146-016-0651-x.
Grusin R. Introduction // The Nonhuman Turn / Ed. R. Grusin. Minneapolis: University of Minnesota Press, 2015. P. vii-xxix.
Gunkel D.J. Communication and Artificial Intelligence: Opportunities and Challenges for the 21st Century// Communication + 1. Vol. 1. Article 1. 2012. P. 1-25. DOI: 10.7275/R5QJ7F7R.
Guzman A.L., Lewis S.C. Artificial Intelligence and Communication: A Human-Machine Communication Research Agenda // New Media & Society. 2020. Vol. 22. No. 1. P. 70-86. DOI: 10.1177/1461444819858691.
Guzman A.L. What Is Human-Machine Communication, Anyway? // Human-Machine Communication: Rethinking Communication, Technology, and Ourselves / Ed. A.L. Guzman. New York: Peter Lang, 2018. P. 1-28.
TAdviser. Фальшивые аккаунты в Facebook // TAdviser. Государство. Бизнес. Технологии. 2022/09/28. Режим доступа: https://www.tadviser.ru/index.php/ Статья: Фальшивые_акка-ymbi_B_Facebook.
Lovink G. Zero Comments: Blogging and Critical Internet Culture. New York; London: Routledge, 2007. 340 р.
Spence P. Searching for Questions, Original Thoughts, or Advancing Theory: Human-Machine Communication // Computers in Human Behavior. 2019. No. 90. P. 285-287. DOI: 10.1016/j. chb.2018.09.014.
Thurlow C., Lengel L., Tomic A. Computer-Mediated Communication: Social Interaction and the Internet. London, England: Sage Publications, 2004. 272 р.
Weinberger D. Everything Is Miscellaneous: The Power of the New Digital Disorder. New York: Henry Holt, 2007. 277 р.
Human-Machine Interactions and Artificial Intelligence: Towards a New Understanding of Algorithmic Communications
Anton A. Denikin
GITR Film and Television School,
Moscow, Russia; ORCID ID: 0000-0001-8101-7952 e-mail: [email protected]
The article analyzes human-machine communications handled through neural networks of artificial intelligence (AI). It is argued that AI software algorithms are becoming more and more effective human communication partners, not because their capabilities resemble human ones, but because they work with information differently than humans. In software systems using AI, data processing has nothing to do with human understanding and interpretation of meanings. Algorithms do not interpret information, they process only data that does not make sense in itself — these are just sequences of
digits, digital patterns. An AI-based computer system does not see a human as a communication partner. For a computer, a user is just a data provider for combining this data into chains (patterns) for the purpose of their subsequent processing. In order to successfully manage digital processes and significantly influence the behavior of a machine (computer), a person needs not to be limited to the role of a data provider and consumer of ready-made information, but to skillfully interact with a database of software data, have access to means of visualization / auralization of this data, tactile management ofthis data. The ability for each user to influence the machine exchange of associated data should form the basis of modern algorithmic communications. Two directions in the development of AI algorithms are analyzed: the program-symbolic representation of instructions, which uses symbolic logic and is designated as symbolic AI (GOFAI) and artificial neural networks, ANN (Artificial neural network), which work on statistical principles and organize various forms of "machine learning." The author points out that the use of artificial neural networks ANN is preferable, since in this case AI algorithms are defined as a specific type of communicative agent with which a human can interact. It is argued that metadata visualization could not only allow a person to interact directly with AI algorithms, but also update the operation of artificial intelligence systems using algorithmic reading procedures. Under the current conditions, it is necessary to use the technical capabilities of algorithmic communications not to think like machines or use machines to ease the labor costs of human thinking, but in order to think in conjunction with machines, to enrich the work of machines and to expand their own human capabilities.
Keywords: artificial intelligence, human-machine interactions, algorithm, algorithmic communication, algorithmic reading, post human communication, metadata.
References
Barfield, W. (2015). Fundamentals of Wearable Computers and Augmented Reality, 2nd ed., Boca Raton: Chemical Rubber Company.
Baudrillard J. (2002). Screened Out. Trans. Chris Turner, New York: Verso.
Bennett, J. (2015). Systems and Things. On Vital Materialism and Object-Oriented Philosophy, in R. Grusin (Ed.), TheNonhuman Turn (pp. 223—239), Minneapolis: University of Minnesota Press.
Brennesholtz, M.S., Stupp, E.H. (2008). Projection Displays, 2nd ed., Wiley.
Carr, C.T. (2021). Computer-Mediated Communication: A Theoretical and Practical Introduction to Online Human Communication, Lanham, Maryland, U.S.: Rowman & Littlefield Publisher.
Dean, S. (2018). Soznaniye i mozg. Kak mozg kodiruyet mysli [Consciousness and brain. How the brain encodes thoughts], Moskva: Kar'yera Press (in Russian).
Denikin, A.A. (2023). Diskursivnyye aspekty postchelovecheskikh kommunikatsiy [Discursive aspects of posthuman communications], Tsifrovoy uchenyy: laboratoriya filosofa, 6 (4), 33—53 (in Russian). DOI: 10.32326/2618-9267-2023-6-4-33-53.
Dmitrieva, O. (2018. April 4). Khoroshiye boty: kto na samom dele redaktiruyet Vikipediyu [Good bots: who actually edits Wikipedia], CHIP. Available at: https://ichip.ru/tekhnologii/khoroshie-boty-kto-na-samom-dele-redaktiruet-vikipediyu-185242 (date accessed: 19.10.2024) (in Russian).
Esposito, E. (2022). Artificial Communication: How Algorithms Produce Social Intelligence, Cambridge: MIT Press.
Fukuiama, F. (2024). Nashe postchelovecheskoye budushcheye: Posledstviya biotekhnologicheskoy revolyutsii [Our posthuman future: Consequences of the biotechnology revolution], M.B. Levin (Transl.), Moskva: OOO "Izd-vo AST": OAO "LYuKS" (in Russian).
Gill, K. (2016). Artificial Super Intelligence: Beyond Rhetoric, AI & Society, 31 (2), 137-143. DOI: 10.1007/s00146-016-0651-x.
Gorokhov, P. (2016, March 24). Robot Microsoft vsego za sutki stal antisemitom i seksistom [Microsoft's robot became an anti-semite and sexist in just a day], RIDUS. Available at: https://www.
ridus.ru/robot-microsoft-vsego-za-sutki-stal-antisemitom-i-seksistom-216297.html (date accessed: 19.10.2024) (in Russian).
Grusin, R. (2015). Introduction, in R. Grusin (Ed.), The Nonhuman Turn (pp. vii—xxix), Minneapolis: University of Minnesota Press.
Gudfellou, Ya., Bendzhio, I., Kurvill', A. (2017). Glubokoe obuchenie = Deep Learning, Moskva: DMK Press (in Russian).
Gunkel, D.J. (2012). Communication and Artificial Intelligence: Opportunities and Challenges for the 21st Century, Communication + 1, no. 1, article 1, pp. 1—25.
Guzman, A.L., Lewis, S.C. (2020). Artificial Intelligence and Communication: A Human-Machine Communication Research Agenda, New Media & Society, 22 (1), 70—86. DOI: 10.1177/1461444819858691.
Guzman, A.L. (2018). What Is Human-Machine Communication, Anyway?, in A.L. Guzman (Ed.), Human-Machine Communication: Rethinking Communication, Technology, and Ourselves (pp. 1-28), New York: Peter Lang.
Ignat'yev, V.I., Spiridonova, K.I. (2022). Vzaimodeystviye "chelovek — sotsial'nyy robot": cherez preodoleniye bar'yerov k gibridnoy kommunikatsii ["Human — social robot interaction": through overcoming barriers to hybrid communication], Diskurs, 8 (6), 101-115 (in Russian). DOI: 10.32603/2412-8562-2022-8-6-101-115.
Kharbans, R. (2023). Grokayemalgoritmy iskusstvennogointellekta [Grokking artificial intelligence algorithms], S.-Peterburg: Piter (in Russian).
Kommersant (2017. March 13). Okolo 48 mln akkauntov v Twitter okazalis' botami [About 48 million Twitter accounts could be bots]. Available at: https://www.kommersant.ru/doc/3240954 (date accessed: 19.10.2024) (in Russian).
Kormen, T., Leizerson, Ch., Rivest, R., Shtayn, K. (2011). Algoritmy: postroeniye i analiz [Algorithms: construction and analysis], 2st ed., Moskva: Izd. dom "Vil'yams" (in Russian).
Kudryashova, M.A., Gribov, N.A. (2023). Kommunikativnyy sabotazh v dialogakh "chelovek-mashina" (na primere virtual'nogo assistenta "Afina" na nomere 900) [Communicative sabotage in human-machine dialogues (using the example of the virtual assistant "Athena" at 900], Vestnik Cherepovetskogo gos. un-ta, no. 5 (116), 176-187 (in Russian). DOI: 10.23859/1994-0637-2023-5116-14.
Kurasheva, A. (2023, June 5). Pochti polovinu vsego trafika v runete v 2022 godu generirovali boty [Almost half of all traffic on the Runet in 2022 was generated by bots], Vedomosti. Available at: https://www.vedomosti.ru/technology/articles/2023/06/15/980362-pochti-polovinu-trafika-v-runete-generirovali-boti (date accessed: 19.10.2024) (in Russian).
Lovink, G. (2007). Zero Comments: Blogging and Critical Internet Culture, New York; London: Routledge.
Nikolenko, S., Kadurin, A., Arkhangel'skaya, E. (2018). Glubokoye obucheniye [Deep learning]. St. Petersburg: Piter (in Russian).
Okolo (2017. March 13) 48 mln akkauntov v Twitter okazalis' botami [About 48 million accounts in Twitter appeared to be bots], Kommersant. Available at: https://www.kommersant.ru/doc/3240954 (date accessed: 19.19.2024).
Ozhegov, S.I. (2006). Tolkovyy slovar'russkogoyazyka: 80 000slov i frazeologicheskikh vyrazheniy [Explanatory dictionary of the Russian language: 80,000 words and phraseological expressions], 4th ed., Moskva: OOO "A TEMP" (in Russian).
Shestoperov, D. (2016. March 12). Chelovechestvo proigralo v Go. Neyroset' Google oderzhala reshayushchuyu pobedu v go nad chelovekom [Humanity has lost in Go. Google's neural network has won a decisive victory in go over man], GAZETA.RU. Available at: https://www.gazeta.ru/ tech/2016/03/12/8119031/alphago-wins.shtml?ysclid=lstkdm9vu7490004469 (date accessed: 19.10.2024) (in Russian).
Spence, P.R. (2019). Searching for Questions, Original Thoughts, or Advancing Theory: Human-Machine Communication, Computers in Human Behavior, no. 90, 285-287. DOI: 10.1016/j. chb.2018.09.014.
TAdviser, Fal'shivye akkaunty v Facebook. Gosudarstvo, Biznes i Tekhnologii [TAdviser. False accounts in Facebook. State, business and technologies]. Available at: https://www.tadviser.ru/index. php/ Stat'ya: Fal'shivyye_akkaunty_v_Facebook (date asccessed: 28.09.2022) (in Russian).
Thurlow, C., Lengel, L., Tomic, A. (2004). Computer-Mediated Communication: Social Interaction and the Internet, London, England: Sage Publications.
Van'kova, V.S., Martyniuk, Yu.M., Khabarov, N.N. (2012). Sistemy iskusstvennogo intellekta. Chast' I [Artificial intelligence systems], in Yu.M. Martyniuk, N.N. Khabarov, V.S. Van'kova, Rekursivno-logicheskoye programmirovaniye: uchebnoye posobiye [Recursive logic programming: a textbook], Tula: Izd-vo TGPU im. L.N. Tolstogo (in Russian).
Weinberger, D. (2007). Everything Is Miscellaneous: The Power of the New Digital Disorder, New York: Henry Holt.
