CC BY
123
Илья Утехин
Взаимодействие с «умными вещами»: введение в проблематику1
Илья Владимирович Утехин
Европейский университет в Санкт-Петербурге ilya.utekhin@gmaiL.com
Несколько лет назад распространенным предметом бытовой техники стали пылесосы-роботы. Взявшись за дело, они сами находят свой путь, более или менее успешно обходя дом. Подобно тому, как из пределов досягаемости маленьких детей стараются убрать хрупкие и острые вещи, владелец такого пылесоса должен бы заранее предусмотреть, чтобы на пол не свисали провода, чтобы на возможном пути пылесоса не встретился какой-нибудь предмет одежды и т.п., т.е. позаботиться о том, чтобы избежать необходимости вмешиваться самому в процесс автоматической уборки. Ведь засосав в себя носок или запутавшись в проводах, робот не справится сам: он станет звать человека, издавая звуковой сигнал о помощи. Так же он поведет себя и если наполнится его контейнер для мусора, потому что обслужить сам себя при теперешнем уровне техники пылесос не в состоянии, хотя элементарное самообслуживание (вернуться на базу для подзарядки аккумулятора) ему доступно. Человек может удивиться, обнаружив в себе чувствительность к возможному поведению робота, внимание или даже привычку к его звукам — как он привык к звукам, производимым кошкой.
1 Статья представляет собой обзор некоторых аспектов взаимодействия человека и техники, как они представлены в западных работах последних двух десятилетий. Текст написан в рамках совместного проекта Фонда «Сколково» и Европейского университета в Санкт-Петербурге по Science and Technology Studies.
В разговоре о «поведении» пылесоса нам удобно пользоваться словами и образами, которые обычно применяются к разговору о живых существах. Как если бы у нас дома завелось еще одно животное. Робот-пылесос в гораздо большей степени, чем другие виды бытовой техники (и, в частности, в большей степени, чем компьютер), склоняет нас к тому, чтобы относиться к нему как к своеобразному существу, чтобы не сказать «личности». Даже если вы разбираетесь в технике и понимаете, как устроена его программа, какими сенсорами он пользуется и какие состояния принимает, в быту проще — во всяком случае, короче — объяснять его состояния через «намерения». Ведь действие такого пылесоса представляет собой поведение: оно включает автономное перемещение, взаимодействие с окружающей средой и манипулирование ее элементами, причем эти действия носят, очевидно, рациональный и целенаправленный характер. В каком-то смысле это куда больше похоже на поведение живого существа, чем «поведение» компьютера, стоящего на столе. К компьютеру некоторые пользователи тоже порой относятся как к личности, например, сердясь на него и, чтобы все-таки добиться своих целей, предпринимая действия сугубо ритуального, технологически бессмысленного характера (как они могут выглядеть со стороны «компьютерно грамотного» человека).
Компьютер, конечно, воспринимает действия пользователя с клавиатурой и мышью и в ответ что-то изображает и пишет на экране, но такое «поведение» принципиально отличается, например, от того, что делает кошка, играя с мячиком. Поведение робота-пылесоса ближе к кошке, чем к компьютеру. И, кстати, кошка, расценивающая компьютер разве что в качестве источника тепла, к пылесосу относится совсем по-другому: либо пугается его, либо пытается с ним взаимодействовать, когда он передвигается по комнате. Смысл автономных действий пылесоса вплетен в повседневность его владельца. Бытовая техника вообще перераспределяет приложение времени и ручного труда в домашнем хозяйстве, создавая новые формы домашней работы — как предполагается, менее трудоемкие, чем прежние, которые использование техники должно заместить. Так, посудомоечная машина облегчает мытье посуды, но не устраняет необходимости очистить каждую тарелку от остатков пищи и требует отдельных усилий по загрузке и разгрузке посуды и по обслуживанию машины. Подобно этому робот-пылесос не устраняет необходимости делать уборку руками и использовать обычный пылесос, но делает ручную уборку менее пыльной. При этом он влияет и на представления владельца о чистоте, ведь когда на следующий день после ручной уборки обнаруживаешь, что робот в чистой, казалось бы, квартире набрал
целый контейнер пыли, начинаешь относиться к чистоте по-иному.
И робот, и посудомоечная машина, и микроволновка содержат микропроцессоры — по сути, маленькие специализированные компьютеры. Цифровая технология, в разнообразных формах внедряясь в повседневность, перестраивает нашу привычную деятельность, не обязательно тем самым делая жизнь проще, как это, скорее всего, представлялось создателям технических устройств. Например, в отделениях крупнейшего банка России — Сбербанка — несколько лет назад были наряду с банкоматами установлены терминалы самообслуживания для оплаты счетов и для иных услуг, которые раньше клиент мог получить, лишь обратившись к операционистке. Сегодня те, кто не хотят стоять в очереди, могут попытаться самостоятельно произвести необходимые операции. На тот случай, если самостоятельно не получается (что с клиентами старших возрастных когорт случается довольно часто), у терминалов и банкоматов с недавнего времени дежурят специальные работники банка, которые помогают клиентам в обращении с терминалом самообслуживания, подсказывая и объясняя им, на какую кнопку нажать. Таким образом, задача, стоящая перед клиентом банка, не очень хорошо ориентирующимся в интерфейсе терминала, становится проще по сравнению с оплатой в окошке у опе-рационистки, только если кроме терминала рядом с ним еще и работник банка: они решают задачу втроем — два человека и терминал.
Есть и такие пользователи, которые в пределах своей задачи сами без труда разбираются с интерфейсом терминала. Для таких клиентов дежурящая у терминала «девушка со степлером» тоже полезна: даже если ее советы по пользованию терминалом не востребованы, она прикрепляет чек к документу. Дело в том, что при оплате в окошке кассы штамп кассовой машины ставился прямо на оплачиваемую квитанцию, тогда как оплата в терминалах самообслуживания предполагает, что клиенту выдается чек. Получается, что чек существует отдельно от квитанции, он может потеряться, а между тем именно чек является документом об оплате, который по правилам следует сохранять в течение определенного времени, чтобы в случае чего предъявить в споре. В быту документы об оплате коммунальных услуг хранят дома в пачках, папках или конвертах. «Девушка со степлером» позволяет упростить хранение оплаченных счетов и домашнюю бюрократию: вместо того чтобы беспокоиться о хранении двух документов (счета и чека об оплате), клиент теперь беспокоится о сохранении одного, как это было при оплате у кассира.
Отметим, что хотя работа филиалов Сбербанка и стала в целом более эффективной, а клиент по идее тратит меньше времени на рутинную операцию оплаты счетов, новые терминалы оплаты не только не заменили собой операционисток, но и создали дополнительные виды деятельности и даже, вероятно, новые рабочие места по обслуживанию терминалов и их пользователей.
Помимо того теперь уже очевидного обстоятельства, что технологии следует рассматривать в контексте социокультурной системы, частью которой они являются ([Pfaffenberger 1992]; ср. также принятый в исследованиях науки и технологии подход Б. Латура в рамках «акторно-сетевой» теории [Latour 2005]), приведенные выше примеры иллюстрируют несколько сюжетов, касающихся взаимодействия человека и компьютерной технологии, на которых мы остановимся ниже в нашем обзоре и которые требуют антропологического осмысления. Дело в том, что и в случае с терминалами оплаты, и в случае пылесоса-робота мы имеем дело с примерами интерактивных артефактов. Обращение с такого рода артефактами или, точнее сказать, взаимодействие с ними существенно отличается от использования вещей, которые преимущественно составляли вещную среду повседневности вплоть до конца ХХ в.
В отличие от использования простых вещей вроде молотка и несложных устройств вроде конторских счётов, велосипеда или кофемолки, люди, пользующиеся, например, калькулятором или мобильным телефоном, обычно только в самом общем виде представляют себе, как эти вещи устроены и работают. Это сложные вещи, устройство которых неочевидно и внутренние состояния которых недоступны наблюдению человека-пользователя. Обычно эта информация пользователю не нужна для достижения его целей, и он имеет дело лишь с условной репрезентацией, поверхностным представлением внутреннего состояния артефакта в той форме, которую предложил дизайнер.
Как отмечает специалист в области прикладной когнитивной науки и классик «дизайна, ориентированного на пользователя» Дональд Норман, в современных электронных приборах практически отсутствует непосредственная физическая или очевидная пространственная связь между ручками управления и индикаторами, с одной стороны, и внутренним устройством машины, с другой. Таким образом, то, что мы видим снаружи, абстрагировано от реального функционирования машины. Та часть вещи, в которой сосредоточены средства репрезентации и органы оперирования с ней, адресованные пользователю, и представляет собой интерфейс в системе, в которую
входят вещи и пользователь. В современных интерфейсах устройств, основанных на компьютерной технологии, свойства объектов, составляющих интерфейс, отличаются от свойств обычных вещей. Например, свойства папки на рабочем столе компьютера существенно отличаются от свойств папки на столе в реальном мире. Настоящая папка с документами, будучи открыта, по виду отличается от закрытой, а если она пуста, она отличается от той, которая полна бумаг. А если «папка» — это условный объект в интерфейсе компьютера, как и находящиеся в ней «документы»-файлы, то мы видим только то, что для нас придумал дизайнер в качестве визуализации свойств этих объектов [Norman 1993: 79].
Смысл обычной вещи представлен через ее внешние свойства и возможности оперирования с ней1. Это не значит, конечно, что видимые свойства исчерпывающим образом определяют использование вещи в культурных практиках, однако они склоняют к тем или иным способам физического оперирования с объектом (так, в отверстие можно, например, вставить палец). Они присущи этой вещи как любому физическому объекту, тогда как для условного, виртуального объекта (типа папки в компьютере) все видимые характеристики зависят от замысла и проницательности дизайнера: это он создал внешние проявления информационным структурам, которые сами по себе невидимы и вообще недоступны восприятию.
Современные интерфейсы, с которыми взаимодействует пользователь в своей повседневной жизни, сделали привычным оперирование с такими объектами, не имеющими обычного физического воплощения. Эти интерфейсы являются плодом со-циотехнической эволюции, в ходе которой на протяжении десятилетий начиная с середины XX в. не только повышалась мощность вычислительных устройств и изменялись формы и сферы применения вычислений (от больших компьютеров с несколькими пользователями — к персональным компьютерам и одновременно к множеству специализированных устройств, в которые встроены микропроцессоры), но и возникали принципиально новые способы общения человека с компьютером. На рубеже веков Пол Дориш впервые обобщает эту эволюцию не в технических терминах, а в перспективе того, какие формы принимает обращение пользователя с компьютером, какие человеческие способности требуются для работы с ним на каждом этапе развития интерфейса [Dourish 2004: 5—23].
1 Опираясь на идеи и терминологию создателя экологического подхода в когнитивной психологии Джеймса Гибсона, Д. Норман обозначает эти воспринимаемые свойства как "affordances" [Norman 1988: 9]; в русском переводе Гибсона этот термин выглядит как «возможности» [Гибсон 1988: 188-213].
Первый этап — электрический: ранние вычислительные устройства были предназначены для моделирования конкретной ситуации, и, чтобы поменять задачу, надо было менять электрическую схему устройства, которой и задавалась программа. Одним из революционных нововведений оказалась возможность загружать и хранить в памяти не только данные, но и программу, что могло выглядеть как нажимание кнопок, переключение ручек и перетыкание кабелей. Во всяком случае, составление программы требовало знания устройства данной машины, данного конкретного набора команд — машинного языка.
На следующем, символьном этапе инструкции для машины были представлены в мнемонически несколько более удобной для человека форме, чем последовательность нулей и единиц — в виде текстов на языках программирования. Человек, пишущий программу, оказался меньше привязан к конкретной системе и ее устройству (программа могла быть запущена на разных компьютерах) и работал на более абстрактном — и более человеческом — уровне, ведь языки программирования ближе к символическим формам человеческой коммуникации, чем машинные коды.
Однако на символьном этапе программа и данные загружались в машину не в виде текста, а, например, в виде стопки перфокарт. Рубеж между символьным и следующим, текстовым этапом проходит там, где появляется взаимодействие человека и компьютера, их диалог. Между человеком и машиной теперь появляется клавиатура и экран, а взаимодействие совершается в реальном времени: инструкция пользователя в текстовом виде набирается на клавиатуре и отражается на экране, а ответ машины доступен на экране в текстовом виде, и эта цепь действий пользователя и ответов системы образует единый потенциально бесконечный поток информации. С этого момента компьютер становится интерактивным артефактом: пользователь может в реальном времени контролировать его действия, прерывать и модифицировать задания (это же сегодня относится к банкомату, мобильному телефону и многим другим артефактам, основанным на компьютерной технологии).
Современный этап в отношениях человека с компьютером опирается на человеческие навыки распознания в пространстве. Переход от текстовой к графической форме не просто заменил слова иконками на экране, а открыл новое измерение для взаимодействия. Вместо одномерной линейной строки символов — двумерное пространство, в котором распределена информация, так что фокус внимания пользователя может перемещаться от одного места к другому. Получается,
что работа с информацией выглядит как работа с пространством, организованным при помощи визуальных метафор вроде «рабочего стола». На нем есть папки, документы в папках, корзина и т.п. — все это придает смысл действиям, которые совершаются посредством прямой манипуляции: репрезентации объектов (в виде иконок или строк) позволяют непосредственные действия с ними (например, зацепил мышкой и перенес из одной папки в другую). В результате абстрактные объекты, из которых состоит концептуальная модель системы (файлы, соединения, серверы и т.п.), в метафорическом мире отображены таким образом, который определяет, как с этими объектами можно обращаться и как они взаимодействуют [Dourish 2004: 13].
Эволюция интерфейсов на каждом этапе позволяет использовать в общении с технологией все более широкий спектр человеческих способностей и навыков. Тем меньше человеку требуется специальной подготовки, и тем легче компьютерные артефакты включаются в повседневность, особенно в повседневность тех поколений, которые с детства окружены цифровой технологией.
В последнее десятилетие XX в. было сформулировано видение того, как будет выглядеть компьютерная технология недалекого будущего по отношению к человеку-пользователю. Во-первых, это распространение не только графических, но и осязаемых и иных сенсорно-богатых интерфейсов, которые сделают оперирование компьютерной технологией для человека настолько же естественным, насколько естественна манипуляция физическими объектами, потому что интерфейс будет опираться на те же способности человека, которые используются и в обращении с обычными вещами. А во-вторых, компьютерная технология созреет настолько, что перестанет быть заметной и как бы растворится в окружающей среде, которая будет обладать искусственным интеллектом — этот образ технологического будущего обозначают как «вездесущие вычисления» (ubiquitous computing, см.: [Weiser 1991]).
Одной из характеристик «созревания» компьютерной (как, в сущности, и любой другой) технологии оказывается ее все уменьшающаяся заметность [Norman 1999]. Знаменитый пример М. Мерло-Понти с палочкой слепого1 не только иллю-
1 «Палочка слепого перестает быть для него объектом, она больше не воспринимается сама по себе, ее кончик превратился в чувствительную зону, она удлиняет размах и радиус действия касания, она превращается в аналог взгляда. В исследовании предметов длина палочки не проявляется и не опосредует действие. <...> Привыкнуть к шляпе, к автомобилю или к палочке — значит устроиться в них или же, наоборот, сделать их частью объема своего тела» [Merleau-Ponty 1945: 167-168].
стрирует возможность модификации собственной телесности путем включения артефакта в свое физическое функционирование, но может быть прочитан и иначе: технология встает между человеком и его действием только до тех пор, пока она непривычна и несовершенна. Отлаженная и хорошо работающая инфраструктура незаметна. Так, мы обращаем внимание на ручку, которой пишем, только тогда, когда она вдруг перестает писать и тем самым отвлекает на себя наше внимание от сочиняемого текста. Компьютерная технология пока что не столь совершенна и удобна, как шариковая ручка, поэтому периодически требует нашего внимания и заботы, отвлекая нас от тех задач, которые мы хотели решить с ее помощью. Здесь можно увидеть и параллель идеям М. Хайдеггера (или прямое их влияние на исследования в области человеко-машинного взаимодействия, как утверждает Пол Дориш ^оипзИ 2004: 108—109]). Идеям о том, что «подручное» орудие, незаметное, когда все работает гладко, грозит встать между мной миром и стать заметным, если оно «не налажено»1.
Дональд Норман приводит пример того, как на наших глазах произошло «врастание» технологии как инфраструктуры в специализированные устройства. Электрические моторы сами по себе обычному человеку в быту не нужны, но за некоторое время до тех пор, как электромоторы стали невидимой частью множества приборов бытовой техники, рекламировались и продавались универсальные бытовые электрические моторы, довольно громоздкие и дорогие: разные насадки к этим моторам давали в результате миксер, вентилятор, кофемолку, швейную машинку и т.д. Сегодняшний пользователь электрической зубной щетки или фена не задумывается о работе мотора внутри этого устройства. По аналогии можно увидеть и один из аспектов развития компьютерной технологии: сам по себе компьютер не может быть полезен человеку, он — инфраструктура, ценность которой определяется теми программами и периферийными устройствами, которые позволяют решать нужные человеку задачи. Подобно универсальному мотору, персональный компьютер служит и для написания текстов, и для работы с почтой, и для многих других целей. Делая свои дела на компьютере, мы все же вынуждены помнить об операционной системе, памяти и вирусах. Но компьютер перестает быть за-
1 Ср. из «Бытия и времени» в переводе В. Бибихина: «Ближайше подручное сущее может быть найдено в озабочении неприменимым, не налаженным для своего определенного применения. Инструмент оказывается поврежденным, материал неподходящим. Средство при этом в любом случае под рукой. И чем вскрывается неприменимость, это не всматривающейся фиксацией свойств, но усмотрением применяющего обращения. При таком вскрытии неприменимости средство бросается в глаза. Эта заметность выдает подручное средство в известной неподручности» [Хайдеггер 1997: 92].
метным, когда он становится частью специализированной бытовой техники — от микроволновки до DVD-проигрывателя — до тех пор, пока эти устройства работают хорошо и лишь в той мере, в какой мы научились справляться с их интерфейсом [Norman 1999: 50, 55-57].
Образ вездесущего компьютера, слившегося с окружающей человека средой, предполагает не только технические новшества, но и радикальную перемену модели пользования компьютерной технологией. Компьютер, на котором я набираю этот текст, в десятки тысяч раз мощнее моего первого компьютера и отличается еще и тем, что я его ношу с собой и теоретически могу взять его на колени и обойтись без письменного стола. Но все-таки от начала текстового этапа и до сих пор пользователь все так же двумя руками набирает текст при помощи клавиатуры, глядя в экран, что исключает, например, нормальное общение с другими людьми. Марк Уайзер [Weiser 1991] провозглашает конец эры персонального компьютера: все началось с того, что с одним большим компьютером работали многие люди, потом доминирующей моделью стал персональный компьютер, а теперь на одного человека будет много компьютеров, бесшовно интегрированных в нашу повседневность. Отметим, что такое видение противоположно идее виртуальной реальности, которую массовое сознание часто ассоциирует с прогрессом компьютерной технологии: в случае виртуальной реальности взаимодействие происходит в фиктивном мире, сгенерированном компьютером, куда погружается пользователь. В модели вездесущего компьютера местом взаимодействия оказывается физический мир пользователя, который незаметно для него пронизан компьютерной технологией и насыщен сенсорами.
Как можно судить по дате публикации статьи Уайзера, прошло уже больше двадцати лет, а революция не наступила, при том что ожидания остались примерно теми же самыми: «умные» дома и «умные» города, «нательные» технологии уже существуют в виде прототипов и демо-версий и все еще ожидаются в ближайшем будущем, которое все время немного отодвигается. Деконструкция образа вездесущего компьютера как мифа и попытка этнографически описать и проанализировать то технологическое будущее, которое уже наступило, — нетривиальная задача. Пол Дориш и Женевьева Белл показывают, что регулярность, сглаживание швов и различий — характерная черта мечты о будущем, но в повседневности мы всегда находим неупорядоченность инфраструктуры, которая является ее неотъемлемым свойством [Dourish, Bell 2011].
Созданный компьютерными визионерами из Xerox PARC1 и MIT Media Lab образ будущего, который обосновывает деятельность конструкторов и дает иллюзию, что будущее управляемо, вообще говоря, отчасти знаком публике не только по голливудским фильмам, но и по научной фантастике. Стены дома как экраны, сам собой зажигающийся свет и включающаяся музыка, общение с сервисами на естественном языке при помощи устной речи — все это уже было. Первый рассказ из сборника Рея Брэдбери «Человек в картинках» (1950) — «Вельдт» — содержит довольно подробные описания этого быта, пронизанного технологией и проявляющего персонали-зованную заботу о человеке:
Они пошли по коридору своего звуконепроницаемого дома, типа: «Все для счастья», который стал им в тридцать тысяч долларов (с полной обстановкой), — дома, который их одевал, кормил, холил, укачивал, пел и играл им. Когда до детской оставалось пять шагов, что-то щелкнуло, и в ней зажегся свет. И в коридоре, пока они шли, один за другим плавно, автоматически загорались и гасли светильники. <...> Они ужинали одни. Венди и Питер отправились на специальный стереокарнавал на другом конце города и сообщили домой по видеофону, что вернутся поздно, не надо их ждать. Озабоченный Джордж Хедли смотрел, как стол-автомат исторгает из своих механических недр горячие блюда.
— Мы забыли кетчуп, — сказал он.
— Простите, — произнес тонкий голосок изнутри стола, и появился кетчуп [Брэдбери 1965: 178, 182].
Детская комната в этом рассказе «улавливает телепатическую эманацию психики детей и воплощает любое их пожелание».
Люси Сачмэн называет подобные утопические мечты о безупречной и невидимой, наделенной интеллектом инфраструктуре, которая удовлетворяет все потребности экономики услуг, «Дживза — в массы!», и цитирует характеристику идеального лакея из знаменитой книги П. Вудхауза: он видим ровно настолько, насколько необходимо, чтобы угадывать желания и не раздражать своим присутствием [Suchman 2007: 215—221]. Такими должны стать не только роботы, в том числе человекоподобные, но и компьютерные программы — интеллектуальные агенты, которые возьмут на себя заботу о наших делах, заказах билетов и услуг, согласовании расписаний и цен. Очевидно, что для реализации таких умных сред и программных сервисов им необходимо предоставить знание об устройстве
1 Основанный компанией Xerox исследовательский центр (Palo Alto Research Center), в котором были придуманы многие решения, определяющие устройство распространенных сегодня компьютерных интерфейсов.
человеческого поведения и о поведении конкретного пользователя вообще и в каждый данный момент, чтобы они могли включаться в его деятельность на правах эффективного персонального инструмента. По сути дела, в эти сервисы должен был бы быть встроен наблюдательный социолог и этнограф, а не некий заранее подготовленный объем сведений, что, заметим, представляет собой отнюдь не чисто технологическую проблему. Как не является собственно инженерной проблемой воспроизведение в машине общего интеллекта того типа и уровня, которым мы пользуемся в быту, и осуществление мечты о понимании машиной человеческого языка.
Еще не обладающие всеми чертами этих вещей из будущего, как реально существующие сегодня интерактивные артефакты, так и прототипы новых технологий ставят под вопрос очевидность различения между миром физических объектов, с которыми можно как-то обращаться, и миром социальным, миром личностей, с которыми можно общаться и достигать взаимопонимания. С появлением компьютерной технологии с интерактивным интерфейсом оказывается, что в том или ином виде общение возможно и с артефактами, принадлежащими к этому специфическому разряду. При этом, в отличие от общения с людьми, взаимопонимание с компьютером, который устроен принципиально иначе, чем человек, казалось бы, не может предполагать опоры на общий или одинаковый опыт у машины и человека.
Один из аспектов этой проблемы связан искусственным интеллектом, а другой — с коммуникацией, т.е., собственно, с человеко-машинным взаимодействием. Интерактивные артефакты (от компьютерной программы и банкомата до домашнего робота-помощника) демонстрируют «интеллектуальное» поведение, выполняя отдельные функции, которые может выполнять человек, и пользуются при этом человеческим языком (в письменном или устном виде), показывая тем самым некую степень человекоподобия.
Создатели технологий всегда ориентировались на свое понимание того, что такое человеческий интеллект и как устроено разумное поведение, чтобы воспроизвести интеллект, реализованный природой на биологическом субстрате, на субстрате компьютерной технологии. Показательна сама идея о возможности такого воспроизведения, вписывающаяся в дуалистическую традицию европейской мысли. В свою очередь, понимание природы интеллекта менялось в значительной мере под воздействием технологической мысли. Ведь сравнение того, что делает человек, с тем, что может сделать умная машина, даже в случае если машина (пока?) не справляется с человече-
ской формой интеллектуальной деятельности, в конечном счете конструирует человека в терминах машины [Нау1ез 1999: 64]. Так, нетрудно проследить кибернетические истоки комплекса представлений, которые были весьма популярны во второй половине XX в., в том числе в антропологии, о том, что человек — это существо, перерабатывающее информацию, способное к ее хранению и накоплению, и что культура в конечном счете может быть рассмотрена как семиотическая макросистема, функция которой — внегенетическим путем передавать некий комплекс информации от одного поколения к другому, опираясь на культурные «коды» или языки, к которым относятся, наряду с естественным языком, и другие семиотические системы, организованные в каком-то смысле подобно естественному языку; таким образом, изучение культуры представляет собой описание и анализ этих культурных кодов, оказывающихся как бы программами, регулирующими человеческое поведение. Все эти вещи сегодня кажутся сами собой разумеющимися, но они восходят к кибернетическим дискуссиям рубежа 1940— 1950-х гг., в которых сформулированы широко распространившиеся в дальнейшем представления о том, что такое ин-формация1.
Кибернетика выглядела как новый универсальный язык, который позволял оперировать в терминах информации с реальностями разной природы. Так, один и тот же электрический паттерн в машине может с равным успехом представлять распространение эпидемии, распространение слухов или распространение ржавчины на куске оцинкованного железа (замечание британского кибернетика Гордона Паска [Разк 1961: 32], цит. по работе: [Bowker 1993: 122], где делается попытка деконструкции кибернетического дискурса). Работа интеллекта, реализованного в машине, понималась как манипулирование символами, служащими репрезентацией реальности. И если мышление можно моделировать через решение вычислительных задач, то в той мере, в какой задачи можно представить в виде символических структур, пригодных для вычисления, ответ на вынесенный русским переводчиком классической статьи Алана Тьюринга в заглавие вопрос «Может ли машина мыслить?» [Тьюринг 1960 (1950)] — положительный.
Через два десятилетия энтузиазма по поводу скорого создания искусственного интеллекта философ Хьюберт Дрейфус обсуж-
1 Первой волне кибернетической мысли и циклу конференций, организованных с 1946 по 1953 гг. Фондом Мейси, посвящена третья глава книги [Hayl.es 1999]. В этих междисциплинарных дискуссиях о природе человека, сложности, саморегуляции, мышлении и сознании, языке и коммуникации принимали участие, наряду с математиками и пионерами кибернетической мысли, такими как Нор-берт Винер, Джон фон Нойман и Клод Шеннон, антропологи Грегори Бейтсон и Маргарет Мид, психологи Эрик Эриксон и Курт Левин, социолог Толкотт Парсонс.
дает вопрос о том, чего компьютер делать не может. В своей книге (третье издание — [Dreyfus 1992]) он посвящает отдельные главы обоснованию фундаментальной ошибочности четырех предпосылок, стоявших за ранними попытками создания искусственного интеллекта. Это, во-первых, представление о том, что мозг работает как цифровой компьютер и его работу можно имитировать электрическими схемами, составленными из элементов, воспроизводящих работу нейрона; во-вторых, о том, что мышление можно рассматривать как устройство, перерабатывающее информацию посредством последовательностей дискретных шагов в соответствии с формальными алгоритмическими правилами; в-третьих, о том, что все знание может быть формализовано — в виде, например, пропозиций (как это пытались сделать создатели компьютерных экспертных систем); в-четвертых, о том, что все сущее — и все существенное для разумного поведения — в принципе доступно пониманию в терминах набора дискретных независимых элементов — объектов, свойств объектов, классов объектов, отношений, а эти элементы мира могут быть организованы в структуру данных, которая выступает в качестве репрезентации мира для искусственного интеллекта [Dreyfus 1992: 159—227]. В этих тезисах содержатся объяснения того, почему, хотя компьютерная программа и играет сегодня в шахматы лучше, чем человек — чемпион мира, во многих остальных отношениях, на которые возлагались большие надежды (там, где требовалось опираться на знания о мире, понимать естественный язык или перемещаться и взаимодействовать с окружающей средой, общаться с человеком), классический подход к искусственному интеллекту, основанный на манипулировании символами, не привел к впечатляющим результатам.
Третий из указанных выше тезисов Дрейфуса — о невозможности исчерпывающим образом формализовать знания — для нас особенно важен: человеческая коммуникация и человеческие действия вообще опираются на здравый смысл, который, как известно из Гирца, представляет собой культурную систему [Гирц 2007]. Классические подходы в области искусственного интеллекта в 1970—1980-е гг. предполагали, что здравый смысл и фоновые, само собой разумеющиеся знания о реальности поддаются формулировке в виде набора (хотя бы и очень большого) пропозиций (что большинство автомобилей ездят на четырех колесах, что машина не может забеременеть и т.п. — на самом деле, до бесконечности). И в программы-решатели задач, и в программы по обработке естественного языка их создатели пытались подключить базы такого рода знаний, не отдавая себе отчета в том, что полностью эксплицитного смысла не бывает, как не бывает фигуры без фона. Как наглядно показал Гарольд
Гарфинкель, попытка исчерпывающей экспликации смысла повседневного высказывания обречена на неудачу. По сути дела, давая студентам задание переписать в нейтральных, не связанных с контекстом и полностью эксплицитных терминах содержание реплик бытового диалога, он требовал снабдить эти высказывания полным комплексом фоновых сведений, чтобы продемонстрировать принципиальную невозможность устранить фон и контекст ^агйпке1 1984: 35—41].
Говоря о способностях машины на заре компьютерной эры, Тьюринг предложил в качестве критерия интеллекта имитационную игру, известную как «тест Тьюринга». Если по результатам письменного общения человек может быть введен в заблуждение относительно того, общается он с человеком или с машиной, то соответствующая программа может быть сочтена интеллектуальной. Эта линия рассуждения перестала быть чисто умозрительной возможностью в 1966 г., когда Йозеф Вейценбаум создал ЭЛИЗУ. Названная по имени Элизы Дулиттл, героини пьесы Б. Шоу, эта программа со скритпом «Доктор» пародировала письменное общение с психотерапевтом на первом сеансе: вычленяя из высказываний человека ключевые слова и отдельные фрагменты, она вставляла их в свои высказывания, и развертывающийся диалог мог создать у человека иллюзию понимания и общения с другим человеком ^е12епЪаиш 1976: 3—7].
Почему именно психотерапия? В других жанрах взаимодействия программе потребовалось бы реагировать на высказывания о мире и демонстрировать те или иные знания о мире, т.е. не обходиться имитацией. Вейценбаум обошел эту проблему, выбрав один из немногих контекстов, встречающихся в нашей культуре, когда можно ответить на реплику партнера вопросом, который не содержит признаков специфического знания о теме беседы. Например, на вопрос «Кто ваш любимый писатель?» допустимо получить в ответ вопрос вроде «Вас это действительно интересует, кто мой любимый писатель?» Ведь предполагается, что терапевт ведет беседу не ради обмена информацией, а ради того, чтобы что-то изменить в клиенте1. Таким образом, здесь реплики программы опираются на прагматическую приемлемость неспецифических высказываний, а не на семантический анализ предложений. Этот принцип лег в основу работы ботов (программ, имитирующих общение
1 Ср. с крайним случаем имитации терапевтического взаимодействия минимальными средствами в известном эксперименте Гарфинкеля, когда испытуемым предлагалось излагать свои проблемы так, чтобы консультант мог дать на них ответ «да» или «нет». Эти ответы, дававшиеся случайным образом, воспринимались испытуемыми как осмысленные и связанные с контекстом их высказываний ^агАпке[ 1984: 79-94].
с человеком) и отличает ботов от серьезных программ по обработке естественного языка, что не делает его менее эффектным: человек бывает готов на основании таких высказываний поверить в интеллект партнера — гораздо легче, чем могло бы показаться.
Сам Вейценбаум полагал, что понимание компьютера ограничено теми концептуальными структурами, в которые возможно перевести значение предложения. При этом доступный компьютеру анализ семантики предложения «Ты поужинаешь со мной сегодня?» едва ли поможет компьютеру понять чувства робкого молодого человека, адресующего это высказывание девушке. Даже если бы программа была способна имитировать любовь и отчаяние словесно, это не было бы аналогом человеческого понимания [Weizenbaum 1976: 200], мышление и интеллект тут ни при чем. Джон Серль предлагает для иллюстрации этого мысленный эксперимент: предположим, что создатели искусственного интеллекта построили программу, которая ведет себя так, будто она владеет китайским языком. Получая на входе строчки китайских иероглифов, она выдает в ответ свои строчки иероглифов и делает это так хорошо, что может обмануть носителя китайского языка: китаец думает, что общается с человеком. Такая программа проходит тест Тьюринга, но значит ли это, что она «понимает» по-китайски? Представим себе теперь самого Джона Серля, запертого в комнате и снабженного английским аналогом компьютерной программы, т.е. всеми необходимыми материалами, чтобы манипулировать иероглифами. Такой бумажный вариант программы с Серлем в качестве процессора сможет пройти тест Тьюринга, как прошел его компьютер. Но ведь сам Серль по-китайски не понимает. И отсюда он делает вывод, что компьютер тоже не понимает по-китайски, а демонстрирует чисто синтаксическое оперирование символами, никак не зацепленными за мир [Searle 2004: 89—91]. Между тем эти символы обладают значением для китайцев и для тех людей, которые составляли программу: они-то действительно понимают по-китайски.
Одно из возражений Серлю исходит из того, что можно представить себе, как вместо компьютера в комнате эта программа досталась роботу, который мог бы перемещаться и взаимодействовать с окружающей средой, обучаясь, в том числе воспринимая ситуативные контексты, в которых он получает сообщения. Теоретически это могло бы позволить ему соотнести символы и контексты, символы и вещи в мире, так что значение символов оказалось бы укоренено в ситуации и физическом мире (см.: [Cole 2009]). Это очень существенное
if соображение. Оно отталкивается от представлений о том, что
! интеллект не может опираться лишь на символические струк-
5 туры, не связанные с миром и свободные от контекста, а во
= многих своих проявлениях погружен в непосредственное взаи-
! модействие со средой, для чего ему необходимо тело, способ-
§ ное перемещаться и снабженное органами чувств. (й
I Когда кибернетика только появилась, в 1940-1950-е гг. про-
Ц стые устройства уже демонстрировали некоторые качества,
| присущие живым организмам: поддерживали равновесное
I состояние (гомеостат У. Росс-Эшби, см.: [Росс-Эшби 1959]),
^ целенаправленно двигались на свет или скрывались от света,
й избегали столкновений. Тем самым они свидетельствовали
t о том, что свойство быть источником собственной деятельно-
>5
4 сти, самостоятельность в качестве агента может быть не только
0 '
! у человека и животных — и у некоторых вещей тоже.
(Ч QQ
1 Если от роботов требовалась некая более сложная деятель-| ность, то создатели традиционно программировали их в духе
5 классического подхода в искусственном интеллекте: способности такого робота опираются на детальные внутренние модели внешнего мира. Идеолог «новой роботики» Родни Брукс на рубеже 1980-1990-х предложил альтернативный подход. Один из его роботов должен был собирать пустые банки из-под напитков со столов в лаборатории. Можно было бы, теоретически, снабдить робота сложной системой, сканирующей окружающую среду, обрабатывающей образы и распознающей их, а также подающей эту информацию на вход системы планирования действий. Но такое решение требовало бы огромных финансовых затрат, труда программистов, вычислительных мощностей — и результат оказался бы очень ненадежным: система бы останавливалась на обдумывание планов, а эти планы требовали бы пересмотра всякий раз, когда в среде что-то изменилось, а ведь кругом непредсказуемо передвигаются люди.
Робот Брукса вообще не создает детальной внутренней модели окружающей среды, которую нужно было бы все время оперативно поправлять, не зависит от центрального хранилища данных или планирующего устройства; он не делает сложных выводов. Периферические устройства прямо участвуют в порождении тех или иных видов поведения, и получается, что тут нет явного разделения между процессами восприятия и процессами мышления и действия: передвижение в среде служит для вычерпывания из среды релевантной информации, и сложное поведение образуется в результате соревнования между собой разных видов поведения, которые согласуются непосредственным взаимодействием с миром [Brooks 1991] (см. также: [Clark
1997: 11—33])1. По Бруксу, интеллект требует тела и может не опираться на сложные внутренние модели окружающего мира: мир и есть самая лучшая модель. Такие представления, по-видимому, отражают и порождение человеческого поведения на основе сенсомоторного интеллекта.
Итак, робот-пылесос — пример интерактивного артефакта, снабженного телом и способного перемещаться. У банкомата или ксерокса нет собственно физической среды, как у подвижного робота, но есть, как и у робота, действия со стороны пользователя, которые машина воспринимает. Такая среда оказывается не столько физической, сколько социальной — системе требуется интерпретировать действия пользователя и даже оценивать, как пользователь понимает, что происходит.
Коммуникация с системой вроде бы в каком-то смысле напоминает разговор: она основывается на более или менее вразумительных текстовых сообщениях на экране, организована в виде последовательных смен очереди во взаимодействии, при этом действия человека вызывают немедленную реакцию машины. Однако человеческий разговор использует несколько иные ресурсы, чем общение человека с компьютером ^исИшап 2007: 69—107]. Упорядоченность разговора опирается на навыки, которые позволяют людям отвечать на непредусмотренные заранее ситуации, улавливать и корректировать сбои. Мы можем интерпретировать эллиптические высказывания, состоящие не из грамматически правильных цепочек, а содержащие какие-то фрагменты языковых структур; мы в фоновом режиме и незаметно для себя постоянно проверяем, так ли нас поняли, тот ли смысл мы донесли до собеседника, и если надо, оперативно прибегаем к поправке; мы всегда осмысляем действия партнера в терминах побуждений и целей, объясняем их себе; отслеживаем фокус внимания собеседника в разговоре и вообще в совместной деятельности; мы идентифицируем предметы по их описанию, хотя бы оно и было неоднозначным — ведь описание (как и вообще все высказывания) ситуативно, привязано к контексту и оформлено с опорой на представления о том, что в данном контексте релевантно. Наша коммуникация использует единицы языка, символической системы для представления реальности, словарь которой можно, конечно, загрузить в компьютер. Но ситуативные значения высказываний, используемых в реальных обстоятельствах, обладают свойством
Первые модели доступных на рынке домашних пылесосов-роботов основывались непосредственно на этих идеях. Некоторые модели сегодня все-таки строят репрезентации пространства квартиры, чтобы самостоятельно возвращаться на базу для зарядки и пылесосить, не оставляя «белых пятен».
индексальности1, т.е. опираются на момент речи и актуальные обстоятельства, и вне контекста их невозможно осмыслить. Так, если читатель в данный момент восклицает «Какая чушь!», то понять, что он имел в виду, можно, только отследив фокус его внимания — по поводу чего он воскликнул, что он только что прочитал.
В какой мере компьютерная система может выступать в качестве подобного партнера, во взаимодействии с которым мы выстраиваем смысл наших действий? По-видимому, тут есть некоторые ограничения. Например, намерения и действия системы не всегда и не вполне прозрачны для пользователя. Если же встать на точку зрения системы, то получится, что намерения человека, что-то делающего с системой, ей, вообще говоря, тоже не вполне доступны. Компьютер (ксерокс, банкомат, робот), подобно человеку-партнеру, должен иметь способность в своем интерфейсе показывать свои намерения пользователю и делать так или иначе очевидным то, что он совершает. Это нечто принципиально новое по сравнению с неинтерактивными артефактами: нужно сделать очевидными не только намерения дизайнера в отношении вещи (для чего создатель эту вещь предназначил), но и намерения самого устройства. Ведь дизайнер наделил эту вещь агентивностью и способностью к рациональному поведению. Вот эту рациональность дизайнеру и требуется сделать очевидной, чтобы поведение артефакта в каждый момент обладало «отчетливостью» ^оипзИ 2004: 78—81]2.
Артефакты способны снабжать пользователя указаниями и инструкциями — в каком-то смысле, вести себя подобно инструктору-человеку. На эту метафору опираются системы контекстуальных подсказок: человек, сидящий рядом, эффективнее подробной многостраничной текстовой инструкции, потому что с ним общаешься непосредственно, лицом к лицу, при этом та конкретная ситуация, к которой отсылают его слова и жесты, открыты обоим, поэтому можно полагаться на то, что само собой разумеющиеся вещи не высказываются, но предполагаются.
В социологических текстах на русском языке встречается термин «индексичность» — очевидно, по недоразумению. Дело в том, что в оригинале этот термин воспринят американскими авторами от Чарльза Пирса, автора семиотической теории знаков, одним из важных достижений которого были как раз формулировка индексальности как свойства знаков и выделение в классификации такого разряда знаков, действие которых с необходимостью предполагает указание и, соответственно, опору на контекст. В отечественной литературе по лингвистике, логике и семиотике термин «индексальность» появился именно в такой форме задолго до того, как его открыли для себя социологи.
Этнометодологический термин "accountability" находит здесь хотя и несколько каламбурное, но довольно точное русское соответствие: и четко очерченная осмысленность, и способность дать отчет.
off M<cn,'^f , 7^7 sk^cf fbfla^J
fa,? /Ч/fr^ сНбь s pkj-f (
^ Sb/uh^ K .^JT
(ч £ '^Cof>% м^сА / ^ f
Илл. 1
Вот объявление (илл. 1), которое висело на стене Хельсинкского университетского коллегиума (Helsinki Collegium for Advanced Studies) рядом с копировальным аппаратом: «Если застряла бумага, выход состоит НЕ В ТОМ, ЧТОБЫ ВЫКЛЮЧИТЬ ксерокс; смотрите, что написано на экране, и следуйте инструкции».
Пользователям этого ксерокса, ученым, работающим в коллегиуме, оказывается непросто обращаться с этой умной машиной. Действия машины определяются программой и теми данными, которые машина получает от сенсоров и органов управления. Пока все идет гладко (например, пока ксерокс не зажевал бумагу, а мы выполняем рутинную знакомую операцию копирования), мы вроде бы и следуем инструкции, только не замечаем этого: мы делаем дело, а инструмент в своей «под-ручности» не обращает внимания на себя. Когда же бумага зажевана, машина показывает на экране текст, пытаясь тем самым сообщить пользователю инструкции, связанные с этой конкретной ситуацией — как она ее распознает. Однако проблема в том, что объекты и действия, описанные в этом тексте, могут быть неочевидны пользователю. Ему еще требуется укоренить описание объектов и действий в реальном мире, т.е. установить, что имеется в виду и какие действия нужно произвести. Чтобы сделать инструкции более наглядными, текст сопровождается схематичными изображениями. Но все-таки — крышка 2 и рукоятка 4 — это где? Потянуть — как сильно надо потянуть? Потянуть или дернуть?
Когда необходимые операции завершены, следование инструкции выглядит как конструирование такого хода действий,
§ по отношению к которому можно сказать, что инструкция его
| описывает. То есть инструкция постфактум выглядит как отчет
€ о том, что было сделано. И выглядит она так не только потому,
= что направляет действие, но и потому, что как бы отфильтро-
| вывает лишнее, ведь в реальной последовательности действий
§ всегда множество такого, что инструкция никак не упоминает. (й
I Если же что-то не получается, то ошибку ищешь не в инструк-
Ц ции, а в том, как ты ее исполнил. Правда, сама инструкция
| в отслеживании неправильного ее исполнения не сильно по-
| может, потому что в ней не написаны все возможные непра-
^ вильные способы действий. Что из многих подробностей, соб-
й ственно, послужило причиной неудачи (непонятного, непред-
ь сказуемого, неожиданного поведения системы)? Что было
| важно, а что было неважно в моих действиях? Или я делаю все
Ц так же, как местный инженер-компьютерщик, но у него рука
™ счастливая? Это, кстати, распространенное объяснение: «Дело
| мастера боится», и поэтому все сразу начинает работать, как
£ только приходит специалист.
Взгляд на поведение пользователя со стороны технического устройства заставляет задуматься о том, каким образом сделать так, чтобы действия пользователя были «отчетливы» не только для него самого, но и для машины. Один из возможных способов состоит в том, чтобы ограничить возможности пользователя в пределах последовательной процедуры и приписывать ему намерения, полагая, что поведение пользователя алгорит-мично и строится по плану. Однако в реальном человеческом поведении планы оказываются скорее ресурсом для ситуативного действия, а не чем-то таким, что жестким образом заранее определяет его ход. Например, если я спешу и собираюсь в качестве пешехода нарушить правила дорожного движения и перебежать дорогу в неположенном месте, я планирую сначала добежать до островка, когда иссякнет поток машин слева, а потом дождаться, когда загорится красный свет машинам, которые съезжают с моста, и попробовать улучить момент до того, как поедут машины справа. Но даже эти «планы» сформулированы в весьма общем виде, а действовать придется по обстановке, потому что нельзя предсказать, сколько машин поедет и откуда. Мне предстоит импровизировать, но это импровизированное оппортунистическое поведение вполне упорядочен-но. Ведь мои действия осмысленны и объяснимы, и ими я даю понять водителям вокруг меня, чего я хочу: они видят, куда я хочу перебраться, почему разбежался, отчего остановился; они создают мне возможности, которыми я могу воспользоваться. Езда на автомобиле — яркий пример осмысленного и упорядоченного оппортунистического поведения, где в по-
токе машин демонстрация намерений оказывается ключом к безопасному движению. Даже если же кто-то нарушает правила, он представляет опасность для окружающих прежде всего тогда, когда его не видят или когда его намерения непонятны.
Хьюберт Дрейфус посвящает главу в своей книге «упорядоченному поведению, не прибегающему к правилам» [Dreyfus 1992: 257]. В нашей повседневности речь чаще идет не об оперировании однозначными символами по правилам, как, скажем, в игре в шахматы, а о действиях принципиально иного рода, где интеллект сталкивается с проблемами высокой степени неопределенности, по отношению к которым нельзя заранее определить, какие обстоятельства и какая информация оказываются релевантны, а какие нет. Компьютеру просто обращаться с объектами, независимыми от контекста. Но в переживаемые объекты человеческого мира встроена осмысленность и релевантность по отношению к человеческим интересам, нуждам и намерениям вообще — и к тем, что принадлежат конкретному человеку и постоянно модифицируются, движимые обстоятельствами (т.е. контекстом).
Исходно представления о вычислениях предполагали, что работа компьютера (и, шире, мышления в ранних версиях искусственного интеллекта) — это пошаговая процедура, алгоритм; этому представлению соответствовала ситуация, когда человек задает машине работу и ждет результата, пока алгоритмическая процедура будет реализована. В конце XX в. появился новый подход, где во главу угла ставится понятие взаимодействия и вычисление рассматривается скорее как совместное и одновременное действие разных связанных между собой компонентов, нежели жестко определенный заранее путь, который должно последовательно пройти некое монолитное вычислительное устройство. Это и в большей степени подражает тому, как работает человеческий интеллект, и в большей степени отвечает требованиям взаимодействия с человеком. Дизайн взаимодействия может отталкиваться от представлений о том, что связность человеческого поведения не объясняется готовыми когнитивными схемами или институциализованными социальными нормами. Организованность ситуативного действия — это эмерджентное свойство взаимодействий деятелей между собой и с окружающей их средой [Suchman 2007: 177], что становится особенно очевидно, когда компьютерная технология обретает тело, органы восприятия и подвижность. Вписывание такого артефакта в мир человека неизбежно ставит новые вопросы, связанные не только с интеллектом, которым этот артефакт наделен, но и с его телесной воплощенно-стью, и с эмоциональной составляющей взаимодействия.
Библиография
Брэдбери Р. Вельд / Пер. Л. Жданова // Фантастика и путешествия / Сост. И. Филенков. М.: Молодая гвардия, 1965. Т. 2. С. 178— 194.
Гибсон Дж.Дж. Экологический подход к зрительному восприятию. М.: Прогресс, 1988.
Гирц К. Здравый смысл как культурная система // Неприкосновенный запас. 2007. № 4 (54). С. 54-61.
Росс-Эшби У. Введение в кибернетику / Пер. с англ. Д.Г. Лахути под ред. В.А. Успенского с предисловием А.Н. Колмогорова. М.: Издательство иностранной литературы, 1959.
Тьюринг А.М. Может ли машина мыслить? М.: Гос. изд. физ.-мат. литературы, 1960.
Хайдеггер М. Бытие и время / Пер. с нем. В.В. Бибихина. М.: Ad Marginem, 1997.
Bowker G. How to Be Universal: Some Cybernetic Strategies, 1943-70 // Social Studies of Science. 1993, Feb. Vol. 23. No. 1. P. 107-127.
Brooks R. Intelligence without Representation // Artificial Intelligence. 1991. Vol. 47. No. 1-3. P. 139-159.
Clark A. Being There: Putting Brain, Body, and World Together Again. Cambridge, MA: MIT Press, 1997.
Cole D. The Chinese Room Argument // E.N. Zalta (ed.). The Stanford Encyclopedia of Philosophy. Winter 2009 Edition. <http://plato. stanford.edu/archives/win2009/entries/chinese-room/>.
Dourish P. Where the Action Is: Foundations of Embodied Interaction. Cambridge, MA: MIT Press, 2004.
Dourish P., Bell G. Divining a Digital Future: Mess and Mythology in Ubiquitous Computing. Cambridge, МА: MIT Press, 2011.
Dreyfus H.L. What Computers Still Can't Do: a Critique ofArtificial Reason. Cambridge, MA: MIT Press, 1992.
Garfinkel H. Studies in Ethnomethodology. Cambridge: PolityPress, 1984 (1967).
Hayles K..A. How We Became Posthuman: Virtual Bodies in Cybernetics, Literature, and Informatics. Chicago: University of Chicago Press, 1999.
Latour B. Reassembling the Social: An Introduction to Actor-Network-Theory. Oxford: Oxford University Press, 2005.
Merleau-Ponty M. Phénoménologie de la perception. P.: Gallimard, 1945.
Norman D.A. The Design of Everyday Things. N.Y.: Basic Books, 1988.
Norman D.A. The Invisible Computer. Cambridge, MA: MIT Press, 1999.
Norman D.A. Things That Make Us Smart: Defending Human Attributes in the Age of the Machine. Cambridge, MA: Perseus, 1993.
Pask G. An Approach to Cybernetics. L.: Hutchinson, 1961.
Pfaffenberger B. Social Anthropology of Technology // Annual Review of Anthropology. 1992. Vol. 21. P. 491-516.
AHTPOnO^OrMHECKMM OOPYM № 17
156
Searle J.R. Mind: A Brief Introduction. Oxford: Oxford University Press, 2004.
Suchman L. Human-machine Reconfigurations: Plans and Situated Actions.
2nd ed. Cambridge: Cambridge University Press, 2007. Weiser M. The Computer for the 21st Century // Scientific American. 1991.
Vol. 265. No. 3. P. 94-104. Weizenbaum J. Computer Power and Human Reason: From Judgment to Calculation. San Francisco: W.H. Freeman, 1976.
