CC BY
180
Философия науки и техники 2015. Т. 20. № 2. С. 85-105
УДК 141.2
Philosophy of Science and Technology 2015, vol. 20, no 2, pp. 85-105
К. Майнцер
Исследуя сложность: от искусственной жизни и искусственного интеллекта к киберфизическим системам
Майнцер Клаус (Германия) - доктор философии, профессор, заведующий кафедрой. Кафедра философии и теории науки, Технический университет Мюнхена. Германия, г. Мюнхен, ул. Ар-кис, D-80333; е-таД: mainzer@tum.de
Классическая кибернетика в традиции Норберта Винера является сегодня составной частью математической теории сложных систем и нелинейной динамики. Только в этих рамках может быть объяснено возникновение структур и образцов в природе и технике и построены компьютерные модели. Понятия «самоорганизация» и «эмерджентность» имеют четкие определения и могут использоваться для объяснения развития технических систем. В первой части статьи рассматриваются основания теории сложных систем и нелинейной динамики и применение этих теорий для изучения образования структур и паттернов сложных клеточных систем, являющихся предметом системной биологии. Во второй части речь идет о применении динамики сложных систем для описания эволюции мозга и познания. Эти исследования составляют предпосылку для развития социальных роботов, которым посвящена третья часть статьи. Нейронные сетевые структуры представлены не только отдельными организмами или роботами -в четвертой части речь идет о киберфизических системах, позволяющих моделировать сложные социотехнические системы, которые в значительной мере сами собой управляют. В последней области математическая теория сложных систем и нелинейная динамика также предоставляют нам основания для понимания самоорганизации и эмерджентности. В заключительной части обсуждается вопрос об этических и общесоциальных условиях, необходимых для технического конструирования сложных самоорганизирующихся систем.
Ключевые слова: сложные системы, нелинейная динамика, когнитивная роботика, ки-берфизические системы
1. Эволюция сложных систем и нелинейная динамика
1.1. Исчислимость жизни
Вплоть до начала XX в. жизненные процессы были доступны только качественному описанию и классификации в биологии. Первые подходы к их математическому моделированию появились в классической кибернетике в традиции Норберта Винера. Вначале исходили из принципа управления
© Майнцер К. © Князева Е.Н., пер.
обратными (положительными и отрицательными ) связями, которые были известны, к примеру, в электротехнике 1940-х гг. С возникновением новых методов биоматематики, биофизики и биоинформатики принципы моделирования изменились. Оно стало опираться на математическую теорию сложных систем и нелинейную динамику, в которых кибернетические обратные связи являются всего лишь примерами сложных (нелинейных) взаимодействий системных элементов1.
В системной биологии исследование развивается путем сочетания экспериментов in vitro, in vivo и in silico2. Обычным стало компьютерное моделирование (с программами, созданными с кремнийорганическими полимерами) высокосложных взаимодействий молекул, клеток, органов и организмов, которое было бы невозможным без математических моделей сложной системной динамики и вычислительной техники.
Робототехника и исследования искусственного интеллекта позволяют продвинуться еще дальше и наделить технические системы когнитивными функциями, зафиксированными благодаря исследованиям мозга и нейропсихологии. С одной стороны, эти исследования служат моделированию биологических и психологических процессов, с другой - открывают возможность создавать, руководствуясь техническими и коммерческими целями, альтернативные тем, что возникли в ходе биологической эволюции, биологические и интеллектуальные системы.
Подобный прогресс стал возможным благодаря бурному росту производительности вычислительных машин, прогрессирующей миниатюризации конструктивных элементов компьютеров (от трубок и транзисторов до нано-электроники и сенсорной технологии), стремительной глобализации информационных систем и шагающей быстрыми темпами автоматизации общества при одновременном удешевлении небольших по размеру и высокопроизводительных информационно-технических систем. Согласно закону Мура, каждые 18 месяцев производительность вычислительных машин удваивается при одновременной миниатюризации и удешевлении устройств3.
1.2. Системная биология сложных систем
Со времени расшифровки генома человека в 2001 г. производительность машин, выполняющих последовательные вычисления, неуклонно растет, что обеспечивает исчисление и идентификацию все большего количества генов за все более короткие промежутки времени и за все меньшие деньги. Программа по распознаванию состава человеческих генов, достигшая в 2001 г. промежуточного высокого результата, представляла собой редукционистский исследовательский подход, в рамках которого со все большей вычислительной производительностью расшифровывались все более мелкие структурные элементы жизни.
1 Mainzer K. Thinking in Complexity. The Computational Dynamics of Matter, Mind, and Mankind. 5. Auflage. Berlin, 2007.
2 Лат.: в пробирке, в естественных условиях и компьютерном моделировании (прим. перев.).
3 Mainzer K. Die Berechnung der Welt. Von der Weltformel zu Big Data. München, 2014.
Теперь в системной биологии перед нами встает несравненно более сложная задача: из огромного потока данных об отдельных компонентах понять функционирование всей биологической системы клеток, органов и организмов. Чтобы понять сложные системные функции, такие как регуляция, контроль, управление и адаптация в процессах роста и эволюции, предстоит расшифровать посредством компьютерных моделей гигантские генетические карты всех генетических взаимодействий и сложных сетей обмена веществ4. «Стеклянные» клетки со схемами переключения откроют новые возможности для понимания генетической обусловленности болезней (рак, болезни сердечнососудистой системы и т. д.), а также позволят сделать выводы о процессе старения организма. Без компьютерных моделей сложных систем клеток, органов и организмов этот барьер не будет взят5.
Вместе с тем становится ясным, каким ошеломляющим является различие живых организмов и технических схем соединений. Соединения в силиконе, несмотря на сложность и миниатюризацию, до сих пор функционально поддавались любому доступному воспроизведению, в то время как каждый врач из своей ежедневной практики знает, насколько по-разному могут реагировать сложные человеческие организмы на одни и те же условия. Поэтому неимоверно сложным становится исследование не только опухолей, но и, вообще говоря, простого насморка. Трудности проявляются на уровне системнобио-логического изучения белков в лаборатории. Хотя с помощью математической теории сложных динамических систем мы имеем общее представление о самоорганизации и эмерджентности новых структур, дьявол кроется в деталях, присущих каждому отдельному случаю6.
На следующем этапе своего развития системная биология предоставляет материал для копирования синтетической биологии - тогда системная биология становится инженерной наукой1. Именно на пути изучения функционирования биологических систем, таких как клетки и бактерии, возникают предположения о возможности конструировать из различных биомолекул новые модули и сети со специальными свойствами.
Искусственная жизнь была известна до наших дней только как программное обеспечение (software) в информатике. В конце 1950-х гг. американский ученый Джон фон Нейман, один из основоположников компьютерной науки, математически доказал, что клеточные автоматы могут репродуцировать себя в шахматном порядке. Джон Конвей разработал этот подход в форме игры жизни (Game of Life), после чего дарвиновские правила эволюции удалось смоделировать в виде компьютерной программы8. В синтетической биологии программное обеспечение (software) превращается во «влажное обеспечение» («wetware»), т. е. в новую органическую жизнь. Крейг Вентер, инициатор разработки программы расшифровки генома человека к 2001 г., верит в возможность конструирования бактерий, продуцирующих водород и тем самым способных помочь решить проблему энергетического обеспечения. Тем не менее
BoogerdF.C. etal. (Hrsg.) Systems Biology. Philosophical Foundations. Amsterdam, 2007.
Kriete A., EilsR. (Hrsg.) Computational Systems Biology. Amsterdam, 2007.
Kaneko K. Life: An Introduction to Complex Systems Biology. Berlin, 2006.
Pfeifer R., Scheier C. Understanding Intelligence. Cambridge (MA), 2001.
MainzerK., ChuaL.O. The Universe as Automaton. From Simplicity and Symmetry to Complexity.
Berlin, 2011.
Национальная академия наук Германии (Leopoldina) высказала точку зрения, разделяемую Немецким исследовательским обществом (DFG) и Академией технических наук (Acatech), что синтетическая биология «открывает большой потенциал для прогресса в деле создания новых вакцин и лекарств, а также новых видов топлива и материалов».
2. Эволюция тела и мозга
2.1. Мозг как сложная система
Анатомия мозга показывает коренное отличие от строения обычного компьютера. Человеческий мозг опять-таки является примером сложной динамической системы, в которой взаимодействуют миллиарды нейронов. Через многократно передаваемые электрические импульсы возникают образцы соединений, которые связаны с такими когнитивными состояниями, как мышление, чувства, восприятие или действия. Возникновение (эмерджентность) этих ментальных состояний представляет собой еще один типичный пример самоорганизации сложной системы: отдельный нейрон, можно сказать, «глуп»: он не может ни думать, ни чувствовать, ни воспринимать. Только коллективные взаимодействия нейронов и случайные соединения при наличии определенных благоприятных условий порождают когнитивные состояния.
В нейронных сетях мозга между нейронами имеет место нейрохимическая динамика. Вещественная основа для передачи химических сигналов воздействует на изменения нейронных состояний посредством прямых и опосредованных механизмов передачи с высокой пластичностью. Различные состояния сети сохраняются в синаптических связях клеточных образцов соединений («клеточных ансамблях»). Здесь, как во всякой сложной динамической системе, можно провести различие между микросостояниями элементов (т. е. цифровыми состояниями «вспыхивания» и «невспыхивания» при разрядке и спокойном состоянии нейронов) и макросостояниями формирования образцов (т. е. образцами соединения совместно активированных нейронов в нейронной сети). Способы компьютерной визуализации (например, снимки при позитрон-но-эмиссионной томографии) показывают, что различные макроскопические образцы соединений коррелируют с различными ментальными и когнитивными состояниями, такими как восприятие, мышление, чувства и сознание. В этом смысле когнитивные и ментальные состояния могут быть представлены как эмерджентные свойства нейронной активности мозга: отдельные нейроны не могут ни видеть, ни чувствовать, ни думать, а мозг связан с органами чувств организма.
Современные возможности компьютерного моделирования позволяют наблюдать возникновение образцов («формирование паттернов» - «pattern formation») в мозге, при этом локальную активность нейронов и вызванные ею потенциалы действия мы сводим к нелинейной системной динамике. Их корреляции с ментальными и когнитивными состояниями раскрываются на основе психологических наблюдений и измерений: всякий раз, когда человек, скажем, видит или говорит, можно наблюдать формирование того или иного образца в мозге. Между тем при «чтении мозга» («brain reading») формирование отдель-
ных образцов можно зафиксировать настолько детально, что в этих образцах соединений удастся расшифровать соответствующие зрительные и слуховые восприятия с подходящими им алгоритмами. Данная техника, разумеется, делает лишь первые шаги в своем развитии.
2.2. Математические законы динамики мозга
В исследованиях мозга синаптическое взаимодействие нейронов в мозге возможно описать с помощью системы дифференциальных уравнений. Уравнения Ходжкина-Хаксли являются примером нелинейных уравнений реакции-диффузии, позволяющих смоделировать передачу нервных импульсов. Они были найдены путем эмпирических измерений Нобелевскими лауреатами по медицине Аланом Л. Ходжкином и Эндрю Ф. Хаксли. Предложенные уравнения дают хорошо подтвержденную математическую модель динамики нейронов в мозге, что не исключает возможности улучшения или изменения этих уравнений в ходе дальнейших исследований.
С помощью таких дифференциальных уравнений могут быть точно определены пространства параметров динамической системы с локально активными и локально пассивными областями. В случае уравнений Ходжкина-Хаксли мы получаем пространство параметров мозга с точно измененными областями локальной активности и локальной пассивности. Только в области локальной активности могут возникать потенциалы действия нейронов, которые влекут образование в мозге соединений по определенным образцам. Моделирование на компьютере позволяет систематически исследовать и предсказывать образцы соединений для различных значений параметров, как показано в нашей книге9. В отдельных случаях образцы уже могут быть расшифрованы посредством технологии «чтения мозга». Тем самым строятся первые мосты к смысловому уровню познания.
Программа «чтения мозга» зависит от математической модели Ходжкина-Хаксли. Проект «Человеческий мозг» («Human Brain Project»), осуществляемый Европейским союзом, нацелен на точное эмпирическое моделирование человеческого мозга во всех нейрологических деталях. Тем самым мы получаем возможность эмпирического тестирования математической модели Ходжкина-Хаксли, посредством которого могут быть проверены предсказания о формировании образцов в мозге и их когнитивных значениях.
2.3. Отелесненный разум
Мозг является сложной системой органических соединений. Наши ментальные и когнитивные способности, как показывает психология развития, также в значительной степени сформированы через тело, которое возникло в процессе эволюции. Так, грудные дети и дети младшего возраста могут различать объекты (например, игрушки, еду и питье), хватая их руками, воспринимая на слух и посредством зрения, слизывая и чувствуя их вкус, еще до того, как они научаются называть их словами. Мы имеем наглядные представления
MainzerK., ChuaL.O. The Universe as Automaton. From Simplicity and Symmetry to Complexity. Berlin, 2011.
и эмоциональные предпочтения (преференции), симпатии и антипатии, которые неосознанно направляют наши действия и редко выражаются в языковой форме, не говоря уже о том, что их можно репрезентировать в компьютерной программе. Для развития познания и интеллекта необходимо тело. Мы говорим о «телесном» познании и интеллекте (embodied cognition, embodied intelligence). Только касания, восприятие окружения и действия в этом изменяющемся окружении позволили сформироваться интеллекту10.
Лишь благодаря взаимодействию посредством тела возникла возможность понимать других, осознавать свои собственные намерения и на основе этого соответствующим образом направлять свое собственное поведение. Эта способность традиционно рассматривается в философии как интенциональность. С медицинской точки зрения теория ума (Theory of Mind) исследует, что происходит, если при этом определенные нейронные области перестают выполнять свои функции. В качестве причин могут выступать повреждения мозга в результате несчастных случаев или же деменция, которая угрожает почти всем людям в обществах с увеличивающейся продолжительностью жизни11. Последствия - потеря человечности и эмпатии, а в конце концов всякой способности к социально отзывчивому поведению и, кроме того, ответственности.
Согласно данным нейропсихологии, сознание представляет собой собирательное понятие для совокупности в высшей степени сложных ментальных состояний, которыми обладают в некоторой степени и другие живые существа. Восприятие, как правило, не только у нас, людей, связано с самовосприятием: я есть тот, кто воспринимает. Самовосприятие выполняло в процессе эволюции очень важную функцию защиты и контроля, чтобы уберечь организм от повреждений. Оно было связано со сложными сенсорными процессами визуального, тактильного и слухового самовосприятия, а также с самоконтролем моторных процессов и самонаблюдением телесной чувствительности. Наконец, возникла память, обеспечивающая, в том числе, функцию сохранения биографии субъекта. Так в итоге было достигнуто то состояние, которое мы обозначаем как Я-сознание. В теории ума (Theory of Mind) проводятся различия между «я», «ты», «мы» и «другие», и только тогда становятся возможными очень сложные формы социальной организации, такие как человеческое общество.
Однако техника показывает, что многие наши когнитивные возможности реализуемы и без «сознания», иногда даже лучше (в смысле теста Тьюринга). Во всяком случае то, насколько сильно эти ментальные состояния связаны со сложными соединениями в мозге, мы замечаем позже, когда случаются впадения в коматозные состояния из-за несчастных случаев или болезней, соответствующие нарушения участвующих в формировании ментальных состояний областей мозга, помутнения в результате приема некоторых лекарственных средств или же алкоголя; в таких случаях выпадают, оказываются бездейственными соответствующие аспекты состояний сознания. Для перепроверки различных аспектов и степеней состояний, которые мы подводим под собирательный термин «сознание», в настоящее время существуют хорошие экс-
10 Varela F. et al. The Embodied Mind. Cognitive Science and Human Experience. Cambridge
(MA), 1991.
11 FörstlH. (Hrsg.) Theory of Mind. Neurobiologie und Psychologie sozialen Verhaltens. 2. Auflage.
Berlin, 2012.
периментальные и технически измеряемые условия. При этом не исключено, что при получении детальной информации о затронутых областях мозга и их связях с телесными действиями и органами чувств такие состояния окажется возможным вызывать «искусственно», т. е. в технических системах.
3. Инновация, связанная с появлением когнитивных роботов
3.1. Сложность моделирования на компьютерах
Телесность нашего интеллекта показывает, что природа не занимается калькуляцией, как это делает компьютер. Не «считают» ни молекулы, ни клетки, ни мускулы, ни органы или организмы. Но дело в том, что даже такие сложные молекулярные, клеточные и нейронные взаимодействия могут быть смоделированы на компьютерах с увеличивающейся вычислительной мощностью12. Системная биология демонстрирует это на молекулярном и клеточном уровнях. Нейронная сеть по образцу мозга тоже моделируется сегодня на компьютере. Возможны ли, помимо этого, создать роботов с сильным искусственным интеллектом (ИИ), т. е. не только имитирующих когнитивные функции (в смысле слабого ИИ)?
В основе этого вопроса лежит сильный тезис логиков и математиков Алана Тьюринга и Алонзо Чёрча, согласно которому всякий алгоритм, логико-математическое представление которого может быть просчитано любой программно управляемой вычислительной машиной, может быть смоделирован универсальной машиной Тьюринга. С теоретико-познавательной точки зрения понятие универсальной машины Тьюринга дает в наше распоряжение инструмент, посредством которого независимо от соответствующего технического стандарта развития компьютеров можно принципиально определить сложность динамических процессов (т. е. их «логическую глубину»).
Еще Курт Гёдель (как логик) и Ричард Фейнман (как физик) думали, что процессы в природе можно понимать как своего рода метод вычислений. Вместо элементарных шагов вычислений с символами, из которых состоят эффективные методы математики, появляются, например, квантовые скачки элементарных частиц, элементарные химические реакции с молекулами, включение и отключение генов, изменения состояний клеток или изменения напряжения в технических устройствах переключения. Также и случайные изменения (например, мутации) могут учитываться в недетерминистических машинах Тьюринга. Аналогичным образом посредством вероятностных (пробабилистических) машин (например, машины Больцмана как проба-билистической сети) могут быть поняты и сами стохастические процессы. В целом степени вычислимости на компьютере соответствуют различным степеням сложности природы13.
Что касается технических стандартов развития компьютеров, мы переживаем, согласно закону Мура, стремительное увеличение вычислительных мощностей, которые делают доступными для моделирования все более сложные
12 Mainzer K. Leben als Maschine? Von der Systembiologie zur Robotik und Künstlichen Intelligenz.
Paderborn, 2010.
13 Mainzer K. Die Berechnung der Welt. Von der Weltformel zu Big Data. München, 2014.
динамические природные системы. В соответствии с теоремой о неполноте Гёделя, суперкомпьютер, который мог бы прояснить и разрешить все задачи, принципиально невозможен. Однако мощности вычислений, необходимые для имитации человеческого мозга или других клеточных и органических систем, поддаются оценке и могут быть реализованы в компьютерной модели. Правда, отсюда не следует, что мы уже в ближайшие десятилетия сможем смоделировать, скажем, чувства и мышление. Но сама возможность этого не исключена, и отдельные аспекты решения данной задачи уже удалось прояснить. Вычислительной мощности самой по себе здесь, правда, недостаточно. Чтобы построить компьютерные модели, мы должны понять сами процессы. Для иллюстрации этого тезиса обратимся теперь к робототехнике.
3.2. Адаптивные и способные к обучению роботы
Следуя традиционным принципам конструирования механистических автоматов, первоначально создавали таких роботов, для которых процессы движения точно устанавливались. Но в случае сложной и постоянно изменяющейся окружающей среды в программе не могут быть учтены все возможные события. Так в значительной степени в отсутствии сознательного центрального управления протекает процесс сложной телесной самоорганизации, так двигаются вниз по пологому склону, будучи подгоняемыми только силой тяжести, инерцией и толчками, а телесные взаимодействия осуществляются без программного управления14.
В природе сложные образцы движений управляются и вычисляются вне централизованного контроля, они организуются децентрализованно посредством нейронных сетей с обратными связями. Знанию движения по неизвестной территории обучаются, после чего это знание - learning by doing - сохраняется в нейронных сетях15. Нейронные сети, напомню, являются примерами сложных динамических систем, состоящих из отдельных нервных клеток, которые взаимодействуют нейрохимически посредством передающих сигналы тканей (нейротрансмиттеров) и порождают образцы поведения как системные свойства.
Роботы, следовательно, должны обучаться в большей или меньшей степени самостоятельно приспосабливаться, чтобы быть в состоянии оценивать новые ситуации. Возрастающая сложность нашего мира требует от технических устройств все большей автономии и самоорганизации16.
При участии роботов в космическом полете сразу становится очевидным, что мы напрямую с Земли не можем управлять их реакциями, например, на Марсе - из-за задержки передачи сигналов. Но и роботы, предназначенные для промышленности или бытового использования (например, на кухне), должны реагировать самостоятельно и быстро на возникновение новых ситуаций17.
14 Pfeifer R., Scheier C. Op. cit.
15 Nolfi S., Floreano D. Evolutionary Robotics. The Biology, Intelligence, and Technology of Self-Organizing Machines. 2nd edition. Cambridge (MA), 2001.
16 Tuci E. et al. Self-Assembly in Physical Autonomous Robots: the Evolutionary Robotics Approach // Proc. of the 11th International Conference on Simulation and Synthesis of Living Systems (ALifeXI) / Ed. by S. Bullock et al. Cambridge (MA), 2008. P. 616-623.
17 Knoll A., Christaller T. Robotik. Frankfurt, 2003.
Функционирование и очистка посудомоечной машины является процессом огромной сложности, который не может быть запрограммирован заранее детерминистической последовательностью отдельных приказов. Роботы, обеспечивающие уход за пожилыми людьми в обществе, где их число возрастает, должны обучаться заботливому обращению.
Для этого роботы должны быть снабжены сенсорными, моторными и нейронными возможностями, они должны формировать образцы поведения и развивать когнитивные способности. Японская промышленность ставит задачу до 2016 г. разработать роботов-гуманоидов, конечности которых будут функционировать подобно человеческим. К 2020 г. они должны уметь работать самостоятельно в одной команде с людьми и успешно обращаться с ними18. Это предполагает создание чувствительной и автономной системы, представления которой о том, как ей следует вести себя с людьми, будут постоянно совершен-ствоваться19. Роботы должны справляться со все более сложными заданиями, которые люди на каждом шаге их выполнения больше не смогут контролировать, а в итоге (надеемся) развить хотя бы минимальную ответственность.
Роботы, которые взаимодействуют с людьми, должны, по идее, обладать когнитивными способностями, такими, какие возникли в природе в ходе эволюции. Восприятие через органы чувств, способность видеть, слышать и ощущать тактильно у людей ведет через центральную нервную систему к чувствам, мышлению и сознанию, за которые ответственен мозг. К этому добавляется наша мобильность, проявляющаяся у прямоходящих существ в высоко дифференцированных хватательных движениях рук. На этой основе строится образец для создания роботов-гуманоидов, ориентированных на взаимодействие с людьми.
Однако инженеры нацелены прежде всего на техническое решение обозначенных проблем, а не на имитацию природы (стало быть, людей) во всех деталях. В истории инженеры добивались успеха тогда, когда в рамках природных законов вступала в действие новая технология, которая еще не была найдена в природе. К примеру, люди размышляли о полете, реализованном в итоге в летательных аппаратах, как о возможном при помощи не крыльев, а пропеллеров и реактивных двигателей, и, в конечном счете, пришли к созданию даже более мощной и эффективной летательной системы, чем та, что возникла в результате эволюции. Та же стратегия действует и при конструировании роботов-гуманоидов.
Что касается человеческой мобильности, наши конечности представляют собой чудесное создание природы. Они сформировались из сложных клеточных тканей, сухожилий, легких и эластичных костей и с минимальными затратами энергии и информации в полной мере управляют собой, причем так, что - и это удивительно - вплоть до сегодняшнего дня демонстрируют стремление к самодостраиванию. Но с легким металлом, маленькими высокопроизводительными моторами, программированием на основе высокомощных вычислительных устройств и огромными затратами энергии можно добиться подобных процессов движения и у двигающихся роботов (например, Asimo20 фирмы Хонда).
18 Kajita S. (Hrsg.) Humanoide Roboter. Theorie und Technik des Künstlichen Menschen. Berlin, 2007.
19 Bekey G.A. Autonomous Robots. From Biological Inspiration to Implementation and Control.
Cambridge (MA), 2005.
20 Аббревиатура от: Advanced Step in Innovative Mobility (примеч. пер.).
Мы полагаемся в развитии техники на наши вычислительные возможности и можем при больших затратах на вычислительную технику так управлять роботом-гуманоидом, что он будет двигаться подобным человеку образом. Тем не менее движение человека происходит совершенно по-другому. Не существует никакого высокопроизводительного вычислительного устройства, которое рассчитывало бы в реальном масштабе времени положение равновесия, чтобы система могла к нему адаптироваться. Математически это может быть описано уравнениями Эйлера-Ньютона, которые лежат в основе теории устойчивости, разработанной еще в XVIII в. математиком Леонардом Эйлером.
Если мы посмотрим на сложное движение палочника, то не обнаружим никакого центрального вычислительного устройства, координирующего движение его ног и поддержание им равновесия. Это происходит децентрализованно через нейронную сеть. Импульсы отдельных ног настолько локально согласованы друг с другом, что если одна нога оказывается запертой, другая нога на это реагирует. Следовательно тот же эффект достигается в природе с минимальными затратами на вычисления. Но эволюционный опыт, который здесь хорошо упакован, является высокосложным. От обмена веществ на субклеточном уровне до физиологических процессов, функционирования сосудов, мускул и сухожилий - все эти процессы в человеческой ноге до сих пор технически даже близко не реализуемы.
Как могут быть реализованы в роботах когнитивные способности? В качестве конкретных примеров выступают сервисные роботы, которые были разработаны в рамках исследовательской программы CoTeSys. В исследовательском кластере Мюнхена «Cognition for Technical Systems» (CoTeSys) совместно на междисциплинарной основе работали более ста ученых из инженерных наук, естествознания, нейронаук, клинической неврологии и информатики, биологии и психологии21. Неврологи и биологи исследовали когнитивные способности людей и животных и возможность их перенесения на технические системы. Психологи изучали требования к вербальной и невербальной коммуникации между роботами и людьми. На технических факультетах рассматривались механические, физические и технические вопросы управления, математика и биология внесли свой вклад в поиск методов оптимизации.
Ученые, работавшие в CoTeSys, взяли на себя обязательство протестировать разработанные когнитивные методы в сценариях технических демонстраций, показав их преимущество по сравнению с классическими подходами не только на бумаге. Важный и вызывающий сценарий - ведение домашнего хозяйства (Homecare). Деятельность, кажущаяся человеку простой, такая как сервировка напитков, для робота составляет сложную проблему, поскольку для ее выполнения он должен, в частности, различать людей, знать, достаточно ли кофейной чашки или нужен стакан, а перед этим идентифицировать объект в качестве желательного. Когда робот взаимодействует с человеком, он должен уметь делать это человеческим способом, демонстрируя человеческие манеры.
Обработка образов для интерпретации объектов и их окружения хорошо разработаны. Также и лица людей могут быть упорядочены, их мимика и эмоции успешно распознаются или интерпретируются. Гораздо более проблематичным является распознавание тактильных (осязательных) образов, на-
21 Cluster of Excellence: Cognition in Technical Systems CoTeSys, 2011. http://www.cotesys.de/
пример, через датчики давления при механическом схватывании и движении пальцев. Здесь часто не хватает подходящих сенсорных датчиков, а интеграция с визуальными сенсорами остается предметом исследований.
3.3. Социальные и когнитивные роботы
Координировать свои собственные движения и действия с движениями и действиями других людей - высокозначимая способность в повседневной социальной жизни и трудовой деятельности, которой мы, люди, очевидно, овладеваем без труда. Целью исследований является выявление того, какие правила координации могут быть перенесены на взаимодействие человека и робота22. Первые результаты показывают, что человек всегда планирует движение в аспекте его оптимизации с последующими движениями. Участники серии экспериментов, которым нужно было поставить бутылку на стеллаж с полками на различной высоте, схватывали бутылку по-разному в зависимости от того, на каком уровне она в итоге должна была оказаться.
Чему служат эти результаты в робототехнике и как найти им применение? Чтобы взаимодействие «человек-машина» организовать комфортабельным для человека образом, манера и способ, каким движется человек, должны служить эталоном. Человек предвосхищает - как правило, бессознательно и до фактического начала движения - что определенная траектория движения является лучшей и наиболее эффективной для достижения цели. Разработанная психологами модель может оказаться полезной для инженеров или разработчиков соответствующих алгоритмов при ее переносе в исследовательскую область управления роботами23. Благодаря этому планирование движения робота становится менее сложным и в то же время более эффективным и просчитываемым для человека как партнера в процессе взаимодействия. Также и здесь стратегии оптимального управления процессами движения, которые были сформированы у людей в ходе эволюции, служат в качестве образца.
Проводимые в обозначенном направлении исследования помогают сделать взаимодействие робота и человека более интуитивно понятным. Как HomeCare-робот, только что доставленный с фабрики в дом, обучается, осваивается в новом окружении? Согласно сценарию CoTeSys, он сперва остается пару дней на кухне, чтобы изучить, что там происходит, где что хранится, что необходимо поставить на стол для завтрака, какие у каждого члена семьи пищевые привычки. Так робот учится накрывать стол для завтрака и затем убирать со стола. Для этого он в состоянии идентифицировать своих сожителей и их пристрастия. Если робот не знает, что такое «чашка», он входит в интернет и ищет среди предложенных Google картинок чашки, чтобы сравнить предметы. Или он входит в интернет, чтобы узнать, как варить макароны (в интернете есть тысячи рецептов и инструкций по их приготовлению). В этом сценарии основная цель CoTeSys - придать техническим системам когнитивные функции и наглядно их пояснить: технические системы, которые планируют, решают, обучаются, могут сами себя информировать, защищены от неожиданностей.
22 Mainzer K. From Embodied Mind to Embodied Robotics: Humanities and System Theoretical Aspects // Journal of Physiology. 2009. Vol. 103. P. 296-304.
23 Dominey P.F., Warneken F. The Basis of shared intentions in human and robot cognition // New Ideas in Psychology. 2011. Vol. 29. № 3. P. 260-274.
Окружающий мир кухни уже настолько сложен и динамичен, что робот может быть запрограммирован не на всякое применение и не на всякую возможную ситуацию. Программа должна уметь обучаться из опыта, где нужно стоять, чтобы взять стакан из шкафа, как лучше овладеть кухонными приборами, где следует искать столовые принадлежности и т. д. Для этого система управления должна знать параметры навыков управления и иметь в своем распоряжении шаблоны, позволяющие изменять параметры поведения.
3.4. Интеллект и сложность
Являются ли такие роботы умными (или, иначе, обладают ли они интеллектом)? Первое определение «искусственного интеллекта» (ИИ) восходит к Алану Тьюрингу. Если коротко, некую систему можно назвать умной (обладающей интеллектом), когда по ответам и реакциям ее невозможно отличить от человека. Это определение, однако, является очень антропоцентричным: оно ставит интеллект в зависимость от человека. Кроме того, оно является круговым, т. к. не определен «человеческий интеллект».
Мое рабочее определение делает интеллект зависимым от способности системы решать проблемы. Система, в соответствии с этим рабочим определением, называется «умной», если она в состоянии эффективно и самостоятельно решать более или менее сложные задачи. Степень интеллекта обусловливают измеряемые, независимые от деятельности человека величины: а) степень самостоятельности (автономии) системы, б) степень эффективности метода решения проблемы и в) степень сложности проблемы24.
В соответствии с этим определением, некоторой степенью интеллекта обладает, например, автомобиль, поскольку он может до некоторой степени самостоятельно и эффективно управлять собой в сложных транспортных ситуациях. И палочник на этом основании тоже имеет некую степень интеллекта, т. к. способен самостоятельно управлять процессами своего движения в сложном окружении. Исходный код в первом случае был написан человеком, во втором передан через эволюционные алгоритмы обучения, которые могли оптимизироваться на протяжении миллионов лет также и без «сознания».
Согласно введенному рабочему определению, мы уже сегодня повсюду в природе и технике окружены интеллигентными функциями. Тем не менее способ их технического проектирования отличается от того, как они возникали в ходе эволюции. Мерилом интеллекта оказывается степень сложности функциональных процессов и соответствующих методов решения.
Человек представляет собой пример системы с интеллектом, которая возникла (так же как и палочник) в ходе эволюции. Существует, следовательно, не «интеллект», а степень интеллекта, которая в предложенном рабочем определении стала зависимой от измеряемых свойств систем. Когда я использую понятие «рабочее определение», то хочу подчеркнуть, что оно ни в коем случае не претендует на полноту, которая и не достижима. Рабочее определение показывает свою пригодность в исследовании и в развитии и, кроме того, может дополняться и корректироваться.
24 Mainzer K. KI - Künstliche Intelligenz. Grundlagen intelligenter Systeme. Darmstadt, 2003.
Однако уже и в соответствии с классическим критерием ИИ Тьюринга некоторые существующие технические системы могут быть охарактеризованы как обладающие интеллектом (при их сравнении с человеком). Возьмем, к примеру, суперкомпьютер Deep Blue, который одержал победу над человеком, чемпионом мира по шахматам. Фактически он не отличим от человека: играет в шахматы по известным правилам, при этом система действует и реагирует с игровыми особенностями, которые в конечном счете превосходят человеческие. Отличие от человека состоит прежде всего в том, что Deep Blue не умеет ничего иного, кроме как играть в шахматы. Но такой эксперимент осуществляется в настоящее время исключительно из чистого интереса. Система, правда, в отличие от человека настолько производительна, что использует большой вычислительный потенциал и параллельные вычисления. Мы, люди, играя в шахматы, просчитываем варианты значительно медленнее. Наша сила заключается в том, что мы думаем наглядно, используя образцы, способны прибегать к ассоциативному мышлению, в известной мере развивать в себе интуитивное чувство, присущее экспертам, тогда как компьютер «брутально» просчитывает с большой скоростью возможные конфигурации.
Следующим шагом (на пути к успешному прохождению теста Тьюринга) был суперкомпьютер Ватсон (Watson), который в игре вопрос-ответ «Рискуй!» (Jeopardy) выигрывал против многих игроков-людей. Ватсон понимает даже естественный язык и в состоянии в итоге давать ответы быстрее и лучше, чем человек. В этом отношении при выполнении заданий типа тех, что используются в тесте Тьюринга, техническая система опять-таки оказывается лучше и умнее человека. Но если посмотреть на события более внимательно, дело отнюдь не в том, что Ватсоном был найден новый, сверхинтеллигентный языковый алгоритм. Скорее эта программа параллельно условным образом использовала тысячи широко известных алгоритмов анализа языка, молниеносно разлагала предложения на отдельные части и просчитывала вероятности того, что определенный языковый образец подходит к соответствующему вопросу. Для этого затем стали использоваться огромные хранилища данных, вмещающие миллионы страниц. Эта комбинация и создала превосходство суперкомпьютера над человеком.
Пример Ватсона также демонстрирует, что семантическое понимание значений никоим образом не должно быть сопряжено с сознанием, как это обычно бывает у людей. Первые практические применения данной способности -смартфоны, с которыми мы можем вести простые диалоги. Ими могут овладеть также роботы. Благодаря использованию Интернета они получат доступ к огромным хранилищам данных как к памяти, объем которой превышают объем человеческой памяти.
Следующим шагом может стать разработка гибридных систем, интегрирующих, подобно человеческому мозгу, различные способности. Так, понимание значений (семантика) у людей связана еще с созерцаниями, восприятиями и воспоминаниями. Как свидетельствует пример Ватсона, в этом нет абсолютной необходимости. Суть этого аргумента такова: частичные функции человеческого интеллекта для определенных целей уже технически реализованы в смысле теста Тьюринга. Соответствующие технические приборы от случая к случаю даже превосходят человеческие способности в этих областях.
И в этом нет нового. Мы уже давно имеем машины, которые, например, превосходят нашу мускульную силу, нашу способность видеть и слышать. Почему бы нам не соединить эти способности в гибридных системах, подражая тому, как в ходе эволюции человек формировался посредством добавления, связывания и коррекции различных способностей? В целом техника сегодня уже усиливает наши телесные и интеллектуальные способности - часто по-другому, чем это происходило в процессе эволюции. Для инженера, как правило, несущественно, работает ли его система точно по образцу эволюции, хотя он вполне может быть вдохновлен природой. Для инженерных наук определяющим является достижение эффективного решения.
3.5. Эмоции и сложность
Эмоции важны и для людей, и для всех животных. Они служат спонтанной оценке ситуаций (страх, радость, отвращение и т. д.), которая гормонально через лимбическую систему мозга подготавливает тело к адекватному поведению, например, в опасных или радостных ситуациях. В робототехнике тот же механизм может использоваться для распознавания эмоций и реагирования на них при общении с людьми, что станет принципиальным отличием от возможностей промышленных роботов, способных лишь отрабатывать свою рабочую программу.
На этом примере видно, что отдельные когнитивные способности, которыми обладают люди, могут быть технически реализованы в роботах отличным и иногда даже более эффективным образом. Распознавание эмоций - задача, решенная в робототехнике много лет назад. Исследовательская группа в Лозанне разработала голову робота, которая, когда ему улыбались, улыбалась в ответ. Как робот это делал? Сегодня исходят из того, что для людей, в отличие от обезьян, независимо от того, к какой расе или культуре они принадлежат, характерно определенное число основных эмоциональных состояний. Повсюду люди демонстрируют одни и те же эмоциональные выражения лица - это врожденная способность. Речь идет прежде всего о технической задаче распознавания и различения соответствующей мимики.
Теперь можно было бы представить себе технику, которая на первый взгляд не занимается распознаванием эмоций: сначала тепловизионная камера регистрирует различные образцы кровоснабжения, свойственные выражениям лица, которые затем различаются и классифицируются нейронной сетью. Робот, как предполагается, может различать радость, печаль, отвращение и т. д. Работу такой системы нельзя было бы с помощью теста Тьюринга отличить от поведения человека, но при этом функционировала бы она как раз иначе.
Традиционно проводят различие между слабым и сильным искусственным интеллектом: системы со слабым ИИ только имитируют когнитивные или интеллектуальные способности, тогда как системы с сильным ИИ обладают ими. При слабом искусственном интеллекте робот имитирует с помощью эмоционального выражения лица только одно эмоциональное состояние. Мог бы робот в смысле сильного искусственного интеллекта воспринимать эмоции?
В этом отношении существуют предварительные проекты. В сложной системе нейронной сети уже на протяжении ряда лет пытаются смоделировать поведение маленьких детей25. Для этого эмоциональные прототипы можно представить как узлы в некой сети. На самом деле мы ведь не всегда либо радостно возбуждены, либо совершенно грустны, а находимся в некотором смешанном состоянии, в котором все эти прототипы представлены в различном соотношении. Эмоциональные прототипы находятся во взаимодействии друг с другом, как узлы в сети, и в большей или меньшей степени возбуждены или подавлены. Когда я, например, получаю печальное сообщение, интенсивность моей радости спадает, а интенсивность грусти увеличивается.
Можно составить уравнения, которые определяют интенсивность эмоциональных прототипов, например радости, в определенный момент времени - в зависимости от тормозящего или усиливающего взаимодействия с другими эмоциональными прототипами. В дополнение к этому можно принять во внимание еще и ряд физиологических факторов, таких, например, как гормональные воздействия, голод, жажда и т. п., и предшествующее состояние, выступающее, поскольку данное уравнение движения является зависимым от времени, определяющим для текущего эмоционального состояния. Поскольку существуют различные эмоции, мы бы получили в итоге систему из многих уравнений, которые, так сказать, генерировали бы для каждого момента времени смешанное эмоциональное состояние.
Конечно, речь идет прежде всего лишь о математической модели сложной динамической системы, а именно о системе уравнений для изменяющейся во времени интенсивности эмоциональных прототипов. Но ничто не препятствует тому, чтобы построить нейрохимическую систему с сенсорами, которая способна ощущать в соответствии с такой моделью. Это были бы, возможно, не наши человеческие ощущения, т. к. телесность иначе реализована, но ощущения, подобные тем, которые получают человеческие организмы. Этот подход может быть в дальнейшем уточнен и развит в рамках математической модели Ходжкина-Хаксли. При этом математическая модель нейронной динамики, например лимбической системы, будет играть важную роль. В рамках флагманского проекта ЕС «Человеческий мозг» закладывается эмпирическое пробное основание для проверки предсказаний и объяснений этой модели.
Сильный искусственный интеллект (ИИ), следовательно, технически вполне мыслим, а отнюдь не невозможен. Правда, встает вопрос, до какой степени нам следует развивать способности ощущений системы, чтобы из этических оснований избежать ненужных страданий26.
В рамках исследований классического ИИ в течение долгого времени полагали, что можно представить человеческий разум квазимеханически в программных правилах. Такие программы широко, с задействованием их потенциала по выполнению сложных процедур, использовались, например, в промышленности при управлении производственными линиями. Из-за применяемых при этом программных строк, состоящих из формальных символов, мы говорим также о символическом ИИ. Однако было бы иллюзией намереваться
25 Picard R.W. Affective Computing. Cambridge (MA), 1997.
26 Müller O. etal. (Hrsg.) Das technisierte Gehirn. Neurotechnologien als Herausforderung für Ethik und Anthropologie. Paderborn, 2009.
схватить таким образом все умственные способности человека. За этим стоит старая вера, в соответствии с которой ум и машина, подобно уму и телу, разведены как софтвер и хардвер, и нужно лишь записать все умственные способности в виде программы. Этого может быть достаточно для моделирования отдельной моторной или когнитивной функции. Чтобы схватить динамику мозга и связанных с ней ментальных состояний человеческого организма, требуется техническая рамочная модель для отелесненного разума (embodied mind).
Даже роботы - каждый из них - имеют собственные тела, с помощью которых они расширяют свой опыт, тем самым развивая собственный вид интеллекта, и он не должен быть таким же, как наш. Мы говорим о «телесном» ИИ (embodied AI). И другие живые существа развили в ходе эволюции свои собственные формы интеллекта. Интеллект возникает, таким образом, через преодоление сложности в соответствующей окружающей среде, выступающей как система. Согласно представленной здесь рабочей гипотезе, интеллект не обязательно связан, к примеру, с сознанием, каким обладают люди; он связан со способностью решать специфические проблемы. Степень интеллекта зависит от степени сложности проблемы, которую всякий раз необходимо решить. Мы, люди, очевидно, представляем собой гибридные системы со многими способностями, которые в ходе эволюции ни в коей мере не должны были развиться именно таким образом. Гибридная система нашего органического оснащения и наши способности могли бы выглядеть иначе при другом историческом ходе развития27.
4. Коэволюция автономных социотехнических систем?
4.1. Киберфизические системы
В центре дебатов о телесности (embodiment) ментальных способностей и робототехники стоит понимание того, что процессы, протекающие в когнитивной системе, в отличие от классического ИИ не могут быть поняты в отрыве от телесных данных системы, ее ситуативной встроенности и ее динамического взаимодействия с окружающей средой.
Этот тезис можно перенести с отдельной системы роботов на глобализированный Интернет-мир. Здесь также традиционно проводят строгое различие между физическим («реальным») и виртуальным миром. Но уже сегодня врачи и инженеры действуют в реальном физическом мире при поддержке виртуальных приборов. Так, проведение операции сопровождается виртуальным изображением органа с точными информационными данными и данными измерений, обеспечивая точность хирургического вмешательства. На смену понятию «виртуальная реальность» (virtual reality) пришло представление о расширенной реальности (augmented reality), другими словами, о расширении физического мира посредством использования виртуальной реальности28.
27 Mainzer K. Organic computing and complex dynamical systems. Conceptual foundations and interdisciplinary perspectives // Organic Computing / Ed. by R.P. Wurtz. Berlin, 2008. P. 105-122.
28 Mainzer K. From Embodied Mind to Embodied Robotics: Humanities and System Theoretical Aspects // Journal of Physiology (Paris). 2009. Vol. 103. P. 296-304.
В техническом плане ключевую роль играют при этом мехатронные системы, интегрирующие механические и электронные системы с относящейся к ним технологией сенсоров. Можно говорить, например, и о домашних приборах в интеллигентном доме, оснащенных сенсорами, а также и об автомобиле, который через сателлит и сенсоры индивидуально определяет свой маршрут, скорость и безопасные дистанции. Тем самым, Интернет может быть «воплощен» в сети взаимодействующих приборов, вещей и людей: вещи сами воспринимают себя через сенсорные технологии и нами, людьми, воспринимаются и становятся объектами манипуляций. Уже говорят об «Интернете вещей».
Системы управления, встроенные в современные автомобили и самолеты и состоящие из множества сенсоров и исполняющих устройств, больше не соответствуют строгому делению вещей физического мира и компьютерного мира. В информатике наступает время киберфизических систем, которые распознают свое физическое окружение, обрабатывают полученную информацию и согласованно влияют на физическое окружение. Для этого необходимо сильное сопряжение физической модели применения и компьютерной модели управления. Речь при этом идет об интегрированных целостных состояниях взаимодействующих человеческих мозгов, информационных и коммуникационных систем, отличающихся значительной автономностью, и физических вещей и приборов29.
Конкретными примерами служат умные решетки (smart grids), а именно адаптивные и в значительной степени автономные энергетические сети, которые в Германии после энергетического поворота приобрели особую актуальность. Мы можем уже сегодня через Интернет получать информацию, когда и какой именно из функционирующих в нашем доме приборов нужно подключить к электрической сети с наибольшей для себя выгодой. Для многих людей рассчитывать это самостоятельно чересчур хлопотно и даже не осуществимо, поскольку тем самым к ним применяются завышенные требования. Следующим шагом будут интеллектуальные программы (виртуальные агенты), молниеносно договаривающиеся о выгодных ценах на электричество и скидках. И, наоборот, пользователи сети сами становятся поставщиками энергии, когда их дома по причине лучшей тепловой изоляции и новых энергетических технологий (например, фотовольтаики, биогаза и т. п.) передают в сеть неизрасходованную электроэнергию. Там общая энергия автономно контролируется, распределяется и уравновешивается виртуальными агентами: облако (Cloud) IT-мира, в котором сохраняются все данные и программы, сплавляется с физической инфраструктурой человеческой цивилизации.
Увеличивающаяся автономия сети выдвигает новые требования к контролю. Агентские программы, например в финансовой системе, наглядно демонстрируют, как могут обостряться финансовые кризисы, когда автономные программы в доли секунды производят сумасшедшие покупки и продажи, которые для людей уже не обозримы.
C математической точки зрения при рассмотрении этих сетей речь идет о сложных системах с нелинейной динамикой, с которой мы уже познакомились на примере устройства клеток, организмов и человеческого мозга. Нелинейные побочные действия этих сложных систем часто могут становиться в высокой степе-
29 Mainzer K. Die Berechnung der Welt. Von der Weltformel zu Big Data. München, 2014.
ни неконтролируемыми. Локальные причины вследствие нелинейных взаимодействий способны разрастаться в непредсказуемые глобальные действия. Поэтому говорят о системных рисках, которые не имеют никакого отдельно идентифицируемого виновника, но возникают по причине системной динамики в целом.
Наши технологии обретают все большую автономность, чтобы решать задачи все более усложняющегося цивилизационного организма. Отдельные люди уже не справляются со сложностью необходимых для такой цивилизации систем организации. Обратная сторона возрастающей автономии техники - контроль, который становится все более сложным: машины и приборы разрабатывались в инженерных науках всегда с прицелом на возможность их контролировать. Но как можно избежать системных рисков сложных систем?
Взгляд на эволюцию показывает, что ее ход дополняется автономной самоорганизацией и контролем (по крайней мере, в здоровых организмах). В случае болезней, таких как рак, это равновесие нарушается: раковая опухоль является самоорганизующимся организмом, который имеет свои собственные интересы и, так сказать, борется за свое выживание, не предвидя при этом, что организм-хозяин, в котором она прижилась, от этого разрушается. Сложные системы нуждаются, таким образом, в механизмах контроля, чтобы находить баланс -внутри организмов, на финансовых рынках, в политике и т. д. В сложных цивилизациях развитие людей сопровождается развитием технологий. Подобные мегасистемы или суперорганизмы эволюционируют, демонстрируя свою собственную нелинейную динамику. Это уже давно стало реальностью, а не просто биологической метафорой. Такие системы можно описать с помощью математических моделей, но при этом они становятся все более неуправляемыми.
Продолжая использовать язык биологии, подчеркнем, что суперорганизм социотехнической системы состоит из органически ей присущих, небольших, автономных, неуклонно повышающих свой интеллектуальный уровень систем, организмов-частей, о которых нам, на первый взгляд, не известно, являются ли они «хорошими» или «плохими». Нуждается ли суперорганизм в таком случае, пусть и не немедленно, в технологическом эквиваленте иммунной системы? В принципе мы уже близки к тому, чтобы развивать эту иммунную систему. Если рассмотреть финансовые кризисы последних лет, именно такие системы контроля и «пожарные стены» были встроены в суперорганизм во избежание каскадного распространения нелинейных «эпидемий». Это очень напоминает нам способ, каким разворачивается эволюция. Решающее отличие состоит в том, что эволюция работает без центрального управляющего сознания: методом «проб и ошибок», с использованием адаптации, с чудовищными - по человеческим меркам — потерями. В природе не существует нашего мерила потерям, эволюционный процесс просто развивается так, как развивается. В эволюции нет места какой-либо оптимизации, что-то сохраняется, согласно Дарвину, лишь постольку, поскольку этому способствовали сложившиеся условия.
4.2. Техническая коэволюция
На данном этапе эволюции мы располагаем нашим организмом, нашим мозгом с присущими нам ментальными состояниями и когнитивными способностями. За миллионы лет мы изменили окружающий мир так, как не смогло сделать ни одно другое живое существо. Иногда этот период называют тех-
нической коэволюцией. Принимают ли это название или хотят отмахнуться от него, как от метафоры, - во всяком случае, мы, люди, уже давно занимаемся тем, что перестраиваем самих себя и окружающий мир. Это началось много тысячелетий назад с приручения животных и выращивания культурных растений и продолжается сегодня через био- и генные технологии вплоть до исследования стволовых клеток, синтетической биологии, техники медицинских имплантатов и протезов, робототехники и социотехнических систем. Многое из этого нас беспокоит и требует этического регулирования.
Но мы не должны смиряться с собственной динамикой и случайной игрой эволюции30. Эволюция, по Дарвину, - не празднество гармонии, в ходе которой в итоге все само хорошо сложится. Динамика вирусов, рака и других болезней, протекание процесса старения и связанные с ним вызовы обществу говорят сами за себя. Люди могут установить стандарты для долгосрочного и устойчивого обеспечения и улучшения своих жизненных условий. Мы говорим в таком случае об оформлении техники (Technikgestaltung)31. К достоинствам человека относится возможность научиться вмешиваться в свое будущее и самому его определять. Ответы на вопросы, кто мы, что мы сохраняем и что мы хотим получить от искусственного интеллекта и искусственной жизни рядом с нами и насколько мы согласны их терпеть, находятся в нашей власти. Как бы то ни было, мы не должны оказаться в конце концов захваченными собственной динамикой цивилизаторских суперорганизмов, которые мы же однажды и вызвали к жизни.
Перевод с немецкого Е.Н. Князевой
Список литературы / References
Banerjee, R., Chakrabarti, B.K. Models of Brain and Mind. Physical, Computational, and Psychological Approaches. Progress in Brain Research. Amsterdam: Elsevier, 2008. 266 pp.
Bekey, G.A. Autonomous Robots. From Biological Inspiration to Implementation and Control. Cambridge Mass.: MIT Press, 2005. 577 pp.
Boogerd, F.C. et al. (ed.) Systems Biology. Philosophical Foundations. Amsterdam: Elsevier, 2007. 242 pp.
Broy, M. (ed.) Cyberphysical Systems. Innovation durch softwareintensive eingebettete Systeme (acatech diskutiert). Heidelberg: Springer, 2010. 141 pp.
Cluster of Excellence Cognition in Technical Systems CoTeSys, 2011. [http://www. cotesys.de/, accessed on 01.01.2014].
Dominey, P.F., Warneken, F. "The Basis of shared intentions in human and robot cognition", New Ideas in Psychology, 2011, vol. 29, no 3, pp. 260-274.
European Robotics Technology Platform. Robotic Visions - to 2020 and beyond: The strategic research Agenda for Robotics in Europe. 2009. [http://www.robotics-platform.eu/ sra/scenarios accessed on 01.01.2014].
Förstl, H. (ed.) Theory of Mind. Neurobiologie und Psychologie sozialen Verhaltens. 2nd ed. Berlin: Springer, 2012. 440 pp.
Glymour, C. et al. Discovering Causal Structures. Artificial Intelligence, Philosophy of Science, and Statistical Modeling. Orlando: Academic Press, 1987. 394 pp.
30 Mainzer K. Der kreative Zufall. Wie das Neue in die Welt kommt. München, 2007.
31 Rammert W., Schulz-Schaeffer I. (Hrsg.) Können Maschinen handeln? Soziologische Beiträge zum Verhältnis von Mensch und Technik. Frankfurt, 2002.
Haken, H. Synergetik. Eine Einführung. 3. Aufl. Springer: Berlin, 1983. 388 S. Kajita, S. (ed.) Humanoide Roboter. Theorie und Technik des Künstlichen Menschen. Berlin: Akademische Verlagsgesellschaft, 2007. 190 S.
Kaneko, K. Life: An Introduction to Complex Systems Biology. Berlin: Springer,
2006. 369 pp.
Knoll, A., Christaller, T. Robotik. Frankfurt: Fischer, 2003. 127 S.
Kriete, A., Eils, R. (ed.) Computational Systems Biology. Amsterdam: Academic Press,
2007. 409 pp.
Mainzer, K. Computer - Neue Flügel des Geistes? 2. Auflage. Berlin/New York.: De Gruyter, 1995. 882 S.
Mainzer, K. Computernetze und virtuelle Realität. Berlin: Springer, 1999. 300 S. Mainzer, K. Der kreative Zufall. Wie das Neue in die Welt kommt. München: C.H. Beck, 2007. 283 S.
Mainzer, K. Die Berechnung der Welt. Von der Weltformel zu Big Data. München: C.H. Beck, 2014. 352 S.
Mainzer, K. "From Embodied Mind to Embodied Robotics: Humanities and System Theoretical Aspects", Journal of Physiology (Paris), 2009, vol.103, pp. 296-304. Mainzer, K. Gehirn, Computer, Komplexität. Berlin: Springer, 1997. 246 S. Mainzer, K. KI - Künstliche Intelligenz. Grundlagen intelligenter Systeme. Darmstadt: Wissenschaftliche Buchgesellschaft, 2003. 296 S.
Mainzer, K. Leben als Maschine? Von der Systembiologie zur Robotik und Künstlichen Intelligenz. Paderborn: Mentis, 2010. 274 pp.
Mainzer, K. "Organic computing and complex dynamical systems. Conceptual foundations and interdisciplinary perspectives", Organic Computing, ed. by R.P. Würtz. Berlin: Springer, 2008, pp. 105-122.
Mainzer, K. Symmetry and Complexity. The Spirit and Beauty of Nonlinear Science. Singapore: World Scientific, 2005. 437 S.
Mainzer, K. Thinking in Complexity. The Computational Dynamics of Matter, Mind, and Mankind. 5th ed. Berlin: Springer, 2007. 482 pp.
Mainzer, K., Chua, L.O. Local Activity Principle. The Cause of Complexity. London: Imperial College Press, 2013. 443 pp.
Mainzer, K., Chua, L.O. The Universe as Automaton. From Simplicity and Symmetry to Complexity. Berlin: Springer, 2011. 108 pp.
Müller, O. et al. (Hrsg.) Das technisierte Gehirn. Neurotechnologien als Herausforderung für Ethik und Anthropologie. Paderborn: Mentis, 2009. 507 S.
Nolfi, S., Floreano, D. Evolutionary Robotics. The Biology, Intelligence, and Technology of Self-Organizing Machines. 2nd ed. Cambridge (MA): MIT Press, 2001. 320 pp.
Pfeifer, R., Scheier, C. Understanding Intelligence. Cambridge (MA): MIT Press, 2001. 697 pp.
Pühler, A. et al. (Hrsg.) Synthetische Biologie. Die Geburt einer neuen Technikwissenschaft. Reihe: acatech Diskussion. Berlin: Springer, 2011. 175 S.
Picard, R.W. Affective Computing. Cambridge (MA): MIT Press, 1997. 292 pp. Rammert, W., Schulz-Schaeffer, I. (Hrsg.) Können Maschinen handeln? Soziologische Beiträge zum Verhältnis von Mensch und Technik. Frankfurt: Campus Verlag, 2002. 308 S. Thrun, S. et al. Probabilistic Robotics. Cambridge Mass.: MIT Press, 2005. 647 pp. Tuci, E. et al. "Self-Assembly in Physical Autonomous Robots: the Evolutionary Robotics Approach", Proc. of the 11th International Conference on Simulation and Synthesis of Living Systems (ALifeXI), ed. by S. Bullock et al. MIT Press: Cambridge (MA), 2008, pp. 616-623.
Varela, F. et al. The Embodied Mind. Cognitive Science and Human Experience. Cambridge (MA): MIT Press, 1991. 308 pp.
Exploring complexity: from Artificial Life and Artificial Intelligence to cyberphysical systems
Klaus Mainzer
Ph.D. in Philosophy, Professor, Chairman. Chair of Philosophy and Theory of Science. Technical University Munich. Arcis Str. D-80333, Munich, Germany; e-mail: mainzer@tum.de
The classical cybernetics in the Norbert Wiener's tradition is nowadays a part of the mathematical theory of complex systems and nonlinear dynamics. Only in these frameworks, building of structures and patterns in nature and technics can be explained and in computer models simulated. Self-organization and emergence became well-defined concepts and can be transferred to technical systems. In the first part of the article, the foundations of complex systems and of nonlinear dynamics are under review. As an application, the building of structures and patterns in complex cell systems, which are subject of system biology, is considered. In the second part, the application of complex system dynamics to evolution of brain and cognition is explored. The research gives us a prerequisite for development of cognitive and social robots, what the topic of the third part is. Neural network structures are not at all limited to individual organisms and robots. In the fourth part, the cyberphysical systems, by means of which complex self-controlling sociotechnical systems are modeled, are studied. The mathematical theory of complex systems and nonlinear dynamics provides us with foundation for understanding of self-organization and emergence in this field. Finally, the question of ethical and social general conditions for technical constructing of complex self-organizing systems are stated and discussed.
Keywords: complex systems, nonlinear dynamics, cognitive robotics, cyberphysical systems
