CC BY
16
РЕЦЕНЗИЯ НА КНИГУ
DOI: 10.14515/monitoring.2024.1.2525
С. Г. Ушкин
ЛЕВИАФАН 2.0: КАК ТОМАС ГОББС ПРЕДУГАДАЛ РЕВОЛЮЦИЮ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА И БОЛЬШИХ ДАННЫХ? РЕЦ. НА КН.: RUNCIMAN D. THE HANDOVER: HOW WE GAVE CONTROL OF OUR LIVES TO CORPORATIONS, STATES AND AIS. LONDON: PROFILE BOOKS, 2023
Правильная ссылка на статью:
Ушкин С. Г. Левиафан 2.0: как Томас Гоббс предугадал революцию искусственного интеллекта и больших данных?//Мониторинг общественного мнения: экономические и социальные перемены. 2024. № 1. С. 276—283. https://doi.Org/10.14515/monitoring.2024.1.2525. Рец. на кн.: Runciman D. The Handover: How We Gave Control of Our Lives to Corporations, States and AIs. London: Profile Books, 2023 For citation:
Ushkin S. G. (2024) Leviathan 2.0: How Did Thomas Hobbes Predict the Artificial Intelligence and Big Data Revolution? Monitoring of Public Opinion: Economic and Social Changes. No. 1. P. 276-283. https://doi.org/10.14515/monitoring.2024.1.2525. Book Review: Runciman D. (2023) The Handover: How We Gave Control of Our Lives to Corporations, States and AIs. London: Profile Books. (In Russ.)
Получено: 22.11.2023. Принято к публикации: 11.12.2023.
ЛЕВИАФАН 2.0: КАК ТОМАС ГОББС ПРЕДУГАДАЛ РЕВОЛЮЦИЮ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА И БОЛЬШИХ ДАННЫХ? РЕЦ. НА КН.: RUNCIMAN D. THE HANDOVER: HOW WE GAVE CONTROL OF OUR LIVES TO CORPORATIONS, STATES AND AIS. LONDON: PROFILE BOOKS, 2023
УШКИН Сергей Геннадьевич — кандидат социологических наук, ведущий научный сотрудник отдела мониторинга социальных процессов, Научный центр социально-экономического мониторинга, Саранск, Россия; исследовательский менеджер, Всероссийский центр изучения общественного мнения, Москва, Россия; младший научный сотрудник института корпоративного обучения и непрерывного образования, Национальный исследовательский Мордовский государственный университет, Саранск, Россия E-MAIL: ushkinsergey@gmail.com https://orcid.org/0000-0003-4317-6615
Аннотация. Рецензия написана на книгу британского интеллектуала Дэвида Рансимена, посвященную размышлениям о будущем людей в эпоху искусственного интеллекта и больших данных. В своих рассуждениях он опирается на теоретические конструкции Томаса Гоббса о государстве как Левиафане и переносит их на тренды развития современного общества. Главный аргумент Рансимена заключается в том, что сегодня мы не наблюдаем ничего фундаментально нового, поскольку процесс отчуждения власти от человека и ее передачи внешним субъектам продолжается на протяжении нескольких сотен лет. Понятийный аппарат остался прежним, трансформация коснулась только субъектов — если раньше это были государства
LEVIATHAN 2.0: HOW DID THOMAS HOB-BES PREDICT THE ARTIFICIAL INTELLIGENCE AND BIG DATA REVOLUTION? BOOK REVIEW: RUNCIMAN D. (2023) THE HANDOVER: HOW WE GAVE CONTROL OF OUR LIVES TO CORPORATIONS, STATES AND AIS. LONDON: PROFILE BOOKS
Sergey G. USHKIN 12< 3—Cand. Sci. (Soc.), Leading Researcher at the Department for Monitoring Social Processes; Research Manager; Junior Researcher at the Institute for Corporate Education and Continuing Education
E-MAIL: ushkinsergey@gmail.com https://orcid.org/0000-0003-4317-6615
1 Scientific Center for Socio-Economic Monitoring, Saransk, Russia
2 Russian Public Opinion Research Center (VCIOM), Moscow, Russia
3 National Research Mordovia State University, Saransk, Russia
Abstract. The article reviews a book dedicated to the future of people in the era of artificial intelligence and big data and written by British intellectual David Runciman. In his reasoning, Runci-man relies on the theoretical constructions of Thomas Hobbes about the state as a Leviathan and transfers them to the development trends of modern society. Runciman's main argument is that today we are not seeing anything fundamentally new, since the process of alienation of power from people and its transfer to external actors has been going on for several hundred years. The conceptual apparatus remained the same, and the transformation affected only the subjects; previously these were states and corporations, now they are being replaced by artificial intelligence.
и корпорации, то теперь им на смену приходит искусственный интеллект.
Ключевые слова: Дэвид Рансимен, Томас Гоббс, Левиафан, искусственный интеллект, большие данные
Благодарность. Работа подготовлена в рамках реализации гранта Российского научного фонда № 23-28-01288, https://rscf.ru/project/23-28-01288/.
Keywords: David Runciman, Thomas Hobbes, Leviathan, Artificial Intelligence (AI), Big Data
Acknowledgments. The article was prepared within the framework of the Russian Science Foundation grant No. 2328-01288 https://rscf.ru/project/23-28-01288/.
Проблематика искусственного интеллекта и больших данных вызывает все больший интерес социальных исследователей, особенно в части влияния технологий на властные структуры и реализацию власти [Коваль, 2023: 265]. При этом многие теоретики рассматривают цифровую революцию и возникновение сетевых алгоритмических форм мышления, происходящих за пределами человеческого мозга, как нечто принципиально инородное, то, с чем человечество столкнулось впервые, а для непосвященных—и вовсе наделенное магическими, сакральными формами [Finn, 2017].
В своей недавней книге «Передача: как мы отдали контроль над нашими жизнями корпорациям, государствам и искусственному интеллекту» британский публичный интеллектуал, профессор Кембриджского университета Дэвид Рансимен развенчивает некоторые, как ему кажется, мифы о нашем цифровом будущем. Он настаивает на том, что искусственный интеллект не привносит ничего принципиально нового в социальную теорию и является лишь итерацией двух предшествующих ему форм господства — государств и корпораций [Runciman, 2023].
В ней автор последовательно развивает теоретические традиции, сформированные Томасом Гоббсом [Гоббс, 2022]. Государства в этих построениях, а имплицитно и корпорации, представляют собой не что иное, как огромные, могущественные и долгоживущие нечеловеческие (сверх)разумы. Коллективное в них противопоставляется индивидуальному, их способы мышления несравнимы с тем, как думают обычные люди. При этом и государства, и корпорации заметным образом ограничивают спонтанность человеческих действий, полностью или частично подчиняя нашу жизнь бюрократическим правилам и формам (см., например, [Вебер, 2020; Фуко, 2022]).
Рансимен уверен, что наш путь к неконтролируемому искусственному интеллекту начался не с персонального компьютера, а с создания в XVII веке первых национальных государств и появления на рубеже XVIII—XIX веков современных корпораций. Более того, он отмечает, что государства и корпорации имеют намного больше общего с умными машинами, нежели со своими предшественниками. Поясняя эту мысль, Рансимен использует элегантную метафору: современные властные структуры связаны с более ранними государствами и корпорациями
ровно так же, как алгоритмы глубокого обучения XXI века — с мейнфреймами начала XX века.
Для того чтобы придать своим размышлениями академическую стройность, Ран-симен предлагает переосмыслить гоббсовский терминологический аппарат. Он утверждает, что если бы слово «робот» появилось раньше, то именно оно, а не использованный Гоббсом термин «автомат», стало бы определяющим при описании механистических функций государства или корпораций. Семантическое различие употребляемых понятий в том, что первое (робот) подразумевает большую вариативность, похожую на естественность, но не являющуюся ей, в то время как второе (автомат)—лишь следование определенным строго запрограммированным функциям. Вот каким образом в гоббсовском «Левиафане» описаны механистические предпосылки государственного аппарата:
Человеческое искусство (искусство, при помощи которого Бог создал мир и управляет им) является подражанием природе как во многих других отношениях, так и в том, что оно умеет делать искусственное животное. Ибо, наблюдая, что жизнь есть лишь движение членов, начало которого находится в какой-нибудь основной внутренней части, разве не можем мы сказать, что все автоматы (механизмы, движущиеся при помощи пружин и колес, как, например, часы) имеют искусственную жизнь? В самом деле, что такое сердце, как не пружина? Что такое нервы, как не такие же нити, а суставы — как не такие же колеса, сообщающие движение всему телу так, как этого хотел мастер? Впрочем, искусство идет еще дальше, имитируя разумное и наиболее превосходное произведение природы — человека. Ибо искусством создан тот великий Левиафан, который называется Республикой, или Государством (Commonwealth, or State), по-латыни — Civitas, и который является лишь искусственным человеком, хотя и более крупным по размерам и более сильным, чем естественный человек, для охраны и защиты которого он был создан. В этом Левиафане верховная власть, дающая жизнь и движение всему телу, есть искусственная душа, должностные лица и другие представители судебной и исполнительной власти — искусственные суставы; награда и наказание (при помощи которых каждый сустав и член прикрепляются к седалищу верховной власти и побуждаются исполнить свои обязанности) представляют собой нервы, выполняющие такие же функции в естественном теле; благосостояние и богатство всех частных членов представляют собой его силу, salus populi, безопасность народа, — его занятие; советники, внушающие ему все, что необходимо знать, представляют собой память; справедливость и законы суть искусственный разум (reason) и воля; гражданский мир — здоровье, смута — болезнь, и гражданская война —смерть [Гоббс, 2022: 9].
Парадокс, который подмечает Рансимен и о котором не устает говорить, заключается в следующем: пока едва ли не в геометрической прогрессии множатся вполне оправданные опасения по поводу будущего искусственного интеллекта, многие забывают, что на протяжении нескольких столетий большая часть стратегически важных решений была делегирована крупным, непрозрачным и обезличенным организациям. Говоря языком Гоббса, эти «искусственные люди», созданные по образу и подобию человека, оказались настолько могущественными, что
практически полностью вытеснили из политики все человеческое. Им мы обязаны как прогрессом человеческой цивилизации, так и крупномасштабными войнами, унесшими миллионы жизней представителей нашего рода.
Сегодня мы наблюдаем, как люди разочаровываются в государствах и корпорациях, по всему миру фиксируется кризис доверия. Исследования в разных странах фиксируют существенное увеличение противоэлитной активности масс — настолько, что петиции, демонстрации, бойкоты и другие формы подобных действий уже не считаются «неортодоксальными», а стали нормой для значительной части граждан постиндустриальных обществ [Инглхарт, Вельцель, 2011: 176]. Едва ли не ключевой точкой преткновения становится разрыв между провозглашаемой гуманистической перспективой и наблюдаемым алгоритмическим мышлением современных Левиафанов, для которых человеческая жизнь — не более чем нейрон в системе строго организованных отношений власти.
Похожее переосмысление Гоббсовой проблемы практически одновременно с Рансименом предлагает другой британский политический философ, профессор Лондонской школы экономики Джон Грей в работе «Новые Левиафаны: мысли после либерализма» — ее также пронизывает некое разочарование [Gray, 2023]. Грей предлагает читателям попытаться повзрослеть и признать, что будущее больше не принадлежит человечеству, которому предлагается выступить исключительно в роли наблюдателя за естественным для государств и корпораций ходом развития истории. Любые попытки усовершенствовать мир посредством крупномасштабных проектов спасения человечества, будь то либерализм, коммунизм или социализм, неминуемо обречены на провал и представляют собой не более чем религию политически верующего.
Сложность заключается в том, что образ мышления и действий государств и корпораций враждебен по отношению к человеческому процветанию, а идеи всеобщего благосостояния оборачиваются тем, что богатые богатеют в то время, когда бедные беднеют—об этом подробно пишет французский экономист, профессор Высшей школы социальных наук и Парижской школы экономики Тома Пи-кетти [Пикетти, 2016]. Примечательно, что по мере усиления роли властных институтов голоса об их ограничении звучали все отчетливее, например, к этому призывал Нобелевский лауреат по экономике, профессор Чикагского университета Милтон Фридман. Как он указывал, хотя государства и необходимы для сохранения человеческой свободы, они же и представляют главную угрозу для последней [Фридман, 2006].
Тот факт, что государства и корпорации все больше расчеловечиваются, Ран-симен изящно использует в своей объяснительной модели трансформации выборных институтов. По его мнению, избиратели на Западе все чаще голосуют не за типичных представителей истеблишмента, а за ярких, харизматичных, похожих на простых людей со всеми их достоинствами и недостатками политиков и общественных деятелей, которые за счет своего образа пытаются абстрагироваться от обезличенных механизмов поддержания власти — вспомнить хотя бы движение за «новую искренность» [D'Ambrosio, Moeller, 2021]. Но нужно понимать, что это не более чем контролируемая иллюзия: в действительности каждый, пусть даже самый амбициозный политик не может вырваться из «железной клетки».
Как отмечает Рансимен, мы построили государства и корпорации, а государства и корпорации построили мир, в котором мы сейчас живем.
Гоббсова проблема, или вопрос, о том, как возможно современное общество, состоящее из множества рациональных акторов, преследующих свои частные интересы и часто имеющих противоположные цели [Кильдюшов, 2016], возводится Рансименом на принципиально иной уровень. По его мнению, искусственный интеллект существенно расширил возможности государств — и особенно США и Китая — по слежке за своими гражданами, а корпорациям дал возможность — здесь упоминаются в первую очередь Meta 1 и Google — поставлять большие данные о поведении граждан и манипулировать потребителями в своих целях. Важно понять не то, как люди будут относиться к машинам, а то, как мыслящие машины — государство, корпорация или искусственный интеллект — будут относиться друг к другу.
Рансимен подводит к тому, что главным страхом техноскептиков должно быть не то, что искусственный интеллект вырвется на свободу и приумножит господство властных институтов, а то, что он это господство в конечном счете подорвет, взяв на себя ответственность за регулирование человеческой деятельности. Безусловно, с одной стороны, это выглядит зловеще и представляет собой вариант антиутопии, о котором бесконечно говорят не только политики и ученые, но и простые обыватели. С другой стороны, искусственный интеллект может спасти человечество от целого ряда проблем, которые мы сами себе создаем. Например, британский независимый исследователь, эколог и футурист Джеймс Лавлок считает, что, поскольку машины думают в тысячи раз быстрее нас, то они видят людей точно так же, как мы видим растения — и как подобное расхождение не мешает нам хорошо относиться к растениям, так и искусственный интеллект может хорошо относиться к человечеству [Lovelock, Appleyard, 2019].
По мнению Рансимена, государства и корпорации вызвали первую сингулярность, под которой он понимает используемый технологами термин для описания безудержного сверхразума и потери человеческого контроля. Вторая сингулярность связывается им с эпохой искусственного интеллекта, который может прийти на смену традиционным властным институтам. Но ключевой его вопрос (как, впрочем, и главные опасения) сводится к тому, с кем нам будет лучше: с машино-подобными человеческими существами или же с человекоподобными машинами? Выбор стороны может стать определяющим для развития человечества (или его гибели), но у автора рецензируемой работы нет простых ответов — сам он пока настаивает на своеобразном тайм-ауте, во время которого можно несколько ограничить возможности искусственного интеллекта, пока это еще представляется возможным.
Более того, Рансимен сосредоточен скорее на постановке вопросов, нежели на попытке разобраться в происходящем. На всем протяжении работы он тщательно развешивает ружья, которые, впрочем, никогда не выстрелят. По прочтении книги остается ощущение, что Гоббсова проблема никуда не делась, а человеческому роду не стоит почивать на лаврах самоуспокоения. Подводя итог своей
1 Признана в России экстремистской.
работы, Рансимен пишет, что мы не должны забывать, насколько странна современность по сравнению с тем, что было раньше: здесь есть свои монстры, наделенные потусторонними, сверхъестественными качествами. Бесчеловечные алгоритмы могут предугадать наше поведение на основе больших данных или же как минимум заставить нас поверить в это, поэтому у нас остается один-единственный выход, а именно попробовать заново «подружиться» с детищами первой сингулярности и быть готовыми ко второй.
Список литературы (References):
Вебер М. Протестантская этика и дух капитализма. М. : АСТ, 2020.
Weber M. (2020) The Protestant Ethic and the Spirit of Capitalism. Mosoow: AST, 2020.
(In Russ.)
Инглхарт Р., Вельцель К. Модернизация, культурные изменения и демократия: последовательность человеческого развития. М. : Новое издательство, 2011. Inglehart R., Welzel C. (2011) Modernization, Cultural Change, and Democracy: The Human Development Sequence. Mos^w: New Publisher. (In Russ.)
Гоббс Т. Левиафан. Человеческая природа. О свободе и необходимости. СПб. : Азбука, 2022.
Hobbes T. (2022) Leviathan. Human Nature. About Freedom and Necessity. St. Petersburg: Azbuka. (In Russ.)
Кильдюшов О. В. Проблема социального порядка (Гоббсова проблема): к эвристике и прагматике конститутивного вопроса современной теории общества// Социологическое обозрение. 2016. Т. 15. № 3. С. 122—149. https://doi.org/10.17323/ 1728-192X-2016-3-122-149.
Kildyushov O. V. (2016) The Problem of Social Order (a Hobbesian Problem): Towards the Heuristics and Pragmatics of the Constitutive Question of Contemporary Social Theory. Russian Sociological Review. Vol. 15. No. 3. P. 122—149. https://doi. org/10.17323/1728-192X-2016-3-122-149. (In Russ.)
Коваль Е. А. Новые алгоритмы власти в мире алгоритмов // Мониторинг общественного мнения: экономические и социальные перемены. 2023. № 5. С. 262— 282. https://doi.org/10.14515/monitoring.2023.5.2463. Рец. на кн.: Hasselbalch G. Data Ethics of Power: A Human Approach in the Big Data and AI Era. Cheltenham; Northampton, MA: Edward Elgar, 2021.
Koval E. A. (2023) New Algorithms of Power in the World of Algorithms. Monitoring of Public Opinion: Economic and Social Changes. No. 5. P. 262—282. https://doi. org/10.14515/monitoring.2023.5.2463. Book Review: Hasselbalch G. (2021) Data Ethics of Power: A Human Approach in the Big Data and AI Era. Cheltenham; Northampton, MA: Edward Elgar. (In Russ.)
Пикетти Т. Капитал в XXI веке. М. : Ад Маргинем, 2016.
Piketty T. (2016) Capital in the XXI Century. M.: Ad Marginem. (In Russ.)
Фридман М. Капитализм и свобода. М. : Новое издательство, 2006.
Friedman M. (2006) Capitalism and Freedom. Mos^w: New Publisher. (In Russ.)
Фуко М. Надзирать и наказывать: рождение тюрьмы. М. : Ад Маргинем, 2022. Foucault M. (2022) Surveiller et punir: Naissance de la Prison. Moscow: Ad Marginem. (In Russ.)
D'Ambrosio P. J., Moeller H.-G. (2021) Political New Sincerity and Profilicity: On the Decline of Identity Politics and Authenticity. Philosophy Today. Vol. 65. No. 1. P. 105— 123. https://doi.org/10.5840/philtoday2021217386.
Gray J. (2023) The New Leviathans: Thoughts After Liberalism. New York, NY: Farrar, Straus and Giroux.
Finn E. (2017) What Algorithms Want: Imagination in the Age of Computing. Cambridge, MA: MIT Press.
Lovelock J., Appleyard B. (2019) Novacene: The Coming Age of Hyperintelligence. London: Allen Lane.
Runciman D. (2023) The Handover: How We Gave Control of Our Lives to Corporations, States and AIs. London: Profile Books.
