CC BY
0
5.5.4 Международные отношения,
глобальные и региональные исследования
(политические науки)
International Relations, Global and Regional Studies
DOI: 10.33693/2223-0092-2024-14-5-120-126 УДК: 327.8 ГРНТИ: 11.25 EDN: RXBMFE
Искусственный интеллект -на пути к урегулированию в глобальном мире
М.Р. Загайнов ©
Финансовый университет при Правительстве Российской Федерации, г. Москва, Российская Федерация
E-mail: [email protected]
Аннотация. Развитие научно-технологического прогресса в контексте трансформации международных отношений в XXI в. выдвинули на первый план проблему отношения к искусственному интеллекту в мире. Вопросы этики, права, попытки сформулировать свое видение ситуации, характерны не только для государств, но и для международных организаций. Автор данного исследования своей целью поставил оценку деятельности универсальных и региональных международных организаций в области урегулирования вопросов, связанных с проблемой искусственного интеллекта в международных отношениях. Тема искусственного интеллекта, несомненно, давно обрела глобальный характер. Появление новых угроз и вызовов человечеству несомненно ставит дилемму перед мировым сообществом о той роли, которую искусственный интеллект будет играть в этих процессах. Станет ли это созидательным воплощением, или искусственный интеллект будет носить разрушительную направленность? Ответ на этот вопрос еще не найден. Тем не менее, мы может говорить об ответственности международных организаций, и о том факте, что сейчас активно предпринимаются действия, направленные на закрепление норм в отношении искусственного интеллекта. Так, например, Организация Объединенных наций являясь универсальной международной организацией не могла пройти мимо феномена искусственного интеллекта, так же, как и региональные организации. В этом контексте представляется особо актуальным проанализировать те первые шаги, что делаются в этом направлении, особенно учитывая сложные международные отношения между Россией и недружественными государствами и организациями. Все это необходимо для понимания всех изменения ситуации, связанных с искусственным интеллектом на мировой арене.
Ключевые слова: искусственный интеллект, Организация Объединенных Наций, научно технологический прогресс, Европейский Союз, Совет Европы
ОБРАЗЕЦ ЦИТИРОВАНИЯ: Загайнов М.Р. Искусственный интеллект - на пути к урегулированию в глобальном мире // Социально-политические науки. 2024. Т. 14. № 5. С. 120-126. DOI: 10.33693/2223-0092-2024-14-5-120-126. EDN: RXBMFE
Загаuноe M.P.
DOI: 10.33693/2223-0092-2024-14-5-120-126
Artificial Intelligence -
Towards Regulation in the Global World
M.R. Zagaynov ©
Financial University under the Government of the Russian Federation, Moscow, Russian Federation
E-mail: [email protected]
Abstract. The development of scientific and technological progress in the context of the transformation of international relations in the 21st century have brought to the forefront the problem of attitudes towards artificial intelligence in the world. Issues of ethics, law, attempts to formulate their vision of the situation are characteristic not only of states, but also of international organizations. The author of this study aimed to assess the activities of universal and regional international organizations in the field of resolving issues related to the work of artificial intelligence in international relations. The topic of artificial intelligence has undoubtedly long acquired a global character. The emergence of new threats and challenges to humanity undoubtedly poses a dilemma for the world community about the role that artificial intelligence will play in these processes. Will this be a creative embodiment, or will artificial intelligence be destructive? The answer to this question has not yet been found. Nevertheless, we can talk about the responsibility of international organizations, and the fact that now active actions are being taken to consolidate norms regarding artificial intelligence. For example, the United Nations, being a universal international organization, could not ignore the phenomenon of artificial intelligence, as well as regional organizations. In this context, it seems particularly relevant to analyze the first steps that are being taken in this direction, especially given the complex international relations between Russia and unfriendly states and organizations. All this is necessary to understand all the changes in the situation related to artificial intelligence on the world stage.
Key words: artificial intelligence, United Nations, scientific and technological progress, European Union, Council of Europe
ВВЕДЕНИЕ
Проблема эффективности деятельности современных международных организаций неоднократно поднималась за последние годы. Например, Организации Объединенных Наций (ООН), являясь одной из важнейших в мире универсальных организаций, сталкивается с постоянной необходимостью доказывать свою вовлеченность в мировые процесс и реакцию на новые вызовы и угрозы, которые появляются в мире. Региональные организации стараются не отставать от ООН, а в некоторых вопросах даже и показать большую гибкость. И конечно, обсуждение феномена искусственного интеллекта (ИИ) сегодня не последняя тема на повестке дня [2; 5]. Этот вопрос не однократно поднимается и на разных уровнях и разных международных площадках.
В чем главная дилемма ИИ? По сути, это передача технологиям человеческих когнитивных функций и вопросов рисков с этим связанных. Обучение, решение проблем и мышление - это теперь не только привилегии человека, но и машины. Таким образом, ИИ может выполнять действия, подобные человеческим, такие как вождение, производство и другие физические задачи. Несомненно, эти функции ИИ привлекают повышенное внимание. Согласно The Wall Street Journal «30 процентов организаций пилотируют проекты
ИИ. Около 47 процентов использовали ИИ в своих биз-нес-процессах»1. ИИ ворвался во многие сферы человеческой жизни и явно вышел на глобальный уровень обсуждения, принятия или не принятия последствий ИИ [3]. Коснулся он и международных организаций в контексте развития глобальных процессов.
ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ -ОСОБЕННОСТИ ВОСПРИЯТИЯ ВОПРОСА
Итак, одним из важнейших моментов развития споров об ИИ, несомненно, является вопрос точки отчета на пути к глобальности. По мнению профессора экономики Гарвардского Университета Кеннета Ро-гоффа: «Глобализация развивалась быстрыми темпами в течение большей части последнего столетия, а за последние два десятка лет - особенно быстро. Однако большое количество доказательств свидетельствуют о том, что технологические изменения были гораздо более важным фактором изменения размера заработной платы во всем мире, чем торговля. То есть технология, а не торговля была важнейшей составляющей
1 The Phenomenon That Is Artificial Intelligence. Four Cornerstone.URL:
https://fourcornerstone.com/the-phenomenon-that-is-artificial-intelligence/
экономики двадцатого века»2. Но, когда же стал формироваться феномен ИИ?
Большинство исследователей соглашаются, что отправным моментом является летний исследовательский проект Дартмутского колледжа по ИИ 1956 г. В его рамках состоялся семинар, на котором, по сути, произошел расширенный сеанс мозгового штурма, ставшим основополагающим событием в области ИИ [12]. Небольшой круг математиков и ученых анализировали предмет исследования и определил дальнейший фронт работ. Речь шла в том числе и о том, чтобы создать машину, обладающую интеллектом человека. В дальнейшем у этой идеи были взлеты и падения, но постепенно ученые с большей уверенностью стали говорить о росте влияния ИИ на общественное сознание. В 1985 г. один из создателей ИИ Рэй Соломонофф ввел понятие «точки бесконечности» во временной шкале ИИ, а также проанализировал величину «будущего шока», который «мы можем ожидать от нашего расширенного научного сообщества ИИ», а также социальные эффекты [Там же]. По его оценкам, потребуется от одного до пятидесяти лет для создания общей теории интеллекта, а затем от десяти до пятнадцати лет для создания машины с общей способностью решать проблемы, близкой к человеческой, в некоторых технических профессиях [Там же].
В 1988 г. ученые Холлоуэй и Хэнд опубликовали статью об ИИ, которая начиналась следующим образом: «Искусственный интеллект - это больше не академический термин, а реальность. И в некоторых компаниях кажется, что система ИИ заменила человека в качестве лица, принимающего деловые и этические решения» [10]. Сегодня мы знаем, что это заявление, вероятно, было немного преждевременным на тот момент [11]. Однако технологии ИИ стремительно развиваются. Об этом говорят А. Каплан, М. Хенлейн полагая, что важный вопрос касается третьего поколения ИИ - искусственного суперинтеллекта (ИСИ) - и того, стоит ли к этому стремиться или следует избегать. По их мнению, «технически даже стандартный микропроцессор, доступный сегодня за 200 долларов, работает в 10 миллионов раз быстрее, чем человеческий нейрон, и компьютеры могут запомнить больше информации за 1 секунду, чем человек мог бы запомнить за всю жизнь» [Там же]. Поэтому кажется очевидным, что система с настоящим ИСИ легко сможет превзойти людей. Тем не менее, часто забывают, что люди привыкли думать на человеческом уровне, в то время как система ИСИ будет думать на уровне ИСИ. Согласно ученым «так же, как люди никогда не смогут по-настоящему понять, как думают шимпанзе несмотря на то, что они разделяют 99% нашей ДНК, мы не сможем понять, как думает система ИСИ. Это ограничивает нашу способность контролировать такие системы, что снова делает их более опасными, чем полезными» [Там же].
Так постепенно к технологическому прогрессу прибавляется вопрос этики и четкой правовой позиции в отношении ИИ. Если мы считаем, что конечная цель ИИ - машины, способные делать то, что традиционно
2 Rogoff K. Artificial Intelligence and Globalization. Project-syndicate. March 2, 2006. URL: https://www.project-syndicate.org/ commentary/artificial-intelligence-and-globalization/
требовало человеческого интеллекта, многие этические вопросы становятся очевидными [8].
Исследователи задаются дилеммами: например, можно ли доверять компьютерам задачи, которые подразумевают значительный риск для других, и каковы социальные и экзистенциальные последствия замены человека машиной в еще большей степени, чем мы уже имеем? Одна из основных проблем с разработкой автономных систем заключается в том, что это имеет тенденцию подрывать понятие «ответственности», возможно, наиболее важную концепцию как в этике, так и в праве [Там же]. В целом кто будет нести ответственность, если сбой компьютера приводит к потере жизней? Это будет разработчик, пользователь или, возможно, даже сам ИИ? Запутанный вопрос с точки зрения морали и права. В этом контексте можно привести пример, когда городской совет Пор-ту-Алегри (Бразилия) сам того не подозревая принял законопроект, полностью сгенерированный программой ИИ ChatGPT. Член городского совета Рамиро Росарио, виновник произошедшего «прорыва», сказал: «Если бы я сообщил об этом раньше, это предложение наверняка даже не было бы вынесено на голосование, Я убежден, что человечество переживает новую технологическую революцию. Все инструменты, которые мы разработали как цивилизация, могут быть использованы как во зло, так и во благо. Вот почему мы должны показать, как это можно использовать во благо»ъ. Очевидно, с точки зрения этики этот поступок не лучшим образом характеризует политика Росарио. Однако со стороны права и закона - его поступок не носил характер преступления.
А. Каплан, М. Хенлейн пишут, что если единственный способ понять поведение искусственного агента -это приписать ему понимание ответственности, то его следует рассматривать как имеющего как права, так и обязанности. И хотя искусственные агенты не могут быть осуждены или восхвалены за свои действия, их следует - если рассматривать их на определенном уровне абстракции - считать моральными действующими лицами в том смысле, что они являются источниками добра или зла4.
Таким образом, мы видим, как вопрос ИИ становится все более многосторонним, затрагивая как области науки, так и общественной жизни, играя значительную роль в мире. Не случайно в 2023 г. появилось открытое письмо с призывом остановить разработку технологий ИИ. Его подписало 1000 человек, среди которых можно выделить главу Tesla, SpaceX и Twitter Илона Маска, сооснователь Pinterest Эвана Шарпа и соосновате-ля Apple Стив Возняк. Все они заявляют: «должны ли мы позволять машинам наводнять наши информационные каналы пропагандой? Должны ли мы автоматизировать все рабочие места? Должны ли мы развивать нечеловеческие умы, которые в итоге могут превзойти нас численностью, перехитрить, сделать нас ненужными и заменить нас? Должны ли мы рисковать потерей
3 [eantet D., Savarese M. Brazilian city enacts an ordinance that was secretly written by ChatGPT. Apnews. November 30, 2023. URL: https://apnews.com/article/brazil-artificial-intelligence-porto-alegre-5afdl240afe7b6ac202bb0bbc45e08d4
4 Ibid.
Загайнов М.Р.
контроля над нашей цивилизацией?»5. Все это говорит уже о мировой обеспокоенности проблемой ИИ.
МЕЖДУНАРОДНЫЕ РЕГИОНАЛЬНЫЕ ОРГАНИЗАЦИИ: НАЧАЛО ПУТИ
Вопрос ИИ достиг определенных масштабов, когда международные организации заинтересовались новыми технологиями или вернее их урегулированием с политической и правовой точек зрения [1; 4]. Вплотную решили заняться вопросом ИИ как на глобальном, так и на региональном уровне. Первые заявления в этом направлении можно связать с деятельностью Европейского Союза (ЕС). 3 марта 2024 г. Европейский парламент принял закон об искусственном интеллекте (закон об ИИ - The AI Act Regulation (EU) 2024/1689). Он считается первой в мире всеобъемлющей горизонтальной правовой базой для ИИ. Ему предшествовали достаточно длительные дебаты. Депутаты решали, как одновременно обеспечить безопасность при соблюдении основных прав, и при этом одновременно стимулировать инновации. В итоге закон об ИИ, согласованный в ходе переговоров с государствами-членами в декабре 2023 г., был одобрен членами Европарла-мента 523 голосами «за», 46 «против» и 49 воздержавшимися6. В этом законе была отражена и сама дилемма ИИ. С одной стороны, речь шла о защите людей, то есть о человеческой безопасности (то есть основных прав, демократии, верховенства закона и экологической устойчивости от ИИ). С другой стороны, на кону стояла необходимость стимулировать инновации. Также Европа провозглашалась лидером в этой области, а регламент устанавливал обязательства в отношении ИИ на основе его потенциальных рисков и уровня воздействия7.
Хотя закон об ИИ принят и с ним можно ознакомиться, он все равно вызывает некоторые вопросы. До конца не понято, как он повлияет, например, на цифровизацию здравоохранения в ЕС и за его пределами. Формулировки многих аспектов закона неоднозначны. Заявлены достаточно высокие цели, но не ясно как они будут исполняться. По европейской логике все это в том числе и ответственность государств-членов, которые должны в законодательстве и политике своих стран отображать решения принятые ЕС. Очевидно, подробности появятся позже в соответствующих руководствах и стандартах, которых на данном этапе еще нет. Опять-таки эксперты в области здравоохранения выражают обеспокоенность в том, как закон будет пересекаться с существующим отраслевым законодательством для медицинского ИИ [7]. Очевидно, в будущем в законодательном процессе будут предусмотрены шаги, которые могут прояснить двусмысленность, включая стандарты, руководящие принципы и законы о реализации в Европе [9].
5 Илон Маек призвал приостановить разработку и обучение ней-росетей. РБК live. 29 марта 2023 г. URL: https://www.rbc.ru/life/ news/6424457c9a7947ebee7f7534
6 Artificial Intelligence Act: MEPs adopt landmark law. Press Releases. News European Parliament. 13.03.2024. URL: https://www.europarl. europa.eu/news/en/press-room/20240308IPR19015/artificial-intelligence-act-meps-adopt-landmark-law
7 Ibid.
Новые правила запрещают определенные приложения ИИ, которые угрожают правам граждан, включая биометрические системы категоризации (biométrie catégorisation systems), основанные на сенсорных характеристиках, нецелевое извлечение изображений лиц из интернета или записей видеонаблюдения для создания баз данных распознавания лиц. Распознавание эмоций на рабочем месте и в школах, социальный скоринг, предиктивная полицейская деятельность (когда она основана исключительно на профилировании человека или оценке его характеристик) и ИИ, который манипулирует поведением человека или использует уязвимости людей, также будут запрещены8. Использование систем биометрической идентификации (СБИ) правоохранительными органами в принципе запрещено, за исключением строго определенных ситуаций. СБИ «в реальном времени» может быть развернуто только при соблюдении строгих мер безопасности. Так его использование ограничено по времени и географическому охвату и подлежит конкретному предварительному судебному или административному разрешению. Такое использование может включать, например, целевой поиск пропавшего человека или предотвращение террористической атаки. Использование таких систем постфактум («постдистанционное СБИ») считается высокорискованным вариантом использования, требующим судебного разрешения, связанного с уголовным преступлением9. Все это говорит о попытках правового регулирования. Четкие обязательства также предусмотрены для других систем ИИ с высоким уровнем риска (из-за их значительного потенциального вреда для здоровья, безопасности, основных прав, окружающей среды, демократии и верховенства закона)10. Примерами применений ИИ с высоким уровнем риска являются объекты жизнеобеспечения населения, образование и профессиональная подготовка, занятость, основные частные и государственные услуги (например, здравоохранение, банковское дело), определенные системы в правоохранительных органах, миграции и управлении границами, правосудии и демократических процессах (например, влияние на выборы). Такие системы должны оценивать и снижать риски, вести обязательные журналы, быть прозрачными и точными и обеспечивать контрольный человеческий надзор. Граждане будут иметь право подавать жалобы на системы ИИ и получать разъяснения по решениям, основанным на системах ИИ, с высоким уровнем риска которые затрагивают их права. Представитель Италии Комитета по внутреннему рынку ЕС Брандо Бенифей сказал: «Наконец-то у нас есть первый в мире обязательный закон об искусственном интеллекте, чтобы снизить риски, создать возможности, бороться с дискриминацией и обеспечить прозрачность. Благодаря парламенту
8 Regulation (EU) 2024/1689 of the European Parliament and of the Council of June 13,2024 laying down harmonized rules on artificial intelligence and amending Regulations (EC) No. 300/2008, (EU) No. 167/2013, (EU) No. 168/2013, (EU) 2018/858, (EU) 2018/1139 and (EU) 2019/2144 and Directives 2014/90/EU, (EU) 2016/797 and (EU) 2020/1828 (Artificial Intelligence Act) (Text with EEA relevance). European Parliament. URL: https://eur-lex.europa.eu/legal-content/ EN/TXT/?uri=CELEX:32024R1689
9 Ibid.
10 Ibid.
неприемлемые практики ИИ будут запрещены в Европе, а права работников и граждан будут защищены. Теперь будет создано Управление ИИ, чтобы помочь компаниям начать соблюдать правила до того, как они вступят в силу. Мы гарантируем, что люди и европейские ценности будут в самом центре развития ИИ»11. А представитель Румынии Комитета по гражданским свободам Драгое Тудораке отметил: «ЕС выполнил свою задачу. Мы связали концепцию ИИ с фундаментальными ценностями, которые составляют основу наших обществ. Однако впереди еще много работы, которая выходит за рамки самого закона об ИИ. ИИ подтолкнет нас к переосмыслению общественного договора, лежащего в основе наших демократий, наших моделей образования, рынков труда и того, как мы ведем войну. Закон об ИИ - это отправная точка для новой модели управления, построенной вокруг технологий. Теперь
мы должны сосредоточиться на реализации этого зако-
12
на на практике»12.
Конечно, нужно еще время для полной реализации закона об ИИ, но деятельность международных региональных организаций демонстрирует понимание, о том, как важно закрепить положения об ИИ на международном уровне и создать международную систему управления ИИ [6]. Свою первую конвенцию по защите прав человека и демократии в условиях развития технологий ИИ принял и Совет Европы. 17 мая 2024 г. во время ежегодного заседания Комитета министров СЕ в Страсбурге, объединяющего министров иностранных дел 46 стран-участниц, организация приняла свое первое юридически обязывающее соглашение - Рамочную конвенцию об ИИ, правах человека, демократии и верховенстве права. В ней идет речь о том, что страны убеждены «в необходимости создания в приоритетном порядке глобально применимой правовой базы, устанавливающей общие принципы и правила, регулирующие деятельность в рамках жизненного цикла систем ИИ, которая эффективно сохраняет общие ценности и использует преимущества ИИ для продвижения этих ценностей способом, способствующим ответственным инновациям»13. Предполагается, что договор также рекомендован для неевропейских стран, поскольку «устанавливает правовую основу, которая охватывает весь жизненный цикл систем ИИ и устраняет риски, которые они могут представлять, одновременно продвигая ответственные инновации»14. Конвенция принимает основанный на оценке рисков подход к проектированию, разработке, использованию и выводу из эксплуатации систем ИИ, что требует тщательного рассмотрения любых потенциальных негативных последствий
11 Artificial Intelligence Act: MEPs adopt landmarklaw. Press Releases. News European Parliament. 13.03.2024. URL: https://www.europarl. europa.eu/news/en/press-room/20240308IPR19015/artificial-intel-ligence-act-meps-adopt-landmark-law
12 Ibid.
13 33rd Session of the Committee of Ministers (Strasbourg, May 17, 2024). Committee on Artificial Intelligence (CAI). Council ofEurope Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law. Council of Europe. URL: https:// search.coe.int/cm#
14 Рамочная конвенция об искусственном интеллекте, правах человека, демократии и верховенстве права. Совет Европы. URL: https://www.coe.int/ru/web/portal/-/artificial-intelligence-human-rights-democracy-and-the-rule-of-law-framework-convention
использования систем ИИ. В заявлении Генерального секретаря Совета Европа Марии Пейчинович Бурич речь идет о том, что в документе: «устанавливается правовая база, которая распространяется на системы ИИ на протяжении всего их жизненного цикла, от начала до конца. Хотя этот договор был разработан Советом Европы совместно с международными партнерами-единомышленниками, он будет глобальным инструментом, открытым для всего мира. После того, как наш Комитет министров примет его в ближайшие недели, страны всего мира смогут присоединиться к нему и соблюдать установленные им высокие этические стандарты»15. Однако даже подписав и ратифицировав конвенцию (что еще в процессе) «государство может выбрать, в каком объеме принять на себя обязательства в отношении частного сектора»16. По мнению юриста Д. Кутейникова: «такая добровольность относительно принятия на себя обязательств по отношению к частному сектору стала предметом критики со стороны правозащитников и научного сообщества»17. Также опасным моментом является исключение «деятельности, связанной с защитой интересов национальной безопасности» и «вопросов, связанных с национальной обороной»18. Россия вышла из Совета Европы, поэтому говорить о ее участии в документе невозможно. Все это конечно ослабляет эффект от конвенции.
Оба документа Европейского Союза и Совета Европы, несомненно, демонстрируют заинтересованность в законодательном урегулировании проблем и перспектив ИИ. Однако документы скорее нацелены на далекую перспективу. Они не демонстрируют четкие механизмы исполнения и не создают необходимые инструменты. Европейский Союз рассчитывает, что все государства члены сразу начнут исполнять его предписания. Совет Европы пытается подкрепить свои действия ценностной основой, которая с его точки зрения должна обязательно сработать для всех. И то, и другое не гарантирует снижение рисков от действий, связанных с ИИ.
ООН И ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ
2024 год ознаменовался решительными переменами, связанными с ИИ и для ООН. Еще 18 июля 2023 г. Генеральный секретарь ООН Антониу Гутерриш выступая на заседании Совбеза ООН, посвященном развитию ИИ, «призвал международное сообщество срочно принять меры по контролю за развитием этой «необычной технологии». Он предупредил, что происходящее сегодня - это только начало, а что будет дальше, сегодня сложно предсказать»19. Понимание все более возрастающих рисков ИИ привело и более активным дебатам на площадке ООН. Регулярные обсуждения
15 Ibid.
16 Кутейников Д. Обзор Рамочной конвенции Совета Европы об искусственном интеллекте и правах человека, демократии и верховенстве права // Хабр. URL: https://habr.com/ru/ articles/841556/
17 Там же.
18 Там же.
19 Генсек ООН - об искусственном интеллекте: «Это еще только начало...»// Организация Объединенных наций. Новости ООН. 18 июля 2023 г. URL: https://news.un.org/ru/story/2023/07/1442977
Загайнов М.Р.
угроз кибербезопасности, совещания Совета Безопасности были сосредоточены на проблеме последствий развития ИИ для мира и безопасности. К тем же выводам пришла и Рабочая группа открытого состава (РГОС) ООН по вопросам безопасности в сфере использования информационно-коммуникационных технологий (ИКТ) 2021-2025 гг., которая еще в 2023 г. приняла важные руководящие принципы по применению международного права в киберпространстве, а также затронула вопросы, связанные с ИИ. Важно отметить, что инициатором по созданию Рабочей группы была Российская Федерация и РГОС «является единственным открытым и всеохватным переговорным механизмом по проблематике международной информационной безопасности (МИБ) под эгидой ООН»20.
Кроме того, ЮНЕСКО выпустила Рекомендации по этике ИИ. Хотя эти обсуждения в Совете Безопасности, ЮНЕСКО и Рабочей группе все еще находятся на ранней стадии, все эти события привели к следующему шагу по международного регулирования ИИ.
21 марта 2024 г. Генеральная Ассамблея Организации Объединенных Наций приняла резолюцию A/78/L.49 «Использование возможностей безопасных, надежных и заслуживающих доверия систем искусственного интеллекта для устойчивого развития». Это также первая резолюция, принятая организацией по вопросу ИИ, и поэтому она является важной вехой в его управлении. По мнению экспертов-юристов «хотя резолюция не имеет немедленной обязательной силы, ее содержание будет и дальше направлять нормативное развитие технологий ИИ на национальном и международном уровнях в ближайшие годы и знаменует собой шаг в «гонке за регулирование ИИ»21.
В резолюции четко признается потенциал систем ИИ в ускорении мирового развития и достижении целей устойчивого развития к 2030 г. В то же время признаются риски, связанные с ненадлежащим или злонамеренным использованием систем ИИ и их пагубным воздействием на права человека. Сопредседатель Консультативного органа по ИИ Карме Артигас полагает: «ООН - единственная авторитетная организация на глобальном уровне, которая способна объединить все эти разнообразные взгляды, и ее члены были едины во взглядах на преимущества ИИ, возможность избежать глобального разрыва в области ИИ, гарантировать, что он принесет пользу всем людям и будет регулироваться таким образом, чтобы не препятствовать инновациям и не подвергать риску фундаментальные права человека»22. Таким образом в можно отметить,
20 Об итогах четвертой сессии Рабочей группы открытого состава ООН по международной информационной безопасности // Министерство иностранных дел РФ. URL: https://www.mid.ru/ru/ foreign_policy/news/1857793/?TSPD_101_R0=08765fb817ab2000 d06b82df62e0370c04f6bcl02320598270c8232228de4bfa611aed2 35b4f68a00827be75f41430005ca8460del54a31781ea521f397770 dld20a20082406a34b21265c395f86b6416689faffc29072bd92bec 4a26c51735e
21 International: The United Nations adopts its first resolution on AI. Legal Developments and Regulatory Updates from Baker McKenzie's global offices. URL: https://insightplus.bakermckenzie.com/bm/dashboard/ baker-mckenzie-insightplus
22 Эксперты ООН: искусственный интеллект нужно регулировать,
не препятствуя инновациям // Организация объединенных на-
ций. Новости ООН. 7 января 2024 г. URL: https://news.un.org/ru/ story/2024/01/1448347
что в Резолюции предпринята попытка установить баланс между прогрессом, связанным с развитием ИИ и предотвратить последствия от рисков ИИ.
В резолюции особенно подчеркиваются риски, связанные с предвзятыми данными, которые могут усиливать неравенство и дискриминацию. Поэтому Резолюция призывает к международному сотрудничеству и глобальному консенсусу в отношении будущей разработки и внедрения безопасных систем ИИ. Аналогичным образом, Резолюция поощряет дальнейшее сотрудничество, исследования и обмен технологиями между заинтересованными сторонами. С этой целью Резолюция предусматривает как нормативные разработки на национальном уровне, так и на международном уровне23. Это показывает, что сообщество государств в настоящее время готовится к значительному толчку в управлении ИИ на разных уровнях и стремится оптимизировать эти разработки. Резолюция рассматривает также проблемы с конкуренцией между государствами и разным подходом к конфиденциальности данных, подчеркивая возможности ИИ, необходимость его регулирования в соответствии со стандартами защиты данных, и важность инклюзивного развития и доступа24. И опять в данной ситуации надо понимать, что в дальнейшем эти конкурирующие интересы могут стать ловушкой для развития ИИ на универсальном уровне и привести к значительным расхождениям между конкурирующими национальными правилами.
ВЫВОДЫ
Технологический прогресс и использование ИИ может обернуться как победой, так и катастрофой для человечества. Поэтому не удивительно, что тема представляет интерес для универсальной и региональных организаций. Первые шаги в сторону урегулирования ситуации уже сделаны. ООН, Европейский Союз и Совет Европы приняли первые документы. Важно отметить, что Российская Федерация не принимала участия в подготовке ни в одном европейском документе. С Европейским Союзом ситуация понятная. Организация сейчас активно противостоит России. Из состава Совета Европы РФ вышла. Поэтому можно отметить, что Европейские организации предоставили исключительно свое внутри европейское видение проблематики и путей решения, следуя своей политической логике. Учитывая, что ИИ представляет уже глобальный вызов совершенно очевидно, что это только первые шаги.
ЗАКЛЮЧЕНИЕ
Насколько все принятые документы смогут быть эффективными? Проблема в том, что изначально все решения ООН носят рекомендательный характер. Несмотря на огромный моральный авторитет каждое государство решает какие будет принимать шаги в этом направлении исходя из своего понимания ситуации. Призыв к совместному решению проблем на данном
23 International: The United Nations adopts its first resolution on AI. Legal Developments and Regulatory Updates from Baker McKenzie's global offices. URL: https://insightplus.bakermckenzie.com/bm/ dashboard/baker-mckenzie-insightplus
24 Ibid.
этапе затруднен сложной политической ситуацией, которая мешает достигнуть единомыслия и уйти от противостояния. ЕС и Совет Европы пока не предоставили цельный и четкий план действия. С другой стороны, очень важно отметить переход обсуждения темы ИИ на глобальный уровень. Главная проблема состоит
ЛИТЕРАТУРА
1. Арзуманян А.Б. Искусственный интеллект и права человека: стратегия Совета Европы // Вестник юридического факультета Южного федерального университета. 2021. Т. 8. №4. С. 21-25.
2. Бондаренко В.М. Технологическое развитие, информационное общество, искусственный интеллект: настоящее и будущее России и мира // Информационное общество.
2023. №6. С. 2-12.
3. Катанандов С.Л., Ковалев А.А. Технологическое развитие современных государств: искусственный интеллект в государственном управлении // Государственное и муниципальное управление. Ученые записки. 2023. № 1. С. 174-182.
4. Кашкин С.Ю., Покровский А.В. Искусственный интеллект, робототехника и защита прав человека в Европейском Союзе//ВестникУниверситета имени О.Е.Кутафина (МГЮА). 2019. №4(56). С. 64-90.
5. Любимое А.П., Пономарева Д.В., Барабашев АГ.Искусст-венный интеллект в европейской правовой доктрине // Вестник Дипломатической академии МИД России. Международное право. 2019. № 1 (10). С. 32-47.
6. Петроченков И.А. Перспективы защиты прав человека в контексте принятия Евросоюзом регламента об искусственном интеллекте // Гражданин. Выборы. Власть. 2024. №2(32). С. 104-115.
7. Устинович Е.С. Искусственный интеллект в здравоохранении // Социальная политика и социальное партнерство.
2024. № 1.С. 34-43.
8. Brey P., S0raker J.H. Philosophy of computing and information technology Ц Philosophy of Technology and Engineering Sciences. Handbook of the Philosophy of Science. 2009. Pp. 1341-1407.
9. Gilbert S. The EU passes the AI Act and its implications for digital medicine are unclear // npj Digital Medicine. 2024. No. 7. Art. number 135. URL: https://www.nature.com/articles/ S41746-024-01116-6
10. Holloway C., Hand H.H. Who's running the store, anyway? Artificial intelligence!!! ¡I Business Horizons. 1988. No. 31 (2) Pp. 70-76.
11. Kaplan A., Haenlein M. Siri, Siri, in my hand: Who's the fairest in the land? On the interpretations, illustrations, and implications of artificial intelligence // Business Horizons. 2018. No. 62. DOI: 10.1016/j.bushor.2018.08.004.
12. Solomonoff R. The time scale of artificial intelligence: Reflections on social effects I I Human Systems Management. 1985. No. 5. Pp. 149-153.
в том, что человечество пока не знает полной картины последствий от использования ИИ. Поэтому уже сейчас важно на глобальном и региональном уровне начинать работу по урегулированию вопросов, связанных с этической и правовой стороной развития феномена ИИ. И важно, что первые шаги уже предпринимаются.
REFERENCES
1. Arzumanyan А.В. Artificial intelligence and human rights: The strategy of the Council of Europe. Bulletin of the Faculty of Law of the Southern Federal University. 2021. Vol. 8. No. 4. Pp. 21-25. (In Rus.)
2. Bondarenko V.M. Technological development, information society, artificial intelligence: The present and the future of Russia and the world. Information Society. 2023. No. 6. Pp. 2-12. (In Rus.)
3. Katanandov S.L., Kovalev A.A. Technological development of modern states: Artificial intelligence in public administration. State and Municipal Management. Scientific Notes. 2023. No. l.Pp. 174-182. (InRus.)
4. Kashkin S.Yu., Pokrovsky A.V. Artificial intelligence, robotics and human rights protection in the European Union. Bulletin of the O.E. Kutafin University (MGUA). 2019. No. 4 (56). Pp. 64-90. (In Rus.)
5. Lyubimov A.P., Ponomareva D.V., Barabashev A.G. Artificial intelligence in the European legal doctrine. Bulletin of the Diplomatic Academy of the Ministry of Foreign Affairs of Russia. International Law. 2019. No. 1 (10). Pp. 32-47. (In Rus.)
6. Petrochenkov I.A. Prospects for the protection of human rights in the context of the adoption by the European Union of the regulation on artificial intelligence. Citizen. Elections. Power. 2024. No. 2 (32). Pp. 104-115. (InRus.)
7. Ustinovich E.S. Artificial intelligence in healthcare. Social Policy and Social Partnership. 2024. No. 1. Pp. 34-43.
8. Brey P., S0raker J.H. Philosophy of computing and information technology. In: Philosophy of technology and engineering sciences. Handbook of the philosophy of science. 2009. Pp. 1341-1407.
9. Gilbert S. The EU passes the AI Act and its implications for digital medicine are unclear, npj Digital Medicine. 2024. No. 7. Art. number 135. URL: https://www.nature.com/articles/ S41746-024-01116-6
10. Holloway C., Hand H.H. Who's running the store, anyway? Artificial intelligence!!! Business Horizons. 1988. No. 31 (2) Pp. 70-76.
11. Kaplan A., Haenlein M. Siri, Siri, in my hand: Who's the fairest in the land? On the interpretations, illustrations, and implications of artificial intelligence. Business Horizons. 2018. No. 62. DOI: 10.1016/j.bushor.2018.08.004.
12. Solomonoff R. The time scale of artificial intelligence: Reflections on social effects. Human Systems Management. 1985. No. 5. Pp. 149-153.
Статья проверена программой Антиплагиат. Оригинальность - 85,57%
Рецензент: Маркушина Н.Ю., доктор политических наук, кандидат исторических наук; профессор, факультет международных отношений; Санкт-Петербургский государственный университет (СПбГУ)
Статья поступила в редакцию 05.10.2024, принята к публикации 28.10.2024 The article was received on 05.10.2024, accepted for publication 28.10.2024
СВЕДЕНИЯ ОБ АВТОРЕ
Загайнов Михаил Рудольфович, кандидат экономических наук; старший преподаватель; Финансовый университет при Правительстве Российской Федерации; г. Москва, Российская Федерация. ORCID: 0000-0002-8913-849Х; РИНЦ Author ID: 7299-4810; E-mail: [email protected]
ABOUT THE AUTHOR
Mikhail R. Zagaynov, Cand. Sci. (Econ.); head teacher; Financial University under the Government of the Russian Federation; Moscow, Russian Federation. ORCID: 0000-0002-8913-849X; RSCI Author ID: 7299-4810; E-mail: [email protected]
