CC BY
7
Лекции Lections
УДК 004.891:61
DOI: 10.36604/1998-5029-2024-94-135-140
ВОПРОСЫ И ПРОБЛЕМЫ ИСПОЛЬЗОВАНИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА
В МЕДИЦИНЕ
А.В.Кучер, С.В.Ходус, Е.С.Борзенко
Федеральное государственное бюджетное образовательное учреждение высшего образования «Амурская
государственная медицинская академия» Министерства здравоохранения Российской Федерации, 675000,
г. Благовещенск, ул. Горького, 95
РЕЗЮМЕ. В XXI веке человечество совершило большой скачок в развитии информационных и вычислительных технологий, что привело к возможности активного развития искусственного интеллекта. И если на начальном этапе развития искусственный интеллект носил преимущественно развлекательный характер, то теперь технологии на его основе активно внедряются в различные профессиональные области. Российская Федерация также наращивает объемы исследований, в том числе и в применении данных технологий в медицинской деятельности. В статье рассмотрены некоторые из проблем активного внедрения и использования искусственного интеллекта, а также продуктов на его основе в медицинскую практику на территории России. Представлены данные литературы по имеющемуся законодательству и юридической практике, разобраны этические и деонтологические вопросы использования искусственного интеллекта в области медицины. Отдельно подняты проблемы информационной безопасности и материально-технического обеспечения. Показаны спорные аспекты применения технологий на основе искусственного интеллекта в медицинской деятельности на своевременном этапе. Стоит отметить, что коллектив авторов не выступает против внедрения технологий на основе искусственного интеллекта в медицинскую деятельность, а всего лишь проводит анализ проблемных вопросов. Сформулированные выводы и обозначенные проблемы могут помочь в формировании единой траектории развития и внедрения искусственного интеллекта в практическое здравоохранение России.
Ключевые слова: искусственный интеллект, информационная безопасность, цифровые технологии в медицине.
ISSUES AND CHALLENGES IN THE USE OF ARTIFICIAL INTELLIGENCE IN
MEDI CINE A.V.Kucher, S.V.Khodus, E.S.Borzenko
Amur State Medical Academy, 95 Gor'kogo Str., Blagoveshchensk, 675000, Russian Federation
SUMMARY. In the 21st century, humanity has made a significant leap in the development of information and computational technologies, leading to the active advancement of artificial intelligence (AI). Initially, AI had primarily an entertainment character, but now technologies based on AI are actively being integrated into various professional fields. The Russian Federation is also increasing its research volume, including the application of these technologies in medical activities. This article examines some of the issues related to the active implementation and use of AI and AI-based products in medical practice in Russia. Literature data on existing legislation and legal practice are presented, along with discussions on ethical and deontological issues of AI use in medicine. Problems of information security and material-technical support are also highlighted. Based on the analysis conducted, we have formulated conclusions pointing to the controversial aspects of AI-based technologies' application in current medical activities. It is important to note that the authors do not oppose
Контактная информация
Алексей Владимирович Кучер, ассистент кафедры анестезиологии, реанимации, интенсивной терапии и скорой медицинской помощи, Федеральное государственное бюджетное образовательное учреждение высшего образования «Амурская государственная медицинская академия» Министерства здравоохранения Российской Федерации, 675000, Россия, г. Благовещенск, ул. Горького, 95. Е-шай: [email protected]
Correspondence should be addressed to
Alexey V. Kucher, MD, Assistant of Department of Anesthesiology, Reanimation, Intensive Care and Emergency Medical Care, Amur State Medical Academy, 95 Gor'kogo Str., Blagoveshchensk, 675000, Russian Federation. E-mail: [email protected]
Для цитирования:
Кучер А.В., Ходус С.В., Борзенко Е.С. Вопросы и проблемы использования искусственного интеллекта в медицине // Бюллетень физиологии и патологии дыхания. 2024. Вып.94. С. 135-140. DOI: 10.36604/1998-5029-2024-94-135-140
For citation:
Kucher A.V., Khodus S.V., Borzenko E.S. Issues and challenges in the use of artificial intelligence in medicine. Bulleten'fiziologii ipatologii dy-hania = Bulletin Physiology and Pathology of Respiration 2024; (94):135-140 (in Russian). DOI: 10.36604/1998-5029-2024-94-135-140
the integration of Al-based technologies into medical activities but have merely analyzed the problematic issues. The formulated conclusions and identified problems can help form a unified trajectory for the development and integration of AI into practical healthcare in Russia.
Key words: artificial intelligence, information security, digital technologies in medicine.
В современном мире активно проводятся исследования в области искусственного интеллекта (ИИ) и продуктов на его основе. Большинство различных компаний проводит оценку эффективности его внедрения в различные области жизнедеятельности, производят коррекцию его работы в соответствии с потребностями людей. На международной арене внедрение ИИ в различные области, в том числе и в систему здравоохранения, является весьма важным аспектом политики государства. В нашей стране Указом Президента №490 от 10 октября 2019 г. «О развитии искусственного интеллекта в Российской Федерации» утверждена Национальная стратегия развития ИИ на период до 2030 года, что, безусловно, является дополнительным фактором, определяющим важность внедрения ИИ в различные сферы деятельности, включая медицинскую. Дополнительным фактором, стимулирующим активное внедрение ИИ в отечественную медицину, служит национальный проект «Цифровизация Здравоохранения» и его реализация на территории страны.
Возможности использования технологий на основе ИИ в медицине весьма обширны. С каждым днем растет количество научных публикаций на эту тему, появляется множество инновационных продуктов, включающих: цифровой помощник врача в рамках принятия решений по тактике ведения пациентов; автоматический анализ данных дополнительных методов диагностики (расшифровка снимков компьютерной томограммы и прочее); использование цифровых помощников самими пациентами в рамках краткой диагностики состояния и рекомендаций специалиста по необходимости; электронные регистратуры и так далее. Некоторые авторы классифицируют применение ИИ в медицинской деятельности по следующим направлениям: виртуальное (помощь в принятии медицинских решений, онлайн-планирование приемов, алгоритмы дозирования лекарственных веществ) и физическое (например, оборудование на основе ИИ, позволяющие проводить хирургические операции) [1]. Данные возможности позволят решить ряд весьма важных и актуальных задач, таких как: большая загруженность первичного звена, своевременная диагностика (например, раннее выявление онкологических заболеваний). Однако же, несмотря на имеющиеся перспективы внедрения данных технологий в повседневную медицинскую практику, существует ряд проблем, которые ограничивают их применение на современном этапе. Цель работы: обобщить сведения об имеющихся проблемах, в том числе по вопросам правового регулирования ИИ в медицине, его внедрения и применения, а также предложить возможные пути их решения. Особо хотелось бы подчеркнуть, что коллектив авторов
не выступает против внедрения технологий на основе ИИ в медицинскую деятельность, а всего лишь провел анализ проблемных вопросов.
Классическое и цифровое моделирование патологии на основе баз данных
Моделирование патологии и статистический анализ в медицинской науке применяется относительно давно и достаточно широко. В медицине критических состояний математическое моделирование и прогнозирование исходов заболевания на основании анализа относительно небольшого количества баз данных используется в разработке прогностических шкал, прогностических моделей и прочих связанных с этим смежных вопросах [2]. Многие из данных шкал (к примеру, APACHE, SOFA) основываются на показателях нарушений физиологических функций организма, лабораторных показателях, данных дополнительных методов диагностики [2]. Однако стоит заметить, что в большинстве исследований, которые проводятся в рамках разработки прогностических шкал и моделей, не использовались крупные базы данных с включением в выборку большого количества человек. Как правило, значительная часть исследований ограничиваются несколькими сотнями или тысячами человек в пределах одного региона или же одной клиники, что не позволяет интерпретировать полученные результаты на популяции людей с учетом географических, генетических, социально-бытовых и прочих особенностей. Безусловно, одним из способов решения данной проблемы служит внедрение объёмных баз данных с исп ользованием ИИ для их анализа.
Проблема понимания принципа работы искусственного интеллекта
Как уже упоминалось ранее, внедрение и эффективное использование ИИ в медицинской практике дает огромные надежды. Однако же, несмотря на все плюсы и перспективы внедрения ИИ, не стоит забывать и о возникающих трудностях.
В современном обществе понимание принципа работы ИИ, как правило, ограничивается лицами, имеющими соответствующее образование в этой области, нежели у обывателя. Например, некоторые авторы выделяют проблему «черного ящика» - отсутствие понятных для врача и пациента принципах работы ИИ [3]. Отсутствие понимания создает определенный барьер для врача, который может быть аргументом для принятия решения в пользу традиционных методов диагностики и лечения заболеваний, нежели в пользу новых. Объяснение сути того или иного метода лечения или обследования важно, как минимум пациент вправе по-
лучить полную информацию о своем здоровье и проводимых манипуляциях. В конце концов, согласно части 1 статьи 20 Федерального закона №323 «Об основах охраны здоровья граждан в Российской Федерации» пациент подписывает добровольное информированное согласие, где понятным для него языком подробно изложена процедура, с описанием всех рисков. В итоге - проблема «черного ящика» на данный момент является актуальной как для врача, так и для пациента с позиции понимания и принятия принципа работы самой системы. Какие же пути решения данной проблемы можно рассмотреть? Для начала -внедрение в программу высшего образования в медицинских вузах дисциплин по ИИ. Начиная со студенческой скамьи будущие врачи начнут осваивать принципы работы ИИ, следовательно, у них сформируется адекватное понимание действия системы и часть проблемы «черного ящика» во взаимоотношениях врач-пациент-искусственный интеллект будет решена. Для более взрослого поколения возможным вариантом будет являться разработка программ дополнительного образования в рамках непрерывного медицинского образования на тему ИИ. Для пациентов оптимальным вариантом будет просвещение об использовании ИИ, а также принципов его работы и эффективности данных технологий в медицине, путем создания информационных роликов, буклетов, серии передач на новостных каналах. В перспективе, совокупность данных мероприятий со временем поможет решить данную проблему, пускай даже не ближайшее время.
Ответственность за принятие решений и правовое регулирование
Следующая и самая главная, на наш взгляд, проблема связана с правовыми особенностями применения ИИ в медицине. Следует задаться вопросом [3]: на кого ложится ответственность в случае возникновения неблагоприятного исхода или осложнения у пациента? Некоторые авторы, ссылаясь на онтологию, предлагают рассматривать ИИ как объект, а не субъект в юридических взаимоотношениях. Следовательно, нет оснований для предоставления прав ИИ, а также привлечения самого программного обеспечения, в основе которого лежит ИИ, к юридической ответственности [4]. Зарубежные юристы также придерживаются позиции непризнания ИИ в качестве изобретателя или автора какой-либо идеи, а закрепляют данные права за владельцем или автором ИИ [5]. Исходя из вышеописанного, в решение вопроса об ответственности в случае возникновения неблагоприятного исхода в категориях субъект и объект с позиции правоотношений возможно придется добавить третье лицо - автора или коллектив авторов ИИ. В связи с этим возрастает ответственность врача, и скорее всего, немногие специалисты согласятся работать с программным обеспечением на основе ИИ и отвечать за действия или
решения, принятые нейросетью. Ряд авторов, исследовавших вопросы правового регулирования технологий на основе ИИ, также сходятся во мнении о необходимости совершенствования юридического статуса технологий ИИ [5].
Следующий рассматриваемый нами вопрос — это правовое регулирование оказания помощи населению. На сегодняшний день, в России основным законом, по которому оказывается помощь населению, является Федеральный закон от 21 ноября 2011 года №323 «Об основах охраны здоровья граждан Российской Федерации». В нем четко указано, что медицинская помощь оказывается в соответствии с её видами, порядками оказания, на основе разработанных и утвержденных клинических рекомендаций и стандартов. Даже дополнительное постановление Правительства Российской Федерации от 17 ноября 2021 года №1968 («Об утверждении Правил поэтапного перехода медицинских организаций к оказанию медицинской помощи на основе клинических рекомендаций», разработанных и утвержденных в соответствии с частями 3, 4, 6-9 и 11 статьи 37 Федерального закона «Об основах охраны здоровья граждан в Российской Федерации»), которое вносит разъяснения и наделяет юридической силой клинические рекомендации, не предусматривает какой-либо информации об использовании ИИ в клинической практике. А раз данные нормативные акты не включают ИИ, допустимо ли использование ИИ в качестве какого-либо компонента диагностики или компонента лечения заболеваний, по крайней мере, на данный момент? Не стоит забывать и о конфиденциальности, понятии врачебная тайна, информационной безопасности, обучении нейронных сетей, наличии серверов для хранения больших баз данных. Решение данных проблем является наиболее сложным, так как потребует участия множества ведомств, а также внесение изменений в нормативно-правовую базу. Поэтапное изменение и совершенствование нормативно-правовой базы может, как способствовать ускоренному внедрению ИИ в медицинскую деятельность, так и, наоборот, замедлить путем затягивания процесса и длительными обсуждениями. Но, безусловно, проблема требует активного внимания и участия в обсуждении множествами ведомств и общественных организаций. Хорошим началом для решения обозначенных вопросов является создание дискуссионных площадок, форумов и прочих конференций, посвященных данным темам, с последующим представлением результатов в виде научных статей, а также обращений в различные министерства.
Информационная безопасность
В научной электронной библиотеке по запросу «информационная безопасность» в период с 2018 по 2023 отображается порядка 12187 публикаций на эту тему. Согласно современным представлениям об информации, на данный момент ее можно рассматривать также
в контексте инструмента воздействия на национальную безопасность [6]. В условиях современных вызовов, мы считаем эту проблему не менее важной, чем этика и деонтология, понятие врачебной тайны и другие, ранее обозначенные вопросы. Таким образом, помимо правовой проблематики применения ИИ в медицине, существует важный вопрос информационно-технического обеспечения, а также ряд вопросов, связанных с обучением кадров в этом направлении [5]. Серверное оборудование и программное обеспечение до сих пор являются одной из острых проблем не только в России, но и во всем мире [7]. Дополнительным фактором, создающим сложности использования ИИ в медицине, является ужесточение российского законодательства в вопросах административной и уголовной ответственности за утечку персональных данных. Внедрение электронных медицинских систем, ведение электронного документооборота повышает качество работы медицинских организаций. Однако, в случае утечки персональных данных вопрос регулирования ответственности в отношении медицинских организаций или авторов программного обеспечения, которые в своей работе используют ИИ, также до конца не определён. В нынешних реалиях объём краж персональной информации возрос. Например, в период с января по сентябрь 2020 года было похищено порядка 96,5 млн записей персональных данных [8]. Ссылаясь на тот же источник, можно найти и более подробные материалы о масштабах проблем, на примере весьма крупных компаний, где уровень кибербезопасности находится на высоком уровне [8]. Усиление информационной безопасности в современном мире является одной из главных задач любого государства.
Перспективы решения проблем работы и изучения искусственного интеллекта
Решение данных проблем является комплексным вопросом, затрагивающим различные отрасли и направления. Например, создание отдельных образовательных программ в рамках обучения по направлению «программирование», а также переподготовка уже имеющихся специалистов. Отрасль создания собственных чипов, отечественного программного обеспечения требует огромных финансовых затрат. Возможное поощрение со стороны государства частных лиц, инвестирующих в вышеуказанное направление, могло бы поспособствовать некоторому ускорению изучения данных технологий. Добавим, что особое внимание следует обратить на наличие серверов, необходимых для хранения большого количества данных и адекватной работы программного обеспечения с использованием ИИ. Стоит также добавить, что, по нашему мнению, изучение технологии и производство собственного оборудования требует немалого количества лет. Помимо технического обеспечения пока еще остается проблема с отечественным программным обеспечением. Несмотря на то, что в последнее время
отмечается прогресс в этой отрасли, сохраняется зависимость от иностранного программного обеспечения.
Заключение
1. Применение технологий на основе ИИ в медицине является весьма перспективным и актуальным направлением. С помощью него можно решить множество проблем и задач, имеющихся на современном этапе развития здравоохранения и практической медицинской деятельности. Например, снизить нагрузку на первичное звено, улучшить раннюю диагностику заболеваний, в том числе путем самодиагностики непосредственно пациентами на дому. Однако, до сих пор остается ряд весьма важных проблем, требующих внимания множества ведомств.
2. Сохраняется проблема с пониманием принципов работы ИИ как со стороны специалистов области здравоохранения, так и самими пациентами. Это может послужить барьером в работе с цифровыми продуктами, в основе которых применяется ИИ.
3. С юридической точки зрения, до сих пор не существует четкого определения взаимоотношения врач-пациент и искусственный интеллект, а также определение критериев ответственности в случае возникновения неблагоприятного события. Данных вопрос требует особого внимания со стороны государства. Необходимо поэтапное совершенствование правовой системы для эффективного решения данной проблемы.
4. На современном этапе активное внедрение и применение технологий на основе ИИ в медицинской практике сопряжено с рисками. По причине недостатка отечественного программного обеспечения, сохраняются сложности и высокие риски внедрения ИИ и программного обеспечения на основе иностранных продуктов в результате активной санкционной политики. Инвестирование в развитие данных отечественных технологий является перспективным направлением, дающим возможность для выхода на внутренний рынок отечественных продуктов.
5. С учётом современных вызовов, сохраняются высокие риски обеспечения информационной безопасности связанной с утечкой личной информации в результате хакерских атак, следовательно, усиление информационной безопасности также является важным и актуальным вопросом внедрения технологий на осн ове ИИ в практическое здравоохранение.
Конфликт интересов
Авторы декларируют отсутствие явных и потенциальных конфликтов интересов, связанных с публикацией настоящей статьи
Conflict of interest
The authors declare no conflict of interest
Источники финансирования
Исследование проводилось без участия спонсоров
Funding Sources
This study was not sponsored
ЛИТЕРАТУРА
1. Каледа Е.П., Пронькин Н. Н. Задачи искусственного интеллекта в медицине // International Journal of Professional Science. 2023. №5. С.58-66. EDN ITSUHL.
2. Венсан Ж.-Л., Абрахам Э., Мур Ф., Кочанек П., Финк М. Руководство по критической медицине в 2 т. СПб: Человек, 2019. Т.2. 960 с.
3. Коньков М.И. Этические проблемы внедрения искусственного интеллекта в медицине // Digital Diagnostics. 2023. Т.4, №S1. С.70-72. EDN: GTKRDQ. https://doi:10.17816/DD430348
4. Ивлиев Г.П., Егорова М.А. Юридическая проблематика правового статуса искусственного интеллекта и продуктов, созданных системами искусственного интеллекта // Журнал российского права. 2022. Т.26, №6. С.32-46. EDN: ANAGTU. https://doi:10.12737/jrl.2022.060
5. Гуляева Ю.Р., Межуева Ю.С. Правовая охрана искусственного интеллекта и технологий искусственного интеллекта как объекта интеллектуальных прав в Российской Федерации // Политехнический молодежный журнал. 2022. №11(76). Порядковый номер:7. EDN: NICLYE. https://doi:10.18698/2541-8009-2022-11-841
6. Полыхань К.О. Проблемы и особенности состояния информационной безопасности в соответствии с доктриной информационной безопасности Российской Федерации // Устойчивое развитие науки и образования. 2019. № 5. С.154-160. EDN XNBSUW.
7. Борисов И.В., Бондарь В.А., Кудинов Д.А., Некрасова Ю.Ю., Канарский М.М., Прадхан П., Сорокина В.С., Редкин И.В. Проблемы и перспективы ИТ в здравоохранении России: современные реалии // Медицина. 2022. Т.10, №4(40). С.10-30. EDN WRYUTK. https://doi:10.29234/2308-9113-2022-10-4-10-30
8. Мулина А.В., Шорина И.С. Анализ уязвимостей баз данных на основе утечек персональных данных // Мав-лютовские чтения: Материалы XVI Всероссийской молодежной научной конференции. В 6-ти томах, Уфа, 25-27 октября 2022 года. Том 5. Уфа: Уфимский государственный авиационный технический университет. 2022. С.635-643 . EDN ZZEDOW.
REFERENCES
1. Kaleda E.P., Pronkin N.N. [Tasks of artificial intelligence in medicine]. International Journal of Professional Science 2023; 5:58-66 (in Russian).
2. Vincent J.-L., Abraham E., Moore F.A., Kochanek P., Fink M.P. [Textbook of Critical Care in 2 volumes]. Saint Petersburg: Chelovek; 2019 (in Russian).
3. Konkov M.I. [Ethical issues of implementing artificial intelligence in medicine]. Digital Diagnostics 2023; 4(S1):70-72 (in Russian). https://doi:10.17816/DD430348
4. Ivliev G.P., Egorova M.A. [Legal issues of the legal status of artificial intelligence and products created by artificial intelligence systems]. Zhurnal rossiyskogo prava = Journal of Russian Law 2022; 26(6):32-46 (in Russian). https://doi:10.12737/jrl.2022.060
5. Gulyaeva Yu.R., Mezhueva Y.S. [Legal protection of artificial intelligence and artificial intelligence technologies as an object of intellectual property rights in the Russian Federation]. Politekhnicheskiy molodezhnyy zhurnal 2022; 11(76):7 (in Russian). https://doi:10.18698/2541-8009-2022-11-841
6. Polykhan K.O. [Problems and features of the condition of information security in accordance with the doctrine of information security of the Russian Federation]. Ustoychivoe razvitie nauki i obrazovaniya 2019: 5:154-160 (in Russian).
7. Borisov I.V., Bondar V.A., Kudinov D.A., Nekrasova Yu.Yu., Kanarsky M.M., Pradhan P., Sorokina V.S., Redkin I.V. [Problems and prospects of IT in healthcare in Russia: modern realities]. Meditsina = Medicina 2022; 10(4(40)):10-30 (in Russian). https://doi:10.29234/2308-9113-2022-10-4-10-30
8. Mulina A.V., Shorina I.S. [Analysis of database vulnerabilities based on personal data leaks. In: Mavlyutovskie readings: Proceedings of the XVI All-Russian Youth Scientific Conference. In 6 volumes, Ufa, October 25-27, 2022. Vol. 5]. Ufa: Ufimskiy gosudarstvennyy aviatsionnyy tekhnicheskiy universitet; 2022; 635-643 (in Russian).
Информация об авторах:
Алексей Владимирович Кучер, ассистент кафедры анестезиологии, реанимации, интенсивной терапии и скорой медицинской помощи, Федеральное государственное бюджетное образовательное учреждение высшего образования «Амурская государственная медицинская академия» Министерства здравоохранения Российской Федерации; e-mail: [email protected]
Author information:
Alexey V. Kucher, MD, Assistant of Department of Anesthesiology, Reanimation, Intensive Care and Emergency Medical Care, Amur State Medical Academy; e-mail: [email protected]
Елена Сергеевна Борзенко, канд. мед. наук, проректор по стратегическому развитию и цифровой трансформации, Федеральное государственное бюджетное образовательное учреждение высшего образования «Амурская государственная медицинская академия» Министерства здравоохранения Российской Федерации, главный врач научно-практического лечебного центра «Семейный врач»; е-шай: [email protected]
Elena S. Borzenko, MD, PhD (Med.), Vice-Rector for Strategic Development and Digital Transformation, Amur State Medical Academy, Chief Physician of the Scientific and Practical Medical Center "Family Doctor"; e-mail: [email protected]
Сергей Васильевич Ходус, канд. мед. наук, доцент, зав. кафедрой анестезиологии, реанимации, интенсивной терапии и скорой медицинской помощи, Федеральное государственное бюджетное образовательное учреждение высшего образования «Амурская государственная медицинская академия» Министерства здравоохранения Российской Федерации; e-mail: [email protected]
Поступила 28.05.2024 Received May 28, 2024
Принята к печати 16.07.2024 Accepted July 16, 2024
Sergey V. Khodus, MD, PhD (Med.), Head of Department of Anesthesiology, Reanimation, Intensive Care and Emergency Medical Care, Amur State Medical Academy; e-mail: [email protected]
