CC BY
3УДК 004.89 + 007.52 DOI 10.24412/2413-7383-2024-4-139-150
М. С. Торжков1, Ю. П. Королева1, А. В. Балдин12, А.А. Коценко1, Шэнь Цюцзе1
1Московский государственный технический университет им. Н. Э. Баумана
105005, 2-я Бауманская ул., д. 5, стр.1, Москва, Россия
2АО НИИ Вычислительных комплексов им. М. А. Карцева,
117437, ул. Профсоюзная, д. 108, Москва, Россия
СОЗДАНИЕ МИВАРНОЙ ЭКСПЕРТНОЙ СИСТЕМЫ ДЛЯ ВЫПОЛНЕНИЯ ЭТИЧЕСКИХ АСПЕКТОВ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА ДЛЯ СКОРИНГА КРЕДИТОВАНИЯ
M. S. Torzhkov 1, Yu. P. Koroleva 1, A. V. Baldin 12, A. A. Kotsenko 1, Shen Qiujie 1
1Bauman Moscow State Technical University
105005, 2-ya Baumanskaya st., bld. 5, building 1, Moscow, Russia
2JSC M. A. Kartsev Research Institute of Computing Systems,
117437, Profsoyuznaya st., bld. 108, Moscow, Russia
CREATION OF A MIVAR EXPERT SYSTEM FOR IMPLEMENTING ETHICAL ASPECTS OF ARTIFICIAL INTELLIGENCE FOR CREDIT SCORING
Создана миварная экспертная система (МЭС) скоринга для системы кредитования с искусственным интеллектом (ИИ). Интеграция этических принципов ИИ в процесс проектирования и использования моделей скоринга поможет сделать их более справедливыми и соответствующими социальным ценностям, а также приведет к расширению клиентской базы банка. Созданная МЭС оценивает кредитоспособность заемщика на основании созданных правил, что позволяет увеличить выборку анкет к рассмотрению, ориентируясь на параметры, которые в свою очередь являются показателями этичности и помогают сделать систему более прозрачной, честной и ориентированной на пользователя. Созданная этичная миварная экспертная система повышает доверие клиентов к финансовым учреждениям и содействует развитию ответственного кредитования.
Ключевые слова: мивар, миварные сети, миварные экспертные системы, КЭСМИ, Wi!Mi, Разуматор, ИИ, Большие Знания, отношения, скоринг, кредитование, этика.
A mivar expert system (MES) for scoring a credit system with artificial intelligence (AI) has been created. Integrating ethical principles of AI into the process of designing and using scoring models will help make them fairer and more consistent with social values, and will also lead to an expansion of the bank's client base. The created MES assesses the borrower's creditworthiness based on the created rules, which allows increasing the sample of questionnaires for consideration, focusing on parameters that in turn are indicators of ethics and help make the system more transparent, honest and user-oriented. The created ethical mivar expert system increases customer confidence in financial institutions and promotes the development of responsible lending. Keywords: mivar, mivar networks, mivar expert systems, ESS, Wi!Mi, Razumator, AI, Big Knowledge, relationships, scoring, lending, ethics.
Введение
В настоящее время технологии искусственного интеллекта (ИИ) уже достигли стадии промышленного внедрения во многих сферах. Уже сейчас ИИ используют в банках при предоставлении услуг клиентам, улучшения бизнес-процессов, в том числе и для скоринга. Скоринг (от англ. scoring -«вычисление очков») — это технология оценки проблематичности работы с конкретным заемщиком, появившаяся в середине 20-го века в США, в основе которой лежат математические и статистические методы. ИИ основывает свои прогнозы на анализе большего объема данных, включая в себя те переменные, которые не используются в классических моделях (обычно это история платежей и доход).
В связи с этим возникает вопрос, насколько прогнозы на основе ИИ будут точнее, прозрачнее, доступнее для пользователей и компаний. Несомненно, алгоритмы ИИ для кредитного скоринга имеют множество преимуществ: увеличение производительности при предварительной обработке данных, при управлении данными. Но, в связи с этим возникает проблема отсутствия прозрачности. В некоторых ситуациях трудно или даже невозможно узнать, почему именно такие прогнозы получились. ИИ с глубоким обучением сам находит решение и переобучается, таким образом, алгоритмы работают как «черные ящики». Кроме этого, использование большого объема данных требует большего количества информации, что может привести к проблеме сохранения конфиденциальных данных пользователей. Например, анализ социальных сетей. Представим ситуацию, что у клиента понижен доступ кредитного займа из-за того, что у него в социальных сетях есть контакты плохих плательщиков, при этом остальные данные в полном порядке. Очевидно, что нарушение конфиденциальности и отсутствие прозрачности вызывает серьезные этические проблемы. Также могут возникнуть предвзятости или дискриминация определенных групп. Например, алгоритмы ИИ могут основываться на определенных переменных, которые могут считаться дискриминационными (пол, этническая принадлежность, сексуальная или политическая ориентация). Исключение таких переменных не гарантирует полностью отсутствие предвзятости. Например, проанализировав базу данных ипотечных кредитов в США, было выявлено, как из-за перехода от оценки логистической регрессии к подходу, основанному на ИИ, чернокожие и латиноамериканские заемщики проигрывают по сравнению с белыми заемщиками в связи с тем, что первые родились или жили в неблагополучных районах.
Для повышения прозрачности целесообразно применять миварные технологии [1] логического искусственного интеллекта [2], которые позволили реализовать логический вывод [3] с линейной вычислительной сложностью [4]. Миварные технологии успешно применяют для комплексного моделирования процессов [5] понимания текста [6] и распознавания изображений [7]; для разработки учебных программ [8], создания активной интернет-энциклопедии [9] и в дистанционном обучении [10]. В медицине применяют миварные базы знаний [11] для диагностики сахарного диабета [12] и подбора лекарственных форм [13]. Важно отметить, что использовать миварные технологии для робототехники было предложено еще в 2004 году [14], затем добавились АСУ технологическими процессами[ 15], а с 2016 года исследования расширились в плане создания систем принятия решений [16] автономных роботов [17], определения метрики автономности [18] и интеллектуальности [19] робототех-нических комплексов, выполняющих сложные действия в реальном времени [20].
Миварные технологии также используются в следующих областях: создание систем полного жизненного цикла изделий [21], разработка интерактивных справочных систем [22], выбор кредита [23], подбор техники для коммунальных служб [24], планирование маршрутов роботов [25], оценка риска приобретения финансового актива [26], организация управления проектами компании [27], оценка влияния текучести кадров на эффективность работы предприятия [28], логистические системы [29], выбор системы управления базами данных [30] и другие области. Таким образом, миварные технологии являются достаточно универсальными для создания различных систем обработки информации и принятия решений в самых сложных областях науки и техники.
Формализованное описание предметной области
Классическая задача математического обучения скоринга заключается в том, чтобы оценить кредитоспособность заемщика на основе доступных данных и истории его кредитных операций [31]. Она часто применяется в финансовой отрасли для автоматизации процесса принятия решений о выдаче кредитов. В рамках этой задачи создается модель, которая анализирует множество факторов.
Система пользуется как архивной, так и актуальной информацией. Если раньше в банках практиковался «ручной скоринг» — это означает, что сотрудники клиентских отделов самостоятельно занимались обработкой анкет — то сегодня основной объем работы выполняется автоматически. Отталкиваясь от полученных данных, а также учитывая условия заявки на кредит (сумма, продолжительность, процентная ставка, наличие залогового обеспечения или поручителей), скоринговая программа определяет значение, выраженное в баллах. Чем выше результат, тем привлекательнее потенциальное сотрудничество с точки зрения банка [32]. Система лишена субъективного подхода и часто ей не хватает этичности [33]. Для того чтобы добавить больше этичности в модели скоринга, необходимо уделить внимание следующим аспектам:
Прозрачность. Объяснимость алгоритмов и решений, чтобы заемщики и другие заинтересованные стороны понимали, почему было принято то или иное решение.
Справедливость. Надо гарантировать, что модели скоринга справедливо оценивают заемщиков независимо от их личных характеристик, таких как раса, пол или возраст.
Ответственность. Компании, использующие модели скоринга, должны нести ответственность за последствия своих решений и защищать права и интересы заемщиков.
Учет контекста. Модели скоринга должны учитывать индивидуальные обстоятельства и контекст заемщика, чтобы принимать более адаптированные и справедливые решения.
Интеграция этических принципов ИИ в процесс проектирования и использования моделей скоринга поможет сделать их более справедливыми и соответствующими социальным ценностям.
Структура проекта и отношения
При анализе литературы и методов скоринга были выделены следующие параметры (табл. 1), которые помогут сделать систему более этичной.
Таблица 1 - Параметры
Параметр Значение Описание
Возраст Число Категориям населения с неустойчивым финансовым положением — студентам, пенсионерам обычно сложнее получить выгодные условия по займу.
Наличие просроченных займов/кредитов нет/есть (количество) Этот параметр отражает финансовую дисциплину заемщика. Чем больше в анамнезе имеется просрочек, тем ниже будет итоговый показатель.
Наличие подтвержденных заболеваний нет/есть (период или бессрочно) Здоровье заемщика - важный аспект для оценки способности к возврату кредитных средств. Наличие серьезных заболеваний может повлиять на финансовое положение заемщика и его способность работать и зарабатывать.
Трудные ситуации развод/потеря кормильца/декрет/жертва стихийного бедствия Этот параметр влияет на финансовое состояние заемщика и его способность возвратить кредит и может негативно восприняться системой, при отсутствии учета других факторов
Стаж работы Не трудоустроен/ Количество лет Этот параметр сильно влияет на финансовое состояние заемщика и его способность возвратить кредит.
Гражданство РФ/другое/есть ВНЖ в РФ Некоторые кредиторы могут учитывать гражданство заемщика при принятии решения о кредите. Например, иностранные граждане могут сталкиваться с ограничениями при получении кредита в определенных странах.
Цель кредита Покупка недвижимости/ Оплата учебы/ другое Наличие важной цели должно играть роль в одобрении или отклонении кредита
Обучается ли Не обучается/Студент Факт обучения может влиять на финансовую ситуацию заемщика и его способность возвратить кредит. Например, студенты могут иметь ограниченные доходы и возможности для возврата кредита.
Наличие успехов в учебе Отсутствуют/Есть грамоты (гранты) Успехи в учебе могут свидетельствовать о потенциальной финансовой перспективе заемщика и его способности к повышению доходов в будущем.
Наличие поручительства Отсутствует/Есть (от родственника) Наличие поручительства может увеличить вероятность одобрения кредита, так как это добавляет дополнительную гарантию погашения кредита.
Наличие детей Отсутствуют/Есть (количество) Наличие детей также может быть важным фактором для оценки финансовой стабильности заемщика. Например, понизить шансы на получение кредита, если человек находится в декретном отпуске, обычно сложнее получить выгодные условия по займу.
Перечень предоставляемых данных Справки и формы, подтверждающие уровень дохода, выписки по счетам, копии трудовой книжки, свидетельства права собственности — все это документы подкрепляют образ благонадежного кандидата на сотрудничество.
Таблица 2 - Варианты результатов
Варианты результатов Описание
Заявка подходит к рассмотрению Этот результат означает, что заявка на кредит соответствует критериям, установленным кредитором, и требует дальнейшего анализа и оценки. Это может быть началом процесса рассмотрения, который включает в себя дополнительные проверки и анализ финансового положения заявителя.
Более низкие процентные ставки или увеличенный срок погашения кредита Этот вариант может быть предложен, если заявка рассматривается как рискованная, но имеет определенные положительные аспекты. Например, заемщик может быть готов уплатить более низкие проценты или продлить срок погашения кредита, чтобы снизить месячные выплаты.
Заявка не подходит к рассмотрению Этот результат означает, что заявка не соответствует критериям кредитора и отклоняется без дальнейшего рассмотрения. Причины отказа могут быть разнообразными, включая низкий кредитный рейтинг заявителя, отсутствие необходимой документации, неспособность предоставить достаточные гарантии возврата ссуды и т. д.
Реализация системы в КЭСМИ
Заносим набор параметров в систему. На рисунке 1 отображается название проекта, а также классы и параметры модели. Название проекта: Система скоринга. Классы: входные параметры, выходные параметры, промежуточные результаты. Далее были созданы отношения. При создании отношений необходимо выбрать тип отношений. На рисунке 2 в левой части отображается тезаурус примеров конкретных типов отношений. Справа приведен пример созданного отношения и входные, а также выходные параметры для него.
Т/р«
Ф Система скоринга
Входные параметры ф Возраст ф Время для оцен... ф Гражданство ф Количество детей ф Количество про... ф Количестов под... ф Кредитный рейт... Ф Кредитный рейт... ф Наличие докуме... ф Наличие докуме... ф Наличие плана ... 0 Наличие поручи... ф Наличие стабил... ф Наличие трудно... ф Стаж работы Ф Статус обучения ф Трудные ситуац... Ф Успехи в учебе Ф Цель кредита ф Выходные парамет...
ф Результат прове... Ф Промежуточные ре...
Рисунок 1 - Набор параметров
Рисунок 2 - Создание отношения
Заносим набор условий и правил в систему. На рисунках 3-4 при создании правила «Реализация» входными параметрами является «Наличие поручителей» и «Цель кредита», а выходным параметром будет «Условие 11».
О © Условие 11
Relation
Условие 11 Name
Условие 11. Реализация Description
Input parameters
Name Parameter
1 Condi Наличие поручителей rru
2 Cond2 Цель кредита та:
Output parmeters
Name Parameter
1 Res Условие11 T| éb
Name
Ф Условие 11 О Условие 6 © Условие 1
Условие 1.Реализация Условие 16
Рисунок 3 - Создание правил
Условие 16.Реализация О Условие 8 О Условие 12 © Условие 10 ф Условие 14 © Итог О Условие 5 © Условие 4 © Условие 7 © Условие 13 ф Условие 15 ® Условие 2 О Условие 3 © Условие 9
Рисунок 4 - Список отношений и правил
Далее необходимо было провести тестирование модели. Для проверки работы модели выберем класс, который хотим протестировать и введем параметры (рис. 5).
ОЬ)ес1 Value Find
Система скоринга
Входные параметры
Возраст 25
Время для оценки заявки 15
Гражданство РФ
Количество детей 3
Количество просроченных займов/кредитов 0
Количестов подтвержденных заболеваний 1 □
Кредитный рейтинг 100
Кредитный рейтинг за рубежом 100
Наличие документов подтверждающих временность заболевания Да
Наличие документов подтверждающих трудные ситуации Да
Наличие плана по возврату кредитных средств Да
Наличие поручителей Нет
Наличие стабильного источника дохода Да
Наличие трудностей с обеспечением средств на учебу Да
Стаж работы 15
Статус обучения £_п_
Трудные ситуации
Успехи в учебе
Цель кредита Обучение детей
Рисунок 5 - Входные параметры для тестирования После успешного завершения работы выводится результат проверки (рис.6):
Результат проверки Заявка подходит к рассмотрению О
Рисунок 6 - Результат тестирования
Как видно из теста - модель отработала корректно и вывела пользователю результат. Построим граф, показывающий производимые проверки (рис. 7).
Рисунок 7 - Граф тестирования модели
Заключение
Разработанная система скоринга с МЭС представляет потенциальный прогресс в сфере оценки кредитоспособности и принятия решений о выдаче кредитов, т.к. не только учитывает традиционные факторы, такие как кредитная история и доход заявителя, но и интегрирует дополнительные этичные параметры, такие как наличие детей, семейное положение, образование и другие. Одним из важных преимуществ этой системы является возможность учета отклоненных заявок для дальнейшего анализа и обучения модели. Это позволяет увеличить выборку данных и сделать систему более точной и этичной для пользователей. После внедрения такой системы скоринга отклоненные заявки не будут просто отбрасываться, а будут использоваться для улучшения баз знаний и алгоритмов оценки кредитоспособности. Такая этичная система повышает доверие клиентов к финансовым учреждениям и содействует развитию ответственного кредитования.
Список литературы
1. Варламов О.О. Эволюционные базы данных и знаний для адаптивного синтеза интеллектуальных систем. Миварное информационное пространство. М.: «Радио и связь», 2002. 286 с. EDN RWTCOP.
2. Варламов О.О., Антонов П.Д., Чибирова М.О. и др. МИВАР: машино-реализуемый способ автоматизированного построения маршрута логического вывода в базе знаний. Радиопромышленность. 2015. № 3. С. 28-43. EDN: UQEPGD.
3. Владимиров А.Н., Варламов О.О., Носов А.В., Потапова Т.С. Программный комплекс "УДАВ": практическая реализация активного обучаемого логического вывода с линейной вычислительной сложностью на основе миварной сети правил. Труды Научно-исследовательского института радио. 2010. № 1. С. 108-116. EDN: MKQGGT.
4. Варламов О.О., Чибирова М.О., Сергушин Г.С., Елисеев Д.В. Практическая реализация универсального решателя задач "УДАВ" с линейной сложностью логического вывода на основе миварного подхода и "облачных" технологий. Приборы и системы. Управление, контроль, диагностика. 2013. № 11. С. 45-55. EDN: SQKHXZ.
5. Варламов О.О., Адамова Л.Е., Елисеев Д.В. и др. Комплексное моделирование процессов понимания компьютерами смысла текстов, речи и образов на основе миварных технологий. Искусственный интеллект. 2013. № 4. С. 15-27. EDN: TZWCPV.
6. Варламов О.О., Майборода Ю.И., Сергушин Г.С., Хадиев А.М. Применение миварных экспертных систем для решения задач понимания текста и распознавания изображений. В мире научных открытий. 2015. № 6 (66). С. 205-214. EDN: TVPWED.
7. Волков А.С., Варламов О.О. О создании двухуровневой нейросетевой структуры для применения в машиностроении. МИВАР'22. Москва, 2022. С. 251-261. EDN: TXESUT.
8. Блохина С.В., Адамова Л.Е., Колупаева Е.Г. и др. Разработка учебных программ с элементами искусственного интеллекта для обучения в области информационной безопасности и защиты персональных данных. Искусственный интеллект. 2009. № 3. С. 328-335. ЕБ№ ТГРЮК
9. Бадалов А.Ю., Варламов О.О., Санду Р.А. и др. Активная миварная интернет-энциклопедия и развитие миварных сетей на основе многомерных бинарных матриц для одновременнной эволюционной обработки более 10 000 правил в реальном времени. Искусственный интеллект. 2010. № 4. С. 549-557. ЕБ№ ШМХАУ.
10. Подкосова Я.Г., Варламов О.О., Остроух А.В., Краснянский М.Н. Анализ перспектив использования технологий виртуальной реальности в дистанционном обучении. Вопросы современной науки и практики. Университет им. В.И. Вернадского. 2011. № 2 (33). С. 104-111. ЕБМ ШАКВР.
11. Ким Х., Чувиков Д.А., Аладин Д.В. и др. Создание базы знаний для миварной экспертной системы диагностики сахарного диабета. Медицинская техника. 2020. № 6 (324). С. 38-41. ЕБ№ ЕБХВвК.
12. Белоусов Е.А., Попов И.А., Евдокимов А.А. и др. Рекомендательная система диагностики сахарного диабета на основе механизма миварного вывода. Естественные и технические науки. 2021. № 7 (158). С. 169-174. ЕБ№ 18Ри81.
13. Честнова Е.А., Федосеева Е.Ю., Ваганов Д.Д. и др. Разработка базы знаний МЭС по подбору лекарственных форм для антибиотиков и антимикотиков. Естественные и технические науки. 2023. № 5(180). С. 29-33. Б01 10.25633/ЕТК2023.05.01. ЕБМ WOZCUJ.
14. Варламов О.О. Системы обработки информации и взаимодействие групп мобильных роботов на основе миварного информационного пространства. Искусственный интеллект. 2004. № 4. С. 695700. ЕБ№ ТШОБ.
15. Сергушин Г.С., Варламов О.О., Чибирова М.О. и др. Исследование возможностей информационного моделирования сложных систем управления технологическими процессами на основе миварных технологий Автоматизация и управление в технических системах. 2013. № 2 (4). С. 5166. ЕБ№ RDWXUT.
16. Варламов О.О., Аладин Д.В., Сараев Д.В. и др. О возможности создания систем принятия решений для автономных роботов на основе миварных экспертных систем, обрабатывающих более 1 млн продукционных правил/с. Известия Кабардино-Балкарского научного центра РАН. 2017. № 62 (80). С. 54-61. EDN: TIVUDN.
17. Варламов О.О., Лазарев В.М., Чувиков Д.А., Джха П. О перспективах создания автономных интеллектуальных роботов на основе миварных технологий. Радиопромышленность. 2016. № 4. С. 96-105. EDN: ирЕ^в.
18. Варламов О.О. Об одном подходе к метрике автономности и интеллектуальности робото-технических комплексов. Известия Кабардино-Балкарского научного центра РАН. 2017. № 62 (80). С. 43-53. EDN: YWNDPI.
19. Варламов О.О. О метрике автономности и интеллектуальности робототехнических комплексов и киберфизических систем. Радиопромышленность. 2018. № 1. С. 74-86. EDN: YQYQPV.
20. Варламов О.О., Аладин Д.В. Успешное применение миварных экспертных систем для MIPRA -решения задач планирования действий робототехнических комплексов в реальном времени. Радиопромышленность. 2019. № 3. С. 15-25. EDN: Е'УГЕАК.
21. Трищенков А.В., Осипов В.Г., Лялин Е.С. и др. О развитии в 2022 году машиностроительного ИИ для систем полного жизненного цикла изделий. Информация и образование: границы коммуникаций. 2022. №14(22). С. 215-217. EDN UVWBGV.
22. Байбарин Р.Г., Кучеренко М.А., Тюлькина Н.В. и др. Проект "Миварная Активная Энциклопедия". Мивар'22: Сборник научных статей. Москва: Инфра-М, 2022. С. 178-186. EDN LXNGTY.
23. Корнеева А.П., Черненький С.В., Шкуратова Л.П. и др. МЭС для выбора кредита. Мивар'22: Сборник научных статей. Москва: Инфра-М, 2022. С. 53-58. EDN CWVYJH.
24. Анцифров Н.С., Муханов Е., Федоров И.Н. и др. МЭС для подбора техники для коммунальных служб. Мивар'23. Москва: ИНФРА-М, 2023. С. 7-14. EDN W0P0EU.
25. Коценко А.А. Разработка методики создания миварной СПР для планирования маршрутов роботов в трехмерном логическом пространстве. Информация и образование: границы коммуникаций. 2023. № 15(23). С.301-304. D0I 10.59131/2411-9814_2023_15(23)_301. EDN G0BVAU.
26. Бритвин Н.С., Козлов К.А., Аксенов Д.А. и др. БЗ МЭС оценки риска приобретения финансового актива. Мивар'23. Москва: ИНФРА-М, 2023. С. 255-262. EDN ^^Ав.
27. Абросимова Н.Г., Арбузов А.П., Саврасов П.А. и др. МЭС для организации управления проектами 1Т-компании. Мивар'22. Москва: Инфра-М, 2022. С. 6-12. EDN NVJFUJ.
28. Яценко А.А. и др. О применении МЭС для оценки влияния текучести кадров на эффективность работы предприятия. Информация и образование:границы коммуникаций. 2022.№14.С.195-198.EDN EMMVCU.
29. Солохов И.Р., Молчанов А.В., Грунин Н.С. и др. МЭС в логистических системах. Мивар'23: Сборник студенческих статей. Москва: ИНФРА-М, 2023. С. 192-200. EDN IIGKHH.
30. Звонарев А.Е., Лычагин Д.А., Гудилин Д.С. и др. МЭС для выбора СУБД. Мивар'23: Сборник студенческих статей. Москва: ИНФРА-М, 2023. С. 117-122. EDN EKHSPZ.
31. Деникаева Р. И., Альберт В. А. Скоринг в России и за рубежом. Научное обозрение. 2014.
32. Hicham Sadok, Mohammed El Hadi El Maknouzi, Fadi Sakka Artificial intelligence and bank credit analysis: A review. Cogent Economics & Finance. 2022
33. Никаненкова В.В. Кредитный скоринг как инструмент оценки кредитоспособности заемщиков. Вестник Адыгейского государственного университета. Серия 5: Экономика. 2012. С. 2-4.
References
1. Varlamov O. O. Evolutionary databases and knowledge bases for adaptive synthesis of intelligent systems. Mivar information space. Moscow: "Radio and communication", 2002. 286 p. EDN RWTCOP.
2. Varlamov O. O., Antonov P. D., Chibirova M. O., et al. MIVAR: a machine-implemented method for automated construction of a logical inference route in a knowledge base // Radio Industry. 2015. No. 3. Pp. 28-43. EDN: UQEPGD.
3. Vladimirov A. N., Varlamov O. O., Nosov A. V., Potapova T. S. Software package "UDAV": practical implementation of active learning logical inference with linear computational complexity based on a mivar rule network // Transactions of the Radio Research Institute. 2010. No. 1. Pp. 108-116. EDN: MKQGGT.
4. Varlamov O. O., Chibirova M. O., Sergushin G. S., Eliseev D. V. Practical implementation of the universal problem solver "UDAV" with linear complexity of logical inference based on the mivar approach and "cloud" technologies // Devices and systems. Management, control, diagnostics. 2013. No. 11. Pp. 45-55. EDN: SQKHXZ.
5. Varlamov O. O., Adamova L. E., Eliseev D. V. et al. Complex modeling of the processes of understanding the meaning of texts, speech and images by computers based on mivar technologies // Artificial Intelligence. 2013. No. 4. Pp. 15-27. EDN: TZWCPV.
6. Varlamov O. O., Maiboroda Yu. I., Sergushin G. S., Khadiev A. M. Application of mivar expert systems for solving text understanding and image recognition problems // In the world of scientific discoveries. 2015. No. 6 (66). P. 205-214. EDN: TVPWED.
7. Volkov A. S., Varlamov O. O. On the creation of a two-level neural network structure for use in mechanical engineering // In the collection: MIVAR'22. Moscow, 2022. P. 251-261. EDN: TXESUT.
8. Blokhina S. V., Adamova L. E., Kolupaeva E. G. et al. Development of educational programs with elements of artificial intelligence for training in the field of information security and personal data protection // Artificial Intelligence. 2009. No. 3. P. 328-335. EDN: TIFIGN.
9. Badalov A.Yu., Varlamov O.O., Sandu R.A., et al. Active mivar internet encyclopedia and development of mivar networks based on multidimensional binary matrices for simultaneous evolutionary processing of more than 10,000 rules in real time // Artificial Intelligence. 2010. No. 4. P. 549-557. EDN: UIMXAV.
10. Podkosova Ya.G., Varlamov O.O., Ostroukh A.V., Krasnyansky M.N. Analysis of prospects for using virtual reality technologies in distance learning // Issues of modern science and practice. Vernadsky University. 2011. No. 2 (33). P. 104-111. EDN: NUAKBP.
11. Kim H., Chuvikov D.A., Aladin D.V., et al. Creation of a knowledge base for a mivar expert system for diagnosing diabetes mellitus // Medical equipment. 2020. No. 6 (324). P. 38-41. EDN: EDXBGK.
12. Beloussov E.A., Popov I.A., Evdokimov A.A., et al. A recommender system for diagnosing diabetes mellitus based on the mivar inference mechanism // Natural and technical sciences. 2021. No. 7 (158). P. 169-174. EDN: JSFUSI.
13. Chestnova E.A., Fedoseeva E.Yu., Vaganov D.D., et al. Development of a knowledge base of the MES for the selection of dosage forms for antibiotics and antimycotics / // Natural and technical sciences. 2023. No. 5(180). P. 29-33. DOI 10.25633/ETN.2023.05.01. EDN WOZCUJ.
14. Varlamov O. O. Information processing systems and interaction of groups of mobile robots based on mivar information space // Artificial Intelligence. 2004. No. 4. P. 695-700. EDN: TIFIQD.
15. Sergushin G. S., Varlamov O. O., Chibirova M. O. et al. Study of the possibilities of information modeling of complex process control systems based on mivar technologies // Automation and control in technical systems. 2013. No. 2 (4). P. 51-66. EDN: RDWXUT.
16. Varlamov O.O., Aladin D.V., Saraev D.V., et al. On the possibility of creating decision-making systems for autonomous robots based on mivar expert systems processing more than 1 million production rules/sec. // Bulletin of the Kabardino-Balkarian Scientific Center of the Russian Academy of Sciences. 2017. No. 6-2 (80). P. 54-61. EDN: TIVUDN.
17. Varlamov O.O., Lazarev V.M., Chuvikov D.A., Jha P. On the prospects for creating autonomous intelligent robots based on mivar technologies // Radio Industry. 2016. No. 4. P. 96-105. EDN: UQEVLG.
18. Varlamov O.O. On one approach to the metrics of autonomy and intelligence of robotic complexes // Bulletin of the Kabardino-Balkarian Scientific Center of the Russian Academy of Sciences. 2017. No. 62 (80). P. 43-53. EDN: YWNDPI.
19. Varlamov O. O. On the metrics of autonomy and intelligence of robotic complexes and cyber-physical systems // Radio Industry. 2018. No. 1. P. 74-86. EDN: YQYQPV.
20. Varlamov O. O., Aladin D. V. Successful application of mivar expert systems for MIPRA - solving problems of planning actions of robotic complexes in real time // Radio Industry. 2019. No. 3. P. 15-25. EDN: EVFEAK.
21. Trishchenkov A.V., Osipov V.G., Lyalin E.S. et al. On the development in 2022 of machine learning AI for full product life cycle systems // Information and Education: communication boundaries. 2022. №14(22). C. 215-217. EDN UVWBGV.
22. Baibarin R.G., Kucherenko M.A., Tyulkina N.V., et al. Project "Mivar Active Encyclopedia" // Mivar'22: Collection of scientific articles. Moscow: Infra-M, 2022. C. 178-186. EDN LXNGTY.
23. Korneeva, A.P.; Chernenkiy, S.V.; Shkuratova, L.P. et al. MES for credit selection // Mivar'22: Collection of scientific articles. Moscow: Infra-M, 2022. C. 53-58. EDN CWVYJH.
24. Antsifrov, N.S.; Mukhanov, E.; Fedorov, I.N., et al. MES for selection of technique for public utilities // Mivar'23. Moscow: INFRA-M, 2023. C. 7-14. EDN WOPOEU.
25. Kotsenko, A.A. Development of a methodology for creating a mivar SPR for robot route planning in three-dimensional logical space // Information and Education: communication boundaries. 2023. № 15(23). C.301-304. DOI 10.59131/2411-9814_2023_15(23)_301. EDN GOBVAU.
26. Britvin N.S., Kozlov K.A., Aksenov D.A., et al. BZ MES of financial asset acquisition risk assessment // Mivar'23. Moscow: INFRA-M, 2023. C. 255-262. EDN NCULAG.
27. Abrosimova, N.G.; Arbuzov, A.P.; Savrasov, P.A., et al. MES for IT-company project management organization // Mivar'22. Moscow: Infra-M, 2022. C. 6-12. EDN NVJFUJ.
28. Yatsenko A.A. et al. On the application of MES to assess the impact of staff turnover on the efficiency of the enterprise//Information and Education:Borders of Communication.2022.No. 14.P. 195-198.EDN EMMVCU.
29. Solokhov, I.R.; Molchanov, A.V.; Grunin, N.S. et al. MES in logistic systems // Mivar'23: Collection of student articles. Moscow: INFRA-M, 2023. C. 192-200. EDN IIGKHH.
30. Zvonarev, A.E.; Lychagin, D.A.; Gudilin, D.S., et al. MES for DBMS selection // Mivar'23 : Collection of student articles. Moscow: INFRA-M, 2023. C. 117-122. EDN EKHSPZ.
31. Denikaeva R. I., Albert V. A. Scoring in Russia and abroad // Scientific Review. 2014.
32. Hicham Sadok, Mohammed El Hadi El Maknouzi, Fadi Sakka Artificial intelligence and bank credit analysis: A review // Cogent Economics & Finance. 2022
33. Nikanenkova V.V. Credit scoring as a tool for assessing the creditworthiness of borrowers // Vestnik of Adygeya State University. Series 5: Economics. 2012. C. 2-4.
RESUME
M. S. Torzhkov, Yu. P. Koroleva, A. V. Bal'din, A. A. Kotsenko, Shen Qiujie Creating a mivar expert system to implement ethical aspects of artificial intelligence for credit scoring
The problem of scoring in the field of credit assessment and decision-making on issuing loans is devoted to quite a lot of works in various fields of knowledge. In addition, the problem of ethics in the field of artificial intelligence (AI) has recently become acute. In this regard, the question arises as to how much more accurate, transparent, and accessible forecasts based on AI neural network technologies will be for users and companies. Algorithms of AI neural network technologies for credit scoring have many advantages, but there is a problem of lack of transparency. AI with deep learning itself finds a solution and retrains itself, thus, the algorithms work as "black boxes".
In addition, the use of a large amount of data requires more information, which can lead to the problem of preserving the confidential data of users. Violation of confidentiality and lack of transparency raises serious ethical issues. Biases or discrimination against certain groups may also arise. For example, AI algorithms can be based on certain variables that can be considered discriminatory (gender, ethnicity, sexual or political orientation). Excluding such variables does not guarantee a complete absence of bias. For example, after analyzing a database of mortgage loans in the United States, it was revealed that due to the transition from logistic regression estimation to an approach based on AI neural network technologies, black and Latino borrowers lose out compared to white borrowers because the former were born or lived in disadvantaged areas.
The paper proposes to create a comprehensive AI system based on neural and mivar networks. The developed scoring system with a mivar expert system (MES) represents a potential advance in the field of creditworthiness assessment and loan decision-making, since it not only takes into account traditional factors such as the applicant's credit history and income, but also integrates additional ethical parameters such as the presence of children, marital status, education, and others.
One of the important advantages of our system is the ability to take into account rejected applications for further analysis and model training. This allows us to increase the data sample and make the system more accurate and ethical for users. After the implementation of such a scoring system, rejected applications will not simply be discarded, but will be used to improve knowledge bases and creditworthiness assessment algorithms. Such an ethical system increases customer confidence in financial institutions and promotes responsible lending.
A mivar expert scoring system has been created for a comprehensive AI lending system. Integrating ethical AI principles into the process of designing and using scoring models will help make them fairer and more consistent with social values, and will also lead to an expansion of the bank's client base. The created MES assesses the borrower's creditworthiness based on the created logical rules, which allows us to increase the sample of applications for consideration, focusing on parameters that in turn are indicators of ethics and help make the system fairer, more transparent, honest and user-oriented.
РЕЗЮМЕ
М. С. Торжков, Ю. П. Королева, А. В. Балдин, А.А. Коценко, Шэнь Цюцзе Создание миварной экспертной системы для выполнения этических аспектов искусственного интеллекта для скоринга кредитования
Проблеме скоринга в сфере оценки кредитоспособности и принятия решений о выдаче кредитов посвящено достаточно много работ в различных отраслях знаний. Кроме того, в последнее время остро стоит проблема этики в области искусственного интеллекта (ИИ). В связи с этим возникает вопрос, насколько прогнозы на основе нейросетевых технологий ИИ будут точнее, прозрачнее, доступнее для пользователей и компаний. Алгоритмы нейросетевых технологий ИИ для кредитного скоринга имеют множество преимуществ, но возникает проблема отсутствия прозрачности. ИИ с глубоким обучением сам находит решение и переобучается, таким образом, алгоритмы работают как «черные ящики».
Кроме этого, использование большого объема данных требует большего количества информации, что может привести к проблеме сохранения конфиденциальных данных пользователей. Нарушение конфиденциальности и отсутствие прозрачности вызывает серьезные этические проблемы. Также могут возникнуть предвзятости или дискриминация определенных групп. Например, алгоритмы ИИ могут основываться на определенных переменных, которые могут считаться дискриминационными (пол, этническая принадлежность, сексуальная или политическая ориентация). Исключение таких переменных не гарантирует полностью отсутствие предвзятости. Например, проанализировав базу данных ипотечных кредитов в США, было выявлено, как из-за перехода от оценки логистической регрессии к подходу, основанному на нейросетевых технологиях ИИ, чернокожие и латиноамериканские заемщики проигрывают по сравнению с белыми заемщиками потому, что первые родились или жили в неблагополучных районах.
В работе предложено создать комплексную систему ИИ на основе нейронных и миварных сетей. Разработанная система скоринга с миварной экспертной системой (МЭС) представляет потенциальный прогресс в сфере оценки кредитоспособности и принятия решений о выдаче кредитов, т.к. не только учитывает традиционные факторы, такие как кредитная история и доход заявителя, но и интегрирует дополнительные этичные параметры, такие как наличие детей, семейное положение, образование и другие.
Одним из важных преимуществ нашей системы является возможность учета отклоненных заявок для дальнейшего анализа и обучения модели. Это позволяет увеличить выборку данных и сделать систему более точной и этичной для пользователей. После внедрения такой системы скоринга отклоненные заявки не будут просто отбрасываться, а будут использоваться для улучшения баз знаний и алгоритмов оценки кредитоспособности. Такая этичная система повышает доверие клиентов к финансовым учреждениям и содействует развитию ответственного кредитования.
Создана миварная экспертная система скоринга для комплексной системы ИИ кредитования. Интеграция этических принципов ИИ в процесс проектирования и использования моделей скоринга поможет сделать их более справедливыми и соответствующими социальным ценностям, а также приведет к расширению клиентской базы банка. Созданная МЭС оценивает кредитоспособность заемщика на основании созданных логических правил, что позволяет увеличить выборку анкет к рассмотрению, ориентируясь на параметры, которые в свою очередь являются показателями этичности и помогают сделать систему более справедливой, прозрачной, честной и ориентированной на пользователя.
Торжков Максим Сергеевич, магистр, ФГБОУ ВО МГТУ им. Н.Э. Баумана, г. Москва, Россия, [email protected]
Область научных интересов: искусственный интеллект, миварные технологии логического искусственного интеллекта, обработка информации, кибернетика
Королева Юлия Павловна, магистр, ФГБОУ ВО МГТУ им. Н.Э. Баумана, г. Москва, Россия, [email protected]
Область научных интересов: искусственный интеллект, миварные технологии логического искусственного интеллекта, обработка информации, кибернетика
Балдин Александр Викторович, доктор технических наук, профессор,
1) главный научный сотрудник АО «НИИ «Вычислительных комплексов»»,
2) профессор кафедры Систем обработки информации и управления МГТУ им. Н.Э. Баумана, г. Москва, Россия, [email protected]
Область научных интересов: искусственный интеллект, базы данных, электронный университет, экспертные системы, логика, миварные технологии логического искусственного интеллекта, обработка информации, принятие решений, распознавание образов, понимание естественного языка, кибернетика, автономные робототехнические комплексы
Коценко Антон Александрович, аспирант, ФГБОУ ВО МГТУ им. Н.Э. Баумана, г. Москва, Россия, [email protected]
Область научных интересов: искусственный интеллект, миварные технологии логического искусственного интеллекта, обработка информации, принятие решений, распознавание образов, понимание естественного языка, кибернетика, автономные робототехнические комплексы
Шэнь Цюцзе, аспирант, ФГБОУ ВО МГТУ им. Н.Э. Баумана, г. Москва, Россия, [email protected]
Область научных интересов: искусственный интеллект, миварные технологии логического искусственного интеллекта, обработка информации, распознавание образов, кибернетика
Статья поступила в редакцию 19.06.2024.
