CC BY
16
Вестник КРАУНЦ. Физ.-мат. науки. 2018. № 3(23). C. 180-183. ISSN 2079-6641
DOI: 10.18454/2079-6641-2018-23-3-180-183 ТЕОРЕТИЧЕСКАЯ И ПРИКЛАДНАЯ ИНФОРМАТИКА
УДК 519.7
ПРИМЕНЕНИЕ ЛОГИЧЕСКОЙ НЕЙРОННОЙ СЕТИ К ЗАДАЧЕ КЛАССИФИКАЦИИ
Р. А. Жилов
Институт прикладной математики и автоматизации - филиал ФГБНУ «Федеральный научный центр «Кабардино-Балкарский научный центр Российской академии наук» (ИПМА КБНЦ РАН) , 360000, г. Нальчик, ул. Шортанова, 89А E-mail: [email protected]
Решение задачи классификации становится все более актуальным в связи с развитием технологии и разрастанием обрабатываемых объемов данных. Использование нейронных сетей обязательны при решении задач классификации, т.к. нейронные сети обладают способностью выявления значимых признаков и скрытых закономерностей. Преимуществами логической нейронной сети являются: более высокая точность классификации, большая скорость обучения и переобучения.
Ключевые слова: логические нейронные сети, обучение, классификация данных, алгоритм трассировки.
© Жилов Р. А., 2018 THEORETICAL AND APPLIED INFORMATICS
MSC 68T30
APPLICATION OF A LOGICAL NEURAL NETWORK TO THE CLASSIFICATION PROBLEM
R. A. Zhilov
Institute of Applied Mathematics and Automation of Kabardin-Balkar Scientific Centre of RAS ( IAMA KBSC RAS), 360000, Nalchik, Shortanova st., 89A E-mail: [email protected]
The solution of the classification problem is becoming more urgent due to the development of technology and the growth of the processed data volumes. The use of neural networks is mandatory when solving classification problems, because Neural networks have the ability to identify significant features and hidden patterns. The advantages of a logical neural network are: higher classification accuracy, higher learning and retraining.
Key words: logical neural networks, training, data classification, trace algorithm.
© Zhilov R. A., 2018
Введение
Задача классификации встречается в самых разных областях человеческой деятельности и решается для последующего прогнозирования состояния исследуемой системы. Задача классификации встречается в системах распознавания, медицинской диагностики, банковской кредитной системы, контроля качества и т.д. и имеет практическую значимость. Существует огромное количество алгоритмов классификации, применяющиеся в решении определенных задач. Применение нейронных сетей для решения задач классификации является актуальной и обоснованной, так как очень хорошо справляются с такой задачей [1]. Однако при использовании нейронных сетей определенной структуры возникают определенные трудности. Так, например, во многих задачах заранее неизвестно, какого размера нужна сеть, на какое количество классов требуется разбить и т.д. Универсальным методом решения таких проблем является подбор конкретной нейронной сети (конкретной структуры) для решения заданной задачи. При решении задач классификации лучше подходят логические нейронные сети.
Построение логической нейронной сети
Под задачу классификации легко подстраивается логическая нейронная сеть с булевыми выходами. Логические нейронные сети хорошо подходят, когда классов, в которые нужно определить тот или иной объект не очень много. Это утверждение обусловлено тем, что в такой нейронной сети на выходном слое нейронов столько, сколько классов, и принадлежность объекта классификации к данному классу определяется 1 на выходе данного нейрона и 0 на всех остальных. При решении задачи классификации сетью Ванга - Менделя, например, появляются некоторые трудности при увеличении количества классов, так как данная сеть имеет один выходной нейрон [2]. Это приводит к увеличению вероятности ошибки. Для обучение логической нейронной сети применим алгоритм трассировки [3]:
1. Составим матрицу следования S и дополним его транзитивными связями.
2. Все нейроны выходного слоя не должны иметь в соответствующих им строках "пустых"элементов в позициях, соответствующих нейронам входного слоя. Пустой элемент указывает на отсутствие пути возбуждения от соответствующего нейрона входного слоя. Мы будем считать нейросеть построенной некорректно и нуждающейся во внесении дополнительных связей, например, непосредственно от нейрона входного слоя к нейрону выходного слоя.
3. Организуем перебор всех обобщенных эталонных ситуаций и соответствующих им решений, последовательно закрепляя нейроны выходного слоя Выхг- за обобщенными ситуациями. Для каждой обобщенной ситуации выполняем пункты 4-15.
4. Для обобщенного эталона i (i = 1,2,...,m) строим матрицу следования
Si[Vn,Vi2,...,Vir ^ Выхг],
где Уц, Vi2,..., Vir - нейроны входного слоя, возбуждающиеся (до максимальной величины) при подаче обобщенного эталона, т.е. характеризующие ситуацию.
5. В матрице Si последовательно, сверху вниз, вычеркиваем строки (и соответствующие столбцы), которые содержат количество единиц меньше значения m, указанного при строке.
ISSN 2079-6641
Жилов Р. А.
6. Присваиваем признак "возбужден"всем нейронам входного слоя, представленным в матрице &■.
7. Проверяем: содержит ли матрица более одной строки? Если содержит, выполняется следующий пункт, в противном случае выполняется пункт 3.
8. Исключаем из матрицы & строки и столбцы, соответствующие нейронам-входам, не обладающим признаком "возбужден".
9. Выделяем множество столбцов матрицы &■, обладающих признаком "возбужден".
10. Выполняем действие, отраженное в пункте 5 (во внешнем цикле): исключаем из текущего вида матрицы строки (и столбцы), которые содержат количество единичных элементов меньшее, чем указанное при строке значение т.
11. В совокупности выделенных столбцов находим (если таковая имеется) первую строку, содержащую максимальное число единиц и не содержащую единиц в других столбцах. (Число найденных единиц не должно быть меньше соответствующего значения т.) Соответствующий ей нейрон может быть переиспользован. Если такой строки найти не удается, выполняем пункт 13.
12. Исключаем из рассмотрения нейроны (вычеркиваем строки и столбцы) которым соответствуют единицы в найденной строке. Присваиваем нейрону, соответствующему выделенной строке, признак "возбужден". Уничтожаем в выделенной строке все нули и символы транзитивных связей, если они имеются, - превращаем строку во вход матрицы &■.
13. В совокупности выделенных столбцов находим, если таковая имеется, первую строку, содержащую максимальное число нулевых элементов. Если такой строки найти не удается, выполняем пункт 15.
14. Меняем значение возбуждения соответствующих связей, то есть заменяем нули единицами. Присваиваем нейрону, соответствующему выделенной строке, значение т, равное количеству единиц в строке, и признак "возбужден". Исключаем из рассмотрения нейроны (вычеркиванием строк и столбцов), "передавшие"свое возбуждение найденному нейрону.
Внесенные изменения весов учитываем в матрице & Переходим к выполнению пункта 7.
15. По каждому выделенному столбцу "спускаемся"вниз и находим первый из непустых элементов, соответствующий транзитивной связи. Вводим в нейросеть дополнительную связь, присваивая единичное значение найденному элементу. Исключаем из рассмотрения (вычеркиваем строки и столбцы) нейроны, соответствующие обработанным столбцам. Отражаем внесенные изменения в матрице &
После подстройки весов на вход полученной нейронной сети будут поступать характеристики объектов, подлежащих классификации, а на выходном слое будет столько нейронов, сколько классов требуется определить. Нейронной сети с двумя скрытыми слоями достаточно для решения данной задачи. Применяя алгоритм трассировки к полученной нейронной сети, мы устанавливаем связи между всеми нейронами входного слоя и нейронами выходного слоя либо напрямую, либо через скрытый слой. При обучении проводится отсеивание тех связей, которые не ведут к нужному выходному нейрону.
Заключение
Использование нейронных сетей обязательны при решении задач классификации, т.к. нейронные сети обладают способностью выявления значимых признаков и скрытых закономерностей. Преимуществами логической нейронной сети являются: более высокая точность классификации, большая скорость обучения и переобучения. Недостатками такой модели является разрастание нейронной сети при большом количестве классов, к которым надо отнести тот или иной объект и большом количестве характеристик объектов.
Список литературы
[1] Димитриченко Д. П., "Применение переменнозначных логических функций и нейронных сетей в системах принятия решений", Вестник КРАУНЦ. Физ.-мат. науки., 4-1(16) (2016), 93-100. [Dimitrichenko D. P., "Primenenie peremennoznachnyh logich-eskih funkcij i nejronnyh setej v sistemah prinyatiya reshenij", Vestnik KRAUNC. Fiz.-mat. nauki., 4-1(16) (2016), 93-100].
[2] Солдатова О. П., Лёзин И. А., "Решение задачи классификации с использованием нейронных нечетких продукционных сетей на основе модели вывода Мамдани - Заде", Вестник Самарского гос. тех. Университета. Физ.-мат науки., 2(35) (2014), 136148. [Soldatova O. P., Lyozin I. A., "Reshenie zadachi klassifikacii s ispol'zovaniem nejronnyh nechetkih produkcionnyh setej na osnove modeli vyvoda Mamdani - Zade", Vestnik Samarskogo gos. tekh. Universiteta. Fiz.-mat nauki., 2(35) (2014), 136-148].
[3] Барский А.Б., Логические нейронные сети, ИНТУИТ: БИНОМ, М., 2007, 352 с. [Barskij A.B., Logicheskie nejronnye seti, INTUIT: BINOM, M., 2007, 352 pp.]
Список литературы (ГОСТ)
[1] Димитриченко Д. П.Применение переменнозначных логических функций и нейронных сетей в системах принятия решений // Вестник КРАУНЦ. Физ.-мат. науки. 2016. №4-1(16). С. 93-100.
[2] Солдатова О. П., Лёзин И. А. Решение задачи классификации с использованием нейронных нечетких продукционных сетей на основе модели вывода Мамдани - Заде // Вестник Самарского гос. тех. Университета. Физ.-мат науки. 2014. №2(35). С. 136-148.
[3] Барский А.Б. Логические нейронные сети. М.: БИНОМ, 2007. 352 с.
Для цитирования: Жилов Р. А. Применение логической нейронной сети к задаче классификации // Вестник КРАУНЦ. Физ.-мат. науки. 2018. № 3(23). C. 180-183. DOI: 10.18454/2079-6641-2018-23-3-180-183
For citation: Zhilov R. A. Application of a logical neural network to the classification problem, Vestnik KRAUNC. Fiz.-mat. nauki. 2018, 23: 3, 180-183. DOI: 10.18454/2079-66412018-23-3-180-183
Поступила в редакцию | Ortginal article submitted: 08.06.2018
