ИНФОРМАЦИОННЫЕ ТЕХНОЛОГИИ, АВОМАТИЗИРОВАННЫЕ СИСТЕМЫ
УПРАВЛЕНИЯ
В. И. ПОТАПОВ И. В. ПОТАПОВ
Омский государственный технический университет
УДК519.68
о логическом избыточности
Функционально устойчивых
сетей искусственных нейронов_
ИССЛЕДУЕТСЯ ЛОГИЧЕСКАЯ ИЗБЫТОЧНОСТЬ ФУНКЦИОНАЛЬНО УСТОЙЧИВЫХ ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ КАК ФАКТОР ПОВЫШЕНИЯ ИХ ФУНКЦИОНАЛЬНОЙ НАДЕЖНОСТИ.
Известно, что у искусственных нейронов (ИН) с оптимальными параметрами, реализующих функцию или набор функций я; (Х)(Х = х1,хг,...,х/1и = 1,2, ..,2Л) структурная и логическая избыточность отсутствуют [1]. В связи с этим, отдельно взятый оптимальный в структурном отношении ИН является достаточно простым, но относительно малонадежным логическим элементом.
Факторы, вызывающие искажение реализуемой ИН функции, укрупненно можно разбить натри группы.
1. Внешние или внутренние воздействия, приводящие к изменению величины сигналов независимых переменных х1 на функциональных входах ИН.
2. Флуктуации величины порога Г.
3. Отказы компонентов (деталей) ИН в виде обрывов и коротких замыканий, например, волокон узла пресинапти-ческого взаимодействия, синапсов и другие.
Анализ указанных причин, приводящих к искажению выходной функции ИН, показывает, что все они могут быть сведены к соответствующему эквивалентному изменению величины порога Ту ИН. Нетрудно убедиться, что уменьшение веса входных переменных (х, < 1), обрывы возбуждающих синапсов х, =0) и, например, волоконзапрета, связанных с тормозящими синапсами (-и» ■ дг, х, = -у/) при х, = I), а также короткое замыкание на входах тормо-
зящих синапсов (-и-,. х, я ) приводят на соответствующих наборах входных переменных к уменьшению суммарного возбуждающего и увеличению суммарного тормозящего сигналов, приходящих на пороговый элемент (ПЭ) ИН. А это эквивалентно пропорциональному увеличению порога Т, приводящему к ошибке вида (1—>0) на выходе ИН.
Отказы, инверсные описанным выше, эквивалентны соответствующему уменьшению величины порога Ту ИН. Они приводят к ошибке вида (0—>1) на выходе нейрона. Так, например, при катастрофическом отказе, приводящем к реализации ИН тавтологии (Я = 1), можно считать нейрон исправным, а его порог т = -<ю; при реализации ИН противоречия (Р в 0), можно считать, что его порог т = -ко .
Из сказанного следует, что для повышения надежности вычисления требуемой функции необходимо объединять ИН в сети, функционально устойчивые к флукгуациям порогов у нейронов сети. Такими сетями являются логически стабильные и логически надежные сети [2].
Несмотря на то что в сетях искусственных нейронов (СИН) имеет место структурная избыточность в виде избыточного количества взаимосвязанных ИН, но все-таки основным источником, определяющим высокую функциональную надежность нейронных сетей, является, по-
видимому, логическая избыточность, обусловленная многофункциональностью входящих в сеть ИН. Очевидно, что чем менее вырождены ИН, тем большее количество различных функций реализует каждый из них при изменении порога Ту в активном диапазоне и, следовательно, требуемая результирующая функция сети Р(Х), например для фрагмента канонической однородной двухранговой одно-выходной СИН, определяемая диаграммным уравнением Р = ф(уг1,\|/г2,...,ч/14) может быть получена большим числом комбинаций и (р.
В приведенных обозначениях: Р - реализуемая СИН логическая функция, записанная в виде диаграммы (карты, матрицы) Карно, представляющая реализующую диаграмму сети; (р - реализуемая выходным нейроном сети логическая функция, записанная в виде диаграммы Карно, представляющая оператор для уравнения сети; у,,-реализуемая /' -м нейроном г-го ранга сети логическая функция, записанная в виде диаграммы Карно, представляющая операнд.
Из сказанного следует, что логическая избыточность является мерой логической устойчивости СИН, которая в свою очередь служит, в определенном смысле, мерой надежности сети. Таким образом, можно сделать заключение, что для повышения надежности СИН необходимо использовать возможно более логически гибкие ИН и расширять интервал логической устойчивости сети. При этом уменьшается вероятность искажения выходной функции Р сети при наличии отказов у ИН и <р, приводящих к изменению реализуемых ими функций.
Логическая избыточность для одновыходной однородной двухранговой СИН может быть подсчитана исходя из следующих соображений. Диаграммное уравнение указанной сети содержит диаграмму Карно 6 +1 от £пере-менных. Поэтому общее число графически различимых диаграммных уравнений такой сети равно
ей = (2"г
Поскольку в одновыходной СИН количество графически различимых результирующих диаграмм равно Н[5) = 22 , то логическая избыточность двухранговой сети выражается формулой
= (1)
Н(5) 2
С увеличением Числа рангов логическая избыточность СИН растет и, в общем случае, для г- ранговой сети принимает значение
Из (1) и (2) следует, чтоС^),/- = (2,3,...)_является некоторой средней характеристикой логической избыточности сети.
Было установлено, что в действительности количество графически различимых диаграммных уравнений, при помощи которых можно получить диаграмму Карно требуемой функции Р, зависит от количества точек (единиц) т Р в этой диаграмме, соответствующих наборам значении аргументов, на которых функция Р(Х) равна единице. Таким образом О = /(£,>",*>)
При г = 2
<5-1 ¿Д1 I - \2*-гг
с^ЬХс^/''^-/)2 (3)
*=I 1=1
где С] - число сочетаний из (5 по к-
Из (3) вытекает, что СИН, у которых в результирующих
Диаграммах г.. = 2*Л обладают наименьшей логической
избыточностью, а следовательно, и наименьшей функциональной устойчивостью, а сети, у которых тг = 1 или г,- = 2е"1, обладают наибольшей логической избыточностью и наибольшей функциональной устойчивостью.
Если при объединении ИН в однородную двухранговую сеть не удается достигнуть требуемого уровня надежности, то следует увеличивать количество рангов сети или ширину рангов.
При синтезе из низконадежных ИН высоконадежных сетей с большим числом точек (единиц) в результирующей диаграмме /•" может быть предложен другой метод организации сети, базирующийся на так называемом "расщеплении" результирующей диаграммы. Этот метод основан на том, что чем меньше точек содержится в результирующей диаграмме тем менее надежные ИН можно использовать для синтеза надежной сети. Для этого заданную результирующую диаграммусодержащую т> точек, расщеппяют на л диаграмм Р. таким образом, чтобы Р = Р1 \ГР1 \/...\/Р,. При этом т> =гч +1>, + , то есть каждая из вновь полученных диаграмм Р, содержит меньшее число точек, чем исходная диаграмма /г, а следовательно, для каждой из них можно построить надежную сеть из ИН с заданной надежностью и объединить выходы этих сетей на соответствующих входах ИН, реализующего функцию
Р = \/ Р,
1=1
Для повышения надежности реализации заданной функции нейронной сетью кроме указанных двух способов объединения ИН в сеть, возможен итеративный метод построения сети. Сущность этого метода состоит в том, что каждый ИН заменяется, например, однородной двухранговой функционально устойчивой сетью. Каждая такая СИН принимается за логический модуль, подобный отдельно взятому ИН, и из этих модулей строится новая функционально устойчивая сеть по тем же правилам, что и двухранговая сеть из отдельных ИН. Интеративное наращивание сети указанным способом приводит к повышению ее функциональной надежности.
Следует отметить, что при указанном способе построения сети надежность реализации заданной функции Р(Х) увеличивается не бесконечно, а достигает максимума после нескольких итераций.
С физической точки зрения это объясняется тем, что после каждой итерации распределение функциональных состояний простейших СИН изменяется и после нескольких итераций результирующее распределение становится совершенно произвольным. Поэтому, дальнейшее увеличение функциональной надежности реализации СИН заданной функции прекращается, а вероятность реализации функции, отличной от заданной, растет.
Эксперименты показали, что для нейронных сетей, реализующих функции от небольшого числа переменных, при достаточно высокой вероятности отказа отдельно взятых искусственных нейронов оптимальное число
итераций т=3-М.
Литература
1. Гутчин И Б., Кузичев А С. Об оптимальном синтезе формальных нейронов // Изв. АН СССР, Техническая кибернетика. -1965. - №2.-с.47-57.
2. Мкртчян С.О. Нейроны и нейронные сегти. - М: Энергия, 1971.-230с.
ПОТАПОВ Виктор Ильич, доктор технических наук, профессор, заведующий кафедрой информатики и вычиспительной техники Омского государственного технического университета.
ПОТАПОВ Илья Викторович, аспирант Омского государственного технического университета.