Построение проверяющих тестов для искусственных нейронных сетей без обратных связей из монофункциональных и многофункциональных искусственных нейронов Текст научной статьи по специальности «Компьютерные и информационные науки»

функциональных нейрочипах с кодовой перестройкой логики работы. Принятое заказчиком действующее специализированное нейрокомпьютерное устройство с микропрограммным управлением было выполнено на магнито-диодных многофункциональных нейрочипах с кодовой перестройкой лотки искусственных нейронов.

Арифметическое устройство нейрокомпьютерного вычислителя было выполнено в виде однородной нейронной сети с распределенным «плавающим» резервом, автоматическое включение которого вместо отказавших искусственных нейронов осуществлялось с помощью разработанной встроенной системы диагностических тестов.

В дальнейшем работы по созданию многофункциональных искусственных нейронов были перенесены на технологию магнитоодноосновных материалов с цилиндрическими магнитными доменами.

На этом приоритетные разработки нейронов и нейрокомпьютеров заканчиваются.

Литература

1. Галушкин А.И. Теория нейронных сетей. Нейрокомпьютеры и их применение. - М.: ИПРЖ «Радиотехника». - 2000. - 416 с.

2. Бубенников А.Н., Бубенников A.A. Технологические проблемы создания сибмикронных нейронов и нейро-систем на пластинах//информационные технологии.-

1997. - №5. - с. 21-28.

3. Миркес Е.М. Нейрокомпьютер. Проект стандарта.-Новосибирск: Наука, Сибирская издательская фирма РАН,

1998.-337с.

4. Нейроинформатика/А.Н.Горбань, В.Л.Дунин-Бар-ковский, А.Н.Кирдин, Е.М. Миркес, А.Ю.Новоходько, Д.А.Россиев, САТерехов, М.Ю.Сенашова, В.Г.Царегра-дуев. - Новосибирск: Наука, Сибирская издательская фирма РАН, 1998. - 296 с.

5. Потапов В.И., Потапов И.В. Математические модели и функциональные возможности искусственных нейронов/ Омский государственный технический университет. -

Омск, 2001. -12 е., библ. 13 назв.-Деп в ВИНИТИ 03.05.01, № 1140-В2001.

6. Потапов В.И., Потапов И.В. О структурной сложности искусственных нейронов с пресинаптическим взаимодействием и реализации функций от большого числа пере-менных//Доклады СО АН ВШ. - 2002. - № 1(5). - с. 84-91.

7. Галушкин А.И. Некоторые исторические аспекты развития элементной базы вычислительных систем с массовым параллелизмом (80-и 90-е годы)//Информаци-онные технологии. - 2000. - №8. - с. 2-10.

8. A.C. 200883 СССР, МПК G 06f. Адаптивное вычислительное устройство/В.И.Потапов (СССР).- 1113676/2624. - Заявлено 18.11.66. - опубл. 15.08.67. - Бюлл. №17.

9. A.C. 226302 СССР МПК G 06f. Адаптивное вычислительное устройство/В.И.Потапов (СССР).-1163597/26-24. - Заявлено 30.05.67. - опубл. 8.01.68. - Бюлл. №28.

10. A.C. 260968 СССР, МПК G 06f. Адаптивное вычислительное устройство/В.И.Потапов, А.А.Маслов (СССР). - 1282453/18-24. - Заявлено 14.11.68. - Опубл. 06.01.70. - Бюлл. №4.

11. A.C. 332575 СССР, МПК НОЗК 19/00. Многофункциональный пороговый элемент/В.И.Потапов, П.В.Миренков, Л.В.Воронкова (СССР). - 1468217/26-9. -Заявлено 13.07.79. - опубл. 14.03.72. - Бюлл. №10.

12. A.C. 473293 СССР МПК НОЗК 5/08. Пороговый логический элемент/В.И.Потапов, М.С, Куприянов (СССР). -1902492/26-21. - Заявлено 03.04.73,- Опубл. 05.06.75. -Бюлл. №21.

13. A.C. 493030 СССР. МПК НОЗК 19/08. Многофункциональный пороговый модуль/В.И.Потапов, М.С. Куприянов (СССР). - 1977185/26-21. - Заявлено 14.12.73. -Опубл. 25.11.75. - Бюлл. №43.

14. А.С.493031 СССР, МПК НОЗК 19/16. Многофункциональный пороговый модуль с кодовой перестройкой логики/В.И.Потапов, И.А.Пальянов (СССР). - 2007119/2621. - Заявлено 18.03.74. - Опубл. 25.11.75. - Бюлл.№41.

ПОТАПОВ Виктор Ильич, доктор технических наук, профессор, заведующий кафедрой ИВТ.

в. и. потапов и. в. потапов

Омский государственный технический университет

УДК 621.38

ПОСТРОЕНИЕ ПРОВЕРЯЮЩИХ ТЕСТОВ ДЛЯ ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ БЕЗ ОБРАТНЫХ СВЯЗЕЙ ИЗ МОНОФУНКЦИОНАЛЬНЫХ И МНОГОФУНКЦИОНАЛЬНЫХ ИСКУССТВЕННЫХ НЕЙРОНОВ

ИЗЛАГАЕТСЯ ПРОЦЕДУРА СИНТЕЗА МИНИМИЗИРОВАННЫХ ПРОВЕРЯЮЩИХ ТЕСТОВ ДЛЯ ТРЕХ ВИДОВ ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ ИЗ МОНОФУНКЦИОНАЛЬНЫХ И МНОГОФУНКЦИОНАЛЬНЫХ ИСКУССТВЕННЫХ НЕЙРОНОВ.

0

1

s

ь

Многофункциональным искусственным нейроном (ИН) с переменными весовыми коэффициентами ю1С входов (/ = 1,2.....п) и переменным порогом тД^ = 1,2.....м) будем называть такой нейрон, выходные функции которого определяются следующим соотношением:

fej(x„.x2,...,xj =

1, eau ^ ù):tx: > Tv,

i> I n

0, если ^ cûjt.xi<lv.

(1)

где /е/ - двоичная функция, реализуемая ИН с набором весовых коэффициентов входов номер £(? = 1,2,.,.,н) и порогом у(у = 1,2,...,М), ой,, - весовой коэффициент 1-го (|' = 1,2,...,я) входа ИН, входящий в I-й набор. Очевидно, что число различных весовых коэффициентов у любого /-го входа ИН удовлетворяет условно Ы, ^Н.

При постоянном £ = 1 и постоянному } = 1 соотношение (1) описывает работу монофункционального ИН, т.е. искусственного нейрона с постоянными значениями весовых коэффициентов входов и постоянным порогом.

Методы построения минимизированных проверяющих тестов для отдельно взятых монофункциональных и многофункциональных ИН даны в работе [1],а вопросы построения проверяющих и диагностических тестов для некоторых видов комбинационных схем, состоящих из пороговых элементов рассмотрены в [2].

В данной работе для построения тестов, проверяющих нейронные сети из указанных выше ИН, воспользуемся методом, основанным на использовании таблиц функций неисправности (ТФН). Алгоритмы построения минимизированных проверяющих тестов по ТФН для сетей из булевых элементов изложены в работах [3,4]. При этом следует отметить, что сложность процедуры составления и минимизации ТФН быстро растет с увеличением числа элементов в проверяемой логической сети. Однако, как будет показано ниже, для нейронных сетей из рассматриваемых ИН оказывается возможным проведение предварительной минимизации ТФН, основанной на довольно простом методе исследования возможности проверки входным набором переменных каждого из ИН сети. Это позволяет существенно упростить процедуру синтеза минимизированных проверяющих тестов для искусственных нейронных сетей (И НС).

В дальнейшем входной для нейронной сети набор переменных будем называть неограничивающим, если при реализации ИНС функции от переменных входного набора появление отказа у ИН вызывает изменение истинного значения выходной функции сети на противоположное. В противном случае входной набор переменных будем называть ограничивающим.

Полагаем, что в нейронной сети в любой момент времени в состоянии отказа может находиться только один ИН, неисправность которого является однократной, и за время прохождения проверяющего теста вероятность появления в ИНС второго отказа равна нулю.

Рассмотрим условия, при которых можно осуществить предварительную минимизацию ТФН для различных типов простейших сетей из ИН.

Любой отказ первой или второй группы ИН, можно рассматривать как появление неисправности типа const=0 или const=1 на выходе zu при подаче на вход ИН, тест-набора, обнаруживающего рассматриваемый отказ. Появление же отказа типа const=0 или const=1 на выходе ИН, эквивалентно отказу входа ИНг, соединенного с выходом zn и имеющего весовой коэффициент <"|2.

Таким образом, отказ ИН, может быть обнаружен на внешнем выходе z2 связки, если входной набор переменных, выявляющий данный отказ, является также тест-набором для обнаружения неисправности типа const=0 (при наличии в ИН, отказа первой группы) или const=1 (при наличии в ИН2 отказа второй группы) на входе ИН2, соединенном с выходом z12 .

В соответствии с алгоритмом построения проверяющих тестов для монофункциональных ИН [1] тест-набор, обнаруживающий неисправность типа const = 0 или const=1 на входе ИН с весовым коэффициентом й>12, должен удовлетворять для обнаружения неисправности типа const = 0 следующему условию:

т2 - ю12 s Y, <Ч2 J, 2 т2 + °>п при ш„ > О,

icN:

(2)

(3)

а для обнаружения неисправности типа сопэ1=1 -условию:

т2 - * Е °>?х< < т2 при ю.г > 0, (4)

Т2 * Е < т2 - ®12 при 0).г < 0. (5)

,еЫ2

Входные наборы ИНС, при которых

(6)

/бИ,

или

1. Связка из двух монофункциональных ИН

Пусть два искусственных нейрона ИН, и ИН2 соединены таким образом, что выход ИН, является одним из входов ИН2 (рис. 1). Число внешних входов связки равно п, а п, и «2- количество входов ИН, и ИН2, соответственно, соединенных с внешними входами связки.

Ъп- выход ИН,, соединенный со входом ИН2, имеющим весовой коэффициент тп . Хг -внешний выход связки.

Пусть Ы,- множество п, входов ИН, с весовыми коэффициентами <у'*0 , ^-множество пг входов ИНг с весовыми коэффициентами ш; * 0, а N = {1,2,...,л}- множество внешних входов связки. Тогда N. с N и И2 с N. Если шины, по которым подаются на связку входные переменные хк и х, (к, ?еЫ), не соединены, соответственно, со входами ИН, и ИНг, то при рассмотрении процедур составления проверяющих тест-наборов будем считать, что у ИН, и ИН2 имеются абсолютно надежные фиктивные входы с соответствующими весовыми коэффициентами о»', =0, (Аг^) и а>; =0 (¿<гЫ,).

I

ieN,

ах, <Т, -1

(7)

ин,

ИН;

являются тест-набороми для проверки неисправностей, соответственно первой или второй группы у ИН,.

Учитывая сказанное выше, можно заключить, что неограничивающими входными наборами у рассмотренного типа ИНС являются такие наборы, при которых выполняются условия (6) и (2) или (3); (7) и (4) или (5). Остальные входные наборы сети являются ограничивающими при проверке неисправностей ИН,.

После определения ограничивающих входных наборов необходимо произвести предварительную минимизацию ТФН. Для этого в графе «неисправности ИН,» табл. 1 следует зачеркнуть (удалить) строки, соответствующие ограничивающим входным наборам.

Дальнейшая минимизацмя табл. 1 и построение по ней минимизированного проверяющего теста для ИНС на рис. 1 производится по известным алгоритмам [3,4].

Легко видеть, что частным случаем простейшей двух-ранговой ИНС в виде связки из двух многофункциональных

Таблица 1

Таблица функций неисправности для ИНС на рис.1

Рис.1. Связка из двух монофункциональных ИН.

Наборы входных Неисправности ИН, Неисправности ИН2

; переменных сети 1 2 3 4п, 1 2 3 4п2

I 0

! 1

2

I 2"-2

I 2"-1

ИН (рис. 1) при /1 = 2 является искусственный нейрон с пресинаптическим взаимодействием, реализующий любую из 21' Функций /(х„х2) при изменении весовых коэффициентов входов и порогов у ИН, и ИН2 [5].

2. Каскадное включение монофункциональных ИН

Рассмотрим нейронную сеть из т оследовательно включенных ИН (рис. 2). Число внешних входов сети равно п и образует множество N = {1,2,...,«}, а п„пг,...,пп- количество входов ИН,, ИНг.....ИНт, соответственно, образующих множества 5 N.

- выход ин а, соединенный со входом инл, г„ -внешний выход нейронной сети.

При составлении тест-наборов будем считать, что весовой коэффициент о>' фиктивного к -того входа ин,, ре{1,2,..равен нулю и не имеет отказов, если шина, по которой подается в И НС входная переменная хк, не соединена со входом ин,.

При предварительной минимизации исходной ТФН (табл. 2) для каждой пары ИНт, ИН^,; ИН^, ИН^,...; ИН2, ИН, необходимо определить ограничивающие входные наборы так, как это было описано выше. После чего в табл. 2 следует удалить из рассмотрения строки, соответствующие ограничивающим входным наборам переменных. Удаление строки должно производиться из всех участков таблицы, имеющих название «неисправности ИН,», «неисправности ИН2», ... «неисправности ИНр», где ИНр - пороговый элемент, имеющий меньший номер в паре, для которой определялись ограничивающие входные наборы. Последующая минимизация табп. 2 и построение по ней минимизированного проверяющего теста для рассматриваемого типа ИНС производится по тем же алгоритмам, что и для предыдущей нейронной сети.

Каскадное включение многофункциональных ИН, характерно, например, для многоранговых однородных адаптивных ИНС [6].

3. Одновыходная двухранговая ИНС из монофункциональных ИН

Сеть рассматриваемого типа представлена на рис. 3. В первом ранге нейронной сети находятся т нейронов

ИН,, ИН,.....ИН„, имеющих, соответственно, п1,п1,...,пт

входовой

.2.....г,..т, имеющих, соответственно,

входов. Во втором ранге сети находятся т

ИН№1, выход х которого является внешним выходом ИНС,

Рис. 2. Каскадное включение монофункциональных ИН.

Таблица 2

Таблица функций неисправности для ИНС на рис.2

Наборы входных переменных сети Неисправности ИН, Неисправности ин2 Неисправности ИН,

1 2 4П, 1 2 4п, 1 2 4пт

0

1

2

2"-2

2"-1

Рис. 3. Одновыходная двухранговая ИНС из монофункциональных ИН.

Таблица 3

Таблица функций неисправности для ИНС на рис. 3

Наборы входных переменных сети Неисправности ИН, Неисправности ИН„ Неисправности ИНт.,

1 2 4п, 1 2 4п„ 1 2 4т

0

1

2

2"-2

2"-1

а г,,г2.....гт - выходы одноименных ИН первого ранга,

соединенные со входами ИН^, второго ранга. Аналогично рассмотренному выше считаем, что если вход какого-либо ИНр первого ранга сети не соединен с шиной, по которой в нейронную сеть подается входная переменная х„ (к с 14) , то весовой коэффициент аЦ фиктивного к -го входа ИНр будем считать равным нулю и не имеющим неисправностей.

Для определения неограничивающих и ограничивающих входных наборов необходимо для каждого входного набора подсчитать величину

а=£ *г\.

/-Г

Если а > Т„+1 , то соответствующий входной набор является неограничивающим как для ИН первого ранга, выходы которых имеют значения г, = 1 и соединены со входами ИНт41, имеющими весовые коэффициенты а>Г' > А - Т„,,, так и для ИН первого ранга, выходы которых имеют значения г, = 0 и соединены со входами ИН^,, имеющими весовые коэффициенты <(Т„+, - а).

Если а < Т„+1, то соответствующий входной набор является неограничивающим для ИН первого ранга, выходы которых имеют значения г, = 1 или г, = 0 и соединены со входами ИНт41, имеющими весовые коэффициенты <»;" ¿(А-Т„„) или Т^-а), соответственно.

После выполнения указанной процедуры в графах «неисправности ИН,» «неисправности ИНт» табп. 3 следует удалить из рассмотрения строки, соответствующие ограничивающим входным наборам для каждого ИН первого ранга. Дальнейшая минимизация табл. 3 и синтез минимизированного проверяющего теста для нейронной сети рассматриваемого типа производится теми же методами, что и для ИНС первого типа.

Используя процедуры, аналогичные приведенным выше, можно легко определить ограничивающие входные наборы для нейронных сетей из монофункциональных ИН с иной конфигурацией связей между ИН и тем самым произвести предварительную минимизацию их ТФН.

Если искусственная нейронная сеть содержит многофункциональные ИН, то для каждого сочетания набора весовых коэффициентов а>„ входов ИН и величины порога , используемых при настройке нейронной сети в процессе работы, следует составить отдельную ТФН, а затем необходимо произвести предварительную минимизацию каждой такой ТФН.

В дальнейшем для синтеза минимизированного теста, проверяющего сеть из многофункциональных ИН, следует пользоваться указанными выше методами. При этом следует помнить, что все ТФН должны рассматриваться совместно, то есть обрабатываться как одна таблица функций неисправностей.

Литература

1. Потапов В.И., Пальянов И.А. Построение проверяющих тестов для пороговых элементов// Изв. АН СССР, Техническая киберненика. - 1973.- № 4. - с. 140-147.

2. Чараев ГГ. Техническая диагностика схем на пороговых элементах// Автоматика и телемеханика. - 1971. -№ 1. - с. 151-158.

3. Карибский В В., Пархоменко П.П., Согомонян Е.С. Техническая диагностика объектов контроля. - М.: Энергия, 1967. - 80с.

4. Гольдман P.C., Чипулис В.П. Техническая диагностика цифровых устройств. - М.: Энергия, 1976. - 224 с.

5. Потапов В.И., Потапов И.В. О структурной сложности искусственных нейронов с пресинаптическим взаимодействием и реализации функций от большого числа переменных II Доклады СО АН ВШ. - 2002. - № 1(5). - с. 84-91. 6. Потапов В.И., Потапов И.В. Математическая модель адаптивной искусственной нейронной сети с замещением отказавших нейронов резервными // Омский научный вестник. - 2002. - вып.18. - с. 135-138.

ПОТАПОВ Виктор Ильич, доктор технических наук, профессор, заведующий кафедрой информатики и вычислительной техники.

ПОТАПОВ Илья Викторович, аспирант кафедры информатики и вычислительной техники.

I

t

а> ■

я

3

о п. шафеева ВЕКТОРНЫЕ КОДЫ ДЛЯ ЛОКАЛИЗАЦИИ ОШИБОК В ДВОИЧНЫХ ДАННЫХ

Омский государственный технический университет

УДК 681.3.045.5

НА ОСНОВАНИИ ПРОВЕДЕННЫХ ИССЛЕДОВАНИИ ФОРМАЛИЗОВАНЫ ПРАВИЛА ВЫЧИСЛЕНИЯ КОНТРОЛЬНЫХ РАЗРЯДОВ ПРИ КОДИРОВАНИИ ДВОИЧНЫХ ДАННЫХ И ПРОВЕРОЧНЫХ СООТНОШЕНИЙ ПРИ ДЕКОДИРОВАНИИ. ПРЕДЛОЖЕНЫ НОВЫЕ ГРАФИЧЕСКИЕ КОНФИГУРАЦИИ СХЕМ КОДОВ, ПОЗВОЛЯЮЩИЕ ПО ОТНОШЕНИЮ К ИЗВЕСТНОМУ ВЕКТОРНОМУ КОДУ УВЕЛИЧИТЬ ЧАСТОТУ ИСПРАВЛЕНИЯ ОШИБОК.

Наиболее простые способы построения кодов, локализующих и корректирующих ошибки передачи или хранения двоичной информации, основаны на определении четности (или нечетности) конкретных битов данных. Так, код с проверкой на четность слов позволяет лишь обнаружить наличие одиночной ошибки или ошибки нечетной кратности в пределах этого слова. Блоковый итеративный код [1] с контролем строк и столбцов дает возможность однозначно локализовать и исправить одиночную ошибку в блоке слов, но требует разбиения информации на блоки. Код для контроля информации на магнитной ленте [1] с определением отдельных битов четности слов и битов четности диагоналей устраняет указанный недостаток: является непрерывным, но обладает информационной избыточностью - два контрольных бита на двоичное слово данных и позволяет корректировать ошибки.

Коды векторного метода предусматривают добавление одного проверочного бита к каждому двоичному слову и предполагают использование нескольких векторов данных для его вычисления [2]. Один и тот же контрольный бит определяется как четностью информационных разрядов слова (столбца), так и четностью разрядов диагонального вектора. Ошибочный бит локализуется при помощи Двух «помеченных» контрольных разрядов или проверочных битов, для которых при декодировании обнаружено нарушение четности (рис. 1). Черным цветом выдепен биТ который локализуется на пересечении вертикального и диагонального векторов. Такой векторный код обнаруживает и исправляет одиночные ошибки в пределах блока ^ов, равного по длине разрядности слов (например, для байтовых слов длина блока равна восьми). Возникновение же двойной ошибки в пределах указанного блока повлечет в случае их попадания на одну схему-конфигурацию к Размножению ошибок [2]. В связи с этим эффективными являются векторные коды с числом векторов более двух.

# #

# #

# ■

# #

# # * *

§ #

# #

* *

Рис.1. Схема локализации ошибки двухвекторным кодом.

Концепция векторного метода локализации ошибок основана на визуальном впечатлении, которое складывается у человека, проходящего по яблоневому саду с регулярно расположенными рядами деревьев. Отдельно взятое дерево можно увидеть под углом 45° к линии ряда. То же дерево видно, если смотреть в сад перпендикулярно ряду. Пройдя некоторое расстояние, наблюдатель снова может увидеть это же дерево, повернувшись назад под углом 135°. Таким образом, любое дерево внутри сада может быть найдено, если его местонахождение описать через координаты двух деревьев, находящихся на краю сада и лежащих на тех же самых векторах, что и искомое внутреннее дерево. Симметричная схема трехвекторного кода, напрямую связанная с визуальным впечатлением во фруктовом саду опубликована в [2] и показана ни рис. 2.

Для такой схемы кода легко вычислить проверочные разряды и контрольные соотношения. Пусть элементы первой (к=1) дорожки являются контрольными, тогда для массива (т-^-разрядных двоичных слов С они вычисляются сложением по модулю два по формуле 1