Научная статья на тему 'Нейросетевые и нечеткологические модели временных процессов'

Нейросетевые и нечеткологические модели временных процессов Текст научной статьи по специальности «Математика»

CC BY
104
48
i Надоели баннеры? Вы всегда можете отключить рекламу.
i Надоели баннеры? Вы всегда можете отключить рекламу.
iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

Текст научной работы на тему «Нейросетевые и нечеткологические модели временных процессов»

Take big red block CLAUSE VG NG VB IMPER ADJ ADJ NOUN TAKE (VB IMPER)

BIG (ADJ SIZE)

RED (ADJ COLOR)

BLOCK (NOUN)

Puc.7. Результат трансляции предложения

Как видно из рисунка (см. рис.7) «Мультитранслятор» построил дерево разбора и выделил определенные признаки, которые необходимы при дальнейшем семантическом анализе предложения. Так, глагол обозначен как повелительный (IMPER), а прилагательные big и red как прилагательные размера и цвета соответ-.

Использование возможностей среды «Мультитранслятор» вместе с нейросе-тевым подходом для обучения системы и преодоления неоднозначностей естественного языка позволяет расширить возможности применения «Мультитранслято-

»,

.

БИБЛИОГРАФИЧЕСКИЙ СПИСОК

1. Чернухин Ю.В., В.Ф. Гузик, Р.В. Фадеев. Исследование продукционных систем искусственного интеллекта на программном комплексе «Мультитранслятор». - Таганрог. 2005. - 145 с.

2. Виноград Т. Программа, понимающая естественный язык. - М.: Мир, 1976. - 294 с.

3. Чернухин ЮМ., Крамарь М.В. Проблемы использования многоязыковой трансляции в контекстно-зависимых языко вых средах - Таганрог. 2007.

АЛ. Шабельников, В.А. Шабельников

НЕЙРОСЕТЕВЫЕ И НЕЧЕТКО- ЛОГИЧЕСКИЕ МОДЕЛИ ВРЕМЕННЫХ

ПРОЦЕССОВ*

Искусственные нейронные сети (ИНС) являются одним из наиболее успеш-

( ). -

нованием для использования нейросетевых моделей в области анализа временных рядов служит фундаментальная теорема Такенса [1], которая, основываясь на принципе повторяемости наблюдений, позволила дать утвердительный ответ о принципиальной возможности прогнозирования будущих значений ВР на основе конечного числа его предшествующих значений.

Теорема Такенса предполагает использование в качестве прогнозирующей математической модели авторегрессионную модель общего вида, представленную в форме нелинейной авторегрессии:

x(t + d) = ys(x(t),x(t -1),...,x(t -1),П,%, . ,%, (1)

* Работа выполнена при поддержке РФФИ, проекты № 07-01-00075 и № 07-07-00010 170

где ё - лаг прогнозирования; I - ширина окна погружения; к - количество независимых переменных.

Формула (1) позволяет прогнозирование ВР свести к типовой задаче нейроа-

-

примеров путем погружения ряда в многомерное пространство.

Ниже на рис.1 приведена общая схема нейросети, реализующей метод погружения, называемой нейронной сетью с временной задержкой (НСВЗ).

Рис.1. Нейронная сеть прямого распространения с временным окном как нелинейная авторегрессионая модель

Существенным развитием НСВЗ являются рекуррентные ИНС, отличающиеся от НСВЗ наличием петель обратной связи. Это позволяет им моделировать дан,

виде предшествующих значений ВР, сгенерированных сетью, и используя его как часть последующих входов сети. Типичными представителями рекуррентных ИНС являются сеть Jordan-a, представленная на рис.2,а и сеть Elman-a, представленная на рис.2,Ь.

О) Сору <Ъ )

Рис.2. Сеть Jordan (a) и сеть Elman (b)

, , -нии в задачах прогнозирования временных рядов имеют ряд недостатков, связанных обучением, а именно, требуют длительного времени обучения и имеют повышенную склонность к зависаниям. Этого недостатка в значительной мере лишены рекуррентные ИНС специального вида, предложенные в [1] и получившие назва-

( ).

Архитектура МКРС показана на рис.3. Она состоит из четырех слоев: входного, скрытого, выходного, и мульти-контекстного. Предложенная архитектура, объединяя в себе характерные черты сетей Е1тап-а и .ТоМаи-а, тем не менее, имеет отличительную черту - ее мульти-контекстные слои связаны напрямую с выход,

процесс обучения.

Рис.3. Архитектура мультиконтекстной рекуррентной нейросети.

Нечетко-логические системы (НЛС) как средство моделирования ВР представляют собой, в определенной мере, альтернативу нейросетевым моделям. НЛС, являясь, как и ИНС, универсальными нелинейными аппроксиматорами данных, могут быть использованы в качестве инструмента реализации нелинейной авторег-, . , отличие от ИНС, функционирование которых осуществляется по принципу “черного ящика”, НЛС, опираясь на легко интерпретируемую лингвистическую информа-, , интеграции априорных знаний в модель исследуемого процесса. Последнее качество оказывается чрезвычайно важным при работе со слабо структурированными , -риорными экспертными знаниями, представленными в форме нечетких правил в .

Для исследования динамических процессов используется специальный класс , .

, -намики процесса в статику методом погружения. С этой целью обычная НЛС дополняется входами обратной связи, на которые подаются задержанные во времени сигналы. Полученная таким образом нечеткая система реализует нелинейное отображение предшествующих значений временного ряда в последующие:

X(г -1) х X(г - 2) х... х X(г - к) ^ X(г +1). (2)

(2) -, -

, “ «УСЛОВИЕ», ТО «Действие»”. Предусловия и заключения правил содержат, , , виде лингвистических термов. Функционирование НЛС сводится к реализации частных импликаций по каждому из правил, с последующим объединением результатов для получения конечного решения. Полученное нечеткое решение путем де-фаззификации может быть преобразовано в конкретное прогнозируемое значение .

Модуль дефаззификации, являющийся, как правило, обязательным элементом общей структуры любой НЛС, для нечетких систем, реализующей процесс нели, . ,

, , -татов к четкому значению. Более того, с целью повышения устойчивости и надежности работы системы оказывается полезным оставлять промежуточные результаты нечеткого вывода непосредственно в том виде, в котором они были получены на предшествующих итерациях, и использовать их в качестве входных данных для прогнозирования ряда на последующих итерациях. Нечеткий вывод, реализованный на входных данных, представленных не в виде конкретных числовых значений, а в виде нечетких подмножеств таких значений, получил название несинглет-ного нечеткого вывода.

НЛС с несинглетным выводом, являясь обобщением традиционных НЛС, предоставляют легко поддающийся математической обработке инструмент для работы с неопределенностью на входе, как при непосредственном функционировании нечетких систем, так и при их обучении. Будучи предложенными впервые в работах [2], НЛС с несинглтеным выводом в настоящее время все чаще находят применение в самых разнообразных приложениях.

Пример сетевой структуры динамической НЛС с несинглетным выводом приведен ниже на рис.4.

Рис. 4. Сетевая структура динамической НЛС с несинглетным выводом с М правилами (п-1) внешними входами и одним входом обратной связи хп

Экспериментальные исследования с динамическими НЛС с несинглетным выводом показали, что они обладают несомненными преимуществами перед соответствующими статическими нечеткими системами в задачах моделирования процессов неизвестного порядка и структуры. В значительной степени это обусловлено наличием дополнительного входа обратной связи, позволяющего более корректным образом отражать в модели динамику процесса при неизвестной его структуре. Кроме того, были сделаны попытки рассмотреть динамические НЛС с точки зрения их принадлежности к общему семейству нелинейных авторегрессионных моделей скользящего среднего. Результаты показали, что при прогнозиро-, -,

, .

БИБЛИОГРАФИЧЕСКИЙ СПИСОК

1. Huang B.Q., Tank Rashid and M-T. Kechadi. Multi-Context Recurrent Neural Network for Time Series Applications // INTERNATIONAL JOURNAL OF COMPUTATIONAL INTELLIGENCE. VOLUME 3, NUMBER 1, 2006. p.p. 1304-2386.

2. Mendel J., Mouzouris G. Non-Singleton fuzzy logic systems: Theory and application”, IEEE Trans. Fuzzy Syst., vol. 5. pp. 56-71, Feb. 1997.

B.B. Лисяк, H.K. Лисяк

СТРУКТУРНАЯ РЕАЛИЗАЦИЯ ЗАДАЧИ ПРОКЛАДКИ ПЕЧАТНОГО

МОНТАЖА*

Существенно (на несколько порядков) можно повысить производительность

-

либо за счет их реализации в суперЭВМ с перестраиваемой архитектурой [1,2], либо в виде специализированного сопроцессора на базе однородной среды [3-5]. Общие принципы и основные технические решения обеих подходов во многом близки, т.к. базируются на структурной реализации алгоритмов решения оптимизационных задач конструирования. Многообразие методов и алгоритмов решения, , , конструктивных элементов одного иерархического уровня в конструктивных элементах следующего иерархического уровня и прокладка электрических соединений печатного монтажа, ставит проблему выбора базового эффективного метода решения указанных задач для реализации его на структурном уровне. Можно обойтись без проблемы выбора, если пойти по пути создания универсального для данного класса задач сопроцессора или набора макроопераций для супер-ЭВМ, однако этот путь представляется малоэффективным по следующим соображениям.

Многообразие алгоритмов решения комбинаторно-логических задач конструкторского проектирования ЭА возникло вследствие стремления найти компромисс между временем решения задачи большой размерности и качеством результата решения в условиях хронической нехватки ресурсов ЭВМ. В результате возникли алгоритмы последовательные, итерационные, использующие метод ветвей и границ, симплекс-метод, основанные на методах генетического поиска и др. Недостатки этих классов алгоритмов широко известны, а метод, известный под об-

* Работа выполнена при поддержке РФФИ (гранты № 07-01-00511, № 06-01-81018) и программ развития научного потенциала высшей школы 2006-2008 гг. (РНП.2.1.2.3193, РНП 2.1.2.2238).

i Надоели баннеры? Вы всегда можете отключить рекламу.