Научная статья на тему 'Разработка и исследование алгоритма генетического программирования для автоматического генерирования нейросетевых моделей'

Разработка и исследование алгоритма генетического программирования для автоматического генерирования нейросетевых моделей Текст научной статьи по специальности «Компьютерные и информационные науки»

CC BY
111
42
i Надоели баннеры? Вы всегда можете отключить рекламу.

Аннотация научной статьи по компьютерным и информационным наукам, автор научной работы — Семенкина М. Е., Липинский Л. В.

Приводится описание разработанного алгоритма генетического программирования для автоматического генерирования нейросетевых моделей, а также исследование его эффективности.

i Надоели баннеры? Вы всегда можете отключить рекламу.

Похожие темы научных работ по компьютерным и информационным наукам , автор научной работы — Семенкина М. Е., Липинский Л. В.

iНе можете найти то, что вам нужно? Попробуйте сервис подбора литературы.
i Надоели баннеры? Вы всегда можете отключить рекламу.

Текст научной работы на тему «Разработка и исследование алгоритма генетического программирования для автоматического генерирования нейросетевых моделей»

Секция «Математическое моделирование управления и оптимизации»

Если произвести предварительную нормировку выборок по надежностям и средним значениям функции, упорядочив пары параметров по первой компоненте, то можно наглядно представить зависимость нужного нам критерия от номера пары. График зависимости надежности от номера пары (узлы обозначены квадратами) и график среднего

значения функции от номера пары (узлы обозначены кругами) представлены на рисунке.

Если считать эффективной настройку, удовлетворяющую критерию минимума разности нормированных значений надежности и средних значений целевых функций, то искомая пара - (0,8 2).

© Рыжиков И. С., Бежитский С. С., 2010

УДК 519.8

М. Е. Семенкина Научный руководитель - Л. В. Липинский Сибирский федеральный университет, Красноярск

РАЗРАБОТКА И ИССЛЕДОВАНИЕ АЛГОРИТМА ГЕНЕТИЧЕСКОГО ПРОГРАММИРОВАНИЯ ДЛЯ АВТОМАТИЧЕСКОГО ГЕНЕРИРОВАНИЯ НЕЙРОСЕТЕВЫХ МОДЕЛЕЙ

Приводится описание разработанного алгоритма генетического программирования для автоматического генерирования нейросетевых моделей, а также исследование его эффективности.

При математическом моделировании и прогнозировании сложных процессов часто используются различные интеллектуальные информационные технологии, в частности нейросетевые модели [2]. Проектирование нейросетевых моделей само по себе является достаточно сложной интеллектуальной процедурой, включающей в себя, кроме всего прочего, выбор их эффективных структур.

Сложность проектирования искусственных нейронных сетей (ИНС) препятствует действительно массовому их внедрению в повседневную практику. Автоматизация проектирования ИНС могла бы решить часть трудностей, возникающих при их разработке. Но для автоматизации проектирования ИНС должны использоваться оптимизационные процедуры, позволяющие осуществлять комбинаторный поиск на сложных структурах. Так как обычнее методы математического программирования работают, как правило, с вектором координат, являющимся линейной структурой, то здесь эффективнее применить методы эволюционного поиска.

Стандартно алгоритм генетического программирования [1] применяется для задач символьной регрессии, выполненная его модификация позволяет применить его для проектирования произвольных структур нейронных сетей.

Для настройки структуры нейронной сети при помощи алгоритма генетического программирования в терминальное множество были включены следующие функции активации:

М х) =

- 1, если х < -1

-1 < х < 1, /2(х) = ехр(- х72);

1, если х > 1

/з(х) = х, /4(х) = sign(х) , /¡(х) = х , /6(х) = Щх) , /7 (х) = |х|, /8(х) = 1, /9 (х) = 1 - ехр(-х2/2), /10 (х) = х3, /ц(х) = зт(х), /12 (х) = ехр(х),

/13(х) = 1/х, /и(х) = 1/(1 + ехр(-х)),

0, если х < -0,5

/15 (х) = < х + 0,5, если - 0,5 < х < 0,5 ,

1, если х > 0,5

/1б( х) = 2/(1 + ехр( х)) -1,

а также входные нейроны для нейросети.

При генерации нейросетей алгоритм ГП имеет дело не с числами, а с нейронами, поэтому и допустимые операции из функционального множества специфические:

-постановка нейронов (блоков нейронов) в один слой, являющаяся ассоциативной (обозначим «+»);

-постановка нейронов (блоков нейронов) в последовательные слои, так что нейрон (блок нейронов), пришедший из левой ветви дерева, предшествует нейрону (блоку нейронов), пришедших из правой ветви дерева, не является ассоциативной (обозначим «<»).

При выполнении первой операции новых связей между нейронами не появляется, при выполнении второй операции выходы нейронов из левой ветви подаются на вход нейронам из правой ветви. Важно учитывать, что входные нейроны не должны принимать на вход результаты вычисления сети или ее части, но хотя бы один из них должен подавать на вход. В связи с этим было принято, решение, что в левой ветви могут присутствовать только входные нейроны и первая операция, а в вершине дерева должна находиться вторая операция. Сборка дерева начинается справа. Операции рекомбинации и мутации были модифицированы в соответствии с ограничениями, наложенными на вид дерева.

Для настройки весовых коэффициентов полученной нейронной сети применялся генетический алгоритм с последующим локальным спуском.

Описанный алгоритм был реализован в виде программной системы и протестирован.

х, если

Актуальные проблемы авиации и космонавтики. Информационные технологии

Пример дерева сгенерированного представленным алгоритмом генетического программирования

и соответствующей ему нейронной сети

Работоспособность алгоритма проверялась на репрезентативном наборе тестовых задач (аппроксимация, прогнозирование временных рядов). Проводилось усреднение среднеквадратической ошибки по 20 прогонам. Терминальное множество включало в себя 16 функций активации и входные переменные.

Результаты тестирования показали, что нейронные сети, созданные алгоритмом генетического программирования, имеют небольшое количество нейронов, по сравнению с нейросетями получаемыми посредством нейро-эмитаторов, и не являются полносвязными (связей между нейронами мало) и при

этом обладают достаточно малой среднеквадратической ошибкой.

Библиографические ссылки

1. Koza John R. Genetic Programming: On Programming Computer by Means of Natural Selection and Genetics. Cambridge, MA : The MIT Press, 1992.

2. Оссовский С. Нейронные сети для обработки информации / Пер. с польск. И. Д. Рудинского. М. : Финансы и статистика, 2002.

© Семенкина М. Е., Липинский Л. В., 2010

УДК 531/534;629.783

А. А. Серпухова Научный руководитель - А. В. Седельников Самарский государственный аэрокосмический университет имени академика С. П. Королева, Самара

ИСПОЛЬЗОВАНИЕ ЭЛЕКТРОРАКЕТНЫХ ДВИГАТЕЛЕЙ ДЛЯ УПРАВЛЕНИЯ ДВИЖЕНИЕМ КОСМИЧЕСКОЙ ЛАБОРАТОРИИ

Рассматривается ориентация космической лаборатории, предназначенной для реализации гравитационно-чувствительных технологических процессов, с помощью двигательной установки, включающей в себя электроракетные двигатели.

Для успешного проведения гравитационно-чувствительных технологических процессов необходимо поддерживать благоприятные условия микрогравитационного штиля в рабочей зоне технологического оборудования космической лаборатории [1]. Если речь идет о серийном производстве в космосе, то космическая лаборатория должна быть полностью автономной и иметь свои собственные источники электропитания для осуществления технологических процессов. Энергоемкие процессы диктуют необходимость жесткой ориентации космической лаборатории в пространстве [2]. Поэтому для управления движением космической лаборатории используют двигательную установку, содержащую управляющие

ракетные двигатели системы ориентации и управления движением (ЖРД МТ). ЖРД МТ работаю в импульсном режиме и создают недопустимо большой уровень микроускорений во внутренней среде космической лаборатории [3]. Следовательно, гравитационно-чувствительные процессы можно проводить в промежутках между включениями ЖРД МТ. Отсюда актуальной является задача увеличения временного интервала между двумя последовательными срабатываниями ЖРД МТ.

Когда двигатели выключены, ориентация осуществляется в пассивном режиме устройствами пассивной ориентации (УПО), такими как силовые гироскопы или гиродины. Маховики УПО «загружа-

i Надоели баннеры? Вы всегда можете отключить рекламу.