МОДИФИЦИРОВАННЫЕ ВЫЧИСЛИТЕЛЬНЫЕ СХЕМЫ НЕЙРОННЫХ СЕТЕЙ ДЛЯ ОПТИМИЗАЦИИ ОБРАБОТКИ ДАННЫХ Джуманов О.И. Email: [email protected]
Джуманов Олимжон Исраилович — кандидат технических наук, доцент, кафедра информационных технологий, Самаркандский государственный университет, г. Самарканд, Республика Узбекистан
Аннотация: в статье разработаны методы адаптивного обучения нейронных сетей (НС) на основе проектирования рациональной архитектуры сети, определения числа слоев, нейронов в слоях, весовых коэффициентов сети по древовидной модели в виде ориентированного графа, в котором узлы соответствуют нейронам, а ребра межнейронным связям. Проанализирована эффективность реализации обобщенного алгоритма идентификации случайных временных рядов на основе НС с учетом влияния алгоритмов отбора, формирования информативных наборов обучающих данных, модифицированного обучения сети с настройкой параметров его структурных компонентов. Реализован комплекс программных модулей идентификации для прогнозирования сложных случайных процессов. Доказана эффективность синтеза алгоритмов извлечения и использования знаний, свойств и особенностей нестационарных объектов, обобщения возможностей НС, настройки параметров структурных компонентов. Ключевые слова: нестационарный объект, идентификация, обработка данных, случайный временный ряд, настройка параметров, нейронная сеть, обучение, многопараметрический случайный процесс.
MODIFIED CALCULATING SCHEMES OF NEURAL NETWORKS FOR OPTIMIZATION OF DATA PROCESSING Djumanov O.I.
Djumanov Olimjon Israilovich — PhD in Technical science, Associate Professor, INFORMATION TECHNOLOGIES DEPARTMENT, SAMARKAND STATE UNIVERSUTY, SAMARKAND, REPUBLIC OF UZBEKISTAN
Abstract: methods of adaptive learning of neural networks (NN) based on the design of a rational network architecture, determination of the number of layers, neurons in layers, weight coefficients of a network based on a tree-like model in the form of an oriented graph in which the nodes correspond to neurons, and ribs to inter-neural connections are developed in the article. The efficiency of the implementation of generalized algorithm is analyzed during identification of random time series based on NN taking into account the influence of algorithms for selection, formation of informative sets of training data, modified training of the network with adjustment of structural components parameters. A complex of software with identification modules are realized to predict complex random processes. The efficiency of synthesizing of algorithms for extracting and using knowledge, properties and features of non-stationary objects, generalizing the capabilities of NN, adjusting of structural components parameters is proved.
Keywords: non-stationary object, identification, data processing, random time series, parameter adjustment, neural network, training, multiparameter random process.
УДК 658.512.011
Актуальность темы. Эффективные идентификаторы нестационарных объектов, построенные с упрощенными вычислительными схемами на базисе НС в условиях недостаточных априорных сведений и неопределенности параметров удачно дополняют существующие методы анализа и обработки данных, основанных на применении статистических и динамических моделей, которым при оптимизации идентификации случайных временных рядов (СВР) свойственно использование высоко итеративных вычислительных схем на базисе дифференциальных, разностных, рекуррентных уравнений [1-3].
В связи с этим настоящая работа посвящена разработке методов совершенствования и развития традиционных вычислительных схем структурных компонентов и алгоритмов обучения НС для повышения качества идентификации и обработки данных при решении задач прогнозирования многопараметрических сложных случайных процессов.
Основные подходы к совершенствованию базовых схем компонентов НС. Важной задачей исследования является разработка методов и вычислительных схем структурных компонентов НС для получения эффективных инструментов идентификации и аппроксимации СВР, в которых в качестве базового элемента структурной и функциональной части НС рассматривается формальный нейрон.
Для этой цели искусственный нейрон представляется набором входных данных
Ху,Х2,...,Хп и вектором весовых коэффициентов нейронов И^, И2Ип , а также переменной у выхода НС [2].
Синапсы сети выражаются множителями, которые отражают силу весов связей между двумя нейронами в сумматоре и преобразователе. Сложение входных сигналов выполняется в сумматоре, предварительно помноженных на соответствующие веса.
Преобразователь реализует функции активации нейрона, т.е. функцию одного аргумента на выходе сумматора, математическая модель нейрона представляется как
п
у = Д5); 5 =1 И,Х,. (1)
I=1
Все нейроны сети соединены между собой синаптическими связями в определенную архитектуру.
Сигнал нейрона выходного слоя НС из (1) с трехслойной архитектурой запишется в виде:
У] = Г]а(^]Ш!х) - (2)
где Гj - коэффициент усиления, определяющий максимальные и минимальные значения выходного сигнала;
&(■) - функция активации;
^ - параметр, задающий «крутизну» функции активации;
Т Т
Wj = (в/, , Wj 2,..., м>п ) - настраиваемые синаптические веса /-го нейрона сети;
Х Х1 5 Х2 5***,Хп - вектор входных сигналов.
В качестве возможных функций активации нейрона, задавая ограничения на квадрате — 1 < и . < 1, — 1 < ^ < 1, исследованы различные активационные функции НС для подстановки в (2).
Конкретный вид функции активации зависит от параметра ^ . и соответствующим
выбором этого параметра можно добиться их идентичности. Это позволяет утверждать, что представленные функции активации упрощают процесс адаптации подбора адекватной модели и дает возможность в дальнейшем ввести унифицированную схему обучения формального нейрона для широкого класса задач обработки непрерывной по природе информации.
Проектирование рациональной архитектуры сети связано с решением задач определения числа слоев, нейронов в слоях, весовых коэффициентов сети по древовидной модели в виде ориентированного графа, в котором узлы соответствуют нейронам, а ребра межнейронным связям.
Зависимость сети с Ш входами и П выходами представляется как одномерный вектор, задаваемый в качестве вектора-столбца и в виде матрицы весов межнейронных связей
у = 0(Х) = Г (ШХ), (3)
где X = {Х;- : I = 1,...,ш} и У = {уj : ] = 1,...,п} - векторы соответственно входов и выходов сети;
Ш = {"Иу : I = 1,...,Ш,] = 1,...,п} - матрица весов межнейронных связей, в
которой элемент Иц соответствует весу связи I -го входного нейрона с ] -ым выходным;
F(•) - вектор переменной выходного слоя НС, значения которых зависят от вида активационной функции НС.
НС включает скрытый слой с l нейронами и выдает значения выходной переменной, изменение которой оценивается исходя из (3) как
Y = G( X ) = F (W(1) X(1)) = F (W(1) F (W(0) X)), (4)
где W(0) = (wf: i = \,...,m,j = 1,...,l}; W(1) = (wf :i = l,...,l, j = 1,...,n} -
матрицы весов межнейронных связей, соответственно для скрытого и выходного слоев.
Оптимизация выхода НС проводится на основе расчета и настройки весов межнейронных связей, результаты которых представляются в блок обучения НС на основе (4). Задача решена с
учетом воздействия постоянного вектора входных сигналов X при фиксированной функции активации нейронов.
Модифицированные вычислительные схемы обучения НС предполагают замену метода случайного перебора эвристическими алгоритмами поиска, в которых синтезированы методы поиска с отжигом, запретами, стохастического моделирования [3].
При этом эффективность методов оптимизации поиска повышается за счет извлечения и использования свойств данных и настройки весов межнейронных связей. Модифицированные вычислительные схемы обучения НС с настройкой межнейронных связей способствуют устранению возможного насыщения функций активации нейронов, снижению чувствительности алгоритма к несущественным изменениям выхода и повышению устойчивости сети к ошибкам типа неувязки между расчетным значением и значением характеристик модального примера.
Однако в этих условиях эффективность алгоритмов обучения НС зависит также от методов формирования представительного набора информативных данных, так как признаковое пространство нестационарного объекта при моделировании характеризуется вариациями статистических параметров СВР: коэффициентов автокорреляции, парной, взаимной корреляций, динамикой среднего значения и дисперсии, приводящими к неэквивалентности формируемых наборов обучающих данных при многокомпонентности структур сложных процессов.
Разработаны методические основы повышения качества идентификации и обработки данных нестационарных объектов на основе модифицированных вычислительных схем структурных компонентов и алгоритмов обучения НС.
Эффективность реализации обобщенного алгоритма идентификации СВР на основе НС проанализирована с учетом влияния алгоритмов отбора, формирования информативных наборов обучающих данных, модифицированного обучения сети с настройкой параметров его структурных компонентов.
Определено, что благодаря их применению достигается рациональный размер набора данных, используемых при идентификации, существенно уменьшаются временные и стоимостные затраты, повышается достоверность принятия альтернативных решений, а также точность обработки данных до требуемого уровня.
Заключение. Доказана эффективность синтеза алгоритмов извлечения и использования знаний, свойств и особенностей нестационарных объектов, обобщения возможностей НС, алгоритмов настройки параметров структурных компонентов, инструменты которых позволяют оптимизировать обработку данных и существенно снижают риски при прогнозировании в условиях априорной недостаточности и неопределенности в параметрах модели идентификации.
Список литературы / References
1. Финн В.К. Об интеллектуальном анализе данных // Новости Искусственного интеллекта, 2004. № 3. С. 3-18.
2. Джуманов О.И., Холмонов С.М. Оптимизация обучения нейросетевой системы обработки информации при распознавании и прогнозировании нестационарных объектов // 4-th International Conference on Application of Information and Communication Technologies, Tashkent. 12-14 October 2010. Section 5. IEEE. Tashkent, 2010. Р. 17-21.
3. Djumanov O.I. Adaptive designing for neuronetworking system of processing the data with non-stationary nature // Peer-reviewed & Open access journal "ATI - Applied Technologies & Innovations". Issue 1. April. 2011. Prague, 2011. Volume 4. P. 48-57.
К ВОПРОСУ ПРИМЕНЕНИЯ ДИСТАНЦИОННЫХ ОБРАЗОВАТЕЛЬНЫХ ТЕХНОЛОГИЙ В ВЫСШИХ УЧЕБНЫХ
ЗАВЕДЕНИЯХ
Абеуов Р.Р.1, Баширов А.В.2 Email: [email protected]
'Абеуов Роман Ринатович — магистрант; 2Баширов Александр Витальевич — кандидат технических наук, ведущий научный сотрудник, кафедра информационно-вычислительных систем, Научно-исследовательский институт экономических и правовых исследований Карагандинский экономический университет Казпотребсоюза, г. Караганда, Республика Казахстан
Аннотация: обсуждаются аспекты подготовки учебных заведений к возможностям использования интернет технологии в дистанционном обучении, записи и монтажа видеолекций для лучшего психологического восприятия лекционного материала учащимися. Рассматривается непосредственный подбор аппаратного и программного обеспечения для создания комфортного учебного процесса посредством связи интернет. Рассматривается психология восприятия и влияние цвета на человека. Использование правил кинематографа при создании видеолекций.
Ключевые слова: дистанционное обучение, видеолекция, видеоконференция, видеомонтаж, психология восприятия.
ON THE APPLICATION OF DISTANCE LEARNING TECHNOLOGIES
IN UNIVERSITIES Abeuov R.R.1, Bashirov A.V.2
'Abeuov Roman Rinatovich — Graduate Student; 2Bashirov Aleksandr Vitalevich — Candidate of Technical Sciences, Leading Researcher, RESEARCH INSTITUTE OF ECONOMICS AND LEGAL STUDIES; DEPARTMENT OF INFORMATION AND COMPUTING SYSTEMS, KARAGANDA ECONOMIC UNIVERSITY OFKAZPOTREBSOUZ, KARAGANDA, REPUBLIC OF KAZAKHSTAN
Abstract: discusses aspects of preparation of educational institutions to the possibilities of using Internet technology in distance education, record and edit video lectures for better psychological perception of lecture material by students. Considered direct selection of hardware and software to create a comfortable educational process through Internet connection. Discusses the psychology of perception and the influence of color on human. Using the rules of cinema in process of creating video lectures.
Keywords: distance education, videolecture, videoconference, videoediting, psychology of perception.
УДК 378.14
По историческим данным, дистанционное обучение как вид учебного процесса, зародилось в Европе еще в 18 веке, ученики и преподаватели обменивались учебным материалом посредством почты и доверенного лица, но называлось это «корреспондентское обучение» [1]. В результате прогресса технологий в дистанционном образовании стали использоваться телеграфы и телефоны. Новым этапом в дистанционном образовании считается время создания радио и телевидения, когда передача сигнала стала почти мгновенной. Аудитория в тот момент возросла в сотни раз. Ученики могли слушать преподавателя на расстоянии посредством радиосвязи, а также видеть при помощи телевидения. Но процесс обучения был односторонним, так как не было обратной связи с преподавателем. Эта проблема решалась отправкой писем с вопросами лектору, и новый радиосигнал или телевизионная передача уже содержали ответы на вопросы предыдущего эфира.