ИНЖЕНЕРНАЯ ФИЗИКА
Распознавание видов цифровой модуляции радиосигналов с использованием нейронных сетей
С. С. Аджемов, М. В. Терешонокa, Д. С. Чиров
Московский технический университет связи и информатики.
Россия, 111024, Москва, ул. Авиамоторная, д. 8а.
E-mail: a tereshonok@srd.mtuci.ru Статья поступила 27.08.2014, подписана в печать 10.11.2014.
Представлены результаты применения искусственных нейронных сетей в задаче распознавания видов цифровой модуляции радиосигналов. В качестве признаков распознавания предлагается использовать кумулянты 2 и 4-го порядков, вычисляемых по значениям зарегистрированных отсчетов сигнала. Выбор состава информативных признаков (в данном случае набора кумулянтов) и формирование решающих правил осуществляется экспертным путем исходя из набора видов модуляции сигналов, необходимых для распознавания. Исследования в данной области показывают, что формирование правил различения (классификатора) может осуществляться с использованием различных методов интеллектуального анализа, в частности искусственных нейронных сетей. Использование многослойного персептрона в качестве устройства классификации (распознавания) позволяет автоматизировать процесс построения решающих правил для распознавания видов цифровой модуляции радиосигналов. Предлагаемый метод обеспечивает достаточно высокую (0.7-0.99) вероятность правильного распознавания сигналов с частотной (FSK), фазовой (PSK), амплитудной (ASK) и квадратурной фазовой (QAM) манипуляцией в условиях отсутствия синхронизации приемной системы по несущей частоте.
Ключевые слова: искусственные нейронные сети, распознавание, цифровая модуляция, радиосигнал, кумулянт.
УДК: 621.376; 004.931; 519.67. PACS: 07.05.Mh, 84.35.+1, 84.40.Ua.
Введение
Интеллектуальные методы (ИМ) решения различных задач распознавания широко применяются в различных отраслях науки и техники. В частности, использование в задачах распознавания искусственных нейронных сетей различных типов приобретает все большую распространенность [1, 2]. Тем не менее в настоящий момент в задаче распознавания видов модуляции сигналов — а решение этой задачи будет важным шагом на пути к созданию когнитивных радиосистем — основной упор современные исследователи делают на классический спектральный и статистический анализ [3-10], а нейросетевые методы используются ограниченно [11, 12, 16, 17]. Кроме того, методы, описанные в [11] и [12], требуют точной опорной и тактовой синхронизации исследуемых сигналов, так как используют в качестве распознаваемого образа форму сигнального созвездия.
1. Постановка задачи
Идея использования интеллектуальных методов анализа данных в задаче распознавания видов модуляции радиосигналов заключается в нахождении информативных признаков распознавания и построения базы знаний (логических правил, деревьев решений, нейронных сетей) по результатам анализа этих признаков.
Одним из перспективных подходов к распознаванию видов цифровой модуляции представляется метод распознавания с использованием статистических характе-
ристик высокого порядка, вычисляемых непосредственно по последовательностям сигнальных отсчетов. Суть данного метода заключается в использовании в качестве информативных признаков распознавания сигналов с различными видами цифровой модуляции моментов и кумулянтов высокого порядка, вычисляемых по зарегистрированным значениям отсчетов квадратурных составляющих комплексной огибающей исследуемого радиосигнала. Поставленная задача решается в предположении квазистационарности анализируемых радиосигналов в смысле неизменности их вида модуляции на рассматриваемом временном отрезке. В случае изменения вида модуляции сигнала со временем предлагаемый метод следует использовать отдельно для каждого интервала квазистационарности сигнала с последующей обработкой результатов с помощью методов искусственного интеллекта.
В работах [6, 7] показано, что формулировка правил распознавания различных видов цифровой модуляции радиосигналов по значениям кумулянтов возможна, однако получаемые экспертным способом правила распознавания сравнительно грубы и не обеспечивают достаточно широкий охват видов цифровой модуляции. В то же время данные исследования [6, 7], представленные на рис. 1, показали, что кумулянты, как признаки распознавания, являются устойчивыми при уровнях шумов приемника от 8 дБ. Ожидается, что использование ней-росетевых методов распознавания позволит избавиться от недостатков предложенных ранее методов распознавания видов цифровой модуляции радиосигналов.
Сигнал/Шум, дБ
Рис. 1. Зависимость вероятности ошибки распознавания сигналов РЗК-2,4,8 от отношения сигнал/шум приемника [6, 7]
2. Нейросетевая система распознавания
Формирование правил различения (классификатора) может осуществляться с использованием различных методов интеллектуального анализа, в частности искусственных нейронных сетей (ИНС). Высокую эффективность построения разделяющих поверхностей в многомерном случае показывает такой тип ИНС, как многослойный персептрон. В соответствии со следствием из теоремы Колмогорова-Арнольда-Хехт-Ниль-сена непрерывную однозначную многомерную функцию нескольких переменных можно представить с помощью двухслойной нейронной сети с прямыми полными связями фиксированной размерности [13]. Схема многослойного персептрона приведена на рис. 2.
л Нейроны
Связи
Рис. 2. Схема многослойного персептрона
Когда в сети только один слой, алгоритм ее обучения с учителем довольно очевиден, так как правильные выходные состояния нейронов единственного слоя заведомо известны, и подстройка синаптических связей идет в направлении, минимизирующем ошибку на выходе сети. В этой сети каждый элемент строит взвешенную сумму своих входов с поправкой в виде слагаемого, затем пропускает эту величину активации через передаточную функцию, и таким образом получается выходное значение этого элемента.
Распространение сигналов ошибки происходит от выходов ИНС к ее входам, в направлении, обратном прямому распространению сигналов в обычном режиме работы. Этот алгоритм обучения ИНС получил название процедуры обратного распространения (еггог Ьаскргора§а1:юп). Задачу обучения нейронной сети можно рассматривать как задачу минимизации функции ошибки Е(т), где т — совокупность весовых коэффициентов сети.
Функция ошибки нейронной сети определяется как
е = 2 -о' )2,
(1)
где — целевое, а ог — фактическое значение сигнала на выходе г-го нейрона выходного слоя сети. Представим частную производную функции ошибки по весовому коэффициенту т-ц связи между | -м нейроном последнего скрытого слоя и г-м нейроном выходного слоя в следующем виде:
дЕ дЕ дог дхг
дт ц
(2)
^ до- дх- дтц
Здесь хг и ог — значения сигнала на входе и выходе -го нейрона соответственно. Чтобы найти зависимость функции ошибки от значений весовых коэффициентов тцг в более явном виде, проведем несложные преобразования. Обозначим как 6г частную производную функции ошибки Е по значению сигнала на входе -го нейрона х :
6■ = дЕ = - дЕ до. (3)
' дхг дог дхг' Поскольку Е = 1 — ог)2, то
г
I = «>• (4)
Так как ог = /(хг), где /(х) — активационная функция нейрона, то
щ=' '(х-). ©
Значение сигнала на входе -го нейрона определяется как хг = ^ оцтцг + Вг (далее в выражениях сме-
I
щения Вг мы опускаем, чтобы добиться компактности и ясности изложения), где оц — значение сигнала на выходе | -го нейрона предыдущего слоя, тцг — весовой коэффициент связи между г-м и |-м нейронами. Следовательно,
^ = °. (6) Подставив соотношения (4), (5) и (6) в (2), получим
дЕ
дтц-
= -(¿г - о■)'(х-)хц.
Для г-го нейрона выходного слоя
6г = -(¿г - о-)/'(х-). Для -го нейрона последнего скрытого слоя
6г = / 6'т'1,
(7)
(8) (9)
где ] — номера нейронов выходного слоя. Величина 61 для нейронов остальных скрытых слоев вычисляется по формуле (8), в которой / — номера нейронов следующего скрытого слоя.
При обучении нейронной сети методом обратного распространения ошибки обычно используют сигмои-дальную функцию активации нейрона
I (х) = Т+—^. (10)
1 + е-х
Производная этой функции равна
f '(x) =
1
(1 +e-x)2
1 + e-
fi - т-Ч
V 1 - e-xJ
= [ (х)(1 - [ (х)). (11)
Подставив выражение (10) в формулу (7), получаем простое аналитическое выражение для частной производной функции ошибки по каждому из весов нейронной сети:
дЕ dwji
= -(ti - Oi)f X )(1 - f (Xi))Xj.
(12)
Обучение ИНС заключается в последовательном предъявлении образцов из обучающей выборки, вычислении функции ошибки и коррекции весов нейронной сети . Целевая функция вычисляется как суммарная ошибка за эпоху, т. е.
1
N
Е(т) = (у<П№) - йПУ,
р=1 п=1
где уп(т) — выход п -го нейрона выходного слоя для р-го объекта обучающей выборки, ^ — целевое значение этого выхода, Р — число объектов обучающей выборки, N — число нейронов выходного слоя. Градиент целевой функции УЕ (т) на каждой эпохе рассчитывается как сумма градиентов функций ошибки для всех образцов из обучающей выборки. Градиент функции ошибки для каждого образца вычисляется с использованием алгоритма обратного распространения ошибки.
Для коррекции весов представляется целесообразным использовать алгоритм ЯРЯОР, предложенный в 1992 г. М. Ридмиллером и Х. Брауном [14]. В градиентных алгоритмах обучения нейронных сетей весовые коэффициенты связей корректируются в зависимости от величин частных производных целевой функции по этим весовым коэффициентам. Отличие алгоритма ЯРЯОР состоит в том, что при его использовании коррекция весов происходит только с учетом знаков соответствующих частных производных целевой функции. В частности, коррекция весов на эпохе с номером I производится следующим образом:
"<+1 = + Ди¡1,
w
(13)
где
wt = < Д
t dEt '' dwi ' dEt <0 dwi dEt
(14)
dwi
= 0.
Величины Д* здесь вычисляются по следующим формулам:
Д =
Г]
Д
t-1
Д
Д
t-1
t-1
dEt-1 dEt о
dwi dwi
dEt-1 dEt о
dwi dwi
(15)
dE
t-1
dEt
dwi dwi
= 0.
Здесь мы полагаем, что 0 < п- <1 и п+ > 1.
Таким образом, при изменении знака I-й частной производной величина коррекции соответствующего веса уменьшается, а при сохранении знака — увеличивается. Подобная адаптация позволяет более точно отслеживать рельеф поверхности целевой функции, чем это возможно с использованием градиентных методов, что приводит к более быстрой сходимости алгоритма и влечет снижение вычислительных затрат. Отметим, что вычислительная сложность многослойного персеп-трона в режиме обучения может быть оценена как О(N2), а в режиме распознавания — ОN). Обучение проводится только в режиме аппаратной настройки, а в режиме штатной работы проводится только распознавание. Таким образом, предлагаемый метод относится к классу Р по вычислительной сложности.
3. Результаты модельного эксперимента
Исходя из вышесказанного нейросетевое распознавание видов модуляции радиосигналов с использованием кумулянтов и моментов можно реализовать, начиная с формирования обучающей выборки типа «вид модуляции сигнала — значения кумулянтов сигнала», Т(1) ^ Ск, где Т(1) — ,(0
j , 1де j — тип модуляции i-го сигнала;
Cjk — набор значений кумулянтов порядка jk для i -го сигнала. С использованием сформированной выборки производится обучение многослойного персептрона. Полученный персептрон используется для распознавания типов модуляции новых зарегистрированных сигналов.
В качестве примера ниже представлены результаты применения трехслойного персептрона для различения сигналов с частотной (FSK), амплитудной (ASK), фазовой (PSK-2,4,8) и квадратурной фазовой (QAM-16) манипуляцией. Синхронизация по несущей частоте сигнала отсутствует, отношение сигнал/шум ОСШ = 20 дБ. Различение проводилось по значениям кумулянтов C20, C22 и C40:
1 N 1 N
C20 = ^Еy2(n), C22 = |y(n)|2,
n=1
n=1
N
С40 = У4(п) - 3С|о.
п= 1
Количество нейронов в скрытых слоях — 14, функция активации — сигмоида, количество циклов обучения — 500, объем обучающей выборки — 930 сигналов. В результате обучения и распознавания обучающей выборки получены следующие результаты: корректно распознано — 864 образца; некорректно распознано — 66; доля корректно распознанных образцов — 92.9 %. Данные распознавания представлены в табл. 1.
п
—X
e
Таблица 1
Результаты распознавания обучающей выборки
Априорный класс (вид цифровой модуляции сигнала) FSK-2 ASK PSK-2 PSK-4 PSK-8 QAM-16
Всего объектов, шт. 163 180 162 145 112 168
Правильно распознано, шт. 162 179 162 104 110 147
Правильно распознано, % 99.4 99.4 100 71.7 98.2 87.5
Неправильно распознано, шт. 1 1 0 41 2 21
FSK 162 0 0 16 2 11
ASK 0 179 0 0 0 0
PSK-2 0 0 162 0 0 0
PSK-4 0 0 0 104 0 2
PSK-8 0 0 0 24 110 8
QAM-16 1 1 0 1 0 147
Таблица 2
Результаты распознавания контрольной выборки № 1
Априорный класс FSK-2 ASK PSK-2 PSK-4 PSK-8 QAM-16
Всего объектов, шт. 184 187 162 179 141 165
Правильно распознано, шт. 183 185 162 122 139 141
Правильно распознано, %. 99.5 98.9 100 68.1 98.6 85.5
Неправильно распознано, шт. 1 2 0 57 2 24
FSK 183 0 0 29 0 11
ASK 0 185 0 0 0 0
PSK-2 0 0 162 0 0 0
PSK-4 0 0 0 122 2 1
PSK-8 0 0 0 26 139 12
QAM-16 1 2 0 2 0 141
Таблица 3
Результаты распознавания контрольной выборки № 2
Априорный класс FSK-2 ASK PSK-2 PSK-4 PSK-8 QAM-16
Всего объектов, шт. 151 149 157 190 113 150
Правильно распознано, шт. 150 146 156 135 110 131
Правильно распознано, %. 99.3 97.9 99.4 71.1 97.3 87.3
Неправильно распознано, шт. 1 3 1 55 3 19
FSK 150 0 0 26 0 10
ASK 0 146 0 1 0 0
PSK-2 0 0 156 0 0 0
PSK-4 0 0 1 135 1 4
PSK-8 0 0 0 27 110 5
QAM-16 1 3 0 1 2 131
В табл. 2 и 3 представлены результаты распозна- результаты распознавания обучающей и контрольных вания двух контрольных выборок сигналов (данные выборок. Анализ представленных в табл. 2, 3 результа-
сигналы не использовались при обучении МП) обу- тов позволяет сделать вывод, что используемый метод ченного персептрона. В табл. 4 приведены обобщенные обеспечивает вероятность правильного распознавания
Таблица 4
Обобщенные результаты распознавания обучающей и контрольных выборок
Наименование выборки Количество образцов, шт. Корректно распознано, шт. Некорректно распознано, шт. Доля корректно распознанных, %
Обучающая 930 864 66 92.9
Контрольная № 1 1018 932 86 91.5
Контрольная №2 910 828 82 90.9
модуляций сигналов: FSK-2 — 0.99, ASK — 0.98, PSK-2 - 0.99, PSK-4 - 0.7, PSK-8 - 0.98, QAM-16 — 0.86 (типичное изменение относительной ошибки распознавания с ростом числа прошедших эпох обучения представлено на рис. 3). Невысокая вероятность распознавания сигналов PSK-4 объясняется достаточно сильным пересечением законов распределения используемых признаков у сигналов PSK-4 и PSK-8. В случае если сигналы PSK-8 не предусмотрены в системе связи, вероятность правильного распознавания PSK-4 составляет — 0.83. Для устойчивого разделения сигналов PSK-4 и PSK-8 целесообразно использовать дополнительные алгоритмы распознавания типа фазовой манипуляции, например [11, 15], обеспечивающие вероятность правильного распознавания PSK-4 и PSK-8 не ниже 0.9.
Номер эпохи обучения
Рис. 3. Изменение ошибки распознавания с ростом номера эпохи обучения
Заключение
Предложен метод распознавания видов модуляции радиосигналов с использованием кумулянтов высокого порядка, использующий в качестве устройства принятия решения многослойный персептрон. Проведенные эксперименты подтвердили высокую эффективность разработанного метода.
Предложенный метод не требует установления точной синхронизации по несущей частоте, что позволяет использовать его в системах связи с подвиж-
ными объектами. Также предложенный метод демонстрирует достаточно широкий охват видов цифровой модуляции сигналов, использующихся в современных системах связи УКВ-диапазона. Продемонстрированные свойства предложенного метода позволяют использовать его в программном обеспечении модулей адаптации в устройствах когнитивного радио.
Список литературы
1. Basu J.K., Bhattacharyya D., Kim T. // Intern. J. of Software Engineering and Its Applications. 2010. 4, N 2. P. 23.
2. Bishop C. M. Neural Networks for Pattern Recognition. Oxford, 1995.
3. Степанов А.В., Матвеев С.А. Методы компьютерной обработки сигналов систем радиосвязи. М., 2003.
4. Swami A., Sadler B. // IEEE Trans. Commun. 2000. 48, N 3. P.'416.
5. Hatzichristos G., Fargues M.P. // Electrical Engineering MSEE Thesis. Naval Postgraduate School, Monterey, CA, 2001. P. 1494.
6. Young A.F. Classification of Digital Modulation Types in Multipath Environments: Master's Thesis. Naval Postgraduate School, 2008.
7. Pedzisz M., Mansour A. // Digital Signal Processing 15. 2005. P. 295. th
8. Ebrahimzadeh A., Alireza Seyedin S. // Proc. of the 5th WSEAS Intern. Conf. on Telecommunications and Informatics. Istanbul, Turkey. 2006. P. 409.
9. Kubankova A. // WSEAS Transactions on Communications. 2009. 8, N 7. P. 628.
10. Chaithanya V., Reddy V.U. // Proc. of the 8th Intern. Conf. on Signal Processing and Communications (IEEE-SPCOM 2010). Indian Institute of Science, Bangalore, 18-21 July 2010.
11. Mobasseri Bijan G. // Signal processing. 2000. 80. P. 251.
12. Rondeau T.W., Le B., Rieser C.J., Bostian C.W. // Software Defined Radio Forum Technical Conference. 2004. P. 3.
13. Hecht-Nielsen R. // IEEE First Annual Int. Conf. on Neural Networks. San Diego, 1987. 3. P. 11.
14. Riedmiller M., Braun H. A Direct Adaptive Method for Faster Backpropagation Learning: The RPROP Algorithm. San Francisco, 1993.
15. Аджемов С.С., Стогов А.А., Терешонок М.В. и др. // T-Comm — Телекоммуникации и Транспорт. 2011. 11. С. 4.
16. Popoola J.J. // J. of Engineering Science and Technology. 2014. 9, N 2. P. 273.
17. Li Ch, Liu J. // TELKOMNIKA. 2014. 12, N 2. P. 1343.
Type recognition of the digital modulation of radio signals using neural networks S. S. Adjemov, M. V. Tereshonoka, D. S. Chirov
Moscow Technical University of Communications and Informatics (MTUCI), Moscow 111024, Russia. E-mail: a tereshonok@srd.mtuci.ru.
The results of the application of artificial neural networks for the problem of type recognition of the digital modulation of radio signals are presented. The cumulants of the second and fourth orders, as calculated according to the values of recorded signal samples, are proposed as a recognition sign. The choice of informative features (in this case, a set of cumulants) and the formation of the decision rules are carried out in an expert way from a set of types of signal modulation that are required for recognition. Studies in this field show that the formation of distinction rules (classifiers) may be carried out using various intelligent analytical tools, such as artificial neural networks. The use of a multilayer perceptron as a classification (recognition) device enables one to automate the process of the formation of the decision rules for type recognition of the digital modulation of radio signals. This method provides a sufficiently high (0.7-0.99) probability of the correct recognition of signals with frequency (FSK), phase (PSK), amplitude (ASK), and quadrature phase (QAM) shift keying in the absence of synchronization of the receiving system at the carrier frequency.
Keywords: artificial neural networks, pattern recognition, digital modulation, radio signal, cumulant. PACS: 07.05.Mh, 84.35.+i, 84.40.Ua. Received 27 August 2014.
English version: Moscow University Physics Bulletin 1(2015). Сведения об авторах
1. Аджемов Сергей Сергеевич — доктор техн. наук, профессор, нач. НИО МТУСИ; тел.: (495) 957-78-44, e-mail: adjemov@srd.mtuci.ru.
2. Терешонок Максим Валерьевич — канд. техн. наук, зав. НИЛ МТУСИ; тел.: (495) 957-78-44, e-mail: tereshonok@srd.mtuci.ru.
3. Чиров Денис Сергеевич — доктор техн. наук, доцент, вед. науч. сотр. МТУСИ; тел.: (495) 957-77-52, e-mail: chirov@srd.mtuci.ru.