《电子技术应用》
您所在的位置:首页 > 通信与网络 > 设计应用 > 深度学习在无线电信号调制识别中的应用综述
深度学习在无线电信号调制识别中的应用综述
2019年电子技术应用第5期
袁冰清,王岩松,郑柳刚
国家无线电监测中心上海监测站,上海201419
摘要: 无线电信号的调制识别在无线电监测及频谱管理中有着至关重要的作用。人工神经网络中的深度学习网络由于具有强大的表征学习能力,可以自动从原始数据中提取出各种复杂的特征,因此,探索基于深度学习的无线电信号调制识别是目前无线电监测领域主要的发展趋势之一。介绍了深度学习在无线电信号调制识别中的一些应用成果及存在的问题。结合工作的实际需求,对深度学习在无线电信号调制识别中提出了一些展望,如进一步提高识别范围和在低信噪比下的识别率;寻求新型深度学习调制识别混合架构。
中图分类号: TN911;TP391
文献标识码: A
DOI:10.16157/j.issn.0258-7998.183300
中文引用格式: 袁冰清,王岩松,郑柳刚. 深度学习在无线电信号调制识别中的应用综述[J].电子技术应用,2019,45(5):1-4.
英文引用格式: Yuan Bingqing,Wang Yansong,Zheng Liugang. A survey of deep learning applied to radio signal modulation recognition[J]. Application of Electronic Technique,2019,45(5):1-4.
A survey of deep learning applied to radio signal modulation recognition
Yuan Bingqing,Wang Yansong,Zheng Liugang
Shanghai Station of State Radio Monitoring Centre,Shanghai 201419,China
Abstract: Modulation recognition of radio signals plays a vital role in radio monitoring and spectrum management. As the deep learning network in artificial neural network has the powerful ability of representation learning which can automatically extract various complex features from the original data, exploring the modulation identification of radio signals based on deep learning is one of the main development trends in the field of radio monitoring. This paper introduces some application results and existing problems of deep learning in radio signal modulation recognition. Combined with the actual needs of the work, this review puts forward some ideas for deep learning in the modulation recognition of radio signals, such as further improving the recognition range and the recognition accuracy, especially at low SNR; seeking some new deep learning hybrid architecture for radio signal modulation recognition.
Key words : modulation recognition;deep learning;convolution neural network;recurrent neural network

0 引言

    无线电信号的调制识别是频谱监测过程中的重要组成部分,也是难点之一。随着现代无线电通信技术的发展与应用,无线电信号特征与电磁环境变得更加复杂,因此,无线电信号更容易受到外界信号的干扰,监测人员须对监测到的信号进行调制分析、频谱波形比较等才能判断信号的属性,并与正常登记的台站比对,确定是否为干扰信号,为进一步抗干扰做铺垫。然而这种传统的人工分析判断,不仅效率低下,而且存在诸多不可靠因素,并且能识别的信号类型也有限。为了提高无线电信号的调制识别效率和准确率,无线电信号的自动调制识别的研究势在必行。

    目前,无线电信号调制自动识别方法从原理上看主要有两大类:一类是基于贝叶斯决策论的方法;一类是基于统计机器学习理论的方法[1-3]。贝叶斯决策论的实现方法本质上可归结为一个多重假设检验的问题,虽然理论完备,但是通用性较差,实现复杂度很高,而识别率却一般,特别是在电磁环境复杂、低信噪比条件下,识别率会急剧下降[3]。随着人工智能(Artificial Intelligence,AI)的兴起,基于人工神经网络(Artificial Neural Networks,ANNs)的统计机器学习理论的信号调制识别渐渐成为信号调制识别领域的主流研究方向。其优势在于:技术思路简单清晰,算法切实可行,实现流程简单明了,性能优良,适用于通用的模拟和数字信号识别。另外,基于人工神经网络的调制识别分类器具有很好的鲁棒性,可以自适应电磁环境的变化,即使在较低信噪比条件下仍然可以很好完成无线电信号调制识别任务。

1 基于人工神经网络的信号调制识别

    基于人工神经网络的信号调制识别的通用流程如图1所示,包括信号的预处理和特征提取,信号分类器的训练学习,待分类信号的识别[2]

zs1-t1.gif

    其中,如何提取合适的信号特征来区分不同的调制模式对识别效果有重要影响,一般特征提取方法有:基于信号瞬时特征、基于小波变换、基于高阶累积量、基于星座图、基于循环谱等。在搭建神经网络架构方面,大多都是构建BP(Back Propagation,BP)神经网络或者传统的多层感知器(Multi-Layer Perceptrons,MLPs)来实现自动识别。最早可以追溯到1996年AZZOUZ E E、NANDI A K等提取信号的瞬时值为特征向量,利用人工神经网络作为分类器,完成多种模拟数字信号的调制识别[4],指出ANN架构优于决策论架构的原因在于:决策论只能同时考虑信号的一个特征,而ANN架构可以同时考虑信号所有的特征,导致关键特征的时序性不影响信号调制类型的判断。2009年HASSAN K基于小波变化理论利用多层神经网络对不同的M进制移位键控类型(M-ASK,M-FSK,M-PSK等)的信号进行调制识别[5];2010年Qian Lanjun基于循环谱的差异设计的BP神经网络调制分类器[6],但是对于16QAM与64QAM区分效果不太理想;2015年ADZHEMOV S S基于信号的二阶及四阶统计量设计的MLPs两层神经网络调制分类器[7],对FSK、PSK、ASK、QAM的识别率高达0.7~0.99,但是对PSK-4信号识别率仅仅为0.7。国内文献显示基于BP神经网络或者多层感知器(MLPs)的信号分类系统,对某一类的数字信号的自动识别效果也很好[8],特别是在信噪比SNR≥10时,如2007年电子科技大学的潘明从信号的瞬时幅度、瞬时相位、瞬时频率特征中提取5种特征参数,设计了一种分层式结构的BP神经网络分类器对2ASK、4ASK、2FSK、4FSK、BPSK、QPSK 6种调制信号进行分类,采用动量梯度算法分类器的正确识别率达到98%以上(SNR>10 dB时)[3,9];此外,基于人工神经网络对某一特定波段内的信号类型的识别也是很好的,如2015年于成龙基于BP神经网络利用偏差权重法的特征提取方法对C波段无线电信号分类识别[10]。但是以上设计的神经网络模型都是属于浅层神经网络分类识别器范畴[11],设计者需要从原始的信号采样数据中人工设计和提取特征,用于优化网络的输入,因此最终模型识别的准确率很大部分取决于信号特征这部分,这要求特征设计者具备良好通信和信号领域的专业知识 。如果一旦选择的分类器不合适,那么就可能造成分类效果极差,也就是说,基于人为的特征提取的方法,泛化能力弱。另外,基于一般ANN的识别分类器,对全波段的所有类型的信号识别率有待提高。因此,需要一种神经网络架构,弱化前期的特征提取部分而达到自动识别的功能,并且提高所有类型的信号识别率。因此,有必要找到一种更加鲁棒和有效的方法,基于深度学习的深度神经网络架构的信号调制识别系统应运而生。

2 深度学习神经网络

2.1 深度学习的起源与主要思想

    2006年,HINTON G E等人提出深度信念网络[12](Deep Belief Network,DBN)及其相应的非监督贪心逐层训练算法,解决了深层结构相关的优化难题,并以此引入了深度学习的概念。如图2所示,传统的ANN的浅层结构(即通常只包含1层或2层)直接将原始输入信号或特征转换到待求解问题的特征空间中,因而对复杂函数的表示能力有限。

zs1-t2.gif

    而深度学习可通过学习一种深层非线性网络结构,实现复杂函数逼近,本质上是构建含有多层隐层的机器学习架构模型[13],将特征和分类器结合到一起,通过大规模数据进行训练学习大量更具代表性的特征信息,减少了手工设计特征的巨大工作量。因此,深度学习是一种可以自动地学习特征的方法。 

2.2 深度学习主要的两个模型

    目前,深度学习算法广泛应用在计算机视觉和语音识别等领域。卷积神经网络循环神经网络是其中最典型的模型。

2.2.1 卷积神经网络

    卷积神经网络(Convolution Neural Network,CNN)最早由LECUN Y提出并应用在手写字体识别上(MINST),2012年,HINTON G E课题组构建的CNN网络AlexNet参加ImageNet图像识别比赛一举夺得冠而吸引了众多研究者对深度学习的注意与研究热情,随后各种更多层的深度神经网络结构如GoogleNet、Residual Net被相继发明。

    卷积神经网络的结构如图3所示,包含卷积层、池化层、全连接层[14-15]

zs1-t3.gif

    卷积层是CNN的核心,在卷积层中,每个神经元看做一个滤波器(filter)或内核(kernel),具有小的视觉感受野,共享权值。一组内核对层(layer l)的输入出数据进行卷积(即计算内核与输入数据之间的点积),对应的输出称之为特征图,用于后一层即池化层(layer l+1)的输入数据。如果标记dl[x,y,c]为三维数据中某一点的数据,标记Kl为卷积层的某一个卷积核,该卷积核表征了一个四维的数据[kx,ky,cl,cl+1],且0≤kx≤Kx-1,0≤ky≤Ky-1,卷积层的输出数据dl+1[x,y,c]与各卷积核和输入数据的关系可表达为式(1)[14]

     zs1-gs1.gif

    池化层又称下采样,它的作用是减少训练参数的数量并降低卷积层输出的特征向量的维度,同时保留有用特征信息。最常见的两种池化层的形式:最大池化,选取指定区域内最大的一个数来代表正片区域;均值池化,选取指定区域内数值的平均值来代表整片区域。

    全连接层的工作原理与一般的浅层神经网络学习很类似,只需把池化层输出的张量重新排布成向量,乘上权重矩阵,加上偏置值,然后对其使用ReLU激活函数,之后用梯度下降法优化网络参数即可。

2.2.2 循环神经网络

    循环神经网络(Recurrent Neural Networks ,RNNs)的结构如图4所示,RNN与各层按单一方向相连接的基本前向全连接神经网络相比,多了一层从前一隐层输出反馈到当前输入的循环层,因此,RNN表现出了在时间维度上的深度结构特性。它的深度是时间的长度按时间序列展开来看,就是当前隐藏层的输出值不仅与当前的输入值有关,还取决于上一次隐藏层的值。对于给定的输入序列X=(x1,…,xT),RNN通过式(2)、式(3)循环迭代计算从t=1到t=T时刻,隐层的矢量输出序列H=(h1,…,hT)和输出层的矢量序列Y=(y1,…,yT)[15]

    zs1-gs2-3.gif

式中,Wxh、Why、Whh分别代表了输入层与隐层、输出层与隐层、隐层之间的权重矩阵,bh和by分别表征了隐层和输出层的偏置向量,σ为隐层的激活函数,一般选为sigmoid函数。循环神经网络的训练算法是BP算法的变体BPTT(Back Propagation Trough Time)。在实践中,为了更好解决长时的依赖问题,通常使用一种改进的循环神经网络如长短时记忆网络(Long Short Term Memory Network,LSTM)及其变体GRU(Gated Recurrent Unit)。

zs1-t4.gif

3 基于深度学习的无线电信号调制识别的研究现状

    目前深度学习在无线电信号调制识别的研究中主要是基于CNN及LSTM架构。最早在深度学习网络信号调制识别分类器中,特别是在CNN分类器中,一般根据CNN对图片识别的原理,对接收到的信号进行预处理,生成循环谱图或者星座图[16]等,并将生成的图形作为CNN网络的输入,通过卷积层和子采样层交替进行对循环谱图或星座图的特征提取并完成自动识别。其中利用信号的循环谱特征识别方法是早前比较受欢迎的识别方法,因为每一个调制信号的循环谱都是不一样的,所以可以根据信号的循环谱中峰值个数排列方式等特点来对不同的调制信号进行识别[17-18]。同时因为谱相关函数对噪声的抑制能力很强,即使在低信噪比的情况下,依然能够检测出信号的类型。这些方法本质也需要特征提取,并且需要对信号进行预处理,形成图片模式,再通过卷积神经网络自动学习图片的特征,进而对原始信号进行分类。而在2016年O′SHEA T J提出了利用CNNs的框架对通信信号中11种调制信号进行自动调制识别[19],并且是对接收信号的原始采集数据进行自动学习分类,相比于传统的机器学习算法,识别率有了很大的提升。O′SHEA T J提出的调制识别分类器的模型是一个四层的卷积神经网络,两个卷积层和两个全连接层,前三层使用ReLU函数作为激活函数,在最后的输出层使用SoftMax激活函数,经过最后一层SoftMax激活函数的计算,得到概率最大的输出即为当前数据的分类结果。

    后续研究发现,LSTM模型中隐含层中的节点保留了信号的动态时域特性[20],因此,在目前流行的调制识别分类器中,结合了CNN和LSTM的结构,即一般在卷积层与全连接层中间插入一层LSTM层,在同等条件下,这种混合结构的分类器的识别率要高于单一的CNN模型。

    综合国内外各种文献发现,基于深度学习的信号调制识别模型的识别率随着信噪比的减小而降低,一般在10 dB以上信噪比识别率达到90%,0 dB以上信噪比条件下识别率最高能达到80%,但是一般0 dB以下信噪比的识别率一般不到50%。因此,除了结合CNN与LSTM的优点,搭建一种混合神经网络架构,提高0 dB以下信噪比的信号识别率之外,进一步的工作应该侧重于设计新型的架构,比如结合CNN与GRU的架构,或者通过新颖的训练方法来达到省事省力并且高效的识别率。

4 结论

    本文主要介绍了深度学习在无线电信号调制识别中的应用。由于基于人工神经网络的信号调制识别没有完善明确统一的理论,特别是基于深度学习神经网络模型更是没有统一明确的理论,而处于探索摸索的阶段。因此综合以上发现及结合无线电监测工作,未来深度学习在无线电信号调制识别中的应用可以发展提升的地方有以下几个方面:提高低信噪比信号的调制识别率,特别是信噪比0 dB以下信号的识别率;对于CNN-LSTM混合架构,在不降低识别率的条件下,探索新的训练方法,减少模型参数,达到省力而有效的自动学习方法;探索CNN-GUR网络模型,对某一段波段(如短波、超短波、C波段等)内所有类型信号的自动识别并保证模型的泛化性;在特定的业务频段,如广播业务频段,深度利用RNN-HMM混合声学模型对整个无线电频段内可能的非法发射的广播进行自动识别。

参考文献

[1] 杨敏,王金庭,朱静.一种PSK/QAM数字调制方式识别方法[J].电子技术应用,2013,41(11):11-13.

[2] 潘明.基于神经网络的软件无线电信号调制识别[D].成都:电子科技大学,2007.

[3] 周江.基于神经网络的通信信号调制识别研究及实现[D].成都:电子科技大学,2018.

[4] AZZOUZ E E,NANDI A K.Modulation recognition using artificial neural networks[J].Signal Processing,1996,56(2):165-175.

[5] HASSAN K,DAYOUB,HAMOUDA H,et al.Automatic modulation recognition using wavelet transform and neural network[C].IEEE International Conference on Intelligent Transport Systems Telecommunications,2010.

[6] QIAN L J,ZHU C Y.Modulation classification based on cyclic spectral features and neural network[C].IEEE International Congress on Image & Signal Processing,2010.

[7] ADZHEMOV S S,TERESHONOK M V,CHIROW D S.Type recognition of the digital modulation of radio signals using neural networks[J].Engineering Physics,2015,70(1):23-28.

[8] 冯涛.基于人工神经网络的通信信号分类识别[J].Radio Engineering,2006,36(6):24-26.

[9] 王康利,谢建菲,赵兰华.基于神经网络的软件无线电信号的调制识别[J].计算机测量与控制,2004,12(9):877-894.

[10] 于成龙,赵宝江.基于BP神经网络的C波段无线电信号分类识别[J].牡丹江师范学院学报,2015(2):21-22.

[11] 李佳宸.基于深度学习的数字调制信号识别方法研究[D].哈尔滨:哈尔滨工程大学,2017.

[12] HINTON G E,OSINDERO S,TEH Y W.A fast learning algorithm for deep belief nets[J].Neural Computation,2006,18(7):1527-1554.

[13] LECUN Y,BENGIO Y,HINTON G.Deep learning[J].Nature,2015,521:436-444.

[14] SONG L H,QIAN X H,CHEN Y R,et al.A pipelined ReRAM-based accelerator for deep learning[C].IEEE International Symposium on High Performance Computer Architecture,2017.

[15] GUAN Y G,YUAN Z H,SUN G Y,et al.FPGA-based accelerator for long short-term memory recurrent neural networks[C].IEEE Asia and South Pacific Design Automation Conference,2017.

[16] 彭超然,刁伟鹤,杜振宇.基于深度卷积神经网络的数字调制方式识别[J].计算机测量与控制,2018,26(8):222-226.

[17] WEST N E,O′SHEA T J.Deep architectures for modulation recognition[C].2017 IEEE International Symposium on Dynamic Spectrum Access Networks,2017.

[18] 张永乐.基于CNN架构的通信信号调制模式分类识别研究[D].沈阳:沈阳航空航天大学,2018.

[19] O′SHEA T J,CORGAN J,CLANCY T C.Convolutional radio modulation recognition networks[C].International Conference on Engineering Applications of Neutral Networks,2016.

[20] ZHANG M,ZENG Y,HAN Z D,et al.Automatic modulation recognition using deep learning architectures[C].2018 IEEE 19th International Workshop on Signal Processing Advances in Wireless Communications(SPAWC),2018.



作者信息:

袁冰清,王岩松,郑柳刚

(国家无线电监测中心上海监测站,上海201419)