【《基于CNN网络的单信号调制方式识别分析》5100字】

目录 11.1引言 11.2通信信号的特征 11.2.1信号的谱特征量 11.2.2信号的累积量特征 21.3基于深度学习的单信号调制识别 31.1.1卷积神经网络理论 31.1.2参数设计与网络训练 61.4分类效果仿真分析 91.1引言在通信信号中，特征提取是很重要的一步。调制识别的两种传统方法：基于决策理论和基于特征提取的调制信号识别。上述方法均要求一部分先验信息，还有人工处理的部分，所以在面对数据量多且复杂的时候，会导致这些方法的泛化性和识别率不高。所以经典的调制方式识别方法难以满足识别需求，因此本章首先介绍了数字信号的信号特征，然后介绍了卷积神经网络的理论知识网络层结构优化算法并且设计了适用于本文通信信号的卷积神经网络的网络结构，最后对设计好的CNN网络进行测试以及分析该网络的性能。1.2通信信号的特征对于调制信号来说，不同的调制方式所含有的特征信息是不相同的，载波信号所包含的特征信息对于AMC是不必要的，所提取到的信号特征应该最可能地凸显调制信息，这样所提取到地特征才能够使得专业人员或神经网络实现高准确率地调制方式地判别。因此，本节介绍了两类传统的统计量特征:信号的谱特征量和累计特征。1.2.1信号的谱特征量无线通信信号具有丰富的瞬时信息，包括瞬时相位、频率及幅度等，能够估计原始信号的各类参数，合理的构造信号的统计量特征是进行调制信号识别的前提[49][50]。本文所选数据集中的信号是两路的正交信号，为提取信号的瞬时信息，假设原始采样信号的解析式为：(3-1)其中，为信号的希尔伯特(Hilbert)变化。(3-2)(3-3)(3-4)(3-5)(3-6)(3-7)(3-8)(3-9)1.2.2信号的累积量特征不同的调制方式会有不同的信号高阶累积量特征，所以通过高阶累积量特征可以很好地对调制方式进行分类和识别。参考文献[23][24]中对高阶累积量的介绍，阶累计量的计算步骤如公式：对于平稳随机过程中含有零均值，则高阶矩：(3-10)若考虑时延，那么的p阶混合矩：(3-11)式中，为的共扼，为数学期望，因此k阶累积量的定义为：(3-12)二阶累积量：(3-13)四阶累积量：(3-14)八阶累积量：(3-15)1.3基于深度学习的单信号调制识别1.1.1卷积神经网络理论卷积神经网络的提出是收到动物视觉皮组织的影响，动物视觉皮组织有着更为复杂的结构，CNN仿造这样的特性可以学到特征空间更深的层次结构。典型的CNN通常由输入层（InputLayer），隐含层（HidingLayer）和输出层（OutputLayer）组成，而卷积神经网络的隐含层包括卷积层（Convolutionallayer）、池化层（PoolingLayer）和全连接层（FullyConnectedLayer）。Convolutionallayerdui输入数据进行特征提取，PoolingLayer用于降低中间数据维度，去除冗余信息，简化运算，提取到的特征通过全连接层映射到输出的分类空间中，最后实现分类的作用。Convolutionallayer是CNN的基础层，特征的提取和降维都需要卷积层实现。在实际工程中，根据输入数据的大小合理地选择卷积核，按照卷积核得大小与覆盖到的数据对应乘积求和得到相应部位的输出值，并按照数据长度移动卷积核，完成卷积运算。卷积层以特征图为输出，输出结果称为卷积特征，重复上述运算可以得到相应数量的特征图，特征图是一种高维度空间表征，他能够获得处理样本更丰富的细节。由此提取特征的差异由卷积核的参数差异来确定，获得不同的特征图，在实际应用这根据输入数据合理得选择卷积核的尺寸、数量、滑动步长。卷积层的输出运算如式（3-16）所示：(3-16)式中——卷积核参数；——每个卷积层的偏置；——第m个卷积核的输出矩阵。，(ReLU)，其表达式为。*表示卷积运算符。池化层一般处于卷积层之后，与卷积层交错出现，也可以称其为下采样层。其主要作用是去除冗余信息，减少计算量。具体操作和卷积层相似，以最大池化方式maxpooling为例，原理是在卷积层输出的特征图中间选取一个合适的矩形区域，输出这个区域的最大值，其他的数值都舍弃掉。一般来说，池化层可以实现平移、缩放、旋转等方式，这样的操作可以使得特征具有平移不变性，就会使得提取到的特征更加稳定。池化函数的定义为down()，池化层的输出运算如式（3-17）所示：(3-17)式中，为卷积层的输出矩阵，表示池化层的输出矩阵，表示激活函数ReLU。最后需要将提取到的特征映射到分类空间中，但是由于输出特征是特征图的形式，需要全连接层将上层网络的输出层输出的特征图的转换和拼接，将全局的特征全部整合到一起才能实现输出，最后实现输出分类。全连接层可以有一层或者多层，根据输入数据和网络结构的情况而定。输出层一般位于神经网络的最后一层，他的输出值为每个类别的预测概率。输出层的形式与全连接层形式相同，但是神经元数目是根据所需要分类的类别数来确定的，对应本文的信号调制类别数。输出层输出数据对应为属于某个信号的调制方式的概率。单信号AMR选择使用softmax回归层输出分类成果，其表达式如式(3-18)：(3-18)其中，，n是调制集合中所包含得信号类型个数，代表softmax各个神经元的激活值，可以很容易的得到softmax输出的总和。也是由于这种特性，softmax层的输出值可以认为是各个信号存在情况的概率分布，输出值的稀疏性可以很好地利用指数运算的优势，同时按照反向传播算法（Backpropagation）更新参数。为了避免过拟合现象发生，通过设置Dropout层用来随机阻挡某些神经元之间的关联，可以降低网络的局限性，增强泛化能力。优化算法：为了实现模型最优，误差最小，需要优化算法的介入。在深度学习中，优化算法有着很重要的意义，它可以实现模型的最优化，达到最小的误差值。由2.4.1小节可知，反向传播算法算法通过将误差反向传播，调整权值最终实现目标函数的最小化。通过优化算法通过梯度来实现达到误差函数的最小值。在深度学习中，可以使用的优化算法很多，主要优化算法有RMSProp，SGD，Adam等。这些优化算法得到的优化结果是不同，但是优化算法只会影响优化的过程，而对于网络的性能没有影响，所以根据实际应用来合理地选择优化算法。本小节展示两种主要的优化算法：SGD和Adam。随机梯度下降法SGD的优化步骤是先计算网络梯度，再向梯度相反的方向对网络参数实施迭代，批量梯度下降每次都要适用整个训练的数据集，这样做保证每次朝着正确的方向进行参数更新，而且能够保证收敛到局部极值点。但是也是因为这样，使得每一次的更新运算量都非常大，消耗很大的内存，而且训练的时间很长，耗时耗力。考虑到全局批量处理会产生一些计算量的冗余，所以采用随机梯度下降即可解决上述问题，通过随机选择一些样本来进行参数更新，计算量被大大削减，可以加速收敛。但是SGD算法不是完美的，例如SDG的学习率确定过程困难，较小的，；对于非凸的目标函数，更新参数过程中，可能会使得目标函数落入鞍点，造成训练无法停止得到想要的训练结果；对于稀疏特征或者统计特性不相同的特征，餐宿更新的过程中LearningRate保持固定，会使得部分特征的学习不够充分；此外，同步更新情况下，并不是所有的网络参数都可以使用SGD来优化。适配性矩估计算法Adam算法具有高速、高效的优点，是目前深度学习中使用最广泛的优化算法，适用于多种应用。Adam在保留着SGD的优势的同时，还保持着自身的优点——自适应学习率，即能够在参数更新过程中自动更改LearningRate。Adam的广泛应用是因为使用了一阶矩来估计梯度，并且为了减少优化误差还用到加权平均的手段，这样在训练过程中即可以保证收敛，充分学习训练样本的特征，也减少了运算量，减少了内存占比。其具体形式如表3-1所示：表3-1Adam算法Adam算法输入：训练集；，；；步骤：1初始化，，2repeat34从D中随机取出含有M个样本的子集5计算网络输出6计算梯度7更新参数，并计算其修正值8更新参数，并计算其修正值9更新参数10until达到停止条件Adam在训练过程中基于梯度的一阶矩和二阶矩修正LearningRate，与其他的优化算法相比，Adam的高效、快速、准确等优点使得它成为深度学习领域应用最广泛的优化算法。CNN具有稀疏连接（SparseConnectivity）和权值共享的两个特点。稀疏接连的灵感来源于生物视觉表层的感知能力，因为生物视觉只能感知到部分区域，最后将每部分获取的信息整合起来得到全局区域[46]。即并不是每个神经元都要和上一层每个神经元相连接，只需要和部分神经元有联系即可。相比于神经元全连接这样更有利于卷积层的输出，而且可以降低运算参数量。权值共享指在模型内部多个函数共享参数，体现在卷积过程中，意义在于可以保证多个卷积运算对于相同输入的学习效果，不需要对每个位置都需要学习一个单独的参数集合。这些特点使得CNN有了突出的优势——稳定的特征提取，加快计算，加快训练速度，高准确率的识别性能。这些优势让CNN从传统方法中脱颖而出。1.1.2参数设计与网络训练本节所使用的数据集如表3-2所示，包括信号类别，信号的载波频率，码元损率，采样速率，信噪比范围，训练样本数以及测试样本数等。本文采用两种卷积结构，分别是浅层的CNN_s，以及深层的CNN_d。训练信号和测试信号的仿真环境相同，每一条信号都分为I/Q正交两个通路信号，每个通路上个1024个数据点。表3-2单信号数据集参数调制类型2ASK、2FSK、4FSK、BPSK、QPSK、16QAM、64QAM、MSK载波频率70MHz振幅系数1.0码元速率2Mbps采样速率200MHz复基带I/Q每路数据点数1024信噪比范围0dB至20dB训练样本数600000测试样本数50000采用的卷积神经网络结构，是隐层较少的浅层CNN网络，文中命名为CNN_s，网络层如表3-3所示。表3-3CNN_s网络层结构序号层类型参数1conv（32,3,1,1）2conv（32,3,1,1）3conv（64,3,1,1）4conv（64,3,1,1）5conv（128,3,1,1）6conv（128,3,1,1）7flattenNone8denseNoneCNN_d在此网络基础上又增加了几个卷积层和池化层，加深网络的深度，卷积层的增加可以提取更多的信号特征，而池化层的增加可以减少训练的运算量，加快网络的训练，CNN_d的网络结构如表3-4所示。表3-4CNN_d网络结构层数层类型参数层数层类型参数1conv（64,12,1,5）9pooling(2,2)2conv（64,12,2,1）10conv(192,3,1,2)3pooling（2,2）11conv(192,3,1,2)4conv（96,9,1,4）12conv(192,3,1,2)5conv（96,9,1,4）13pooling(2,2)6pooling（2,2）14conv(256,3,1,2)7conv（128,6,1,3）15conv(256,3,1,2)8conv(128,6,1,3)16conv(256,3,1,2)由于训练种类数较多，需要进行多标签分类，所以损失函数选用categorical_crossentropy函数，LearningRate设置为0.001。采用Adam优化方法，单次迭代更新学习率衰减数值为0，且学习率更新参数为，。用于训练和测试的数据来自同一个数据集，并保证信道条件一致。1.4分类效果仿真分析我们实现了两种CNN，一种层数浅，另一种层数深。首先对设计好的CNN_s算法进行训练并测试，分析其测试结果。数据集整体的识别率随信噪比变化的曲线如图3-1所示。在信噪比为0dB时，噪声干扰比较大，整体的识别率较低只有59.55%左右，但是随着信噪比的提升，识别率迅速提升在8dB时达到了91.99%，在12dB之后时达到了99%的正确率。该实验结果表明浅层网络结构的CNN_s在信噪比较高时信号环境好无太大噪声影响时能够获得最优分类效果，而低信噪比下信号的能量被噪声所淹没，而浅层的神经网络在提取有效特征方面的能力不强，识别效果较差。如图3-2所示，分析不同信噪比下各类信号的识别效果。在低信噪比时，BPSK，QPSK，16QAM，64QAM几类信号识别效果均不佳，只有40%左右，随着信噪比的提升，在10dB时，每类信号的识别率都达到了90%以上。说明对于信噪比相对低的情况下，不能对于每类信号都有以相对高的准确率完成识别，对于恶劣条件下的信号的适应性差。在高SNR时由于信号能量高于噪声，结构简单的CNN_s网络模型也可以实现每类信号的识别，但是在低信噪比下识别能力大大被削弱该网络的适应能力泛化能力较弱。图3-1CNN_s整体识别率曲线图3-2CNN_s每类识别率曲线8类调制信号在高低信噪比下分类结果的混淆矩阵如图3-3所示，混淆矩阵是对分类精度进行评价的一种形式，横坐标是预测类别，纵坐标是真实类别。如图3-3(a)、(b)所示，0dB时只有2ASK，MSK有着很好的分类性能达到了90%以上，而2FSK和4FSK也有较好的分类性能，达到了85%以上，两类之间会有少许混淆错分的情况。但是BPSK，QPSK，16QAM，64QAM几类信号识别效