【《基于非对称自动编码器的水声OFDM通信系统分析》9300字】

基于非对称自动编码器的水声OFDM通信系统分析目录TOC\o"1-3"\h\u16434基于非对称自动编码器的水声OFDM通信系统分析 147191.1水声OFDM通信系统 19371.2自动编码器的原理与结构 336771.3基于非对称自动编码器的水声OFDM通信系统 4206231.1.1非对称自动编码器的结构设计与超参数选择 4109421.1.2基于非对称自动编码器的水声通信系统 989121.4基于非对称自动编码器的系统性能评价及仿真结果分析 10112431.4.1仿真环境参数设置 11279251.4.2仿真结果及分析 12本章介绍了传统的水声OFDM通信系统，并对自动编码器的原理、结构和类型进行了总结。通过仿真实验，对自动编码器模型接收端隐含层的层数、学习率的设置和激活函数进行参数选择，并确定模型的结构设置。并将该非对称自动编码器加入到水声通信系统中，构建了基于非对称自动编码器的水声OFDM通信系统。通过仿真实验验证，结果表明基于非对称自动编码器的水声通信系统在不同调制方式下误码率均低于基于传统水声通信系统和基于文献AE系统的误码率。经过仿真实验后，我们发现：测试集与训练集环境相差较大时，基于自动编码器的系统误码率难以达到测试集与训练集环境相同时的水平，该问题将在下一章中进行分析并结合新的网络模型加以解决。1.1水声OFDM通信系统传统的水声OFDM通信系统框图如图3-1所示。在发送端，由信息比特和导频比特共同组成的发送信号X(k)经过星座图映射为符号，其中导频比特用于接收端的信道估计。经过串并变换之后进行快速傅里叶逆变换（InverseFastFourierTransform,IFFT），从频域信号X(k)获得时域信号，记作x(n)∈ℝM。为了降低符号间干扰和子载波间干扰，在x(n)的前端插入循环前缀（CP）得到t(n)∈ℝN。M表示信号r(n)=t(n)⊗h(n)+w(n)(3-1)其中，⊗表示卷积运算，h(n)∈ℝN和w(n)∈ℝ图3-1传统水声OFDM通信系统在接收端，信号流历经与发送端相反流程。首先接收信号r(n)移除循环前缀经过串并变换转换成并行数据，记为y(n)∈ℝM，然后通过快速傅里叶变换（FFT）将时域信号对于传统的通信系统，信道估计与均衡对于减小信道失真和干扰以恢复接收端处的信号是必要的，国内外学者有了非常多的研究[59]-[61]，信道估计（Channelestimation）的精度将直接影响整个系统的性能。在传统的水声OFDM接收机中，有两种基本的信道估计算法：最小二乘（LeastSquares,LS）和最小均方误差（MinimumMeanSquareError,MMSE）。最小二乘是一种广泛应用的信道估计方法，其优点是结构简单并且容易实现，但对噪声和干扰敏感。最小均方误差算法计算时需要先验信息，因此性能方面优于LS算法，然而最小均方误差算法需要计算一个Q矩阵的逆，所以当矩阵很大时，计算量过大，这一点不符合实现系统复杂度较小的要求，从而限制了它的实际应用。经过信道估计后，需要根据估计出的频率响应来均衡接收信号的噪声，信道均衡技术（Channelequalization）是指为了提高衰落信道中通信系统的传输性能而采取的一种抗衰落措施，常见的两种信道均衡方法为：迫零均衡和最小均方误差。迫零均衡算法是由Lucky于1965年提出的，该算法属于线性均衡方法，目的是让误差的平方和达到最低。在码间干扰不太严重时，迫零算法可以达到信道均衡的效果。但在设计迫零均衡器时忽略了加性噪声，对数据的反解操作同样会作用到噪声向量上，如果信道矩阵的逆矩阵中含有较大的值，将会导致噪声严重放大，使系统的输出信噪比减小，影响系统的性能。1.2自动编码器的原理与结构自动编码器（Autoencoder,AE）是神经网络的一种，在视频编解码、语言处理和图像处理等领域取得了一些重要的进展，其作用是通过将输入数据作为学习目标，对输入数据进行表征学习，将输出尽量复现输入。自动编码器通常由编码网络和解码网络组成如图3-2所示，自编码器的数学模型如表达式(3-3)所示：F(x)≈x(3-3)编码器将输入信号x转换为编码y，其中从输入层到隐含层的编码阶段为：Y=f(Wx+b)(3-4)解码器将y转换为输出信号x'，从隐含层到输出层，即为：x'=g(W'Y+b')(3-5)其中，W，b分别为编码器的权重与偏置，W'，b'分别为解码器的权重与偏置。编码器f通过映射函数将输入x映射到隐含表示Y，解码器g利用映射函数获得重构向量。公式(3-3)、(3-4)和(3-5)描述的是一种最简单的自动编码器，认为只有一个隐含层。图3-2自动编码器的一般结构近年来，自动编码器被引入了流行的建模领域，AE模型通过训练后可以将输入复制到输出，其思想与通信系统的设计思想类似，因此被广泛的应用到通信系统物理层设计问题上。常见的自动编码器有：稀疏自编码器（SparseAutoencoder）、去噪自编码器（DenoisingAutoencoder,DAE）、收缩自编码器（ContractiveAutoencoder）等。以上提到各类型的自动编码器普遍为对称结构，如图3-3所示，即发送端结构与接收端结构对称（有相同的层数和神经元个数），因此网络层数、神经元的个数的设置不够灵活。图3-3对称编码器的结构1.3基于非对称自动编码器的水声OFDM通信系统为了避免AE模型应用与水声OFDM通信系统产生过拟合，结合水声信道传输延迟较长和多普勒扩展严重等特点，本节主要对提出的非对称自动编码器的结构设计进行了讨论，通过仿真实验对超参数的设置进行选择，最终确定使系统达到最佳性能的参数，从而构建基于该非对称自动编码器的水声OFDM通信系统。1.1.1非对称自动编码器的结构设计与超参数选择在传统的物理层通信系统中，信号处理过程被分割成一系列独立的模块，例如：信源编码、信道编码、调制、信道均衡等，并对每个独立的模块进行单独优化。尽管这种方式已经被实践证明是有效和可控的，但是对每个独立模块的单独优化并不能确保端到端通信取得最优表现。利用自动编码器可以使得整个系统进行联合优化，但一些研究者设计的基于自动编码器的端到端通信系统，只有三个模块：编码器、信道部分、解码器，所有通信流程均由网络模型构成，使整个基于自动编码器的水声通信系统成为一个巨大的“黑匣子”，很难了解其训练过程，系统的可控性大大降低。但本文设计的系统保留了具体的通信模块，如编码、星座映射、调制、加循环前缀等过程，使基于非对称AE的系统兼具整体性与可控性。针对水声信道的特点，本文设计了一种非对称结构的自动编码器模型，考虑到计算复杂度及陷入局部优化导致过拟合等问题，将自动编码器的发送端隐含层层数设置为一层，并分别对以下几个网络结构的参数进行仿真实验，用于选择最佳性能时的参数设置。接下来分为以下三个方面进行讨论：（1）非对称自动编码器发送端隐含层激活函数的选择。（2）非对称自动编码器的接收端隐含层层数的选择。（3）非对称自动编码器学习率的选择。（1）非对称自动编码器发送端的隐含层激活函数的选择在其他参数不变的情况下，将非对称自动编码器发送端隐含层的激活函数分别设置为ReLU与LeakyReLU进行仿真实验并对结果进行比较，从而对激活函数进行选择。从图3-4中可以看出，在不同的信噪比情况下，训练过程中使用ReLU激活函数时，误差下降的速度较慢且波动极大，训练次数在300次以内时，结果经常性跳跃并向上浮动，递减的趋势较慢，训练次数在300到600次时，ReLU函数的震荡非常剧烈，误码率一直较高。在使用LeakyReLU函数时，训练次数在200到600时，误差下降较快且结果持续递减，使用LeakyReLU激活函数误码率结果始终远优于ReLU函数，因为当激活函数ReLU在输入数值小于0时，所有输入均被视为0，从而导致相应的权重参数不会迭代，一部分神经元“死亡”，无法被激活。又因为发送端网络位于水声通信系统的前端，丢弃过多的神经元会大大降低网络训练的准确性。因此该网络发送端隐含层的激活函数确定选择使用LeakyReLU函数，并在网络的最后加入批量归一化层（Batchnormalization），该BN层对输出进行归一化处理，使得网络中每层输入数据的分布相对稳定，加速了网络模型的学习速度。（a）LeakyReLU与ReLU误码率对比（b）LeakyReLU与ReLU震荡程度对比图3-4自动编码器发送端隐含层激活函数LeakyReLU与ReLU对比（2）非对称自动编码器接收端隐含层层数的选择声信号在水下传播缓慢，一般在陆地无线通信中多径时延是微秒级，而在水声通信中多径延时是毫秒级，几十甚至是几百毫秒。因此，水声通信传播需要更长的信号符号周期和更小的信号间隔。本文增加了自动编码器接收端的层数和每层的神经元个数来匹配相对于无线信道更加复杂的水声信道环境，以更精准的还原出原信号，提高网络的性能。自动编码器神经网络中至少存在一个隐藏层，根据Lippmann中提出具有两个隐藏层的多层感知机足以创建任何所需形状的分类区域[62]，进一步的理论发现和证明显示拥有两个隐含层的多层感知机已经可以逼近我们需要的大部分函数。一般认为，增加网络的隐含层层数能够进一步提高网络的准确度，但是同时又增加了网络的计算复杂度和训练时间，容易增加过拟合的可能性，导致网络的性能反而下降。由此，为了探究改变隐含层层数对整个网络系统的影响以确定最适合该网络模型的隐含层层数，我们在其他网络结构条件不变的情况下，将接收端的网络设置了不同的隐含层层数去评估整个系统的性能，对比了自动编码器接收端网络隐含层数为2、3和4的情况，对比结果如图3-5所示，从图中可以看出，当隐含层为2层时结果没有层数为3时结果好，但当隐含层增加为4层时，系统的性能并没有进一步的提高，反而系统误码率比隐含层层数为3时要高，该结果也符合了一些文献所提到的增加隐含层网络层数不能无限提高网络拟合精确度的结论，并且随着层数的增多会严重影响训练的速度，因此我们将该自动编码器接收端隐含层层数确定为3。图3-5自动编码器接收端网络隐含层层数为2、3和4的对比（3）非对称自动编码器学习率的选择深度神经网络的学习率对于系统性能至关重要，需要对其进行调参，学习率是指导该网络如何通过损失函数的梯度调整权重的超参数。网络参数的具体更新方式如表达式(3-6)所示：θ=θ−η(3-6)其中，θ是神经网络中被更新的参数；η是学习率；J(学习率的大小会影响网络训练过程中损失函数的振幅变化和模型收敛的速度。学习率越低，损失函数的变化速度就越慢。虽然使用低学习率可以确保不会错过任何局部极小值，但也意味着将花费更长的时间来进行收敛，我们将网络学习率分别设置为0.01、0.001、0.0001这几个数值进行仿真实验，结果如图3-6所示，在学习率为0.001时会得到网络训练的最佳效果，学习率越高或越低都没有等于0.001时系统性能更好，并且在学习率等于0.001时网络训练时间较快，达到最佳性能的用时最短。而在学习率等于0.0001时，训练的梯度非常震荡，数值比较跳跃，且花费的时间较长。图3-6学习率对于系统BER的影响经过对不同的网络参数进行仿真实验，我们确定了最佳结果时的网络设置，网络模型的具体参数设置如表3-1所示，考虑到计算复杂度及局部优化导致过拟合等问题，将自动编码器的发送端隐含层层数设置为一层，自动编码器的接收端隐含层层数设置为三层，这样的自动编码器的结构既保持了发送端的低复杂度又解决了水声信道相较无线信道更为复杂的问题。表3-1设定的训练模型参数参数名称数值TraingEpochs2000学习速率0.001优化器RMSProp损失函数均方差函数（MSE）表3-1（续）参数名称数值训练数据400测试数据100该非对称自动编码器发送端的网络结构如图3-7所示，网络输入和输出的神经元个数均为1024，隐含层设置为一层，神经元的个数设置为500个。选择的激活函数为LeakyReLU函数。图3-7Autoencoder发送端网络结构自动编码器接收端网络结构如图3-8所示，网络的输入层、输出层的神经元个数分别为：1024和16，因为在发送端设置传输的子载波个数为1024个比特，所发送的数据的每16个比特被独立地分组和训练，隐含层一共有三层。神经元个数分别是：500、240、120，初始的学习率设为0.001。输出层的激励函数选择Sigmoid，因为Sigmoid函数会将输出压缩为[0，1]，符合自动编码器的输出为比特的实际物理意义。图3-8Autoencoder接收端网络结构目前，较为流行的深度学习框架均不支持复数运算，而大部分研究者的做法是将信道与信号的卷积放在网络训练层中，但这样会较大程度的提升整个系统的复杂度，使网络训练所需要的时间增加。本文实现了在TensorFlow框架下信道与信号的卷积，为了避免网络的复杂度过高和训练时间过长，利用TensorFlow中的tf.nn.conv1d一维卷积公式进行计算。为了确保TensorFlow框架流程图是连续的，我们将从星座图映射到串并变换等一系列过程均搭建在TensorFlow框架中，将信号表示成a+bi，信道表示成c+di，将信号与信道的实部与虚部分开表示，并利用公式(3-7)算出ab、bd、ad和bc之间的卷积：(a+bi)⊗(c+di)=(a⊗c−b⊗d)+(a⊗d+b⊗c)i(3-7)输入（信号）的维度设置为：[batch_size，每个输入的元素个数，输入的通道数]，卷积核（信道）的维度设置：[卷积核长度,输入的通道数，输出通道数]，由于真实实验中的信道取多径完全后长度较长，我们在信号前后端加入0（padding）进行维度填充，实现了信号与信道之间的线卷积。1.1.2基于非对称自动编码器的水声通信系统经过上小节的仿真实验，本文将该自动编码器设计为为非对称结构，考虑到计算复杂度及局部优化导致过拟合等问题，将自动编码器的发送端隐含层层数设置为一层，通过仿真实验确定接收端的隐含层层数为三层。基于该非对称自动编码器的水声OFDM通信系统如图3-9所示，发送端的输入是随机生成的X(k)，经过星座图映射为符号，串并变换后记作x(n)进入自动编码器的发送端，激活函数设为LeakyReLU，将网络的输出记作x'(n)，再进行快速傅里叶算法逆变换（IFFT），为了降低符号间干扰和子载波间干扰，在信号的前端插入循环前缀（CyclicPrefix,CP），得到t(n)∈ℝN。再将信道与信号进行卷积，其中测试时信道冲激响应是由仿真生成或湖试试验测得的真实信道，N表示信号r(n)=t(n)⊗h(n)+w(n)(3-8)其中，⊗表示卷积计算，h(n)∈ℝN和w(n)∈ℝ图3-9基于AE模型的水声通信系统在接收端，接收信号首先移除循环前缀，然后经过串并变换转换成并行数据，记为r(n)。并行信号经过快速傅里叶变换（fastFouriertransform,FFT）将时域信号转换为频域信号，再将复数信号的实部与虚部分开进入自动编码器的接收端进行训练，接收端网络的隐含层从1.3节通过仿真实验确定为三层，输出层的激活函数为Sigmoid函数使接收端的网络输出0-1之间数值。非对称自动编码器网络训练的目标是使X(k)和Y(k)的差异最小，损失函数如公式(3-9)所示：L=||Y(k)−X(k)|(3-9)1.4基于非对称自动编码器的系统性能评价及仿真结果分析在本节中，通过与基于传统信道估计方法、深度神经网络接收机[30]和文献中AE模型的水声通信系统性能进行比较，评估文中所设计基于非对称自动编码器的水声OFDM通信系统的误码率水平与信道环境适应性。对于不同的水声信道环境，分别使用上述几种网络模型对信号进行处理。本节的第一部分仿真环境的基本参数，第二部分对基于不同网络模型的系统误码率和对水声信道环境变化的适应性进行分析。1.4.1仿真环境参数设置分析系统结果时，本文主要使用的OFDM多载波调制方式进行讨论，在进行仿真实验时也使用了其他的调制方式对系统进行分析。水声信道环境的主要参数如表3-2所示，利用基于统计表征的水声信道模型[53]模拟了七种不同的水声信道环境，分别记为“环境1”、“环境2”、“环境3”以此类推。训练集与测试集的样本个数分别为400和100，改变了传输距离、最大时延扩展和多普勒频移几个影响因素，信道持续时间为180s，涵盖水声时变信道响应的全部信息，系统没有进行信道编码。OFDM水声通信系统的参数如表3-3所示，子载波的个数为512，选用循环前缀的长度分别为128，64和16，分别占有效信息长度的1/4，1/8和1/32。在水声通信系统中，循环前缀的长度一般占有效信息长度的1/4左右，本设计采用1/8和1/32的长度是为了考察基于非对称自动编码器的水声通信系统能否降低循环前缀的比例，与传统的水声通信系统相比节省这部分频带资源。星座图映射分别选用BPSK、QPSK，8-QAM，这三种方法，相比于目前水声通信系统多采用QPSK的映射方法，8-QAM能实现信息的更高速率传输。本设计采用QPSK和8-QAM的映射方式是为了考察基于非对称自动编码器的水声通信系统能否相较于传统的水声通信系统提高通信速率。每次仿真会随机生成0，1序列作为系统的输入数据流，分别表示为导频信息与信号信息，其比值为1:1，导频插入方式为块状导频。网络传输后接收到的数据和原始生成的随机传输数据被称为训练数据，神经网络在训练过程中通过调整每个神经元的权重，最小化输出与输入之差，进行网络的优化。对基于各种网络的系统进行评估时，网络均在环境2下进行训练，测试集与训练集环境设置分为两种情况，第一种为测试集与训练集环境相同，第二种为测试集与训练集环境不同。表3-2水声信道环境参数设置信道参数水深/m传输距离d/Km时延扩展τ/ms多普勒频移fd/Hz环境11001.0350表3-2（续）信道参数水深/m传输距离d/Km时延扩展τ/ms多普勒频移fd/Hz环境21001.3400环境31001.0400环境41006.0400环境51006.5470环境61001.3400-20环境71001.3400-50表3-3OFDM参数设置OFDM参数帧结构导频+数据符号宽度1024子载波个数512CP长度128,64,16导频长度512子载波间隔15.6Hz星座图映射方法BPSK,QPSK,8-QAM1.4.2仿真结果及分析（1）基于对称AE与非对称AE模型的系统误码率水平对比图3-11对比了基于本文设计的非对称AE与文献[44]端到端对称AE的系统在不同信噪比下的误码率，AE[44]的网络结构如图3-10所示，“非对称AE”和“对称AE”分别指基于本文设计的非对称自动编码器OFDM水声通信系统和基于文献[44]对称自动编码器水声OFDM通信系统，AE[44]为端到端系统，整个通信系统均由自动编码器构成，整个系统形成一个巨大的“黑匣子”，很难了解其训练过程，使系统的可控性大大降低，且该自动编码器为对称结构，对隐含层层数和神经元个数的设置不够灵活，没有针对信道的性能进行结构的匹配。相比之下，本文设计的自动编码器保留了部分通信模块例如星座图映射解映射、调制解调、加循环前缀和去循环前缀等过程，并对自动编码器进行了非对称的设计，发送端隐含层层数为一层接收端为三层，既控制了网络的复杂度有效防止过拟合且能更加匹配比无线信道更加复杂的水声信道。从图中可以看出在不同的信噪比下，基于非对称自动编码器的水声通信系统误码率均低于基于AE[44]的系统，且在“SNR=25dB”时，误码率达到了10-4，证明了该非对称自动编码器的设计较为有效，并且可以获得比对称AE系统更好的误码率性能。图3-10文献[44]端到端对称图3-11对称AE与非对称AE的BER对比自动编码器系统（2）相同环境下不同信道估计方法的影响图3-12对比了在OFDM调制的方式下测试集与训练集环境相同，基于非对称自动编码器、DNN接收机[30]和传统信道估计方法的系统误码率水平。图中的“MMSE”和“LS”是指基于信道估计算法MMSE和LS的OFDM水声通信系统，“DNN”指基于DNN[30]的OFDM水声通信系统，“非对称AE”指基于非对称自动编码器的水声OFDM通信系统。从图中可以看出在不同信噪比(SNR)下基于对称DNN[30]和非对称AE的系统误码率始终低于基于传统的信道估计方式LS和MMSE的系统，并且基于非对称AE系统的误码率比基于DNN接收机系统的更低，在信噪比为25dB时的基于非对称AE系统的误码率达到了10-4。从结果来看，在不同的信噪比情况下，基于非对称AE的系统比传统的信道估计和基于DNN[30]的系统有更好的误码率表现，证明在训练集与测试集环境相同时，相较于其他模型，基于非对称AE的系统性能是最佳的，使信息的传输更加准确。图3-12不同信道估计方法下的BER对比图3-13不同调制方式的对比（3）不同调制方式的影响为了探究不同调制方式对系统的影响，图3-13对比了在不同调制方式下基于对称AE[44]和非对称AE的系统性能，图中“非对称AEOFDM”指基于非对称自动编码器的OFDM水声通信系统，“对称AEFBMC”指基于AE[44]的FBMC水声通信系统，分别选择了OFDM、FBMC、GFDM和S-NOFDM四种不同的调制方式对系统性能进行评价。由图3-14可知，基于非对称AE的系统在这四种不同调制方式下的误码率均比AE[44]的误码率水平更佳。在SNOFDM调制方式下，基于非对称AE的水声通信系统的误码率保持最低水平，在“SNR=25dB”时达到10-4，说明基于非对称AE的系统可以适应大部分的调制方式并保持良好的误码率水平，证明了在不同的信噪比下，基于非对称AE的水声通信系统性能优于基于AE[44]的水声通信系统。（4）不同的循环前缀长度的影响循环前缀（CyclicPrefix,CP）即为将OFDM信号的最后一定长度内的部分提取出来放在OFDM信号的头部，循环前缀相当于保护间隔，OFDM系统中可以插入一段空白符号作为保护间隔，对于削弱码间干扰非常有效，但是它会一定程度上占用带宽资源和传输能量。图3-14显示了在训练集与测试集环境均为仿真环境2时，不同循环前缀长度下对基于非对称AE和MMSE信道估计系统误码率的影响，图中“MMSE”表示该数据是基于信道估计算法MMSE的OFDM系统仿真得到的，图中“非对称AE”表示该数据是基于非对称自动编码器的OFDM系统得到的，图中“CP”表示循环前缀。从图中可以观察到，不管CP长度取128、64还是16时，基于非对称AE的系统的误码率性能始终优于基于MMSE算法的系统，并且在“CP=128”时，基于非对称AE的系统的误码率达到最佳性能，因此可以证明相比于传统的信道估计方法，利用非对称自动编码器可以在更短的循环前缀情况下达到更佳