【《基于非对称自动编码器的水声OFDM通信系统概述》3800字】

基于非对称自动编码器的水声OFDM通信系统概述目录TOC\o"1-3"\h\u2386基于非对称自动编码器的水声OFDM通信系统概述 14691.1非对称自动编码器的结构设计与超参数选择 118471.2基于非对称自动编码器的水声通信系统 6为了避免AE模型应用与水声OFDM通信系统产生过拟合，结合水声信道传输延迟较长和多普勒扩展严重等特点，本节主要对提出的非对称自动编码器的结构设计进行了讨论，通过仿真实验对超参数的设置进行选择，最终确定使系统达到最佳性能的参数，从而构建基于该非对称自动编码器的水声OFDM通信系统。1.1非对称自动编码器的结构设计与超参数选择在传统的物理层通信系统中，信号处理过程被分割成一系列独立的模块，例如：信源编码、信道编码、调制、信道均衡等，并对每个独立的模块进行单独优化。尽管这种方式已经被实践证明是有效和可控的，但是对每个独立模块的单独优化并不能确保端到端通信取得最优表现。利用自动编码器可以使得整个系统进行联合优化，但一些研究者设计的基于自动编码器的端到端通信系统，只有三个模块：编码器、信道部分、解码器，所有通信流程均由网络模型构成，使整个基于自动编码器的水声通信系统成为一个巨大的“黑匣子”，很难了解其训练过程，系统的可控性大大降低。但本文设计的系统保留了具体的通信模块，如编码、星座映射、调制、加循环前缀等过程，使基于非对称AE的系统兼具整体性与可控性。针对水声信道的特点，本文设计了一种非对称结构的自动编码器模型，考虑到计算复杂度及陷入局部优化导致过拟合等问题，将自动编码器的发送端隐含层层数设置为一层，并分别对以下几个网络结构的参数进行仿真实验，用于选择最佳性能时的参数设置。接下来分为以下三个方面进行讨论：（1）非对称自动编码器发送端隐含层激活函数的选择。（2）非对称自动编码器的接收端隐含层层数的选择。（3）非对称自动编码器学习率的选择。（1）非对称自动编码器发送端的隐含层激活函数的选择在其他参数不变的情况下，将非对称自动编码器发送端隐含层的激活函数分别设置为ReLU与LeakyReLU进行仿真实验并对结果进行比较，从而对激活函数进行选择。从图3-4中可以看出，在不同的信噪比情况下，训练过程中使用ReLU激活函数时，误差下降的速度较慢且波动极大，训练次数在300次以内时，结果经常性跳跃并向上浮动，递减的趋势较慢，训练次数在300到600次时，ReLU函数的震荡非常剧烈，误码率一直较高。在使用LeakyReLU函数时，训练次数在200到600时，误差下降较快且结果持续递减，使用LeakyReLU激活函数误码率结果始终远优于ReLU函数，因为当激活函数ReLU在输入数值小于0时，所有输入均被视为0，从而导致相应的权重参数不会迭代，一部分神经元“死亡”，无法被激活。又因为发送端网络位于水声通信系统的前端，丢弃过多的神经元会大大降低网络训练的准确性。因此该网络发送端隐含层的激活函数确定选择使用LeakyReLU函数，并在网络的最后加入批量归一化层（Batchnormalization），该BN层对输出进行归一化处理，使得网络中每层输入数据的分布相对稳定，加速了网络模型的学习速度。（a）LeakyReLU与ReLU误码率对比（b）LeakyReLU与ReLU震荡程度对比图3-4自动编码器发送端隐含层激活函数LeakyReLU与ReLU对比（2）非对称自动编码器接收端隐含层层数的选择声信号在水下传播缓慢，一般在陆地无线通信中多径时延是微秒级，而在水声通信中多径延时是毫秒级，几十甚至是几百毫秒。因此，水声通信传播需要更长的信号符号周期和更小的信号间隔。本文增加了自动编码器接收端的层数和每层的神经元个数来匹配相对于无线信道更加复杂的水声信道环境，以更精准的还原出原信号，提高网络的性能。自动编码器神经网络中至少存在一个隐藏层，根据Lippmann中提出具有两个隐藏层的多层感知机足以创建任何所需形状的分类区域[62]，进一步的理论发现和证明显示拥有两个隐含层的多层感知机已经可以逼近我们需要的大部分函数。一般认为，增加网络的隐含层层数能够进一步提高网络的准确度，但是同时又增加了网络的计算复杂度和训练时间，容易增加过拟合的可能性，导致网络的性能反而下降。由此，为了探究改变隐含层层数对整个网络系统的影响以确定最适合该网络模型的隐含层层数，我们在其他网络结构条件不变的情况下，将接收端的网络设置了不同的隐含层层数去评估整个系统的性能，对比了自动编码器接收端网络隐含层数为2、3和4的情况，对比结果如图3-5所示，从图中可以看出，当隐含层为2层时结果没有层数为3时结果好，但当隐含层增加为4层时，系统的性能并没有进一步的提高，反而系统误码率比隐含层层数为3时要高，该结果也符合了一些文献所提到的增加隐含层网络层数不能无限提高网络拟合精确度的结论，并且随着层数的增多会严重影响训练的速度，因此我们将该自动编码器接收端隐含层层数确定为3。图3-5自动编码器接收端网络隐含层层数为2、3和4的对比（3）非对称自动编码器学习率的选择深度神经网络的学习率对于系统性能至关重要，需要对其进行调参，学习率是指导该网络如何通过损失函数的梯度调整权重的超参数。网络参数的具体更新方式如表达式(3-6)所示：θ=θ−η(3-6)其中，θ是神经网络中被更新的参数；η是学习率；J(学习率的大小会影响网络训练过程中损失函数的振幅变化和模型收敛的速度。学习率越低，损失函数的变化速度就越慢。虽然使用低学习率可以确保不会错过任何局部极小值，但也意味着将花费更长的时间来进行收敛，我们将网络学习率分别设置为0.01、0.001、0.0001这几个数值进行仿真实验，结果如图3-6所示，在学习率为0.001时会得到网络训练的最佳效果，学习率越高或越低都没有等于0.001时系统性能更好，并且在学习率等于0.001时网络训练时间较快，达到最佳性能的用时最短。而在学习率等于0.0001时，训练的梯度非常震荡，数值比较跳跃，且花费的时间较长。图3-6学习率对于系统BER的影响经过对不同的网络参数进行仿真实验，我们确定了最佳结果时的网络设置，网络模型的具体参数设置如表3-1所示，考虑到计算复杂度及局部优化导致过拟合等问题，将自动编码器的发送端隐含层层数设置为一层，自动编码器的接收端隐含层层数设置为三层，这样的自动编码器的结构既保持了发送端的低复杂度又解决了水声信道相较无线信道更为复杂的问题。表3-1设定的训练模型参数参数名称数值TraingEpochs2000学习速率0.001优化器RMSProp损失函数均方差函数（MSE）表3-1（续）参数名称数值训练数据400测试数据100该非对称自动编码器发送端的网络结构如图3-7所示，网络输入和输出的神经元个数均为1024，隐含层设置为一层，神经元的个数设置为500个。选择的激活函数为LeakyReLU函数。图3-7Autoencoder发送端网络结构自动编码器接收端网络结构如图3-8所示，网络的输入层、输出层的神经元个数分别为：1024和16，因为在发送端设置传输的子载波个数为1024个比特，所发送的数据的每16个比特被独立地分组和训练，隐含层一共有三层。神经元个数分别是：500、240、120，初始的学习率设为0.001。输出层的激励函数选择Sigmoid，因为Sigmoid函数会将输出压缩为[0，1]，符合自动编码器的输出为比特的实际物理意义。图3-8Autoencoder接收端网络结构目前，较为流行的深度学习框架均不支持复数运算，而大部分研究者的做法是将信道与信号的卷积放在网络训练层中，但这样会较大程度的提升整个系统的复杂度，使网络训练所需要的时间增加。本文实现了在TensorFlow框架下信道与信号的卷积，为了避免网络的复杂度过高和训练时间过长，利用TensorFlow中的tf.nn.conv1d一维卷积公式进行计算。为了确保TensorFlow框架流程图是连续的，我们将从星座图映射到串并变换等一系列过程均搭建在TensorFlow框架中，将信号表示成a+bi，信道表示成c+di，将信号与信道的实部与虚部分开表示，并利用公式(3-7)算出ab、bd、ad和bc之间的卷积：(a+bi)⊗(c+di)=(a⊗c−b⊗d)+(a⊗d+b⊗c)i(3-7)输入（信号）的维度设置为：[batch_size，每个输入的元素个数，输入的通道数]，卷积核（信道）的维度设置：[卷积核长度,输入的通道数，输出通道数]，由于真实实验中的信道取多径完全后长度较长，我们在信号前后端加入0（padding）进行维度填充，实现了信号与信道之间的线卷积。1.2基于非对称自动编码器的水声通信系统经过上小节的仿真实验，本文将该自动编码器设计为为非对称结构，考虑到计算复杂度及局部优化导致过拟合等问题，将自动编码器的发送端隐含层层数设置为一层，通过仿真实验确定接收端的隐含层层数为三层。基于该非对称自动编码器的水声OFDM通信系统如图3-9所示，发送端的输入是随机生成的X(k)，经过星座图映射为符号，串并变换后记作x(n)进入自动编码器的发送端，激活函数设为LeakyReLU，将网络的输出记作x'(n)，再进行快速傅里叶算法逆变换（IFFT），为了降低符号间干扰和子载波间干扰，在信号的前端插入循环前缀（CyclicPrefix,CP），得到t(n)∈ℝN。再将信道与信号进行卷积，其中测试时信道冲激响应是由仿真生成或湖试试验测得的真实信道，N表示信号r(n)=t(n)⊗h(n)+w(n)(3-8)其中，⊗表示卷积计算，h(n)∈ℝN和w(n)∈ℝ图3-9基于AE模型的水声通信系统在接收端，接收信号首先移除循环前缀，然后经过串并变换转换成并行数据，记为r(n