CN113378949B 一种基于胶囊网络和混合注意力的双重生成对抗学习方法 （昆明理工大学）

一种基于胶囊网络和混合注意力的双重生本发明涉及了一种基于胶囊网络和混合注别器则借鉴了LeNet-5网络。本发明提高了对抗学习在少样本训练生成清晰图像任务中的运算2(1)预处理自编码器模块输入层输入的真实图片，从真实图片的特征分布中随机采样空间Ze并输入给向量空间判别器DA，向量空间生成器GA根据步骤(1)提取的随机噪声z和样本标签L生成一个接近真实的虚拟向量空间Za并输入给向量空间判别器DA和样本空间生成(4)样本空间生成器GB根据步骤(2)中输入的虚拟向量空间Za和步骤(1)提取的样本标(5)样本空间判别器DB判断步骤(4)输向量空间生成器GA包括一个向量空间生成器输入层、三个向量空间生成器隐藏层和一个线性输出层，三个向量空间生成器隐藏层均为LeakyReLU激活函数激活的全连接网络，向量空间判别器DA包括一个向量空间判别器输入层、三个向量空间判别器隐藏层和一3(3.2)特征图y*依次经过二级卷积层和二级池化层，得到的结果再经过样本空间判别2.根据权利要求1所述的基于胶囊网络和混合注意力的双重生成对抗学习方法，其特43.根据权利要求1所述的基于胶囊网络和混合注意力的双重生成对抗学习方法，其特4.根据权利要求1所述的基于胶囊网络和混合注意力的双重生成对抗学习方法，其特征在于：样本空间自对抗模块的样本空间生成器GB和样本空间判别器DB的训练损失函数5些神经网络的性能。这些注意机制具有通过建立通道或加权空间之间的相关性(用于空间注意)来改进由标准卷积层生成的特征表示的功能。学习注意力权重背后的直觉是使网络降低到了原来的2证明了注意力模块对胶囊网过训练D使训练样本和来自G的样本的正确标签的概率最大化；同时通过最小化log(1-D(G6[0019](1)预处理自编码器模块输入层输入的真实图片，从真实图片的特征分布中随机向量空间Ze并输入给向量空间判别器DA，向量空间生成器GA根据步骤(1)提取的随机噪声z和样本标签L生成一个接近真实的虚拟向量空间Za并输入给向量空间判别器DA和样本空间[0021](3)向量空间判别器DA判断步骤(2)输入给自己的是真实向量[0022](4)样本空间生成器GB根据步骤(2)中输入的虚拟向量空间Za和步骤(1)提取的样把判断结果反馈给样本空间判别器DB和样本空7[0029]即本发明中涉及到的所有生成器和判别器的训练损失函数公式均基于上述理论8[0048]进一步地，向量空间自对抗模块中的向量空间生成器GA和向[0052]步骤(2)所述的向量空间生成器GA包括一个向量空间生成器输入层、三个向量空[0053]步骤(3)所述的向量空间判别器DA包括一个向量空间判别器输入层、三个向量空间判别器隐藏层和一个非线性输出层，三个向量空间判别器隐藏层均为BNReLU激活函数[0054]进一步地，样本空间自对抗模块中的样本空间生成器GB和样[0062](2.4)特征图F*通过反卷积层得到虚拟图像，并将虚拟图像输入给样本空间判别9[0071](3.2)特征图y*依次经过二级卷积了训练样本所需要的数量；本方法还增加了向量空间自对抗模块和样本空间自对抗模块，[0083]图7是本发明与其他先进的对抗学习网络以MNIST数据集为例所做的对比实验结[0089](1)预处理自编码器模块输入层输入的真实图片，从真实图片的特征分布中随机向量空间Ze并输入给向量空间判别器DA，向量空间生成器GA根据步骤(1)提取的随机噪声z和样本标签L生成一个接近真实的虚拟向量空间Za并输入给向量空间判别器DA和样本空间[0091](3)向量空间判别器DA判断步骤(2)输入给自己的是真实向量[0092](4)样本空间生成器GB根据步骤(2)中输入的虚拟向量空间Za和步骤(1)提取的样把判断结果反馈给样本空间判别器DB和样本空并行卷积运算，4个不同卷积核大小的不行卷积运算可获得真实图片在不同分辨率上的位得到256个4×4的特征图，其中每64个特征图是通过同样大小的卷积核得到的图片空间位程中信息的损失和丢失，提高特征提取的稳定性和准确性；样本空间判别器则借鉴了[0114]步骤(3)所述的向量空间判别器DA包括一个向量空间判别器输入层、三个向量空间判别器隐藏层和一个非线性输出层，三个向量空间判别器隐藏层均为BNReLU激活函数[0115]向量空间自对抗模块中的向量空间生成器GA和向量空间判别器DA的架构详见图3[0123](2.4)特征图F*通过反卷积层得到虚拟图像，并将虚拟图像输入给样本空间判别[0132](3.2)特征图y*依次经过二级卷积层和二级池化层，得到的结果再经过样本空间[0137]样本空间自对抗模块中的样本空间生成器GB和样本空间判别器DB的架构详见图5本数量的要求不多，并且加入的自注意力模块减少了胶囊网络中的胶囊数量，甚至在Efficient-CapsNet中将胶囊数量降低到了原来的2这大大提升了编码器的工作效率；[0144]本发明实验过程中，使用系