《多媒体信息安全》课件 第6章 生成对抗网络

第6章生成对抗网络《多媒体信息安全》目录三一

背景知识二

GAN的基本原理及衍生模型

GAN的应用人工智能、机器学习和深度学习1956年，几个计算机科学家相聚在达特茅斯会议，提出了“人工智能”的概念。2012年以后，得益于数据量的上涨、运算力的提升和机器学习新算法（深度学习）的出现，人工智能开始大爆发。通常将人工智能分为弱人工智能和强人工智能。机器学习是用大量的数据来“训练”，通过各种算法从数据中学习如何完成任务。机器学习直接来源于早期的人工智能领域，传统的算法包括决策树、支持向量机等等。从学习方法上来分，机器学习算法可以分为监督学习、无监督学习、半监督学习等。最初的深度学习是利用深度神经网络来解决特征表达的一种学习过程。它本身并不是一个全新的概念，可大致理解为包含多个隐含层的神经网络结构。为了提高深层神经网络的训练效果，对神经元的连接方法和激活函数等方面做出相应的调整。人工智能：ArtificialIntelligence机器学习：MachineLearning深度学习：DeepLearning人工智能：从概念提出到走向繁荣机器学习：一种实现人工智能的方法深度学习：一种实现机器学习的技术人工智能研究的各个分支人工智能，机器学习和深度学习的关系人工智能、机器学习和深度学习DeepNeuralNetworks从感知机（1958）到神经网络感知机的模型感知机的模型是一个有若干输入和一个输出的模型输出和输入之间学习到一个线性关系，得到中间输出结果

接着是一个神经元激活函数

神经网络的扩展：（1）加入了隐藏层（2）输出多个神经元（3）扩展了激活函数Sigmoid函数

SoftMax函数tanh

Relu

DeepNeuralNetworksDeepResidualNetwork-ResNet一般印象当中，深度学习愈是深（复杂，参数多）愈是有着更强的表达能力。凭着这一基本准则CNN分类网络自Alexnet的7层发展到了VGG的16乃至19层，后来更有了Googlenet的22层。层数越多越好吗？显然并不是。CNN网络达到一定深度后，再一味地增加层数并不能带来进一步地分类性能提高，反而会招致网络收敛变得更慢，测试集的分类准确率也变得更差。排除数据集过小带来的模型过拟合等问题后，发现过深的网络仍然还会使分类准确度下降。深度网络的退化问题至少说明深度网络不容易训练。但是我们考虑这样一个事实：现在你有一个浅层网络，你想通过向上堆积新层来建立深层网络，一个极端情况是这些增加的层什么也不学习，仅仅复制浅层网络的特征，即这样新层是恒等映射（Identitymapping）。在这种情况下，深层网络应该至少和浅层网络性能一样，也不应该出现退化现象。所以是目前的训练方法有问题，才使得深层网络很难去找到一个好的参数。HeK,ZhangX,RenS,etal.DeepResidualLearningforImageRecognition[J].IEEE,2016.DeepResidualNetwork-ResNet残差学习

Input:Residual:特征：

特征：

残差学习相比原始特征直接学习更容易。当残差为0时，此时堆积层仅仅做了恒等映射，至少网络性能不会下降。实际上残差不会为0，这也会使得堆积层在输入特征基础上学习到新的特征，从而拥有更好的性能。“短路连接”（shortcuts，skipconnection）DenseNet更激进的密集连接机制：互相连接所有的层，即每个层都会接受其前面所有层作为其额外的输入。HuangG,LiuZ,LaurensV,etal.DenselyConnectedConvolutionalNetworks[J].IEEEComputerSociety,2016.目录三一

背景知识二

GAN的基本原理及衍生模型

GAN的应用GAN的工作原理黑线：真实样本绿线：生成样本G蓝线：判别模型D

对判别模型D的优化：D(x)--大，D(G(z))--小对生成模型G的优化：D(G(z))--大GoodfellowIJ,Pouget-AbadieJ,MirzaM,etal.GenerativeAdversarialNetworks[J].AdvancesinNeuralInformationProcessingSystems,2014,3:2672-2680.：真实图像的分布

：生成图像的分布GAN的变体王正龙,张保稳.生成对抗网络研究综述[J].网络与信息安全学报,7(4):18.GAN的应用场景DCGAN深度卷积生成对抗网络（DeepConvolutionalGenerativeAdversarialNetwork）。参考论文：《UnsupervisedRepresentationLearningwithDeepConvolutionalGenerativeAdversarialNetworks》代码地址：/eriklindernoren/Keras-GAN/blob/master/dcgan/dcgan.pyGAN的应用场景YangLC,ChouSY,YangYH.MidiNet:AConvolutionalGenerativeAdversarialNetworkforSymbolic-domainMusicGeneration[J].2017.GAN的应用场景标签-街景，标签-建筑物，黑白图像-彩色图像，俯拍图-地图，白天-晚上，轮廓-图像GAN的应用场景ZhuJY,ParkT,IsolaP,etal.UnpairedImage-to-ImageTranslationusingCycle-ConsistentAdversarialNetworks[J].IEEE,2017.https://junyanz.github.io/CycleGAN/学习GAN的基础了解导数、概率、矩阵及其运算等基本数学知识熟悉不同算法，掌握调参的技巧，务实代码功底提高自己的编程能力（比如刷LeetCode,/，codeforces,/）条件生成对抗网络-CGAN

GAN和CGAN的生成器G的目标函数超分辨率图像复原生成对抗网络-SRGAN从低分辨率(LowResolution)图像中提取高分辨率(HighResolution)图像称为超分辨率(SuperResolution)。LedigC,TheisL,FHuszar,etal.Photo-RealisticSingleImageSuper-ResolutionUsingaGenerativeAdversarialNetwork[C]//IEEEComputerSociety.IEEEComputerSociety,2016.超分辨率图像复原生成对抗网络-