机器学习-课件 第16-18讲 深度生成模型

深度生成模型深度生成模型概述生成对抗网络（GAN）变分自编码器深度扩散模型归一化流模型1.生成模型由数据集通过训练得到数据集的概率分布：或由带标注的数据集通过训练得到数据集的联合概率分布：由概率分布可生成新的样本等多种应用有代表性的深度生成模型及结构样本向量对应隐变量生成模型的隐变量方法完整样本向量可表示为更方便模型化联合分布由联合分布得到可由以下两式之一完成或生成模型的隐变量方法在隐变量情况，以下两个条件概率均有重要意义以隐变量为条件生成样本（解码）隐变量的后验概率（编码）在高斯混合模型的例中，这两个概率都有作用在实际生成模型中，这两个概率未知，可用神经网络分别表示

例如VAE隐变量方法的几种实现技术直接训练生成网络：GAN直接生成概率函数，最大似然：归一化流代理似然函数：VAE、深度扩散模型生成模型的隐变量方法似然函数的分解EvidenceLowerBound(ELBO)证据下界：最大化ELBO，替代最大似然2.生成对抗网络

GenerativeAdversarialNets（GAN）有一组训练数据，目的是得到一个生成模型，产生与训练数据相同的概率密度函数。不是直接得到概率密度函数，而是得到一个神经网络G，G产生高维样本，训练完成后，G产生的样本与训练数据样本集有相同概率密度函数。通过两个神经网络：D鉴别网络，输出为一个标量，判断输入样本为真；G生成网络，生成伪样本。D和G构成博弈双方（对抗）。D尽力将真实训练样本判为1，将G生成的样本判为0；而G则尽可能产生样本，使D判为真。达到纳什均衡时D=1/2。生成对抗网络生成网络G：输入是噪声向量，有先验概率生成网络G函数表示为：，，为参数集生成网络输出样本的PDF为鉴别器函数为，区别输入为训练样本还是生成器生成的样本G和D是两个玩家的MinMax博弈，值函数表示为生成对抗网络（续）GAN不是一个优化问题，实际是一个博弈问题，其解是值函数的一个鞍点，值函数为解如下问题生成对抗网络训练示意图GAN算法描述GAN训练例子训练样本分布生成网络分布D输出（蓝色）右下角：理想训练结果G的生成样本分布等于训练样本分布GAN示例GAN的几个结果1.G固定，D的最优值为2.的全局最小解为3.理论上，收敛到注意：以上结论3对与函数空间成立，由于算法是调整神经网络参数而不是函数本身，故没有可直接保证神经网络收敛的定理。GAN示例GAN产生样本示例。数据集分别为MNIST和TFD图中是G产生的样本最右侧是原数据集中与生成样本最接近的数据集样本2014年的结果显示GAN的一些进展针对训练困难、模型坍塌、性能提升、风格迁移等问题的各种改进尝试Wasserstein距离和WassersteinGAN（2017）DeepConvolutionalGAN（DCGANs，2016）CycleGAN（2017）ProgressiveGrowingGAN（2018）StyleGAN（2019）StyleGAN产生的图像示例深度生成模型深度生成模型概述生成对抗网络（GAN）变分自编码器深度扩散模型归一化流模型3.变分自编码器VAE由I.I.D.数据集通过分解：通过给出的假设：学习得到：等价得到：在实际生成模型中，可用神经网络分别表示

变分自编码器VAE概率编码器：aprobabilisticencoder概率解码器：aprobabilisticdecoder似然函数的分解和代理目标函数EvidenceLowerBound(ELBO)证据下界：最大化ELBO，替代最大似然证据下界更方便的“分解形式”变分自编码器的假设条件概率编码器其中概率解码器分别用神经网络实现：用mini-batch

SGD算法优化（最小化）负证据下界，训练神经网络VAE的一个说明性例子概率解码器说明（编码器结构对偶，略）这里

VAE的训练方法对于样本为了用MC方式表示证据下界，可采样对于高斯分布，可采用重参数技术获得样本：1.证据下界的直接MC表示证据下界的直接MC表示为VAE的训练方法（续)2.证据下界的分解形式的KL部分表示利用高斯分布KL散度解析公式可得VAE的训练方法（续)2.证据下界的分解形式

这里重参数化样本为：VAE的训练方法（续)3.小批量目标函数随机抽取小批量样本集小批量样本目标函数BP算法计算梯度VAE的训练方法（续)算法1：VAE小批量随机梯度学习

设M=100，L=1深度生成模型深度生成模型概述生成对抗网络（GAN）变分自编码器深度扩散模型归一化流模型4.深度扩散模型扩散概率模型（DiffusionProbabilisticModels)简称扩散模型（隐变量模型）隐变量，与样本同维度样本扩散模型描述•参数化的Markov链构成，由前向过程（扩散过程）和反向过程组成。•前向过程（扩散过程）通过逐渐加入噪声，将样本逐渐扩散为纯噪声分布（高斯噪声）•反向过程：从纯噪声分布出发，逐级重构样本，最后恢复样本•若扩散参数充分小，则前向过程和后向过程可具有相同概率分布类型，例如高斯（非平衡热力学）•可固定前向过程，训练后向过程的参数（用神经网络），训练结束后，后向过程即为生成过程，可生成样本。扩散模型描述（续）前向过程前向过程是逐渐噪声化过程噪声方差参数：一步前向转移概率或等价（重参数化表示）扩散模型描述（续）反向过程

其中，令目标函数由如下过程，得到替代目标函数：证据下界证据下界Jensen不等式目标函数：证据下界的分解目标函数：证据下界的分解（续)•第1项若把x2看作z，其与VAE的参数化的解码器相同，可类似处理。•第2项是先验匹配项，没有待优化参数，实际趋于0•第3项，T-1项的和，每一项指出要求的逼近要求用去逼近问题：期望E对两变量进行，用样本逼近的方差大。目标函数：证据下界的新分解目标函数：证据下界的新分解•第1项不变，第2项仍无优化参数。•第3项，T-1项的和，每一项指出要求的逼近要求用去逼近“新目标项”新目标项推导利用贝叶斯公式，有其中需要先导出新目标项推导（续）可证得：其中：证明：由以下出发可得如下证明续故新目标项推导（续）将已得各项带入，进行高斯项组合整理得其中扩散模型训练由证据下界分解得各项由的含义，要求以逼近

因此可设其中由神经网络实现（注意t是输入变量）扩散模型训练（续）由高斯函数的KL闭式公式，可得原理上，训练神经网络表示的最小化下式

扩散模型训练-实现1由已知的训练函数替代新目标函数（各分项）为

令扩散模型训练-实现1（续）其中，期望可用重参数化采样取代当模型训练后，后向过程采样为扩散模型训练-实现2由重参数化采样得：带入得

令扩散模型训练-实现2（续）新目标函数（各分项）为当模型训练后，后向过程采样为扩散模型训练-实现实例（DDPM）给出一简化目标函数为注意，是随机取自训练样本集，t可随机取样

t=1时对应项

训练算法和采样算法分别如算法1和算法2所示采样算法中，在生成最后图像，即采样时不加噪声算法1/2描述中，用代替

作为超参数给出，线