版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
生成模型:从识别世界到生成世界 4判别与生成:从识别到生成 4生成模型要学的东西:对数据分布建模 4生成质量评价:保真度、多样性与可控性 4生成模型演进:从、GAN到Diffusion与流匹配 5显式概率时代5对抗时代:GAN点燃图像生成 5自回归路线:图像token序列建模 5扩散登场:DDPM重塑范式 5统一视角:得分匹配与流匹配 6GAN机制:对抗博弈如何逼近数据分布 6核心机制:生成器与判别器的博弈 6训练难点:不稳定与模式崩溃 6经典演进:从DCGAN到StyleGAN 7优势与局限 7Diffusion机制:以去噪学习重塑生成范式 7前向过程:逐步加噪至标准噪声 7反向过程:学习逐步去噪 7关键技术:提升采样效率与条件控制 7优势与局限 8GAN与Diffusion:速度、稳定性、多样性与可控性 8采样速度:一步vs多步 8训练稳定性:对抗vs去噪回归 8样本多样性与分布覆盖 8可控性与编辑能力 9核心争议:主线转移、采样效率与路线分工 9扩散是否已成为通用生成主线 9慢采样是否构成扩散的根本缺陷 9扩散、自回归与流匹配:路线分工逐步清晰 10Diffusion成为主流之后:三个演进方向 10流匹配与整流:更直接的生成路径 10一致性模型与蒸馏:多步生成压缩为少步生成 10扩散与Transformer:DiT与可扩展性 10对抗思想回流:GAN用于扩散提速 10风险提示 表1:生成式建模的五条脉络 6表2:GAN与Diffusion四组路线分歧对照 9生成模型:从识别世界到生成世界生成模型是表征体系从编码走向解码的重要环节。相较于、RNN/TransformerGANDiffusionDiffusionDALL-E2SoraDiffusionGAN判别式模型回答“这是什么”,生成式模型回答“如何生成一个符合分布的新样本”GANDiffusion判别与生成:从识别到生成生成式模型的核心是还原数据分布。它不仅需要区分类别,还需要学习某类图像、文本或视频样本的整体结构,并从该分布中采样生成训练集中未出现的新样本。GAN和Diffusion都属于生成式模型。GAN生成模型要学的东西:对数据分布建模围绕如何建模分布,学界大致形成三条取向:1)显式建模似然,直接写出概率密2021生成质量评价:保真度、多样性与可控性nepono(S和chetnceponDance。S到图像任务还常用CLIPScore生成模型演进:从、GAN到Diffusion与流匹配GAN2022“Transformer”GAN(LatentDiffusion)对抗时代:GAN点燃图像生成2015年的DCGANGAN2015-2020年自回归路线:图像token序列建模PixelRNN/PixelCNNtoken扩散登场:DDPM重塑范式”20212015统一视角:得分匹配与流匹配Song与Ermon2019Song2021Lipman2022Liu20222022DiT表1:生成式建模的五条脉络脉络 代表作年份 核心想 主要限变分编器 在2013年GAN在2014年、
潜变量+证据下界,编码再解码生成器与判别器对抗
生成偏模糊、保真度有限训练不稳定、易模式崩生成对抗网络自回归生成
DCGAN2015PixelCNN年整理
博弈token预测
溃逐元素生成、采样慢GAN机制:对抗博弈如何逼近数据分布GANGAN核心机制:生成器与判别器的博弈GANGoodfellow2014训练难点:不稳定与模式崩溃GAN0-9训练不稳定是GAN规模化应用的核心约束。对抗训练要求生成器和判别器保持相GAN经典演进:从DCGAN到StyleGANDCGANGAN结构;BigGANImageNet条StyleGANStyleGAN2Pix2PixCycleGAN优势与局限优势:GAN一次前向即可生成图像,采样极快,可支撑实时与交互式应用;在人脸等特定领域生成质量锐利、细节丰富。局限:GAN2022Diffusion机制:以去噪学习重塑生成范式GAN前向过程:逐步加噪至标准噪声前向过程(forward/diffusionprocess)按固定方差表,在数百到上千步中向图像持反向过程:学习逐步去噪DDPMGANGANGAN关键技术:提升采样效率与条件控制DDIM:加速采样。DDIM把采样改写为确定性过程,可跳步采样,在基本不损质量的前提下把步数压缩到原来的几十分之一。LatentDiffusion:转向潜空间。潜空间扩散先通过自编码器将图像压缩为低维潜变量,在该空间中执行扩散过程,再还原为图像。该方法显著降低计算开销,是StableDiffusion能够以较低算力运行的重要基础。CFG:无分类器引导。无分类器引导在训练时随机丢弃条件,采样时对比“有条件”与“无条件”的预测来增强对文本等条件的遵循,是文生图可控性的关键技术。优势与局限CFGControlNet等手段实现强可控与可编辑,易于扩展到新数据与新任务。GANGAN与Diffusion:速度、稳定性、多样性与可控性GAN与扩散的差异,可归结为四组相互关联的分歧。其背后是速度、稳定性、分布覆盖与可控性之间的权衡:GAN以一步生成换取低延迟,扩散以多步去噪换取训练稳定和分布覆盖。采样速度:一步vs多步GAN:一步前向生成。GAN生成只需一次前向传播,速度快、延迟低,天然适合实时与交互场景。Diffusion:多步迭代。扩散需数十至上千步去噪,原生推理较慢;DDIM、蒸馏、流匹配等技术正不断压缩步数,但“多步”仍是其原生特征。训练稳定性:对抗vs去噪回归GAN:博弈难稳。对抗训练需两网络保持平衡,易震荡、崩溃,缺乏清晰收敛判据。Diffusion:目标清晰。扩散的去噪是稳定的回归任务,训练过程平滑、易复现、易调参,这是它快速普及的重要原因。样本多样性与分布覆盖GAN:易丢模式。模式崩溃使GAN可能只覆盖数据分布的一部分,多样性受限。FID敏感指标上通常优于同期GAN。可控性与编辑能力GAN:控制偏弱。原生GAN的条件控制与编辑相对有限,多依赖潜空间反演等额外技巧。CFGinpaintingControlNetDDIM表2:GAN与Diffusion四组路线分歧对照对比维度GANDiffusion采样速度一步前向,快多步迭代,较慢训练稳定性对抗博弈,易不稳去噪回归,稳定易复现样本多样性易模式崩溃、覆盖不全覆盖更全、多样性好可控性与编辑原生较弱、需额外技巧CFG/inpainting/ControlNet,手段丰富典型强项场景实时生成、人脸合成文生图/视频、可控编辑整理核心争议:主线转移、采样效率与路线分工GAN扩散是否已成为通用生成主线GANGANGigaGANGANGAN慢采样是否构成扩散的根本缺陷GANonsencysLC陷。扩散、自回归与流匹配:路线分工逐步清晰路线分工逐步清晰。语言生成仍以自回归建模为主,图像与视频生成以扩散为主,流匹配和整流则凭借更简洁的理论路径和相近生成质量加速渗透,StableDiffusion3已采用整流路线。Diffusion成为主流之后:三个演进方向Diffusion流匹配与整流:更直接的生成路径流匹配与整流通过更直接的生成路径降低采样成本。FlowMatching和RectifiedFlow使用ODE学习从噪声到数据的近似直线路径,从而减少采样步数并提升稳定性。StableDiffusion3以整流和多模态DiT(MMDiT)为架构基础,是该趋势的代表。一致性模型与蒸馏:多步生成压缩为少步生成2-4Diffusion。扩散与Transformer:DiT与可扩展性
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 麻醉精神药品培训考试试题及答案
- 卫生管理职称考试试题及答案
- 危险作业安全教育试题及答案
- 天津市教师招聘考试《教育综合知识》真题库及答案50题
- 实验室化验员培训考试试题及答案
- 2026年森林火情监测专职岗笔试真题(附答案)
- 2026年宁夏公务员考试刑事技术法医训练题及答案
- 2026年公立医院医务科招录综合测试题库
- 2026年财政局事业单位招聘题库(附答案)
- 新产品上市销售计划通告7篇
- 2026年新教材八年级上册历史全册必背知识点考点提纲
- 2026年湖北专升本汉语言文学专业(现代汉语中国古代文学)题库附答案
- SD22推土机使用说明书完整版
- 2026潍坊第二人民医院招聘(3人)建设笔试备考试题及答案解析
- 湖北省荆州市松滋市2025-2026学年上学期八年级物理期末试题(含答案)
- 社区食堂规范运营制度范本
- 2026年深圳市离婚协议书规范范本
- GB/T 21873-2025橡胶密封件给、排水管及污水管道用接口密封圈材料规范
- 神经内科疾病康复与治疗
- 公共资源交易数据的价值与应用分析
- 2025年教师招聘考试必考的351个教育综合基础知识 (超强)
评论
0/150
提交评论