《生成式人工智能（AIGC）技术与应用》课件-第1章生成式人工智能概论

第1章生成式人工智能概论主讲教师:时间:2025.01.01目录01生成式人工智能概论02生成式人工智能的发展历程03生成式人工智能的应用场景04生成式人工智能的技术趋势生成式人工智能概论01人工智能、物联网、生物技术等••AI•AI20原子能、电子计算机

和空间技术的发展，

其中电子计算机为核

心电子计算机替代部分

脑力劳动，少部分模

拟人的智能活动AI正在推动第四次工业革命电能成为主要能源，社会生产力远超蒸汽

时代动力提高：发动机、电动机等信息传输效率提高：电报、无线电通讯等21

-机器替代人力大规模工业生产替代

个体手工生产1819-20每次技术革命主要产品技术及收益行业人工智能1.0时代（2012年-2018年）：

人工智能概念于1956年被提出，

A

I产业的第一轮爆发源自2012年，

2012年AlexNet模型问世开启了CNN在图像识别的应用，

2015年机器识别图像的准确率首次超过人（错误率低于4%），

开启了计算机视觉技术在各行各业的应用，

带动了人工智能1.0时代的创新周期，A

I+开始赋能各行各业，带动效率提升。但是，人工智能1.0时代面临着模型碎片化，

A

I泛化能力不足等问题。人工智能2.0时代（2017年-至今）：

2017年GoogleBrain团队提出Transformer架构，

奠定了大模型领域的主流算法基础，

从2018年开始大模型迅速流行，

2018年谷歌团队的模型参数首次过亿，

到2022年模型参数达到5400亿，

模型参数呈现指数级增长，

“预训练+微调”

的大模型有效解决了1.0时代A

I泛化能力不足的问题。新一代A

I技术有望开始全新一轮的技术创新周期。人工智能有望迎来第四次科技革命2022年Gartner人工智能商业化曲线人工智能作为第四次科技革命，已经进入2.0时代生成式人工智能是一种通过学习数据分布来生成新内容的人工智能技术。它与传统判别式AI不同，核心任务是基于已有数据模式生成全新的样本，例如文本、图像等，其本质是模拟人类的创造性表达。定义与核心任务生成式AI具有多模态生成能力，能够处理文本、图像、音频等多种数据类型。它还能输出具有创造性的内容，并且在建模范式上不断演进，从简单的模型逐渐发展为复杂的深度生成模型。核心特征生成式AI的关键支撑体系包括数据、算法和硬件。数据为其提供学习素材，算法决定生成逻辑，硬件则保障计算效率。三者协同作用，实现从输入到输出的高效生成过程。支撑体系与计算流程生成式人工智能的定义与特征概率图模型通过图形化方式表示变量间的概率关系，如贝叶斯网络可用于序列生成任务，通过节点间的条件概率关系来推导序列的生成过程，为生成式建模提供了一种直观且有效的框架。概率图模型隐变量模型引入不可观测的隐变量来解释数据的生成过程。例如变分自编码器（VAE），它通过编码器将数据映射到隐空间，再通过解码器从隐空间生成新的数据样本，广泛应用于图像生成等领域。隐变量模型深度生成模型利用深度神经网络的强大表示能力来学习数据的复杂分布。生成对抗网络（GAN）通过生成器和判别器的对抗训练，生成高质量的图像样本，推动了图像生成技术的发展。深度生成模型自回归语言模型基于序列的自回归特性进行建模，如Transformer架构的模型，通过多头自注意力机制捕捉上下文信息，实现高效的文本生成，能够生成连贯且符合语义的文本内容。自回归语言模型生成式建模的核心机制生成式AI的生成能力涵盖多种表现形式，包括文本生成如聊天机器人，图像与视频生成如虚拟场景构建，音频与语音生成如音乐创作，以及跨模态生成如图文互生。它在多模态建模和通用模型构建中展现出巨大优势，正从单一任务向通用模型演进，形成了涵盖数据、算法、模型开发到应用落地的全产业链结构。多模态生成与应用生成能力的表现形式生成能力是通向人工通用智能（AGI）的重要路径，生成式AI具备跨任务知识迁移、因果推理与符号建模能力。它能够将不同领域的知识进行融合与迁移，从而在开放场景中展现出强大的泛化能力，为实现AGI奠定了基础。通往AGI的关键路径与传统内容生成方式相比，生成式AI在对话系统、科学发现等领域具有显著的创新潜力。它能够在医疗、金融、教育等多个行业落地应用，推动各领域向智能化方向发展，体现了其作为通用智能的演化趋势。创新潜力与应用场景生成式AI与通用智能的关系生成式人工智能的发展历程02AI AI20122014GAN2012DNNs2022DALL

·E2AIA

I

从

决

策

到

生

成

，

A

I

技

术

与

应

用

迎

来

跨

越

发

展1994GroupLens40-2011IBM1980sProlog

&Lisp2011/AINLPAI2017Transformer1990s19562020GPT-3AI2021CLIP20142016年3月，人类和AI在围棋上进行一场智力的终极较量。前三局，李世石一败再败，全世界震惊了。第四局，李世石凭借“神之一手”赢了。那个漫漫长夜，人类终于长吐了口气，似乎一切都是虚惊一场。李世石回到自己的住处，在疲惫不堪中沉沉睡去。当晚AlphaGo和自己又下了一百万盘棋。第二天太阳照常升起，一切似乎都和昨日无异。然而李世石依旧是李世石，但AlphaGo再也不是“阿尔法狗”了。此后，人类在围棋领域再没有战胜人工智能的战绩。2016年决策式AI拐点2023年生成式AI拐点比知识量，ChatGPT拥有互联网庞大的数据库。比知识面，ChatGPT几乎覆盖了所有领域知识。比应试能力，ChatGPT考试能超过90%人类。比勤奋努力，ChatGPT能24小时不间断学习。再聪明的人类大脑，最多也就1000亿个神经元。而ChatGPT，光参数就已经有1750亿+了，几乎是人类大脑的2倍。更可怕的是，这个数字还会不停地增长，因为ChatGPT已经学会了自己更新迭代。基本知识——初识人工智能

人工智能发展的三次浪潮ChatGPT（GPT-3.5）发布OpenAI推出ChatGPT，基于GPT-3.5架构GPT-4发布OpenAI推出GPT-4，支持更长的上下文（8K/32K）DeepSeek-V1发布深度求索推出首个MoE（混合专家）架构大模型，探索高效推理路径Gemini1.5发布谷歌发布Gemini1.5，支持百万token上下文，优化多模态理解能力2022-112023-32023-122024-2基本知识——初识人工智能DeepSeek-V2发布DeepSeek推出2360亿参数的MoE模型，仅激活210亿参数，大幅降低推理成本。DeepSeekR1发布DeepSeek发布6710亿参数的MoE模型R1，专为高效推理设计，激活参数仅370亿ChatGPTAgent整合视觉浏览、终端访问和API调用，实现端到端任务自动化2024-52025-12025-7基本知识——初识人工智能基本知识——初识人工智能

（3）人工智能的核心要素人工智能的三大核心要素是海量数据、强大算力和先进算法。海量数据为AI提供学习材料，使其能从大量信息中提取模式和知识。强大算力是AI处理复杂计算和数据分析的基石，它依赖于高性能计算资源，如GPU和TPU。算法则是AI的大脑，包括机器学习、深度学习等技术，它们使AI能够学习、预测和决策。这三者相辅相成，共同推动AI技术的进步。人工智能的核心要素数据、算力、算法并称AI三要素，算力提供模型训练与推理的物理基础，算法决定信息利用效率，数据承载知识规模。AI三要素：数据算法算力数据相当于学习资料数据是AI的基础，如同教材对学生的重要性。没有数据，AI无法学习和成长，就像学生没有教材一样。高质量、大规模的数据是AI发展的前提，决定了AI系统的知识边界和泛化能力。数据的重要性数据的多样性至关重要。不同类型的、丰富的数据能够让AI更好地理解和学习世界。例如，图像、文本、语音等多种数据形式，为AI提供了多维度的学习素材，使其能够更全面地掌握知识。数据的多样性数据的规模直接影响AI的性能。大规模的数据能够提供更多的学习样本，帮助AI更好地归纳和总结规律。更多的数据意味着AI能够更好地适应不同的场景和任务，从而提升其智能水平。数据的规模010302算力是完成复杂计算任务的基础。强大的算力能够支持AI在短时间内完成大量的计算任务，从而提升其性能。缺乏算力，AI将无法完成复杂的任务。算力的重要性算力相当于AI的体力算法相当于AI的学习方法算法的作用算法是AI的核心，它定义了模型如何从数据中提取规律并进行学习。通过不断调整参数，算法能够使模型逐步提升性能，从而实现从经验中学习的目标。算法的选择和优化直接影响AI的学习效率和精度。举例乘法口诀就像学习乘法口诀能快速进行数学运算，算法帮助模型高效处理复杂任务，是实现人工智能的关键桥梁，决定了学习的效率与准确性。举例：5*8=19*6=15*15=0102三要素耦合决定AI性能天花板算力、算法、数据并称AI三要素，算力提供模型训练与推理的物理基础，算法决定信息利用效率，数据承载知识规模。AI三要素1GPT-4训练一次需约10万张A100等效卡，成本近亿美元，显示算力权重陡升，美国对华实施高端GPU出口管制，意图延缓追赶。算力的重要性2要素失衡迫使中国科研在算法与数据效率上寻找突破口，DeepSeek团队通过算法创新突破硬件封锁，实现高性能AI。算力瓶颈的突破305算法突围：效率革命11*11=36*11=123*11=Deepseek算法突围：效率革命DeepSeek以少胜多重塑性能曲线DeepSeek的突破2024年底，DeepSeek团队发布同名大模型，仅用2000余张GPU、560万美元完成与GPT-4媲美的基座训练，证明算法创新可突破硬件封锁。DeepSeek的技术优势通过动态稀疏、混合精度与并行策略优化，DeepSeek把算力需求压缩一个数量级，为资源受限地区提供高性能AI的可行范式。0102效率提升的意义DeepSeek在数据配比、梯度压缩、算子融合等细节持续改进，使单位GPU小时产出提高300%，显著降低中小企业与高校进入大模型研发的门槛。效率提升的影响效率曲线外移意味着同样预算可训练更大规模模型，或把资源投向多模态、工具调用等增值能力，为产业发展提供新思路。产业新路径的形成行业开始从‘堆卡’转向‘拼算法’，重塑云计算与芯片市场采购逻辑，推动AI技术向更高效、更可持续的方向发展。DeepSeek的示范作用DeepSeek的成功为全球AI研究提供了新的范例，证明在有限资源下，通过算法优化也能实现高性能，为更多国家和地区提供借鉴。训练效率提升撬动产业新路径AIGC（

Artificial

Intelligence

Generated

Content）

指的是人工智能系统生成的内容，

通常是文字、图像、音频或视频。这类内容可以通过自然语言处理，机器学习和计算机视觉等技术生成，即生成式A

I。A

I最初设立的目的是让机器像人类一样思考解决问题。

目前A

I的总体目的是通过各种算法解决问题提高生产效率。AIGC

多样化的内容生成能力使其覆盖各类内容形式，各类应用场景正随技术进步逐渐落地。AIGC不仅可覆

盖文本、音频、图像、视频等基本内容模态，还可综合图像、视频、文本进行跨模态生成，并应用于各类

细分行业成为具体的生产力要素，例如游戏行业中的A

I、NPC、虚拟人的视频制作与生成等。AIGC发展历史沿革积累阶段：AIGC实用性增强，商业化探索。2007年第一部人工智能小说《1

The

Road》但可读性不强爆发阶段：2022年AIGC产品密集发布，ChatGPT爆火。2022年12月5日OpenA

I推出出 A

I聊天机器人ChatGPT快速发展：深度学习算法不断迭代，内容呈现多样性。2017年微软人工智能少女“小冰”创造首部A

I创作诗集1990年-2010年2010年-2021年2022年-1950年-1990年至今初期发展：技术所限，小范围实验。1957年由计算机创作的第一

支音乐AIGC发展过程：AI自行生成内容文字领域代码图像视频/3D/游戏生成式A

I在文本、代码、图片、语音等领域应用广阔根据文本生成终版应用程序，高于全职开发者终稿制作，高于专业艺术家设计师水平模仿(产品设计、建筑等)视频和3D文件的基础

版

/初稿制作A

I版Roblox私人定制游戏与电影深度文字撰写提升（论文等）单行代码补足基础文案撰写初稿撰写垂直领域的文案撰写实现可精调(论文等)终稿制作(产品设计、建筑等

)艺术Logo摄影终稿撰写，高于专业写手水平终稿撰写，高于人类平均水平多行代码生成代码更长表达更精确支持更多编程语言服务更多垂直领域二稿制作文本更长实现二稿撰写首次尝试3D文件视频模型完全成熟ChatGPT的发展带动了文字类A

I生成，或将在2023年进入黄金时期，图片类A

I生成黄金时期将在2025年左右抵达，3D和视

频类

A

I生成在2023年可能正处于草稿阶段，进入黄金时期或许在2030年。AIGC产业应用，如在制造业、建筑业等巨型垂直实体领域中，AIGC的C/Content内容将不仅停留在图片和文字的领域，而 是进入信息更为丰富的领域。AIGC相关产品成熟度垃圾邮件识别翻译基础问答初步尝试接近成熟生成广告图像增加用户体验AIGC具备三大前沿能力，

未来应用空间广阔。

AIGC发展火热，

以chatgpt为代表的问答机器人，

逐步走向大众视野。AIGC（A

I-

GeneratedContent）

即人工智能生产内容，

可用于代码生成、文本问答、图像生成等。AIGC是继专业生成内容（PGC）和用户生成内容

（UGC）

之后，

利用人工智能技术生成内容的新生产方式。AIGC技术演化出三大前沿技术能力：

数字内容孪生、数字内容的智能编辑、数字内容的智能创作。ChatGPT能理解并生成文字，

属于AIGC技术应用中的文本生成模态应用模型。根据Gartner测算，

当前AIGC占所有

生成数据小于1%，AIGC生成数据渗透率有广阔提升空间，

预计该数字到2025年或上升至10%。AIGC产业链上游主要提供A

I技术及基础设施，

包括数据供给方、数据分析及标注、创造者生态层、相关算法等。AIGC应用对数字基础设

施要求较高，

随着ChatGPT掀起AIGC发展浪潮，

数据基础设施有望加速升级。中游主要针对文字、图像、视频等垂直赛道，

提供数据开

发及管理工具，

包括内容设计、运营增效、数据梳理等服务。下游包括内容终端市场、内容服务及分发平台、各类数字素材以及智能设备，AIGC内容检测等。AIGC产业链AIGC三大前沿能力AIGC具备三大前沿能力， 生成式A

I有望带动新一轮创新周期马尔可夫过程是早期语言建模的重要方法，其核心是基于条件概率预测序列的下一个元素。n阶马尔可夫模型通过考虑前n个元素的概率分布来预测下一个元素，为语言建模提供了基础框架。马尔可夫过程与语言建模马尔可夫模型的优点是建模简洁，易于理解和实现。然而，它在处理长距离依赖关系时能力有限。尽管如此，它为后续生成模型的发展奠定了基础，特别是在序列依赖建模和上下文窗口机制方面。优缺点与传承意义早期语言建模与马尔可夫过程01变分自编码器将变分推断与深度神经网络相结合，通过编码器将数据映射到隐空间，并在隐空间中进行采样，再通过解码器生成新的数据样本。它为图像生成等领域提供了新的思路，提升了生成内容的质量。变分自编码器（VAE）02生成对抗网络通过生成器和判别器的对抗训练机制，生成高质量的图像样本。生成器不断生成逼真的图像，判别器则尝试区分真假图像，两者相互竞争，从而推动生成器生成更优质的图像。生成对抗网络（GAN）03Transformer架构通过多头自注意力机制革新了序列建模，能够高效地捕捉长距离依赖关系。它在自然语言处理领域取得了巨大成功，也为多模态生成的发展提供了强大的技术支持。Transformer架构深度学习时代的转折点GPT系列在自回归语言建模的基础上不断扩展规模与能力。从最初的GPT到GPT-3等版本，其参数量不断增加，生成能力显著提升，能够生成高质量的文本内容，广泛应用于对话系统、内容创作等领域。GPT系列BERT通过双向Transformer编码器提升了语义理解能力。它能够同时考虑上下文信息，从而更准确地理解文本的语义，为自然语言处理任务提供了强大的预训练模型，推动了语言理解技术的发展。BERTDiffusion模型通过加噪与去噪过程实现高质量图像生成。它在图像生成领域表现出色，能够生成逼真的图像样本，为视觉内容创作提供了新的工具。Diffusion模型随着大模型的发展，语言模型逐渐融入图像理解模块，形成了多模态大模型。这种融合趋势为实现更复杂的任务提供了支持，例如图文生成、跨模态问答等，推动了生成式AI向更高层次的表达能力演进。大模型融合趋势大模型兴起与演进生成式人工智能的应用场景03在对话系统中，生成模型能够实现多轮交互，根据上下文生成自然流畅的回复。同时，它还可以模拟不同的情感表达和角色风格，为用户提供更加个性化和有趣的对话体验。对话系统01在内容创作领域，生成式AI可以通过语言风格控制和主题引导，快速生成高质量的文本内容。例如，它可以生成新闻报道、故事、诗歌等，大大提高了内容生产的效率和多样性。内容创作02代码生成是生成式AI的一个重要应用方向。它能够根据自然语言描述生成结构化的代码片段，帮助开发者快速实现功能，提高编程效率，减少重复劳动。代码生成03自然语言生成与应用图像合成技术在虚拟角色设计和医学图像合成等领域具有重要应用。通过生成式AI，可以根据需求合成逼真的虚拟角色图像或医学图像，为相关领域提供了强大的工具支持。图像合成风格迁移能够将一种艺术风格应用到图像上，实现个性化视觉内容的定制。它可以将经典艺术作品的风格迁移到普通照片上，创造出独特的视觉效果，广泛应用于艺术创作和设计领域。风格迁移视频生成技术通过建模时间和空间维度，能够生成逼真的虚拟现实视频和动画。它在影视制作、游戏开发等领域具有广阔的应用前景，为用户带来更加沉浸式的体验。视频生成图像与视频生成应用01图文生成技术能够根据图像生成描述性的文本，或者根据文本生成相应的图像。它在图像标注、内容理解等领域具有重要应用，为多模态信息处理提供了新的方法。图文生成02语音合成技术通过生成自然的语音波形，将文本转化为语音。它可以应用于语音助手、有声读物等领域，为用户提供更加便捷的交互方式。语音合成03文本驱动图像生成可以根据自然语言描述生成相应的视觉内容。例如，根据一段文字描述生成一幅画作，这种技术在创意设计和内容创作领域具有巨大的潜力。文本驱动图像生成04跨模态应用的质量评估依赖于图文联合建模和多层语义对齐。通过衡量语义一致性和质量感知预测，可以有效评估生成内容的质量，为跨模态应用的优化提供了技术支持。质量评估机制跨模态应用与融合AI早期的作品如今AI的作品2024诺贝尔物理学奖、化学奖花落AI“物理学奖花落AI”，出乎许多人的意料。在奖项揭晓前的各种预测中，几乎从未出现过这两位获奖者的名字。然而回顾约翰·霍普菲尔德、杰弗里·辛顿两位科学家的研究成果，人们不难理解其获奖原因。正如诺贝尔奖委员会所评价：“尽管计算机无法思考，但现在，机器已经可以模仿人的记忆并具备学习等功能。今年的物理学奖得主为实现这一目标作出了贡献。”2024年诺贝尔三大科学奖两项颁给AI，深刻反映出AI技术作为一股不可忽视的力量，在全球科研舞台上的崛起与影响。2024年的诺贝尔物理学奖和化学奖颁给AI领域的科学家，不仅是对他们卓越贡献的肯定，更是对科学界的一次深刻启示：在未来的科学探索中，技术与学科的交叉融合将成为常态，而AI作为这一融合过程中的核心驱动力之一，将推动科学研究不断突破传统框架，实现更加深远、更加广泛的创新

。（人民网

评）AI+制药AI+新材料干翻全人类！仅用17天，AI独自创造41种新材料2023年11月29日，Nature

期刊发表了两篇新论文，表明了人工智能驱动的平台可以改善发现和合成新无机化合物的速度和精确性。第一篇论文来自谷歌旗下人工智能公司DeepMind，论文题为：Scalingdeeplearning

for

materials

discovery。据悉Google

DeepMind的

GNoME为

Materials

Project贡献了近

40万种新化合物，是自该项目成立以来，由一个团队添加的最大一次新增结构稳定性数据，大大增加了科学家用于为未来技术发明新材料的开放存取资源。在此次工作中，Google

DeepMind团队使用

MaterialsProject十多年来开发的工作流程和数据对

GNoME进行了训练，并通过主动学习改进了

GNoME

算法。最终，GNoME产生了

220

万种晶体结构，其中有

38

万种被纳入Materials

Project

中，且被预测为是稳定的。这些数据包括材料原子的排列方式（晶体结构）和稳定性（形成能）。据论文描述，GNoME

已将结构稳定预测的精确性提高到

80%

以上，在预测成分时每

100

次试验的精确度提高到33%（相比之下，此前工作中该数字仅为

1%）。第二篇论文来自加州大学伯克利分校，论文题为：Anautonomouslaboratory

for

theaccelerated

synthesisofnovelmaterials。据介绍，A-Lab

是一个由

AI

指导机器人制造新材料的实验室，能够在最少的人为干预下迅速发现新材料，其可以帮助确定和快速跟踪多个研究领域的材料，包括电池、储能、太阳能电池、燃料电池等。值得一提的是，在一次测试任务中，A-Lab

成功合成了

58

种预测材料中的

41

种，成功率达到了

71%，而此次任务仅用时17天。据报道，相比之下，人类科学家可能需要几个月的尝试和实验，才能创造出一种新材料。而这些测试数据来自伯克利实验室开放获取数据库

MaterialsProject和由

GoogleDeepMind开发的

GraphNetworksforMaterials

Exploration（GNoME）深度学习工具。有了

A-Lab

和

GNoME

等的帮助，科学家可以专注于未来技术中有前景的材料，比如提高汽车燃油经济性的更轻合金、提高可再生能源效率的更高效太阳能电池，或者是下一代计算机中更快的晶体管。这些研究成果表明，新材料领域的发现和合成已经迎来了人工智能的革新。马斯克在社交平台上表示，车辆控制（vehicle

control）是“特斯拉FSD

AI拼图”上的最后一块拼图，其将使得（原始FSD中）30万行以上的C++控制代码，减少约两个数量级。眼下，特斯拉正在训练（车辆控制技术），但目前的主要限制因素在于训练的算力，而非工程师人力。特斯拉“端到端”的自动驾驶方案目标，主要是以道路场景图像作为输入，控制参数作为输出。这一方案放弃了传统的多模块合成自动驾驶技术，改为采集人为操作车辆的控制参数数据以及行驶过程中由摄像头采集到的道路场景图像，其中控制参数包括方向盘转角、油门、刹车和速度等数据，然后以图像数据作为神经网络中的输入，控制参数作为端到端模型的标签进行神经网络模型的学习训练。特斯拉利用AI技术实现自动驾驶1生成式人工智能的技术趋势04生成式AI正朝着多模态融合的方向发展，这是通向通用智能的关键路径。通过构建统一的潜在表示空间，实现跨模态理解与生成。例如，CLIP、Flamingo、GPT-4V等系统能够实现图文对齐与跨模态问答，提升了任务适应性和系统简化程度，为构建多模态智能体提供了有力支持，推动AI向更高层次的表达能力演进。多模态融合与统一大模型多模态融合与统一大模型生成可信度与可控性挑战生成式AI面临着生成内容真实性、逻辑一致性等问题，同时对风格控制和语义约束等可控性需求也日益增加。例如，生成的新闻内容需要保证真实性和客观性，避免误导用户。生成可信度与可控性问题偏差控制在生成式AI中至关重要