人工智能基础及应用课件 模块三-任务二-1-生成式人工智能的发展历程

走进生成式人工智能生成式人工智能的发展历程生成式人工智能也经历了从基于规则的简单生成、到统计学习的建模、再到深度学习驱动的上下文理解及生成模型，最终通过Transformer和大规模预训练模型实现了多模态内容的高质量创造与智能推理。发展历程以显式人工编写的规则（如模板、IF–THEN、领域知识库等）为核心，对输入数据进行匹配、推理与填充，从而按预定话语结构生成自然语言或其它形式内容的系统。1.早期探索阶段（1950s-1990s）麻省理工学院教授约瑟夫·维森鲍姆于1964年至1967年间研发的ELIZA对话程序是最早的聊天机器人之一，该程序使用模式匹配和替换方法来模拟对话，让用户产生程序理解对话的错觉，但并不能真正理解双方所说的内容。ELIZA对话界面基于统计驱动的生成式人工智能是指从大规模语料或数据中估计概率分布与模型参数并在生成阶段通过概率解码选择或采样最有可能的输出（文本、语音等），以替代人工编写规则。典型方法包括N-gram语言模型、隐马尔可夫模型（HMM）、以及以短语为单位的统计机器翻译等。短语级统计机器翻译是该方法的典型应用之一。2.统计学习阶段（1990s-2010）例：使用短语级统计机器翻译将“今天可能会下雨。”翻译成英文。解答：①切分成短语对，系统根据学习的双语文本，会自动发现哪些中文词组常常对应哪些英文词组，在本题中得到切分后的短语对及其对应的英文词组如下：“今天” →“today”“可能会” →“may”“下雨” →“rain”②拼接上述英文词组得到原始的翻译：Todaymayrain.③使用语言模型约束目标语的流畅度，由于英语里常说“Itmayraintoday.”，系统会据此把顺序调整成更自然的英文。深度学习是一类基于人工神经网络的机器学习方法，能够在无需大量人工规则设计的情况下，从大规模数据中自动提炼特征与规律，从而实现对复杂模式的建模与生成。凭借这一能力，深度学习已广泛应用于语音识别、机器翻译、图像与视频生成、自然语言处理等领域，成为人工智能生成内容（AIGC）的重要技术基础。3.神经网络复兴阶段（2010-2017）GPU并行计算能力的提升和ImageNet等大型数据集的开放，让深度神经网络在视觉、语音等领域实现突破性进展，推动AI进入深度学习时代。算力与数据基础循环神经网络(RNN)和长短期记忆网络(LSTM),能够完成更加复杂的生成任务,被应用于智能客服、情感分析、语音识别等领域。模型突破微软在2014年4月2日发布了微软小娜(Cortana)——一个由微软开发的智能个人助理,它可以识别语音、使用Bing搜索引擎提供的信息回答问题,并支持多种语言版本和多个平台使用。典型应用以生成对抗网络和变分自动编码器为主要代表的生成式模型推动着生成式人工智能发展进入高峰期。GAN和VAE被广泛应用于图像生成、语音合成、风格迁移、异常检测等领域。生成式模型以Transformer为基础的大模型事先在海量数据（如数百亿字文本）上进行学习，使其“理解语言的惯用表达”。这类模型在学习阶段不断练习“下一句可能会是什么”，从而学会生成连贯自然的文本。4.Transformer时代（2017–2020）Transformer推动了BERT和GPT-2的产生。2018年Google基于Transformer提出了BERT模型，极大提升了机器对文本含义的理解能力，因此被广泛应用于问答系统、文本分类、情感分析、命名实体识别等任务。2019年，OpenAI发布的GPT-2则基于单向Transformer解码器，在大规模文本数据上训练，展现了连贯、流畅的文本生成能力，被广泛应用于文章撰写、对话生成、故事创作等任务，推动了AIGC的普及。随着计算能力提升和海量数据积累，训练参数规模达到千亿级别的超大语言模型成为可能。大模型具备强大的知识记忆能力、逻辑推理能力和跨领域应用能力，能够在文本生成、图像创作、编程辅助等多个场景中实现类人水平的表现。这一变革使人工智能从辅助工具向智能创作者转变。5.大模型爆发阶段（2020至今）2021年DALL·E的出现开创了从文本描述直接生成图像的新领域。2022年ChatGPT的出现极大推动了人工智能在自然语言理解与生成领域的发展。2023年GPT‑4、2024年GoogleGemini、2