大模型技术与应用课件 第1章 大模型概述

第1章

大模型概述CONTENTS目录01

大模型简介02

大模型的含义和特征03

大模型的训练04

大模型应用的技术路线05

大模型的应用与挑战06

总结与思考01大模型简介大模型的定义与发展背景大模型的核心定义大模型通常由深度神经网络构建而成，拥有数十亿甚至数千亿个参数，旨在提高模型的表达能力和预测性能，可处理复杂任务和数据，广泛应用于自然语言处理、计算机视觉等领域。大模型与人工智能的关系人工智能是涵盖机器学习、深度学习等的广泛概念，大模型是其重要组成部分，通过复杂计算结构和大量参数实现性能提升，本书以大语言模型为例展开介绍。大模型的发展契机2022年ChatGPT的出现验证了机器学习技术演进对人工智能发展的推动作用，促使大模型技术形成，成为人工智能领域的重要突破。大模型的基本原理与特点大模型的核心原理基于深度学习，利用大量数据和计算资源训练具有大量参数的神经网络模型，通过不断调整参数，使模型在各种任务中取得最佳表现。“大”的三大体现参数数量庞大，可达数十亿甚至数千亿；训练数据量大，需海量数据支撑；计算资源需求高，训练需大量GPU和数周到数月时间。关键能力表现具有强大泛化能力，可对未见过的数据准确预测；具备生成能力，能根据给定内容预测输出对应内容，如AI生成语言和图片。大模型的基本架构和形式

Transformer架构的优势具有独特注意力机制，能对重要词给予更多关注，且并行性和扩展性更好，可处理更长序列，是NLP领域奠基性模型。

Encoder-Only框架仅含编码器部分，适用于文本分类、情感分析等单向任务，代表模型有BERT、RoBERT、ALBERT等。

Encoder-Decoder框架包含编码器和解码器，用于机器翻译、对话生成等序列到序列任务，代表模型为Google的T5等。

Decoder-Only框架仅含解码器部分，适用于文本生成等序列生成任务，支持无监督预训练，代表模型为GPT家族，通过预训练和微调适应下游任务。02大模型的含义和特征AIGC简介

01AIGC的定义AIGC（人工智能生成内容）是基于生成对抗网络、大型预训练模型等AI技术，通过学习识别已有数据，以泛化能力生成相关内容的技术。

02AIGC：人工智能2.0时代的标志它是人工智能从1.0时代进入2.0时代的重要标志，推动AI从计算智能、感知智能向认知智能进阶。

03催生AIGC爆发的技术融合GAN、CLIP、Transformer、Diffusion、预训练模型、多模态技术、生成算法等技术累积融合，使AIGC具备更通用和更强的基础能力。

04AIGC的里程碑式意义短期改变基础生产力工具，中期改变社会生产关系，长期促使社会生产力质变，极度放大数据要素价值，加快社会数字化转型。大模型的含义大模型的范畴：不止于大语言模型当前讨论最多的大模型主要指大语言模型（LLM），但大模型并非仅局限于此，还涵盖其他领域的大规模模型。模型的通俗理解模型是基于神经网络构建的处理器，能根据输入产生预测或输出，包含多层神经网络，每层有众多神经元（函数y=F(x)），可通过调整参数控制输出。模型训练的核心：参数调节训练模型时，通过输入数据并监督输出结果，不断调节每个神经元参数，最终使输出结果与实际偏差最小。大语言模型

核心架构：Transformer大语言模型基于Transformer架构，这是一种专门用于自然语言处理的编码-解码器架构。

工作原理：向量传递与注意力机制核心能力是将输入单词以向量形式传递给神经网络，通过编码解码及自注意力机制，建立单词间联系权重，输入单词会与模型中已编码单词进行相关性计算并叠加。

本质：概率模型大语言模型是概率模型，基于输入预测输出，非数据库检索。例如“1+1=2”是因训练数据中该结果概率最大。

知识获取：海量数据训练需大量数据训练以学习足够世界知识，从而得到准确答案。大模型的特征01巨大的规模通常包含数十亿甚至数千亿参数，模型大小可达数百吉字节（GB）甚至更大，提供强大表达和学习能力。02多任务学习可同时学习机器翻译、文本摘要、问答系统等多种任务，具备更广泛语言理解能力。03强大的计算资源需求训练需数百甚至上千个GPU及大量时间（几周到几个月），以加速训练并保留模型能力。04丰富的数据需求需要海量数据训练，只有大量数据才能发挥参数规模优势。05涌现能力训练数据突破一定规模时，会突然涌现小模型不具备的复杂能力和特性，展现类人类思维和智能。06更好的性能和泛化能力在自然语言处理、图像识别、语音识别等各类任务上表现出色，泛化能力强大。03大模型的训练预训练预训练的定位与核心目的

预训练是大模型训练流程的首要环节，核心目的是让模型通过学习海量无标注数据，掌握语言的统计模式与语义信息，为后续微调奠定基础能力。数据收集与预处理要求

需收集互联网文本、新闻、博客、论坛等多语言无标注数据，经清洗去除噪声、无关信息及个人隐私后，以tokenizer粒度输入模型，确保数据质量与适用性。预训练阶段的学习内容

模型在此阶段学习词汇构成、句法结构、语义逻辑及上下文关系，逐步构建对语言规律的理解，形成基础的语言处理能力。指令微调

指令微调的定义与核心目标指令微调是一种特殊的有监督微调形式，旨在通过将NLP任务转化为指令形式（含任务描述与期望输出），使模型理解并遵循人类指令，增强特定任务表现。

参数高效微调技术（PEFT）概述PEFT通过微调少量额外参数而非全量参数，降低训练成本并实现高效迁移学习，代表技术包括adaptertuning、prefixtuning及LoRA等。

典型PEFT技术：LoRA的原理与优势LoRA（Low-RankAdaptation）通过矩阵分解将权重矩阵分解为两个低秩矩阵，仅更新低秩矩阵参数，实现与全量微调相当的性能，且计算资源需求显著降低。对齐微调对齐微调的核心目标旨在使模型输出与人类常识、认知、需求及价值观保持一致，宏观上防止AI伤害人类，微观上确保生成结果符合用户真实需求。RLHF技术的三阶段流程包括：1.基于人工标注数据进行监督微调（SFT）；2.训练奖励模型（RM），由人类评估者对模型回复排序；3.采用PPO算法进行强化学习微调，优化策略。替代技术：DPO与RLAIF的特点DPO（直接偏好优化）无需拟合奖励模型，通过单阶段策略训练实现人类偏好对齐，具有简单高效、计算轻量的优势；RLAIF（基于AI反馈的强化学习）以AI评估替代人类反馈，降低对人工标注的依赖。04大模型应用的技术路线硬件设备选择处理器选择需选用高性能处理器，如英特尔Xeon系列、AMDEPYC系列，凭借出色计算能力和多核架构，满足大模型复杂计算任务需求。内存选择需考虑容量与带宽，例如DDR4内存，能提供较高带宽和较大容量，以存储大量数据及中间计算结果，支撑大模型数据处理。存储设备选择应选高速、可靠且大容量的设备，如固态硬盘（SSD），其具备较高传输速率和存储容量，可满足大模型训练推理时频繁数据读写需求。其他关键因素需保证良好网络连接以支持多设备协同或云端训练推理，同时需稳定可靠的电力供应，确保大模型应用长时间稳定运行。模型选择和配置

模型准确性保障可选用预训练模型，其在大规模数据集上训练，能提供良好初始参数和特征表达能力；也可采用迁移学习、模型融合等技术提升性能。

模型复杂度权衡复杂模型表达能力强但计算资源消耗大，可通过模型剪枝、减少参数量、模型压缩等方式降低复杂度，平衡性能与计算资源。

模型配置优化根据场景需求配置超参数（如学习率、批大小等），在验证集通过实验评估及交叉验证选择最优配置；还可选择GPU加速设备或分布式计算优化训练推理效率。05大模型的应用与挑战大模型的主流应用

办公Copilot类产品微软将大模型接入Office系列软件，在Word中可总结文档、提出修改建议；Excel支持通过描述处理数据；PowerPoint能根据要求自动生成展示内容；Outlook可直接用自然语言生成邮件，实现AI秘书功能。

GithubCopilot类产品通过对话生成各类功能代码，帮忙写测试用例、解释代码片段和debug程序问题，解放程序员生产力，使其更关注业务理解、系统设计等高级需求。

教育知识类产品凭借强大的理解能力及知识储备，众多公司将大模型嵌入知识类产品，为教育领域提供支持。

搜索引擎和推荐系统应用于企业搜索引擎和推荐系统，通过深度学习算法准确理解用户搜索意图，提供精准搜索结果和个性化推荐内容，提升用户体验、增加用户黏性，提高企业转化率和销售额。

公司业务定制化大模型在工业、医药、管理等垂直领域，利用特定场景数据对大模型进行微调，提供定制化服务，为企业带来效率提升和成本节省的收益。大模型的主流应用

计算相关上下游相关产业探索基于GPU、FPGA和ASIC等硬件制造技术以支持大模型训练和推理速度，同时发展云计算技术，积极探索基于云计算的分布式训练和推理技术。大模型面临的挑战

数据安全隐患大模型训练需大量数据支持，但很多数据涉及机密及个人隐私，如客户信息、交易数据等，存在数据泄露和滥用风险，需保障数据安全。

成本高昂训练和部署大模型需要大量计算资源和人力资源，成本极高，中小型企业难以承担，也难以获得足够技术支持和资源。

内容可信性无法保障大模型会编造词句，生成内容难以保证真实可信、有据可查，用户需自行验证，缺乏权威说服力。

成本可控性问题直接训练和部署千亿级参数大模型成本过高，企业级应用应使用百亿级基础模型并训练垂直模型，但高效垂直训练及成本控制仍是难题。大模型的发展趋势与展望

技术改进方向采用数据加密、隐私保护等技术保障数据安全；改进模型架构、优化训练算法、利用分布式计算提高效率和性能；通过开源和共享模型资源降低成本、促进普及应用。

隐藏能力挖掘麻省理工学院研究者发现语言模型能理解世界的时间和空间，表明大模型存在诸多隐藏能力有待挖掘。

通用人工智能技术展望大模型发展是人工智能时代科技进步的必然趋势，具有工业革命般历史意义，长期来看，训练出通用人工智能技术（AGI）只是时间问题。

从业者与普通人的应对相关从业人员可开发更高效、稳定的训练算法，探索大模型上限；普通人应拥抱技术，在工作和生活中享受其带来的便利。06总结与思考大模型的价值与影响大模型的时代价值大模型是人工智能领域的重要技术实现，其发展具有工业革命般的历史意义，推动人工智能从感知智能迈向认知智能，为人类社会打开认知智能大门，是AI从1.0时代进入2.0时代的关键标志。对工作的影响大模型通过办公Copilot类产品提升办公效率，如微软Office系列接入大模型后，可实现文档总结、Excel数据处理、PPT自动生成等功能；GithubCopi