《人工智能通识》课件 第六章 人工智能大模型

第六章：人工智能大模型目录CONTENTS01人工智能大模型02大模型的技术架构03大模型的应用领域04大模型与WPSAI人工智能大模型016.1.1大模型的定义它是拥有亿级甚至万亿级参数的大型预训练模型，具备强大的语言理解和生成能力。它的关键特征在于实现了能力的突破，能够处理长文本、进行复杂逻辑推理，并且应用非常广泛，从智能对话到内容创作，都表现出色。回顾发展历程，以OpenAI的GPT系列为代表的全球引领者，以及以DeepSeek-R1为代表的中国力量，都推动了大模型的飞速发展。总而言之，大模型已经成为驱动人工智能发展的核心引擎，正在深刻地重塑我们未来的各行各业。6.1.2大模型的发展历程2017架构奠基Transformer架构诞生

奠定规模化扩展理论基础2020规模飞跃GPT-3发布(1750亿参数)

展现能力同时暴露“幻觉”问题2022交互革命ChatGPT引入RLHF技术

开启人机交互新纪元2023多模态融合GPT-4整合文/图/音

具备更接近人类的感知能力24-25深度推理o1与DeepSeek-R1发布

标志从模式匹配向认知智能迈进核心洞察：大模型发展是一个从架构创新到规模扩张，再到技术成熟和认知能力不断升级的演进过程。6.1.3大模型的能力海量数据学习能力高效处理数十亿级样本数据，提炼深层知识，实现对复杂任务的精准理解与性能突破。#高效学习#数据驱动#性能突破跨领域知识迁移能力基于通用知识体系，面对新任务仅需微调甚至零样本学习即可快速适应，极大降低应用成本。#通用知识#灵活迁移#降本增效强大表示学习能力将原始数据映射至高维语义空间，精准捕捉深层内在关系，为智能推理与决策奠定坚实基础。#语义理解#深度表征#智能基础性能持续提升潜力随参数规模、数据量及算法优化呈指数级增长，突破传统模型瓶颈，拥有无限发展前景。#规模效应#持续进化#发展前景6.1.4大模型的风险与挑战技术层面的挑战•成本高昂：算力与开发投入巨大•准确性瓶颈：复杂任务易出偏差•可解释性差：决策逻辑如“黑箱”数据安全与隐私•数据依赖：训练集含敏感信息•泄露隐患：全生命周期存在风险•合规难题：跨境传输与法律限制伦理与社会影响•滥用风险：虚假信息与网络诈骗•就业冲击：加剧社会结构不平等•道德困境：算法偏见与责任归属总结：建立完善的规范与政策体系，引导AI大模型技术向善，造福人类。6.1.5大模型的未来展望技术演进：迈向更高智能追求更大规模与卓越性能、探索高效架构与训练创新、深度融合多模态信息交互、聚焦可解释性与安全可信应用拓展：赋能千行百业深耕制造、城市、环保等领域、结合IoT与大数据深化智能、催生全新商业模式与机遇、提供端到端的智能化解决方案社会共治：保障健康发展政策引导规范开发与应用、企业自律确保负责任使用、公众参与提升认知与决策、多方协同推动可持续发展大模型的技术架构026.2.1大模型的基础架构多头自注意力机制核心作用：多维视角捕捉信息扩展自注意力机制，从不同子空间捕捉特征，如同多视角分析语句（如句法与语义），获取更丰富的上下文信息。技术优势：深度理解语言相比单头机制，能捕捉更复杂、全面的上下文关系，大幅提升模型对语言深层含义的理解能力。前馈神经网络(FFN)核心作用：非线性变换增强表达在自注意力处理后，对词向量进行非线性变换，是模型学习复杂语言模式的关键步骤。技术优势：学习复杂规律引入非线性特性，极大增强模型表达能力，使其能够精准学习并表示深层语言规律。6.2.1大模型的基础架构残差连接(ResidualConnection)核心作用：将某一层的输入直接“短路”加到其输出上，是训练超深度神经网络的关键技术。技术优势：有效缓解梯度消失，确保信息顺畅传递，从而稳定、高效地训练极深的网络结构。层归一化(LayerNormalization)核心作用：对每一层神经网络的输入进行标准化处理，将数据分布调整到合适的数值范围。技术优势：显著加快训练收敛速度，提升训练稳定性，降低对学习率等超参数的敏感度。6.2.2大模型的训练与优化：训练方法核心观点：大模型的成功训练依赖于分布式训练与混合精度训练，二者协同攻克计算瓶颈与内存挑战。01.分布式训练(DistributedTraining)将海量计算任务拆分至多节点并行处理，利用数据并行与模型并行策略大幅缩短训练周期。02.混合精度训练(MixedPrecision)结合FP16与FP32特性，在保证计算精度的同时加速运算，并通过损失缩放技术防止梯度溢出。AI算力与精度引擎多节点

并行协作效能

极致优化6.2.2大模型的训练与优化：优化策略三大核心优化策略正则化(Regularization)通过加入权重惩罚项限制复杂度，防止过拟合，提升模型泛化能力。超参数调整(Tuning)优化学习率与批量大小等关键配置，寻找全局最优解以最大化性能。优化算法(Algorithms)采用Adam等先进算法高效更新参数，具备收敛快、稳定性强的优势。开发面临的核心挑战计算资源需求巨大千亿级参数模型依赖数千GPU集群，硬件与能耗成本极高。训练周期漫长即便使用优化技术，复杂模型的全量训练也往往需要数周甚至数月。技术挑战复杂需持续应对梯度消失/爆炸风险，并解决训练过程中收敛不稳定等难题。大模型的应用领域036.3.1自然语言处理核心应用：自然语言处理(NLP)文本生成自动生成文章、故事等内容，极大提升创作效率与质量。机器翻译基于海量数据的高质量实时翻译，有效打破跨语言沟通障碍。智能问答精准理解上下文，广泛应用于客服与教育检索。技术支撑：训练与优化策略高效训练方法•分布式训练：多卡并行，拆分计算，缩短时间•混合精度：FP16+FP32，节省显存并加速精细优化策略•正则化：防止过拟合，提升泛化能力•参数调整：优化学习率与BatchSize•优化算法：Adam等策略实现快速收敛总结：大模型通过复杂的训练与优化技术展现了强大潜力，同时也面临着计算资源与技术突破的挑战。6.3.2计算机视觉图像识别(ImageRecognition)定义：确定图像中物体或场景类别，视觉基础任务场景：安防监控、图像检索与管理目标检测(ObjectDetection)定义：识别类别并精确定位边界框，理解空间位置场景：自动驾驶、工业质检、智能监控图像分割(ImageSegmentation)定义：像素级划分语义区域，实现精细图像理解场景：医学影像分析、遥感图像分析、视频编辑核心价值：提取高级特征，显著提升系统的准确性与鲁棒性AIVisionCore基于Transformer架构的

深度视觉感知引擎6.3.3其他领域：机遇与挑战核心应用领域●语音识别：捕捉复杂语义，赋能智能助手与输入法。●推荐系统：深度挖掘用户行为，实现精准个性化推荐。●数据分析：高效处理海量数据，辅助金融与市场决策。核心机遇●提升效率：自动化处理复杂任务，加速业务流程流转。●优化决策：基于深度数据洞察，提供科学决策依据。●改善体验：提供更智能、更懂用户的产品与服务。核心挑战●高昂成本：训练与部署需要巨大的算力与数据投入。●可解释性差：“黑箱”特性导致决策过程难以被完全理解。●隐私安全：海量数据依赖引发隐私泄露和滥用风险。总结：大模型潜力巨大，机遇远超风险，将持续推动AI技术的广泛应用与深入发展。大模型与WPSAI046.4.1大模型为WPSAI提供核心能力核心驱动力：智能之源基于海量数据与知识训练，掌握复杂语言规律与专业知识，为办公全场景提供底层智能支持。全场景办公赋能文档写作：专业内容生成分析海量文档，掌握专业格式，一键生成规范内容框架。表格处理：智能数据洞察精准识别数据关联，自动计算填充，快速洞察数据价值。演示文稿：视觉灵感生成根据主题要点，自动生成图文并茂的幻灯片框架与排版建议。AI大模型核心驱动懂知识·懂数据·懂设计6.4.2WPSAI的办公应用场景智能写作辅助•激发灵感：提供多维切入点与思路•内容生成：智能续写润色，优化表达•高效总结：快速提炼文档核心观点智能表格与数据分析•智能填充：依据规则自动预测数据•公式生成：自然语言转复杂公式•一键可视化：自动生成最佳图表智能演示文稿设计•模板推荐：精准匹配并支持个性定制•内容编排：逻辑化分布信息，快速排版•动态效果：智能推荐动画转场智能问答与助手•软件操作指导：实时解答功能使用问题•办公知识解答：提供协作与管理建议•全天候响应：随时随地解决办公难题6.4.3WPSAI的优势与特色深度融合与无缝体验•