人工智能通识应用基础课件 项目七 1：大模型1

项目七

大模型（部署、训练、微调）项目概述项目知识要点知识能力目标学时本项目聚焦大模型的技术本质与实践落地，系统梳理大模型的定义、架构原理、关键技术，结合ChatGLM系列模型的部署案例。1初识大模型2大模型核心原理3大模型关键技术4大模型部署【技能要求】1能独立完成大模型的环境配置与部署。2能运用关键技术解决大模型应用中的训练效率、推理速度等问题。3具备大模型适配特定场景的微调能力。【知识要求】1理解大模型的定义、核心特征与发展历程。2掌握Transformer架构及变体原理。3熟悉大模型训练优化、高效推理与参数微调技术。2项目实训大模型部署应用实践2项目知识要点与目标7.1初识大模型

大模型，即大规模预训练模型（LargePre-trainedModel），是基于深度学习技术构建的、具有海量参数和复杂网络结构的人工智能模型。它通过对互联网级别的大规模数据进行预训练，学习数据中蕴含的通用知识和模式，从而具备强大的跨任务、跨领域的泛化能力。1.大模型的定义①参数规模的突破性增长：典型代表如OpenAI的GPT-3拥有1750亿参数，而Google的PaLM2参数规模达5400亿，华为的盘古大模型在NLP领域参数规模突破1000亿。这些参数通过矩阵运算捕捉数据中的语义关联，例如在处理“猫坐在垫子上”与“垫子上有只猫”时，能通过参数调整识别语义等价关系。②网络架构的创新设计：主流采用Transformer及其变种架构（如MoE混合专家模型），该架构通过自注意力机制处理序列数据，解决长距离依赖问题。例如，BERT模型通过双向Transformer捕捉句子中词汇的上下文关系，在“苹果”一词出现时，能根据语境区分“水果”或“公司”的含义；而GPT系列则采用单向Transformer，专注于序列生成任务，实现流畅的文本续写。③训练范式的革命性突破：区别于传统模型针对单一任务的“定制化训练”，大模型采用“预训练+微调”模式。以百度文心一言为例，其在预训练阶段吸收万亿级中文网页、百科、书籍数据，形成通用语言理解能力，后续在金融、法律等领域只需注入数千条专业数据即可快速适配，大幅降低行业应用成本。从技术实现来看，大模型的核心特征体现在三个层面：7.1初识大模型（1）超大规模的参数与数据：构建智能的“数字基座”大模型的参数规模与数据量级呈现指数级增长趋势。以DeepSeek为例，其模型规模在短期内实现了指数级跃迁，能够高效存储与调用百科全书级的复杂知识，在专业问答、推理和代码生成任务中展现出强大的能力。（2）强大的泛化能力：从“专精”到“通才”的跨越大模型的泛化能力在跨任务迁移中表现尤为突出。在数学推理领域，DeepSeek即使未针对“小学数学应用题”进行专项训练，仅通过其强大的自然语言理解和逻辑推理能力，就能在基准测试中远超需要专门模块设计的传统模型。在代码生成领域，GitHubCopilot基于大模型泛化能力，能根据注释自动生成Python、Java等多语言代码，在LeetCode中等难度题目上代码生成通过率达62%，相当于初级程序员水平。7.1初识大模型2.大模型的特点（3）跨模态处理能力：打通多维信息的“智能桥梁”国产大语言模型在多模态处理领域已取得显著突破，正构建起连接不同信息维度的智能桥梁。文心一言（ERNIE）在跨模态理解方面展现了卓越能力。其文生图功能不仅能根据“江南水乡晨曦中，白墙黛瓦间小船轻摇”这样的复杂中文描述生成意境优美的图像，更具备“图生文”的深度理解能力。例如，当用户上传一张传统中医舌诊图片时，模型能准确识别舌苔颜色、厚度等特征，结合中医知识库生成专业的体质分析报告，实现从视觉信息到专业知识的跨越。（4）涌现能力：规模突破后的“智能觉醒”当参数规模突破临界值（约100亿参数），大模型会涌现出小规模模型不具备的能力。以创意写作领域为例，阿里巴巴的通义千问展现出惊人的文学创作能力。当要求模仿李白的豪放风格创作五言绝句时，模型能生成如“旭日照高岗，长风拂剑霜。奋身凌紫汉，万里踏苍茫。”这样的诗句，不仅押韵工整、对仗严谨，更能准确把握李白诗的雄健豪迈，以旭日、长风起笔，勾勒明朗开阔的意境，后两句直抒“凌紫汉、踏苍茫”的凌云壮志，满含积极奋进的意气，远超仅能机械凑古诗词汇的小型模型。。7.1初识大模型7.1初识大模型（5）持续学习与适应能力：动态进化的“智能体”大模型的持续学习体现在“预训练-微调-实时更新”的闭环中。金融领域的摩根士丹利使用大模型实时分析新闻舆情，当某公司财报发布后，模型5分钟内更新知识库，调整股票估值模型，预测误差率较静态模型降低35%。在个性化适配方面，字节跳动的“豆包”大模型支持用户自定义知识库，企业用户可上传内部文档（如产品手册、客服话术），模型通过增量训练形成专属能力。某银行使用该功能后，客服机器人对“外汇保证金交易规则”的回答准确率从60%提升至95%，客户问题解决时长缩短40%。这种能力使大模型从“通用平台”进化为“专属智能助手”，满足千行百业的差异化需求。3.大模型发展历程早期探索阶段（2010年前）：在这一阶段，人工智能模型的规模相对较小，主要集中在特定任务的研究和应用上，如传统的机器学习模型和简单的神经网络模型。虽然取得了一些成果，但模型的泛化能力和处理复杂任务的能力有限。预训练模型兴起阶段（2010-2017年）：随着深度学习的发展，预训练模型开始出现。例如，Word2Vec、GloVe等词嵌入模型在自然语言处理领域取得了显著效果，通过在大规模文本数据上进行预训练，为后续大模型发展奠定了基础。大模型突破阶段（2017年至今）：2017年，Transformer架构的提出成为大模型发展的重要转折点。基于Transformer