《数智化技术应用与创新》课件 第4章 探秘大模型

大模型探秘与学习目标数智化技术应用与创新4.1大模型技术发展4.1Developmentoflargemodeltechnology4.2大模型应用-以DeepSeek为例4.2Applicationsoflargemodels-TakingDeepSeekasanexample4.3提示词技术4.3Promptengineeringtechnology4.4大模型技术的行业应用-以DeepSeek为例4.4Industryapplicationsoflargemodeltechnology-TakingDeepSeekasanexampleCONTENT目录4.5典型案例-中关村科金大模型+“医保小智”4.5Atypicalcase:ZhongguancunKejin'slargemodel+"MedicalInsuranceXiaozhi"知识目标概览PART01从萌芽到成熟，具有时代意义技术突破历程不同阶段技术特点各异，推动AI变革不同阶段特点大模型发展对AI领域有重要意义时代意义大模型发展历程不同阶段技术特点显著，推动变革技术特点成员特点各异，架构功能多样，有优势也有局限性大模型家族0201大模型应用于多领域，解决实际问题应用领域03技术特点与家族介绍原理明确，作用于文本生成、问答等系统提示词技术应用于文本生成、问答、对话系统大模型应用于各行业，创造价值实际应用场景提示词技术原理应用领域实际应用与提示词技术能力目标培养PART02基于技术特点与市场趋势预测应用前景考虑大模型在各行业的潜力分析发展方向评估变革影响评估对AI领域的长远影响预测大模型发展方向定制化开发与技术应用0102选择合适大模型根据行业需求匹配最佳模型解决行业问题利用大模型优化行业流程03提升用户体验通过提示词技术提高响应速度学习成功案例的策略与方法成功案例分析分析失败原因，避免重蹈覆辙失败教训总结整合案例经验，形成实用策略提炼可借鉴经验案例分析与经验提炼素质目标提升PART03技术前瞻与创新意识敏锐洞察新技术趋势技术前瞻勇于探索未知领域创新意识推动技术创新与应用推动创新整合知识整合不同领域知识应用知识应用于实际问题解决跨学科能力培养跨学科学习与思考能力跨学科学习能力培养010203面对复杂问题面对复杂问题与挑战独立思考独立思考与分析问题提出解决方案提出有效解决方案并批判性审视解决实际问题能力4.1大模型技术应用大模型变革与演讲概述presentationandmakeitintoafilmtousedwiderfieldpresentationandmakeitintoafilmtousedwiderfield大模型时代开启presentationandmakeitintoafilmtousedwiderfieldpresentationandmakeitintoafilmtousedwiderfield大模型发展阶段presentationandmakeitintoafilmtousedwiderfieldpresentationandmakeitintoafilmtousedwiderfield大模型家族进化presentationandmakeitintoafilmtousedwiderfieldpresentationandmakeitintoafilmtousedwiderfield目录大模型开发路径presentationandmakeitintoafilmtousedwiderfieldpresentationandmakeitintoafilmtousedwiderfield大模型评测方法presentationandmakeitintoafilmtousedwiderfieldpresentationandmakeitintoafilmtousedwiderfield大模型商用之路presentationandmakeitintoafilmtousedwiderfieldpresentationandmakeitintoafilmtousedwiderfield总结与展望presentationandmakeitintoafilmtousedwiderfieldpresentationandmakeitintoafilmtousedwiderfield目录大模型变革与演讲概述PART01演讲主题与地点0102演讲主题大模型带来的变革和机会演讲地点上海、深圳、北京等演讲目的引发业界思考思考大模型技术的未来趋势引发业界关注关注大模型技术及其影响0102大模型时代开启PART02大模型处理信息并指导行动技术和社会层面的重大进步进入大模型新时代信息社会进化信息-模型-行动框架云时代到大模型跃迁云时代到大模型时代技术实现从专用到通用的跨越弱AI到通用AI生产力因大模型而大幅提升算力到机器智能跃升数字到智能社会跃升社会形态因大模型而深刻变革三大革命性变化大模型发展阶段PART03萌芽期（1950-2005年）1950年代起开始发展传统神经网络模型在萌芽期内逐步成型CNN的诞生发展为后续发展奠定基础技术基础积累2006年后开始探索Transformer架构出现推动大模型技术沉淀GPT-1和BERT发布0201奠定大模型发展基础技术框架初步形成03探索沉淀期（2006-2019年）2020年后迅猛发展GPT-3及以上大模型成为大模型发展里程碑ChatGPT和GPT-4成功开启大模型商用新时代技术商用加速推进迅猛发展期（2020年至今）大模型家族进化PART04从亿级到百万亿级参数规模突破Transformer架构技术架构主流GPT和BERT两条路线技术路线参数规模与技术架构应用场景从单一到多模态模态多样性通用大模型与行业大模型模态与应用场景大模型开发路径PART05训练基座模型构建大模型基础框架策略精调与判别训练优化模型性能与准确性奖励机制优化利用强化学习提升模型效果从头构建完整大模型开源模型调优低成本选择开源模型选用成熟模型降低开发成本LoRA技术微调利用LoRA技术实现参数高效调整大模型评测方法PART06目前业界没有权威评测标准缺乏统一评测方法呼唤建立统一的评测体系需标准化不同评测方法结果差异大评测结果多样010203评测现状0102语言理解数据集通过特定数据集评估模型理解力评测指标体系包括人工评测和裁判大模型评测等手段主要评测手段大模型商用之路PART07互联网、SaaS、插件等MaaS应用形式提供开放API，大模型云服务开放API与云服务提供定制化解决方案解决方案模型即服务（MaaS）行业应用前景长期潜力领域医疗、交通、制造等领域快速渗透行业互联网、金融、传媒、教育总结与展望PART08带来革命性变化开启新时代参数规模达百万亿级重要技术突破广泛应用前景互联网、金融等行业快速渗透大模型重要性未来展望0102持续技术进化技术架构、模态不断升级广泛商用趋势MaaS模式推动行业应用03构建智能社会推动从数字社会到智能社会跃升4.2大模型应用-以Deepseek为例大模型应用场景PART01NLP应用场景实现语音识别与回复聊天机器人自动翻译多种语言文章文本翻译自动生成高质量文章内容文章生成识别图像中特定对象对象识别监控视频中异常行为检测异常检测图像分类对图像进行自动分类处理图像视频分析应用推荐系统应用0102用户行为分析分析用户行为提升推荐精度个性化推荐根据用户喜好推荐内容03提升用户体验优化推荐策略提高用户满意度预测和管理金融风险风险管理利用模型预测股票价格走势股价预测0201自动化交易策略提高收益交易算法03金融分析应用智能运维应用自动检测系统故障故障检测分析系统日志定位问题日志分析自动化执行运维任务提高效率自动化运维24小时自动回答客户问题全天候回答快速解决客户问题问题解决提升客户服务响应速度提高服务效率智能客服应用自动评估作业和考试根据学生学习情况定制路径提供个性化学习方案智能教育平台自动化评估个性化学习教育培训应用生物医学数据分析生物医学数据药物发现加速新药研发进程疾病诊断辅助医生进行疾病诊断生物医学研究应用自动生成音乐旋律音乐创作辅助绘画和设计工作绘画设计提供创作灵感和设计方案创新灵感创作设计应用处理传感器数据实现自动驾驶传感器数据处理根据环境数据制定行驶策略决策制定理解周围环境做出决策环境理解010203自动驾驶机器人应用AI模型推理工作内容PART02接收输入处理文本图片输入接收文本或图片形式的输入多模态处理支持多种形式的输入数据综合处理输入内容处理输入检测预筛检测并预处理输入，过滤有害问题文本编码为向量将文本转换为数字向量以便处理0102010203使用训练模型应用预先训练好的AI模型进行推理自回归生成如ChatGPT，生成连贯文本序列束搜索优化使用束搜索算法优化生成结果模型推理过程将推理结果转化为可理解的语言转换为自然语言对输出进行合规性检查合规性检测生成并输出最终回答结果输出最终回答输出结果生成4.3提示词技术提示词技术与自然语言处理presentationandmakeitintoafilmtousedwiderfieldpresentationandmakeitintoafilmtousedwiderfield文本生成技术presentationandmakeitintoafilmtousedwiderfieldpresentationandmakeitintoafilmtousedwiderfield问答系统概述presentationandmakeitintoafilmtousedwiderfieldpresentationandmakeitintoafilmtousedwiderfield对话系统介绍presentationandmakeitintoafilmtousedwiderfieldpresentationandmakeitintoafilmtousedwiderfield目录提示词技术与自然语言处理PART01语言在AI中的重要性语言是人与AI交互的关键沟通桥梁AI通过语言理解人类知识与经验理解世界语言处理能力是衡量AI智能水平的重要指标智能表现自然语言复杂多变，语义理解是NLP的核心挑战语义理解难题深度学习技术显著提升了NLP的性能与效果深度学习突破0201持续推动NLP模型向更高效、更精准方向发展模型优化需求03NLP的挑战与深度学习推动文本生成技术PART02文本生成的意义与应用0102文本生成意义提升内容创作效率应用领域广泛写作、翻译、摘要生成03创新价值激发新创意，丰富内容形式预测文本序列概率语言模型基础循环神经网络处理序列数据神经网络架构模型训练通过大量文本数据学习语言规律语言模型与神经网络基础通过温度参数、Top-k采样增加多样性在多样性与准确性间寻求最佳平衡如贪心、束搜索、随机采样采样策略多样性提升文本质量平衡采样策略与文本多样性提升问答系统概述PART03自动回答用户问题的系统问答系统定义自然语言处理、信息检索、知识库系统组成深度学习、自然语言理解技术基础问答系统定义与组成针对特定领域或问题集限定域系统面向广泛主题，无特定限制开放域系统知识范围、训练数据及算法差异区分标准限定域与开放域系统区分应用挑战与解决方案解决方案深度学习优化、实时知识更新、对话管理策略应用挑战语义理解、知识更新、多轮对话0102对话系统介绍PART04010203对话系统定义模拟人类对话的系统系统组成自然语言处理、知识库等交互方式文本、语音、图形等多种方式对话系统定义与组成生成式系统基于模型生成回复，灵活性强检索式系统从预设库中匹配回复，准确率高对比生成式灵活但可能不准确，检索式准确但缺乏灵活性生成式与检索式系统对比对话系统评价方法用户对话体验的直观反馈用户满意度系统完成用户请求的比例任务完成率系统维持连贯对话的能力多轮对话能力提示词技术实施要点PART05分析用户场景与需求背景深入理解用户意图根据用户反馈调整优化策略持续跟踪反馈通过对话挖掘用户未明确表达的需求挖掘潜在需求010203洞察用户需求提示词精心设计设计清晰、具体的提示词引导模型明确指导意图采用不同表述方式提高模型理解力多样化表达确保提示词准确无歧义，提升模型输出质量避免歧义根据训练情况调整学习率以优化模型性能调整学习率01调整模型层数与节点数，提升模型泛化能力优化模型结构02采用L1、L2正则化防止模型过拟合正则化策略03模型参数精细化调整定期评估模型性能，发现潜在问题定期评估性能持续引入新数据，提升模型适应性引入新数据关注最新算法进展，适时升级模型算法算法升级迭代与优化策略4.4大模型技术的行业应用—以DeepSeek为例大模型技术概述presentationandmakeitintoafilmtousedwiderfieldpresentationandmakeitintoafilmtousedwiderfield跨领域知识融合应用presentationandmakeitintoafilmtousedwiderfieldpresentationandmakeitintoafilmtousedwiderfield自然语言处理能力presentationandmakeitintoafilmtousedwiderfieldpresentationandmakeitintoafilmtousedwiderfield图像识别能力presentationandmakeitintoafilmtousedwiderfieldpresentationandmakeitintoafilmtousedwiderfield目录大模型技术概述PART01融合多领域知识，应用广泛在自然语言处理等方面表现突出大规模预训练模型大模型定义特点一：跨领域融合特点二：处理能力强大模型定义与特点跨领域知识融合应用PART02结合多领域数据进行学习跨领域知识整合提升模型综合理解能力知识融合应用0201增强AI系统实用性与适应性概念意义03跨领域知识融合概念智能客服系统案例0102用户意图识别准确理解用户问题需求精准匹配与回答基于知识库快速提供解决方案03交互优化与反馈持续优化提升用户体验自然语言处理能力PART03强大的自然语言生成GPT-3特点广泛应用于文本创作GPT-3应用BERT在搜索应用提升搜索结果的准确性GPT系列及BERT模型T5与DeepSeek模型支持多种NLP任务T5多任务处理高效代码生成工具DeepSeekCoder智能对话系统DeepSeekChat图像识别能力PART04图像识别应用领域智能识别在自动驾驶、医疗影像中广泛应用安防监控用于人脸识别、异常行为检测0102大模型在图像识别优势精准度和效率高利用深度学习，提高识别精度和速度深度特征提取能提取图像深层特征，增强识别能力个性化推荐与预测PART05收集并分析用户行为数据用户行为分析深度挖掘用户偏好信息偏好分析应用机器学习算法分析数据机器学习算法数据收集与分析方式基于用户数据生成个性化推荐个性化推荐方式推荐精准，满足用户个性化需求精准性与个性化大模型提升推荐效率与质量大模型优势个性化推荐生成及优势大模型技术应用案例PART06数字化员工“崔筱盼”案例背景介绍高效、准确，获同事认可与喜爱员工评价涵盖财务、人力、运营等多领域工作内容扩展010203“崔筱盼”数字化员工介绍010203工作内容自动化处理财务、人力等事务员工评价正面提高工作效率，减少错误率同事认可获得同事高度评价与喜爱工作内容及员工评价总结与展望PART07多方面能力强涵盖NLP、图像识别等精准高效图像识别精准度高，NLP处理能力强应用广泛跨领域知识融合，个性化推荐大模型多方面能力未来科技发展作用大模型引领AI技术前沿推动技术创新在各行业实现智能化升级提升行业效率个性化推荐提升用户体验改变生活方式4.5典型案例-中关村科金大模型+“医保小智”医保服务数字化转型背景presentationandmakeitintoafilmtousedwiderfieldpresentationandmakeitintoafilmtousedwiderfield医保服务问题与新质生产力presentationandmakeitintoafilmtousedwiderfieldpresentationandmakeitintoafilmtousedwiderfield新质生产力应用与成效presentationandmakeitintoafilmtousedwiderfieldpresentationandmakeitintoafilmtousedwiderfield总结与展望presentationandmakeitintoafilmto