版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
第1章
垂直领域大模型概述汇报人:XXX目录
一大模型基础知识02通用大模型能力边界四垂直领域大模型构建路径五垂直领域大模型应用场景三垂直领域大模型构建需求二通用大模型能力边界目录
一大模型基础知识02通用大模型能力边界四垂直领域大模型构建路径五垂直领域大模型应用场景三垂直领域大模型构建需求二通用大模型能力边界从计算机诞生之初,人类就在追求让机器实现类似于人的“智能”。人工智能起源一、大模型基础知识(一)人工智能发展历程
人类也一直在探索“智能”的本质,希望赋予机器感知、理解、计算、推理、思考和学习等能力,致力于让机器模仿、延伸和拓展人类智能,不断地适应到新场景,执行更为复杂的任务,实现替代人类工作的愿景。一、大模型基础知识(一)人工智能发展历程1950年图灵论文引出模仿游戏为基,对话辨识为法,智能判定之始,奠定AI思想基石。图灵测试概念
将“机器是否具有智能”的问题转化为“测试者能否在对话过程中分辨身份”的问题。(定性概念,超过30%即认为通过测试,具备人类智能)1950年图灵论文引出模仿游戏为基,对话辨识为法,智能判定之始,奠定AI思想基石。图灵测试概念一、大模型基础知识(一)人工智能发展历程图灵测试定义了机器智能的标准,激发了科学家探索人工智能的热情,为人工智能的诞生奠定了思想基础。一、大模型基础知识(一)人工智能发展历程1956年达特茅斯会议,AI命名启航,范式变迁,螺旋上升,创新与挑战并行。AI发展历程1956年8月,在美国达特茅斯学院举办的人工智能夏季研讨会,是人工智能领域具有里程碑意义的一次重要会议。一、大模型基础知识(一)人工智能发展历程1956年达特茅斯会议,AI命名启航,范式变迁,螺旋上升,创新与挑战并行。AI发展历程数据模型算力1956年达特茅斯会议,AI命名启航,范式变迁,螺旋上升,创新与挑战并行。AI发展历程一、大模型基础知识(一)人工智能发展历程人工智能三次浪潮:第一次“浪潮”:发生在20世纪50年代中期到70年代前期。从达特茅斯会议之后,人工智能在逻辑推理方面展现出巨大潜力,人们对人工智能产生了较大预期,人工智能的发展进入了第一个黄金时期。1956年达特茅斯会议,AI命名启航,范式变迁,螺旋上升,创新与挑战并行。AI发展历程一、大模型基础知识(一)人工智能发展历程人工智能三次浪潮:第一次“低谷”:发生在20世纪70年代后期到80年代前期,受限于计算机有限的运算速度和存储能力,人工智能难以有效解决实际问题,逐步遇到技术瓶颈,出现了资金困境。1956年达特茅斯会议,AI命名启航,范式变迁,螺旋上升,创新与挑战并行。AI发展历程一、大模型基础知识(一)人工智能发展历程人工智能三次浪潮:第二次“浪潮”:发生在20世纪80年后期到90年代初期。通过模拟人类专家知识解决实际问题的专家系统出现,能够为特定领域提供辅助决策服务,出现了一些商业化产品,人工智能实现了从理论到应用的突破。1956年达特茅斯会议,AI命名启航,范式变迁,螺旋上升,创新与挑战并行。AI发展历程一、大模型基础知识(一)人工智能发展历程人工智能三次浪潮:第二次“低谷”:发生在20世纪90年代中期到21世纪10年代中期。受制于数据量不足、维护成本高等因素,加之专家系统高度依赖规则,人工智能产品的学习和泛化能力较弱,进入了相对平缓的发展期。。1956年达特茅斯会议,AI命名启航,范式变迁,螺旋上升,创新与挑战并行。AI发展历程一、大模型基础知识(一)人工智能发展历程人工智能三次浪潮:第三次“浪潮”:发生在21世纪10年代后期至今。人工智能在图像识别准确率方面首次超越了人类,人工智能在语音识别、数据挖掘、自然语言处理等方面,相继取得突破性进展。基于逻辑规则与符号操作模拟人类思维,通过专家系统实现知识应用,强调功能模拟与符号推演。符号主义学派01以神经网络结构模拟人脑,通过深度学习处理复杂任务,广泛应用于计算机视觉与自然语言处理领域。连接主义学派02一、大模型基础知识(一)人工智能发展历程行为主义将能够感知并与环境交互的个体,抽象为智能体Agent概念,以“感知-动作”模型刻画智能。行为主义学派03符号智能阶段专用智能阶段通用智能阶段(一)人工智能发展历程一、大模型基础知识利用符号和逻辑推理解决问题,专家手工构建规则库和知识库,以解决具体问题和处理特定任务。但是,计算能力和算法存在局限性,且规则与知识难以穷尽,无法解决未覆盖的任务,可扩展性差,难以处理模糊性、不确定性和复杂现实问题。随着计算和存储能力的提升,尝试使用基于神经网络和机器学习的人工智能,在某些专业领域实现类似于人类的思考。特别是在明确规则的场景下,人工智能利用计算机强大的处理能力,可以穷尽一切可能,最终以暴力计算的形式获得最优解。采用无监督预训练方法从海量无标注数据中自动学习知识,以大模型参数存储知识,能力大幅超越传统研究方法。人工智能的应用范式实现了从“无监督预训练+特定任务的微调训练”转变为“大模型+提示工程”,形成了通用人工智能的初级形式。(一)人工智能发展历程一、大模型基础知识通用人工智能发展的5个阶段主要用于智能客服、办公助手等场景,提供信息咨询和问答交互等服务推理大模型,以人类专家水平解决现实问题,能够适用于需要复杂推理的领域不仅能承担复杂任务,还能够做出决策,以适应动态变化的环境具备了创造性和创新能力,辅助人类进行发明创造能够管理复杂系统,承担组织管理工作,通过相互协作提高效率,处理各种复杂问题大模型(Large-scaleModel)是大规模深度学习模型(Large-scaleDeepLearningModel)的简称。遵循GB/T45288.1-2025国家标准定义。大模型定义一、大模型基础知识(二)大模型概念及特点大模型是指基于大量数据训练得到,具有复杂计算架构,能够通过学习处理复杂任务,且具备一定泛化性的深度学习模型。大模型的参数量由其功能和模态决定,一般不低于1亿。大模型定义一、大模型基础知识(二)大模型概念及特点一、大模型基础知识(二)大模型概念及特点大语言模型的发展历程虽然只有短短不到五年,但是发展速度相当惊人,百模大战。截止2025年11月,在中央网信办备案的国产大模型数量已达611款。参数数量大参数规模达数十亿至千亿级,通过海量数据固化知识,形成庞大模型结构。训练数据量大训练数据达数万亿规模,覆盖多领域知识,通过学习掌握语言规律并涌现智能。计算资源需求高训练任务计算密集且重复性强,依赖高性能硬件资源,需消耗巨量算力支撑。010203一、大模型基础知识(二)大模型概念及特点01040203开源大模型和商业大模型是大模型的两种主要存在形式。按开源属性划分大模型的非量化状态和量化状态的核心区别在于参数数值精度和存储计算方式的不同。按量化状态划分模态是指感知事物和表达信息的方式。按照模态不同,大模型可以分为单模态大模型和多模态大模型。按模态数量划分垂直领域大模型架构依任务与数据类型,基于Transformer框架选择。按架构基础划分一、大模型基础知识(三)大模型的分类智能问答依托大模型,整合多领域知识,实现人机多轮对话与认知协作。智能问答大模型可以利用推理能力,实现从多源数据中挖掘分析规律,进行辅助决策。决策支持大模型多模态生成技术,赋能多领域,提升效率与便捷性。内容生成大模型掌握代码逻辑,辅助编程,成为智能协作者,降低开发难度。辅助编程一、大模型基础知识(四)大模型主要功能目录
一大模型基础知识02通用大模型能力边界四垂直领域大模型构建路径五垂直领域大模型应用场景三垂直领域大模型构建需求二通用大模型能力边界二、通用大模型的能力边界
大模型也不是无所不知、无所不能的,它也存在能力边界和局限性。需要我们充分认识到大模型的“能”与“不能”,认识并用好其“能”,接纳并避免其“不能”。通用大模型,在解决通用知识方面的功能虽然强大,类似于“万事通”,但是对于专业领域问题,会出现“泛泛而谈”、“一本正经的胡说八道”或者“幻觉”等现象。
通用大模型的训练数据来源于互联网上的书籍、网页、博客、百科、杂志等公开数据集,集中在与人们日常生活相关方面。
训练数据未经人工标注和严格检验,数据的质量无法保证。二、通用大模型的能力边界(一)知识边界问题二、通用大模型的能力边界(一)知识边界问题通用大模型蕴含知识的领域广度够,但是,蕴含知识的专业深度不够,在满足垂直领域需求方面具有一定的局限性。二、通用大模型的能力边界(二)知识滞后问题知识滞后问题也称为知识陈旧问题,指大模型由于受训练时间的局限,无法掌握最新信息的情况。
大模型通过训练将知识内化到海量参数中,生成内容依赖于训练时储备的知识,而非动态实时更新的知识。二、通用大模型的能力边界(二)知识滞后问题大模型的知识具有一定滞后性,它无法及时更新知识,不能准确回答特定训练时间后的问题。
例如,如果某个大模型的训练时间是2025年8月1日,则它在不联网的情况下,无法准确回答2025年8月1日之后发生的事情。二、通用大模型的能力边界(三)幻觉问题“幻觉”指大模型生成的内容看似语法正确、逻辑严谨,但是存在着事实性错误或者事实无法验证的现象,也被称为“一本正经的胡说八道”。
幻觉问题来源于大模型的内容生成机制,并不验证生成内容的真实性,表现为“语法正确,内容失真”。大模型生成内容语法正确但存在事实性错误,因依赖语料库概率预测与随机抽样,导致无依据的逻辑性输出。幻觉问题本质基于上下文关系与概率分布预测,模型随机抽样生成内容,表面逻辑自洽却缺乏事实验证支撑。生成机制解析2025年3月“防止DeepSeek乱编文献”登热搜,引发公众对大模型学术应用可信度的广泛质疑。案例与讨论二、通用大模型的能力边界(三)幻觉问题目录
一大模型基础知识四垂直领域大模型构建路径五垂直领域大模型应用场景三垂直领域大模型构建需求二通用大模型能力边界三、垂直领域大模型构建需求(一)垂直领域大模型概念“垂直领域大模型”有时也称为“垂类大模型”或者“行业大模型”。
目前,关于“垂直领域大模型”并没有准确、权威的定义,可以理解为针对特定领域应用而开发的大模型。三、垂直领域大模型构建需求(一)垂直领域大模型概念它以通用大模型为基座,通过专业领域数据和知识进行追加训练后,具备更强的专业性、更高的输出质量、更好的特定任务效果。垂直领域大模型能够回答领域特有问题,使得大模型能够在专业领域深度赋能与落地应用。三、垂直领域大模型构建需求(一)垂直领域大模型概念垂直大模型依托专业数据,精准解决复杂任务,优于通用模型。内容专业性较强01垂直领域数据需严格管理流程确保高准确性与安全性。数据准确性要求高02垂直领域需高权威性,通用模型幻觉致信任危机。文字权威性要求严03高保密领域数据需本地私有模型确保安全。安全保密性要求强04需动态更新知识,以适应新数据与业务需求。知识要求动态更新05通过剪枝、蒸馏和量化处理,平衡性能与成本,实现大模型轻量化部署。能够轻量化部署06通用大模型特性通用大模型多任务处理能力强,支持多模态生成,但专业领域表现较弱。01垂直领域大模型优势垂直大模型专注领域,专业精准,数据安全,减少幻觉,满足行业需求。02三、垂直领域大模型构建需求(二)通用大模型与垂直领域大模型区别三、垂直领域大模型构建需求(二)通用大模型与垂直领域大模型区别通才参数规模大千亿参数、万卡算力+行业数据+优化手段通用大模型智能问答内容生成辅助编程决策支持……泛化能力强掌握知识广、适用场景多支持多模态文本、图片、音频、视频专业性弱专才提高性价比十亿参数、百卡左右垂直领域大模型医疗领域法律领域政务领域金融领域……增强专业性可定制优化、涵盖专业知识保障数据安全私有化部署,设权限控制机制提高准确性降低幻觉、提高回答准确性泛泛而谈目录
一大模型基础知识02通用大模型能力边界四垂直领域大模型构建路径五垂直领域大模型应用场景三垂直领域大模型构建需求二通用大模型能力边界通过设计专门的提示词指导大模型生成提示工程04030201四、垂直领域大模型构建路径对大模型的参数进行局部优化调整参数微调外挂垂直领域专用知识库检索增强生成从头开始构建一个全新的大模型预训练四、垂直领域大模型构建路径方法类型方法特点构建成本算力需求提示工程操作简单易于上手,用户体验友好,技术难度低需要设计提示词模板,对问题进行描述,对任务进行声明,引导大模型输出内容只利用模型已有能力,不改变模型参数,能力上限依赖基座大模型千元级,成本非常低低检索增强生成需要构建垂直领域知识库,通过检索相关的知识片段来增强输入给大模型的提示内容,具有一定的可解释性专业领域知识以外挂知识库方式,并没有调整大模型参数支持动态更新知识,无需重新训练十万元级,成本低较低参数微调使用特定领域数据集对模型进行训练,重新调整模型参数微调需要消耗一定算力资源更新知识需要重新微调专业能力提升,但存在灾难性遗忘,通用能力下降百万元级,成本高较高预训练从头开始训练大模型,调整模型所有参数更新知识需要重新对大模型进行训练专业性能力强,具有较强的泛化能力和涌现能力千万元级,成本非常高极高第一步第二步第三步四、垂直领域大模型构建路径提示工程、检索增强生成、参数微调和预训练4条技术路径并非互相排斥,实践中需要根据垂直领域场景的特点,综合衡量性能要求、成本负担和风险控制等因素,进行组合使用。目录
一大模型基础知识02通用大模型能力边界四垂直领域大模型构建路径五垂直领域大模型应用场景三垂直领域大模型构建需求二通用大模型能力边界医生撰写病历耗时12-18分钟,医患沟通不足10分钟,医院数据共享困难,临床指南更新滞后,资源分配不均,药品研发周期长。医疗痛点分析医疗大模型支持药物分析、影像识别、数据整合及病历辅助,缩短药理研究时间,优化诊疗流程,降低误诊漏诊率。大模型应用场景通过实时更新药品说明书,大模型加速医生决策,减少重复工作量,提升诊断准确率与医疗服务质量。效率提升路径五、垂直领域大模型的应用场景(一)医疗大模型医疗大模型可以降低漏诊率和误诊率,有效减轻医生的工作压力,提高医疗效率和质量0102医疗大模型提供在线问诊、用药提醒等个性化服务,提升就医体验与满意度。五、垂直领域大模型的应用场景(一)医疗大模型实现法律在线咨询、文书自动生成、司法辅助和智能决策等功能,具备法律语义理解、逻辑推理、融合搜索、内容生成和合同审查能力,能够快速理解律师需求,提取案件关键词,补充相关信息,帮助律师高效梳理案件要点,完成自动解析法律条文、案例匹配、风险预测等多任务。五、垂直领域大模型的应用场景(二)法律大模型法律大模型还可以提升司法办案效率、降低法律服务门槛,为法律工作现代化提供有力的科技手段支撑。五、垂直
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 医院《护理安全管理条例》测试题附答案
- 张家口市桥西区2025年社区工作人员《网格员》考试全真模拟易错、难点汇编题库(附答案)
- 2026年文件检索测试题目及答案
- 心电监护仪操作流程测试题(含答案)
- 村级两清两改两治理整治实施方案
- 高三冲刺历史资本主义世界市场精讲|新航路 殖民扩张
- 26年银发群体心理特征培训
- 六年级下册英语现在完成时精讲|过去影响 延续至今
- (妇幼人员)基本公共卫生服务项目理论知识试卷
- 《额定功率实际功率对比分析|教师备课专用》
- 2025年上海市青浦区社区工作者招聘笔试试题及答案详解
- 2026江苏苏州工业园区苏相合作区管理委员会机关人员招聘9人模拟试卷含答案详解(夺分金卷)
- 2026年四川省内江市“五方面人员”中选拔乡镇领导班子成员考试综合试题及答案
- 骨代谢疾病诊疗中国指南(2026 版)
- 2026年首都机场招聘笔试试题及答案解析
- 中考英语感叹句综合练习100题(含答案)
- 电力公司发电厂运行维护人员考核表
- 护理按警示教育培训课件
- 睡眠监测使用课件
- DL∕T 5106-2017 跨越电力线路架线施工规程
- 《细胞分子生物学》课件
评论
0/150
提交评论