《智能信息检索与生成式AI应用》课件-任务6.3大模型技术中的检索增强生成

检索增强生成技术基础01掌握RAG的定义02明确RAG解决的大模型痛点学

习

目

标什么是检索增强生成技术概念检索增强技术（Retrieval-AugmentedGenerationRAG）RAG技术将外部知识库检索与大语言模型生成结合的增强技术，

让大模型基于最新、精准的外部信息输出内容，而非仅依赖训练数据RAG是大模型的“知识外挂”为什么需要RAG大模型本身的局限性时效性大模型的训练是基于截至某一时间点之前的数据集完成的，这意味着大模型对这时间点之后的知识一无所知。如知识库更新至2025年6月，我问的事2025年10月的新事件覆盖性大模型数据集虽然庞大，但仍然无法覆盖所有领域的全部专业特定的深度知识，如医学、法律等大模型当前知识库：2025.62025年9月3日阅兵的核心主题与整体规模是什么？徒步方队有哪些新亮点和特殊构成？这个问题我还无法回答你......RAG与传统大模型的核心差异维度传统大模型RAG技术知识更新方式重新训练/微调更新外部知识库事实准确性易幻觉、不可追溯基于检索源、可验证落地成本高（算力+数据+时间）低（仅维护知识库）个性化适配需定制化微调直接对接企业内部文档RAG的核心组成模块知识库构建数据预处理与索引检索与意图理解生成模块评估模块RAG的核心价值定位01实时更新优势无需重新训练模型，仅更新外部知识库即可实现知识的即时同步与迭代02高可信度保障所有生成结论均可追溯到检索的原始信息源，确保信息准确性与可验证性03低成本落地特性通过避免高频微调大模型的操作，显著降低算力消耗与时间成本，提升部署效率RAG典型应用场景基于产品手册、FAQ文档回答用户问题智能客服/问答系统01员工可以快速查询公司内部的流程、制度、项目文档企业知识库助手02基于大量论文、报告进行问答和分析学术/研究助手03基于法律法规、病历档案等提供信息参考专业领域咨询04常见误区：RAG是“取代大模型”吗？RAG是“增强”而非“取代”大模型RAG依赖大模型的生成能力，无法独立完成自然语言回答大模型通过RAG弥补知识缺陷，拓展适用场景RAG大模型带参考书的满腹经纶的学生一个满腹经纶的学生小

结检索增强生成技术RAG，是指将外部知识库检索与大语言模型生成结合的增强技术，

让大模型基于最新、精准的外部信息输出内容，而非仅依赖训练数据RAG与传统大模型的核心差异RAG的核心组成模块包括知识库构建、数据预处理和索引、检索与意图理解、生成模块、评估模块等RAG的核心价值包括实时更新优势、高可信度保障和低成本落地等特性RAG的应用场景包括智能客服问答、企业只是助手、学术研究助手以及专业领域咨询检索增强生成技术原理01理解RAG技术的原理和流程学

习

目

标RAG的基本原理核心思想首先，根据用户查询，从外部知识库（如向量数据库）中检索出最相关的信息片段作为证据然后，将这些检索到的上下文与原始查询动态集成，形成增强提示最后，模型严格依据此增强上下文生成答案，显著提高答案的准确性与时效性，并有效减少事实性幻觉RAG的核心流程反馈优化：根据用户反馈调整检索/生成策略生成阶段：结合检索信息+问题生成回答知识库预处理：把原始数据变成可检索的格式检索阶段：根据用户问题找知识库的相关信息第一阶段：知识预处理1.数据收集与拆分收集所有相关文档（如PDF、Word、网页、数据库记录等）将文档切分成大小合适的“块”（Chunks），例如一段文字或一个章节。块的大小是平衡检索精度和上下文完整性的关键参数拆分原则：保持语义完整性（如按段落、章节）；常用方法：固定长度拆分（如每200字一段）、语义拆分（用大模型判断语义边界）一篇5000字的“2025手机发布会文档发布会时间地点（100字）新品参数（800字）价格政策（300字）......第一阶段：知识预处理2.文本向量化把文本片段转化为数值向量（Embedding），让计算机能计算“语义相似度”，语义相似的文本，向量距离更近将所有文本块的向量及其对应的原始文本，存储到向量数据库中2025新款手机电池容量5000mAh手机配备5000mAh大容量电池余弦相似度>0.9语义高度相似第一阶段：知识预处理3.索引构建把向量化后的Chunk存到“索引库”，加速检索速度常用索引类型：倒排索引、向量索引第二阶段：检索阶段用户问题预处理对用户问题做“清洁+补全”，让检索更精准去除冗余信息、补全省略内容、向量化2025新款手机X10电池容量5000mAh[0101,0101,1100,1001,00101......第二阶段：检索阶段2025新款手机电池摄像头像素......手机配备5000mAh大容量电池手机的电池多大？手机的续航时间......相似度0.250.950.55问题跟该内容相似度最高第二阶段：检索阶段混合检索结合“关键词检索（如X10）”和“语义检索”，提升精准度2025新款手机X10电池容量5000mAh第三阶段：生成阶段构建把“用户问题+检索到的Chunk”整合成Prompt，输入大模型经典Prompt结构：“基于以下信息回答问题：{检索到的Chunk}问题：{用户问题}检索Chunk：“2025年X10手机配备5000mAh电池，支持低温续航优化”；用户问题：“X10手机电池多大？”；Prompt基于以下信息回答问题：2025年X10手机配备5000mAh电池，支持低温续航优化

问题：X10手机电池多大？

要求：回答准确、简洁”。第三阶段：生成阶段信息整合与优化大模型会对检索Chunk做3件事1.提取核心信息（如“5000mAh”）；2.剔除无关内容（如“低温续航优化”）；用自然语言组织回答大模型接收Prompt后，输出：“2025年X10手机的电池容量为5000mAh”。（若检索到多个Chunk，大模型会整合重复信息，避免冗余）第三阶段：信息整合与优化大模型会对检索Chunk做3件事1.提取核心信息（如“5000mAh”）；2.剔除无关内容（如“低温续航优化”）；用自然语言组织回答第四阶段：反馈与优化检索效果评估召回率：知识库中相关的Chunk是否被检索到；精准率：检索到的Chunk是否和问题相关

生成评估效果

用“回答准确性”“信息完整性”评估，调整Prompt原回答：“X10电池容量5000mAh”（遗漏“低温续航”）；调整后Prompt：“基于以下信息回答问题：{Chunk}问题：{用户问题}要求：回答需包含所有相关信息”；新回答：“2025年X10手机的电池容量为5000mAh，同时支持低温续航优化”。小

结RAG的基本原理：首先，根据用户查询，从外部知识库中检索出最相关的信息片段作为证据然后，将这些检索到的上下文与原始查询动态集成，形成增强提示最后，模型严格依据此增强上下文生成答案，显著提高答案的准确性与时效性，并有效减少事实性幻觉核心流程包括知识库预处理、检索阶段、生成阶段、反馈优化检索增强生成技术应用01了解RAG在主流行业落地方式02认识RAG应用中的常见挑战与解决学

习

目

标RAG的主流应用领域内部文档检索企业知识库知识点答疑教育辅助理财/合规解答金融服务权威健康信息医疗咨询产品/售后答疑企业客服企业客服场景痛点客服需记大量产品信息，新员工培训周期长；产品信息更新快，客服易答错RAG落地方式知识库：产品手册、价格表、售后政策、常见问题；流程：用户问题→RAG检索知识库→生成标准化回答RAG客服效果提升回答准确率：从人工85%→98%；响应速度：从人工3分钟→5秒；培训成本：新员工周期从2周→1天用户：“我的X产品坏了，怎么申请售后？”RAG检索：售后政策中“X产品申请流程”Chunk；生成：“您可通过以下步骤申请：1.打开官网售后页；2.上传购买凭证；3.填故障描述；4.提交后1个工作日内客服联系”示例医疗咨询场景痛点用户易被错误医疗信息误导；医生重复回答常见问题耗时久RAG落地方式知识库：权威医学指南（如《中国临床诊疗指南》）、药品说明书；合规要求：回答标注来源，不做诊断/处方建议用户：“感冒了可以吃头孢吗？”RAG检索：《抗菌药物指导原则》中“普通感冒用药”Chunk；生成：“根据《抗菌药物临床应用指导原则》，普通感冒多由病毒引起，无需用头孢；若合并细菌感染，需医生指导使用”（标注来源）”示例金融理财服务场景痛点理财产品信息（收益率、风险）更新频繁；金融合规要求高，回答需符合监管RAG落地方式知识库：产品说明书、监管文件（如《理财业务监管办法》）、实时收益率；流程：用户问题→RAG检索合规库+实时数据→生成回答用户：“XX理财最新收益率+风险等级？”RAG检索：1.实时数据：XX理财2025年1月收益率3.2%；2.产品书：风险等级R2（中低）；生成：““XX理财2025年1月年化收益率3.2%，风险等级R2（中低），适合稳健型投资者”示例企业内部知识库检索场景痛点

企业文档多（项目报告、流程），员工检索耗时久；新员工难快速找所需文档RAG落地方式

知识库：内部文档（Word/PDF）、项目数据、流程规范；流程：员工问题→RAG检索→生成回答+文档链接用户：“项目报销流程+所需材料？”RAG检索：《报销管理规范》Chunk；生成：“报销流程：1.OA提交申请；2.传发票+审批单；3.部门+财务审核打款。材料：发票、审批单、费用明细。文档链接：[OA地址]”示例企业部署RAG步骤明确需求构建知识库选择工具搭建流程上线优化确定待解决的场景（如客服/知识库）整理场景相关的文档、数据向量数据库、向量化模型（BGE）、大模型（文