AI连接外部世界完全指南:知识库、RAG、API与MCP核心概念深度解析_第1页
AI连接外部世界完全指南:知识库、RAG、API与MCP核心概念深度解析_第2页
AI连接外部世界完全指南:知识库、RAG、API与MCP核心概念深度解析_第3页
AI连接外部世界完全指南:知识库、RAG、API与MCP核心概念深度解析_第4页
AI连接外部世界完全指南:知识库、RAG、API与MCP核心概念深度解析_第5页
已阅读5页,还剩33页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

AICONNECTINGTHEEXTERNALWORLDAI连接外部世界完全指南知识库·RAG检索增强生成·API应用程序接口·MCP模型上下文协议四大核心概念深度解析·从基础原理到实战应用·AI名词解释系列核心概念篇CONTENTS·目录课程目录01AI连接外部世界概述为什么需要连接·四层架构·四大概念概览02知识库定义价值·资料类型·质量标准·建设流程03RAG检索增强生成工作流程·向量数据库·优势局限·法律应用04API应用程序编程接口定义原理·关键要素·应用场景·适配挑战05MCP模型上下文协议USB-C比喻·架构原理·三类能力·生态发展06关系、安全与总结API与MCP关系·权限管理·合规检查·学习路径学习目标:系统掌握AI连接外部世界的四大核心技术,理解各自原理、适用场景与协同关系,能够评估AI产品的连接能力与安全合规水平。01AI连接外部世界概述为什么AI需要连接外部世界·四层架构总览·四大核心概念CHAPTER01·概述为什么AI需要连接外部世界?大语言模型的知识是训练时固化的,面对真实业务场景存在三大核心局限。知识时效性局限模型训练完成后,知识就被冻结。新发布的法规、最新的司法解释、近期的案例更新,模型都无法自动获取。私有知识无法访问企业内部制度、合同范本、业务文档、内部法律意见等私有资料,模型训练时不会接触,也无法直接查询。无法执行实际操作模型只能生成文字,无法查询数据库、读取网盘文件、发送邮件、提交审批,需要连接外部系统才能行动。连接层的核心使命让AI能够获取最新知识、访问私有资料、连接业务系统、执行实际操作,从"只会聊天"进化为"能动手的智能体"。知识库、RAG、API和MCP共同构成了AI连接外部世界的技术基础。CHAPTER01·概述AI能力的四层架构总览AI神经网络连接全球数据节点模型层AI是总称,LLM(大语言模型)负责理解和生成语言,是整个系统的核心引擎信息层Prompt提出任务,Context提供当前材料,Memory保存以后还能取回的信息行动层Workflow沿预设路径运行,Agent根据中间结果选择行动,Tool提供能力,Skill提供方法连接层知识库保存外部资料,RAG负责检索后生成,API和MCP连接外部系统(本篇重点)评估AI产品的四层检查法沿着四层检查:资料来源、工具范围、操作权限、保存期限、输出核验和过程记录,最后确认由谁作出决定。学习要点:以后再遇到新的产品名称,先看它属于模型、信息、行动还是连接层,理解起来会轻松许多。CHAPTER01·概述连接层四大核心概念概览概念全称核心职责一句话理解知识库KnowledgeBase保存系统可以查询的外部资料,经过收集和组织供系统检索知识库决定AI可以去哪里查资料RAG检索增强生成找到相关资料,再让模型结合资料生成回答,先检索后生成RAG先把相关资料找来,再让模型参考回答API应用程序编程接口某个软件开放功能时使用的接口约定,规定软件间怎样请求功能API告诉两个软件怎样把一次调用说清楚MCP模型上下文协议AI应用连接外部资源和工具时使用的一套通用协议,标准化连接方式MCP让AI应用用统一方式发现和使用外部能力关系提示:知识库是资料存储,RAG是检索+生成的流程,API是具体软件接口,MCP是AI应用的通用连接协议。四者协同工作,共同构成AI连接外部世界的完整技术栈。02知识库先确定AI可以查哪些资料·定义价值·资料类型·质量标准·建设流程CHAPTER02·知识库知识库的定义与核心价值现代化数据中心,知识库的物理载体定义知识库是经过收集和组织、供系统查询的一组资料。这些资料放在模型外部,用户提问后系统从中找出相关内容再交给模型处理。一句话理解:知识库决定AI可以去哪里查资料。核心价值突破知识边界

让AI能够访问模型训练时没有的私有资料和最新信息降低幻觉风险

为模型提供可追溯的参考资料,减少凭空编造的可能性关键认知把一批法规加入知识库,不会重新训练大语言模型。知识库是模型外部的资料集合,与模型参数是完全分离的。CHAPTER02·知识库知识库包含哪些资料类型以法律领域为例,知识库可纳入六大类资料,覆盖从规范到实践的完整知识体系。法律法规宪法、法律、行政法规、地方性法规、部门规章等规范性文件,是知识库的核心基础。司法解释最高人民法院、最高人民检察院发布的司法解释及指导性案例,对法律适用具有重要指导意义。案例裁判文书各级法院公开的裁判文书、典型案例,帮助理解法律在实际案件中的适用和裁判倾向。合同范本各类标准合同模板、示范文本,为合同起草、审查和修改提供参考依据和最佳实践。企业制度企业内部规章制度、管理办法、操作流程,是企业AI应用中最具个性化的私有知识。内部法律意见历史法律意见书、业务文档、合规审查记录,沉淀企业法务团队的专业经验和判断。CHAPTER02·知识库知识库与模型训练的本质区别把资料加入知识库不等于重新训练模型,两者在原理、成本和灵活性上有本质差异。对比维度知识库(外部资料)模型训练(参数学习)原理资料存储在模型外部,提问时检索相关内容作为上下文通过大量数据调整模型内部参数,将知识"内化"到权重中更新成本极低,随时增删改资料,即时生效极高,需要重新训练或微调,耗时耗算力可追溯性高,回答可附引用来源,便于核对原文低,知识融入参数后难以溯源具体来源适用场景频繁更新的私有知识、法规政策、企业文档通用语言能力、领域风格迁移、稳定知识固化实践结论:企业AI应用中,知识库是首选方案——更新灵活、成本低、可追溯;模型训练/微调仅用于需要固化风格或通用能力的场景。CHAPTER02·知识库法律知识库的质量评估标准法律知识库好不好用,先看资料本身。四个维度决定知识库的可靠性和实用性。01来源是否权威优先采用官方发布渠道,如全国人大、最高法、最高检、国务院等权威来源。避免使用未经核实的第三方转载,确保资料的原始性和准确性。02版本和效力状态是否准确法律法规会经历制定、修改、废止等过程。必须标注每部法规的现行版本、生效日期、效力状态(现行/已修订/已废止),避免引用失效条款。03更新是否及时法律法规和司法解释持续更新。建立定期更新机制,新法规发布后及时纳入知识库,确保AI回答基于最新有效的法律依据。04访问权限是否设置妥当不同资料有不同的保密级别和访问范围。按角色和部门设置细粒度权限,确保用户只能访问其授权范围内的资料,防止信息泄露。CHAPTER02·知识库知识库建设流程与最佳实践从资料收集到持续运营,知识库建设是一个系统化的五步流程。第一步·收集确定资料范围和来源渠道从官方渠道获取原始文件按类别整理归档建立资料清单和台账第二步·清洗去除重复和无效资料统一格式和命名规范标注版本和效力状态校验内容完整性第三步·切分按语义单元切分文档控制合理的块大小保留上下文关联添加元数据标签第四步·入库生成向量嵌入表示存入向量数据库建立索引加速检索配置访问权限第五步运营持续更新效果评估反馈优化最佳实践知识库不是一次性工程,而是持续运营的系统。建立"收集-清洗-切分-入库-运营"的闭环,定期评估检索准确率和回答质量,根据用户反馈持续优化。03RAG检索增强生成先检索,再生成·工作流程·向量数据库·优势局限·法律应用CHAPTER03·RAGRAG的定义与基本原理定义RAG是Retrieval-AugmentedGeneration的缩写,中文译为"检索增强生成"。它是一种将信息检索与文本生成相结合的技术架构。基本原理:先检索,再生成第一步:用户提问用户提出问题,如"某项司法解释目前是否有效?"第二步:检索相关资料系统从外部知识库中检索原文、修订信息和相关文件第三步:生成回答把问题和检索结果一起交给大语言模型,依据材料作答并附来源一句话理解RAG先把相关资料找来,再让模型参考这些资料回答。CHAPTER03·RAGRAG的完整工作流程从文档入库到答案生成,RAG系统包含离线索引和在线检索两大阶段、六个核心步骤。离线索引阶段(系统准备)1.文档加载与切分加载各类文档(PDF、Word、网页等),按语义单元切分成合适大小的文本块,保留上下文关联。2.向量嵌入生成使用Embedding模型将每个文本块转换为高维向量表示,捕捉语义信息,便于计算机比较相似度。3.存入向量数据库将向量和原始文本一并存入向量数据库,建立高效索引,支持快速相似度检索。在线检索阶段(用户提问时)4.查询向量化将用户问题也转换为向量表示5.相似度检索在向量库中找到语义最相近的Top-K文本块6.增强生成检索结果+问题拼接成Prompt,LLM生成答案CHAPTER03·RAGEmbedding嵌入与向量数据库什么是Embedding(嵌入)Embedding是把文字转换成便于计算机比较的数字表示(高维向量)的技术。核心价值:语义相近的文字,在向量空间中距离也相近。例如"合同"和"协议"虽然字面不同,但语义相近,向量距离就很近。什么是向量数据库向量数据库是专门存储和检索高维向量的数据库系统。它的核心能力是相似度检索:给定一个查询向量,快速找到空间中距离最近的Top-K个向量。常见向量数据库:Milvus、Pinecone、Weaviate、Chroma、FAISS等。Embedding如何工作:从文字到向量的转换过程原始文本"根据合同法规定..."Embedding模型编码转换,捕捉语义高维向量[0.12,-0.34,0.56,...]存入向量库支持快速检索CHAPTER03·RAGRAG的核心优势与价值补充时效性知识RAG可以补充模型训练之后出现的资料。新发布的法规、最新的司法解释、近期的案例更新,都可以通过知识库实时纳入,让AI的回答基于最新有效的信息,而不是停留在训练截止日期。接入私有领域知识企业内部制度、合同范本、业务文档、内部法律意见等私有资料,模型训练时不会接触。RAG通过知识库让AI能够访问这些个性化资料,实现企业级的私有化AI应用。降低幻觉风险大语言模型存在"幻觉"问题,可能编造不存在的法条或案例。RAG为模型提供真实的参考资料,引导模型基于检索到的内容生成回答,显著减少凭空编造的可能性。可追溯引用来源RAG系统便于展示引用来源。回答可以附上检索到的原文出处,用户能够核对原始文件,验证回答的准确性。这在法律、医疗等对准确性要求极高的领域尤为重要。CHAPTER03·RAGRAG的局限性与风险RAG无法保证回答准确。认识其局限性,才能在法律等专业场景中正确使用。!检索不完整系统可能没有找全资料。检索算法可能遗漏关键文档,或Top-K数量不足导致重要信息未被纳入上下文。!知识库过期知识库可能已经过期。如果更新机制不完善,已废止的法规、失效的司法解释仍可能被检索和引用。!模型误读文件模型也可能误读文件。即使检索到正确的资料,大语言模型仍可能理解偏差、断章取义或错误适用。最严重的风险:模型可能写出材料中没有的结论。即使提供了参考资料,大语言模型仍可能"幻觉"出检索内容中不存在的法条、案例或解释,这在法律场景中可能导致严重后果。法律研究中的正确态度RAG改变的是资料获取和利用方式。最终判断仍要回到原文,核对文件效力、适用条件和上下文。AI是辅助工具,不是最终决策者。CHAPTER03·RAGRAG在法律研究中的应用RAG正在深刻改变法律行业的工作方式,从法规检索到合同审查,应用场景不断扩展。法律法规智能检索用户用自然语言提问,系统自动检索相关法规、司法解释和案例,生成结构化回答并附引用来源。相比传统关键词检索,语义检索能找到字面不同但含义相关的内容。合同审查与风险识别将合同范本、审查要点、风险条款库纳入知识库,AI自动比对合同条款与标准模板,识别潜在风险点,提出修改建议,大幅提升合同审查效率。案例分析与类案检索基于裁判文书知识库,AI可以根据案情描述自动检索相似案例,分析裁判倾向,预测案件结果,为律师制定诉讼策略提供数据支撑。合规咨询与制度问答将企业内部制度、合规要求、操作流程纳入知识库,员工可以用自然语言咨询合规问题,获得基于企业制度的准确回答,降低合规风险。CHAPTER03·RAGRAG实战案例:司法解释效力查询用户提问"《最高人民法院关于适用〈中华人民共和国民法典〉时间效力的若干规定》目前是否有效?"RAG系统处理流程1.查询向量化将用户问题转换为向量表示,捕捉查询语义2.相似度检索在向量库中检索司法解释原文、修订信息、效力状态3.上下文拼接将检索结果与用户问题拼接成增强Prompt4.生成回答LLM依据材料作答,附引用来源系统输出示例该司法解释目前有效。《最高人民法院关于适用〈中华人民共和国民法典〉时间效力的若干规定》于2020年12月14日由最高人民法院审判委员会第1821次会议通过,自2021年1月1日起施行,截至目前未被废止或修订。引用来源:最高人民法院公告、法释〔2020〕15号04API应用程序编程接口软件之间约定好的接口·定义原理·关键要素·应用场景·适配挑战CHAPTER04·APIAPI的定义与核心概念定义API是ApplicationProgrammingInterface的缩写,即应用程序编程接口。它是某个软件开放功能时使用的接口约定。API的核心作用:软件之间的通信桥梁请求方(客户端)AI应用、第三方系统,需要使用其他软件的功能或数据API接口约定请求格式、参数、返回数据、身份验证提供方(服务端)案例数据库、文档系统、业务系统,开放功能供外部调用一句话理解API告诉两个软件怎样把一次调用说清楚。CHAPTER04·APIAPI的工作原理与调用流程程序员通过API接口实现系统间的数据交互一次API调用包含四个核心步骤,形成完整的请求-响应闭环。1客户端发起请求AI应用按照API约定的格式,提交请求参数和身份凭证2服务端身份验证与参数校验验证调用者身份和权限,检查参数格式和业务规则3服务端执行业务逻辑查询数据库、调用内部服务、生成文档或执行其他操作4返回响应结果按照约定格式返回数据、状态码和错误信息,客户端接收处理常见API协议类型RESTAPI:最常用,基于HTTP协议,资源导向GraphQL:灵活查询,客户端可指定返回字段gRPC:高性能,基于ProtocolBuffers序列化WebSocket:双向实时通信,适合推送场景CHAPTER04·APIAPI的四大关键要素每套API都会说明四个关键要素,这是理解和使用API的核心。1.开放哪些功能API文档会列出所有可用的接口端点(Endpoint),每个端点对应一个具体功能。例如案例数据库API可能提供:案例检索、案例详情获取、统计分析等功能。2.需要提交什么参数每个接口需要的输入参数,包括参数名称、数据类型、是否必填、取值范围等。例如案例检索需要:关键词、法院层级、裁判日期范围、页码等参数。3.返回何种数据接口返回的数据格式和字段说明,通常是JSON格式。包括状态码、数据内容、分页信息、错误提示等。调用方需要根据返回格式解析和使用数据。4.怎样验证调用者身份身份认证机制,常见方式包括APIKey、OAuth2.0令牌、JWT等。服务端通过身份验证确认调用者权限,防止未授权访问和滥用。CHAPTER04·APIAPI在AI产品中的应用场景AI产品通过API连接各类外部系统,实现数据查询、文档生成、业务操作等功能。应用场景API调用方式具体示例法律数据查询调用案例数据库、法规库的检索API法律AI查询案例数据库时,通过API提交检索条件(关键词、法院、日期)并取得案例列表和详情文档生成处理调用文档系统、模板引擎的生成API需要生成法律文书时,调用文档系统API,传入模板编号和填充数据,生成Word/PDF格式的合同或函件业务系统操作调用OA、CRM、ERP等业务系统的操作APIAI助手通过OA系统API提交审批流程、查询待办事项、发送通知消息,实现业务流程自动化第三方服务集成调用支付、短信、地图、翻译等公共服务APIAI产品集成短信通知API发送验证码、集成翻译API实现多语言支持、集成支付API完成在线缴费关键提示:AI产品连接多个外部系统时,通常要逐一适配这些接口,每个API都有独立的格式、参数和认证方式。CHAPTER04·APIAPI适配的挑战与解决方案AI产品连接多个外部系统时,API适配面临三大挑战,需要相应的解决方案。挑战一:接口异构性不同系统的API格式、参数、认证方式各不相同。REST、GraphQL、gRPC混用,数据格式JSON、XML、protobuf并存,适配工作量大。挑战二:稳定性与限流外部API可能超时、报错或限流。高并发场景下容易触发频率限制,网络波动导致调用失败,影响AI产品的可靠性。挑战三:安全与权限API密钥管理复杂,权限粒度难以控制。不同系统的认证机制不统一,数据传输和存储的安全合规要求高,存在数据泄露风险。解决方案统一适配层:构建API网关或中间件,将异构接口转换为统一格式,屏蔽底层差异,简化AI产品的调用逻辑。容错与限流:实现重试机制、熔断降级、请求缓存和限流控制,提高系统稳定性,应对外部API的不可靠性。安全管控:统一密钥管理、细粒度权限控制、数据加密传输、调用审计日志,确保API调用的安全合规。05MCP模型上下文协议AI世界的USB-C接口·定义价值·架构原理·三类能力·生态发展CHAPTER05·MCPMCP的定义与核心价值定义MCP是ModelContextProtocol的缩写,即模型上下文协议。它是一个开放协议,标准化AI应用与外部资源、提示词和工具之间的连接方式。核心比喻:AI世界的USB-C接口USB-C解决了什么问题USB-C提供了连接设备和外设的标准化方式,一根线可以充电、传数据、连显示器,告别了各种专用接口。MCP解决了什么问题MCP提供了AI模型连接不同数据源和工具的标准化方式,一个协议可以接数据库、文件、API,告别了逐个适配的困境。MCP的三大核心价值标准化连接:统一接口规范,降低集成成本跨模型兼容:支持任何AI模型,不绑定特定厂商双向交互:支持读取和写入操作,实现真正的行动能力CHAPTER05·MCPMCP的客户端-服务器架构AI智能体通过MCP协议连接外部工具和系统MCP遵循客户端-服务器架构,一个宿主应用可以连接多个MCP服务器。MCP客户端(宿主)AI应用,如Claude、ChatGPT、Cursor等MCP协议层JSON-RPC2.0标准化通信协议MCP服务器外部系统封装,提供特定能力架构特点一对多连接:一个客户端可同时连接多个MCP服务器动态发现:客户端自动发现服务器提供的能力双向通信:支持读取和写入,实现真正行动能力安全隔离:每个服务器独立运行,权限隔离这种架构让AI应用能够以统一方式连接和使用各种外部系统,告别逐个适配API的困境。MCP服务器内部实现可能仍调用原有API,但对外提供标准化的MCP接口。常见MCP服务器类型数据库服务器:连接MySQL、PostgreSQL等文件服务器:访问本地文件、网盘GitHub服务器:代码仓库操作Slack/飞书服务器:消息发送与查询浏览器服务器:网页访问与操作CHAPTER05·MCPMCP服务器的三类核心能力在MCP中,服务器可以提供三类常见能力:资源、提示词和工具。资源(Resources)定义供应用读取的数据,如文件内容、数据库记录、API返回数据等。法律领域示例企业文档系统提供合同文件资源法规数据库提供法律条文资源案例库提供裁判文书资源知识库提供内部制度资源提示词(Prompts)定义供用户选择的预设提示词模板,封装特定任务的最佳实践。法律领域示例合同审查提示词模板法律意见书生成模板案例分析报告模板合规检查清单模板工具(Tools)定义供模型调用的可执行功能,支持读取和写入操作,实现真正的行动能力。法律领域示例法律数据库提供案例检索工具文档系统提供文件生成工具合规系统提供风险查询工具OA系统提供审批提交工具CHAPTER05·MCPMCP的工作流程与实际应用从连接建立到工具调用,MCP的完整工作流程包含五个核心步骤。1建立连接客户端启动并连接MCP服务器,完成握手和初始化2能力发现客户端查询服务器提供的资源、工具和提示词列表3读取资源根据需要读取特定资源,获取文件内容或数据记录4调用工具模型决定调用工具,执行检索、生成、提交等操作5返回结果生成回答实际应用案例:法律XX通过MCP连接多系统用户对法律XX说:"帮我审查这份合同并提交合规审批。"第一步:AI通过文档系统MCP服务器的资源能力,读取合同文件内容第二步:AI调用法规数据库MCP服务器的案例检索工具,查询相关法律条文和判例第三步:AI使用合同审查提示词模板,结合法规知识生成审查意见第四步:AI调用OA系统MCP服务器的审批提交工具,将审查意见提交合规审批流程CHAPTER05·MCPMCP的发展历程与生态现状发展历程时间线2024.04Anthropic内部提出MCP概念,解决开发者工作流痛点2024.11Anthropic正式开源发布MCP,标志AI从聊天向行动转型2025.03发布安全与信任原则规范,完善授权和安全机制2025.06服务器功能规范发布,明确资源、工具、提示词三大能力2025.11授权规范更新,纳入Linux基金会AgenticAI基金会治理生态现状主流AI客户端支持Claude、ChatGPT、Cursor、Windsurf、Cline等主流AI应用均已支持MCP协议,成为AI客户端的标准配置。MCP服务器生态GitHub、Slack、Notion、GoogleDrive、数据库、文件系统等数百种MCP服务器可用,覆盖主流工具和服务。行业标准地位MCP已成为AI领域连接外部工具和数据源的事实标准,被纳入Linux基金会治理,生态持续快速膨胀。06关系、安全与总结API与MCP的关系·安全权限管理·合规检查·四层架构回顾CHAPTER06·关系与安全API与MCP的区别与联系对比维度API(应用程序编程接口)MCP(模型上下文协议)定位描述某个软件对外开放的具体接口关注AI应用怎样发现并调用外部资源和工具范围特定软件的功能接口,每个系统独立定义通用协议层,标准化AI与所有外部系统的连接交互方式请求-响应模式,调用方需了解具体接口格式动态发现+工具调用,AI自动发现和使用能力方向性主要是单向读取,写入需额外设计双向通信,支持读取和写入操作核心结论:API连接具体软件,MCP统一AI应用调用外部能力的方式。两者不是竞争关系,而是互补关系——MCP服务器的内部实现可能仍会调用原有API。CHAPTER06·关系与安全API与MCP协同工作案例以法律XX查询案例数据库为例,展示API与MCP如何协同工作。用户"帮我查一下最近三年的劳动争议案例"AI应用(MCP客户端)理解用户意图,决定调用案例检索工具案例数据库MCP服务器接收MCP工具调用请求,转换为内部API调用案例数据库原有API协同工作流程详解第一步:用户向AI应用提出查询需求,AI理解用户意图第二步:AI作为MCP客户端,通过MCP协议调用案例数据库MCP服务器的"案例检索"工具,传入检索条件(关键词、时间范围、案件类型)第三步:MCP服务器接收到工具调用请求后,将其转换为案例数据库原有的RESTAPI调用格式,向数据库后端发起请求第四步:数据库API返回检索结果,MCP服务器将结果按照MCP协议格式返回给AI应用第五步:AI应用结合检索结果,生成

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论