AI大模型在知识库构建与智能问答的应用

20XX/XX/XXAI大模型在知识库构建与智能问答的应用汇报人:XXXCONTENTS目录01

课程引言02

AI大模型基础认知03

大模型应用的核心逻辑04

大模型下知识库构建流程CONTENTS目录05

大模型智能问答实现路径06

典型落地应用场景07

产业未来应用发展方向08

学习建议与总结课程引言01大模型产业落地需求背景企业数字化转型中，海量知识沉淀亟需高效整理，大模型技术给知识库建设带来新可能。企业知识运营从业者这类从业者日常负责知识库搭建维护，希望借助大模型提升知识管理与问答服务效率。AI技术研发从业者这类技术人员需要落地AI到具体场景，希望获取知识库构建结合大模型的实操参考经验。企业数字化转型负责人这类负责人需要了解大模型赋能知识管理的路径，为企业数字化升级做决策参考。分享背景与受众定位内容框架与学习目标

核心知识学习目标梳理AI大模型在知识库构建、智能问答中的技术逻辑，掌握应用开发的基础核心要点。

整体课程内容框架本课程依次讲解大模型适配改造、知识库搭建、智能问答落地，覆盖完整应用流程。

实践能力培养目标通过学习，可独立完成基于开源大模型的垂直领域知识库问答小项目开发。AI大模型基础认知02大模型核心能力概述

上下文理解能力大模型可精准捕捉长文本的逻辑关联，比如ChatGPT能完整读懂万字需求并给出连贯解决方案。

内容生成能力大模型可根据输入指令生成多样内容，比如GPT-4能依据用户需求生成符合规范的科研论文初稿。

迁移学习能力大模型可将通用领域学到的知识迁移到垂直场景，比如文心一言适配金融领域仅需少量标注数据。为什么选大模型做智能应用

更强语义理解能力大模型可掌握上下文深层语义，能精准识别用户模糊提问，比如GPT-4可准确解析歧义问句。

出色泛化适配能力大模型无需针对特定场景大量标注训练，就能快速适配不同领域的知识库问答需求。

强大内容生成能力大模型可基于知识库信息整合生成自然流畅回答，比如文心一言能生成连贯专业的行业解答。大模型应用的核心逻辑03传统方案的核心痛点

知识更新滞后传统知识库依靠人工录入更新，企业新产品、新规则上线后，知识更新往往延迟数周。

跨文档关联不足传统检索只能匹配关键词，无法梳理不同文档间的隐形关联，难以输出完整整合答案。

场景适配成本高传统问答方案需要针对不同业务场景人工梳理规则，适配新场景需要数月开发周期。大模型+知识库的架构

数据预处理层负责对原始知识库数据做清洗、分词、向量化处理，为后续匹配检索提供标准化数据。

检索匹配层接收用户问题后，从向量化知识库中快速检索出与问题高相关的候选知识片段。

生成响应层大模型结合检索到的知识，整合梳理信息，生成准确且有依据的回答回复用户。检索增强生成技术思路

外部知识库实时检索先根据用户提问，从预设的外部专业知识库中匹配召回相关的精准参考信息。

输入prompt整合拼接把用户原始提问和检索到的参考信息整合，重新拼接成符合大模型要求的输入prompt。

基于参考内容生成回复大模型依据整合后的信息创作回复，既保证内容准确，又能减少幻觉问题的产生。不需要底层算法推导

提示工程设计通过调整提示词格式、约束条件就能引导大模型输出符合要求的知识库问答内容，无需掌握算法推导。

向量召回融合将知识库片段转为向量存储，大模型直接调用匹配片段整合答案，不用拆解底层算法逻辑。

工程化对接配置借助成熟开发框架，只需要完成接口调用和参数调整就能落地应用，无需推导底层算法。大模型下知识库构建流程04目标领域公开数据集获取通过HuggingFace、GitHub等开源平台下载对应领域已标注的公开数据集，获取基础原始语料。垂直领域私有数据清洗整理对企业内部私有文档、业务记录进行去重、格式统一与噪声剔除，筛选可用知识内容。非结构化数据转结构化存储将散落在网页、图片中的非结构化信息提取转换为结构化三元组，方便后续知识加工处理。原始数据采集与整理文本分块策略选择固定长度分块按固定字符数切割文本，操作简单易实现，适合结构规整的长文档，是目前RAG系统常用的基础分块方式。语义相似度分块基于文本语义相似度划分区块，保证区块内语义连贯，OpenAI的文本嵌入分割就采用了这一思路。基于大模型的分块调用大模型自身语义理解能力划分区块，能贴合下游任务需求适配分块逻辑，适配性更强。向量存储与索引构建

01向量维度压缩通过主成分分析等方法降维压缩向量，在保留语义信息的同时，大幅降低存储和检索成本。

02向量分片存储针对大规模知识库，将向量按业务主题分片存储在不同节点，提升检索时的访问响应速度。

03倒排索引构建为向量集合构建倒排索引映射，将关键词与对应向量关联，缩小检索范围加快匹配效率。

04近似最近邻索引采用FAISS等工具构建近似最近邻索引，在保证检索精度的同时，提升亿级向量的检索速度。用户反馈收集整理收集智能问答场景中用户的未命中、错误回答问题，筛选出可补充的有效知识存入待更新池。知识质量定期校验定期检测知识库中过期、错误知识，比如更新企业变动的部门信息，修正错误认知内容。增量知识自动入库通过大模型对爬取到的行业新资讯做处理，提炼合规知识点自动同步更新到现有知识库。知识库迭代与维护大模型智能问答实现路径05用户query语义理解

意图识别模块构建基于BERT预训练模型微调，结合标注用户真实提问数据集，精准识别提问的核心意图。多义词歧义消解处理通过大模型的上下文感知能力，结合领域知识库约束，消除query中歧义词的语义偏差。用户隐含需求挖掘利用大模型的推理能力，结合用户历史对话数据，挖掘出用户提问未直接表述的潜在需求。短文本语义补全针对用户输入的短句、省略句提问，结合上下文场景，补全缺失语义形成完整提问逻辑。相关知识库内容召回

基于向量匹配的召回将知识库内容和用户问题向量化，通过余弦相似度计算，召回和问题匹配度最高的内容。

基于关键词匹配的召回提取用户问题中的核心关键词，在知识库中匹配关键词，召回包含核心关键词的相关内容。

基于混合召回策略融合向量匹配和关键词匹配两种方法，结合两者优势，提升相关内容召回的准确性和全面性。大模型生成答案输出基于检索信息拼接生成根据检索到的知识库匹配片段，拼接整合成通顺答案，百度文心一言常用该方式输出结果。大模型微调生成回答基于检索信息微调大模型参数，让模型自主生成贴合问题的答案，GPT类模型多采用该路径。融合检索结果生成回答结合大模型生成能力与检索结果准确性，生成既贴合问题又保证准确率的回答，微软NewBing采用该模式。典型落地应用场景06新员工制度查询新员工可直接向AI提问各类考勤、报销制度，AI会快速给出准确解答，缩短新人适应周期。岗位职责流程梳理员工咨询跨部门协作流程时，AI可结合企业知识库快速梳理步骤，指引员工完成对接。产品知识统一咨询面对客户咨询产品参数，销售可随时问AI大模型，快速获取官方准确的产品信息。企业内部知识问答智能客服咨询系统

电商售后智能应答淘宝店小蜜可自动处理订单查询、退换货申请等常见售后问题，大幅降低人工客服压力。

企业内部办公咨询企业部署智能客服可自动解答员工考勤、报销规则等问题，提升内部行政服务效率。

金融业务咨询引导招商银行智能客服“小招”可7*24小时解答账户查询、业务办理等客户咨询。教育领域知识答疑K12学科知识点答疑百度文心一言可为中小学生讲解数学公式推导、语文阅读理解，秒答各类学科疑问，适配不同学习进度。高等院校专业知识点解析GPT-4能帮大学生拆解计算机算法原理、讲解经济学模型，梳理复杂专业知识的逻辑脉络。职业教育技能知识解答阿里通义千问可解答职业技能考证的知识点，讲解电工操作、会计实操等内容，辅助在岗人员学习。常见症状初步问询用户可向AI描述自身不适症状，AI结合医学知识库给出初步判断和就诊建议，比如阿里健康的AI问诊助手。用药注意事项答疑用户上传处方或输入药名后，AI可解答用药禁忌、剂量、副作用等疑问，平安好医生AI已实现该功能。慢性病日常护理指导针对高血压、糖尿病等慢性病，AI可根据用户指标给出饮食、运动等日常护理建议，腾讯觅影已应用该服务。医疗辅助咨询问答政务服务智能解答

社保业务咨询浙里办上线AI社保咨询助手，可解答参保缴费、待遇领取等常见问题，提升办事效率。

企业开办审批答疑粤省事AI智能问答机器人，可解答企业开办流程、材料要求等问题，缩短审批周期。

政务投诉指引北京市政务服务网AI助手，可引导民众按流程提交投诉建议，快速对接负责部门。产业未来应用发展方向07多模态知识库搭建趋势跨模态融合深度提升多模态大模型逐步实现文本、图像、视频等信息的深度语义对齐，GPT-4V已实现初步应用落地。轻量化本地部署普及端侧算力不断提升，多模态知识库逐步走向轻量化本地部署，降低中小企业部署使用门槛。多模态知识动态更新多模态知识库将支持实时抓取最新多模态数据，自动更新知识内容，保证知识时效性。低门槛定制化开发方向无代码拖拽式定制平台

百度文心一言推出低代码开发平台，用户拖拽模块就能搭建专属行业AI知识库应用。自然语言描述生成应用

用户只需用自然语言说明需求，GPT就能自动生成适配需求的定制化智能问答知识库。预制行业模板快速适配

阿里云通义千问预制了教育、医疗等多领域模板，企业简单修改就能完成定制开发。细分领域需求梳理面向制造、医疗等细分行业，逐一梳理专属业务痛点，明确大模型适配的需求方向。领域专业数据沉淀整合医疗病历、工业规范等专属行业数据，完成清洗标注，为大模型训练提供优质语料。领域知识适配微调基于沉淀的专业数据对通用大模型进行微调，让模型掌握垂直领域的专业知识逻辑。场景化部署迭代将微调后的模型部署到实际业务场景，根据用户反馈持续迭代优化模型效果。行业垂直化落地路径学习建议与总结08适合学生的学习路线

基础知识铺垫学生可先学习Python基础编程、机器学习入门知识，为理解大模型原理打基础。

项目实践入门学生可尝试基于开源大模型Llama3微调，搭建专属个人学习知识库小项目。