知识库产品解决方案

科大讯飞股份有限公司知识智能体整体方案介绍星火智算现状及痛点

知识智能体解决方案

解决方案亮点

应用案例星火智算企业视角：知识应用及管理痛点现状及痛点【很重要】一线工作人员均认为知识传承、经验共享很重要，能够提升效率、降低风险。如：在设备检查、设备维修等传统制造业的工作场景【成本高】企业多采用培训会的形式提升员工的专业技能，投入大、收效低，没有形成统一的企业知识沉淀。企业在知识应用端和管理端都存在大量的痛点，企业如何建好一套统一管理、易于使用的知识库一直是个难题【不好用】传统知识库因为技术受限，对于复杂知识难以精准获取，员工使用效率低，无法规模化推广。知识冲突知识重复知识更新不及时多套系统知识不统一问题核实周期长培训都吃大锅饭…………知识应用端：知识很重要、学习成本高、知识不好用知识管理端：权责不清、管理混乱技术视角：企业知识相关技术演变现状及痛点阶段一：关键词检索应用侧痛：搜索难，找不到知识阶段二：小模型+图谱阶段三：基于LLM+RAG等管理侧痛：维护工作量大基于LLM智慧涌现、RAG能力扩张为应用和管理的痛点找到了平衡2000-20102011-20222023起为加速各行业客户业务发展，KM领域从关键字检索、结合NLP小模型及图谱应用，演变至LLM+RAG的全新技术方案现状及痛点知识智能体解决方案

解决方案亮点

应用案例星火智算知识智能体运营服务数据统计问答日志优化中心星火应用文档智能体政务政策问答公文写作…金融金融客服智能投顾…工业智能化制造数字供应链…办公智能终端新闻采访…汽车智能交互智能座舱…业务场景应用推广背景知识库知识建模知识构建知识融合知识推理知识图谱知识库管理文档解析文档拆分知识检索文档知识库文档faq表格FAQ抽取FAQ相似问拓展FAQ知识库服务管理星火大模型多模态大模型长文本大模型代码大模型OCR大模型搜索服务超拟人合成第三方大模型大模型底座工具箱高德地图天气查询差旅一号…任务链自定义组件基础组件复合任务链工具组件AI能力组件图表组件…规划智能体助手智能体任务规划服务调度长短时记忆零代码开发prompt优化快速开发场景智能体编排式开发场景应用接口调用知识智能体知识问答、知识搜索知识分析、知识总结、知识对比智能体Agent新闻翻译接口调用（API）星火app超级助理桌面网页嵌入智能体商店H5分享星火智能体平台中

包含

知识智能体模块讯飞为企业量身定做，基于大模型的知识智能体解决方案公域信息私域信息客户侧数据源提供爬虫服务获取外部信源数据企业文档（自行发布、网络下载…）企业信息底座私域信息采编可用公域信息原始信息仓库爬取、存储规则清洗多源信息解析上传、同步智能采编原始文件操作在线采编标题目录在线预览下载摘要篇章标签QA对正文附件图片表格未来复杂场景（Visio、思维导图等）图谱数据图数据库+建库+KBQA接入渠道管理基础信息配置名称/备注/APPID等关联信息范围通过库名/标签限定渠道业务范围prompt集合多场景prompt管理业务场景检索问答分析推荐报告生成向量化数据向量化数据知识管理知识应用……基于大模型，实现智慧涌现讯飞为平衡知识管理领域应用侧与管理侧痛点，提供知识智能体方案知识智能体覆盖业务场景解决方案知识智能体可基于平台横向跨部门、纵向跨系统持续挖掘更多业务场景，跨度广、可深耕。中横线人资

财务

行政

法务

纪检

审计

设备管理

检索问答分析推荐洞察……纵贯线福利薪酬考勤假期绩效管理……出差报销国际差旅电子发票……加班订餐车辆管理活动管理……合同审核知识产权产品专利……项目制度管理纪检监督内容党风党纪要求……审计标准审计材料审计流程……设备维护设备检修设备排障……知识智能体可基于【一横一纵】，串联企业内各部门业务，实现企业知识统一管理、分类应用讯飞星火知识智能体功能架构解决方案知识问答（prompt管理）参数设置答案赞踩兜底回复问题改写效果快修答案溯源图文回答集外拒识服务层能力层人工采编智能目录补全篇章向量生成全文/目录展示解析内容对比目录层级调整自动提取摘要文档拆分自定义拆分脚本按字数+规则拆分按目录/段落/符号拆分文档解析WordExcel解析文字型PDFHtml解析Txt解析知识管理目录管理明细数据标签管理文档内容管理版本管理文档状态管理导入导出原文预览智能引擎拆分表格/图片元素独立提取篇章合并/拆分篇章在线编辑文档标签配置图片型PDF篇章异常告警知识检索向量生成多维知识召回（多策略组合）召回内容扩充（长文本场景）向量召回OCR能力大模型OCR智能拆分能力规则拆分2.6B大模型智能拆分Embedding模型及端到端训练工具小模型Embedding（文本长度1024）2.6B大模型Embedding（文本长度2Ktokens）KM基座模型（13B）讯飞星火长文本大模型（支持128Ktokens）冲突检测能力知识冲突检测接口层知识管理API接口知识问答API接口知识生成API接口1应用场景知识分享API接口……文档问答智能营销智能助手智能运维员工内训员工服务……智能采编2Emb模型及训练工具3KM基座模型功能丰富的知识智能体功能模块，提供知识管理、智能采编、知识检索/问答的全流程解决方案核心模块介绍：智能采编（技术架构简图）解决方案文档智能采编支持word、pdf格式文档文档分片：将原始文档拆分为若干个独立、较短的知识点。每个知识点会作为问答的最小记录，与问题进行匹配。问题向量化使用讯飞API对用户的问题进行Embedding，获得向量。使用问题向量在milvus中搜索，找到与之最匹配的若干记录。将这些记录的原始材料返回。星火大模型总结对用户问题推理理解，基于知识向量匹配片段内容总结概括，生成答案返回给用户。智能采编：为各种文档类型提供保姆级一站式服务（word、pdf、表格、图片等）解决方案核心模块介绍：智能采编（简易示例）适用的文档类型：港口设备参数问答（例如：抓斗式卸船机、装船机）、维保操作手册查询、故障诊断、维修及保养方案推荐系统自动提取的Word元素包括正文、1-6级标题、图片、列表、分隔线、链接等，知识管理员采编确认完的知识块能够实现标签化存储【智能解析】文档上传WORD、PDF、表格、图片等格式【智能采编】知识点可视化查看和完善知识管理员在线对知识块进行规整确认，保障知识块的原子化属性，后续依赖模型可直接应用【语义向量化】高维语义向量生成自主研发、专项训练生成模型【智能辅助】原文档在线编辑按照上传的原文档格式，支持在线调整1、提供多种【智能辅助】深加工方案2、提供预训练后【讯飞专属embedding模型】3、提供端到端的embedding【训练工具及服务】智能采编：为各种文档类型提供保姆级一站式服务（word、pdf、表格、图片等）其他模块：知识智能体（应用侧）解决方案1选择智搜助手中的某个文档库/文档标签后新建对话3通过文本向量化模型检出相关的知识块并展示4由星火大模型基于相关知识块进行归纳总结并回复5可调整关联的篇章由大模型重新进行回复2输入问题并发送123*支持按照文档名称进行知识块筛选4*支持用户复制答案、点赞/点踩等操作5*重新回复时会将历史记录一并送入大模型，辅助理解智能助手用于对外部渠道发布使用，每个渠道需要在管理系统中单独申请appid+token，用于唯一标识在管理系统中可以为每个渠道分配配置关联的文档集合，可以按照知识库、多维文档标签来共同确定知识库的使用流程如下：*默认无限定，沿用智搜助手系统中的配置应用侧：通过应用模块，快速配置场景，并做问答验证知识智能体整体框架及优化点解决方案-如何优化文档采编私域数据向量模型文本向量向量数据库文档切分文档检索用户XXX产品的参数是多少问题问题文本向量检索模型知识片段1知识片段1知识片段1回复生成prompt+知识片段大语言模型回复生成1.上述为知识库问答中通用的框架，目前行业内竞品、友商、客户等知识问答框架基本与上述流程一致；也是大多数人对于行业知识问答能力的了解；2.但在落地应用过程中，每个环节都有可能面临很多问题最终影响整体效果；业内人自称【三天拉通链路，一年优化效果】1、持续打磨机器采编正确率，降低人力采编成本，理想状态下实现0人工采编；同时规范化采编提升检索效果3、复杂问题、多意图问题、困难推理问题回复效果优化4、语言大模型监督训练，使模型更契合特定任务需求或深入某一专业领域2、Embedding模型训练，提高检索任务中的相似度计算的正确率，提升检索召回正确率效果优化的关键5个环节解决方案-如何优化0102030405文档处理及上传召回方案优化大模型监督微调基线效果测试prompt提示词优化环节1-文档处理及上传-支持的文件格式解决方案-如何优化文档Word和PDF是2种最常用的文档文件，Word文件的目标是易于编辑，而PDF文件更易于跨设备阅读。这两类文档文件如果直接通过系统自动解析入库，存在文件内容解析缺失、知识点切分不准确等核心问题，直接影响后续的知识使用效果。为此，这两类文件都希望经过人工处理确认后再导入知识库进行使用。另，txt、Markdown、html格式的文件使用频次较低，系统支持直接上传，但仍建议人工核实后再做导入。表格支持Excel表格和csv表格。系统可针对通用内容/样式自动进行解析处理，主要如下：表格中内容：纯文本表头：支持单行/多行表头合并单元格：支持FAQ特定格式的Excel文件，包括：分类、标准问题、相似问题、答案四个字段环节1-文档处理及上传-Word文件人工处理方案解决方案-如何优化Word软件是一个文字处理器应用程序，为用户提供了专业的文档编辑工具。业内对于doc/docx文件的解析方案较为成熟，能够快速获取文件中的各类元素的内容及格式，可自动转换成HTML格式且基本不丢失原文样式，有利于开展后续的各种文档处理工作。为了保证文档进入知识库时能够有较好的自动解析效果，建议在文档上传前做以下预处理工作：1标题调整为word预设的标题1-标题6样式2图片/文本框统一调整为【嵌入型】，并确认文字内容不会因图片/文本框的插入而拆开*Word文件人工处理工作量预估：200页/小时环节1-文档处理及上传-PDF文件人工处理方案解决方案-如何优化PDF在设计之初就定义成一种可以准确控制生成文档格式的输出模式，而非一种数据输入模式。其核心是包含了一系列描述如何在页面上进行绘制的指令流，其文本数据并非以段落或文字的形式进行存储，而是以记录了页面特定位置信息的字符形式进行存储。PDF一般分为文本型PDF和图片型PDF，对于内容的完整解析存在以下难点：1.很多文本型PDF文件的来源是Word，在转为PDF时就已经丧失了大部分文本原有的语义信息，所有隐含的文档结构都会在页面上被转化为空泛的字符，最常见的是很多PDF解析后会额外增加大量空格；2.直接通过PDF编辑器创建的文件拥有复杂的页面样式，解析后难以使用常见的文件格式进行表示，如：小字符、段落顺序、嵌入图像、字符乱码等3.图片型PDF在借助OCR技术进行识别的基础上，还需要考虑目录继承、跨页内容串联等新问题当前行业内对于PDF解析转码后自动形成格式标准的可读文件，均没有完美的解决方案。PDF文件规范建议的处理路径：文本型PDF：文件转码图片型PDF：OCR人工处理后入库*文本型PDF人工处理工作量预估：80页/小时*图片型PDF人工处理工作量预估：50页/小时环节1-文档处理及上传-人工处理调优解决方案-如何优化文档切分（预处理）系统内置多种文档切分规则，匹配不同文档类型按目录切分按段落切分按符号切分按字数切分按语义智能切分自定义切分脚本人工编辑调优支持的功能包括：向上/向下合并知识点、新增/编辑/删除知识点、目录调整、添加文档标签等。环节2-基线效果测试-测试集构建解决方案-如何优化测试集数量：建议至少梳理300条测试集，尽可能覆盖所有场景（可按照场景的使用频率进行测试集数量配比）应召回知识点操作步骤：步骤1：根据问题或答案关键词，在知识管理-查看篇章界面搜索答案所匹配的知识点。步骤2：找到把知识点标题和知识点内容复制到测试集表格里即可。测试集梳理模板环节2-基线效果测试-基线效果摸底评测解决方案-如何优化知识点召回正确率大模型回复正确率批量测试结束后，可基于标注的测试集数据，直接给出这批数据知识点召回正确率的指标。批量测试结束后，将提供一张大模型回复结果数据表，需要人工标注大模型的回复正确/错误，最终基于该表格汇总计算出大模型回复正确率。基于整理好的测试集数据，系统可自动执行批量测试，获得知识点召回正确率的最终数值以及大模型回复的实测结果，大模型回复正确率需要人工标注后计算获得。*大模型回复是否正确需要人工进行标注，标注工作量预估：100条/小时讯飞业务环节3-召回方案优化解决方案-如何优化系统可基于测试集合，自动输出模型训练前后的效果对比情况，便于直接分析结果。效果评测05基于大模型扩展好的相似问题清单，由业务人员进行人工确认，提升数据质量。（相似问题确认的工作量预估：200条/小时）相似问题确认03基于梳理好的有效问题+正确的知识点，通过大模型进行相似问题扩展。相似问题扩展02版本上线后，可以实时回收线上用户的真实提问数据，需要提供有效问题+正确的知识点。（真实问题确认的工作量预估：200条/小时）真实业务场景问题汇总01基于整理好的数据，统一交由讯飞进行新模型训练，5000条数据的训练耗时约3小时。模型训练04业务-客户讯飞业务-客户讯飞讯飞环节4-prompt提示词优化解决方案-如何优化prompt（提示词）是一个指令、问题或者语句，用于引导大语言模型生成特定的文本。prompt中常见的属性包括：角色、要求、限制条件、回复格式等，大模型在prompt的引导下，结合含有正确答案的的知识点，最终才能输出正确的答案。项目启动初期，可结合使用场景在系统内置的prompt进行微调，如：角色变化、回复格式调整等；系统上线稳定运行后，需要回收真实问答结果并进行分析，在有正确知识点但是回复错误的情况下，可以通过prompt调整进行效果微调；知识点召回正确但大模型回复错误的问题清单问题归类分析prompt调优测试时间判定类问题数学计算类问题文本推理类问题…………调整前以时间判定类为例调整后1基于同类问题测试集合批量测试，验证同类问题的解决情况2在正确集合抽测10%-20%数据，验证正确问答集合不受prompt改动影响扩大验证范围prompt更新上线验证通过*2024年4月测试案例环节5-大模型监督微调解决方案-如何优化大模型监督微调是在已具备广泛知识基础的大型预训练语言模型上，利用针对性的数据集实施额外的训练过程，旨在使模型更精准地契合特定任务需求或深入某一专业领域。微调的核心目标在于实现知识的精细化灌输与指令系统的精确匹配。建议在知识点准确召回、prompt完成优化但大模型回复错误时，再考虑大模型监督微调方案。单次监督微调训练的数据集建议为1万条，讯飞侧研究人员深度参与微调方案制定。大模型监督微调训练数据样例现状及痛点知识智能体解决方案

解决方案亮点

应用案例星火智算讯飞知识智能体

对标其他大模型厂家的核心优势在哪？方案亮点大模型+RAG方案很火，开源的框架也很多为什么很多客户会遇到一周出DEMO、半年用不好的问题？讯飞自研的Embedding向量模型讯飞智能采编服务多模式切片多类型兼容可视化调优核心能力讯飞KM基座模型（专为知识问答场景打造，百亿参数、千亿效果）原厂服务、保障效果完善的Embedding标注训练工具（成功商用落地的词向量训练工具+自动化测试工具）对于如何保障大模型+RAG的落地成效，讯飞有团队、有工具、有经验、有方法论其他厂商大模型适配五大核心能力之

一方案亮点规则采编+语义采编大模型，解决文档采编难题，满足不同场景采编需求第一步第二步1、知识管理，多源文档智能采编第三步五大核心能力之

二方案亮点QA检索：结合了关键词检索以及语义相似度得分算法。向量检索：支持多向量维度、跨向量库检索，支持阈值筛选、精排排序。关键词检索：支持传统的中文分词检索。2、多维高精度检索五大核心能力之

三方案亮点3、精准干预QA干预：人工维护QA对数据并导入系统，问答时候检索命中QA对时直接响应。检索干预：在知识库上添加相似问或者相关信息，或者维护知识点关联到知识块，检索的时候会更具附加的知识点一同检索并分组合并。训练干预：通过训练工具或火石训练平台，训练垂类embedding模型。（训练工具或火石训练平台）五大核心能力之

四方案亮点支持1024、2560等多版本高维向量存储，支持星火和第三方开源向量模型接入（需定制）。已适配了公司的星火的各版本模型包含星火衍生的定制模型，同时也适配了市面上开源大模型。包括百度、阿里的大模型以及ChatGPT。问答1024维语义检索模型检索结果星火大模型（175B-128k）星火大模型（13B-8k）星火衍生定制模型开源大模型ChatGPT2560维语义检索模型开源语义检索模型4、多模型可选总结回复五大核心能力之

五方案亮点智能体平台支持租户/用户数据隔离；同一个知识库也支持草稿和正式版本；在创建知识库、查询知识库时，调用业务层服务，由业务层服务携带租户用户信息传参调用知识智能体应用的创建知识库、查询知识库接口；5、多版本和用户数据隔离构建企业知识大脑，促进企业知识共享混合模式检索支持混合模式、全文、向量及FAQ检索模式行业知识问答知识采编更便捷知识问答更准确知识结果更可信智能化采编语义采编及ocr大模型，采编多类型知识问答权限隔离同一知识库，不同用户问答内容可个性化多模态资源问答多模态知识问答，可精准定位音视频位置语义采编引擎OCR大模型讯飞向量引擎精排模型think+RAG角标模型支持多类型格式文档，一键上传，自动化采编，较传统方式生产效能提高70%基于讯飞向量引擎及精排模型处理，行业知识检索准确率85%基于think溯源能力，返回思考过程来源，让思考过程可溯源，让回复结果更可信星火企业知识管理底座，为企业客户提供多类型的知识管理、智能采编、大模型问答、效果优化的一站式解决方案现状及痛点

知识智能体解决方案

解决方案亮点

应用案例星火智算案例小集应用案例用户：中国石油实施时间：2024.07方案：智能客服价值亮点：通过虚拟客服快速响应用户咨询，7X24小时全天候提供服务，自动处理常见问题，通过收集和分析用户数据，不断优化服务质量，提升了品牌形象用户：广东电网-董秘科实施时间：2024.05方案：自动生成月报价值亮点：快速生成符合内容要求、模板要求的高质量