企业大模型应用建设思路

企业大模型应用建设思路大模型应用落地框架

一、解构业务流程找到大模型的“藏宝图”二、绘制价值流图点亮优化的“灯塔”三、大模型的“魔法书”五大场景点燃企业潜能明确目标：你想用大模型解决什么?深入部析：画出业务的全景图数据是“金矿”：挖掘流程的真相找到“命咏”：关键环节决定成败数据驱动的决策自动化与智能化个性化服务预测与优化业务流程改进拆分关键流程区分价值增值揪出“浪费”时间与资源点亮“灯塔”

大模型落地实施路径①

需求调研②

数据准备③

模型选择④

原型开发⑤

部署上线⑥

持续优化业务痛点识别目标场景确定预期效果评估数据收集整理质量评估清洗标注与预处理技术方案设计模型对比评估架构优化调整POC验证开发核心功能实现初步效果测试生产环境部署系统集成对接用户培训推广效果监控分析模巴迭代升级应用场景扩展关键成功要素业务与技术团队深度协作，确保需求理解准确建立完善的数据治理体系，保障数据质量高层领导支持和充足的资源投入制定详细的风险评估和应急预率构建持续学习和迭代优化的机制注重用户体验和变更管理企业大模型应用落地参考架构应用场景驱动+智能平台与工具+大模型与优质数据多场景支持业务应用智能研发智能销售智能运维智能采购业务应用智慧安全合规智慧运营驾驶舱应用支撑中心企业知识中台智能体平台知识引擎（知识构建、应用与运营）数据基础设施（图和向量融合的多模态智能引擎）开发平台统一纳管租建并举统一调度数据外部数据企业数据大模型运维平台（训练、推理）模型工厂（多模型管理、大模型、小模型等）行业数据集数据集A数据集N基础设施（智算中心）数据→知识→智能应用企业数据企业各类格式文档企业数据库企业指标系统视频/图片数据组织机构数据外部各类数据（舆情、论文、专利…）…业务场景科研支持企业风险评估指标问数及根因分析交排查业务洞察建议合规审查合同审查办公支持…知识引擎智能体平台（价值挖掘）工作流规划工具执行记忆大模型大语言模型多模态模型推理大模型DSR1蒸馏小模型数据就绪结构化数据元数据关系自动构建非结构化数据元数据关系构建元数据信息以及元数据相互关系知识转换知识转换的必要前置条件利用给类文档解析技术处理多类型文档文档解析：多模型多文档结构切片、embedding以及向量化通过相似度做召回向量化：文档/图片向量化确定性关系的构建，实体关系抽取；结构化数据的关系构建数据血缘|向量之间关系的构建关系抽取：构建概率之外的符号体系构建助力数据融合的统一语义层关系抽取：构建概率之外的符号体系记忆和推理知识应用与知识运营MultimodalDatabaseGraphVectorJSONMuitimodalputing图计算/GNN向量模型/相似度智能问答智能问数权限管理安全管理知识反馈数据知识智能应用数据知识化通过智能体透传知识引擎提高大模型应用数据质量知识引擎向量数据库图数据库元数据元数据管理元数据智能抽取(文档标签等）元数据智能补齐向量化文档切片向量化服务向量存储服务关系抽取实体和关系抽取与解析实体关系自动化抽取与解析圈存储服务数据知识化文档解析器(word、pdf、Excel、Text等各种非结构化/半结构化数据)多模态数据析(复杂图片)多模态数据解析(音频和视频)多模态数据解析-特定数据数据解析知识应用构建问答生成后处理(敏感词\重复检测)FAQ问答文档问答应用构建大模型配置多路召回SQL过程可解释指标智能问答指标归因自动生成智能问答业务语言补全表和字段选择saL/cyphel生成与执行图谱图谱构建图谱查询图谱与大模型融合问答知识持续运营文档问答统计分析用量统计多模态数据管理反馈数据管理模态数据解析知识应用持续完善企业级安全能力企业级权限管理多租户知识审核敏感词过滤认证机制/安全扫描安全测试知识构建：从数据到知识之文档处理多文档格式支持……多源支持……云盘对象存储文档通道全量加载增量导入文档拉取实时采集存储&洞察InsightMilvusNeo4j解析&提取视觉模型文本区域检测OCR识别布局识别表格图片识别逻辑检测算法文本成块算法阅读顺序检测算法文档结构解析算法图片表格标题检测算法干扰项去除页眉页脚检测算法特殊编码/自定义字体检测水印识别结构化关系抽取上下文关联章节段落切片格式标准化多路结果校验多模态大模型自定义解析器知识构建：知识图谱结构的数据表达有效助力大模型应用多种图的构建策略，针对多源异构数据提供图的建模和存储，支撑不同大模型落地场景建图方式建图场景建图思路大模型如何应用自动建图元数据之间的关系根据元数据利用大模型进行自动建图推荐，人工校验可以构建更细粒度的数据血缘可应用于大模型文档的筛选和过滤，提升大模型应用效果可应用大模型数据基础prompt输入，提升大模型效果结构化数据的图构建根据元数据梳理的关系，自动构图，比如社交网络、供应链等较典型的图应用场景，可应用于大模型涉及结构化数据和非结构化数据混合场景非结构化数据:文档段落之间的关系--粗粒度的图结构根据段落抽取对应的图包括分级目录结构切片前后关系文档片段与标签的关系可应用于图和向量融合查询可应用于图召回的增强结构化数据与非结构化数据之间的关系(企业内典型的关系场景)组织机构关系代码、工作项的关系文档引用关系根据关系自动构建可应用与大模型涉及结构化数据和非结构数据混合场景半自动建图非结构化数据：（Word/PDF等）实体、关系抽取需要进行细粒度的图谱构建进行知识的抽取、积累大模型进行实体关系抽取根据抽取的反馈、大模型微调基于微调大模型做实体关系抽取人工校验并入图根据需求可支撑不同场景可用于图谱辅助大模型问答可利用图和向量融合方式结合智能体进行问答知识构建：基于文档构建关系对文档基于解析结果进行关系构建实体、关系抽取社区聚类KeyPoints知识构建：构建数据融合的统一语义层企业数据企业各类格式文档企业数据库企业指标系统视频/图片数据组织结构数据外部各类数据(舆情、论文、专利…)…关系构建视觉模型根据结构化数据之间的关系，构建数据血缘链路根据非结构化数据的关系，构建数据血缘关系，包括分片、段落、文档，知识库等结构化数据图构建根据元数据梳理的关系，自动构图，比如社交网络、供应链等非结构化数据大模型进行实体关系抽取根据抽取的反馈，大模型微调基于微调大模型做实体关系抽取人工校验井入图视频/图片/音频：先结构化，再抽取关系非结构化数据文档段落关系构建根据段落抽取对应的图包括分级目录结构切片前后关系文档片段与标签的关系结构化非结构化数据关系构建组织机构关系代码、工作项的关系文档引用关系根据关系自动构建知识融合逐步构建数据融合的统一语义层数据表字段数据集指标维度模型图片视频音频文件段落切片知识应用：利用知识引擎和智能体平台构建应用结合业务需求和企业数据快速搭建应用服务，极大提升效率知识持续运营，高质量问答可积累、低质量问答可处理，循环、递进提升服务质量支持和模型解耦，支持接入所有第三方大模型服务知识应用构建和知识持续运营企业数据知识化智能应用文档问答和智能问数场景多模态智能引擎（图+向量）用户问题智能体问题路由结果输出展示方式（文本or图表）敏感词过滤问题拆解问题改写多路召回（向量召回、图召回）后处理（敏感词，重复生成检测等）内容生成Prompt构建重排序-Rerank问数场景，前处理（敏感词检查等）获取表和字段信息、COT以及语义对话信息SQL/Cypher执行SQL/Cypher生成、校验Prompt工程、动态COT相关表以及字段筛选企业数据库（关系&图数据库）统一语义库大模型服务（开源或商用）结构化数据接入数据源接入表和字段说明元数据自动补齐背景知识、业务逻辑注入大模型提示词非结构化、半结构化数据接入实体及关系抽取实体对齐、消歧切片向量化文档解析知识应用：智能问数流程数据源数据仓库结构化数据库图数据库…统一语义层元数据语义指标语义元数据血缘指标模型语义知识对话历史COT示例reasoning示例问数流程用户问题智能体问题路由前处理（敏感词检查等）意图识别Text2SQL选表&字段生成SQL结果展示图标选指标生成语义语义DSL转化SQL指标数据查询图表查询根因分析业务融合分析权限管理识别指标/维度智能体平台需具备的能力将知识引擎和工具组合使用，结合场景助力业务价值提升业务场景业务系统业务流程业务操作……外部类工具搜索服务类……企业数据库企业小模型规划编排工具执行记忆智能体知识引擎应用问数应用知识应用指标应用自定义应用工具工具自带工具外部工具自定义工具对于落地场景的思考数据是基础技术是保障业务价值是目标需要科技、业务协同共同定义目标，推进项目多方共创从成熟技术切入用新技术做验证成熟技术切入以业务需求为核心驱动力关注业务价值提升业务驱动快速迭代敏捷推进小步快跑以外围业务为切入点，快速验证AI技术价值，通过小范围试点积累经验逐步向核心业务延展从外围到核心业务规划：企业AI应用场景全景视图战略规划与决策支持业务战略计划制定高管驾驶舱客户营销与服务市场调研竞品数据收集数据整理与分析调研报告撰写销售绩效监控营销管理商机采集线上推送客群管理个性化产品推荐趋势监测流失预警客户服务售前指导售后支持客户关怀风险与合规风险监测投资研报分析舆情监测多维度风险评估反洗关联网络分析与预警监管合规评估法规条款间的语义相似性法律法规解读跨市场联合风控违规行为分析预警运营优化与提升供应链管理采购管理合同管理价格谈判供应商评估供应商结算询价与比价…库存管理供需数量监控库存分类管理库存报告分析库存监控与预警需求预测…生产管理生产制造生产排期物料监控生产工序故障报告流程控制…生产安全质量管理事件解决方案推荐操作流程管理产品研发管理竞品分析产品创新测试与验证产品视图管理研发流程管理文献阅读技术文档编写统计分析指标管理统一报表服务财务管理经营报告