企业数据治理之数据质量治理方案_第1页
企业数据治理之数据质量治理方案_第2页
企业数据治理之数据质量治理方案_第3页
企业数据治理之数据质量治理方案_第4页
企业数据治理之数据质量治理方案_第5页
已阅读5页,还剩3页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

企业数据治理之质量治理方案组织大数据委员会大数据平台产研 故障组数据治理组 业务方评估质量分模型 系统稳定 项目质量故障发生率 用户满意度质量治理全局效果检测质量治理-整体架构标准数据标准定义 数据标准落地系统稳定性标准 标准版本管理故障定级标准设定产品数据质量管理平台(DQMT)智能分析服务(IDAS)问题分析工具 数据小帮手流程系统/数仓 上线、迭代、测试SOP数据监控流程 质量值班流程数据/产品问题 反馈、收集、跟进运营故障定责机制 质量红黑榜质量产品触达用户 提高使用率提升数据质量意识质量治理-质量管理平台数据质量管理平台(DQMT)事中监控事前排查事后分析问题跟进知识沉淀核心功能隐患排查 监控报警 质量分析实时智能质量透明度质量日报监控大盘功能触达异常定位质量感知问题下钻解决方案智能质量治理-隐患排查全平台系统变更数仓类变更依赖变更/上下线重大变更流程/评审/通知系统稳定性指标监控隐患定位影响程度定时报警覆盖数据生产全场景隐患排查更实时架构类变更平台类变更质量治理-监控报警基线开始时间智能基线算法基线结束时间基线运行耗时运行耗时异常已开始超基线未开始预估延迟时间未开始未完成任务状态报警信息+++监控系统监控系统监控系统异常及时暴露问题及时定位累计趋势跟踪多场景多频次小时级监控天级别监控阶段性趋势多种监控策略超失败次数监控超基线buffer监控运行时间异常监控&质量治理-质量分析模型合理性+历史运行状况诊断:模型跨层依赖链路长度过长上游单节点耗时过长链路空闲时间(时间触发/分发等待)整理制作郎丰利1519实际案例收集关键延迟链路,次要延迟链路各节点延迟贡献度各类原因造成延迟度新增较晚节点上游节点耗时异常/失败重试时间触发/等待时长项目数据质量报告产出时间延迟分析系统优化解决方案沉淀优化值班流程完善产品功能早报:今日项目产出是否异常,异常点定位晚报:全链路修改是否对次日产出有影响项目质量问题统一定位汇总对于项目全链路修改,统一暴露次日问题隐患质量治理-质量透明度零散报警项目整体质量无感知质量日报监控大盘监控任务多报警洪流平台数据质量整体感知质量问题逐层下钻

·

定位跟踪项目延迟率项目延迟度异常波动率变更隐患率耗时异常率调度系统DP指标平台druidhadoopkylindatabus谢谢聆听整理制作:郎丰利1519制作时间:2023年睿利而行整理

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论