CN119415548A 数据血缘关系模型确定方法、血缘关系确定方法以及装置 (中国建设银行股份有限公司)_第1页
CN119415548A 数据血缘关系模型确定方法、血缘关系确定方法以及装置 (中国建设银行股份有限公司)_第2页
CN119415548A 数据血缘关系模型确定方法、血缘关系确定方法以及装置 (中国建设银行股份有限公司)_第3页
CN119415548A 数据血缘关系模型确定方法、血缘关系确定方法以及装置 (中国建设银行股份有限公司)_第4页
CN119415548A 数据血缘关系模型确定方法、血缘关系确定方法以及装置 (中国建设银行股份有限公司)_第5页
已阅读5页,还剩40页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

本申请提供一种数据血缘关系模型确定方报文数据的解析结果中还包括映射血缘关系元中数据血缘关系模型在进行血缘关系查询时存2接收各请求组件传输的满足预设条件的报文数据;所述预设条解析所述报文数据,得到所述报文数据对应的基础血缘关系元素,根在所述报文数据的解析结果中还包括映射血缘关系元素的情根据所述基础图元素和所述虚拟映射图元素,生成各所述请求组件对于任一请求组件传输的报文数据,对接收到的报文数据所对应的请若所述请求组件未通过验证或者所述报文数据未包含所有3.根据权利要求1或2所述的方法,其特征对于任一请求组件,在接收到所述请求组件发送的数据传输请求时,其中,所述数据传输要求包括所述请求组件进行数据传输时所包含的预设数据字段,基于预设解析规则对所述报文数据进行元素提取和校验处理,得根据预设的元素转换规则,将各所述基础血缘关系元素进行元素转在确定所述元素集合中存在组件映射信息对应的复合元素时,对所述根据各所述映射血缘关系元素和各所述基础血缘关系元素,得到生成3根据各所述映射血缘关系元素和各所述基础血缘关系元素,得到生成根据各所述映射血缘关系元素确定生成数据血缘关系模型对应的至少一个虚拟映射节点元素;所述虚拟映射节点元素包括表级虚拟映射节点元素和字段级虚拟映射节点元根据各所述基础血缘关系元素和各所述映射虚拟组件节点,确定生成根据所述待分析节点的节点类型确定预生成的数据血缘关系模型中与所述节点类型相同的基础节点元素和虚拟映射节点元素;所述数据血缘关系模型为根据权利要求1_6中根据各所述基础节点元素和各所述虚拟映射节点元素进行血缘关系报文数据接收模块,用于接收各请求组件传输的满足预设条件基础图元素生成模块,用于解析所述报文数据,得到所述报文数据虚拟映射图元素生成模块,用于在所述报文数据的解析结果数据血缘关系模型生成模块,用于根据所述基础图元素和所述虚节点元素确定模块,用于根据所述待分析节点的节点类型确定预生成为根据权利要求1_6中任一项所述的数据血缘关系模型确定方法血缘关系确定模块,用于根据各所述基础节点元素和各所述虚拟映射所述处理器执行所述存储器存储的计算机执行指令,以实现如权利要求1_6中任一项执行指令,所述计算机执行指令被处理器执行时用于实现如权利要求1_6中任一项所述的45血缘关系元素和所述基础血缘关系元素得到[0016]在一种可能的设计中,在接收各请求组件传输的满足预6[0028]根据各所述映射血缘关系元素确定生成数据血缘关系模型对应的至少一个虚拟[0032]根据所述待分析节点的节点类型确定预生成的数据血缘关系模型中与所述节点及第一方面各种可能的设计所述的数据血缘关系模型确定7[0038]数据血缘关系模型生成模块,用于根据所述基础图元素模型为根据第一方面以及第一方面各种可能的设计所述的数据血缘关系模型确定方法所数据血缘关系模型在进行血缘关系查询时存在查询效率89[0066]但是上述两种可选实施方式中构建的血缘关系模型在进行血缘关系查询时均存关系,常用的查找方法有深度优先搜索(Depth_FirstSearch,DFS)和广度优先搜索[0069]下面以具体地实施例对本申请的技术方案以及本申请的技术方案如何解决上述[0070]图3为本申请提供的技术方案的一种应用场景图。本申请提供的技术方案的应用据血缘关系模型中的数据血缘关系帮助管理和追踪模型训练数据的来源、处理过程和版[0073]以应用场景为对金融行业中企业产生的数据进行数据治理为例进行示例性的说应的血缘关系查询算法,该算法可以实现在数据查询模块324输入内容进行血缘关系查询在映射关系的节点,因此在进行血缘关系查询时通过虚拟映射节点和虚拟映射边进行查到后续生成血缘关系模型的基础图元素,具体基础图元素包括基础节点元素和基础边元述映射血缘关系元素和所述基础血缘关系元素得[0090]在本申请中,在根据上述实施方式生成基础图元素和虚系统对于数据的接收条件而导致数据被丢弃的概率,可以在请求组件将数据进行传输之境信息(env)、组件节点信息(dataflow)、组件所属应用(app)、组件源数据表信息件所属应用可以是大数据平台也可以是第三方应用等;组件源数据表信息表征组件节点数据对应的丢弃提示消息并反馈至所述请求[0100]图6为本申请实施例提供的报文数据接收的流程示意图。在数据血缘关系模型管[0105]具体的,对于请求组件传输的报文数据,可以基于预设的解析规则,例如JSON射来源表元素和映射目标表元素之间的节点信息构建表级虚拟映射节点元素;进一步的,根据请求组件的基础血缘关系元素中的来源节点元素和目标节点元素以及生成的虚拟映[0118]在本申请中,待分析节点可以是用户通过预设的血缘关系查询接口所输入的节确定输入的待分析节点为表级节点,即TableA节点时,在数据血缘关系模型中确定与[0123]S803、根据各所述基础节点元素和各所述虚拟映射节点查询得到的血缘关系为TableA_>TableB_>Table查询得到的血缘关系为TableA_>TableB_>Table过程中不需要输入更加复杂的查询条件;并且由于图2中节点之间还存在一些边元素未示[0141]图9为本申请实施例提供的数据血缘关系模型确定装置的结构示意图。如图9所[0144]虚拟映射图元素生成模块903,用于在所述报文数据的解析结果中还包括映射血[0145]数据血缘关系模型生成模块904,用于根据所述基础图元素和所述虚拟映射图元缘关系元素包括表级映射血缘关系元素和字段[0168]节点元素确定模块102,用于根据所述待分析节点的节点类型确定预生成的数据关系模型为根据上述实施例中所述的数据血缘关系模型确定方法所[0169]血缘关系确定模块103,用于根据各所述基础节点元素和各所述虚拟映射节点元[0171]需要说明的是,应理解以上装置的各个模块的划分仅仅是一种逻辑功能的划的方案。处理器112可以是通用处理器,包括中央处理器CPU、网络处理器(network[0174]存储器113通过系统总线与处理器112连接并完成相互间的通信,存储器113用于并不表示仅有一根总线或一种类型的总线。收发器用于实现数据库访问装置与其他计算机(例如客户端、读写库和只读库)之间的通信。存储器可能包含随机存取存储器(random缘关系模型确定方法和血缘关系确定方法的技术[0180]本申请实施例还提供一种计算机程序产品,该计算机程[0188]上述存储介质可以是由任何类型的易失性或非易失性存储设备或者它们的组合[0189]一种示例性的存储介质耦合至处理器,从而使处理器能够从该存储介质读取信域中的公知常识或惯用技术手段,并不局限于上面已经描述并在附

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论