南研培训-大数据平台etlbdp概述_第1页
南研培训-大数据平台etlbdp概述_第2页
南研培训-大数据平台etlbdp概述_第3页
南研培训-大数据平台etlbdp概述_第4页
南研培训-大数据平台etlbdp概述_第5页
已阅读5页,还剩6页未读 继续免费阅读

付费下载

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

1、BDP能力概述01BDP功能概述02系统功能03服务管理04流程配置05调度流程配置、监控06BDP平台整体功能概览图1.服务管理1.主要是对Hbase库进行增删改查的2.必须指定库的索引类型(solr、Phoenix)3.即席查询是对Hive库进行查的2.元数据配置1.协议配置是BDP平台访问外部资源的通道,将文件、数据库抽象为单一资源。2.库配置,可以在界面创建Hive,Hbase的库表3.元数据配置3.1 数据库表数据、存储过程对象,java函数对象。3.2 ftp协议unix系统的文件3.3 Telnet/SSH协议 shell脚本3.4 大数据协议3.调度配置1.流程配置1.1 环节

2、配置(业务逻辑图,有普通组件和大数据计算组件)1.2 组件配置(存储过程组件、异构数据搬迁组件,数据导出组件)2.任务配置类似于定时任务和触发器4.调度监控1.工单监控1.1任务激活时,便产生实例工单,状态有三种(待执行、已调度、已完成).2.任务监控2.1当工单处于已调度状态,则产生实例任务2.2执行错误时候,可以看到环节的错误详情,可以重跑任务实例。5.定时任务管理1.类似于Scheduler 计划任务2.当任务工单长时间处于待执行状态时候,可能是定时任务没开启。6.系统管理1.元数据(服务管理)权限、ETL工具权限、菜单权限2.租户组-租户-员工3.员工ETL工具权限(在租户管理下面可以分配),菜单权限|角色(菜单权限的集合

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论