集团化企业开放数据平台构建之路(51cto大数据峰会-分享).ppt_第1页
集团化企业开放数据平台构建之路(51cto大数据峰会-分享).ppt_第2页
集团化企业开放数据平台构建之路(51cto大数据峰会-分享).ppt_第3页
集团化企业开放数据平台构建之路(51cto大数据峰会-分享).ppt_第4页
集团化企业开放数据平台构建之路(51cto大数据峰会-分享).ppt_第5页
已阅读5页,还剩15页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

傅杰 2013年4月,集团化企业开放数据平台构建之路,大纲,企业集团化带来的数据挑战 开放数据平台的构建之路 优酷土豆集团开放数据平台,3,数据孤岛,集团化企业的数据孤岛现象更为明显!,4,企业集团化带来的数据挑战,资源浪费,数据关联,重复造轮,数据标准,物理孤岛,逻辑孤岛,挑战物理孤岛,集中存储 统一采集 开放计算,开放三要素,权限,资源,灾备,权限,身份,hadoop安全开放,集成kerberos 自定义用户组 监控报表 开放注册用户120、团队16,hadoop集群规模,日增2t+原始日志 日均6000道作业 日扫描上百t数据 cpu利用率50-60%、峰值95%,荆棘密布,system.out 机房迁移(jaas bug) 公平调度器故障 jobtracker 堆栈满 ipv6,平台运营,挑战逻辑孤岛,数据易用 封装数据服务 打造数据产品,开放数据平台,探索逻辑孤岛,制定业务数据标准 元数据定义 hive库互通 数据产品,13,优酷土豆集团开放数据平台,14,数据平台辐射范围,数据平台,广告,推荐,拍客,搜库,指数,分成,15,数据平台内部支撑,数据平台,优酷,移动,土豆,决策,16,数据平台架构,storm,pig,mapreduce,调度系统,监控系统,管理系统,查询系统,dyc,数据产品,api系统,hdfs,hive,hbase,分布式日志收集系统,播放器,网站,广告,移动,搜索,sqoop,数据质量,数据反作弊,优酷指数,17,平台服务,18,回顾构建之路,拥抱大数据,深入大数据,开放大数据,运营大数据,近期工作,监控运营

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论