hadoop软件架构与功能特性_第1页
hadoop软件架构与功能特性_第2页
hadoop软件架构与功能特性_第3页
hadoop软件架构与功能特性_第4页
hadoop软件架构与功能特性_第5页
已阅读5页,还剩47页未读 继续免费阅读

付费下载

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

Security

Level:TECHNOLOGIES

CO.,.OceanStor9000V100R001C10FusionInsight

Hadoop架构与功能特性Author/

:105511/li

Version:

V1.0(201405)TECHNOLOGIES

CO.,.2Page

2相关概述1功能特性4FusionInsight

Hadoop架构2工作原理35

最佳实践数据库技术的变化:分布式,I/O性能提升,NoSQL传统Transaction格局不变互联网以开源为主自主发展大企业纷纷

分布式(I/O,计算)NewSQLColumn关系型MPPGreenPlumVerticaSybase

IQ内存计算,分布式计算+I/O和文件系统,SSD,InfinibandNoSQLKey-valueMapReduceMPPHadoopHBaseBigtableOldSQL行关系型SMP/MPPExadataTimesTenSolidDB软件产品硬件3HNOLOGIES

CO.,数据处理技术的变化:满足数据的多样化需求Data

Warehouse并行处理引擎ETL,

Data

Quality信息整合、元数据Text ytics

EngineVisual

Data

Modeling文本内容分词与分析技术HadoopMap

Reduce描述分布式文件系统分布式计算流计算引擎Streaming

Data海量非结构化、结构化数据

、计算结构化数据处理实时数据处理非结构数据分析各类信息整合4HNOLOGIES

CO.,数据处理架构的演进:SMP->MPP->HadoopSMPHadoop典型厂商:OracleExadata特点:Share

Everything结构化、关系型+IB,适Flash

Cache+分布式块合混合负载数据超过百TB性能不佳MPP

SMP+MPP混合主流IT解决方案提供商特点:Share

Nothing开源,开放分布式,海量高性能,低成本典型厂商:

Teradata/Netezza/GreenPlum特点:Share

Nothing结构化、关系型标准的ShareNothing软硬

设备,成本高典型厂商:IBM、HP特点:Share

Everything性能存在瓶颈扩展性差小机可靠性高5HNOLOGIES

CO.,Apache

Hadoop:源生自互联网Hadoop是一个用Java语言实现的分布式系统基础架构,在由大量PC组成的集群中运行海量数据的计算,它可以让应用程序支持上千个节点和PB级别的数据由Apache 开发,受 三篇 的启发:MapReduce、HDFS(GFS)、Hbase(BigTable)HiveHadoopcoreHBaseZooKeeper6HNOLOGIES

CO.,Apache

Hadoop—繁荣、蓬勃生长的开源生态系统Hadoop

基本组件的开源代码量,接近200万行开源组件代码量(KLoc)ZooKeeper64BookKeeper47HDFS438YARNMapReduce380HBase260Hive273Oozie88Impala102汇总1652HBase组件在快速的发展中,平均每个月一个发布版各组件团队之间、组件内团队成员是松耦合、地理分布

式 ,相关特性无有效整合7HNOLOGIES

CO.,Hadoop在企业IT架构中的位置EDWDataMartsBI

/yticsTraditional

DataWarehouses,BI

&

yticsServing

ApplicationsWebServingNoSQLRDMS…Unstructured

SystemsServingLogsSocialMediaSensorDataTextSystems…80-90%

of

dataproduced

todayis

unstructuredGartner

predicts800%

data

growthover

next

5

yearsTraditional

ETL

&

Message

busesApache

HadoopEsTsL

(s

=

Store)Custom

ytics8HNOLOGIES

CO.,采用Hadoop技术的业界案例企业应

况应用日志分析、网页数据库的数据挖掘日志,用于处理数据挖掘和日志统计Yahoo用于支持

系统及网页搜索阿里巴巴精准的离线、实时商品WAL-MART分析用户行为,规划销售策略江苏移动经营分析、历史详单查询中国经营分析、信令分析招商银行历史交易明细查询、客户行为分析、实时

、实

件工商银行客户行为日志收集和分析、历史交易明细查询等9HNOLOGIES

CO.,大数据应用的三种模式在一些应用明确,不涉及实时复杂SQL运用,数据量超大的场合,采用大数据NoSQL技术来替换传统的关系数据库加存储阵列的体系在一些数据来源不变的场合(尤其金融行业),在不需要数据库事务的保护下,对ETL过程进行处理“卸载”模式“全量洞察”模式“新数据”模式以前由于系统性能、时间、成本等方面的考量,客户洞察计算基于少部分样本,比较依赖复杂的模型和经验大数据计算平台的出现,可以基于全量数据,短时间内对很多模型进行全量计算,降低对复杂模型的依赖业界通过实践已经证明,大量数据加简单模型,要比部分数据加复杂模型,要来得有效将以往已经收集,但是没有纳入模型的数据纳入模型,参与分析将以前认为没有收集价值的数据,收集起来,参与分析将以前无法收集的数据,采用的技术,加以收集,比如呼叫中心的交流记录1HNOLOGIES

CO.,0TECHNOLOGIES

CO.,.11Page

11相关概述1功能特性42工作原理3FusionInsight

Hadoop架构5

最佳实践FusionInsight

Hadoop在OceanStor

9000中的位置结构化数据应用层硬件节点层与NodeNode数据处理层NFS

CIFSObject标准SQL分布式SQL引擎WushanSQLNodeNodeNodeNodeNodeNodeNodeNodeNodeNodeNodeNodeNodeNode对象

非结构化、半结构化数据MR/Hbase企业级HadoopFusionInsight

Hadoop分布式文件系统WushanFS归档NodeNodeNodeNodeHPC

网盘话单查询精准上网行为分析商业推广文件1HNOLOGIES

CO.,2企业大数据混搭平台架构ETL层, 和预处理开放支撑平台:基础服务、算法模型、自助分析、自助报表Hadoop云基于低成本X86平台主数据仓库基于高性能平台流数据处理CEP及流处理引擎结构化数据实时流数据 互联网数据1111多

门户电脑 智能

PAD中心云化ETL、云化DW、实时挖掘、自助分析、跨域模型、并发查询、实时规则、知识自学习、内容语义分析等能力最终将在应用平台及多个数据平台中体现。包含关系型的主

,也包含非关系型的HADOOP及流处理引擎1HNOLOGIES

CO.,3FusionInsight

Hadoop由来200720112013性

向 配

信持

化 并

回 馈

区可靠安全自管理,企业版开源

研究类独立发布FusionInsight组件配套GalaX

HD1HNOLOGIES

CO.,4TECHNOLOGIES

CO.,.15Page

15相关概述1功能特性42工作原理3FusionInsight

Hadoop架构5

最佳实践TECHNOLOGIES

CO.,.16FusionInsight产品定位第一家支持1000+km异地容灾、第一家支持金融等保的大数据平台运营商详单查

询、经分分析、精准银行数据全生命周期分析、历史明细、精准 、在线 与风控等大企业Web页面点击行为、日志分析建模、算法中间件(Lifelong

Machine

Learning/Human

Computation

etc,.)Native

API/SQL/App

Engine服务封装FusionInsight

Hadoop非、半结构化处理FusionInsight

Streaming流处理通用X86服务器FusionInsightO&MTECHNOLOGIES

CO.,.17Page

17相关概述1功能特性42工作原理3FusionInsight

Hadoop架构5

最佳实践开源到企业级的蜕变安全版本配合配置Hadoop

HBase日志性能调优基线选择补丁选择采纳社区精华,去除开源Bug:谨慎选择稳定基线版本认真评估高版本补丁影响范围评估和回合策略采用数万个测试用例,确保企业版本稳定性年份提交解决20111109820121891552013207178团队社区问题/补丁贡献2013年Apache

Hadoop社区贡献全球第四,亚洲第一No.4

&

No.1ApacheHbaseContributorsHbaseCommitterHDFSCommitterHDFS

PMC81111HNOLOGIES

CO.,8关键工程团队能力:持续回馈并引领社区会使用Hadoop会定位周边问题会定位内核级问题(拔尖的个人)定位内核级问题的团队(依赖团队而不是精英个人)能够独立完成支撑关键业务特性的内核级开发能够带领社区,引领社区完成面向未来的内核级特性开发能够创建新的社区顶级项目,并且得到生态系统认可某大银行CIO:“把大数据应用视作是生命线,肯定是采用企业版,因为搞开源不是时候,的主业。在选合作伙伴的考虑门当户对,因为强有力的合作伙伴才能保证3~5年的供应、合作安全”强大的掌握代码的团队,才能造就成功的企业级数据平台1HNOLOGIES

CO.,9植根社区,提供工程化和创新工具的价值工程团队重点在长期稳定运行、问题隐患主动发现和定位、性能优化、基于应用场景的最优化方案设计方面内核完全基于社区,相关修改和优化及时回馈社区,保持与社区完全一致。中长期来看,应用将完全通

过SQL子集

大数据,并且该子集将

于社区集群管理吸收电信级

要求和借鉴传统

数据库优势,在可靠性以及日常运维管理、性能优化方便性方面重点进行提升数据导入导出FusionInsight全量数据分析组件Apache

HadoopZooKeeperHBaseHiveOozieYarnMapReduceHDFS/WushanFSFusionInsight

HadoopManager安装配置告警向导北向升级审计用户管理标准Linux操作系统安全加固Linux操作系统FusionInsight

Hadoop企业级增强集群资源授权管理集群资源动态调度接入安全集群内HA备份和容灾并发控制分布式日志收集数据私密CTBaseUPS数据分布式应用容器、SQLEngineMiner数据洞察平台特征管理、建模分析、可视化2HNOLOGIES

CO.,0系统可靠:全面提升社区原生版本可靠性ZookeeperMapReduceHDFSBookeeper…ResourceManagerNameNodeOMSOMSNameNodeHBaseHiveHive

ServerHiveServerOozieOozie

ServerOozieServerResourceManagerNodeManager

NodeManager

NodeManager

NodeManager

…HMasterRegionServer

RegionServer

RegionServer……HMasterMR

ClientHDFS

ClientHive

ClientOozie

ClientHBase

Client全部组件支持HA分布式文件系统元数据节点高可用方案华为已推入社区。支持文件系统

级备份、恢复HBase架构原生无单点故障,为保证实时业务,提供本地备份、恢复和地理容灾特性新增支持ResourceManager、Hive、Oozie

部件高可用主备倒换时运行任务不中断,数据不丢失OM系统双机各Hadoop组件,故障时拉起,增加双重保护2HNOLOGIES

CO.,1金融级安全特性加强和提升,其中包含文本的明文信息,以开源社区组件原生的格式不满足金融安全要求金融等保要求,开源Hadoop不支持此安全控制开源Zookeeper 用户可以登录,造成各组件

在Zookeeper的数据有被

的安全风险金融等保要求,开源Hadoop不支持非查询类操作审计能力用户提交任务给Hive

server,占用系统资源用户登入系统、剽窃、损害合法用户的数据合法用户相互之间也没有安全机制,关键信息不能互相开源Hadoop安全概况无集中的用户管理系统,各组件用户管理和鉴权各自为政FusionInsight

Hadoop安全概况集中的用户账户管理,账户 具备HA,支持LDAP接入上层企业AAA管理系统Hive,HBase和M/R任务在HDFS中的数据加密对通过S,API连接Hadoop各组件的客户端进行了总最大连接数,单用户的最大连接数和一定时间窗内的最大连接数控制限制Zookeeper 用户登录对Hadoop服务的非查询类操作系统审计能力Hive支持用户权限认证Hive支持对用户可

的系统资源进行 管理Hive支持对合法用户之间进行资源TECHNOLOGIES

CO.,.22安全方案MRHDFSHiveZkOozie业务开发用户运维用户超级管理员KDC354HBase4LDAPOMSCAS企业企业内网122通过

将企业内

络平面和业务平面通过子网1Kerberos认证Hadoop服务用户鉴权管理用户鉴权信息

HA3用户/用户组管理FusionInsight

Hadoop

Manager用户权限管理和审计Hadoop组件WEBUI服务支持单点登录认证2数据加密Hive,MR和HBase在

到HDFS中的数据均加密5数据分角色Hive和HBase中数据分用户,角色受控

,用户间数据452HNOLOGIES

CO.,3文件系统数据加密避免运维窥视业务应用文件系统敏感数据写入ARC4加密/敏感数据*(&@#$^%!%$#$!(*^&*^*5!$!@^%$^!$!%#$@%#!!$#@!备集群*(&@#$^%!%$#$!(*^&*^*5!$!@^...非敏感数据非敏感数据非敏感数据数据备份技术特点性高:采用业界流行的ARC4算法加密。除业务接口外,其他

文件均为乱码(如通过s、或HDFS接口查看)灵活:加密算法插件化,可进行扩充,亦可自行开发。非敏感数据可不加密,不影响性能(加 有5%性能开销)业务透明:上层业务只需指定敏感数据(Hive表级、HBase列族级加密),加

过程业务完全不感知2HNOLOGIES

CO.,4基于用户和角色的认证 体系技术特点遵从账户-角色模型,支持用户-角色模型,实现对角色进行权限管理,实现对用户进行批量

管理KDC和LDAP服务器之间以及LDAP主从服务器之间通过TCP通信使用TLS进行安全传输,保证用户认证信息传输安全支持账户口令复杂度策略管理,包括

长度、有效期等,提升账户自身安全性FW运维1集群管理员管理网络禁止操作FusionInsightManagerFusionInsightHadoop其他允许操作创建账户FusionInsightManagerFusionInsightHadoopLDAP从KDC“

KDC增加Krb用户增加Krb用户(TLS)同步Krb用户和OS用户(TLS)增加OS用户(TLS)认证Krb用户认证Krb用户

LDAP主(TLS)认证Krb用户2HNOLOGIES

CO.,5全向导式图形化安装配置易安装:向导式操作,

Step

by

step引导完成安装。易配置:模板化配置,将配置参数整合为模板,配置简单明了。分布式并行处理,10分钟完成集群安装。2HNOLOGIES

CO.,6全向导式图形化安装配置易安装:向导式操作,

Step

by

step引导完成安装。易配置:模板化配置,将配置参数整合为模板,配置简单明了。分布式并行处理,10分钟完成集群安装。2HNOLOGIES

CO.,7接入现有 系统syslogOMS(主/备)Hadoop集群支持Syslog、SNMP接口,实现与企业现有

系统集成。接口消息可通过配置适配现有系统整个Hadoop集群采用统一的集中管理,未来北向接口可根据需求灵活扩展2HNOLOGIES

CO.,8自定义软硬件告警日志生成主动探测:例行健康检查灵活配置性能能基线阈值告警,业务告警提前感知即时推送:告警北向推送快速定位:完备的操作日志和系统运行日志消息

,实现精准定位运维系统告警告警联机帮助定义超过基线上限发送告警2HNOLOGIES

CO.,9图形化快速升级和平滑扩容向导平滑 扩展快速升级向导式界面操作扩展,不影响业务支持 调整集群拓扑各组件灵活扩展向导式界面操作升级过程异常则自动安全回退;支持观察期手工触发安全回退稳定运行后确认提交升级6分钟完成集群升级集群完成观察期3HNOLOGIES

CO.,0按优先级分组资源控制与作业调度CPU内存CPU内存CPU内存CPU内存任务调度中心交换机资源队列A

资源队列B

资源队列C

DefaultCPU内存集群资源预先配置40%30%20%10%用户1:QueueA用户2:QueueC系统管理员作业提交者用户1用户2PendingRunning

Running资源刚好资源空闲集群资源弹性扩展资源耗尽 资源空闲优先级和资源配置:队列A>队列B>队列C>队列D资源抢占3HNOLOGIES

CO.,1应用开发助手TECHNOLOGIES

CO.,.32CTBase:Hbase的扩展为了充分发挥HBase的大表(百亿行、百万列、稀疏矩阵)特性,通过独有ClusterTable表封装,一个业务可以围绕一张主表,将多表组织,并且使用单一的接口,大幅降低设计门槛。3HNOLOGIES

CO.,3CTBase:Hbase的扩展Web

Service接口开发者接口数据表设计工具数据生命周期管理Metrics&OptimizeHBase资源管理安全元数据管理二级索引业务

建模的HBase大表关联查询报表工具:简化设计运维可视化的表设计工具,实现Schema、Rowkey、索引等设计,提供RDB向HBase迁移解决方案数据生命周期管理支持数据加载、回滚、备份、清理增强类库与组件:降低使用门槛提供对元数据管理和HBase集群资源管理,度量、执行优化等基础能力提供二级索引、关联查询等重要增强功能HBase企业开发框架企业数据集中,

建模,

管理Web

Service接口将数据以服务的方式开放给数据使用者(各类应用或业务部门)3HNOLOGIES

CO.,4OceanStor

9000

FusionInsight

物理视图deployment

WiseQuery

Deployment

ModelI

Node(SAS)tagsBoard

=

2U

2×GE

(25

Disk)CPU

=

2

×

E5-2450(2.1GHz,

8

Core)Data

Disk

=

25

×

600GB(SAS

10K)Mem

=

6

×

16GBNetwork

=

2

×

10GE(2

port)OS

Disk

=

2

×

300GB(SAS

10K)

RAID

=

RAID

GE(2

port

GE)I

Node(SATA)tagsBoard

=

2U

2×GE

(12

Disk)CPU

=

2

×

E5-2420(1.9GHz,

6

Core)Data

Disk

=

12

×

2TB(SATA

7.2K)Mem

=

4

×

16GBNetwork

=

1

×

GE(2

port)OS

Disk

=

2

×

300GB(SAS

10K)RAID

=

RAID

GE(2

port

GE)X86硬件体系全分布式架构全IP互联单个I

Node内4个RAID组,8个Datanode实例3HNOLOGIES

CO.,5简化管理,专业运维资源管理、、告警、配置整柜交付自动部署CLINMPSIM-S开放式管理接口巡检信息收集日志全面运维分析归档管理3HNOLOGIES

CO.,6TECHNOLOGIES

CO.,.37Page

37相关概述15

最佳实践功能特性42工作原理3Fusion

Insight

Hadoop架构FusionInsight金融行业应用示意或有金融资产社交情绪指数历史明细实时交易备注第一数据平面:交易单次、事务性第二数据平面:大数据平台并发、查询/分析POSATM柜面银行网上银行金融脉络关系实时批量互联网大数据业务:实时性业务持续性跨多元数据3HNOLOGIES

CO.,8FusionInsight商业银行实践银行生产系统大数据平台基本要求:RBAC安全私密管理、金融等保三级要求本地备份恢复、异地超1000公里容灾集群内所有组件支持HA,传统数据表汇聚行内老数据行外新数据大数据平台3HNOLOGIES

CO.,9招商银行:构筑大数据平台向互联网金融客户银行业务竞争激烈,急需以金融数据分析、挖掘为基础的产品、创新和风险评估,提升自身竞争力面对金融数据量和种类不断增加,传统数据仓库仅适合结构化数据处理,扩展性差、扩容成本高,

大数据时代要求解决方案企业级大数据平台:高可靠、高安全、易管理、易开发第一家支持金融等保、第一家支持1000公里以上异地容灾的海量数据分析和挖掘平台,无缝衔接企业应用拥有内核级开发的工程团队和咨询、定制化的服务能力客户价值的全量数据分析和挖掘平台丰富的创新业务:

明细,精准

,实时

…小微贷获客

,比传统方式提升40倍的转化率;或有金融资产误差率降低一倍; 由原来的15天提升到30分钟支持线性扩容,扩容成本低把大数据应用视作是生命线,一定是采用大数据平台企业版,搞开源

不是

的主业。在选合作伙伴的时候,

考虑门当户对,因为强有力的合作伙伴才能保证3~5年的供应、合作安全”——招商银行CIO4HNOLOGIES

CO.,0招商银行:历史明细查询X86服务器X86服务器X86服务器HDFSZooKeeperHBase/CTBaseProfile

Hadoop业务请求接入和分发分布式应用容器历史明细查询业务逻辑…银行95555系统网点柜员系统历史明细查询解决方案:提供:FusionInsight

UPS数据

+FusionInsight

ProfileHadoop基础数据平台解决方案,客户只需专注历史明细查询业务的编写FusionInsight

UPS数据

支持多业务系统并发

,实现实时历史明细查询能力FusionInsight

UPS数据

同时支持Socket、Web业务请求接入和分发,与招行业务系统无缝衔

接创新的CTBase方案,独有的表聚簇和多级索引支持HBase多表关联查询的能力HBase同时支持SQL、Java

API编程接口,适应客户的编程Manager管理Integration数据集成FusionInsightUPS数据服务历史明细查询业务逻辑历史明细查询业务逻辑X86服务器4HNOLOGIES

CO.,1招商银行:全量度客户行为分析X86服务器X86服务器X86服务器HDFSHBase/CTBase特征管理银行零售客户分析YARNMahout算法库建模分析数据可视化银行对公客户分析企业分析用户 小微贷 金融特征

倾向

关系刻画 分析 发现或有资产企业特征刻画企业结算关系…Manager管理Profile

HadoopHiveZooKeeperMRIntegration数据集成FusionInsightMiner数据洞察全量

客户行为分析解决方案:提供:FusionInsight

Miner数据洞察平台+FusionInsight

Profile

Hadoop基础数据平台的解决方案,客户只需专注客户行为分析业务的编写FusionInsight

Miner数据洞察平台基于大数据全量建模分析,可以挖掘出14000维客户特征,实现 客户行为并发分析FusionInsight

Miner数据洞察平台采用机器自动学习机制,大大提高分析准确度客户行为分析结果

在HBase,供业务查询X86服务器4HNOLOGIES

CO.,2招商银行:小微贷倾向分析&或有金融资产…900万客户14000维客户特征小微贷倾向分析模型Top20000潜在小微贷客户,业务部进行针对性或有金融资产

模型客户潜在或有金融资产明细4HNOLOGIES

CO.,3招商银行:客户收益客户行为分析历史明细查询集中 5年20TB交易历史明细数据,便于管理和扩展多业务系统并发实时查询5年交易历史明细数据,提升客户体验采用机器学习机制+全量分析,替代传统经验机制+传统数据仓库模式小微贷倾向分析转化量TOP864TOP8653

TOP581071332974469662200机器学习规则客户或有金融资产

误差率由60%降低到30%30%TECHNOLOGIES

CO.,.44TOP10000客户成功转化率提高6倍或有金融资产误差率60%工商银行:建设分布式日志收集+分析平台,实现精准客户应对互联网金融的竞争,需要掌握

用户的行为轨迹,精准,扩大销售;优化

服务模块的质量,提升客户体验安全、运维操作日志的关联分析,提高故障发生时故障点定位的准确率,提升故障响应速度解决方案企业级大数据平台:高可靠、高安全、易管理、易开发分布式日志收集系统自动将各分行的日志收集到总部大数据平台管理:分布式日志收集系统+大数据分析平台基于 日志的用户行为统计和分析模型拥有内核级开发的工程团队和咨询、定制化的服务能力客户价值的通过 用户行为统计和分析,实时+离线的精准安全+运维操作日志关联分析,精准定位故障点4HNOLOGIES

CO.,5FusionInsight电信运营商应用示意经分话单分析网络信令分析历史数据查询批量BOSS结构化数据系统业务系统……网络日志非结

DPI构化数

……据实时流批量爬取互联网批量下发客户精准多租户数据服务挖掘引擎流处理引擎大数据平台平台调度批处理框架……

……X86服务器集群详单查询第 数据服务大数据业务4HNOLOGIES

CO.,6现状:

独立 ,分散

,数据弱共享信息化部互联网部网络运维部Smart

care据数CS令数据信PS令数信据数信固据令网MR迹字轨数业务质量管理CS信令监测PS信令监测系统固网信令监测系统MR数据轨迹系统接口接口接口接口接口精细化平台辅助运营平台用户数据/业务数据/网络数据接口营帐DM用户/帐务数据经营分平

维系台平台CBSS接口FTPSocket数据数据数据应用VAC平台

平台200TB/年MC探针

CS探针 PS探针600TB/年192TB/年292TB/年固网探针300TB/年MR探针78TB/年256TB/年独立 :

各应用系统分别分散

每年均有数据;

部分接口存在重复

。扩容需求,目前采用传统小型机+Oracle数据库+阵列跨域分析需求:业务跨域分析需求激增,要求数据协同,目前

/共享效率低业务质量分析模型CS信令分析模型固网信令分析模型PS信令分析模型位置轨迹分析模型用户生命州用户行为轨用户行为轨模型

迹模型

迹模型经营分析模型

用户l维挽模型数据能力4HNOLOGIES

CO.,7目标总体架构:平台,集中管理需求部门

互联网/第数据源营帐 经分 业务系统MR

Gn口固网宽带数据分析工具能

用户生命力

周期层用户行为位置轨迹流处理批处理主数据仓库数据层海量详单数据库深度分析库和预处理管理域元数据管理数据质量管理数据安全管理资源管理系统管理透明数据数据服务总线偏好 用户价值 离网6数据模型和能力组件化5用户全生命周期3非结构化海量数据处理应用层1一份数据,一份2一份数据,一份7数据安全管理8数据质量管理4实时分析总体原则:1应用与数据解耦

2分层分域,架构清晰Hadoop/辅助运营系统

nMIS应用SmartCare应用NET/Toolba

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论