大数据存储技术计算机专业课件

1、Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 0修订记录课程编码课程编码适用产品适用产品产品版本产品版本课程版本课程版本ISSUEHC1209202N8500OceanStor 9000V100R002V00R001V2.0开发开发/优化者优化者时间时间审核人审核人开发类型（新开发开发类型（新开发/优化）优化）张博2013-09-20刘庆超/余雷新开发本页不打印Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. HC12

2、09202 第二章 大数据存储技术Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 2目标l学完本课程后，您将能够:p描述大数据存储架构p理解大数据存储技术p了解大数据分析技术p了解数据安全技术p理解集群NAS技术p理解文件系统分级存储p理解文件系统快照、镜像、复制Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 3目录1.1.大数据存储架构大数据存储架构2.大数据存储技术3.大数据分析技术4.数据安全技术5.N

3、AS基础技术6.集群NAS技术7.集群NAS卷管理技术Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 4大数据存储架构 Scale-out File system数据生命周期管理/跨域调度管理 Scale-out DB 传统存储业务海量数据业务 主存储域 NOFSServers: General X86 open architecture NOFS NOFS NOFS NOFS NOFS NOFS NOFS10GE iWARP/Infiniband XDBC SQLMap-Reduce Interfa

4、cePOSIXJOB 备份域HDFS HDFS large-capacity nodehigh-OPS nodeHDFShigh-bandwidth node业务层接口层存储层NFS/CIFSS3ISCSIBIBig data analyticsBackupBig data shareNASCopyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 5应用层HPC 客户端客户端在线系统近线系统 FC/10GE/InfinibandFC/10GE/InfinibandScale-out NASScale-out D

5、BScale-out Backup磁盘上下电扫描文件数据保护策略单盘下电节能数据定期巡检文件生命周期策略Scale-out架构Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 6目录1.大数据存储架构2.2.大数据存储技术大数据存储技术3.大数据分析技术4.数据安全技术5.NAS基础技术6.集群NAS技术7.集群NAS卷管理技术Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 7传统存储与对象存储Copyrigh

6、t 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 8大数据存储技术分布式对象资源池Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 9大数据存储技术-Erasure code 数据写入时被切割成M个数据块 经过纠错编码生成N个冗余校验块,共M+N份数据 系统将多个数据块并行的存储于不同的节点中 当存储节点损坏时，数据读写正常，剩余数据块及冗余块后台参与并将数据恢复m2m4m1m3m3m2n2n1m4m1n2m4Copyright

7、 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 10对象存储数据写流程Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 11对象存储数据读取流程Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 12数据块损坏时的数据读取和恢复Copyright 2013 Huawei Technologies Co., Ltd. All rights r

8、eserved. Page 13元数据冗余DiskDiskDiskDiskDiskDiskDiskDiskDiskDiskDiskDiskDiskDiskDisk元数据拷贝元数据拷贝元数据拷贝元数据拷贝元数据拷贝文件元数据节点1节点2节点3节点4节点5Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 14EC快速数据恢复l系统中每个硬盘都属于多个NLUNl硬盘故障时,会选出4个目标盘出来进行恢复l每个目标盘的恢复是独立的，目标盘之间的恢复可以并发节点1节点2节点3节点4节点5节点6硬盘1硬盘2硬盘3硬盘

9、n硬盘1硬盘2硬盘3硬盘n硬盘1硬盘2硬盘3硬盘n硬盘1硬盘2硬盘3硬盘n硬盘1硬盘2硬盘3硬盘n硬盘1硬盘2硬盘3硬盘nCopyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 15单一文件系统&统一文件系统命名空间应用服务器应用服务器WushanFSCopyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 16热数据冷数据普通数据Tier 2Tier 3Tier 1SSD分级存储技术l分级存储满足用户既需要高性能访问

10、也需要大容量存储的双重需求。l允许用户自行规划自己的业务，对自己的业务进行分级，把某些重要的业务放在性能较高的节点上。 Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 17热数据冷数据普通数据Tier 2Tier 3Tier 1SSD分级存储技术l分级存储满足用户既需要高性能访问也需要大容量存储的双重需求。l允许用户自行规划自己的业务，对自己的业务进行分级，把某些重要的业务放在性能较高的节点上。 Copyright 2013 Huawei Technologies Co., Ltd. All righ

11、ts reserved. Page 18智能负载均衡l在所有节点间自动进行负载均衡l自动平衡容量和性能lIP的故障切换(failover)和故障恢复(failback)无需人工干预，无需更改配置l对应用透明nodenodenodenodeOceanStor9000OceanStor9000WiseLinkWiseLinkWiseLinkWiseLinkWushanFSWushanFS01234Copyright 2013 Huawei Technologies Co., Ltd. Al

12、l rights reserved. Page 19智能负载均衡l负载均衡实现过程：1. 访问系统一级/二级域名,如：2. OceanStor 9000对域名进行解析，根据负载策略，返回IP地址3. 业务请求nodenodenodenodenodenodeZone 1：基于CPU使用情况二级域名：Zone 2：基于网络连接数二级域名：WushanFSWushanFSNFS ClientCopyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 20智能负载均衡l负载均衡实现过程：1. 访问系统一级/二级域名,如：

13、2. OceanStor 9000对域名进行解析，根据负载策略，返回IP地址3. 业务请求nodenodenodenodenodenodeZone 1：基于CPU使用情况二级域名：Zone 2：基于网络连接数二级域名：WushanFSWushanFSNFS ClientCopyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 21高效全局缓存（一）storageCPUMemorystorageCPUMemorystorageCPUMemory全局缓存ABC应用服务器nodeAnodeBnodeCWushanFS

14、WushanFSCopyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 22高效全局缓存（二）l利用分布式锁，实现全局缓存l同一数据块在缓存只缓存一份l任意节点缓存中的数据都能被其他节点访问时命中Node ANode BNode CstorageCPUMemorystorageCPUMemorystorageCPUMemory应用服务器WushanFSWushanFS服务器向Node C申请锁LOCK返回锁在Node A已经申请从Node A缓存中读取数据Copyright 2013 Huawei Techn

15、ologies Co., Ltd. All rights reserved. Page 23按需扩展节点线性扩展60秒之内完成单节点扩容无需人为干预，无需任何改动应用服务器Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 24InfiniBand技术lInfiniBandpInfiniBand技术不是用于一般网络连接的，它的主要设计目的针对服务器端的连接问题。pInfiniBand技术被应用于服务器与服务器（比如复制、分布式工作等）、服务器和存储设备（比如SAN和直接存储附件）以及服务器和网络之间（比如

16、LAN、 WANs和the Internet）的通信。lInfiniBand的用途p针对服务器端的连接，提供高速、低时延、RDMA方式的访问lInfiniBand的特点p高带宽p低时延p系统扩展性好Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 25InfiniBand体系架构lInfiniBand标准定义了一套用于系统通信的多种设备，包括信道适配器、交换机和路由器。Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Pa

17、ge 26InfiniBand的帧结构lInfiniBand的帧结构Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 27InfiniBand的特点l高速度pInfiniband第一代DDR技术，所支持的吞吐量为5、20或60Gbps，延迟低于1.3us。第二代QDR技术，带宽最高可达120Gbps，延迟低于100ns l远程直接内存存取功能p该功能对于集群来说很适合，因为它可以通过一个虚拟的寻址方案，让服务器知道和使用其他服务器的部分内存，无需涉及操作系统的内核。l传输卸载p远程直接内存存取能够帮助传

18、输卸载，后者把数据包路由从OS转到芯片级，节省了处理器的处理负担Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 28InfiniBand的协议栈Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 2910GE以太网l定义p10GE 以太网（10 Gigabit Ethernet，缩写为10GE，10GbE，10 GigE或10GE），即万兆以太网。p一种以太网的传输标准，2002年通过，成为IEEE Std 80

19、2.3ae-2002。它规范了以10 Gbit/s 的速度来传输的以太网，它的速度是GE的十倍。l特点：p10 Gigabit以太网，以全双工方式连接到网络交换器，它不支持半双工模式与CSMA/CD。p10GE提供了高带宽低时延的访问，适合比较 媒资类、高算类、OLAP等。Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 30目录1.大数据存储架构2.大数据存储技术3.3.大数据分析技术大数据分析技术4.数据安全技术5.NAS基础技术6.集群NAS技术7.集群NAS卷管理技术Copyright 2013

20、 Huawei Technologies Co., Ltd. All rights reserved. Page 31数据库技术的演变l随着数据量的飞速增长，特别是非结构化数据，传统关系型数据库的可扩展性出现瓶颈，因此出现各种场景优化的数据存放方式OldSQL（事务）New SQL/MoreSQL（分析）NoSQL（互联网）Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 32NoSQL与NewSQLCopyright 2013 Huawei Technologies Co., Ltd. All rig

21、hts reserved. Page 33数据库CAP原理Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 34NoSQL结构Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 35NoSQL与关系型的数据库对比l优势方面： p易扩展：灵活的数据模型p高可用：快速读写，大数据量，高性能p低廉的成本l不足： p不提供对SQL的支持p支持的特性不够丰富pNoSQL未形成一定标准Copyright 2013 Huawei

22、 Technologies Co., Ltd. All rights reserved. Page 36NoSQL与关系型的数据库对比l优势方面： p易扩展：灵活的数据模型p高可用：快速读写，大数据量，高性能p低廉的成本l不足： p不提供对SQL的支持p支持的特性不够丰富pNoSQL未形成一定标准Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 37NoSQL分类类型类型部分代表部分代表特点特点列存储列存储Hbase/Cassandra/Hypertable顾名思义，是按列存储数据的。最大的特点是方便存

23、储结构化和半结构化数据，方便做数据压缩，对针对某一列或者某几列的查询有非常大的IO优势。文档存储文档存储MongoDB/CouchDB文档存储一般用类似json的格式存储，存储的内容是文档型的。这样也就有有机会对某些字段建立索引，实现关系数据库的某些功能。key-valuekey-value存储存储Tokyo Cabinet Tyrant/Berkeley DB/MemcacheDB/Redis可以通过key快速查询到其value。一般来说，存储不管value的格式，照单全收。（Redis包含了其他功能）图存储图存储Neo4J/FlockDB/InfoGrid图形关系的最佳存储。使用传统关系数

24、据库来解决的话性能低下，而且设计使用不方便。对象存储对象存储Db4o/Versant通过类似面向对象语言的语法操作数据库，通过对象的方式存取数据。xmlxml数据库数据库Berkeley DB XML/BaseX高效的存储XML数据，并支持XML的内部查询语法，比如XQuery,Xpath。Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 38NoSQL应用举例lGoogle的BigTablepBigTable提出了一种很有趣的数据模型，它将各列数据进行排序存储。数据值按范围分布在多台机器，数据更新操作

25、有严格的一致性保证。lAmazon的DynamopDynamo使用的是另外一种分布式模型。Dynamo的模型更简单，它将数据按key进行hash存储。其数据分片模型有比较强的容灾性，因此它实现的是相对松散的弱一致性：最终一致性。Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 39NewSQLlNewSQL 是对各种新的可扩展/高性能数据库的简称。lNewSQL数据库具有NoSQL对海量数据的存储管理能力。lNewSQL数据库保持了传统数据库支持ACID和SQL等特性。Copyright 2013 Hu

26、awei Technologies Co., Ltd. All rights reserved. Page 40MPP DB-结构化数据分析lMPP DB关键技术：分布式并行计算、存储在线系统扩容 访问性能线性扩展加载能力线性扩展高级负载管理 数据分区均衡存储透明压缩支持开放硬件平台CPUCPUCPUCPU内存内存内存内存 扩展方式：增加服务器节点 理论上扩展无限制，上千节点互连 随着节点数量增加，性能线性提升MPP DB Share-nothing架构例如：HUAWEI OceanStor 9000， EMC Greenplum， DB2 DPF Scale Out 模式网络Copyrigh

27、t 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 41目录1.大数据存储架构2.大数据存储技术3.大数据分析技术4.4.数据安全技术数据安全技术5.NAS基础技术6.集群NAS技术7.集群NAS卷管理技术Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 42存储系统的数据安全性完整性保密性可用性数据加密WORMRAID用户管理系统加固日志审计补丁管理网络管理(ACL)数据销毁远程复制备份恢复防病毒Copyright 2013 H

28、uawei Technologies Co., Ltd. All rights reserved. Page 43对象存储加密物理级：磁道校验 CRC分片级：分片校验 SHA256对象级：对象校验 MD5应用级：报文校验 CRC端到端一致性校验Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 44目录1.大数据存储架构2.大数据存储技术3.大数据分析技术4.数据安全技术5.5.NASNAS基础技术基础技术6.集群NAS技术7.集群NAS卷管理技术Copyright 2013 Huawei Technol

29、ogies Co., Ltd. All rights reserved. Page 45什么是NAS？NAS特征：l拥有可访问的磁盘阵列l拥有文件系统l对外提供访问文件系统的接口LUN0LUN1LUN2LUN3LUN6LUN7LUN8LUN9LUN4LUN10LUN5LUN11卷管理模块卷管理模块文件系统Network Attached Storage网络文件系统协议以太网接口以太网接口Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 46NAS结构NAS硬件操作系统存储管理（磁盘监视，异常处理，RAI

30、D）文件系统网络文件共享（NFS,CIFS）GUI界面设备监视与控制；设备配置：网络、卷、文件存取权限等）可通过Web进行管理Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 47网络模块TCP/IP微内核操作系统控制器微码RAID软件NAS文件系统CIFS或NFS协议NTFS或FAT32文件系统，Windows计算机UFS文件系统，UNIX工作站UFS文件系统，UNIX工作站NTFS或FAT32文件系统，Windows计算机NTFS或FAT32文件系统，Windows计算机CIFS或NFS协议CIFS

31、或NFS协议NAS设备Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 48CIFS是什么 l定义pCIFS (Common Internet File System)，通用Internet文件系统 ，一个新提出的协议，它使程序可以访问远程Internet计算机上的文件并要求此计算机的服务。 lCIFS是公共的或开放的SMB协议版本，包含主要模块有：pNBTpSMBpBrowsingCopyright 2013 Huawei Technologies Co., Ltd. All rights reser

32、ved. Page 49NBT、SMB、BrowsinglNBT (NetBIOS over TCP/IP) TCP/IP 上的NetBIOSlSMB (The Server Messages Block Protocol) 服务器消息块协议lBrowsing (The Browse Service) 浏览服务SMBNETBIOSTCP/UDPIPCopyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 50NBTHullRingoClementsTCP/IP网络MickLaidlawWhere is Ring

33、o ?lNBT（NetBIOS over TCP/IP）TCP/IP上的NetBIOSThis is Ringo Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 51SMBlSMB 是用于文件与打印机共享的协议p同时也叫 CIFS (Common Internet File System)p基于客户端/服务器模式p并不等同于Samba: 一种SMB协议在unix系统上的开源实现pSMB 通常运行在 NetBIOS (naming + sessions + datagram)协议之上lNetBIOS +

34、 SMB 适用于LAN环境Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 52BrowsinglBrowsing（The Browse Service ）浏览器服务的主要功能是：提供客户机域中共享资源的计算机的列表，以及广域网 (WAN) 上其他域名和工作组名称的列表。此列表提供给用“网上邻居”或 NET VIEW 命令查看网络资源的客户端。Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 53CIFS 消息流

35、User RequestUser ModeKernel ModeI/O ManagerRedirectorTDI LayerNWLinkNet BTNet BIOSIPXTCP/IPNDISNetworkTDI LayerNWLinkNet BTNet BIOSIPXTCP/IPNDISServerCopyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 54NFS (Network File System )l定义pNFS（网络文件系统）是Unix/linux系统间实现磁盘文件共享的一种方法，支持应用程序在客

36、户端通过网络存取位于服务器磁盘中数据的一种文件系统协议。l工作原理p使用客户端/服务器架构，由一个客户端程序和服务器程序组成。l主要模块pRPC、鉴权、传输 Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 55NFS消息流Syetem Call interfaceNFS ClientRPC/XDRVFS InterfaceOther types of filesystemLinux & Unix filesystemNFSClientNetworkRPC/XDRNFSServerVFS Int

37、erfaceLinux & Unix filesystemCopyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 56RPC是什么？ApplicationPresentationSessionTransportNetworkLinkPhysicalNFSMOUNTPORT MAPPERNIS(Network Information System)XDR (eXternal Data Representation)RPC (Remote Procedure Call)TCP, UDPIPEthernet

38、OSI ModelNFS Protocol LayersCopyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 57传输方式 l使用UDP协议pUDP传输在NFS局域网的应用中传输速度快pUDP协议传输的开销小l使用TCP协议p可靠性高，有效的阻塞控制p客户端和服务器端都保留TCP连接的状态p服务器崩溃时，客户端只需要打开一个新的TCP连接p客户端崩溃时，服务器端在新的TCP连接到来时，关闭原来的TCP连接Copyright 2013 Huawei Technologies Co., Ltd. All rig

39、hts reserved. Page 58应用环境对比、网络特性对比特性特性NFSNFSCIFSCIFS传输协议 连接状态 故障恢复 传输包大小TCP/UDP 无状态自动恢复 8K/32KTCP有状态64K文件格式 UNIX类型 WIN类型无 Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 59目录1.大数据存储架构2.大数据存储技术3.大数据分析技术4.数据安全技术5.NAS基础技术6.6.集群集群NASNAS技术技术7.集群NAS卷管理技术Copyright 2013 Huawei Technol

40、ogies Co., Ltd. All rights reserved. Page 60集群技术l定义：p集群是由一组相互独立的服务器组成，对外表现为单一服务器，提供高可靠性服务。l特点：p统一命名p高可靠性p性能扩展p共享数据空间集群系统业务网络增加组件Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 61集群NAS存储系统概念与特点l集群NAS（Network Attached Storage）系统p概念：集群NAS存储系统是指将集群技术应用到NAS存储系统中，是为应对非结构化数据应用暴涨，提升NA

41、S文件共享服务的性能和高可靠性。p集群NAS存储系统与传统NAS存储系统的对比：传统传统NASNAS存储系统存储系统集群集群NASNAS存储系统存储系统可靠性可靠性单控模式：单点故障；双控模式：故障切换导致业务中断，链路切换时间长。故障切换快速；双控模式采用Active-Active模式，集群单个节点故障不影响业务。高性能高性能多套设备提高性能将会带来数据冗余，数据不一致等问题。引擎架构可扩展；共享存储设备；文件系统位于存储侧，读取速度快。可扩展性可扩展性固定引擎架构；频繁更新及添加导致的系统停机开始影响业务在多层面提供扩展优势：NAS机头，存储容量；支持在线扩展Copyright 2013

42、Huawei Technologies Co., Ltd. All rights reserved. Page 62集群NAS数据通道互联Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 63VCS通信架构l代理监控各个系统的资源，并将状态提供给每台机器的HADlHAD将状态发送给GAB（Group Membership Services/Atomic Broadcast）lGab 通过广播，将配置信息发送到集群的所有成员lLLT（Low-Latency Transport）通过低时延传送协议，将信息发

43、送的集群的所有节点l在各个节点的HAD采取正确的行动，比如必要时，进行倒换（Failover）Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 64LLT协议lLLT：Low Latency Transportl属于MAC层协议，与IP无关l两个作用:p供GAB使用（单播报文）p心跳(0.5秒一个广播报文)lN8000中有三条私有链路SystemASystemBLLTLLTHardwareKernelPrivate NetworkCopyright 2013 Huawei Technologies Co

44、., Ltd. All rights reserved. Page 65GABl原子广播，实际上是点到点的单播l使用LLT协议发送数据l管 理 集 群 成 员 ：gabconfig -aCopyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 66fencingFencing 功能l监控GAB，并检测集群成员的变化l保证集群成员的单一视图，防止集群脑裂l防止从多个节点，在没有单一l集群控制下，用卷管理器访问共享存储Copyright 2013 Huawei Technologies Co., Ltd. All

45、rights reserved. Page 67HADlVCS的引擎，就是HAD（High availability daemon），其功能为：p在集群的每个主机系统上都有该进程运行p对所有的集群资源，维护配置和状态信息p管理所有的代理p用hashadow监控进程HAD，在HAD进程故障时，能够把它重新启动起来Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 68全局存储空间管理技术Copyright 2013 Huawei Technologies Co., Ltd. All rights reser

46、ved. Page 69集群元数据管理Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 70集群元数据管理Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 71集群全局锁机制Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 72AgentlAgent是控制资源的程序l每种类型的资源对应一个代理，一个代理控制对应类型的所有资

47、源l用户也可以自定义代理Diskc1t0d1s0c1t0d0s0IPNICqfe1hme0Mount/dataAgentsResourcesCopyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 73服务组-NFS为例l服务组是资源的一个集合，是控制资源的管理单元l一个节点（node）可以有多个服务组l每个服务组都被独立的监控和管理l服务组中的资源在系统中必须是可用的l服务组和资源存在相互依赖关系NFS Service GroupNFSIPDiskMountShareNICCopyright

48、2013 Huawei Technologies Co., Ltd. All rights reserved. Page 74服务组的类型lFailover Service Groupsp在某一时间，该service group只能运行在一个系统上（system），在对数据一致性要求高（比如数据库，网络文件系统（NFS）的情况下，使用该组。lParallel Service Groupsp在某一时间，可以部署在多个系统上 配置比Failover Service Groups复杂很多lHybrid Service Groupsp是上面两种service groups的组合l在N8000中只使用了

49、Failover和Parallel两种Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 75资源（Resource）定义l资源是VCS对象，它对应到应用服务的硬件或者软件组件l资源是放在服务组里面的定义和管理的。Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 76资源依赖关系l资源可以依赖其他资源l父资源依赖子资源l服务组可以依赖其他服务组l资源和服务组之间的依赖关系由规则管理l不允许出现循环依赖Copyrig

50、ht 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 77目录1.大数据存储架构2.大数据存储技术3.大数据分析技术4.数据安全技术5.NAS基础技术6.集群NAS技术7.7.集群集群NASNAS卷管理技术卷管理技术Copyright 2013 Huawei Technologies Co., Ltd. All rights reserved. Page 78VxVM基本概念l物理对象：能被OS看到的物理存储设备l虚拟对象：VxVM进行存储设备管理的逻辑对象。VxVM通过虚拟对象和物理设备的映射来访问存储设备l虚拟对象有：卷，磁盘组，VM磁盘，子磁盘，Plexl卷布局: 卷的布局是指卷与物理存储设备的映射关系，即卷与一个或多个Plex 的关联关系。不同的卷布局提供不同级别的存储服务 VM磁盘一个物理磁盘，分区或者LUN磁盘组若干个VM磁盘的组合子磁盘VM磁盘上连续的磁盘块 Plex由一个或多个物理磁盘上的一