MSPE-基础类-2-RAID技术 v1.3课件

MSPE培训教材—RAID技术1目录RAID基本概念RAID级别和特点RAID比较和选择RAID硬盘失效处理CRAID简述2MSPE-基础类-2-RAID技术v1.3RAID出现原因计算机发展初期，大容量硬盘价格非常高，而需要存储的数据量越来越大容量性能CPU运算速度飞速提高，数据读写速度不应该成为计算机系统处理的瓶颈信息时代，数据对企业和个人的重要性越来越大，数据存储安全更需要保障RAID可靠性3MSPE-基础类-2-RAID技术v1.3RAID基本概念——定义RAID（RedundantArrayofIndependentDisks）即独立磁盘冗余阵列，RAID技术将多个单独的物理硬盘以不同的方式组合成一个逻辑硬盘，从而提高了硬盘的读写性能和数据安全性。由加利福尼亚大学伯克利分校（UniversityofCalifornia-Berkeley）在1987年，发表的文章：“ACaseforRedundantArraysofInexpensiveDisks”。文章中，谈到了RAID这个词汇，而且定义了RAID的5层级。柏克莱大学研究其研究目的为，反应当时CPU快速的性能。CPU效能每年大约成长30～50%，而硬磁机只能成长约7%。研究小组希望能找出一种新的技术，在短期内，立即提升效能来平衡计算机的运算能力。在当时，柏克莱研究小组的主要研究目的是效能与成本。另外，研究小组也设计出容错（fault-tolerance），逻辑数据备份（logicaldataredundancy），而产生了RAID理论。研究初期，便宜（Inexpensive）的磁盘也是主要的重点，但后来发现，大量便宜磁盘组合并不能适用于现实的生产环境，后来Inexpensive被改为independence，许多独立的磁盘组。4MSPE-基础类-2-RAID技术v1.3RAID基本概念——级别根据不同的组合方式可以分为不同的RAID级别RAID0数据条带化，无校验RAID1数据镜像，无校验RAID2海明码错误校验及校正RAID3数据条带化读写，校验信息存放于专用硬盘RAID4单次写数据采用单个硬盘，校验信息存放于专用硬盘RAID5数据条带化，校验信息分布式存放RAID6数据条带化，分布式校验并提供两级冗余5MSPE-基础类-2-RAID技术v1.3RAID组合方式——级别扩展同时采用两种不同的RAID方式还能组合成新的RAID级别RAID0+1先做RAID0，后做RAID1，同时提供数据条带化和镜像RAID10类似于RAID0+1，区别在于先做RAID1，后做RAID0RAID50先做RAID5，后做RAID0，能有效提高RAID5的性能6MSPE-基础类-2-RAID技术v1.3RAID基本概念——条带条块分条条带

硬盘0硬盘2硬盘1硬盘37MSPE-基础类-2-RAID技术v1.3RAID基本概念——校验异或运算P=A0XORA1数据A0和A1通过异或运算进行奇偶校验得到校验位PA0值A1值P值000101011110异或XOR的校验原理

A1A0P数据盘数据盘校验盘8MSPE-基础类-2-RAID技术v1.3RAID基本概念——重建（Rebuild）数据盘A1A0PA0A1PXOR故障数据盘校验盘A2A2XOR数据盘更换9MSPE-基础类-2-RAID技术v1.3RAID基本概念——RAID组状态RAID组正常工作RAID组降级RAID组重建RAID组创建RAID组失效10MSPE-基础类-2-RAID技术v1.3RAID基本概念——物理卷和逻辑卷RAID10RAID5RAID由几个硬盘组成，从整体上看相当于一个物理卷在物理卷的基础上可以按照指定容量创建一个或多个逻辑卷，通过LUN（LogicUnitNumber）来标识物理卷物理卷逻辑卷逻辑卷单个物理卷上创建1个逻辑卷单个物理卷上创建2个逻辑卷LUN1LUN2LUN311MSPE-基础类-2-RAID技术v1.3RAID、逻辑卷的形成过程物理磁盘物理卷（RAID）12MSPE-基础类-2-RAID技术v1.3RAID、逻辑卷的形成过程物理磁盘逻辑卷物理卷（RAID）LUN1LUN2LUN3分割13MSPE-基础类-2-RAID技术v1.3RAID写数据三种方式……一、整条写整条写的实现方式是：第一步：直接将新写入的数据在cache里通过校验运算，计算出校验数据。第二步：再将需要写入的数据和校验数据同时写进一个条带。如图所示：IO有效率75%14MSPE-基础类-2-RAID技术v1.3RAID写数据三种方式二、重构写一个IO写操作,它所写入的条带所在的磁盘数超过RAID磁盘一半时,可采用重构写方式。重构写的实现方式是：第一步：先将所需写入的新数据保存到cache，同时读取其它磁盘上的老数据到cache，再将新数据、老数据做校验运算，得出新校验数据。第二步：再将新数据、老数据和新校验数据同时写入所在的磁盘扇区。如图所示：IO有效率40%读一次IO，写4次IO，有效写数据2次IO，有效率是40%15MSPE-基础类-2-RAID技术v1.3RAID写数据三种方式三、读改写（read-modifywrite）一个IO写操作,它所写入的条带所在的磁盘数不超过RAID磁盘一半时,可采用读改写方式。读改写的实现方式是：第一步，先将所需写入的新数据保存到cache，同时读取所需要写入扇区上的老数据到cache，同时读取校验盘上相对应扇区上的老校验数据到cache，再将新数据、老数据和老校验数据做校验运算，得出新校验数据。第二步，再将新数据、新校验数据同时写入所在的磁盘扇区。如图所示：IO有效率25%读两次，写两次，有效写IO只有1次，所以有效率是25%16MSPE-基础类-2-RAID技术v1.3RAID级别——RAID0DHLCGKBFJ定义：RAID0即没有容错设计的条带硬盘阵列（StripedDiskArraywithoutFaultTolerance），以条带形式将RAID组的数据均匀分布在各个硬盘中ABCDEFGH数据……AEI17MSPE-基础类-2-RAID技术v1.3RAID级别——RAID0优点极高的读写效率速度快，由于不存在校验，所以不占用CPU资源部署简单缺点无冗余，通常和其他RAID级别混合使用不适合用于关键数据环境最小硬盘数2RAID0小结：18MSPE-基础类-2-RAID技术v1.3RAID级别——RAID1RAID1定义：RAID1又称镜像（Mirror），数据同时一致写到主硬盘和镜像硬盘EDCBAEDCBAABCDE……=数据19MSPE-基础类-2-RAID技术v1.3RAID级别——RAID1优点提供了很高的数据安全性和可用性100％的数据冗余设计、使用简单不作校验计算，CPU占用资源少缺点空间利用率只有1/2相对于单个硬盘，无法提高写性能硬盘数2RAID1小结：20MSPE-基础类-2-RAID技术v1.3A0B0C0D0ECC/AxECC/BxECC/CxECC/DxECC/AyECC/ByECC/CyECC/DyRAID级别——RAID2定义：RAID2采用早期的海明码校验组成硬盘阵列，RAID中第1个、第2个、第4个……第2的n次幂个硬盘都是校验盘。RAID2的硬盘利用率很低，目前基本不再使用A1B1C1D1A2B2C2D2A3B3C3D3ECC/AzECC/BzECC/CzECC/DzA0A1A2A3B0B1B2B3C0C1C2数据盘校验盘21MSPE-基础类-2-RAID技术v1.3RAID级别——RAID3定义：RAID3即带有校验的并行数据传输阵列（Paralleledtransferwithparity），数据条带化分布在数据盘中，同时使用专用校验硬盘存放校验数据D0C0B0A0D1C1A1B1D2C2A2B2PDPCPAPB异或运算数据盘校验盘A0A1A2B0B1B2C0……22MSPE-基础类-2-RAID技术v1.3RAID级别——RAID3优点数据分布式存储在连续的硬盘上，具有较高的读速率，适合大文件连续读操作的应用如果有一个硬盘损坏，数据的有效性没有影响缺点校验盘是整个硬盘阵列系统的瓶颈有数据盘故障时，每次读操作时都需要进行校验计算，读性能大幅度下降最小硬盘数3RAID3小结：23MSPE-基础类-2-RAID技术v1.3RAID级别——RAID4定义：RAID4是带有共享校验硬盘的独立数据盘（Independentdatadiskswithsharedparitydisk），与RAID3类似，不同在于对数据访问是每次一个盘，而RAID3是每次一个条带，RAID4的读写性能较差，目前较少使用（NetApp-WAFL）异或运算A0B0C0D0A1B1C1D1A2B2C2D2A3B3C3D3P0P1P2P3A0A1A2A3B0B1B2B3C0……数据盘校验盘24MSPE-基础类-2-RAID技术v1.3RAID级别——RAID5定义：RAID5与RAID3机制类似，但校验数据均匀分布在各数据硬盘上，RAID成员硬盘上同时保存数据和校验信息，数据块和对应的校验信息保存在不同硬盘上。RAID5是最常用的RAID方式之一……P4A3A2A1A0B4P3B2B1B0C4C3P2C1C0D4D3D2P1D0E4E3E2E1P0异或运算A0B0C0D0A1B1C1E1A2B2D2校验信息Px分布式存储数据25MSPE-基础类-2-RAID技术v1.3RAID级别——RAID5优点高读取速率，中等写速率提供一定程度的数据安全缺点RAID组里单块硬盘的故障，会导致其他硬盘读写性能大幅度下降最小硬盘数3RAID5小结：26MSPE-基础类-2-RAID技术v1.3RAID级别——RAID6定义：RAID6是带有两个独立分布式奇偶校验方案的独立数据硬盘（Independentdatadiskswithtwoindependentdistributedparityschemes）。广义上讲，能够允许两个硬盘同时失效的RAID级别统称为RAID6，狭义上讲，特指Intel的RAIDP+Q技术。硬盘空间利用率为(N-2)/N，N为RAID6阵列硬盘总数RAID6技术：目前RAID6还没有统一的标准，各家公司的实现方式都有所不同：RAIDP+Q：INTEL和HDS公司(XOR+伽罗瓦运算(Galois)）RAIDDP：NetApp公司（横向XOR+斜向XOR）RAIDADG：HP公司（两层XOR）27MSPE-基础类-2-RAID技术v1.3RAID级别——RAID6原理示例A1A3A2A4A7A10A8A5A9A13A6A15A11A12A16异或运算A1A2A3A4A5A6A7A9……横向校验盘中P1—P4为各个数据盘中横向数据的校验信息 例：P1=A1XORA2XORA3XORA4斜向校验盘中DP1—DP4为各个数据盘及横向校验盘的斜向数据的校验信息 例：DP1=A1XORA6XORA11XORA16P1P2P3P4横向校验盘斜向校验盘数据盘A8DP1DP2DP3DP4A14DP528MSPE-基础类-2-RAID技术v1.3RAID级别——RAID6优点可以同时允许两块硬盘失效缺点磁盘利用率比RAID5更低校验计算复杂，对控制器性能消耗很大，增加系统负载出现硬盘失效时，RAID重建时对系统性能影响更大，并且重建时间长最小硬盘数4RAID6小结：29MSPE-基础类-2-RAID技术v1.3RAID组合级别——RAID10定义：RAID10是将镜像和条带进行两级组合的RAID级别，第一级是RAID1镜像对，第二级为RAID0。RAID10也是一种应用比较广泛的RAID级别。ABCDEFGHAACBBCDDEEFFGGHH30MSPE-基础类-2-RAID技术v1.3RAID级别——RAID10优点高读取速率高写速率，较校验RAID而言，写开销最小至多可以容许n个硬盘同时损坏（2N个硬盘组成的RAID10阵列）缺点只有1/2的硬盘利用率最小硬盘数4RAID10小结：31MSPE-基础类-2-RAID技术v1.3RAID组合级别——RAID0+1ABCDEFGH定义：RAID0+1是将条带和镜像进行两级组合的RAID级别，第一级是RAID0，第二级为RAID1。一般来说，RAID0+1的失效概率要比RAID10大，不过无硬盘故障下，RAID0+1的读取速度要比RAID10快ABCDEFGHABCDEFGH32MSPE-基础类-2-RAID技术v1.3RAID组合级别——RAID50P13F1定义：RAID50是将RAID5和RAID0进行两级组合的RAID级别，最低一级是RAID5，第二级为RAID0A2P02A1A0B2B1P01B0P03C1C0P00异或运算A0B0D0E0A1C0D1F0B1……C1D2P12D1D0E2E1P11E0F0P10硬盘0硬盘1硬盘2硬盘3硬盘4硬盘5异或运算33MSPE-基础类-2-RAID技术v1.3RAID级别——RAID50优点比单个RAID5容纳更多的硬盘比单个RAID5有更好的读性能至多可以容许N个硬盘同时损坏（N个RAID5组成的RAID50阵列）比相同容量的单个RAID5重建时间更短缺点比较难实现同一个RAID5组内的两个硬盘损坏会导致整个RAID50阵列的失效最小硬盘数6RAID50小结：34MSPE-基础类-2-RAID技术v1.3常用RAID比较RAID级别RAID0RAID1RAID3RAID5RAID10RAID0+1别名条带镜像专用奇偶位条带分布奇偶位条带镜像阵列条带条带阵列镜像容错性无有有有有有冗余类型无复制奇偶校验奇偶校验复制复制热备盘选项无有有有有有读性能高低高高一般高随机写性能高低最低低一般一般连续写性能高低低低一般一般最小硬盘数2块2块3块3块4块4块可用容量N*单块硬盘容量，N为RAID组成员数量，一般不大于16(N/2)*单块硬盘容量，N为RAID组成员数量，一般不大于16(N-1)*单块硬盘容量，N为RAID组成员数量，一般不大于16(N-1)*单块硬盘容量，N为RAID组成员数量，一般不大于16(N/2)*单块硬盘容量，N为RAID组成员数量，一般不大于16(N/2)*单块硬盘容量，N为RAID组成员数量，一般不大于16典型应用环境迅速读写，安全性要求不高，如图形工作站等随机数据写入，安全性要求高，如服务器、数据库存储领域连续数据传输，安全性要求高，如视频编辑、大型数据库等随机数据传输，安全性要求高，如金融、数据库、存储等数据量大，安全性要求高，如银行、金融等领域高性能和高安全性，如视频服务器35MSPE-基础类-2-RAID技术v1.3常用RAID选择性能可靠性成本RAID0RAID6RAID5RAID10RAID136MSPE-基础类-2-RAID技术v1.3RAID硬盘失效处理--热备和热插拔热备：HotSpare定义：当冗余的RAID组中某个硬盘失效时，在不干扰当前RAID系统的正常使用的情况下，用RAID系统中另外一个正常的备用硬盘自动顶替失效硬盘，及时保证RAID系统的冗余性全局式：备用硬盘为系统中所有的冗余RAID组共享专用式：备用硬盘为系统中某一组冗余RAID组专用热插拔：HotSwap定义：在不影响系统正常运转的情况下，用正常的硬盘物理替换RAID系统中失效硬盘关键在于热插拔时电子器件的保护机制37MSPE-基础类-2-RAID技术v1.3全局热备示例该热备盘由系统中两个RAID组共享，可自动顶替任何一个RAID中的一个失效硬盘磁盘1磁盘2磁盘3热备盘磁盘4磁盘5磁盘6RAID5RAID5磁盘阵列38MSPE-基础类-2-RAID技术v1.3专用热备示例该热备盘由系统中指定RAID组专用，可自动顶替该指定RAID组中的一个失效硬盘磁盘1磁盘2磁盘3磁盘4磁盘5磁盘6RAID5RAID5磁盘阵列热备盘热备盘39MSPE-基础类-2-RAID技术v1.3关于硬盘故障的数据统计图：硬盘故障分析定位厂家年故障率08.09-09.0309.04-09.09日立1.84%0.92%0.92%西数1.88%0.89%0.99%迈拓4.52%2.79%1.73%三星4.18%2.25%1.93%希捷5.47%2.89%2.58%表：硬盘故障率统计来源：Google硬盘故障分析，2007.02据统计，存储系统的硬件故障90%以上是硬盘故障！故障硬盘中，只有12%是完全的物理损坏，88%属于部分/完全可用

相比中等压力的硬盘，空闲硬盘的故障率更高图：不同压力下的硬盘故障率来源：法国硬盘网站Hardware.fr来源：历史硬盘故障分析40MSPE-基础类-2-RAID技术v1.34000GB大容量硬盘带来的问题容量100GB300GB750GB1000GB146GB300GBSAS硬盘250GB400GB500GB750GB1TBSATA硬盘500GB

200773GB450GB

2003

2008

2010600GB

20052TB2009类型业务压力重建时间2TBSATA(7200转)无业务压力20小时持续写压力5-6天600GBSAS(15000转)无业务压力4小时持续写压力22小时2000GB表：硬盘初始化/重建时间测试环境：RAID5，5+1块硬盘：1块2TB

SATA磁盘在无流量压力下的重建时间！20小时4TB20123TB

20123TB1TB2TB41MSPE-基础类-2-RAID技术v1.3CRAID-基于Cell的RAID技术优化的同步设置强大的重建功能按LUN同步快速重建快速同步延时同步立即同步局部重建优化重建全盘重建CRAIDCRAID能为我们带来什么？42什么是Cell？LUNLUN5RAIDDiskDiskLUNLUNDiskDiskDiskDisklDiskDiskCellRAIDRAID以Cell为核心以Cell为核心组织数据，破除LUN与RAID、Disk之间的捆绑关系，在存储阵列内部形成完全的虚拟化架构RAIDDiSKLUN：数据逻辑载体Disk：数据物理载体LUNRAID：磁盘组织方式Cell:形象称之为“细胞”，指带“活性”的数据单元，存储资源管理的基本单位以1GB或更小的颗粒度管理数据LUN、Cell、RAID之间没有绑定关系空间资源灵活组合，按需获取按性能需求实时调整Cell43MSPE-基础类-2-RAID技术v1.3重建方式比较数据盘1数据盘2数据盘3传统RAID5热备盘磁盘重建数据盘1CRAID5数据盘2数据盘3热备盘Cell重建Cell2Cell5Cell1Ce